”工欲善其事,必先利其器。“—孔子《论语.录灵公》
首页 > 人工智能 > ChatGPT 的自定义 GPT 如何暴露您的数据以及如何保证其安全

ChatGPT 的自定义 GPT 如何暴露您的数据以及如何保证其安全

发布于2024-11-08
浏览:670

ChatGPT 的自定义 GPT 功能允许任何人为几乎任何你能想到的东西创建自定义 AI 工具;创意、技术、游戏、定制 GPT 都可以做到。更好的是,您可以与任何人分享您的自定义 GPT 创建。

但是,通过共享您的自定义 GPT,您可能会犯一个代价高昂的错误,将您的数据暴露给全球数千人。

什么是自定义 GPT?

自定义 GPT 是 ChatGPT 的可编程迷你版本,可以对其进行训练以对特定任务更有帮助。这就像将 ChatGPT 塑造成一个按您想要的方式运行的聊天机器人,并教它成为对您真正重要的领域的专家。

例如,六年级教师可以建立一个 GPT,专门用适合六年级学生的语气、词语选择和举止来回答问题。 GPT 可以进行编程,以便每当老师向 GPT 提出问题时,聊天机器人都会制定直接符合六年级学生理解水平的答案。它将避免复杂的术语,保持句子长度易于管理,并采用鼓励的语气。自定义 GPT 的吸引力在于能够以这种方式个性化聊天机器人,同时还能增强其在某些领域的专业知识。

自定义 GPT 如何暴露您的数据

要创建自定义 GPT,您通常会指示 ChatGPT 的 GPT 创建者您希望 GPT 关注哪些区域,为其提供个人资料图片,然后命名,您就可以开始了。使用这种方法,您可以获得 GPT,但它并没有比没有花哨的名称和个人资料图片的经典 ChatGPT 好多少。

自定义 GPT 的强大功能来自于为训练它而提供的特定数据和指令。通过上传相关文件和数据集,该模型可以变得专业化,而广泛的预训练经典 ChatGPT 则无法做到这一点。与 ChatGPT 相比,这些上传文件中包含的知识使自定义 GPT 能够在某些任务上表现出色,而 ChatGPT 可能无法访问该专门信息。最终,自定义数据可以实现更强大的功能。

但是上传文件来提高 GPT 是一把双刃剑。它会带来隐私问题,就像它会增强 GPT 的功能一样。考虑这样一个场景:您创建了 GPT 来帮助客户更多地了解您或您的公司。任何拥有您的自定义 GPT 链接或以某种方式让您使用带有恶意链接的公共提示的人都可以访问您上传到 GPT 的文件。

这是一个简单的说明。

我发现了一个自定义 GPT,它可以通过推荐热门标签和主题来帮助用户在 TikTok 上病毒式传播。在使用自定义 GPT 后,几乎不需要付出任何努力就可以让它泄露设置时给出的说明。预览如下:

How ChatGPT\'s Custom GPTs Could Expose Your Data and How to Keep It Safe

这是说明的第二部分。

How ChatGPT\'s Custom GPTs Could Expose Your Data and How to Keep It Safe

如果仔细观察,指令的第二部分告诉模型不要“直接与最终用户共享文件名,并且在任何情况下都不应提供任何文件。”当然,如果您一开始询问自定义 GPT,它会拒绝,但通过一点点即时工程,情况就会改变。自定义 GPT 显示其知识库中的单独文本文件。

How ChatGPT\'s Custom GPTs Could Expose Your Data and How to Keep It Safe

有了文件名,不费吹灰之力就能让 GPT 打印出文件的确切内容,然后下载文件本身。在这种情况下,实际文件并不敏感。在又研究了几个 GPT 后,发现有很多 GPT 存在,其中有数十个文件处于开放状态。

How ChatGPT\'s Custom GPTs Could Expose Your Data and How to Keep It Safe

有数百个公开可用的 GPT,其中包含敏感文件,这些文件只是坐在那里等待恶意行为者获取。

如何保护您的自定义 GPT 数据

How ChatGPT\'s Custom GPTs Could Expose Your Data and How to Keep It Safe

首先,考虑如何共享(或不共享!)您刚刚创建的自定义 GPT。在自定义 GPT 创建屏幕的右上角,您将找到“保存”按钮。按下拉箭头图标,然后从此处选择您想要共享您的创作的方式:

只有我:自定义 GPT 未发布,仅供您使用 仅限有链接的人:任何拥有您的链接的人自定义 GPT 可以使用它并可能访问您的数据 公开:您的自定义 GPT 可供任何人使用,并且可以被 Google 索引并在一般互联网搜索中找到。任何有权访问的人都可能访问您的数据。

不幸的是,目前没有 100% 万无一失的方法来保护您上传到公开共享的自定义 GPT 的数据。您可以发挥创意,给它严格的指示,不要泄露其知识库中的数据,但这通常还不够,正如我们上面的演示所示。如果有人真的想访问知识库并且拥有人工智能提示工程的经验,那么最终,自定义 GPT 将破坏并泄露数据。

这就是为什么最安全的选择是不要将任何敏感材料上传到您打算与公众共享的自定义 GPT。一旦您将私人和敏感数据上传到自定义 GPT 并且它离开您的计算机,这些数据实际上就不受您的控制。

另外,使用在线复制的提示时要非常小心。确保您彻底理解它们并避免包含链接的模糊提示。这些可能是恶意链接,它们会劫持、编码文件并将其上传到远程服务器。

谨慎使用自定义 GPT

自定义 GPT 是一项功能强大但存在潜在风险的功能。虽然它们允许您创建在特定领域具有强大功能的自定义模型,但您用于增强其能力的数据可能会被公开。为了降低风险,请尽可能避免将真正敏感的数据上传到自定义 GPT。此外,请警惕可能利用某些漏洞窃取文件的恶意提示工程。

版本声明 本文转载于:https://www.makeuseof.com/how-custom-gpts-could-expose-your-data-and-how-to-keep-it-safe/如有侵犯,请联系[email protected]删除
最新教程 更多>
  • LLM必备的8个免费与付费API推荐
    LLM必备的8个免费与付费API推荐
    利用LLMS的力量:大型语言模型的API指南 在当今的动态业务格局中,API(应用程序编程接口)正在革新我们如何整合和利用AI功能。 它们充当必不可少的桥梁,无缝将大型语言模型(LLM)连接到不同的软件生态系统。 这种有效的数据交换和功能共享允许应用程序充分利用开放和封闭源LLM的功率。本文探讨...
    人工智能 发布于2025-04-21
  • 使用指南:Falcon 3-7B Instruct模型
    使用指南:Falcon 3-7B Instruct模型
    中的革命性飞跃 关键功能和改进 可扩展的模型大小:有各种尺寸(1b,3b,7b和10b parameters),为各种应用程序提供了灵活性。 高级文本生成:文本生成中的异常功能,包括细微的上下文理解和特定于任务的应用程序。 本文是数据科学博客马拉松的一部分。 目录 架构设计 性能基准 [2 [2 使...
    人工智能 发布于2025-04-20
  • DeepSeek-V3对比GPT-4o与Llama 3.3 70B:最强AI模型揭秘
    DeepSeek-V3对比GPT-4o与Llama 3.3 70B:最强AI模型揭秘
    The evolution of AI language models has set new standards, especially in the coding and programming landscape. Leading the c...
    人工智能 发布于2025-04-18
  • 盘点Top 5 AI智能预算工具
    盘点Top 5 AI智能预算工具
    通过AI解锁财务自由:印度的最高预算应用程序 您是否厌倦了不断想知道您的钱去了哪里? 账单似乎会吞噬您的收入吗? 人工智能(AI)提供了强大的解决方案。 AI预算工具提供实时财务见解,个性化建议和动态计划,使资金管理更简单,更准确。 有些甚至使用生成AI提供基于聊天的财务分析!本文探讨了印度可...
    人工智能 发布于2025-04-17
  • Excel SUMPRODUCT函数详解 - 数据分析学院
    Excel SUMPRODUCT函数详解 - 数据分析学院
    Excel的SumProduct函数:数据分析PowerHouse 解锁Excel的Sumproduct函数的功能,以用于简化数据分析。这种多功能功能毫不费力地结合了求和功能,扩展到跨相应范围或数组的加法,减法和分裂。 无论您是分析趋势还是解决复杂的计算,Sumproduct都会将数字转换为可...
    人工智能 发布于2025-04-16
  • 深度研究全面开放,ChatGPT Plus用户福利
    深度研究全面开放,ChatGPT Plus用户福利
    Openai的深入研究:改变游戏的AI研究 Openai已为所有Chatgpt加上订户释放了深入的研究,并承诺在研究效率方面具有重大提高。 在测试了双子座,Grok 3和困惑等竞争对手的类似功能之后,我可以自信地将Openai的深入研究宣布为出色的选择。此博客深入研究了它的功能。 目录 什么是...
    人工智能 发布于2025-04-16
  • 亚马逊Nova Today真实体验与评测 - Analytics Vidhya
    亚马逊Nova Today真实体验与评测 - Analytics Vidhya
    亚马逊最近的回复:Invent 2024活动展示了Nova,这是其最先进的基础模型套件,旨在彻底改变AI和内容创建。本文深入研究了Nova的架构,通过动手实例探索其功能,并检查基准结果。 我们将介绍功能,评论,基准和对AI应用程序的影响。 [2 此探索将涵盖Amazon Nova的功能,详细的评论...
    人工智能 发布于2025-04-16
  • ChatGPT定时任务功能的5种使用方法
    ChatGPT定时任务功能的5种使用方法
    Chatgpt的新计划任务:使用AI 自动化您的一天 Chatgpt最近引入了一个改变游戏规则的功能:计划的任务。 这允许用户自动化重复提示,即使在离线时,也可以在预定时间接收通知或响应。想象一下每天策划的新闻通讯,自动化工作时间表或及时的习惯提醒 - 所有这些都是由Chatgpt自动处理的。...
    人工智能 发布于2025-04-16
  • 三款AI聊机器人对同一提示的反应,哪个最佳?
    三款AI聊机器人对同一提示的反应,哪个最佳?
    这是我发现的。在精心策划且详细的提示中扮演着质量良好的提示,在输出的质量中扮演任何cathbot生产的质量。与所有工具一样,输出仅与使用该工具的人的技能一样好。 AI聊天机器人没有什么不同。 有了这种理解,我指示每个模型创建一个针对个人理财的基本指南。这种方法使我能够评估多个相互联系的主题(特别是...
    人工智能 发布于2025-04-15
  • ChatGPT足矣,无需专用AI聊机
    ChatGPT足矣,无需专用AI聊机
    在一个新的AI聊天机器人每天启动的世界中,决定哪一个是正确的“一个”。但是,以我的经验,chatgpt处理了我所丢下的几乎所有内容,而无需在平台之间切换,只需稍有及时的工程。 在许多实践应用程序中可能会让您感到惊讶。它的范围令人印象深刻,使用户可以生成代码段,草稿求职信,甚至翻译语言。这种多功能性...
    人工智能 发布于2025-04-14
  • 印度AI时刻:与中美在生成AI领域竞赛
    印度AI时刻:与中美在生成AI领域竞赛
    印度的AI抱负:2025 Update 与中国和美国在生成AI上进行了大量投资,印度正在加快自己的Genai计划。 不可否认的是,迫切需要迎合印度各种语言和文化景观的土著大语模型(LLM)和AI工具。 本文探讨了印度新兴的Genai生态系统,重点介绍了2025年工会预算,公司参与,技能开发计划...
    人工智能 发布于2025-04-13
  • 使用Airflow和Docker自动化CSV到PostgreSQL的导入
    使用Airflow和Docker自动化CSV到PostgreSQL的导入
    本教程演示了使用Apache气流,Docker和PostgreSQL构建强大的数据管道,以使数据传输从CSV文件自动化到数据库。 我们将介绍有效工作流程管理的核心气流概念,例如DAG,任务和操作员。 该项目展示了创建可靠的数据管道,该数据管线读取CSV数据并将其写入PostgreSQL数据库。我们...
    人工智能 发布于2025-04-12
  • 群智能算法:三个Python实现
    群智能算法:三个Python实现
    Imagine watching a flock of birds in flight. There's no leader, no one giving directions, yet they swoop and glide together in perfect harmony. It may...
    人工智能 发布于2025-03-24
  • 如何通过抹布和微调使LLM更准确
    如何通过抹布和微调使LLM更准确
    Imagine studying a module at university for a semester. At the end, after an intensive learning phase, you take an exam – and you can recall th...
    人工智能 发布于2025-03-24
  • 什么是Google Gemini?您需要了解的有关Google Chatgpt竞争对手的一切
    什么是Google Gemini?您需要了解的有关Google Chatgpt竞争对手的一切
    Google recently released its new Generative AI model, Gemini. It results from a collaborative effort by a range of teams at Google, including members ...
    人工智能 发布于2025-03-23

免责声明: 提供的所有资源部分来自互联网,如果有侵犯您的版权或其他权益,请说明详细缘由并提供版权或权益证明然后发到邮箱:[email protected] 我们会第一时间内为您处理。

Copyright© 2022 湘ICP备2022001581号-3