尽管许多数字原住民都称赞 ChatGPT，但有些人担心它弊大于利。关于骗子劫持 AI 的新闻报道一直在互联网上流传，增加了怀疑者的不安。他们甚至认为 ChatGPT 是一种危险的工具。
AI 聊天机器人并不完美，但你不必完全避免使用它们。以下是你应该了解的有关骗子如何滥用 ChatGPT 以及你可以采取哪些措施来阻止他们的所有信息。
ChatGPT 会泄露你的个人信息吗？
大多数关于 ChatGPT 的前端安全问题都源于猜测和未经证实的报告。毕竟，该平台于 2022 年 11 月才推出。新用户对不熟悉的工具的隐私和安全性产生误解是很自然的。
根据OpenAI 的使用条款，ChatGPT 处理以下数据的方式如下：
个人身份信息
谣言称 ChatGPT 出售个人身份信息(PII)。
该平台由 OpenAI 推出，OpenAI 是一家着名的人工智能研究实验室，由微软和埃隆马斯克等科技投资者资助。ChatGPT 应仅使用客户数据来提供隐私政策中规定的服务。
此外，ChatGPT 要求的信息最少。你可以仅使用你的姓名和电子邮件地址创建一个帐户。
对话
OpenAI 保证 ChatGPT 对话的安全，但它保留监控它们的权利。人工智能培训师不断寻找改进的领域。由于该平台包含庞大但有限的数据集，解决错误、错误和漏洞需要系统范围的更新。
但是，OpenAI 只能出于研究目的监控会议。将它们分发或出售给第三方违反了它自己的使用条款。
公共信息
据BBC报道，OpenAI 在 3000 亿个单词上训练了 ChaGPT。它从公共网页收集数据，如社交媒体平台、商业网站和评论部分。除非你离开网络并删除你的数字足迹，否则 ChatGPT 可能拥有你的信息。
ChatGPT 存在哪些安全风险？
虽然 ChatGPT 本身并不危险，但该平台仍然存在安全风险。骗子可以绕过限制执行各种网络攻击。
1. 令人信服的钓鱼邮件
骗子不是花几个小时写电子邮件，而是使用 ChatGPT。它快速准确。高级语言模型（例如 GPT-3.5 和 GPT-4）可以在几分钟内生成数百封连贯、令人信服的网络钓鱼电子邮件。他们甚至采用独特的语气和写作风格。
由于 ChatGPT 使发现黑客企图变得更加困难，因此在回复电子邮件之前要格外小心。作为一般规则，避免泄露信息。请注意，合法公司和组织很少通过随机电子邮件要求提供机密 PII。
学会发现黑客攻击企图。尽管电子邮件提供商会过滤垃圾邮件，但一些狡猾的邮件可能会被漏掉。你仍然应该知道网络钓鱼邮件是什么样子的。
2.数据盗窃
ChatGPT 使用开源 LLM，任何人都可以修改。精通大型语言模型 (LLM) 和机器学习的编码人员通常会将预训练的 AI 模型集成到他们的遗留系统中。在新数据集上训练 AI 会改变功能。例如，如果你向 ChatGPT 提供食谱和锻炼程序，它就会变成伪健身专家。
尽管协作且方便，但开源使技术容易受到滥用。熟练的犯罪分子已经在利用 ChatGPT。他们用大量被盗数据对其进行训练，将平台变成用于欺诈的个人数据库。
请记住：你无法控制骗子的运作方式。最好的方法是在发现身份盗窃迹象后联系联邦贸易委员会 (FTC) 。
3. 恶意软件制作
ChatGPT 用不同的编程语言编写可用的代码片段。大多数示例需要进行最少的修改才能正常运行，尤其是在你构建简洁的提示时。你可以利用此功能来开发应用程序和网站。
由于 ChatGPT 是在数十亿个数据集上训练的，它也知道非法行为，比如开发恶意软件和病毒。OpenAI 禁止聊天机器人编写恶意代码。但是骗子通过重组提示和询问精确问题来绕过这些限制。
下图显示 ChatGPT 拒绝编写恶意代码。
同时，下图显示，如果你正确地表达你的提示，ChatGPT 会给你有害的信息。
4. 盗窃知识产权
不道德的博主使用 ChatGPT 制作内容。由于该平台在高级 LLM 上运行，因此它可以快速改写数千个单词以避免抄袭标签。
ChatGPT 在 10 秒内改写了以下文本。
当然，旋转仍然属于抄袭。解释的 AI 文章有时会随机排名，但谷歌通常更喜欢来自知名来源的原创内容。廉价技巧和 SEO 黑客无法击败高质量、常青的文章。
此外，谷歌每年都会发布多个核心更新。它将很快专注于从 SERP 中删除懒惰的、非原创的 AI 生成的片段。
5. 产生不道德的反应
人工智能语言模型没有偏见。他们通过分析用户请求并从现有数据库中提取数据来提供答桉。
以 ChatGPT 为例。当你发送提示时，它会根据 OpenAI 用于训练的数据集做出响应。
虽然 ChatGPT 的内容政策会阻止不当请求，但用户会通过越狱提示绕过这些请求。他们向它提供精确、巧妙的指令。如果你要求 ChatGPT 描绘一个心理变态的虚构人物，ChatGPT 会产生以下响应。
好消息是OpenAI 并没有失去对 ChatGPT 的控制。它在收紧限制方面的持续努力阻止了 ChatGPT 产生不道德的响应，无论用户输入如何。越狱不会那么容易向前推进。
6. 交换条件
ChatGPT 等陌生的新技术的快速发展为交换条件攻击创造了机会。它们是社会工程策略，其中骗子用虚假报价引诱受害者。
大多数人还没有探索过 ChatGPT。黑客通过传播误导性促销、电子邮件和公告来利用这种溷乱。
最臭名昭着的桉例涉及虚假应用程序。新用户不知道他们只能通过 OpenAI 访问 ChatGPT。他们在不知不觉中下载了垃圾程序和扩展程序。
大多数人只想要应用程序下载，但其他人则窃取个人身份信息。骗子用恶意软件和网络钓鱼链接感染他们。例如，2023 年 3 月，伪造的 ChatGPT Chrome 扩展程序每天从 2,000 多名用户那里窃取 Facebook 凭据。
为了打击交换条件的尝试，请避免使用第三方应用程序。OpenAI 从未为 ChatGPT 发布授权的移动应用程序、计算机程序或浏览器扩展。任何这样声称的都是骗局。
安全负责地使用 ChatGPT
ChatGPT 本身并不是威胁。该系统存在漏洞，但不会损害你的数据。与其害怕人工智能技术，不如研究骗子如何将它们纳入社会工程策略。这样，你就可以主动保护自己。
但如果你对 ChatGPT 仍有疑问，请尝试 Bing。新的 Bing 具有一个运行在 GPT-4 上的人工智能聊天机器人，从互联网上提取数据，并遵循严格的安全措施。你可能会发现它更适合你的需求。