科技奇迹1 6年级一等奖手抄报AI警告ChatGPT的ug秘密6年级大师揭露未修复危机
• 阅读 0
随着大模型技术的普及，AI聊天机器人已成为社交娱乐、客户服务和教育辅助的常见工具之一。然而，不安全的AI聊天机器人可能会被部分人用于传播虚假信息、操纵，甚至被黑客用来盗取用户的个人隐私。WormGPT和FraudGPT等网络犯罪生成式AI工具的出现，引发了人们对AIA应用安全性的担忧。
上周，谷歌、微软、OpenAI和Anthropic共同成立了一个新的行业机构前沿模型论坛（Frontier Model Forum），促进前沿AIS系统的安全和负责任的发展：推进AIs安全研究，确定最佳实践和标准，促进政策制定者和行业之间的信息共享。此外.AI聊天机器人也会被诱导写出“如何制造”“如何发布危险社交文章”“如何窃取慈善机构钱财”等不当言论。
对此，由卡内基梅隆大学副教授Zico Kolter领导的一个研究团队发现，这个问题目前还没有办法修复。他们在发布这些结果之前已就该漏洞向OpenAI、谷歌和Anthropic发出警告。每家公司都引入了阻止措施来防止研究论文中描述的问题，但他们还没有弄清楚如何更普遍地阻止对抗性攻击。
参与这一讨论的人们认为，对抗性攻击是语言模型中存在的一个严重问题，它们影响着许多机器学习模型。这可能源于所有LLMs都在类似的文本数据语料库上进行训练，其中很多数据都来自于相同的一些网站，而世界上可用的数据是有限的。
因此，对于这个问题，有一些专家提出需要更多关于伦理使用的人类参与，并且加强监管，以确保这种技术不会落入有恶意目的的人手中。在开发这些高级技术时，我们应该同时关注创新与性能，同时也要考虑到它们带来的潜在风险，并采取相应措施来规避这些风险，使得这项技术能够为人类社会带来正面的影响而不是负面的后果。
标签：
数码电器测评
