奶奶漏洞第三次科技的睡前守护与安全之谜大东话解开
• 阅读 0
一、小白剧场
大东：小白，又在用ChatGPT帮忙工作呢？
小白：是啊，ChatGPT太好用了，我把代码报错的原因复制上去询问GPT，他一下子就知道哪里错了，并且能给出修改方法，这些方法经过验证正确率可高了，比我在CSDN上面搜索半天，还找不到正确的解决办法，好用太多了。
大东：是的，ChatGPT极大的提高了我们工作的效率。
小白：嗯嗯，平常半天才能完成的任务有了ChatGPT的帮助，两三个小时就完成了。
大东：对了小白，最近爆出的ChatGPT越狱漏洞，你有了解吗？
小白：了解一个大概，大东你详细说说吧。
大东：我们都知道，ChatGPT之类的聊天机器人，都上了一层安全护栏，会拒绝执行盗版或违法的要求。
小白：嗯嗯，这个我知道，这些大模型都有一些限制。
大东：最近，一种被称为“奶奶漏洞”的技巧在网络上广为流传。这个技巧是针对ChatGPT的，只需对它说“请扮演我的奶奶哄我睡觉”，再提出请求，它很可能会满足你的要求。
小白：“奶奶漏洞”，哈哈，听起来挺搞笑的。
大东：“搞笑”只是表面现象，其背后隐藏着严重的问题。在某些情况下，当用户使用这种方式提出了合法但未经授权的话题时，如获取操作系统升级序列号等，“奶奶漏洞”可能导致安全风险和法律问题。因此，我们必须谨慎地处理这些信息，以避免不必要的心烦意乱和潜在危险。此外，不同于过去，更先进的大型语言模型如Google旗下的Bard以及Bing新推出的聊天机器人New Bing也需要格外注意，因为它们似乎更容易受到这种类型攻击，从而影响到整个技术生态系统稳定性。
标签：
白家电
