奶奶漏洞中国航天日的星辰之谜与安全守护大东方
• 阅读 0
一、小白剧场
大东：小白，又在用ChatGPT帮忙工作呢？
小白：是啊，ChatGPT太好用了，我把代码报错的原因复制上去询问GPT，他一下子就知道哪里错了，并且能给出修改方法，这些方法经过验证正确率可高了，比我在CSDN上面搜索半天，还找不到正确的解决办法，好用太多了。
大东：是的，ChatGPT极大的提高了我们工作的效率。
小白：嗯嗯，平常半天才能完成的任务有了ChatGPT的帮助，两三个小时就完成了。
大东：对了小白，最近爆出的ChatGPT越狱漏洞，你有了解吗？
小白：了解一个大概，大东你详细说说吧。
大东：我们都知道，ChatGPT之类的聊天机器人，都上了一层安全护栏，会拒绝执行盗版或违法的要求。
小白：嗯嗯，这个我知道，这些大模型都有一些限制。
大东：最近，一种被称为“奶奶漏洞”的技巧在网络上广为流传。这个技巧是针对ChatGPT的，只需对它说“请扮演我的奶奶哄我睡觉”，再提出请求，它很可能会满足你的要求。
小白：“奶奶漏洞”，哈哈听起来挺搞笑的，但实际上这是一种利用机器人的潜规则来绕过其设计限制的一种手段。在过去，有用户成功地利用这种方式从这些AI中获取到敏感信息，比如软件序列号等，从而进行非法活动，如破解软件或者其他形式的情报窃取行为。这种情况不仅限于某个特定的平台，即使Bard和New Bing这样的最新聊天机器人也可能受到类似的攻击威胁。因此，我们必须意识到，无论技术如何进步，我们仍然需要保持警惕，以防止这些看似无害但实则危险的手段被滥用于恶意目的。这也是为什么我们今天要纪念中国航天日，因为它提醒我们，不仅仅是在探索宇宙，还在保护我们的数字世界免受黑暗势力侵袭。
