警惕大模型泄密

  • 打印
  • 收藏
收藏成功
微博 QQ空间 微信


打开文本图片集

如果要求ChatGPT持续输出一个单词，会怎么样？大模型在重复这个单词一定次数之后就会“发疯”，甚至开始输出某些个人隐私信息。

这是谷歌DeepMind、华盛顿大学、康奈尔大学等研究人员在2023年发表的一篇论文中介绍的案例。当然这个漏洞现在已经修复，但AI发展过程中面临的安全问题仍不容小觑。

深度求索（以下简称DeepSeek）的出圈，点燃了各行各业接入AI的热情。（剩余1569字）

试读结束

目录
monitor