这位创始人必须训练他的人工智能不要对人们进行 Rickroll 攻击
弗洛·克里维洛 (Flo Crivello) 在监控他的公司Lindy生产的人工智能助手的输出时，发现了一些奇怪的事情。一位新客户要求她的 Lindy 人工智能助手提供视频教程，以帮助她更好地了解如何使用该平台，而 Lindy 也做出了回应——这时克里维洛意识到出了问题。没有视频教程。
“我们看到这个，然后就想，‘好吧，它发送了什么样的视频？’然后我们就想，‘哦，天啊，这有问题，”
人工智能发送给客户的视频是Rick Astley 1987 年的流行舞曲热门歌曲“Never Gonna Give You Up”的音乐视频。用更通俗的话来说：客户被“Rickrolled”了。被人工智能。
Rickrolling 是一个诱饵式的 meme，已有 15 多年历史。在一次让该 meme 流行起来的事件中，Rockstar Games 在其网站上发布了备受炒作的《侠盗猎车手 IV》预告片，但流量太大导致网站崩溃。一些人设法下载并发布该视频到 YouTube 等其他网站，分享链接以便人们观看该预告片。但一位 4chan 用户决定恶作剧，分享 Rick Astley 的“Never Gonna Give You Up”的链接。十七年后，人们仍然在不合时宜地分享 Astley 的歌曲来恶作剧他们的朋友——现在这个音乐视频在 YouTube 上的观看次数已超过 15 亿次。
这种网络恶作剧如此普遍，以至于为 Lindy 提供支持的大型语言模型（如 ChatGPT）不可避免地发现了它。
“这些模型的工作方式是，它们试图预测最有可能出现的下一个文本序列，”克里维洛说。“所以它开始是，‘哦，我要给你发一个视频！’那么接下来最有可能出现的是什么？YouTube.com。然后接下来最有可能出现的是什么？”
在数百万条回复中，Lindy 只对客户进行了两次 Rickroll 操作。尽管如此，这个错误还是需要修复。
相关文章
