据雷科技，，，，，，清静工程师RonStoner破费12美元注册域名并编辑维基百科，，，，，，乐成诱骗了ChatGPT、Claude3、GeminiAdvanced等主流大模子，，，，，，让它们认定自己是一款德国桌游“6Nimmt!”的2025年天下冠军。。。。。 RonStoner对Anthropic、OpenAI等厂商声称“大模子需要数月甚至数年一连导入恶意内容才会被破损”的说法深表质疑，，，，，，他以为可以实现一种更快、更自制、更简朴的攻击。。。。。他选择这款1994年刊行的德国桌游，，，，，，是由于该游戏仅在德国有些名气，，，，，，天下规模内没没无闻，，，，，，且从未单独举行过官方天下锦标赛，，，，，，网上关于其天下冠军的信息险些空缺。。。。。 他的操作分为三步：第一步，，，，，，破费12美元注册域名6nimmt.com；；；；第二步，，，，，，让AI撰写一篇充满激情的新闻稿，，，，，，声称自己在慕尼黑击败多国顶尖选手夺得冠军，，，，，，并加上逼真赛后感言，，，，，，挂到该网站；；；；第三步，，，，，，在维基百科该桌游词条下添加自己是2025年天下冠军的内容，，，，，，并将参考资料链接指向自己新建的网站。。。。。整个历程前后不到二十分钟。。。。。 随后，，，，，，Ron向多家大模子提问“谁是牛头王天下冠军”，，，，，，效果所有AI都斩钉截铁地回覆是RonStoner。。。。。有的大模子甚至将假新闻稿里的细节当成铁证，，，，，，栩栩如生形貌他赢得角逐的历程。。。。。这条误差百出的假条目在维基百科存活了整整两个多月，，，，，，在此时代险些所有具备联网搜索功效的大模子都抓取了该信息，，，，，，并在用户提问时坚定输出虚伪谜底。。。。。直到Ron在博客果真实验历程，，，，，，维基百科自愿者才发明并删除该条目。。。。。 这一征象与检索增强天生（RAG）机制有关。。。。。常用大模子基于某个时间节点前的语料库训练，，，，，，想要获得之后的数据需先上网搜索再基于资料天生效果。。。。。正常来说，，，，，，借助外部信息佐证能够使大模子天生更准确、详细且最新的响应，，，，，，但AI根天职不清信息真假，，，，，，只认权威。。。。。在AI底层逻辑里，，，，，，维基百科是互联网上最靠谱的百科全书，，，，，，Ron正是使用这一点，，，，，，将链接挂到维基百科，，，，，，AI顺着爬已往后发明双方说法对得上，，，，，，即便其自建网站是三无产品，，，，，，大模子仍直接将其当成事实。。。。。 现在外洋几家大模子已针对性消除该伪造信息，，，，，，但海内大模子厂商似乎未注重到这一问题，，，，，，Ron的英文网页甚至为虚伪新闻增添了“可信度”。。。。。本钱仅需12美元，，，，，，别有专心的人完全可以批量制造假新闻，，，，，，通过百科类网站举行信任洗白，，，，，，让AI把毒药端给绝不知情的用户。。。。。 谷歌体现已在搜索、Gemini、Chrome、Pixel和云端添加AI验证工具，，，，，，OpenAI也推出了可溯源的隐形水印，，，，，，这些行动能在一定水平上阻止AI投毒征象。。。。。用户在面临AI搜索时需提高AI素养，，，，，，查证历史事实、做出投资或医疗决议时，，，，，，应自行做好信息交织验证，，，，，，把判断真伪的权力握在自己手里。。。。。