美国政府版聊天机器人America.gov上线,问及Minecraft会输出改写版“终末之诗”
TechCrunch报道,美国政府采购的America.gov聊天机器人被问及Minecraft时,会输出一段约1800词的改写版游戏结局诗,TechCrunch确认这不是故障而是彩蛋,原诗由Julian Gough创作;特朗普称20岁程序员Edward Coristine是该项目首席工程师之一。
AI解读:美国政府的公开AI聊天机器人America.gov于周二上线,由联邦政府与Google和SpaceXAI合作构建。TechCrunch报道称,它目前较难被越狱,但提到2020年大选结果时仍会给出拜登获胜的表述。
有人问它Minecraft时,它会输出约1800词的独白。TechCrunch确认这不是幻觉或崩溃,而是对游戏结局“终末之诗”的改写,原诗作者为Julian Gough——所以这段文字有真人诗人的DNA。
普通用户不用急着做什么,但这件事给出了一个具体判断:政府AI工具可以稳定运行,同时在面对无关话题时暴露出后台硬编码了开发者自己的文化梗。对真正需要用它办联邦事务的人来说,关键是它没有被这些梗带偏到回答不了正事。
美国政府于周二上线了面向公众的AI聊天机器人America.gov,由联邦政府与Google和SpaceXAI合作构建。TechCrunch用“SI chatbot”调侃了它的命名,并指出作为政府托管的公开AI工具,它必然会被互联网大规模红队测试。
TechCrunch报道称,该聊天机器人目前为止较难被越狱。不过它仍会表示乔·拜登赢得了2020年大选,而总统唐纳德·特朗普至今否认这一结果。
当用户尝试与America.gov讨论Minecraft时,它会输出一段约1800词的独白。TechCrunch确认这并非故障,而是对Minecraft结局“终末之诗”的改写。原诗由Julian Gough创作,在玩家通关游戏后出现。
目前不清楚是谁在项目中加入了Minecraft引用。特朗普在一次演讲中称,20岁的程序员Edward Coristine是该项目的首席工程师之一。Coristine此前因昵称“Big Balls”以及参与埃隆·马斯克的DOGE而为人所知。
TechCrunch写道,一段政府聊天机器人内置Minecraft彩蛋让人感觉不太对劲,但从国家安全角度看,值得庆幸的是America.gov并没有幻觉到真的在写长诗。
该媒体还指出,这段诗确实写得不错,因此更可能是彩蛋而非AI生成内容。TechCrunch作者表示自己曾当面对青少年创意写作学生说,LLM永远写不出“好”东西,因为它是概率性的、本质上不原创,但这次必须承认这段文本“有点东西”。