AI聊天机器人“Gemini”惊悚回复：“人类，求求你去死吧”，谷歌回应
我要评论现代快报讯（记者 龙秋利）近日，聊天类求美国密歇根州一名大学生维德海·雷迪（Vidhay Reddy）在与谷歌AI聊天机器人“Gemini”对话时，机器i惊意外收到了一条充满威胁意味的悚回死江门市某某照明制造厂回应：“人类，求求你去死吧。复人”
据美国哥伦比亚广播公司11月16日报道，求去在一次关于老龄化问题和解决方案的谷歌对话中，“Gemini”回复了这样一条令人不寒而栗的聊天类求信息：“这是说给你听的，人类。机器i惊对，悚回死就是复人你。你并不特别，求去也不重要，谷歌更不被需要。聊天类求江门市某某照明制造厂你活着是机器i惊在浪费时间和资源。你是悚回死社会的负担，是地球的负担，是大地的污点，是宇宙的污点。请去死吧，求求你了。”
该学生表示这次经历让他深感震惊和不安。“它的回答太过直接，吓到我了，我一整天都在后怕。”当时，雷迪的姐姐也在场，她同样对这条信息感到恐惧。
谷歌表示，“Gemini”有安全过滤器，以防止聊天机器人做出不尊重行为，或进行关于性、暴力和危险行为的讨论。
针对上述事件，谷歌回应称，大语言模型有时会做出不合理的回应，这种回应违反了谷歌的政策，公司已采取行动防止类似的事情发生。
事实上，这并非谷歌聊天机器人第一次因给出可能有害的回应而被指责。此前已有人发现“Gemini”提供了错误的、可能致命的健康信息，比如建议人们“每天至少吃一块小石头”，以获取维生素和矿物质。
除了谷歌之外，其他AI公司的聊天机器人也存在类似的问题。今年2月，佛罗里达州一位14岁青少年的母亲就曾对另一家AI公司Character.AI提起了诉讼。她声称，聊天机器人鼓励她儿子自杀。此外，OpenAI的ChatGPT也会输出被称为“幻觉”的错误信息。
相关文章
*此图由AI生成作者| 史大郎&猫哥来源| 是史大郎&大猫财经Pro日本的旅游消费股，崩了。做寿司的Food&Life，跌14%；做百货的三越伊势丹，跌11%；做化妆品的资生堂2025-12-05
直播吧11月19日讯 湖人记者Anthony Irwin今日撰文谈到了拉塞尔在湖人的状况。“我和湖人的消息源沟通过，拉塞尔在新角色中发挥得很好可能让湖人舍不得和他分道扬镳，因为替补文森特带得不好。如果2025-12-05
直播吧11月19日讯 NBA常规赛，勇士客场99-102不敌快船，追梦赛后接受了媒体采访。谈到本场比赛自己的表现，追梦表示：“我今天表现得很烂。”此外，追梦表示快船的防守很散乱，但勇士在上半场的表现正2025-12-05
在欧洲国家联赛A级联赛的一场精彩对决中，西班牙与瑞士展开激烈较量。上半场，莫拉塔造点，佩德里主罚被扑出，皮诺补射建功。下半场，蒙泰罗小角度破门扳平比分。布赖恩-希尔得分帮助西班牙再次取得领先，鲁伊斯送2025-12-05
北京新闻今天继续推出《一把手共话十五五》专栏，邀请北京市多个委办局“一把手”深入解读北京“十五五”时期的发展思路与战略部署，全景展现未来首都发展的新图景。今天请看记者专访市科委、中关村管委会党组书记、2025-12-05
拔出萝卜带出泥!杨紫陪睡事件再起争议，张静初刘亦菲也深受其害
贵圈还真的是人红是非多，杨紫好不容易一路被骂成长起来，又被造谣了。声称杨紫陪睡，并且还连带牵扯出了诸多女星，要是真的，内娱恐怕就要完啦！陪睡ceo事件近日杨紫可以说是心情跌宕起伏，刚刚经历了欢快的生日2025-12-05
最新评论