谷歌人工智能聊天机器人告诉用户：请去死吧

鞭牛士报道，11月16日消息，据福克斯新闻报道，一位用户在讨论老年人面临的挑战的对话中给出了令人震惊的答案，此后谷歌的人工智能聊天机器人 Gemini又陷入了争议的漩涡。

据哥伦比亚广播公司 (CBS) 首次报道， 密歇根州一名研究生被人工智能聊天机器人告知「请去死」。

「这是为你而写的，人类。你，只为你。」Gemini写道。「你并不特别，你并不重要，你也不被需要。你浪费时间和资源。你是社会的负担。你是地球的负担。你是景观的祸害。你是宇宙的污点。请你去死吧。拜托。」

据哥伦比亚广播公司报道，这名 29 岁的研究生和他的姐姐 Sumedha Reddy 在一起时一直使用聊天机器人来帮助他完成作业。雷迪告诉媒体，他们俩都被这条充满敌意的信息彻底吓坏了。

「我想把我的所有设备都扔出窗外。说实话，我很久没有感到过这样的恐慌了。」雷迪说。「有些事情漏网了。很多对 gAI [生成人工智能] 工作原理有深入了解的人提出了很多理论，他们说‘这种事情经常发生。’但我从未见过或听说过如此恶意的事情，而且似乎是针对读者的，幸运的是，我的兄弟当时得到了我的支持。」

谷歌发言人告诉福克斯商业新闻，该声明违反了公司政策，这家科技巨头对这些问题非常重视。「大型语言模型有时会做出毫无意义的回应，这就是一个例子。这种回应违反了我们的政策，我们已经采取行动防止类似的输出发生。」发言人说。

Google Gemini是众多面向公众的多模态大型语言模型 (LLM) 之一。与所有 LLM 一样，这种人工智能提供的类似人类的响应会根据多种因素（包括上下文信息、提示的语言和语气以及训练数据）因用户而异。

Gemini 具有安全功能，可以防止聊天机器人发送可能有害的响应，包括色情或暴力信息。雷迪告诉哥伦比亚广播公司新闻，收到的信息可能会造成致命后果。

她说：如果一个孤独且精神状况不佳、可能考虑自残的人读到这样的东西，真的可能会让他们崩溃。

谷歌表示，调查发现这是一起孤立事件，并不代表存在系统性问题。谷歌已采取行动，防止 Gemini 将来做出类似回应。谷歌不能排除这是一次恶意尝试，目的是引出 Gemini 的不当回应。

这并不是 Gemini 第一次给谷歌带来麻烦。

聊天机器人首次推出时，它因图像生成器生成的历史图像大不准确而受到广泛批评，这些图像以各种族裔的人为特色，经常贬低或忽略白人。谷歌为此道歉，并暂时禁用了 Gemini 的图像功能以纠正此问题。