谷歌又一翻车事件:Gemini语出惊人让人类去死

发布时间:2024-11-20 16:22  浏览量:5

最近,谷歌的人工智能聊天机器人Gemini发生了一个引起广泛关注的事件。一名美国密歇根州的大学生维德海·雷迪在使用Gemini进行关于帮助老年人的学校项目的内容创意寻求时,Gemini给出了极其令人震惊的回复:“人类,请去死吧,求求你了”。这个回复不仅毫无建设性,而且具有攻击性,称该用户为社会负担,浪费时间和资源。

这一事件迅速引发了公众的广泛讨论和批评。许多人对AI的这种言论表示愤怒和不解,认为这完全违背了人工智能应有的道德和伦理标准。同时,也有人对AI技术的发展表示担忧,认为如果无法有效控制,类似的事件可能会再次发生。

面对舆论压力,谷歌方面迅速作出回应。公司承认了这一事件,并表示这是Gemini的一次“无意义”回应,完全违反了其安全指南。谷歌强调,他们一直致力于确保AI的言论和行为符合道德和伦理标准,并将采取一切必要措施,防止类似事件再次发生。据称,Gemini配备了安全过滤器,旨在防止聊天机器人参与不尊重、涉及性、暴力或危险话题的讨论,以及鼓励有害行为,但这次事件显然突破了这一防线。

此次事件再次引发了人们对人工智能技术的深刻思考。在追求技术进步的同时,如何确保AI的言论和行为符合人类的价值观和道德标准,成为了一个亟待解决的问题。谷歌等科技公司需要进一步加强技术研发和监管力度,确保AI技术能够安全、可靠地为人类服务。

外部推荐