当AI胡说，我们该信谁

【社评】本报评论员彭臻玉

据《宁波晚报》报道，近日，一位退休老人反映，她通过AI（人工智能）助手“豆包”询问关于宁波市的公交免费政策时，得到了“自2025年1月1日起，65岁以上老年人可以在宁波免费乘坐公交车”的回答。然而，据记者核实，此信息不实，目前宁波市免费乘车卡的办理对象仍为年满70周岁的老年人。而在“豆包”“文心一言”“kimi”等AI平台，询问“宁波公交年满65岁优惠政策”这一问题，得到的答案各不相同，且可信度不高。

AI大模型的本质，是利用算力和算法从多样化的数据中提取规律、生成知识。但是，低质量的数据可以说是AI的毒药，而不是养料。政府部门明明没有发布过调整老年人免费乘车年龄的信息，AI为何会“一本正经”地说谎？原因就在于这些AI工具的信息来源缺乏足够的权威。

比如，在前述新闻中，“豆包”引用的信源为13篇资料，其中一个IP属地在山西的抖音用户发布的视频提到，“2025年1月1日起，65岁以上老年人凭身份证免费乘公交”，但该视频并未提及具体实施区域。如果AI据此生成“宁波65岁以上老人免费乘坐公交”的回答，显然属于张冠李戴。而“文心一言”的答案则是从某个“百家号”文章中提取总结而来，该篇文章不仅语句不通，错别字较多，内容也不属实。

毋庸讳言，AI大模型正在以惊人的速度重塑我们对世界的认知，但其因果推理、逻辑思维等高级能力尚待提升亦有目共睹，人工智能生成虚假信息的案例更是提醒我们应提高辨别能力，多通过权威部门获取信息。尽管关于人工智能生成内容的标识办法已在酝酿中，但同样亟须解决的还有人工智能领域的数据合规性问题，这包括对大模型的数据采集来源、处理方法以及合规性进行监督和审查。尤其在事关公共政策、科学认知等方面的AI交互中，如果大模型的数据来源缺乏权威性、强制性，生成内容的可信度必然大打折扣，甚至误导公众。