詹新惠：培育AI素养正当时

导 读：

随着人工智能时代的到来，AI素养将是我们和这个时代对话所必备的、基本的、不可或缺的重要素养。

每逢重阳节，都有一波关于老年人的话题。在今年有一类话题尤为突出，即老年人如何在人工智能（AI）时代到来后识别AI伪造、辨识AI诈骗。其实， AI音频伪造、视频伪造、环境伪造、人脸伪造的骗局不仅指向对AI一无所知的老年人，对AI知之甚少的年轻人有时也未能幸免。当产业界在推出一个个大模型、开发者在研发出一个个智能体时，AI对现实生活的侵入和危害也在同步发生着。

今年年初，网络安全公司奇安信发布的《2024人工智能安全报告》称，2023年基于AI的深度伪造欺诈暴增了3000%，来自AI的重要威胁多达12种，包括深度伪造、黑产大语言模型基础设施、利用AI的自动化攻击、AI武器化、LLM自身安全风险、恶意软件、钓鱼邮件、虚假内容和活动生成、硬件传感器安全等。报告预计，未来十年，AI技术的恶意使用还会快速增长，将在政治安全、网络安全、物理安全和军事安全等方面构成严重威胁。有“AI教父”之称的约书亚·本吉奥则警告称，我们正在创造比人类更强大的怪物（AI）。

众所周知，AI是一种通用技术，通用就意味着既可以用来做好事，也可以用来干坏事。当AI被滥用，“双刃剑”的负面效应危及人类社会文明、秩序和生命财产安全时，一方面，我们需要法律、法规和网络安全管理来保护；另一方面，恐怕就需要每一个网民都拥有AI认知、AI技能和AI素养了。

其实， 2022年，国家多个部委就联合出台了与大数据、算法、人工智能、深度合成等技术相关的法规办法，包括《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》，特别是今年9月，国家网信办发布的《人工智能生成合成内容标识办法（征求意见稿）》，几乎囊括了当前所有AI生成内容类型，征求意见稿明确要求网络信息服务提供者按照有关强制性国家标准进行标识，生成合成内容下载、复制、导出的文件中也需要含有满足要求的显式标识。

制定规则、完善法规是勒紧AI泛滥使用的缰绳，但另一个迫在眉睫的任务是要让网民认知AI、使用AI和驾驭AI，从知识、技能、态度、价值观、伦理等多个层面来培育每一个网民的AI素养。毕竟，AI会直接威胁到每一个网民的切身利益，而且相比互联网技术带来的问题，AI的问题和影响更为严峻，危害和损失会更大。

认知AI，涉及学习了解AI的基本概念、技术原理、数据要素、算法算力等知识，但这些对于普通网民来说，并不是最关键的。最为紧要的是要让网民知晓，我们将要进入一个大模型之下的AI时代， AI技术给未来的社会、经济和文化带来的影响是未知的和不确定的，甚至有可能是人类无法控制和驾驭的。在认知AI的过程中，树立AI风险意识、了解AI的各种威胁比学习AI知识更为优先。

使用AI，包含拥有使用AI的各种技能，比如数据分析能力、编程能力、人机协作能力、创新创造能力、计算思维等，归结为一点就是运用AI技术解决问题的能力。今年1月，获得第170届芥川文学奖的日本女作家九段理江坦言，生成式AI有助于释放创造力，自己在创作过程中使用了AI，书中大约有5%的内容一字不差地取自ChatGPT。英国高等教育政策研究所发布的调研报告称，1250名英国本科生中有53%的学生正在使用AI写论文。使用AI的学生中，25%的人用AI来制定论文主题。姑且不论用AI生成内容存在的争议，单就使用AI提升效能而言，“吃螃蟹者”确实能走在前面。

驾驭AI，即是我们对AI的基本态度，包括对AI的发展和应用包容谨慎和批判性共存，不盲目相信和依赖AI，对AI技术局限性和潜在风险的清醒判断，对AI的公平性、透明度、责任性的要求。随着AI在日常生活和教育环境中越来越普及，能够批判性地理解、评估和使用AI系统和工具，安全有效地参与日益数字化世界是驾驭AI的终极目标。

当下，从全球到国内，都在将培育AI素养列入日程。联合国教科文组织发表了《人工智能与教育北京共识》《K-12 AI 课程：政府认可的 AI 课程图谱》，美国“数字承诺”组织发布了《人工智能素养：理解、评估和使用新兴技术的框架》，我国北京师范大学发布了《青少年人工智能素养核心框架》，南京大学将AI素养列入学校通识核心课程。随着人工智能时代的到来，AI素养将是我们和这个时代对话所必备的、基本的、不可或缺的重要素养。