首页
□张 平
今年3月，又一则关于AI安全与治理的行业共识达成，包括图灵奖得主约书亚·本吉奥、杰弗里·辛顿、姚期智等在内的数十位的中外专家在北京联合签署了《北京AI安全国际共识》（以下简称“《北京共识》”）。自2022年末，以ChatGPT为代表的生成式AI技术快速崛起，掀起产业界的新一轮科技革命的同时，也引发了全球范围对于其安全风险的深切担忧。2023年3月，美国生命未来研究所（Future of Life）发布了一封《暂停大型人工智能研究》的公开信，呼吁所有AI实验室立即暂停比ChatGPT 4.0更强大的AI系统的训练，暂停时间至少为6个月，以呼吁在此期间各国能共同制定全球范围内相关的技术共享安全协议。此后的一年时间中，世界各国政府、学界、企业界均从各自角度出发提出应对AI安全风险的各类解决方案。无论是联合国最新通过的首个关于AI的全球决议，抑或28个国家及欧盟共同签署的《布莱切利宣言》、我国提出的《全球人工智能治理倡议》，以及欧盟最新立法《欧盟人工智能法案》（草案），均强调AI的治理应当重视安全风险，无底线运用AI将会给人类社会带来毁灭性危机。
AI安全风险治理是一项综合性工作，应当分层级、分领域、分阶段、分重点开展。具体而言，“人类安全——国家安全——个体安全”这三个维度的潜在安全风险都不容忽视，应予重点关注，三层风险的解决方案也应“对症下药”。
“人类安全”即从全人类角度出发，强调AI技术应以尊重人类权益为前提，其目标应是为人类服务而非取代甚至危害人类。其核心要点即AI技术应当“以人为本”和“科技向善”，打造“可信”人工智能（Trustworthy AI）。这其中主要涉及AI相关伦理风险，如深度伪造（Deepfake）、真实性与准确性、歧视与偏见、AI欺诈等。而这些问题的解决之道主要涉及两方面措施，不仅在AI研发开始就需要“人类干预”和“人类监督”，也即《北京共识》中所强调的“任何AI系统都不应在人类没有明确批准和协助的情况下复制或改进自身”；另一方面，还需保证相关“人类参与”是“善意和正确的”，即需要保障AI研发过程中的透明度和监督机制。AI犹如利刃，若是被邪恶或带有毁灭人类意图的人利用干预，则会成为“杀伤性武器”。故而，AI的发展首先要进行科技伦理审查和承诺，这不仅需要来自技术领域的专家参与，还需要社会科学、人文科学等多领域专家的共同治理和监督。实践中，监管机构可以通过设立标准化评测平台、评估框架或采用沙盒测试等进行AI技术的监管。
“国家安全”即从各国角度出发，保障各国在这场“AI竞赛”中权利平等、机会平等、规则平等，弥合智能鸿沟和治理能力差距。其重点是保障各国在AI的发展和治理过程中拥有平等的权利，不会被“智能鸿沟”淘汰。首先应认识到，不同国家有其不同的立场和利益考量。例如，美国作为已拥有先进AI产品的“领先者”，其目的是确保不丧失领先地位。但对于大多数发展中国家而言，“国家安全”的重点是“防守”，即不被数字鸿沟所淘汰。因而，在当前发展不平衡的格局之下，有必要倡导“人类命运共同体”的理念，应当从地球村的利益出发，本着互助互利精神给欠发达国家留有一定的发展空间。
“个体安全”则是从宏观视角的群体概念转向关注AI对个体权益的影响。其中最突出的问题便是AI应用对个人隐私安全的影响，AI训练数据对个人知识产权的影响、AI欺诈对个人财产安全的影响、AI替代人类部分工作引发的群体性失业风险等。例如，作者们已经在全球范围内开始了对Open AI、Stability AI、DeviantArt和M idJourney等生成式AI服务提供者的诉讼，指控其训练数据侵害了他们的版权。目前各方主要关注的还是前两层风险，而对于“个体安全”则需要各国监管机构、AI服务提供者、AI服务使用者多方合力共治。例如，微软公司已在其Azure AI Studio中推出新工具，并且在AIStudio中推出了AI辅助安全评估、风险和安全监控功能，旨在加强AI模型的安全性。
数据显示，在2023年，基于AI的深度伪造欺诈暴增了3000%，基于AI的钓鱼邮件数量增长了1000%，已有多个有国家背景的黑客组织利用AI实施了十余起网络攻击事件。生成式AI的安全威胁正在急剧增长。而已经出现的大模型幻觉问题，随着信息智能大规模应用延伸至物理智能、生物智能时，风险也会规模化叠加。故而，无论是《暂停大型人工智能研究》还是《北京共识》，这些来自科学家的呼吁虽然不具有法律强制性，但却为世界敲响了警钟。在这场如火如荼的“AI竞赛”中，各方需要保持冷静与克制，加强对AI安全风险的重视，警惕在未做好充分的安全评估和保障之前释放“猛兽出笼”。
【作者系北京大学法学院教授、博导，北京大学人工智能研究院双聘教授，北京大学武汉人工智能研究院副院长，中国科学技术法学会常务副会长兼秘书长，中国法学会知识产权法学研究会副会长】
放大
上一版
