欧盟人工智能法案推动风险治理

4月23日，欧盟在德国汉诺威工博会上，人工参观者与一款智能机器人进行“石头剪子布”游戏。智能治理 新华社记者 任鹏飞摄

日前，法案风险欧盟理事会正式批准了《人工智能法案》。推动该法案已于今年3月份在欧洲议会高票通过，欧盟时隔2个多月后在欧盟理事会获批，人工标志着全球首个对人工智能（AI）进行规范的智能治理系统性法律正式进入落实阶段。

分级分类管理

欧盟《人工智能法案》将防控风险作为基础，法案风险“风险”概念贯穿法案始终。推动法案将各类AI技术和应用分为三大类，欧盟按照其对社会带来的人工风险严重程度由高至低分别为“不可接受”“高风险”和“通用”。

“不可接受”类包括利用AI技术采集和分析数据，智能治理并据此对欧盟公民进行标签化分类，法案风险还包括先于犯罪行为实际发生的推动预防性执法，以及在工作场所和学校进行情绪识别和干预。法案明确禁止此类AI应用，禁令将于今年11月份正式生效，也是法案最早实际生效的部分。

“高风险”类包括AI驾驶汽车以及AI操控医疗设备，因为此类应用有可能对公民的健康、安全等基础权利构成风险；还包括AI在金融服务和教育领域的应用，主要为了防止算法设计上出现偏见导致特定群体利益受损。法案明确要求，此类高风险应用需符合相关产品安全规定，这一要求将在2027年夏季正式实施。

“通用”类即当前高度流行的生成式AI系统，法案对其作出了严格的要求限制，包括要遵守欧盟版权法，要对模型的训练模式保持透明度，要有网络安全保护措施，以及要经过定期测试。有关限制将在2025年夏季起正式实施，但此后仍将有3年的“过渡期”让有关企业调整其产品以确保合规。

重罚促进合规

针对有可能出现的违法行为，法案规定了较大的处罚力度。根据违法行为的严重程度，法案设计了阶梯状的处罚条款，最低处罚额度是820万美元或违法企业全球营业额的1.5%，最高处罚额度是3790万美元或违法企业全球营业额的7%。值得注意的是，在每一级的处罚阶梯上，法案都规定处罚实际金额将在固定金额和营业额比例金额中取其高者。以微软、谷歌为例，二者在2023年的全球营业额均在2000亿美元以上，在各个处罚阶梯上的比例罚款都远高于定额罚款，按照法案“就高不就低”的规定，企业的违法成本异常高昂。另外，考虑到AI企业以大型跨国、跨行业企业为主，其全球营业额不仅来自欧盟以外市场，还来自AI以外领域。因在欧盟AI业务中违法受罚，导致在其他市场、其他行业的营业额受损，更加大了法案对有关企业的震慑力度。

面对欧盟严法重罚的威慑，首先感受到压力的是美国互联网公司。美咨询机构“责任AI研究所”创始人向媒体表示，近来收到的业务咨询量正在增加，因为成员企业正在为一个新的未来环境做准备。在这一环境下，确保业务的合法合规不仅具有强制性，而且也将成为其在全球市场上的竞争优势。所有公司都很重视这一法案，这一法案开创的先例将对全球人工智能治理具有重要意义。

引发连锁反应

当前“主权AI”概念正在快速兴起，主要国家均有意推动主权AI立法，创造对自身发展和安全有利的人工智能法律环境。欧盟通过全球首个《人工智能法案》，在全球范围内的示范效应突出，势必会刺激其他国家以各种方式加强应对。

此次欧盟通过的《人工智能法案》酝酿于2021年，针对的正是AI技术快速发展对社会安全和公民权利的冲击。法案提出以来，一直被贴有“世界首个”“全球最严”等标签，也引发了其他国家或加以效仿，或对冲反制的连锁反应。去年年末，美众议院两党议员因担忧欧盟AI立法损害美国科技企业利益，增加美企在欧洲的经营成本，联合致信拜登总统要求反制。

此次欧盟批准法案后，美“责任AI研究所”就表示美国人不希望看到欧洲在AI治理上走在前列，美国需要起草自己的政策。该研究所近期进行的民调显示，大多数美国人都希望看到美国在AI治理上走自己的路而非按照欧盟规则行事。该研究所还表示，欧盟《人工智能法案》总体来看是积极并且方向正确的，但是有很多改进的空间。美国版的AI法案将在管控大模型风险的同时，更加注重对创新的支持。

有公共政策专家分析认为，此次欧盟《人工智能法案》进入执行阶段，标志着新一轮立法热潮的兴起。欧盟《人工智能法案》将对其他国家的相关立法工作产生重要影响。总体来说，欧盟有意复制自身在数据保护工作中的成功经验，希望通过本法案为AI规范制定“黄金标准”，但其他国家或将采取更加灵活的政策。