德国人工智能研究中心(北京市公安局人工智能安全研究中心)

今年全国人大上海团分组审议会上，代表们感慨于人工智能的迅猛发展，连酒店闹钟也换上了人工智能音箱小爱同学时，一位代表却拿出了一份议案：尽快制定人工智能应用管理法。

提交议案的代表是邵志清。他在议案中指出，随着新一代信息技术的快速发展，人工智能对人类生产生活方式带来了全方位的深刻变革。我国目前正在抢抓人工智能发展的重大战略机遇，特别在电子商务、自动驾驶、生活服务、医疗健康、工业机器人等领域的应用已经走在世界前列。

全国人大代表 邵志清。新民晚报首席记者 刘歆 摄

但邵志清发现，造福人类的同时，人工智能所带来的社会问题也逐渐显现，开始从技术领域、民事领域向刑事领域转变，比如利用人工智能技术侵犯公民个人信息、获取对手商业秘密，甚至危害人的生命安全：

2017年 9 月，浙江警方破获全国首例运用人工智能实施犯罪的案件。涉案平台利用人工智能技术快速识别验证码，截获、贩卖了 10 亿多组公民个人信息，供合作团伙进行网络诈骗。

2015年7月英国《金融时报》报道了德国大众公司的机器人杀人事件，一名工作人员被正在安装的机器人突然抓起重重摔向金属板而不治身亡。

视觉中国

邵志清认为，这两起案事件中，一起是利用机器通过自主学习提升识别能力帮助人实施犯罪，另一起则是因为机器完全自主的行为导致人员伤亡。如何认定责任主体和行为意愿？现实提出了全新的挑战。

全国人大代表 邵志清。新民晚报首席记者 刘歆 摄

传统刑法领域只有自然人才是刑法规制的主体，在人工智能应用场景下，很多机器成为了主体。另外，机器的主观意愿的认定也带来了困难。对于这类问题，现有的法律难以规范。邵志清认为，虽然由于涉及面太宽，社会对人工智能的认识也还处于初步阶段，目前对人工智能进行综合立法的条件还不具备。但为了防范重大风险，可以先针对人工智能的具体应用进行立法。

邵志清调研发现，2016年以来，一些国家和机构已经对人工智能法律制订进行了一些探索：

欧盟议会法律事务委员会发布研究成果《欧盟机器人民事法律规则》，国际电气和电子工程师学会对利用人工智能和自主系统造福人类提出了一般原则、价值观、伦理、法律等。

在自动驾驶领域，联合国也对《维也纳道路交通公约》进行了修正，德国对《德国道路交通条例》所规定的驾驶员在车辆行驶过程中全程保持警惕驾驶员的手不能离开方向盘等条文启动立法修正。

我国近年来也开始对自动驾驶车辆测试方面进行管理规范，2017年，工业和信息化部就《智能网联汽车公共道路适应性验证管理规范（试行）》初稿组织业界和专家讨论。2017年，北京市交通委、公安交管局和经济信息化委联合发布了《北京市关于加快推进自动驾驶车辆道路测试有关工作的指导意见（试行）》和《北京市自动驾驶车辆道路测试管理实施细则（试行）》。上海市经信委、市公安局和市交通委联合制订的《上海市智能网联汽车道路测试管理办法(试行)》也已正式发布。

邵志清认为，这些探索和实践为制定人工智能应用管理法提供了有益参考和依据。在他看来，人工智能应用的管理可以重点围绕伦理道德、资源获取、主体认定、行为认定、责任划分几个方面进行立法：

01

伦理道德

互联网小常识：子网划分方法（根据IP地址划分子网）：依然要根据子网个数和主机个数确定子网号和主机号位数，然后计算子网掩码，然后列出子网地址段。

明确禁止应用人工智能技术实施违反人类伦理道德的行为，特别是在基因工程、生命科学、情感意识等方面用法律为智能社会划出伦理道德的边界，让人工智能服务造福而不是困扰危害人类社会。

互联网小常识：入侵防护系统的分类：基于主机的入侵防护系统、基于网络的入侵防护系统（一般串联在防火墙与路由器之间）和应用入侵防护系统。

02

资源获取

明确禁止采集个人隐私、商业秘密、国家机密的资料、信息、数据，避免被人和机器恶意利用，从源头上遏制人工智能的不法应用。

03

主体认定

明确具有自主学习、思考、行动能力的机器人成为适格主体的应用场景和应用前提等，明确机器人与自然人主体进行区分认定和共同认定的条件和依据等。

04

行为认定

明确认定机器人意图的原则，特别是要解决机器人基于人工智能进行独立判断和决定所实施侵害的主观方面认定问题。

05

责任划分

明确责任划分和处罚的原则。一旦有侵害发生，让智能机器人的使用者、制造者、机器人本身承担严格区分的相关责任。

新民眼工作室

作者 | 潘高峰

编辑 | 顾莹颖