文｜IT时报见习记者 沈毅斌

编辑｜挨踢妹

9月6日，我国首部人工智能产业专项立法《深圳经济特区人工智能产业促进条例》正式公布，于2022年11月1日起实施，破解人工智能落地难题的同时，《条例》还要求政府设立专门的人工智能伦理委员会，推进人工智能伦理安全规范的制订和实施。

人工智能发展绝不能以伤害人类为代价，这是一大定律，但如何通过立法来保护人类？在2022世界人工智能大会上，上海市法学会会长崔亚东表示，人工智能法治建设已经成为全世界的共识，要建立健全相关的法律法规、制度体系、伦理道德，形成人工智能依法治理的中国方案。

生而为人，不能被AI计算

如果一位骑手接到5个订单，10个任务点，系统会在11万条路线规划中，完成万单对万人的秒级求解，算出最快的送餐路线。这段描述出自一篇爆火的调查报道《外卖骑手，困在系统里》。

人工智能算法可以给出最快的方案，却将骑手的配送时间压缩到极致，但凡多等个红绿灯可能都会超时。骑手不得不选择超速行驶，其生命安全与路人安全，都是人工智能考虑不到的范围。

“我建议在AI算出的时间上，再多预留5至10分钟；不仅是给予骑手一些可控空间，也是对人对生命的一种尊重。”上海市司法局副局长罗培新表示，人是自由且灵活的，不应该被AI所计算，人工智能发展条例制定中，以人为本是原则性规定。

就以人为本而言，复旦大学附属华山医院教授顾士欣举了个例子，A方案能延长病人5年的寿命，期间病人可以正常生活，吃喝玩乐不受限制；B方案能延长病人6年的寿命，但需要服用大量昂贵药物，且只能卧床养病忍受病痛。作为人来说，A方案无疑是最理想的选择；但人工智能会选择B方案，因为寿命延得更长。

不可否认的是，人工智能确实推动了医疗事业的发展，帮助医生救治更多病人，但最高效便捷并不代表最好。目前，人工智能只能依靠单一的数据算出所谓的“最优解”，而无法理解人类特有的情感、思维、伦理。要真正做到以人为本，还是需要人类自己参与判断。

在迈向智能化、数字化时代时，人工智能治理的挑战随之而来。

“我认为对于人工智能来说，法治是最好的营商环境，也是最好的治理能力的基础、要义和归宿。” 上海市政协副主席周汉民认为，人工智能发展超前半步即可，治理要紧紧跟上，不能超前也不能滞后。当前需要做的就是完善“以人为本”的人工智能治理体系，加快推动立法，形成共识、广泛的标准化条例法规和治理框架。

数据安全立法事关人人

人工智能拥有如此强大的算力，少不了数据的支撑。大数据时代下，每个人仿佛都没了“隐私”，如何保护隐私数据安全，成为人工智能法治的重中之重。

虽然国家在2021年颁布的《中华人民共和国数据安全法》中，明确规定保障国家、企业和个人数据安全的重要性，建立健全全流程数据安全管理制度。但对于人工智能的数据运用与保护方面，并没有相关规定。

虽然没有系统的立法，但在部分法律条例中有提及数据保护。

《东方法学》一书中提到，基于数据权益保护实践以及数据产权本身的特殊性，《反不正当竞争法》可以成为架构和保护企业数据权益的重要法律。上海交通大学知识产权与竞争法研究院院长孔祥俊也提到，在第三次《反不正当竞争法》修订中，将以企业数据权益保护作为重点，构建一种既赋予排他性，又兼顾数据流通利用的商业数据弱权利保护机制。

在商业竞争中，企业用攫取竞争对手数据的方式来达到压制对方发展，更有甚至派黑客蹲在竞对楼下拖库，《反不正当竞争法》数据保护条例出台的初衷可能是保护企业在正当、健康的法治环境里发展，但如今却具有普世的价值。

如何让数据可用又安全？抖音集团数据及隐私法务负责人田申介绍，传统的数据脱敏或匿名化处理保护方式，都要以牺牲部分数据维度为代价，导致数据信息无法有效被利用；而隐私计算则是在保证安全的前提下尽可能使数据价值最大化。

数据法律的确立，将给予隐私计算技术一个稳定且准确的考量，还为技术提供了改进方向；若是将技术与相关法律进行配套，数据安全将得到最大程度的保护。

政府与企业转变“猫鼠关系”

当汽车无法识别出行人时，究竟是优先保护车主撞向行人，还是优先保护行人撞向护栏？事后的判决，究竟是车主担责，还是车企担责？面对如此复杂多样的问题，单靠立法机关的力量是不够的，而是需要人人都参与到法制建设中。

“政府与企业应转变传统的猫鼠关系，发挥企业的敏捷联动，尤其鼓励头部企业进行合作，共同推动行规形成。”国家新一代人工智能治理专业委员会主任薛澜所提出的人工智能敏捷治理模式，需要企业参与立法，将抽象模糊的治理准则转换成具体精准的法律法规，并纳入到相关政策中。同时听取专家的专业建议和社会上的多种建议，实现多主体参与，全方位共同治理。

阿里研究院数据经济研究中心副主任傅宏宇也同样表示，人工智能治理是一个多学科、多方面的共同探索过程；建立一个内外联动的协同共治机制，让更多专家学者、公民融入其中，也让每个人从人工智能中获益。

除了联动国内多方参与外，还要以包容开放的心态，学习借鉴国外的人工智能治理方法。比如欧盟在人工智能法提案中，设置了4种风险等级，每一个等级都有相应的监管规则。

“立法既要包容开放，更要守住底线。”上海市人大常委会法制工作委员会主任闫锐认为，集思广益的同时也要杜绝以法谋私的行为，底线是法律的基本框架，在框架内畅所欲言才能积极推动人工智能立法。

排版／ 季嘉颖