更公平的AI，是理想还是现实？ 腾云下午茶

社会治理必须分类，但凡分类就不客观...

当考虑AI的法律问题时，首先做以下三个基本区分：第一，近忧和远虑；第二，人工智能的技术属性和社会属性；第三，国际视野下，阐释中国语境的同与异。

经过对全球AI领域知识产权等前沿态势的跟踪分析，可以发现，全球范围内中国技术积累具有比较明显的弱势，以无人驾驶为例，除了论文数量和专利数量我国排名全球第二之外，在高质量专利和高影响力论文上，我国均低于世界有竞争力国家的平均水平。AI医疗领域美国的知识产权积累的优势更为突出，具有遥遥领先的地位。同时中国主体海外知识产权布局弱势也比较突出。

基于回归现实，以期致用的考虑，标准注重事前防范和引导，和法律的强制力相比，对创新的负面效应相对弱。难点有二：一是标准化体制改革能否落地，我国标准化能否更尊重市场逻辑；二是社会理性共识的基础问题，对AI而言，无论是标准规治还是法律规治，甚至伦理道德，前提都是社会的理性共识。我做过的调研发现科研人员和研究生对技术标准的了解程度都不高，而且受调查的理工研究生在上研究生一年级的知识产权通识课之前对知识产权的了解主要来自媒体。治理社会必须把人群进行区分，所以算法分类本身是不可避免的。

世界不是上帝创造的，只要对人进行分类，就一定会附带价值，因此但凡分类就不是客观的。

机器学习其实是在学习数据，而数据是经验事实。人类先依据经验事实，对数据进行人工标注，比如一件事是有伤风化的还是不伤风化的，等于是建好一个样本库，然后监督机器去学习。机器学习的东西早就嵌入了解释性的含义在这里。所以说，偏见和歧视第一个来源是数据。

第二个来源是算法。今天我们讲算法的透明，但不要忘了这个世界从来就不透明。算法造成偏见的原因，第一是设计者有偏见，他将自己对事物的看法编入了算法中。第二是无意识的差错。算法偏见关键要看使用者或者控制者的意向。在大数据和AI时代，算法是不是一定程度上可控，或者一定程度上可以被理解或者被解释？

悲观者认为，技术发展仿佛自有其生命，任何干预都徒劳无功。这当然是一种可能性。但我们在社会生活中应该更多用积极的态度来看这个问题，不管是人工智能还是其中的深度学习，一方面，至少可以从外部角度对它运用各种手段进行分析和理解；另一方面，目前也已经出现一些关于在构建系统时如何兼顾算法透明性、可解释性需求的研究和思考。

回顾软件本身安全性的发展历程，我个人感觉光凭奖励和市场自主的引导，以及知识产权激励是不够的，也可以思考如何恰当地通过法律积极进行辅助引导。法律引导方式大致有两个角度，一是类似通过知识产权来激励创新的引导方式，二是通过适当分配责任或者设置监管，对促进安全性、可解释性的创新进行积极推动。

算法已经日益影响到生活的关键环节，在不远的未来，我们平衡考量时应该用动态的眼光设置更好的、可以促进算法透明性、可解释性以及监管技术创新的激励，以弥补仅凭兴趣的科学研究和单一的市场手段的不足，实现更公平的时代。目前，自动驾驶汽车被认为是最有可能实现产业化的人工智能。为了扫清自动驾驶汽车产业化的法律障碍，2017年，德国首先修订《道路交通法》，规定了自动驾驶汽车设计必须满足的法定条件，明确了使用自动驾驶系统时驾驶员的权利和义务，同时，提高了自动驾驶导致的交通事故的赔偿金的最高限额，造成人员伤亡的，最高赔偿额从500万欧元提高到1000万欧元；对于财产毁损的情形，最高赔偿金额从100万欧元提高到200万欧元。

上述针对自动驾驶汽车的相关法律责任的分担，体现出立法的侧重点在于强调了人的理性和人的责任。目的在于通过制度化的设计合理分担自动系统设计者、制造者，以及驾驶员之间的法律责任。

另外，为了保障人工智能产生的问题，德国公布全球第一个关于自动驾驶的道德准则，在《自动驾驶道德准则》中明确了设计自动驾驶的价值追求，并为自动驾驶汽车的设计确立了以下原则：道路安全优于出行便利；个人保护优于其他功利主义的价值考量；对人身权益的保护必须优先于对动物或财产权利的保护等等。

上述准则在考量了自动驾驶车辆可能存在的技术决策风险的基础上，明确了各项可能存在冲突的利益和价值的优先性，为后续的立法规制、司法救济提供了依据，为自动驾驶汽车的产业化提供了制度保障。

IEEE正在制定中的涉及人工智能和伦理的标准已经有11项，其中IEEEP7003标准专门是关于算法偏见的。IEEE解决算法偏见的对象是那些消极的偏见和歧视，换句话说就是那些被法律普遍界定为违法的偏见，比如种族歧视、性别歧视等，还有那些虽然不是违法但违反社会公德的偏见和歧视。因为消除所有的偏见不是靠标准就能做到的。另外，这个标准致力于解决超出算法边界导致的偏见。

一个算法在一定范围内可能不存在偏见问题，但超过这个场景、边界的时候可能出现问题。比如，一个在中国市场受欢迎的图像娱乐APP在中国使用可能没有问题，但是到美国却可能被误解为涉嫌种族歧视，这可能是因为它用于训练人工智能系统的人脸数据大多都是亚洲脸，所以外国用户在使用时，外国人骨架会变成中国人骨架，黑人会被美白。它的算法超过了中国场景的边界。

    关注 腾云