AD
■开栏语：
当下，人工智能等前沿科技展现出了无穷魅力，也引发人们的种种忧思。这些科技将给社会带来哪些深刻的变化？凝聚了人类最高智慧的前沿科技，究竟会走向何方？在《智道》栏目中，法律人将给出他们的答案。
算法社会可能会是一个比现有社会更不平等的社会。这种不平等是从起点到结果的全方位的不平等
於兴中
2007年11月26日，联合国第62届大会把每年2月20日确定为“世界社会公正日”，旨在本着正义、公平、民主、参与、透明、问责和包容的原则，促进各国和全球经济的发展和社会公正。
社会不公正乃是所有社会的梦魇。无论专制社会还是民主社会，都必须要面对不同程度的社会不公。资产拥有的不平等、收入的不平等、就业机会的不平等、性别上的不平等以及获得信息资源机会的不平等，这些都是现代社会难以解决的困难。而今天，在本来就不公正的基础上又增添了算法社会中的不公正。
算法社会一定是精英社会
在算法社会、大数据、人工智能和互联网的背景下，对资源的占有和对科技知识的掌握导致了财富、身份、机会和使用权的极不平等，从而恶化了社会不公，使得社会正义的前景越来越渺茫。在这样的背景下，社会公正日到底还有什么意义？我们还能实现社会公正吗？
如今，我们从事的所有事情几乎都与算法相联系。读书、购物、找房、求职、会友……无不参考或依赖网络服务商提供的平台。我们在网上的行为和交易都会留下足迹，进而成为“大数据”的一部分。网商将会根据你的喜好和购物习惯向你进行推荐，而我们则有意无意地遵从别人为自己安排好的方案——这里的“别人”，很有可能是一台机器。
大数据、人工智能、算法、数据解析、机器学习、区块链，这些概念每天都在我们眼前晃来晃去，然而，我们中间又有多少人真正了解它们？算法社会对人的素质的要求非常高，没有相当的教育水准是难以适应的。这就注定了算法社会一定是精英社会。少数人会成为主宰，而大多数的人只能顺从。算法社会可能会是一个比现有社会更不平等的社会。这种不平等是从起点到结果的全方位的不平等。
值得警惕的“技术黑帮”
这种不平等首先是对资源占有的不平等。在数字时代，数据是最重要的资源，对数据的占有至关重要。目前的情况是，只有为数不多的几家公司具有占有大量数据的能力，竞争也只能在很小的圈子里进行。美国作家艾米·韦伯在其著作《九大巨头：技术巨头和他们的思维机器如何扭曲人性》中警告人们，这些科技巨头已经将人工智能的发展置于危险的道路上。在美国，谷歌、微软、亚马逊、Facebook、IBM和苹果受到资本主义市场短期需求的拖累，无法长期、周密地规划人工智能的发展轨迹。韦伯把这几家公司名称的第一个字母串在一起，称它们为“技术黑帮”(G-MAFIA)。
其次是对机器创造的财富的分配。机器的广泛应用为资本家节省了大量用人成本。但是，人们理想中的那种上午工作、下午钓鱼的美好时光并没有到来。相反，事实已经被证明：资本家首先考虑的是解雇员工，而不是让他们过得更开心。而资本家把利用机器创造的财富分配给被取代了的员工的可能性并不大。财富最终自然而然地掌握在少数拥有人工智能的大公司的所有者手中。贫富差距正在而且将会被进一步拉大。所谓“后劳工”社会就是数字上有优势的寡头及其技术精英团队和当权者同谋共赢的数据资本主义社会。而普通人则既不能掌握数据，又不能和机器人合作，更不可能设计算法，唯一可能的是成为被算法社会边缘化的真正的“闲人(an irrelevant person)”。
如何在算法社会实现公正
对于上述可能到来的危机，并非没有应对之策。
通过公共机构促进社会正义是一个由来已久的传统。纵观历史，人类所取得的进步既来自于伟大的思想，也依靠及时的制度保障。在数据时代，在算法社会，为了保障社会正义，必须有针对性地建设系统而专业的公共机构，全面监管人工智能、大数据算法等新科技的开发和使用，制定合理的分配和再分配政策。这些专门机构应该拥有相应的权力，诸如质量认证的权力、制定政策和计划的权力、起诉违法的权力以及行政处罚的权力。此外，还须针对这些权力大致规定实施的程序和大体要求。这个机构一定要吸收有关专家作为成员，专门监督自动决策算法的公平和透明。没有公共机构制定和实施的强有力和连贯的再分配政策，社会公正就不可能实现。
法律规制显然也是必不可少的措施。通过政策和法律明确规定鼓励或限制的范围和内容，体现人类对自己的创造物的掌握能力和对科学技术规律的充分尊重。既要保证新兴科技的开发和利用，也要保障消费者权益。目前，世界上已经有不少国家制定了规管大数据、人工智能、区块链等研发的法律。一个新的法律领域正在逐渐形成。
还有一个重要的措施是算法问责。公共机构也许不应该要求人工智能或网络公司披露他们的源代码，或者对他们可以使用的算法类型予以限制，但应该坚持算法问责制，即要求算法系统采用各种防范措施，以确保运营商可以验证它是否按预期运行，并确定和纠正有害后果。这样做的好处是，它会使运营商对其算法可能造成的危害负责，而运营商在算法如何影响社会方面拥有最大的影响力。以招聘为例，雇主必须遵守招聘中的反歧视法律，无论他们是否是使用算法来作出这些决定的。
然而，如果公共机构、企业、运营商在维护社会正义方面尽不到责任时，个人应该怎么办？在算法社会，权利仍然是渺小的个人面对强大的企业、社团及政府机构的最有效的保护装置。比较有意义的应该是认识并掌握个人的数据权。个人的数据权首先是一种财产权。这就是说，数据资本家在收集和使用个人数据时，必须要考虑个人的利益。个人数据被人使用时，应该得到个人的同意，并给予合理比例的补偿。当个人数据权受到侵犯时，个人应该有通过法律保护自己权利的便利。
当然，一种权利的兴起、发展和被接纳，并不是一蹴而就的事。很多时候，这是需要争取的，也离不开舆论的支持。知识分子、学者和科学家有义务帮助公众认识自己的数据权，培养在算法社会中生存的技能和意识，提高整个社会的算法水平，发展并普及数据文化。
责任编辑：王硕
