中新经纬12月21日电 (薛宇飞)近日，清华大学社会科学学院社会学系、中国科学院学部-清华大学科学与社会协同发展研究中心主办了“伦理立场、算法设计与企业社会责任”研讨会，并在会上发布了《伦理立场、算法设计与企业社会责任》研究报告(下称报告)。清华大学社会学系教授李正风在分享报告时指出，算法治理正在向更加综合的治理网络发展，强调政府、专业机构、团体、企业及公众共同参与的协同治理。

构建融合百家之长的算法伦理体系

清华大学社会学系教授李正风。主办方供图

李正风指出，算法具有可塑性，这一方面意味着算法设计是开放的，具有创造和建构的空间，但另一方面也意味着算法可能在伦理上产生道德真空。他说：“算法可能再现社会当中已有的伦理问题，尤其是掌握了大量数据并且对数据进行深度挖掘后，隐含在社会当中的伦理问题会更清晰地展现出来。比如，现在人们讨论比较多的公平性问题，还有算法偏见、算法歧视、隐私保护，这些都是社会当中已存在的伦理问题，只不过是通过算法更为显性地展现出来。”

除此以外，他称，大数据时代下的算法技术，还可能带来新的伦理问题，如主体性的丧失。人工智能技术的发展，使得人类在处理一些社会事务或者自然与机器之间的关系时，会让渡一部分权利，影响思维和决策的自主性。这种权利让渡可能会是在无意识情况下发生的。

对于出现算法伦理问题的原因，他总结为三个主要原因。一是技术本身的特点或不完备、不成熟，会导致不透明、不可解释及难以问责等技术难题，进而引发伦理问题。

二是利益驱使，无论是数据还是算法产品，都伴随着对市场的重新界定与分割，因此它背后隐含着巨大的利益，很多中小企业主体并不重视伦理问题，这也是诱发伦理问题的重要成因。

三是伦理意识和责任缺失，部分算法设计者、审查者自身的价值无意识与价值偏好会直接导致算法伦理问题。这也引导我们思考算法设计中的伦理立场问题。

他进一步分析称，算法设计具有逻辑可塑性和价值选择性。在算法的设计过程中，可以看到两种状态的伦理意识，一是伦理无意识，这种情况会带来价值真空或道德真空；二是有特定的伦理立场，从伦理学上看，伦理立场大体可以分为功利论、义务论、契约论、德性论，这四种伦理立场在社会中是共存的，各自都有存在的根据，也有各自的拥护者与支持者。“现实世界对于什么是好的、什么是善的、什么是对的，是有分化、有层次的，这也是比较复杂的社会系统的反映。”

“这几种不同的伦理立场是并存的，最普遍的是功利论立场，即从后果的‘善’来判断行为的好坏。另一种常见的伦理立场是契约论，如生产者与消费者之间建立某种使用APP的契约。追求更广泛的‘善’和更恰当的契约，会导致企业不断改变自身形象。但影响社会公众和公共利益的事件也会不断发生，并成为重要的社会问题，需要监管机构对一些个体或企业的行为进行公共规制，这就涉及到义务论的伦理立场。”李正风还说，从算法治理角度看，新规则的生成是某种约束和引导，包括政府部门出台的规制手段。更为重要的是要让相关的行动者都能够具有较高的伦理意识和伦理影响，就是要提高算法设计者、企业的“德性”，这就上升到德性论的伦理立场。如今，企业越来越注重社会形象和社会责任，这是非常值得肯定的。

他称，在调研中发现，中国企业在算法伦理“知行合一”方面迈出了步伐。例如，字节跳动人工智能实验室已经在对机器学习公平性和“负责任的人工智能”的其他方面(包括但不限于可解释性、可控性、多样性、真实性、隐私性和鲁棒性)进行技术基础研究，以确保字节跳动基于机器学习的智能系统惠及所有用户。

建立协同性综合治理网络

李正风指出，算法既受到人类社会价值判断的影响，也具有价值塑造的作用。由于人的伦理价值立场具有多样性，包括伤风败俗、入乡随俗、公序良俗、移风易俗四个层次，且在入乡随俗层次上的人群分布最多，所以无意识、朴素的价值观念和伦理立场往往会占据主导，而算法可能默认其为应当普遍遵守的社会行为准则。

他指出，无意识、朴素的价值观念和伦理立场占据主导后，会出现伦理责任缺失，反映到技术和社会之间的关系时，会导致技术的“助纣为虐”。因此，不能完全地随波逐流，好的企业具有比较值得肯定的价值立场，会成为维护公序良俗的中流砥柱。同时，也希望算法治理能发挥更重要的作用，源清流净，开风气之先。

因此，算法设计需要突破传统思维结构和社会观念，用向善的价值立场推动社会发展，促进公序良俗和新社会伦理发展。“企业对于算法的依赖也好，对算法向善的强调也好，也是清醒地意识到算法不仅是一个简单的技术，促进经济增长，同时也可以辅助人类实现更高效地治理社会，引导社会向着更加美好的方向发展。”李正风称，倡导算法向善，是希望算法能负责任地赋能社会，在多元主体之间重建共同追求美好生活的信任机制。

具体到算法治理，则有不同模式，特别值得注意的是，算法治理正在向更加综合的治理网络发展。李正风介绍道，最开始是“技治主义”，强调技术维度的重要性，依靠专业机构、人员在治理中扮演重要角色，也比较强调自治。但受技术发展不成熟和利益因素的影响，单纯依靠技术维度的治理是存在一定困难的，所以，后来又发展到监管主义，强调监管机构的作用。

他谈道，如今，人们逐渐发现，无论是专业团体还是政府部门，单独扮演监管角色都非常困难，因此，现在更加强调“治理网络”，强调多元主体参与的治理网络，政府、专业机构、团体、企业及公众共同参与的协同治理。

李正风认为，建立算法向善的伦理规约，最后会落实到算法治理和企业责任上。算法产品的生产者主要是企业和政府，企业既在治理网络中扮演重要角色，也是自治自律的实践者。算法产品的特殊性，在于接受了消费者让渡的部分决策权，它深刻改变了企业与消费者之间的关系，使得企业伦理责任更加重要，需要建立新型的企业-公众的伦理治理共同体。“如果企业没有很好的伦理责任，那它提供的服务就不会被消费者所接受，这是算法产品本身的特殊性决定的。这个过程中要以人为本，更加尊重自主原则。”

针对企业的算法伦理治理策略，报告建议，要构建企业算法伦理治理体系，包括建立企业算法伦理委员会，建立审查责任制和应急反应机制，结合企业特点制定企业算法伦理规范，同时要提升德性，加强企业员工伦理素养培训，加强国家相关法律法规宣讲教育，对违反伦理规范的后果进行警示教育。(中新经纬APP)

中新经纬版权所有，未经书面授权，任何公司及个人不得转载、摘编或以其它方式使用。

关键词： 李正风：算法治理正在向更综合多元的理念和治理网络发展