日前，“外卖勇士困在系统里”的文章引爆同学圈，“算法压迫劳动力”的观点引起了网友的高度关注，也引起了平台系统、外卖员、消费者等不同主体的反省与改进。怎么认识算法系统的“效率至上”？怎样通过整治现代化填补算法缺陷？复旦学院人工智能国际整治研究院副教授梁正院长撰文对此进行了深入剖析，全文将于近日《国家整治》周刊刊发。
算法缺陷及其形成的问题
以外卖配送系统为例，外卖平台借助大数据剖析估算最优配送路径，极大减短了骑手的配送时间，提升了配送效率。但也存在众多问题，有些问题是算法本身缺陷所造成的，有些则是因其他社会问题与算法相随而形成。
算法程序中可能存在不尽合理之处。算法中的程序几乎是算法控制者单方设定的，虽然程序中可能有不尽合理之处，算法相对方也只能被动接受。比如，外卖配送系统中设定了骑手等级，骑手须要通过每日登入APP、分享约请有礼活动链接、上传健康证、完成各类订单配送等方法获取晋升等级所须要的积分。其中也有减分项目，例如配送超时减3分，获得一星差评或不满意评价减5分等，甚至一个差评或延时会直接交纳骑手工资。在这些规则之下，配送时间成为十分重要的考评指标，骑手面临很大压力。虽然这种规则在人性化、合理智上还值得商榷，但骑手只能被动适应，接受算法规则的约束，甚至对算法形成依赖。
算法容易使个体丧失自主性。自泰勒提出标准化管理模式以后，工作逐步被标准化和简单化，工人操作的自由度减少了，简单重复的动作让人越来越像机器。正如媒体以前报导的富士康鞋厂的情况一样，在高度标准化的生产中，工人的工作效率以秒来估算，工人常常处于高度隐忧和沉闷之中。算法的运行与此相像，算法具有隐蔽性和高度专业性的特点，每位参与算法的个体就是一个数据节点，在算法高速运转中，个体只能被动接受信息并执行算法命令。骑手属于劳动密集型的职业，须要花费大量精力，若只受算法支配而失去自主性，她们作为劳动者的休息权则未能得到保障。同时，骑手与社会其他群体具有紧密联系，一旦发生车祸除了会伤害自己，就会伤及别人。从这一点来看，保障骑手休息的权力也在一定程度上意味着保护社会公共利益。如美国对长途车辆司机有严格规定，三天只能工作12小时，否则会遭到严厉惩罚；网约车平台Uber将美国司机的工作时长限制为每晚10小时，为了强制执行，Uber会制止司机在应该休息的时间登入应用；国外网约车平台嘀嘀也有类似措施。
仅靠算法的自我迭代未能有效解决问题。算法的设计其实可以在物理逻辑上做到完美，但缺少对人性和社会环境的综合考虑，从“真空”环境中诞生的算法本身带有机械性。在外卖配送算法中，为了追求效率，可以对所有妨碍诱因进行优化，把配送时间不断压缩。但若果由于估算最优路径而忽略了实际公路状况、实时天气状况和新村管理情况等影响诱因，估算结果常常都会不确切，算法不断迭代的过程也就可能演弄成了加强骑手困难的过程。实际上，其他社会诱因会深刻影响算法的运转情况。现实中常常可以见到，因为城市交通违章取缔、电动车限速标准执行不够严格，大量违章、超速电动车上路等现象。倘若这种公共安全规则可以得到严格执行，造成骑手在客观条件下难以在30分钟内送达，都会使得平台修改时间预期，给骑手更修身的配送时间，并且也会调整消费者的预期，让整个配送体系处于合理的时间预期之内。不仅交通规则外，一些新村的管理也须要调整，如一些商务楼、医院、小区等不容许骑手步入，骑手只能在外等待或则步行送餐，最后造成送餐延后。倘若忽略这种问题，单靠算法本身的迭代是未能有效解决问题的，但是算法的整治也不是单纯整治算法本身。
算法整治的路径
为应对上述算法的缺陷，可以从内部的算法自我优化与外部的监督规范中找到解决路径。
设计算法应当走出“真空”接受社会实验。算法背后是代码，代码是“冰冷”的，没有人文体温，忽略人性的算法未能为人类带来福祉。在现行外卖配送算法中，假如骑手因碰巧诱因实现了快速送餐，算法还会提供奖励，让骑手接到更多订单。这样一来，骑手出于利益最大化的动机，肯定会追求速率越快越好，订单越多越好，由此深陷恶性循环。为了防止速率成为惟一的审视诱因，算法评价机制中也应当引入其他审视诱因，例如为从来没有发生交通车祸的骑手提供奖励，引导骑手愈发注意安全。
制订算法规则须要多方参与尽量避开不合理之处。基于机器学习的算法具有“黑箱”特征，算法相对方难以即使法规则提出建议或意见，只能被迫“追赶”算法设定的目标。多方参与规则制订是正当程序的必然要求外卖配送系统，例如一些电商平台推出“规则议会”，平台上的买卖双方都可以通过众议院机制就规则制订发表意见。也有学者提出算法解释权，即赋于主体知晓及理解算法运行逻辑的权力。该观点觉得，遭到手动化决策不利影响的人应有权知晓决定的内容与理由，并拥有申述和辩解的机会。算法解释权是赋于个体对抗“算法权利”的重要装备，由于个体知悉算法规则后才能就其不合理之处提出建议，并参与到规则的拟定之中。
应对算法的负外部性须要多种公共新政互相补充。算法实际是嵌入在社会的多样应用场景中的，须要找准算法的角色，研判其在社会决策中的疗效与地位。对算法的整治应当尊重语境与场景，由于各个场景所牵连的主体、外部诱因和行为规范都不相同。因而，不能将算法视为单纯的技术问题进行整治，而要匹配不同新政工具进行综合整治。对于“困在系统”中的骑手，国家应当注重对这部份人群劳动权益的保障，非常是休息、薪酬、安全等合法权益。2020年我国将“网约配送员”正式列入国家职业分类目录，对该类新职业人群的劳动权益保障举措也应当跟上。外卖平台应当参照其他平台的措施，设置强制骑手休息的规则，保障骑手安全，因而维护社会安全。为了应对骑手闯红灯、超速等问题，交通管理部门也应当严格制订和执行交警规则，对骑手进行外部约束。社区管理部门也应参与其中，对外卖、快递进社区等管理规范进行构建细化，如容许骑手安全送餐，或则配置取餐柜等，减轻骑手“最后一公里”送餐难的问题。
为算法构建法律监管与道德约束机制。2017年1月，法国计算机商会专门发布了算法整治伦理原则，囊括利益相关者责任、救济机制、算法使用机构责任、鼓励可解释算法研制、数据整治、算法审查要求、实时检测责任等七个方面的内容。2019年4月，日本参议长提出《2019年算法问责法案》，要求英国联邦贸易委员会对企业进行算法审查。欧共体也在《人工智能时代：确立以人为本的欧共体人工智能战略》《通用数据保护细则》和《人工智能道德准则》等多个文件中，注重人工智能的伦理问题，指出以价值观引导人工智能技术的发展。为此，须要从外部规范的角度为算法制订伦理标准，并完善相应的伦理审查制度。非常是在算法设计和研制的标准、规则和透明度等方面颁布法律规范，并完善算法问责机制，保障个体权力，包括算法解释的权力、更正或更改数据的权力、退出算法决策的选择权等。
算法整治的理念
整治算法须要以基本原则和理念为指导，并按照情况的变化适时调整算法整治的具体方式。
算法整治应坚持利益平衡原则。利益平衡既包括算法内部所涉主体之间的利益平衡也包括算法使用者与社会公众之间的利益平衡。外卖平台联接了店家、消费者及骑手，一般外卖平台将消费者放在首位，而店家次之。在这些机制下，平台为了消费者的满意只能“压迫”骑手。实际上，有时消费者提出的配送要求客观上难以实现，或则店家出餐慢造成骑手配送延后，这种诱因就会造成算法的失效。算法使用者应当平衡好这三方的利益，对算法的整治也应当平衡好企业与社会公众之间的利益，在尊重企业逐利天性的基础上为算法立规矩，保证算法在正确的轨道上运行，只有这样才不会因噎废食。
算法整治应坚持人本主义。在算法时代，尊重个体主体性、自治性和人格尊严一直是发展底线，算法整治也应当重视保护人类尊严、公民权力以及社会公正。非常是要加强对弱势群体的关注，防止“数字鸿沟”，实现实质公正。可以通过加强企业社会责任的形式在算法整治中彰显人文主义，例如从社会福利的角度评估企业在关爱弱势群体、保护用户隐私、尊重个体人格以及劳动者休息权力等方面做出的努力。
其实，算法整治是一项常年工程，算法在不断演化，对算法的整治也应当不断迭代，其中算法问责机制、算法评估机制、算法监督机制都是须要继续讨论的重要话题。对算法的整治不应局限于算法本身，而是须要将算法嵌入到整个社会体系中评估，剖析算法运行所牵连的各个环节，以体系化的思维为算法向善提供解决方案。
由于微信修改了推送规则，推文不再按时间线显示外卖配送系统，假若不点『在看』或者没有『星标』，就可能看不到我们的新鲜推送了！
原文标题|怎样通过整治现代化破解算法缺陷
作者|复旦学院公共管理大学院士、清华学院人工智能国际整治研究院副教授梁正
新媒体编辑|罗婷
上一篇：餐饮公司微信点餐小程序设计报告
免责声明：部分文章信息来源于网络以及网友投稿，本站只负责对文章进行整理、排版、编辑，出于传递更多信息之目的，并不意味着赞同其观点或证实其内容的真实性，如本站文章和转稿涉及版权等问题，请作者在及时联系本站，我们会尽快为您处理。
