下载看详情
社评:美方可以讹诈一家公司以讹诈一家公司以讹

算法取中,一场合理与合情的平衡

2021-11-10 陆玖财经 微信号
语音播报预计19分钟

“算法取中”不仅政策在指引,亦是企业所追求的。对于看重生态的互联网企业来说,他们太了解生态失衡的消极影响。所以,当下的互联网企业们,正在经历“商业逻辑合理”与“价值观合情”的取中。

那么,算法取中,谁来取?不能由企业一方来判断,需要企业、公众、监管等多方参与其中,所以,透明化则是第一步。透明化的算法规则公之于“阳光”,一方面是让大众便于理解算法的技术局限,需要小步快跑的迭代与完善;另一方面也是让更多的声音参与进来,用大众的智慧推动算法规则更好地服务社会。

算法取中,一场合理与合情的平衡

图片来源于陆玖财经

算法纳入监管后,正引发互联网企业一场自外而内的算法革新。

11月5日,美团公开了关于“订单分配”的算法规则,介绍了订单与骑手的匹配逻辑,这也是继9月份公开“预估送达时间”算法之后,又一次对监管的回应。

早在今年7月,七部门联合发文保障外卖送餐员权益,其中“算法取中”一词屡被提及——监管层传递出的信号十分明确:算法,也是有价值观的。“取中”二字的背后,既要企业着重行业生态的多方平衡,又要兼顾公众基于日常情理的朴素价值观。

将算法规则公开,是“算法取中”的重要一步。一方面是,争取公众对技术局限性的理解,需要小步快跑的迭代与完善;另一方面也是让更多的声音参与进来,用大众的智慧推动算法规则更好地为社会所服务。

01

算法的“红与黑”

算法的逻辑是什么?对于多数普通人来说不得而知。但不能否定的是,算法的运转规则正在从数字平台映射到现实社会,并悄然改变我们的生活方式。

比如,当你下一笔外卖订单的同时,全国或有数百万消费者与你同时下单,外卖平台需要运筹相应数量的骑手配送路线和配送时间,如果仅依靠人工,是无法想象的庞大计算量。

还比如,当你用滴滴打车,滴滴会根据周边司机与乘客的远近,为乘客与司机做出匹配。甚至滴滴还会根据既往的客流量数据,预判某地区、某时段出现乘客搭乘的概率,并提前调车等候。

这些看似玄学的背后,正是依靠互联网算法的支撑。不同于APP显性的操作界面,这套藏于后台的算法系统,其超大规模的调度和最优运筹,对于平常人充满了神秘色彩,也被称为互联网黑箱。

“算法作为工具,并非真正理解大数据的含义,它只是尝试在已知数据和未标注数据之间寻找相关性和差异性。”北京一业内人士告诉陆玖财经,算法的进化逻辑在于个体数据偏好的汇集,在运行一段时间后,必然会出现偏差。

举个小例子,如果某天你点了一份外卖,骑手幸运地一路绿灯——这再平常不过的一次送餐场景,在算法规则下会将这条路线的送餐时长进行优化,优化掉对红绿灯的等候。因此,外卖平台在技术层面,会在模型时间的基础上加上一个保护时间,避免这条路线的送餐时间越来越快。

所以说,算法并非万能,它不能像人类一样真正具有自主意识和自我进化,只是一种数据的再处理。而诸多个体数据就像小小的蝴蝶,翅膀的微小偏振,就可能在整个算法世界引起剧变和偏差。这时候,为算法注入价值观就显得尤为重要。

02

价值观之争

今年1月份,在北京召开的“网络消费领域算法规制与消费者保护座谈会”上,主办方中国消费者协会即指出,如果任由算法无序发展,一方面不利于市场经济的公平有序竞争,另一方面也会导致消费者被数据算法损害利益。

监管层也拿出一系列多样且有力的手段,为算法“立规矩”。

8月27日,国家网信办发布《互联网信息服务算法推荐管理规定(征求意见稿)》(以下简称《征求意见稿》),作为我国首部针对个人信息保护的专门性立法,对算法的规范也被纳入到即将实施的个人信息保护法中。

尽管各界对算法态度尖锐,但均未对算法进行否定,焦点都在“对算法的科学、合理使用予以规范。”可以说,监管层传递出的信号十分明确:算法,也是有价值观的。

在算法的价值观之争中,“算法取中”一词屡被提及,“取中”二字的背后,既要企业着重行业生态的多方平衡,又要兼顾公众基于日常情理的朴素价值观。

“算法的背后是人,就必然有主观的价值观导入。”北京一互联网从业者告诉陆玖财经,互联网企业的崛起,就是对传统行业生态的逻辑颠覆。在他看来,或许没有其他行业能比互联网企业理解生态失衡所带来的消极影响。

该互联网从业者认为,“算法取中”不仅是政策在引导,也是企业所追求的。他表示,算法在开发和执行过程中,都有着良好的外部纠错机制,并有相对独立的第三方进行伦理审查。

但算法并非万能。尤其对外卖等行业,需要线上空间精准映射线下场景,但现实场景的复杂多变,决定了算法对线下场景的覆盖“只能穷极,无法抵达”。对于企业选择较为理性、平衡各方的算法规则,以及尽可能小步快跑的技术迭代,在技术壁垒的隔离下,表象看来并不符合公众基于日常情理的朴素价值观。

如何在理性与情理的框架之内,为算法找到一种更有序的运行方式,是一个涉及监管、企业与公众的三方博弈。

03

“阳光”照入

在这场涉及监管、企业和公众的三方博弈中,并非必定分出输赢的斗争,而是寻求最大公约数。因此,算法公开也就成为开诚布公的重要一步。

今年下半年开始,美团、新浪微博、滴滴等行业赛道的头部企业,都在积极回应监管要求,并逐步公开算法逻辑。

8月16日,滴滴车主App上线试行“司机收入报告”,“司机收入报告”每日更新一次,每天中午12点后,可查询前1天所有订单的收入占比明细。实际上,在算法公开尚未有政策推动时,不少网友已经整理出各种滴滴“接单宝典”。在业内看来,随着算法规则的进一步公开,司机同样可以利用规则,优化自身效率。

几天后的8月23日,新浪微博官方也发布公告,首次透露了热搜的算法机制。该公告称,热搜算法会根据搜索量、发博量、互动量、阅读量等数据指标,每分钟计算一次所有热搜的综合热度,取前 50 名展示。

相对于此前的热搜算法,二季度开始实施的热搜算法增加了互动量、搜索量等多个维度,增加了依靠水军上热搜的成本和难度;遇上读者真正关心的公众话题,相关企业再想花钱降幅热度,公众也能根据公开的既有规则,更轻易地洞察热搜异常。

与微博、滴滴等平台相比,维系着数以百万计骑手、商家生存的美团,其算法公开也更引人注目。不难看出,美团两次算法规则的公开,并非简单的教条式解说,亦推出相应的调整措施。

在8月第一次公开预估时间算法时,美团表示进行了两项持续迭代的调整:一是在异常场景下为骑手提供时间补充,二是在部分情况下,将“预估到达时间”变为“预估到达时间段”。公开效果明显:在新算法机制下,骑手的配送时间更弹性,用户对送餐时间多了心理预期,试点数据显示用户对骑手的差评率降低了50.7%。

而在11月公布订单分配算法时,除了介绍了订单与骑手的匹配逻辑,美团也根据骑手反馈,推出如“系统主动改派”、“出餐后调度”等试点举措,减少骑手配送压力。

“实际上,这种小步快跑的迭代和完善,贯穿整个美团的企业发展史,我们也希望通过迭代,不断地缩小和弥补线上数字空间和线下真实场景的差距。”某位美团技术工作人员向陆玖财经解释,随着算法规则的透明、更多声音的参与,也是希望在这个逐渐完善的过程中,争取更多人的理解与换位思考。

04

更多的声音

美团与新浪微博的改变,是在政策引导和算法公开下,以更清晰的画面感,逐步向“算法取中”靠拢的时代缩影。

但在业内看来,“算法取中”的转变过程中,就需要一个平衡各参与主体的合理阀值。什么是合理阀值?比如,确定一个相对合理的配送时间,就是外卖算法的阀值。

但在效率至上的市场商业原则与侧重整体公平的社会原则之间,阀值的界定注定是一场拉锯战。因为,不能让既得利益、追求效益的企业自说自话;也不能用“一刀切”的政策挫伤行业的积极性——透明化的运行规则与公众朴素的评判标准,在确定算法的合理阀值中,就显得格外重要。

例如,在两次公开算法规则前,美团在长沙、苏州、杭州等试点城市,向逾40万用户发放了调研问卷,约65%的用户表示愿意尝试“时间段”的方式;美团外卖启动“出餐后调度”试点中,也有2400个门店参与和反馈意见。未来这种市场主体共同参与的算法调整,或将成为新常态。

有业内人士这样比喻:向公众公开算法规则,就像印刷成文法,让所有人了解法律的知情权以及对法律的解释权——在没有公开透明的成文法之前,公众无法根据相应条例来讨论权利和依据。有了公开成文法之后,公众才能了解这些条例是否符合大部分公众利益,并推动后续更合理以及高阶规则的出现。

正如上海人工智能研究院技术总监沈灏所言:“判定阈值设定是否合理,需要针对各个业务领域大量地调研,深入每个场景,最终制定一个相对有量化指标的实施方案,有理可据地去对企业的算法做监管。”

算法取中,一场合理与合情的平衡

真相无法揭露,只能接近

作者 : 陈沛   编辑 : 丽雅   排版 : 忠瑞

出品|陆玖财经·北京办公室

算法取中,一场合理与合情的平衡

欢迎扫码爆料!

独家线索,核实采用将支付1000元。

版权声明:本公众号所有内容文字、图片和音视频资料,版权均属北京三六九零科技有限公司,任何媒体、网站或个人未经本公众号授权不得转载、链接、转贴或以其他方式复制发布/发表。侵者必究。本文图片均来自陆玖财经,请勿侵权。

算法取中,一场合理与合情的平衡

主编工场旗下内容矩阵

本文首发于微信公众号:陆玖财经。文章内容属作者个人观点,不代表和讯网立场。投资者据此操作,风险请自担。

(责任编辑:李显杰)
查看全文
去“和讯财经”看本文专题

标签推荐

推荐频道