编者按

当今，在数智化浪潮中，算法已深入社会的各个角落，影响着人们生活的方方面面。结合此前四部委开展的网络平台算法典型问题治理专项行动，财联社与《科创板日报》今日推出“算法治理”专题特稿报道。

报道旨在从算法领域的现象与问题，从对策到长久解决之道，全面深入地剖析当前网络平台存在的算法乱象，期望能进一步引发各界对算法合理运用与有效治理的关注与思考，助力构建健康、有序、向善的网络生态环境。

本篇为“算法治理”特稿第二篇。

《科创板日报》12月10日讯（记者 张洋洋） 有关算法乱象和治理的讨论，近期在农夫山泉创始人钟睒睒炮轰短视频平台对谣言不作为导致其被攻击，四部门联合开展网络平台算法典型问题治理专项行动，达到了高潮。

曾在国内一家头部互联网公司担任金融业务算法总监的王耀（化名），在后来的跳槽的过程中，拒绝了一家信贷企业高薪抛来的橄榄枝。

“他们算法落地的业务场景主要就是催收，这会有一定的道德压力。”王耀告诉《科创板日报》记者。当算法介入业务，实施算法的人需要根据商业目标去做优化。这意味着算法是以商业利益为导向，而不能以实施者的喜恶或道德标准为准绳。

王耀说，部分被催收者本身已是金融营销的受害者，再用算法去做这类工作，他觉得是“道德包袱”。但他也不可能与企业的商业目标对抗，将公司利益优先的算法变成有道德的算法，毕竟“我的道德不是别人的道德”。

王耀将算法导致的负面影响，总结为平台商业目标导致的“系统冷漠”。

在平台内，商业利益最后会转化成员工的KPI考核，实施算法的人更要紧的是完成商业目标而无暇顾他。而无论是对算法的治理还是用于治理的算法，对商业组织是一种成本投入，这与平台的商业目标间存在商业逻辑上的背离。

我国的算法治理自2021年开始，三年来，相关法律法规不断完善。这期间各项政策措施陆续出台，王耀早已习惯了算法的治理。对于四部门最新的算法治理专项行动，王耀等业内人士认为至少“游戏规则定下来了”，监管治理总是会让算法朝着良性方向发展。

▍工具还是 “操控者”？

从浏览器搜索结果到医疗服务，从推荐内容并在一定程度上影响用户审美趣味和消费行为，从金融投顾到实行投资决策在极短的时间内赚钱或赔钱，算法——解决问题或完成任务的指令集——如今已经应用在现实生活中的方方面面。

与生活息息相关的另一面则是，如今谈论算法，随之而来的也包括大数据杀熟、信息茧房、诱导沉迷等负面议题。

以推荐内容为例，批评者将负面后果归因于，算法在不为公众可见的背后“操纵”，放大或掩盖某些审美趣味、影响用户的消费选择，从而导致过度沉迷和“信息茧房”等负面作用。

作为一项技术，算法并不是一开始就是众矢之的的。

章骏（化名）曾在国内头部物流企业担任算法工程师，至今仍在算法一线从业。

作为从业者，章骏提到，算法产生的功能包含多种，如图像识别、商品推荐、信息推荐等。以算法推荐信息为例，其最初是信息过滤的工具，在互联网高速发展时期，信息爆炸的时代，起到注意力聚焦的作用。

“但在后来解决问题的过程中，从业者发现调一下指标或者参数，就能更好的让客户留在软件里。”章骏说，对于公司而言，引流或者做利润都是它的核心KPI，以业务为导向的话，就会驱使算法去优化，往留存用户等方向做迭代。

章骏有一段从业经历是在一家互联网公司，他说，那时候公司每年要花上亿资金购买数据，这些数据包括用户的个人数据、行为数据等，算法要做的，就是对这些数据进行分析，最后进行推送。

章骏还有一段经历是一家外卖平台。他举了个例子，具体的算法优化，此时要做的就是给用户分组，做用户画像，比如哪些是价格敏感型，哪些是高客单价，这样即便是同一个地区，甚至是同一个学校的两个人，被推送的商品都是不一样的。

当一个公司能够捕捉到用户大量行为和数据，并且带来巨大的利润，行业会自然而然的往这个方向走。在章骏看来，算法的应用深入，是互联网行业这十几年高速发展的商业自驱性行为。

“作为一项工具，算法本身是中立的，只是一些业务上的目标设置跟数据来源，会影响到它最后的行为结果。”他说。

▍商业自驱下的“系统冷漠”

算法从一个专业的技术概念到如今舆论争议的焦点，大多数中国人对它的认知经历了一个逐步深化的过程。2020年的《外卖骑手，困在系统里》一文，让算法问题真正意义进入到公众视野并使其成为众矢之的。关于算法的各项监管政策，也在此之后逐步出台。

在四部门最新的算法专项整治行动当中，重点整治的问题有，“信息茧房”诱导沉迷、违规操纵干预榜单炒作热点、大数据“杀熟”、盲目追求利益侵害新就业形态劳动者权益、算法向上向善服务缺失侵害用户合法权益等。

上述曾在国内一家头部互联网公司担任金融业务算法总监的王耀把算法导致的上述系列问题，总结为商业目标导致的“系统冷漠”。

这里的“冷漠”，一方面是员工考核的KPI压力。“在商业组织里的算法员工，他工作的优化的目标可能是点击，可能是存留，也可能是用户的互访，他无暇顾及其他，比如复核平台的内容是否符合事实。”

另一种“冷漠”来自平台与依赖平台获取流量的人之间的博弈。平台需要用户带来流量带来点击活跃生态，但与此同时，如果这些用户生产的内容是劣质的，点击都是低效率的，带不来真正的用户停留和用户联系，甚至违法乱纪，平台又需要去处理低质内容。

王耀将此形容为，平台就像开了一个集市，用户来“摆摊”，平台还得维护秩序，谨防“假冒伪劣”，以确保每一个摆摊的用户都是“良心商家”。

“但平台的优先项是尽可能做大总销量，清除假冒伪劣并不是它的核心KPI”。王耀说，在互联网行业，如今业务的比拼已是汪洋红海，流量涉及真金白银的收入，包括算法在内的各种治理是成本投入，这是一种商业逻辑上的背离，所以另一种“冷漠”的情况就会出现。

尽管如此，在当前的互联网平台内部，算法也不能没有底线。

王耀说，最基本的合规要求，比如金融产品不允许承诺收益，不允许有一定的涨跌预测等。在内容平台，大型企业也会配备专门的内容安全算法团队，且规模不小，对违法乱纪问题进行审核。一部分企业如今还会越来越重视ESG（环境、社会和公司治理），这也是公司重视内部治理的一种。

▍“游戏规则定下来了”

我国的算法治理自2021年开始，当时国家互联网信息办公室、中央宣传部、公安部等九部委联合印发《关于加强互联网信息服务算法综合治理的指导意见》（下称《指导意见》）。

按照上述《指导意见》，我国将利用三年左右时间，逐步建立治理机制健全、监管体系完善、算法生态规范的算法安全综合治理格局。

三年来，相关法律法规不断完善，然而公众对算法的感知与治理要求之间仍存较大差距。

对于四部门最新的《关于开展“清朗·网络平台算法典型问题治理”专项行动的通知》，作为从业者的王耀和章骏均认为对行业来讲是好事，“至少把游戏规则定下来了” 。

根据这次专项行动安排，有关部门将在2025年1月底评估企业自查自纠情况。2025年2月14日前完成专项行动实施成效总结，“全面评估《指导意见》印发以来的算法治理举措及取得的积极成效，深入分析难点问题，制定今后一段时期的务实举措”。

在互联网行业多年，见证《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等政策陆续出台实施，对于涉及算法的各项治理规定，王耀说他已经“习惯了”。

怎么样才是一个好的算法？算法的底线是什么？王耀说，现在还很难达成“好算法”的共识，或者说算法的“好”无法限定为一个单一目标。

“各平台调性不同，利益标准不一，只要在遵守好监管的准则前提下，从不同角度出发优化的算法准则，反而能让算法不在单一的方向跑出公序良俗的边界，比如既要有提升活跃用户活跃的目标，也要有提升用户体验的目标，还要有保障内容质量和合规性的底线要求等。”