王 鹏  >>  正文
科技赋能,算法向善——对“清朗·网络平台算法典型问题治理”专项行动的解读与分析
王 鹏
2024年11月27日

为进一步深化互联网信息服务算法综合治理,近日,中央网信办印发通知,自即日起至2025年2月14日,将开展“清朗·网络平台算法典型问题治理”专项行动。

一、专项行动的重要意义

(一)保障用户权益

随着算法技术的广泛应用,用户的个人信息、消费习惯等被大量收集和分析。这些信息的处理和使用如果不加以规范,可能导致用户权益的严重损害。例如,大数据“杀熟”现象,即平台利用算法对用户进行精准画像,从而对不同用户实施差异化定价,这种行为不仅损害了用户的经济利益,还破坏了用户与平台之间的信任关系。通过治理算法典型问题,可以确保算法应用的合法性和合理性,保护用户免受不当算法决策的侵害,从而维护用户的合法权益。

(二)促进算法技术健康发展

算法技术的快速发展为互联网产业带来了前所未有的推动力。然而,技术的快速发展也伴随着一系列问题的出现,如同质化推送营造的“信息茧房”、违规操纵干预榜单炒作热点等。这些问题不仅影响了用户体验,还可能导致算法技术的滥用和负面影响的扩大。通过治理算法典型问题,可以引导算法技术向更加健康、可持续的方向发展,避免技术滥用和负面影响,从而推动算法技术的健康发展。

(三)维护市场秩序

算法被广泛应用于电商、社交媒体等领域,成为影响市场竞争的重要因素。然而,不当的算法决策可能破坏市场秩序,导致不正当竞争和消费者信任危机。例如,通过算法操纵榜单排名,可以干扰市场的公平竞争,损害其他竞争者的利益。通过治理算法典型问题,可以维护市场的公平竞争和良好秩序,促进互联网产业的健康发展。

二、行动开展所面临的挑战

(一)技术挑战

1.准确识别和评估算法风险:算法的复杂性和多样性使得准确识别和评估其潜在风险变得尤为困难。如何有效地识别算法中的偏差和错误,以及这些偏差和错误可能对用户和市场造成的影响,是技术层面的一个重大挑战。

2.有效监测和防范算法滥用:随着算法技术的不断发展,其滥用和误用的手段也在不断更新和变化。如何有效地监测和防范这些滥用和误用行为,确保算法应用的合法性和合规性,是另一个技术层面的难题。

(二)监管难题

1.监管的及时性和有效性:在互联网环境下,算法的应用和传播速度极快,如何确保监管的及时性和有效性,成为了一个亟待解决的问题。监管部门需要建立高效的监测和预警机制,以便及时发现并处理算法典型问题。

2.平衡监管与创新的关系:在加强算法监管的同时,也要避免过度监管对创新造成的抑制作用。如何在保障用户权益和维护市场秩序的同时,鼓励和支持算法技术的创新和发展,是监管层面需要权衡的重要问题。

3.跨领域、跨地区的监管协调:算法的应用涉及多个领域和地区,如何协调不同领域和地区的监管力量,形成有效的监管合力,是另一个需要解决的问题。

(三)企业配合程度

1.企业自查自纠机制的建立:如何确保企业认真履行算法安全主体责任,积极配合监管部门的检查和指导,建立有效的自查自纠机制,是企业层面的一个难题。企业需要加强内部管理,完善算法审查、备案和评估机制,确保算法应用的合法性和合规性。

2.企业配合监管的主动性:在专项行动过程中,企业的配合度直接关系到行动的成败。如何激发企业配合监管的主动性,使其能够自觉遵守法律法规和监管要求,是另一个需要解决的问题。

三、应对策略与措施

(一)加强算法监管和治理

1.建立健全算法审查机制:加强对算法设计、开发和应用过程的监管,建立健全算法审查机制。对算法进行定期审查和评估,确保其符合道德和法律标准,避免算法滥用和误用。

2.提升算法透明度:要求企业公开算法的基本原理、数据来源、决策过程等信息,增加算法的可解释性和可验证性。通过提升算法透明度,便于用户和社会监督算法的应用情况,及时发现并纠正问题。

3.建立算法责任追究机制:明确算法决策的责任主体和追责机制,对算法决策造成的后果进行追责和赔偿。通过建立责任追究机制,提高算法应用的风险意识和责任意识,促使企业加强算法安全管理。

(二)利用算法手段优化治理

1.应用机器学习技术监测算法偏差:利用机器学习技术对算法决策进行实时监测和分析,及时发现并纠正算法中的偏差和错误。通过技术手段提高算法决策的准确性和公正性,保障用户权益和市场秩序。

2.建立算法反馈和优化机制:允许用户对算法推荐的结果进行反馈和评价,根据用户反馈不断优化算法性能。通过用户反馈机制的建立,提高算法推荐的相关性和满意度,提升用户体验。

(三)加强企业自律和监管合作

1.推动企业建立自查自纠机制:鼓励企业加强内部管理,完善算法审查、备案和评估机制。通过自查自纠机制的建立,及时发现并纠正算法应用中的问题,确保算法应用的合法性和合规性。

2.加强监管合作与协调:建立跨领域、跨地区的监管合作机制,加强信息共享和协同监管。通过监管合作与协调,形成有效的监管合力,共同应对算法典型问题。

3.加强宣传教育和培训:加强对企业和用户的宣传教育和培训,提高其对算法典型问题的认识和重视程度。通过宣传教育和培训,增强企业和用户的法律意识和风险意识,推动形成全社会共同关注和参与算法治理的良好氛围。

【责任编辑:严玉洁】
北京社科院研究员,北京市习近平新时代中国特色社会主义思想研究中心特约研究员,数据资产化研究院执行院长,南昌理工学院数字经济研究院院长、特聘教授。