在数字化浪潮中,算法已经成为互联网企业的核心竞争力之一。然而,随着算法的广泛应用,其潜在的风险也日益凸显。为了规范算法的使用,保障用户权益,我国实施了算法备案制度。然而,通过算法备案之后,使用算法企业是否就可以高枕无忧了呢?答案显然是否定的。
算法备案只是第一步
算法备案是算法使用企业合规运营的起点,而非终点。根据《互联网信息服务算法推荐管理规定》等法规,网站平台在提供具有舆论属性或社会动员能力的算法服务时,必须在互联网信息服务算法备案系统履行算法备案手续。备案后,算法使用企业还需在网站、APP等显著位置标明算法备案编号,并提供公示信息链接,以便用户了解算法的基本情况。然而,现实中,有些使用算法企业并未严格执行这一要求,导致用户对算法的知情权和选择权受到侵犯。
算法应用中的问题不容忽视
1.个性化推送的“陷阱”:很多网站平台在提供个性化推送类算法服务时,强制用户选择兴趣标签,用户无法关闭或跳过选择窗口。即使用户勉强选择了兴趣标签,平台也未提供兴趣标签查看和修改功能,使用户难以根据自身需求调整推送内容。此外,用户无法便捷地关闭个性化推荐服务,或关闭后,平台频繁通过弹窗形式诱导用户重新开启,甚至关闭后无法正常使用服务,严重影响了用户体验.
2.隐私保护的“漏洞”:在个性化推荐服务过程中,一些网站平台的SDK存在获取IP地址、获取SIM卡运营商信息等行为,但隐私政策中未清晰明示,超范围收集个人信息,使用户的隐私安全面临威胁.
3.信息呈现的“操纵”:设有热搜榜单的网站平台未公示榜单排序精选规则,利用算法违规操纵榜单、控制热搜等,干预信息呈现,扰乱了正常的舆论环境和市场秩序.
4.劳动者权益的“损害”:外卖配送平台在提供调度决策类算法服务时,订单分配、工作时间、路线规划等算法机制不合理,损害了新就业形态劳动者的合法权益,如导致骑手过度劳累、收入不稳定等问题.
5.消费者权益的“侵害”:电商购物、生活服务类平台通过大数据构建用户画像,在提供网络购物、交通票务等服务时,针对不同用户,对相同商品不合理地提供差异化价格,存在价格歧视现象。同时,这些平台未以显著方式向消费者公示优惠促销规则,如适用范围、参与条件、特定限制等,使消费者在购物时难以做出明智的选择.
6.未成年人和老年人的“保护缺失”:网站平台算法服务未采取有效措施预防未成年人网络沉迷、过度消费、接触可能影响身心健康的信息,对老年人接触网络虚假低质信息也未进行有效干预,使这些群体的权益难以得到充分保障.
算法治理需持续发力
算法备案是算法使用企业合规运营的重要环节,但并非一劳永逸的解决方案。使用算法企业应以备案为契机,加强算法的自查自纠,对照《个人信息保护法》、《关于加强互联网信息服务算法综合治理的指导意见》等法规要求,认真排查算法应用中存在的问题,并采取有效措施进行整改。同时,企业还应建立健全算法管理制度,完善算法评估机制,定期对算法进行评估和优化,确保算法的公平性、透明性和安全性.
此外,监管部门也应加大算法治理力度,加强对算法应用的监督检查,及时发现和纠正违规行为,对违法企业依法依规进行处罚,形成强有力的监管震慑。同时,监管部门还应加强与企业的沟通协作,指导企业规范算法应用,推动算法治理工作的深入开展.