AI审核也顶不住贪婪

有网友近日反映打开宝宝巴士旗下一款“宝宝巴士儿歌”APP时,开屏时跳转到低俗擦边直播等不适合儿童观看的第三方广告,引发社会关注。10月29日上午,宝宝巴士相关负责人对澎湃新闻回应称,出现在APP上的问题广告是第三方平台接入广告,此次事件严重影响了用户的使用体验,对此他们表示诚挚的歉意。

作为专注儿童内容的企业,宝宝巴士应当对广告内容承担严格审核义务。第三方广告接入不能成为免责理由,企业需建立更完善的广告过滤机制,尤其要针对儿童使用场景设置内容防火墙。

这反映出儿童类APP广告监管存在漏洞。建议相关部门出台更细化的儿童数字内容广告标准,建立"白名单+黑名单"双轨审核制度,从源头杜绝不良内容。


其实家长才是保护孩子的第一道防线,可以通过开启APP的"儿童模式"(如有),使用系统级家长控制功能,定期检查孩子设备安装的APP,教育孩子识别不当内容等措施做好不良信息过滤。

儿童数字产品的特殊性要求企业必须承担更高标准的社会责任。而且现在很多的app审核大部分都是使用AI审核,但现在AI审核有其技术局限性。

现有AI审核主要依赖图像识别和关键词过滤,但低俗内容常通过隐喻、谐音、局部画面等方式规避检测,但是儿童内容审核需要更高精度的情感识别和语境理解能力,当前技术尚未完全成熟,而且动态直播内容实时审核存在3-5秒延迟,给不良内容留下可乘之机。

但广告收益是很多APP的收入大头,某头部APP财报显示,广告收入占其总营收68%,部分平台采用"流量优先"算法,可能降低敏感内容过滤阈值,而且还存在第三方广告SDK的"黑箱"特性,增加了审核难度。


"算法是镜子,照出的是设计者的价值观。"如果AI算法它是没有思想的,自然也没有所谓的正义感,更多的是操控它的人的追究是什么,如果一味的追求利益,算法自然会被不恰当的使用。

©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容