AI的信任边界

当下人工智能发展迅猛,人工智能从B端走向C端的步伐越来越快,不管你是用AI查询信息还是将AI当作日常的生活助理,可以想象AI也不再是一个简简单单的工具,而是实实在在将变为我们的日常伙伴。虽然这些日常伙伴可以帮助我们解决日常生活、工作和学习中的各类问题,但它的身份要比我们想象的更加难以处理——我们应该在多大程度上信任它?

人类之间的信任是建立在共享的社会和文化背景、经验、情感交流和互动中。信任的本质是一种基于预期和依赖的情感和态度,它涉及到对他人的可靠性、诚实性、能力和意图的相信和依赖。主观层面上,信任是一种基于个体感觉、情感和体验的主观评估,涉及到个体对他人的认知和情感共鸣,比如,相对于陌生人,我们更倾向于信任熟人。主观信任还建立在个体对他人行为和意图的理解和感知,以及个体自身的情感经验和人际互动中的感受,比如对于同样的陌生人,我们更倾向于信任那些在我们主观判断上认为对我们友好的陌生人。客观层面上,信任也可以看作是一种基于事实、证据和经验的客观评估,涉及个体对他人的能力、可靠性和行为的观察和评判,比如带有“教授”头衔或专业领域身份的人更容易获得别人的信任。

同样,AI越来越作为我们日常交流和互动的工具时,我们将在多大程度上信任它? AI的推理过程或决策依据对于我们是一个巨大的黑盒,我们所看到的是输入的问题和输出的结果,而AI的行为是基于海量数据、复杂算法和统计分析的过程,部分是我们无法知晓或不能理解的(虽然我们知晓AI存在”幻觉“和“涌现“能力,对于正常的AI推理结果,我们仍不能以寻常的逻辑和日常经验可以得出的)。

人与机器之间的信任主要基于机器的功能、性能和算法,以及人对机器的了解和熟悉程度。显然,普通人并不了解AI背后的机器功能、性能和算法,所以大多数人是基于对AI的了解或熟悉程度来决定了他们对AI的信任程度。
研究表明,人类对自动化系统的信任程度与该系统在特定场景下展示出的实际能力水平相匹配,二者呈正相关关系。

来源:Lee & See(2004)

当信任水平与自动化系统能力不匹配时,则会出现:
(1) 过度信任:当用户的信任超过了系统的实际能力时,便会产生滥用”(misuse)。
(2) 信任不足:当用户的信任低于系统的实际能力时,便会产生“弃用”(disuse)。

个体对AI的信任水平取决于个体对AI的了解和熟悉程度,普通个体对人工智能的了解主要有三个渠道:一是学校教育,二是工作中接触或通过培训自学,三是通过媒介或其他渠道。

回顾过去,人工智能进入学校的历程可以从2001年中国科学技术协会在广州南沙科技馆举办了第一届全国青少年机器人竞赛开始,以课外活动、兴趣小组、培训课等形式开展,2017年后正式上升为国家战略,进行普及教育(1)。
我们可以粗略估计17年前走出校门的大多数未接收过人工智能的普及教育,所以他们对人工智能的了解多数通过媒介或其他渠道。

《社会心理学》揭示了个体思想和行为受他人影响的规律,正如美剧《广告狂人》所揭示的那样,人们对于被告知如何行动的渴望,使得他们容易受到任何信息的影响。广告就是利用心理学中的曝光效应(Exposure effect),极大地影响人们的思维逻辑。虽然人们的决策还受到其他多种因素的影响,但不可否认的是,无处不在的广告信息总有一些能够趁虚而入,影响我们的决策和行为。当年 ”今年过节不收礼,收礼只收脑白金” 堪称 ”洗脑神曲” 的广告正是运用了这种效应,哪怕你对这个商品并不了解,甚至从来都没有使用过它,可一旦广告频繁地出现在你面前,它印象就会逐渐加深,进而得到你的认可。
在媒体的不断劝说下,我们往往会在不明确自己的需求和价值观时做出决策,还可能产生”信念固着”,从心理学角度,指的是人如果对某一事物产生了信念,就会用诸多理论去巩固该信念的存在。正是这种”信念固着”,我们看到某些老年人对保健品非常的执着,许多人会花大价钱将其买回家,尽管有专家出面证实保健品没什么用,但部分老年人依然坚信能够消除百病。

有个短视频收集了一堆各种卖药广告,广告词的基本框架:
”凡是了解我们X家的人都知道。。。“ , ”从我的曾祖父开始。。。“ ,”一直到我这四代人。。。“, ”祖传X代。。。“ ,“就治X病。。。一种病” ,“很多人都说。。。。不好治”, “一点不难治。。。“, ”治别的病我不行。。。。“ ,”但是治X病,我敢保证。。。。“,  ”治一个好一个。。。。“,  ”全国有几千万的XXXX患者。。。。“,  ”我就是累死,也治不了这么多病人。。。。“,  ”我翻来覆去的思想斗争了一个月。。。。“,  ”我做了一个违背祖宗的决定XXXX。。。。“, ”把秘方献给了国家。。。。“ ,”根就是根,叶就是叶。。。。“, “XXX工艺虽然繁杂却不敢减其一道。。。。“ ,”药力直达病灶,中途不损丝毫。。。“ ,”你坏我,我坏你。。。。“ ”那是极不道德的。。。。“。当看到一则这样的广告,也许不会有什么感触,当看到一堆这样类似的广告,每个人的感触会大大不同了吧。
这种现象同样出现在了一些AI广告上,把这些广告的广告词的基本框架 收集起来做个短视频,应该也会是个爆款。这些广告还有一个特点是 针对的是中老年人,我们知道17年前走出校门的人大多数未接收过人工智能的普及教育。

虽然对AI的了解或熟悉程度来决定了个体对AI的信任程度,这种信任程度还受到其他方面的影响。有个护士妈妈说她经常会与婆婆发生一些冲突,她的婆婆做饭时受传统习惯影响会增加一些加料酒,而她在一个关注度极高的某公众号上看到饭菜中加酒对幼儿(她家小孩大约3到3岁)的影响,十分相信,所以常因此与婆婆冲突。这里我们看到的是心理学上的从众效应。虽然个体可能具有一定的专业知识,但由于本身的知识结构和认知能力的缺陷,缺乏对专业领域外的常识认知的判断,会倾向于跟随大流。对这个护士妈妈来说,这个公众号关注度极高,所以她对公众号的内容有极大的信任度。

由此,对于AI工具,一个“理智”的用户应清晰知道:
(1) 何时信任:诸如事实类问题、建议类问题、创意类问题等,这类AI擅长处理的问题,交与AI,充分发挥其优势。
(2) 何时不信任:如过于主观的问题、需要经验才能解决的问题等,或高风险情境下,需要保持警惕。
(3) 信任到何种程度:根据个体的经验和认识水平进行客观评估。如果将AI工具作为我们一个虚拟的“伙伴”,那么我们应将从专业背景、知识结构、生活常识和对个体的利弊来判断AI给出的“建议”,辅助我们的决策。

技术上,AI技术正在飞速发展,机器人技术、脑机接口等未来会深刻变革人类社会的技术发展迅猛,但AI信任边界不光是冷冰冰的技术研究问题,也是影响深远的社会问题,值得更多的研究。

引用:
(1) 人工智能教育如何进校园 - 中华人民共和国教育部政府门户网站

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

友情链接更多精彩内容