ai互动对话 AI会影响你的道德判断吗？人类与聊天机器人的互动对慈善捐赠的影响

原刊及作者

How human– : the role of moral .

of , 2022

Zhou, Fei, He& Yang

由人工智能支持的数字代理（例如聊天机器人）在我们的社交生活中发挥着越来越重要的作用。线上交互越来越多发生在人机之间。迄今为止，人类对聊天机器人的厌恶以及人类与人工智能交互中聊天机器人的采用已经得到初步研究。但是很少有研究考虑人与聊天机器人交互（human- , HCI）和人与人交互（human-human , HHI）所导致的人与人关系的社会后果。具体来说，很少有人关注这种互动的变化如何影响个人对他人的道德，而了解人机交互对人类道德的影响至关重要，因为它可能严重影响社会相互依赖和群体生活。本文以捐赠行为为例，从用户与社会之间关系的角度，通过研究聊天机器人对人际道德和亲社会行为的影响，对人工智能伦理问题进行了初步分析。

理论假设与模型构建

从进化的角度来看，道德是一种合作形式，是人类社会行为的核心。有证据表明，人们在人工智能（AI）面前的行为不那么道德。例如，与在人类面前相比，人们在与AI互动时，作弊后感到不那么内疚。此外，有证据表明，AI抑制了人类团队成员之间的合作。因此，我们认为，与聊天机器人互动的人在道德上的行为会更少，导致他们与人类互动时捐赠更少。因此，本文提出假设：

假设1:与人人交互(HHIs)相比，人机交互(HCIs)对捐赠金额有负面影响。

道德判断的双过程理论（dual- of moral ）认为，道德行为受两个道德原则的指导：功利主义判断（ ，认知加工支持，关注更大利益的后果）和道义论判断（ ，情感加工支持，关注行为的道德正确性）。研究预测，与聊天机器人或人类代理的互动会根据功利主义或道义判断，对人们做出捐赠决定的程度产生不同的影响。AI能够影响与之交互的人的行为模式，当人们与AI对话者互动时，他们会模拟自己的行为模式以匹配AI的行为模式。因此，HCIs应该优先支持需要功利判断的任务，因为它们是由认知过程支持的。在慈善捐赠背景下，HCI条件的参与者更有可能采用功利主义判断，随后，通过捐赠较少来表现出较少的道德行为。因此，作者假设：

假设2:道德判断在互动类型(HCIs vs HHIs)和捐赠金额之间起中介作用。

语言线索是聊天机器人促进与用户有效沟通的基本组成部分。社会导向的沟通旨在以个人和社会的方式进行互动，以增强心理上的亲密度。任务导向的沟通风格在效率方面是高度目标导向的，以形式和功能内容为特征，它只提供任务所需的指导。研究表明，一个社会导向的（VS任务导向）沟通风格导致了一种基于情感的倾向（与基于认知的）思维过程。因此作者提出假设3：

假设3:沟通方式调节了互动类型(HCIs vs HHIs)与道德判断之间的关系，在社会导向的沟通条件下，这种关系比在任务导向的沟通条件下弱。

图1 理论模型

实验设计与结果

研究1

研究 1 利用二手数据来检验 HCI 对捐赠的影响。作者于2022. 3.28-2022.8.29从中国的阿里巴巴公益基金会共收集了7153条**。项目数据包括集资金总额、捐赠数量、是否有明星代言项目、单笔最低捐赠金额、项目热度、项目类型等。其中DV为捐赠量（-Per，将筹集的资金总额除以捐赠数量来计算的），IV为交互类型（，HCI、HHI）。作者通过构建以下时间固定效应模型来测试互动类型与慈善捐赠行为之间的关系，并纳入了概述的变量：

= β0+ β+ β2 + γt + ωit.

回归结果表明，当所有控制变量都纳入回归分析时，交互类型对慈善捐赠具有显著的负向影响（β1 = − 7.811，t = − 7.57，p < 0.001），这表明，与 HHI 相比，HCI减少了个人捐款。

研究2

基于线上实验的研究 2 研究了（1）HCI是否会导致人们捐赠减少，以及（2）道德判断在多大程度上调节互动类型对捐赠的主要影响。被试在阅读一段关于为贫困地区学生提供教育支持的慈善项目描述后，咨询了服务代理并进行了基于预设文本的对话。场景模拟后，参与者被要求想象一下他们收到了 100元人民币的奖金，通过拖动固定在0元和 100元的滑块来表示他们的捐款。最后用量表衡量参与者的道德判断。

图2 研究2及研究3所使用的慈善项目海报

结果进一步证明互动类型对捐赠金额有显著影响。此外，道德判断中介了这种影响。与人类代理人相比，参与者在与聊天机器人交流时会做出更大的功利主义（或更少的道义论）判断，从而导致捐赠金额较低。

研究3

研究3考察了聊天机器人的沟通方式(社会和任务导向)对道德判断和随后的捐款金额的调节作用。本研究设计了一个2（交互类型：HCI与人HHI）×2（沟通风格：社会导向与任务导向）的组间实验。被试首先被要求阅读与研究 2 相同的叙述，然后回答了捐赠、道德判断、操纵检查、道德判断等量表。

结果显示，在社会导向的沟通方式条件下，代理被认为是以更社会性的方式进行沟通（= 4.169，= 1.325，Mtask=3.194，= 1.596，t = 4.693，p < 0.001）。交互类型和沟通风格的交互作用对道德判断[F（1，196）= 5.630，p = 0.019 < 0.05]和捐赠金额[F（1，196）= 4.172，p = 0.042 < 0.05]有显著影响。当以任务导向的方式交流时，与HHI相比，HCI条件下的被试表现出更多的功利主义判断和更少的捐赠量；当以社会导向的方式交流时，HCI和HHI条件下的被试并没有在道德判断和捐赠量方面表现出显著差异。

图3 交互类型和沟通风格对道德判断与捐赠量的交互效应

研究小结

本研究从用户与社会的关系角度对人工智能伦理问题进行了初步分析。基于道德判断的双过程理论，进一步提供了一种更实用的方法来减轻人机交互对人类关系的负面影响。基于文本的沟通线索支持情感反应，研究结果表明，在与聊天机器人沟通期间引入更多的社会线索，将支持道义论判断（而不是功利主义判断），从而导致更多的捐赠。这种对优化人工智能脚本设计有效性的关注强调了人工智能语言不仅在人们如何与之交互方面具有影响力，还包括与其他人的联系。这些结果为如何以有益的方式利用人工智能技术实现社会福利提供了一条有前景的道路。

参考文献

Zhou, , et al. "How human– : the role of moral ." of 178.3 (2022): 849-865.

封面图片：