2021-05-13

人工智能如何获取用户的信任？

尽管人工智能（AI）系统需要用户提供更准确、更个性化的服务，但人们可能不愿将个人信息提供给系统。但一项新研究显示，系统向用户索要信息的方式可能会产生一定影响。在一项研究中，宾夕法尼亚州立大学的研究人员报告称，当AI主动提供帮助或向用户寻求帮助时，用户的反应不同。这一反应会影响用户是否信任AI，并将其个人信息交给AI。他们补充说，AI的这些介绍可以以一种既增加用户信任，又提高他们对个人信息重要性的意识的方式设计。研究人员今天在计算机交互研究的顶级国际会议——2021 ACM CHI Conference on Human Factors in Computing Systems大会上展示了他们的发现：熟悉技术高级的用户更喜欢需要帮助或寻求帮助的人工智能，而非专业用户更倾向于同时介绍自己为寻求帮助者和提供帮助者的人工智能。

Donald P. Bellisario College of Communications媒体效应研究实验室(Media Effects Research Laboratory)詹姆斯·p·吉米罗(James P. Jimirro)教授和s·希亚姆·桑达(S. Shyam Sundar)表示，随着人工智能变得越来越普遍，开发者需要创建能更好地与人类联系在一起的系统。桑达尔说:“我们有必要重新思考人工智能系统如何与人类用户交流。”“这个问题之所以浮出水面，是因为人们越来越担心人工智能系统正开始接管我们的生活，而且人们对我们的了解比我们意识到的要多。”因此，考虑到这些问题，如果我们开始从传统的对话转向一种更加合作的交流可能会更好。

这里有帮助吗?

研究人员表示，传统的人工智能对话通常会介绍自己作为助手的角色。

实际上，高级用户可能会被人工智能通常与用户交流的方式所困扰，这对他们来说可能显得很傲慢，Sundar说，他也是宾夕法尼亚州立大学计算和数据科学研究所（ICDS）的附属机构。例如，研究人员提到Facebook要求用户提供生日信息，这样它的人工智能就可以为用户提供与年龄相符的体验。

“AI在与用户交谈的方式上似乎有一种家长式的态度——它们似乎告诉用户他们来这里是为了帮助你，你需要给他们你的信息来获得好处，”Sundar说。

另一方面，当AI系统向用户寻求帮助时，它被视为具有社交性。大众传播学博士生、该论文的第一作者Liao梦琪表示，超级用户发现寻求帮助的人工智能具有社交智能，研究人员将其称为social presence。Liao说:“如果有人寻求帮助，这是一种天生的社会行为，本质上是非常人际交往的。”这种社交存在反过来会带来更多的信任，并增加向人工智能提供更多个人信息的意图。高级用户还对寻求帮助的人工智能的表现给予了更高的评价，尽管它们提供的结果与其他人工智能相同。”Liao补充说，当系统在寻求帮助的同时，告诉用户将来可以帮助他们时，非超级用户的隐私问题就少了。

人工智能的道德问题

研究人员表示，该研究为设计师提供了一种合乎道德的方式，以增加对机器的信任，而不会试图欺骗人们提供他们的个人信息。Liao说:“我们认为这些发现对于那些想要制定策略来对抗捕食用户的人工智能系统的设计师来说也很有启发。”“例如，我们发现寻求帮助和提供帮助的提示实际上会引起高级用户对隐私的担忧。因此，简单地在解释超能力用户时同时使用这两种线索，可以让他们对自己的个人信息更加警惕。”Liao补充说，对于非高级用户，设计师可以添加帮助信息，减少社交露面，鼓励他们对自己的个人信息更加警惕。研究人员从一个在线微任务研究平台上招募了330名参与者。参与者被随机分配到一个模拟网站，代表四种实验条件中的一种一个寻求帮助的条件，一个提供帮助的条件，同时寻求和提供帮助的条件和一个控制条件。在求助条件下，人工智能提供了一份书面解释，称它需要用户的帮助和他们的个人信息来改善和成长。在帮助提供条件下，它解释了可以使用提交的个人信息来帮助用户查找新闻文章。第三种情况同时包含寻求帮助和提供帮助的线索。控制组没有提供任何解释。研究人员还研究了人工智能称呼自己的方式是否有任何差异，发现当它自称为“我”时，人们对它的信任程度低于“这个系统”。未来的研究可能包括调查人工智能在本质上更敏感的其他情况下的使用，如收集金融和医疗信息，以确定这些引入可能如何影响用户保护这些信息的警惕性。

标签：帮助,13,05,人工智能,个人信息,用户,寻求,AI,2021
来源： https://blog.csdn.net/SurfingTech/article/details/116759310