经存在，可以对他人的心理状态做出反应。例如，当借助所谓的情感分析从聊天机器人中的文本解释用户的当前状态时，就会发生这种情况。然而，在许多情况下，目前很难可靠地找出人类对方当前的情绪状态。但这正是能够设计适当的系统反应所必需的。因为仅仅检测到情况是不够的然后必须做出相应的反应，以同理心吸引人类同行。这种适当反应的设计本身就是一个有其自身困难的领域，其中个体差异也可以发挥重要作用。
图：在线研究参与者认为与同理心相关的属性。图：在线研究参与者认为与同理心相关的属性。情绪可以操纵——或者创造信任然而，当今技术上一切都已成为可能，道德方面也不容忽视。区分移情反应和操纵以及在客户之间建 韩国电话号码表 立信任变得越来越重要。在与专家的讨论以及与用户的调查中，我们发现这是人工共情系统的一个关键设计点，将对接受度产生决定性影响。人工共情系统的设计需要具有敏感性，才能使其对人们产生积极影响，而无需令人毛骨悚然的因素和监视。这里的社会讨论也没有达到技术可能性的程度。人工移情系统不再仅仅涉及数据保护，还涉及避免操纵以及透明度和可解释性。
我们需要在我们的社会中更深入地讨论一个系统应该如何人为地、具有同理心地表现。通过我们的研究“以同理心设计客户服务”，我们为这一讨论做出了贡献，并阐明了设计人工同理心系统的不同方面——从技术挑战到道德考虑。该研究以反思章节结束，帮助公司批判性地检查和优化自己的设计理念。受到启发并设计人工移情系统，这些系统在最好的意义上是智能的——即为了人类的利益。我们很高兴讨论这个令人兴奋的话题。使用有同理心的聊天机器人进行自我实验。 |
