OpenAI表示担心用户对其聊天机器人产生感情

导读最近推出的聊天机器人GPT-4o因其与人类的互动而受到称赞。然而，这让OpenAI担心用户会与其产生情感联系。该公司表示，现在将监控和调整聊天...

最近推出的聊天机器人GPT-4o因其与人类的互动而受到称赞。然而，这让OpenAI担心用户会与其产生情感联系。该公司表示，现在将监控和调整聊天机器人，以防止人们对其产生感情。

GPT-4o是作为ChatGPT的一个大幅改进模型推出的。自首次亮相以来，人们就对ChatGPT-4o的类人交互能力赞不绝口。虽然这听起来很棒，但OpenAI注意到了一个问题：人们开始将聊天机器人视为人类并建立情感纽带。

OpenAI观察到人们使用的语言“可能表明正在建立联系”。该公司指出，它发现人们使用语言表达“共同纽带”的例子。这被描述为坏消息，主要有两个原因。

首先，当ChatGPT-4o看起来与人类相似时，用户可以忽略聊天机器人产生的任何幻觉。具体来说，AI幻觉基本上是模型生成的不正确或误导性输出。这可能是由于训练数据有缺陷或不足而发生的。

其次，与聊天机器人进行类似人类的互动可能会减少用户之间的真实社交互动。OpenAI表示，聊天机器人互动可能会对“孤独的人”有益，但也会影响健康的关系。该公司进一步指出，人们甚至可以开始与人类交谈，而认为对方是聊天机器人。

这将是糟糕的，因为OpenAI已将GPT-4o设计为当用户开始说话时停止说话。考虑到所有这些担忧，该公司表示，现在将监控用户如何与ChatGPT-4o建立情感联系。OpenAI还表示，它将在必要时对模型进行调整。

标签：

免责声明：本文由用户上传，如有侵权请联系删除！