官方网站-首页

【导语】近日，《自然·人类行为》发表的一项研究发现，GPT-4等大语言模型在在线辩论中，若根据对手个性化信息调整论据，其说服力可高出人类64%。这一发现揭示了AI影响人类观点的潜力，并警示了信息操控的风险。研究呼吁重视AI伦理，构建新的人机共生的信息环境。

《自然·人类行为》19日发表的一项人工智能（AI）研究发现，在线辩论中，GPT-4一类的大语言模型（LLM）如能根据对手的个性化信息调(diào)整(zhěng)它(tā)们(men)的(de)论(lùn)据(jù)，其(qí)说(shuō)服(fú)力(lì)比(bǐ)人(rén)类(lèi)辩(biàn)手(shǒu)高(gāo)出(chū)64%。研(yán)究(jiū)结(jié)果(guǒ)显(xiǎn)示(shì)了(le)GPT-4生(shēng)成(chéng)有(yǒu)针(zhēn)对(duì)性(xìng)和(hé)说(shuō)服(fú)力(lì)论(lùn)据(jù)的(de)能(néng)力(lì)，揭(jiē)示(shì)出(chū)AI工(gōng)具(jù)拥(yōng)有(yǒu)影(yǐng)响(xiǎng)人(rén)类(lèi)观(guān)点(diǎn)的(de)潜力，同时也提出应进一步研究如何降低其说服人类时存在的风险。

随着人类与LLM的对话日益普遍，有研究显示LLM或变得更有说服力（即更能改变一个人的信念或观点）。然而，之前并不清楚这些模型是否能根据个性化信息调整，提出更能针对辩论对手的论点。

瑞士洛桑联邦理工学院研究团队此次将900名美国人分别与另一名人类或GPT-4配对。双方辩论各种社会政治议题，如美国是否应该禁用化石燃料。在有些配对中，辩论对手（无论是AI还是人类）能获得关于他们辩友的人口统计学信息，包括其性别、年龄、族裔、教育水平、就业状况，以及从参与者调查中获取的立场，从而让其论点更有针对性。

实验设计示意图。图片来源：英国《自然·人类行为》在线版

辩论在受控的在线环境中进行，并通过一个众包平台为该研究专门招募参与者。研究团队发现，在得知参与者的个人信息后，GPT-4的说服力比人类对手高64.4%。如果没有获得个人数据，GPT-4的说服力与人类不相上下。

研究团队指出，该研究存在一定局限性，包括辩论采取了一种结构性方法，而在现实世界中辩论的自由度更高，而且辩论有时间限制。他们认为，这一研究对AI影响人类观点的潜力和风险有重要提示，也对未来在线平台的设计具有借鉴意义。

【总编辑圈点】

其实，人类对“说服”的研究由来已久，也提出过多种可能影响说服力的因素，比如说服者的身份、信息的呈现顺序、传播渠道和受众特征等。现在，“搅局者”来了。当你的“对方辩友”是AI时，一旦它知道你的个人信息，便能为你量身打造一套话术，精准直击痛点。这样一来，信息操控的风险显著提升，你可能不知不觉陷入AI编织的话语陷阱。研究结果提醒我们，必须重视AI伦理，通过技术创新、制度创新和公众参与，构建新的(de)人(rén)机(jī)共(gòng)生(shēng)的(de)信(xìn)息(xi)环(huán)境(jìng)。

（原(yuán)标(biāo)题(tí)为(wèi)《警(jǐng)惕(tì)人(rén)工(gōng)智(zhì)能(néng)影(yǐng)响(xiǎng)你(nǐ)的(de)观(guān)点(diǎn)大(dà)语(yǔ)言(yán)模(mó)型(xíng)在(zài)线(xiàn)辩(biàn)论(lùn)说(shuō)服(fú)力(lì)超(chāo)人(rén)类(lèi)》）