官方网站-首页

【导语】尽管人工智能生成的内容已日益流畅，但其信息的准确性仍面临挑战。内容可靠性问题，包括事实性错误、低关联性、偏见歧视及浅层次模板化，成为亟待解决的难题。近日，日本研究人员在德国《先进科学》杂志发表的研究成果显示，人工智能在提供信息时可能遭遇类似人类的“语言障碍”——失语症。这一发现不仅揭示了AI的潜在缺陷，也为改进人工智能系统提供了新视角。研究有望促进神经科学对失语症的监测与分类，并助力人工智能研究从内部架构入手，提升内容可靠性与灵活性。

尽管人工智能生成内容已非常流畅，但提供的信息很多时候还是不准确。

01 生成式人工智能的内容可靠性

内容可靠性是指生成式人工智能产品所产出内容的可靠程度，包括真实性、关联性、中立性、新颖性等。可靠性风险具体表现为：

一是事实性错误，生成完全不符合事实、拼凑捏造的内容；

二是低关联性，未能根据用户指令生成有针对性的内容，答非所问，生成的内容属于边缘性信息或过时性知识；

三是带有偏见和歧视，生成的内容具有明显的种族、性别等方面的歧视，容易误导用户；

四是浅层次与模板化，生成的内容套路化痕迹重，缺少深度和新意。

版权图片，转载可能引发纠纷

02 新研究发现：AI会得类似人类的“语言障碍”

日本研究人员近日在德国《先进科学》杂志发表的一项研究成果显示，这一问题与人类的语言障碍——失语症类似。新研究成果可以为研究人员改进人工智能提供参考。

智能体、聊天机器人等基于人工智能的工具正越来越多地应用于日常生活。考虑到人工智能模型在提供信息时表现出“高度自信”，如果用户对所讨论主题或领域缺乏足够了解，会很容易把其中的错误信息当成正确的。

版权图片，转载可能引发纠纷

为此，日本东京大学研究人员使用了一种名为“能量景观分析”的方法。这种方法最初由物理学家开发，旨在使磁性金属中的能量状态可视化，最近应用于神经科学。研究人员检查了不同类型失语症患者在静息状态下的大脑活动模式，并将其与几个公开可用的人工智能大语言模型的内部数据比较。

失语症患者可能会很流利地说出一些(xiē)毫(háo)无(wú)意(yì)义(yì)或(huò)难(nán)以(yǐ)理(lǐ)解(jiě)的(de)话(huà)。研(yán)究(jiū)人(rén)员(yuán)发(fā)现(xiàn)，人(rén)工(gōng)智(zhì)能(néng)与(yǔ)此(cǐ)有(yǒu)相(xiāng)似(shì)之(zhī)处(chù)。在(zài)这(zhè)些(xiē)人(rén)工(gōng)智(zhì)能(néng)模(mó)型(xíng)中(zhōng)，数(shù)字(zì)信(xìn)息(xi)或(huò)信(xìn)号的流动和运(yùn)作(zuò)方(fāng)式(shì)与(yǔ)某(mǒu)些(xiē)失(shī)语(yǔ)症(zhèng)患(huàn)者(zhě)一(yī)些(xiē)大(dà)脑(nǎo)信(xìn)号(hào)的(de)行(xíng)为(wèi)方(fāng)式(shì)极(jí)为(wèi)相(xiāng)似(shì)。

研(yán)究(jiū)人(rén)员(yuán)说(shuō)，人(rén)工(gōng)智(zhì)能(néng)模(mó)型(xíng)在(zài)出(chū)现(xiàn)严(yán)重(zhòng)错(cuò)误(wù)时(shí)仍(réng)表(biǎo)达(dá)流(liú)畅(chàng)，这(zhè)与(yǔ)感(gǎn)觉(jué)性(xìng)失(shī)语(yǔ)症(zhèng)的(de)症(zhèng)状有相似之处，即说(shuō)话(huà)流(liú)利(lì)却总说不出什么意思。这(zhè)并(bìng)不(bù)意味着聊天机器人有“脑损伤”，但它们可能被锁定在一种僵化的内部模式中，限制其灵(líng)活(huó)运(yùn)用所储存知识，就(jiù)像(xiàng)得了感觉性失语症。

版权图片，转载可能引发纠纷

小结：

一箭双雕的展望：监测失语症、改进AI

研究人员表示，对神经科学来说，这项研究提供了一种可能的新方法，可以根据大脑内部活动而不仅是外部症状来分类和监测失语症等疾病；对人工智能研究来说，这将帮助研究人员从内到外改进人工智能系统的架构。

综合来源：新华网、中国教育新闻网等