AI生成作品引评价反转 司法专家警告盲目用AI恐侵蚀正义基石

英国诺丁汉大学的一间教室内,文学语言学教授彼得·斯托克韦尔(Peter Stockwell)正进行着一场实验。他让生成式人工智能写了一首诗,又找来一首二十世纪超现实主义诗人的作品,将这两首诗一并发给学生分析,却刻意隐瞒了其中一首出自AI之手的事实。结果,学生们对两首诗的喜好不一,有的偏爱AI之作,有的则更欣赏人类诗人的笔触。他们剖析得颇为认真,也各自阐述了不同的见解。

随后,当斯托克韦尔揭露其中一首为AI生成的真相后,部分学生几乎瞬间推翻了自己的先前的评价,断言那首AI写的诗毫无价值。这一现象让斯托克韦尔意识到:作品是否被赋予意义,往往与其“真实性”紧密挂钩。

这种对真实性的焦虑,远不止于文学课堂。一旦语言成为法律证据,问题便从“这首诗有无价值”转变为“这段话是否为人所写”。这个答案,直接关乎一个人的自由、一笔资金的流向,乃至一场审判的最终裁决。

今年初,英国兰卡斯特大学司法语言学教授克莱尔·哈达克(Claire Hardaker)在该国最高法院的一场小组讨论会上发出警告。她指出,尽管人工智能带来了高效且强大的分析能力,但在法律和机构环境中,若盲目且未经批判地应用AI,可能会侵蚀细腻的人类判断力与共情能力——而这正是正义得以实现的基石。

哈达克坦言,相较于AI对语言形式的改变,她更担忧的是内嵌于大语言模型(LLM)中的偏见。目前,大量AI系统在“迎合用户”与“提供准确信息”之间寻求平衡。不幸的是,人类往往更青睐“友好”而非“事实”。在争夺并留存用户的激烈竞争中,模型面临着产出最具吸引力、最友善且最易消费内容的压力,这些内容可谓是为每个人及其偏好量身定制的。这配方里,潜藏着相当危险的毒素。

围绕AI如何重塑我们的语言,澎湃新闻专访了斯托克韦尔与哈达克。一面是想象与创造力激荡的文学领域,另一面是客观严谨的法律领域,AI作用于这两处的语言之上,激起了一些值得深思的“化学反应”。

**AI尚难触及的“层级”**

斯托克韦尔与哈达克虽来自截然不同的领域,却在一点上殊途同归——人类语言的最深处,指向的是身体性与社会性的存在。

斯托克韦尔将语言视为一个层层递进的结构:底层是单词,其上依次是短语、分句、复合句,直至最高层的叙事结构。AI在低层级的语言结构中表现优异,它已掌握大量人类句法,因此生成的文本通常语法正确、形式规范。“但层级越高,它的表现就越差。”

所谓“更高层次”,指的是话语的组织方式与叙事逻辑。以文学作品为例,即如何营造魅力,让人沉浸其中。关键在于,语言学家自身也未能完全厘清语言在高层级究竟如何运作。斯托克韦尔表示:“我们无法制造一台机器,去完成一件我们尚不清楚其运作机制的事情。”

斯托克韦尔认为,人类语言的深层结构源于“湿件”(注:wetware,指代大脑与生物神经系统,区别于硬件、软件)。肾上腺素的激增、多巴胺带来的愉悦、对社会连接的渴望,这些真实的生理与情感体验,深刻体现在语言的结构与使用方式中。

目前,AI在语音留言、旁白、播客等单一声音的输出上已能做得惟妙惟肖,但仍无法稳定掌握适当的呼吸节奏,或以人类犹豫的方式去表现犹豫,特别是在互动结构中自然呈现时。

“现阶段,AI无法理解当我们兴奋、愤怒、恭敬聆听老板讲话、训斥孩子或轮流交谈时,说话节奏会发生何种变化;它也难以根据对方的声音,稳定地调整自己的音量、语速、口音或音高。”哈达克说道。

她解释道,鉴于声音受生理构造限制,当前最前沿的模型极擅长合成特定声音。但由于人类可用的潜在词汇量巨大,AI极易在称谓、礼貌程度或幽默感等特定语言特征上偏离既定风格。若缺乏对特定语言习惯的了解,AI往往会退回到预先存在的刻板印象中,例如认为恋人必用亲昵称呼,母亲只会说充满爱意的话。

现实中的对话,是一个时序精准、合作性强且在社会层面高度互责的系统。哈达克举例称,人类交谈时会不断监控自己与他人:此刻该发言还是沉默?长时间沉默会被视为无礼吗?是否需要发出轻微的声音表示赞同或同情?是否应伴随支持性的叹息插入话语(重叠)?是否要纠正误解?

问题在于,许多使AI对话听起来像人类的特征,恰恰是书面文本所缺失的。哈达克以“时序”为例指出,人类对话以极其精准的时间尺度运行,微小的停顿可能意味深长,较长的停顿则可能引发尴尬、回避、敌意或不安。语言重叠既可传递热情与支持,也可能听起来像是打断与主导。哈达克强调,“这种复杂性层级并未被明确编码到构建AI模型所依赖的大多数转录文本和数据中。”

基于上述发现,兰卡斯特大学研究团队发起了名为HackaCon的项目。这是一项面向公众的挑战赛,旨在探索AI能否在两个特定说话者之间,创造出令人信服的自然、类人对话。

HackaCon要求参与者在给定情境下,利用AI创作一段从未发生过的对话“录音”。哈达克表示,“录音”环节至关重要,因为它能揭示我们距离那些能像人声般说话并以人类方式互动的系统还有多远。

哈达克指出,在对话中,“对AI而言最难的任务,很可能是人类自幼便学会且快至几乎察觉不到的事:时序、回应性、对齐、自我纠正、情绪转换、关系管理等。”

**文学领域的辨真困境**

与此同时,检测工具的局限性反向折射出人类对真实性的焦虑。

英国智库“路透新闻学机构”发文指出,在英国,议员与政治记者注意到,近期以“I rise to speak”(我起立发言)开头的议会演讲有所增加,有人将此归因于ChatGPT被用于撰写演讲稿。评论者将标点符号的细微差异,如破折号的使用,视为AI泄露的信号加以放大。

此类质疑愈演愈烈,催生了一批AI检测软件。人们将论文、小说、新闻报道等各类内容输入其中进行检测,最终往往导向一场经不起推敲的闹剧。

2026年5月,62岁的特立尼达作家贾米尔·纳齐尔(Jamir Nazir)凭借短篇小说《蛇林》(The Serpent in the Grove)获得英联邦短篇小说奖的区域奖。小说发表于文学杂志后,AI文本检测工具Pangram将其标记为100%由人工智能生成。社交媒体随即爆发嘲讽,纳齐尔的散文被逐句拆解嘲笑,例如故事中一位年轻女子“走路的样子能让长椅变成男人”,另一位“微笑如同日出照在水槽上”。

不过,英联邦基金会在7月的最终裁定中维持了区域奖的授予,并确认纳齐尔为2026年英联邦短篇小说奖全场大奖得主。这一决定基于与获奖者的“详细讨论”以及“工作草稿、带有时间戳的文档和笔记”,并未借助AI工具进行鉴别。

事实上,也不能排除某些人的自然写作风格本身便近似“AI”,况且纳齐尔的案例更为特殊。他因糖尿病引发神经病变,无法长时间在键盘上打字。他曾告诉《大西洋月刊》,自己在手机上使用谷歌键盘的语音转文字功能,并在极小的屏幕上反复审视和打磨文字。这种极度浓缩的修改方式,或许正是其文风被检测器误判的原因。

同为文学创作者的斯托克韦尔指出,AI已能创作侦探、爱情、科幻等各类题材的小说,但高水平文学仍需真正的人类参与。真正优秀的文学,能改变你理解世界与自我的方式。它可以提出全新的人性理解,也可能表达某种社会观点、政治立场或意识形态。AI若要真正做到这一点,不仅需要世界模型,更需要真正理解这个世界。

他进一步表示,理解世界不能完全依赖过往数据,需要与他人接触,理解他人的情感、信念和心理,即需要真正的同理心。这是阅读和创作优秀文学不可或缺的人类能力。

假设未来能建立拥有身体触感、世界观、长期生活经验、情感和同理心的人工智能,斯托克韦尔认为,此类AI可以写出伟大小说。但他又提出另一视角:届时,它其实已与人类没有本质区别,而实现这一过程无疑需巨额投入。有一种更现实的路径——生一个孩子,很可能比用巨资制造的机器更加聪明。

“既然如此,我们为何还要制造它?或许是出于技术探索本身的兴趣,但那实际上是在创造一种新的生命。”斯托克韦尔说道。

**AI改变了我们的语言吗**

LLM式语言已渗透至现实世界,一些语言学家正在寻找AI改变人类语言使用方式的证据。柏林马克斯·普朗克人类发展研究所的一项研究认为,机器最初基于人类数据训练,随后展现出自身的文化特征,反过来又能重塑人类文化。

在新闻领域,美国波因特媒体研究学院的数字媒体素养项目MediaWise负责人亚历克斯·马哈德万(Alex Mahadevan)表达了担忧:如果记者过度依赖AI写作,地方犯罪报道将读起来像警方新闻稿,气候报道会变得与企业可持续发展报告如出一辙,每个网站的首页也将变得千篇一律。这种默认风格往往还会抹平方言及特定社区的表达方式。

但马哈德万补充道,“仅仅因为某样东西是用AI生成的,并不一定意味着它没有价值,但必须到位的伦理政策,以及确保生成内容确实有价值的措施,同样不可或缺。”

当被问及“AI是否正在改变我们的语言”时,斯托克韦尔显得乐观。他认为,AI生成的内容本质上是不断复制和扩展已有的语言模式,是一种“向后看”的技术。

作为大学教授,斯托克韦尔对学生使用AI工具写作业持开放态度。他说:“真正的问题不在于AI,而在于评价制度。学生写论文,最重要的本是整个学习过程,而非最后提交的那篇文章。研究、思考、形成自己的观点,这些才是真正有价值的部分。”

面对同样的问题,哈达克的答案是:担心AI是否会改变语言毫无意义。它已经改变了,并将继续改变下去。更有趣的问题是,哪些变化只是出于临时便利,哪些变化将持久存在。

“语言是一条不可阻挡的河流,无论对它选择流经的路径产生多少焦虑,都永远无法阻止它。如果你试图阻止它的进程,你最终会得到牛轭湖(注:一种由河流自然演变形成的湖泊,因形状酷似牛拉车时套在脖子上的“牛轭”而得名。)——那里景色宜人适合游览,但除此之外,你已被语言所承载,并不可阻挡地奔向大海的文化、思想和理解的潮流抛在了身后。”哈达克用河流比喻语言的变迁。

她曾举一例向学生说明重大文化变迁如何在语言上留下烙印。在很长一段时期内,马在许多国家至关重要——它是食物、交通工具、身份象征、战场资产、体育“器材”。正因如此,英语中有数百甚至数千个短语反映了马曾经持久的影响力:closing the stable door after the horse has bolted(亡羊补牢)、dark horse(黑马)、hold your horses(慢着)等等。每一个重大发展都会在语言上留下烙印,进入21世纪,技术对语言产生了极其巨大的影响。

例如,研究者关注的一个问题是,LLM是在人类撰写的文本上训练而成并模仿人类行为,为何其输出内容有时会不成比例地使用某些词汇?

德国图宾根大学研究团队2024年的一项研究,分析了PubMed收录的1500多万篇生物医学论文摘要,发现“delve”(深入探讨)等词汇自ChatGPT普及后出现异常增长,并认为这与LLM辅助写作密切相关。另一项发表于美国《国家科学院院刊》(PNAS)的研究则发现,经过指令微调的LLM通常呈现出更“名词密集”、代词使用较少的写作风格。

研究推测,上述现象可能并非模型本身所致,而是在人类反馈强化学习(RLHF)过程中,由负责评估和引导模型的人类导致。那些“薪酬过低、压力过大、时间紧迫”的数据标注员,倾向于将使用复杂名词、书面词汇、客观抽象语法的回答评为“更专业、质量更高”,模型在不知不觉中便被训练得更频繁地使用它们。

哈达克表示,相比语言不可避免的演变,更大的担忧在于长久以来内置于大语言模型中的偏见,以及这种偏见可能潜在地放大并固化那些有害的、阻碍文明整体向前发展的态度或观念。

她说,已有报告指出,人们可能以加深自身错误认知的方式过度依赖AI系统。“在一个本就充满分歧与敌意的世界里,一个巨大的隐患是,那些看起来礼貌且中立的技术,到头来反而是在重新复制、甚至放大人类最糟糕的偏见与缺陷。”

本期编辑 徐滁