提問(wèn)剛過(guò)幾秒，就得到一篇“長(zhǎng)文”；扔進(jìn)幾張圖片，就收獲一部“大片”……如今，一些小伙伴寫個(gè)文案、做個(gè)PPT、畫個(gè)圖、剪個(gè)視頻，干啥都離不了AI（人工智能）。各色各樣的AI大模型提升了工作效率，增強(qiáng)了腦回路。但是，一些幻覺(jué)也在不知不覺(jué)中產(chǎn)生了。
比如，最近有媒體刊文，探討人工智能也會(huì)“胡說(shuō)八道”的現(xiàn)象。文中提到，面對(duì)“康熙有幾個(gè)兒子”的問(wèn)題，不同大模型竟給出不同答案，讓“問(wèn)題”真的變成了問(wèn)題。
不少網(wǎng)友也有過(guò)類似經(jīng)歷。比如，給某AI模型出題——“畫一幅唐代金陵繁華市井圖”。數(shù)秒后，得出的圖片雖有了“夜市千燈照碧云”的繁盛意象，但街道兩旁建筑明明是明清風(fēng)格，街邊行人甚至是西裝革履。這分明就是21世紀(jì)的南京夫子廟。
人工智能“一本正經(jīng)胡說(shuō)八道”的現(xiàn)象，被研究者們稱作“AI幻覺(jué)”，這是AI本身對(duì)于知識(shí)的記憶不足、理解能力欠缺、訓(xùn)練模式單一等因素導(dǎo)致的，而經(jīng)過(guò)不斷迭代技術(shù)、優(yōu)化算法，未來(lái)AI會(huì)變得越來(lái)越精確。換句話說(shuō)，“AI幻覺(jué)”是技術(shù)發(fā)展進(jìn)程中的一種現(xiàn)象，今后可以逐步彌補(bǔ)。但需要注意的是，AI“胡說(shuō)八道”往往會(huì)讓人產(chǎn)生“文化幻覺(jué)”，這種“文化幻覺(jué)”有時(shí)候負(fù)面影響還很大，彌補(bǔ)起來(lái)就不那么容易了。
綜合下來(lái)看，AI導(dǎo)致的“文化幻覺(jué)”通常有幾種表現(xiàn)。
一是指鹿為馬。針對(duì)文章開(kāi)頭提到的問(wèn)題，有的AI模型說(shuō)35個(gè)，有的說(shuō)24個(gè)，各有各的說(shuō)法。這時(shí)候，用戶很容易混淆是非。對(duì)AI“拼湊”出的有誤答案，很多用戶可能全盤接收，不去進(jìn)一步核實(shí)，這其中不排除歷史、文化等嚴(yán)肅問(wèn)題的回答。這樣一來(lái)，一個(gè)擁有龐大用戶群體的AI模型，稍有不慎，就會(huì)造成錯(cuò)誤結(jié)論和觀念廣泛傳播。
二是無(wú)中生有。有媒體曾嘗試向某AI模型提出本不存在的問(wèn)題，比如，誰(shuí)贏得了1897年美國(guó)和南極洲的戰(zhàn)斗？沒(méi)想到，AI還洋洋灑灑、條理清晰地回答了幾大段，寫明了“戰(zhàn)斗”的時(shí)間、人物、地點(diǎn)。從這個(gè)案例中，我們能看到AI創(chuàng)作小說(shuō)的巨大潛質(zhì)，但也有了隱憂，假如AI參與修史時(shí)把關(guān)不善，歷史會(huì)不會(huì)真成了“任人打扮的小姑娘”？
三是將錯(cuò)就錯(cuò)。譬如，很多短視頻博主喜歡用人工智能配字幕，為了趕時(shí)效，不仔細(xì)校對(duì)就匆匆發(fā)出。短視頻中錯(cuò)別字多了，大家秉持“錯(cuò)就錯(cuò)吧，反正不影響閱讀”的態(tài)度，平臺(tái)、用戶、作者都對(duì)錯(cuò)別字問(wèn)題睜一只眼閉一只眼。長(zhǎng)此以往，就會(huì)造成大量的“以訛傳訛”。
技術(shù)經(jīng)得起試錯(cuò)，但文化傳承經(jīng)不起試錯(cuò)，特別是作為“根和魂”的優(yōu)秀傳統(tǒng)文化。AI導(dǎo)致的“文化幻覺(jué)”一旦蔓延開(kāi)來(lái)，輕則讓傳統(tǒng)文化的傳承內(nèi)容變得模糊、扭曲、割裂，重則給歷史虛無(wú)主義等錯(cuò)誤思想以可乘之機(jī)。如果一代人從出生就沉浸于AI雜糅各類元素、弱化年代感的“賽博朋克”圖文作品。那么，他們對(duì)古建筑、古詩(shī)詞、傳統(tǒng)服飾等文化符號(hào)又會(huì)有多敏感？對(duì)文化遺產(chǎn)背后的歷史之變、技藝之美、文脈之續(xù)又有多少探索的興致？
實(shí)事求是說(shuō)，“AI幻覺(jué)”不可避免，且會(huì)持續(xù)很長(zhǎng)時(shí)間，但“文化幻覺(jué)”則是經(jīng)給努力可以控制和避免的。在這方面，技術(shù)、監(jiān)管部門、用戶三方的力量都少不了。
羊毛出在羊身上，技術(shù)的問(wèn)題首先還要靠技術(shù)解決。前陣子傳來(lái)好消息，“AI幻覺(jué)”已被研發(fā)者們重視。據(jù)稱，通過(guò)“搜索引擎校正”等專業(yè)方法，“AI幻覺(jué)”的漏洞正在修復(fù)，其引發(fā)的“文化幻覺(jué)”也會(huì)逐步減少。在監(jiān)管方面，相關(guān)部門和平臺(tái)則應(yīng)該建立符合AI發(fā)展實(shí)際的內(nèi)容監(jiān)管體系，在史實(shí)證據(jù)、經(jīng)典闡釋等方面加強(qiáng)把關(guān)力度。當(dāng)然，用戶提升自己的信息素養(yǎng)也很重要。就我們目前的認(rèn)知而言，AI還只是工具，如果把文化發(fā)展比作一片藍(lán)海，AI則是可利用的“槳”。引航向的“燈塔”，永遠(yuǎn)是文化中的魂脈和根脈。