近日，科技媒體TechCrunch報(bào)道了一則關(guān)于人工智能領(lǐng)域的新動(dòng)向。在Anthropic于舊金山主辦的首次開發(fā)者盛會(huì)“Code with Claude”上，該公司的首席執(zhí)行官達(dá)里奧·阿莫代伊分享了一個(gè)引人注目的觀點(diǎn)：當(dāng)前的人工智能模型產(chǎn)生“幻覺”的概率，或許已經(jīng)低于人類。
所謂“幻覺”，在AI領(lǐng)域特指模型虛構(gòu)內(nèi)容并以事實(shí)的形式進(jìn)行呈現(xiàn)。阿莫代伊在會(huì)上強(qiáng)調(diào)，盡管AI有時(shí)會(huì)“出錯(cuò)”，但這些錯(cuò)誤并不妨礙Anthropic向通用人工智能（AGI）的目標(biāo)邁進(jìn)。他提到：“如果我們用特定的標(biāo)準(zhǔn)來衡量，我猜測(cè)AI模型的幻覺頻率可能已低于人類，只是它們的錯(cuò)誤方式往往更為出人意料。”
阿莫代伊一直是業(yè)界中對(duì)AGI前景最為樂觀的聲音之一。他堅(jiān)信：“人們總是試圖尋找AI能力的邊界，但至今我們?nèi)晕从|及這一極限。”然而，并非所有人都持相同觀點(diǎn)。谷歌DeepMind的首席執(zhí)行官哈薩比斯就在本周指出，當(dāng)前的AI模型仍存在大量漏洞，甚至在一些基礎(chǔ)問題上也會(huì)給出錯(cuò)誤的答案。
值得注意的是，在處理復(fù)雜的推理任務(wù)時(shí)，一些新的人工智能模型反而出現(xiàn)了更嚴(yán)重的“幻覺”現(xiàn)象。例如，OpenAI的o3和o4-mini版本，其幻覺率相較于之前的推理模型有所上升，這一現(xiàn)象連OpenAI自身也未能完全理解。面對(duì)這樣的挑戰(zhàn)，阿莫代伊表示，人類本身也經(jīng)常犯錯(cuò)，因此AI的錯(cuò)誤并不應(yīng)被視為其“不夠聰明”的標(biāo)志。但他也承認(rèn)，當(dāng)AI以極高的信心輸出錯(cuò)誤信息時(shí)，確實(shí)可能引發(fā)一系列問題。
在阿莫代伊看來，AI的錯(cuò)誤與人類的錯(cuò)誤有著本質(zhì)的不同。人類的錯(cuò)誤往往源于認(rèn)知的局限或信息的不足，而AI的錯(cuò)誤則更多是由于其算法和訓(xùn)練數(shù)據(jù)的局限性所導(dǎo)致。因此，他呼吁業(yè)界在追求AI技術(shù)進(jìn)步的同時(shí)，也應(yīng)加強(qiáng)對(duì)AI錯(cuò)誤的理解和應(yīng)對(duì)能力。
