中新網(wǎng)北京4月1日電(記者 吳濤)在享受AI帶來(lái)便捷的同時(shí)，你是否發(fā)現這個(gè)問(wèn)題揮之不去——AI幻覺(jué)，一種“看似真實(shí)、實(shí)則虛構”的內容生成現象，正滲透進(jìn)我們的生活。它到底是通往更強大智能的陣痛，還是技術(shù)發(fā)展的“魔性副產(chǎn)物”？未來(lái)，AI幻覺(jué)能否為我所用？

　　幻覺(jué)亂象，層出不窮

　　AI大模型固然“聰明”，但在“胡說(shuō)八道”方面也毫不遜色。虛構引用、杜撰人物、邏輯混亂，在與AI的互動(dòng)中屢見(jiàn)不鮮。

　　例如，它會(huì )引用一篇根本不存在的“2023年哈佛研究”；或者，為并不存在的“諾貝爾物理學(xué)獎得主約翰·史密斯”編織一段“量子物理貢獻”的敘述。有時(shí)候，它甚至會(huì )在你一再否認其內容后“動(dòng)搖立場(chǎng)”，反復修改說(shuō)法。

　　中新網(wǎng)記者在測試中還發(fā)現，AI模型在面對較為復雜的推理問(wèn)題時(shí)，可能“宕機”或自相矛盾。而當你編造出一個(gè)根本不存在的概念，比如“高數幾何睡眠法”，它也會(huì )一本正經(jīng)地回答：“這是一種將睡眠科學(xué)與高等數學(xué)相結合的個(gè)性化學(xué)習策略……”——說(shuō)得頭頭是道。

　　當中新網(wǎng)記者輸入自己的名字請AI大模型進(jìn)行介紹，還出現了一名乍看上去完全合理，但其實(shí)完全不存在的人，可以說(shuō)除了“記者”是真的，其他全是假的。

　　技術(shù)問(wèn)題，還是認知演進(jìn)？

　　“AI幻覺(jué)就是生成看起來(lái)像真的一樣的虛假信息?！被ヂ?lián)網(wǎng)行業(yè)從業(yè)者、58同城CEO姚勁波接受中新網(wǎng)采訪(fǎng)認為，它當然需要治理，但現階段還未構成決定性風(fēng)險?！盎ヂ?lián)網(wǎng)發(fā)展這么多年，虛假信息仍然很多，沒(méi)有被徹底消除，但網(wǎng)友的識別能力也越來(lái)越高。我認為AI領(lǐng)域也一樣，隨著(zhù)用戶(hù)教育的積累，越來(lái)越多的網(wǎng)友自己可以分辨出AI幻覺(jué)?！?/p>

　　不過(guò)，并非所有從業(yè)者都如此樂(lè )觀(guān)?？拼笥嶏w董事長(cháng)劉慶峰曾指出，生成式AI的幻覺(jué)問(wèn)題不僅關(guān)乎內容真假，更可能形成算法偏差的惡性循環(huán)——虛假內容被AI再次學(xué)習、放大，反復再生產(chǎn)。

　　但值得注意的是，AI幻覺(jué)在部分場(chǎng)景中卻意外成了創(chuàng )作“靈感來(lái)源”。游戲開(kāi)發(fā)、動(dòng)漫設計、小說(shuō)創(chuàng )作等領(lǐng)域，恰恰歡迎那種“不合常理”的奇思妙想。比如AI生成的創(chuàng )意圖片不少是違反自然規律的，但這不影響創(chuàng )意圖的效果。

　　一位不愿具名的開(kāi)源大模型社區負責人坦言：“今年的大模型比往年更好，就是因為產(chǎn)生了一部分想象力的創(chuàng )作?！?/p>

　　治理AI幻覺(jué)，路徑幾何？

　　如何治理AI幻覺(jué)？技術(shù)手段正在快速跟進(jìn)。一方面，企業(yè)正在為大模型接入權威知識庫或實(shí)時(shí)搜索能力，使其答案更具事實(shí)依據；另一方面，“標注AI生成內容”也成為監管部門(mén)推動(dòng)的方向。

　　上述開(kāi)源大模型社區負責人就表示，AI大模型如今引入聯(lián)網(wǎng)搜索，各個(gè)平臺也在用算法和工程解決一部分幻覺(jué)問(wèn)題。

　　中國工程院院士張亞勤近日表示，幻覺(jué)在橫向模型里會(huì )越來(lái)越少，但是它不會(huì )消失，這是生成式AI的特點(diǎn)。要消失的話(huà)，一定需要具體到某個(gè)行業(yè)時(shí)，用更精準的數據和更精準的模型結合起來(lái)，才會(huì )達到效果。

　　多位科技領(lǐng)域企業(yè)家也提出了相應對策。360集團創(chuàng )始人周鴻祎強調企業(yè)模型需對接專(zhuān)有知識庫進(jìn)行校正，劉慶峰則建議，要定期清理模型中的“幻覺(jué)數據”。

　　零一萬(wàn)物CEO李開(kāi)復則認為，“聯(lián)網(wǎng)搜索能力”是降低AI幻覺(jué)的關(guān)鍵路徑，但現實(shí)操作中并不輕松。每個(gè)企業(yè)都有自己的數據庫、CRM、ERP系統，聯(lián)網(wǎng)不是難，而是難以實(shí)時(shí)、完整。這方面還需繼續突破。

　　政策層面也已展開(kāi)行動(dòng)。近日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內容標識辦法》(以下簡(jiǎn)稱(chēng)《辦法》)。

　　《辦法》聚焦人工智能“生成合成內容標識”關(guān)鍵點(diǎn)，通過(guò)標識提醒用戶(hù)辨別虛假信息，明確相關(guān)服務(wù)主體的標識責任義務(wù)，規范內容制作、傳播各環(huán)節標識行為，將于2025年9月1日起施行。

　　國家互聯(lián)網(wǎng)信息辦公室有關(guān)負責人介紹，《辦法》重點(diǎn)解決“哪些是生成的”“誰(shuí)生成的”“從哪里生成的”等問(wèn)題，推動(dòng)由生成到傳播各環(huán)節的全流程安全管理，力爭打造可信賴(lài)的人工智能技術(shù)。(完)