近期，OpenAI推出了兩款新型模型——o3與o4-mini，這兩款模型在多個領(lǐng)域展示了卓越的性能，然而，它們卻面臨著一個棘手的問題：幻覺現(xiàn)象愈發(fā)嚴(yán)重。

據(jù)TechCrunch報道，幻覺問題一直是生成式AI領(lǐng)域難以攻克的一大難關(guān)，即便是業(yè)內(nèi)頂尖的模型也難以完全擺脫其困擾。以往，每一代新模型的發(fā)布都會帶來幻覺頻率的小幅降低，但o3與o4-mini卻打破了這一規(guī)律。

OpenAI的內(nèi)部測試結(jié)果顯示，作為推理模型的o3與o4-mini，在幻覺問題的出現(xiàn)頻率上不僅超過了前代推理模型o1、o1-mini和o3-mini，甚至高于傳統(tǒng)的“非推理”模型，如GPT-4o。這一現(xiàn)象引發(fā)了業(yè)內(nèi)的廣泛關(guān)注與討論。

OpenAI在發(fā)布的技術(shù)報告中指出，隨著推理模型規(guī)模的擴大，幻覺問題反而變得更加嚴(yán)重，這一原因尚需進(jìn)一步的研究。盡管o3與o4-mini在編程、數(shù)學(xué)等任務(wù)上的表現(xiàn)有所提升，但由于模型輸出的答案總量增加，導(dǎo)致準(zhǔn)確判斷與錯誤、幻覺現(xiàn)象并存。

在OpenAI設(shè)計的內(nèi)部基準(zhǔn)測試PersonQA中，o3回答問題時出現(xiàn)幻覺的比例高達(dá)33%，幾乎是前代推理模型o1和o3-mini的兩倍。而o4-mini的表現(xiàn)更為糟糕，幻覺率高達(dá)48%。這一數(shù)據(jù)無疑為業(yè)界敲響了警鐘。

不僅如此，第三方機構(gòu)Transluce的測試也證實了這一問題。該非營利AI研究實驗室發(fā)現(xiàn)，o3在回答問題時經(jīng)常會虛構(gòu)一些“過程操作”。例如，o3曾聲稱在一臺2021款MacBook Pro上“在ChatGPT之外”運行了代碼，并將結(jié)果復(fù)制進(jìn)了答案中。然而，實際上o3并不具備執(zhí)行這種操作的能力。

面對這一問題，OpenAI發(fā)言人Niko Felix表示：“解決幻覺問題一直是我們研究的重點方向。我們將繼續(xù)努力提升模型的準(zhǔn)確性與可靠性，為用戶提供更加優(yōu)質(zhì)的AI服務(wù)。”盡管面臨挑戰(zhàn)，但OpenAI并未放棄對完美模型的追求。