近期,科技界迎來(lái)了一項(xiàng)創(chuàng)新突破,數(shù)據(jù)智能領(lǐng)域的佼佼者Databricks推出了一種名為TAO(測(cè)試時(shí)自適應(yīng)優(yōu)化)的新型大語(yǔ)言模型微調(diào)技術(shù)。這項(xiàng)技術(shù)通過(guò)整合無(wú)標(biāo)注數(shù)據(jù)和強(qiáng)化學(xué)習(xí),不僅大幅削減了企業(yè)成本,還顯著提升了模型性能。
據(jù)悉,TAO方法的核心在于其獨(dú)特的測(cè)試時(shí)計(jì)算能力,能夠自動(dòng)探索任務(wù)的各種可能性,并結(jié)合強(qiáng)化學(xué)習(xí)技術(shù)對(duì)模型進(jìn)行優(yōu)化。這一過(guò)程省去了繁瑣的人工標(biāo)注,使得企業(yè)在應(yīng)用大語(yǔ)言模型時(shí)更加高效和經(jīng)濟(jì)。
在實(shí)際測(cè)試中,TAO技術(shù)展現(xiàn)出了驚人的實(shí)力。以金融文檔問(wèn)答和SQL生成任務(wù)為例,經(jīng)過(guò)TAO微調(diào)的Llama 3.3 70B模型,其表現(xiàn)甚至超越了傳統(tǒng)的標(biāo)注微調(diào)方法,直逼OpenAI的頂級(jí)閉源模型。這一成果無(wú)疑為行業(yè)樹(shù)立了新的標(biāo)桿。
具體來(lái)看,在FinanceBench基準(zhǔn)測(cè)試中,包含7200道SEC文檔問(wèn)答的任務(wù)中,TAO模型以85.1的高分領(lǐng)先,優(yōu)于標(biāo)注微調(diào)(81.1分)和OpenAI的o3-mini模型(82.2分)。在BIRD-SQL測(cè)試中,TAO模型同樣表現(xiàn)出色,以56.1分接近GPT-4o的58.1分,并遠(yuǎn)超標(biāo)注微調(diào)方法的54.9分。盡管在DB Enterprise Arena測(cè)試中,TAO模型以47.2分略低于GPT-4o的53.8分,但其整體表現(xiàn)依然令人矚目。
TAO技術(shù)的推出,不僅為開(kāi)源模型提供了一條持續(xù)進(jìn)化的路徑,還賦予了模型通過(guò)用戶反饋數(shù)據(jù)自我優(yōu)化的潛力。隨著用戶使用的增多,模型將不斷學(xué)習(xí)和改進(jìn),進(jìn)一步提升其性能和適用性。
目前,TAO技術(shù)已在Llama模型上啟動(dòng)了私密測(cè)試。企業(yè)用戶可以通過(guò)申請(qǐng)表單參與測(cè)試,率先體驗(yàn)這一創(chuàng)新技術(shù)帶來(lái)的變革。隨著測(cè)試的深入和技術(shù)的不斷成熟,TAO有望在未來(lái)成為推動(dòng)大語(yǔ)言模型應(yīng)用發(fā)展的重要力量。