在今年的AI工程師大會上,OpenAI研究員Sean Grove發(fā)表了一場引人深思的演講,他提出了一個頗具顛覆性的觀點:在AI驅動的時代,清晰且具有人類可讀性的規(guī)范(spec)或將取代傳統(tǒng)代碼,成為軟件開發(fā)領域的核心產出。
Grove強調,編程的本質在于溝通。軟件開發(fā)遠非簡單地敲擊鍵盤編寫代碼,而是一個結構化的溝通過程,涉及理解需求、明確目標,并將這些構思清晰地傳達給團隊成員和計算機。他指出,從代碼到規(guī)范的轉變,不僅是方法論上的更新,更是工程實踐的未來趨勢。
Grove進一步闡述,代碼本身只是人類意圖的一種“失真反映”。在將想法轉化為現實的過程中,信息難免丟失或扭曲。因此,真正的稀缺能力不再是編寫代碼,而是如何將人類的意圖精確轉化為清晰的規(guī)范和提示詞。
這一觀點在技術社區(qū)引發(fā)了廣泛討論。有網友評論稱,Grove的演講本質上倡導的是多傾聽產品經理的聲音,通過編寫更優(yōu)質的規(guī)范文檔來驅動開發(fā)流程。有人甚至調侃,這似乎是在緩慢地“重新發(fā)明”瀑布開發(fā)模型和ASPICE(汽車軟件開發(fā)規(guī)范)。
然而,也有反對聲音指出,當應用出現問題時,程序員調試的還是實際代碼,而非規(guī)范文檔。代碼才是最終的可執(zhí)行真相,其他都只是愿景。盡管如此,不可否認的是,Grove所描繪的“規(guī)范驅動開發(fā)”路線確實代表了AI編程的一個重要轉折。
Grove以OpenAI的模型規(guī)范為例,展示了規(guī)范如何成為溝通意圖和價值取向的橋梁。他提到,去年OpenAI發(fā)布的模型規(guī)范是一份動態(tài)文檔,旨在明確介紹模型的意圖和價值取向。這份規(guī)范在今年二月完成了更新并開源,現在可以在GitHub上查看。
他強調,盡管我們努力使用更清晰的語言,但有時仍然難以表達細微差別。因此,模型規(guī)范中的每項條款都有對應的ID,并包含針對該條款的復雜提示詞。這些文檔本身明確了標準,即被測模型必須以真正符合條款的方式來回答問題。
Grove還分享了OpenAI如何應對模型“討好”用戶的問題。他提到,模型規(guī)范在發(fā)布時就設有針對此類問題的條款。當模型出現過度討好用戶的情況時,規(guī)范成為了支撐信任的錨點,讓人們有了可以把握的預期。
Grove還探討了規(guī)范如何成為訓練材料和評估材料。他提到了一種“審議性對齊”的技術,通過獲取規(guī)范和一組可能與之相悖的提示詞,并從所測試或訓練的模型中采樣,來評估模型的響應是否符合規(guī)范。
Grove認為,規(guī)范內容可以很靈活,可以是代碼風格、測試要求或安全要求等。所有這些都可以嵌入到模型中,從而提高模型的輸出一致性。他強調,雖然這里的模型規(guī)范是Markdown格式,但與代碼相差無幾。
在演講中,Grove還提到了立法者與程序員的相似之處。他以美國憲法為例,指出憲法是一份國家層面的示范性規(guī)范,有書面文本和清晰的政策條例可供參考。憲法也有版本控制機制來修改、補充和更新,并通過司法審查來評估現狀與政策的契合程度。
Grove呼吁大家重視并參與到規(guī)范的制定中來。他認為,這是大規(guī)模協(xié)調智能體的前提,也是推動AI步入下個發(fā)展階段的必要手段。他鼓勵開發(fā)者在開發(fā)下一項AI功能時,先從規(guī)范入手,思考想要的效果和成功的標準,并將其清晰記錄并傳達出來。
Grove的演講為軟件開發(fā)領域帶來了新的思考。在AI技術日益成熟的今天,如何更好地利用規(guī)范來溝通意圖、提高開發(fā)效率并確保軟件質量,將成為開發(fā)者們不斷探索和實踐的課題。