Harness Engineering內(nèi)涵

目前普遍將其翻譯為“駕馭工程”。

“大力出奇跡”,大模型讓人真正感受到了AI的力量,于是AI幾乎成為大模型的代名詞。

但大模型并不是人們想象中的、準確的人工智能。它會出錯,會糊涂,也會拼湊答案。

它就像一匹野馬,不聽話,需要馴服,然后套上韁繩,才能駕馭。

實為新一代軟件工程

軟件工程(Software Engineering)從提出到系統(tǒng)性發(fā)展,已經(jīng)經(jīng)歷了幾十年。

從最初模仿其他領域的工程化方法,到逐步形成自身的理論體系和實踐方法。

從理想化的模型驅(qū)動開發(fā),到務實的敏捷迭代增量開發(fā)、DevOps,再到如今的大模型輔助軟件開發(fā),終于在開發(fā)速度上實現(xiàn)了質(zhì)的飛躍。

Harness Engineering 正是當前軟件工程的探索與實踐方向。

實為駕馭大模型的工程實踐

為避免誤解,我們應將 Harness Engineering 理解為軟件工程中的一個實踐——即駕馭大模型為軟件開發(fā)所用的工程實踐。

中文翻譯喜歡短小精悍,但“駕馭工程”有名詞化嫌疑,容易讓人誤解為一種新的工程學科,或是一種新型軟件工具,只需購買即可實現(xiàn)。而原文實際上是進行時的表述,是一個過程,更適合稱為“×××工程實踐”。

這與前兩年流行的“Prompt Engineering”“Platform Engineering”等詞類似,都是一種實踐、理念,而非新的學科或工具。

工程總會結(jié)束,唯有時間永無止境。

實踐內(nèi)涵

駕馭大模型的實踐,是這一時期針對大模型在軟件開發(fā)中應用的總結(jié)和提煉。這個說法也非常形象,讓人聯(lián)想到“馭”“馬”。

Prompt Engineering,誕生于大模型應用的初期。人們發(fā)現(xiàn)大模型能產(chǎn)生驚人的效果,但結(jié)果與輸入密切相關(guān),因此針對輸入的設計和優(yōu)化成為重要的實踐領域。Prompt Engineering 專注于如何設計和優(yōu)化輸入,以獲得更優(yōu)輸出。

各種提示詞經(jīng)驗不斷積累和總結(jié),各類珍藏的提示詞庫也隨之出現(xiàn)。

與之類似的還有:In-Context Learning(在提示詞中提供例子以引導期望輸出)、Chain-of-Thought Prompting(引導模型輸出中間推理步驟)、Self-Consistency(多次采樣推理路徑,投票選出最穩(wěn)定答案)等。

Retrieval-Augmented Generation (RAG,知識與檢索增強),是一種針對大模型缺乏專業(yè)知識問題而設計的緩解方法。通過設置額外的向量數(shù)據(jù)庫,將專業(yè)知識分片、分詞建立向量空間索引。在調(diào)用大模型前,先進行一次向量索引查詢,將查詢結(jié)果與其他輸入一并提供給大模型,從而提升結(jié)果的專業(yè)性和準確性。

這屬于增強大模型能力的方法,類似的還有 Tooling、Function Calling、MCP 等,為大模型提供專門的知識獲取途徑。

Agent,即大模型代理技術(shù)(俗稱智能體),是在大模型與直接應用之間添加代理層,引入常規(guī)編程手段來控制大模型行為。通過設計代理的行為邏輯和決策機制,可以更好地引導大模型輸出,提升其在特定任務上的表現(xiàn)。

可以說,大模型 Agent 技術(shù),是目前讓大模型在生產(chǎn)生活中穩(wěn)定應用的主要手段。各類 IDE 插件、自動化工具、編程助手都在發(fā)力提升 agent 的能力。

駕馭大模型的實踐,是上述技術(shù)的綜合應用。用一句話概括,就是為了讓大模型能夠接入生產(chǎn)環(huán)境,發(fā)揮最大價值,獲得經(jīng)濟效益。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時請結(jié)合常識與多方信息審慎甄別。
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務。

相關(guān)閱讀更多精彩內(nèi)容

友情鏈接更多精彩內(nèi)容