【AI大模型】Assistants API

概念

Assistants API(助手API)是OpenAI提供的一套API,方便開發(fā)者可以使用代碼的方式創(chuàng)建自定義AI助手。

允許接入三種不同類型的 tools

  • 代碼解釋器(Code Interpreter)
  • 檢索,知識(shí)庫集成(Retrieval)
  • 函數(shù)調(diào)用(Function calling)

通過構(gòu)建 AI 助手,用戶可以通過指令(instructions)設(shè)置助手的角色和能力。然后,AI 助手將利用其強(qiáng)大的大語言模型能力、各種工具(tools)和知識(shí)庫來回答用戶的問題。

GPTs 是什么

  • GPTs 是 OpenAI 提供的可以在平臺(tái)網(wǎng)頁上快速創(chuàng)建定制版的ChatGPT(即自定義聊天機(jī)器人)的功能。

構(gòu)建一個(gè)完整的GPTs應(yīng)用

登陸 OpenAI 網(wǎng)站,選擇 Explore,然后再 My GPTs 中選擇 create a GPTs.

有兩種方式可以進(jìn)行GPTs 的創(chuàng)建:

  • 通過對(duì)話的方式進(jìn)行,選擇 Create
  • 通過配置的方式進(jìn)行,選擇 Configure

只需要將需要的配置進(jìn)行設(shè)置,就能得到一個(gè)想到的GPTs的能力。

  • Web Browsing:網(wǎng)頁瀏覽能力
  • Code Interpreter:代碼編寫以及執(zhí)行能力
    下圖是這個(gè)數(shù)據(jù)分析助手的一個(gè)demo情況,用戶可以在兩三分鐘內(nèi)快速實(shí)現(xiàn)一個(gè)AI助手。


Assistants API 集成

用戶可以通過Assistant playground 進(jìn)行Assistants API 的探索,參考以下教程使用 API 進(jìn)行 AI Assistant 集成。

通常進(jìn)行 Assistants API 集成需要一下四個(gè)步驟:


  1. 首先創(chuàng)建一個(gè)AI助手 (Assistant)。
  • 通過自定義指令(custom instructions)進(jìn)行 AI 助手能力定義,實(shí)現(xiàn) AI 助手的形象和能力定位。
  • 選擇基礎(chǔ)模型,可以選擇 GPT-3.5、GPT-4 等作為基礎(chǔ)模型。
  • 選擇擴(kuò)展能力 tools 例如 code interpreter, retrieval 以及其他的 function call 工具。
  1. 創(chuàng)建一個(gè)對(duì)話(Thread) 進(jìn)行一個(gè)交流。
  2. 在對(duì)話中傳入消息(Messages),進(jìn)行提問。
  3. 在對(duì)話中進(jìn)行執(zhí)行(Run),AI Assistant 會(huì)自動(dòng)運(yùn)行相關(guān)的tools。

已有能力:

  • 創(chuàng)建和管理 assistant,每個(gè) assistant 有獨(dú)立的配置
  • 支持無限長的多輪對(duì)話,對(duì)話歷史保存在 OpenAI 的服務(wù)器上
  • 通過自有向量數(shù)據(jù)庫支持基于文件的 RAG
  • 支持 Code Interpreter
    • 在沙箱里編寫并運(yùn)行 Python 代碼
    • 自我修正代碼
    • 可傳文件給 Code Interpreter
  • 支持 Function Calling
  • 支持在線調(diào)試的 Playground

承諾未來會(huì)有的能力:

  • 支持 DALL·E
  • 支持圖片消息
  • 支持自定義調(diào)整 RAG 的配置項(xiàng)

收費(fèi):

  • 按 token 收費(fèi)。無論多輪對(duì)話,還是 RAG,所有都按實(shí)際消耗的 token 收費(fèi)
  • 如果對(duì)話歷史過多超過大模型上下文窗口,會(huì)自動(dòng)放棄最老的對(duì)話消息
  • 文件按數(shù)據(jù)大小和存放時(shí)長收費(fèi)。1 GB 向量存儲(chǔ) 一天收費(fèi) 0.10 美元
  • Code interpreter 跑一次 $0.03

大模型典型的商業(yè)應(yīng)用:

1、智能體越來越多
2、大語言模型在解決業(yè)務(wù)上單點(diǎn)問題效果非常好:客服的對(duì)話分析。

Assistants API是OpenAI去年11月份發(fā)布的(封裝的云接口,集成了更多能力),主要是彌補(bǔ)原生API有很多不足:如RAG功能需要自己開發(fā),如不方便做三方接口封裝等。

GPTs的作用:可以不用寫代碼,在GPT Store里快速配置搭建一個(gè)GPT給客戶演示,或搭建原型驗(yàn)證功能可行性。

1、GPTs是基于網(wǎng)頁操作,可以快速搭建自定義GPT(自定義機(jī)器人)
2、如果要進(jìn)行深度開發(fā),需要用到Assistants API(內(nèi)部封裝了RAG、Function等)

OpenAI其實(shí)給了應(yīng)用開發(fā)者更大的空間

1、更多技術(shù)路線選擇:原生API、GPTs 和 Assistants API
2、想要極致調(diào)優(yōu),還得原生 API + RAG

做一個(gè)自己的GPT

需求:
1、能對(duì)話
2、可以查詢自己的數(shù)據(jù)庫
3、用文件做知識(shí)庫

方式1:通過網(wǎng)頁創(chuàng)建(platform.openai.com/assistants)
方式2:通過代碼創(chuàng)建

GPTs與智能體的區(qū)別
智能體更加復(fù)雜:不光是判斷當(dāng)前調(diào)用什么函數(shù),他把一個(gè)工作拆成多個(gè)步驟,然后一步一步去執(zhí)行。

GPTs與Playground區(qū)別
GPTs偏向于用戶,可以快速配置一個(gè)GPT
Playground偏開發(fā)(模擬代碼調(diào)用),可以調(diào)試開發(fā)的一些細(xì)節(jié),和查看日志,是Assistants API的界面調(diào)試工具。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時(shí)請(qǐng)結(jié)合常識(shí)與多方信息審慎甄別。
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡書系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

  • 前言 用自然語言連接系統(tǒng)的認(rèn)知,面向未來思考系統(tǒng)間的集成 GPTs 是如何連接外部世界的 用 Function C...
    irenb閱讀 2,083評(píng)論 0 1
  • 定義 RAG(Retrieval Augmented Generation),是指通過檢索的方法來增強(qiáng)生成的模型架...
    irenb閱讀 547評(píng)論 0 1
  • 前言 了解提示工程的跨時(shí)代意義 掌握提示工程的核心方法論 掌握提示調(diào)優(yōu)的基本方法,了解它在實(shí)際生產(chǎn)中的應(yīng)用 掌握防...
    irenb閱讀 2,677評(píng)論 0 1
  • 前言 1、了解大模型能做什么2、整體了解大模型應(yīng)用開發(fā)技術(shù)棧3、淺嘗OpenAI API的調(diào)用 AI全棧工程師:懂...
    irenb閱讀 426評(píng)論 0 4
  • 2024 年到了,DIY LLM 玩具?現(xiàn)在完全是一件事了。不需要任何技術(shù)魔法,只需要你的好奇心。我冒險(xiǎn)嘗試,將一...
    e98a10508980閱讀 1,079評(píng)論 0 1

友情鏈接更多精彩內(nèi)容