Qwen2.5-Max：對標(biāo)DeepSeek V3

# Qwen2.5-Max：對標(biāo)DeepSeek V3 ![](https://upload-images.jianshu.io/upload_images/17294212-f6c12780126375fe.png) ## Qwen2.5-Max：阿里巴巴挑戰(zhàn)DeepSeek V3的新AI巨頭 大語言模型（LLMs）徹底改變了AI領(lǐng)域，實(shí)現(xiàn)了從聊天機(jī)器人到復(fù)雜推理系統(tǒng)等眾多應(yīng)用。這些模型依賴大量數(shù)據(jù)和計(jì)算能力，隨著規(guī)模的擴(kuò)大，它們的能力也在不斷提升。這一進(jìn)步背后的關(guān)鍵因素是混合專家（MoE）架構(gòu)。MoE允許模型使用多個(gè)專門的子網(wǎng)絡(luò)，即 “專家”，而不是在每個(gè)任務(wù)中都依賴單一的密集網(wǎng)絡(luò)。這種方法使模型效率更高、更擅長專業(yè)化處理，并且能夠在不消耗過多計(jì)算資源的情況下提供更高的性能。 阿里巴巴憑借Qwen2.5-Max實(shí)現(xiàn)了重大飛躍。該模型在20萬億個(gè)詞元的海量數(shù)據(jù)集上進(jìn)行訓(xùn)練，并使用監(jiān)督微調(diào)（SFT）和人類反饋強(qiáng)化學(xué)習(xí)（RLHF）等先進(jìn)技術(shù)進(jìn)行了優(yōu)化。通過此次發(fā)布，阿里巴巴旨在與DeepSeek V3、GPT-4o和LLaMA-3.1等領(lǐng)先模型展開競爭。 ## 什么是可擴(kuò)展的大語言模型Qwen2.5-Max？ 擴(kuò)展一直是人工智能取得突破的關(guān)鍵驅(qū)動(dòng)力。大語言模型（LLMs）的性能會(huì)隨著模型參數(shù)數(shù)量和訓(xùn)練數(shù)據(jù)規(guī)模的增加而顯著提升，這一現(xiàn)象被稱為縮放定律。 這些定律表明，隨著參數(shù)數(shù)量（N）、訓(xùn)練數(shù)據(jù)規(guī)模（D）和計(jì)算能力（C）的增加，損失函數(shù)（L）會(huì)遵循可預(yù)測的下降趨勢： ![](https://upload-images.jianshu.io/upload_images/17294212-b378f4bd45eaed4c.png) 其中α、β和γ是經(jīng)驗(yàn)縮放系數(shù)。簡單來說，在更多樣化、更廣泛的數(shù)據(jù)集上訓(xùn)練的更大模型通常表現(xiàn)更好。 然而，擴(kuò)展規(guī)模的成本很高。訓(xùn)練像GPT-4或DeepSeek V3這樣的模型需要巨大的計(jì)算能力，通常需要數(shù)百萬GPU小時(shí)。這就是混合專家（MoE）架構(gòu)發(fā)揮作用的地方，它使大型模型的效率更高。 ![](https://upload-images.jianshu.io/upload_images/17294212-ae4424189527a916.png) ## 混合專家（MoE）如何提高效率？ 混合專家架構(gòu)使模型能夠在少得多的計(jì)算資源下進(jìn)行預(yù)訓(xùn)練，這意味著在與密集模型相同的計(jì)算預(yù)算下，你可以大幅擴(kuò)大模型或數(shù)據(jù)集的規(guī)模。 傳統(tǒng)的Transformer模型會(huì)為每個(gè)輸入詞元激活所有參數(shù)。這意味著對于一個(gè)擁有1000億參數(shù)的密集模型，在每次計(jì)算中，所有1000億個(gè)參數(shù)都會(huì)參與，消耗巨大的資源。 另一方面，MoE模型將參數(shù)劃分為不同的 “專家” 網(wǎng)絡(luò)，每個(gè)詞元僅使用其中的一個(gè)子集。例如，如果一個(gè)模型有1000億個(gè)參數(shù)，但每個(gè)詞元僅激活100億個(gè)，那么它可以在僅使用100億參數(shù)模型計(jì)算量的情況下，實(shí)現(xiàn)1000億參數(shù)模型的性能。 ### 混合專家架構(gòu) - **現(xiàn)實(shí)世界類比**：可以把MoE想象成一家醫(yī)院。醫(yī)院不是把每個(gè)病人都送到普通醫(yī)生（密集模型）那里，而是將他們送到合適的?？漆t(yī)生（心臟病專家、神經(jīng)科醫(yī)生等）那里，這樣可以提高效率和治療效果。 - **AI領(lǐng)域示例**：DeepSeek V3是最著名的MoE模型之一，它展示了這種方法如何在提高模型規(guī)模的同時(shí)減少計(jì)算資源浪費(fèi)。 ![](https://upload-images.jianshu.io/upload_images/17294212-b2f2e6fb8e2f47c2.png) ### MoE模型的發(fā)展 #### DeepSeek V3的影響 DeepSeek V3是AI擴(kuò)展領(lǐng)域的一個(gè)里程碑。它每層有16個(gè)專家，能夠超越許多計(jì)算預(yù)算相似的密集模型。它展現(xiàn)出： - 更高的推理效率（MoE僅激活部分專家）。 - 與同等規(guī)模的密集模型相比，訓(xùn)練成本更低。 - 在各種任務(wù)中具有更強(qiáng)的泛化能力。 它的成功證明了MoE是可擴(kuò)展AI的未來。 ![](https://upload-images.jianshu.io/upload_images/17294212-032f01c21a1ce89c.png) ### 介紹Qwen2.5-Max：阿里巴巴的下一代模型 現(xiàn)在，阿里巴巴帶著Qwen2.5-Max加入了MoE競賽，旨在進(jìn)一步提升效率和性能。該模型通過以下方式與DeepSeek V3展開直接競爭： - 使用海量的20萬億詞元數(shù)據(jù)集。 - 采用RLHF等優(yōu)化后的訓(xùn)練后技術(shù)。 - 對現(xiàn)實(shí)世界任務(wù)有更好的泛化能力。 ### Qwen2.5-Max的關(guān)鍵升級 #### 20萬億詞元的訓(xùn)練數(shù)據(jù)集 Qwen2.5-Max最顯著的升級之一是其前所未有的數(shù)據(jù)集規(guī)模 —— 20萬億詞元。為了讓大家有更直觀的感受： - GPT-3是在3000億詞元上進(jìn)行訓(xùn)練的。 - LLaMA 2模型使用了2萬億詞元。 - DeepSeek V3利用了10萬億詞元。 有了20萬億詞元，Qwen2.5-Max可以訪問更豐富、更多樣化的數(shù)據(jù)集，這意味著： - 更好的事實(shí)準(zhǔn)確性。 - 更強(qiáng)的推理能力。 - 提升的多語言性能。 - **現(xiàn)實(shí)世界類比**：想象兩個(gè)學(xué)生準(zhǔn)備考試。一個(gè)學(xué)生只看了幾本教科書（類比GPT-3），而另一個(gè)學(xué)生閱讀了關(guān)于該學(xué)科的所有可用書籍（類比Qwen2.5-Max）。第二個(gè)學(xué)生擁有更豐富的知識儲(chǔ)備，因此更有可能答對問題。 ![](https://upload-images.jianshu.io/upload_images/17294212-3d7ebce745650ff0.png) #### 先進(jìn)的訓(xùn)練后方法 在海量數(shù)據(jù)集上進(jìn)行訓(xùn)練只是其中一部分。為了真正優(yōu)化AI的表現(xiàn)，還需要應(yīng)用監(jiān)督微調(diào)（SFT）和人類反饋強(qiáng)化學(xué)習(xí)（RLHF）等訓(xùn)練后技術(shù)。 - **監(jiān)督微調(diào)（SFT）**：SFT需要手動(dòng)標(biāo)記高質(zhì)量的回復(fù)，然后對模型進(jìn)行微調(diào)，使其更傾向于這些回復(fù)。例如，如果模型生成了兩個(gè)可能的答案，由人來選擇更有用的那個(gè)。模型會(huì)學(xué)習(xí)更傾向于符合人類期望的回復(fù)。 - **人類反饋強(qiáng)化學(xué)習(xí)（RLHF）**：RLHF通過獎(jiǎng)勵(lì)模型來使AI的回復(fù)更符合人類偏好。AI會(huì)生成多個(gè)回復(fù)，然后由人將它們從最好到最差進(jìn)行排序。AI通過強(qiáng)化學(xué)習(xí)進(jìn)行自我更新，以最大化生成受偏好的回復(fù)。 - **現(xiàn)實(shí)世界類比**：可以把RLHF想象成訓(xùn)練自動(dòng)駕駛汽車。如果汽車轉(zhuǎn)彎不當(dāng)，人為干預(yù)會(huì)糾正它，系統(tǒng)就會(huì)學(xué)習(xí)在未來避免這個(gè)錯(cuò)誤。 ![](https://upload-images.jianshu.io/upload_images/17294212-43c1a5349757282e.png) ### 解讀Qwen2.5-Max的架構(gòu) Qwen2.5-Max在大語言模型（LLMs）領(lǐng)域引入了多項(xiàng)改進(jìn)，提高了效率和性能。這些改進(jìn)體現(xiàn)在其架構(gòu)、訓(xùn)練方法和訓(xùn)練后優(yōu)化上。下面我們逐步剖析它的架構(gòu)： #### MoE架構(gòu)：利用專家子模型提高效率 Qwen2.5-Max的一個(gè)顯著特點(diǎn)是其混合專家（MoE）架構(gòu)。這種方法在更大的模型中使用多個(gè)專家子模型，每個(gè)子模型專門處理特定類型的任務(wù)或數(shù)據(jù)。通過讓模型為每個(gè)輸入選擇性地激活相關(guān)專家，MoE能夠更高效地進(jìn)行處理，而不會(huì)不必要地消耗計(jì)算資源。 - **MoE在擴(kuò)展和效率方面的優(yōu)勢**： - **任務(wù)專業(yè)化**：每個(gè)專家子模型可以專注于特定領(lǐng)域或輸入類型，提高模型針對不同任務(wù)生成專業(yè)回復(fù)的能力。例如，一個(gè)專家可能更擅長處理編碼任務(wù)，而另一個(gè)則針對常識知識進(jìn)行了優(yōu)化。 - **高效擴(kuò)展**：MoE架構(gòu)避免了使用大規(guī)模單一模型以通用方式處理所有任務(wù)的情況，它允許Qwen2.5-Max通過添加更多專家來擴(kuò)展規(guī)模，而無需按指數(shù)級增加計(jì)算需求。這意味著Qwen2.5-Max可以在保持成本效益和降低計(jì)算開銷的同時(shí)實(shí)現(xiàn)高性能。 - **動(dòng)態(tài)專家選擇**：MoE模型使用一種機(jī)制，使模型能夠?yàn)槊總€(gè)輸入僅選擇相關(guān)專家。這種選擇性激活減少了推理過程中的計(jì)算量，使模型在實(shí)際部署中更高效。 #### 大規(guī)模預(yù)訓(xùn)練：使用20萬億詞元 Qwen2.5-Max在多達(dá)20萬億詞元上進(jìn)行了預(yù)訓(xùn)練，這一數(shù)量遠(yuǎn)遠(yuǎn)超過了大多數(shù)大語言模型。這個(gè)龐大的數(shù)據(jù)集是模型語言能力的基礎(chǔ)，為它提供了豐富多樣的知識庫。 - **20萬億詞元訓(xùn)練的影響**： - **更廣泛的知識庫**：接觸如此大規(guī)模的數(shù)據(jù)集使模型能夠從廣泛的主題中學(xué)習(xí)，提高了它在不同領(lǐng)域的泛化能力。從科學(xué)論文到日常對話，該模型能夠更好地處理各種形式的輸入，并生成與上下文相關(guān)的輸出。 - **改進(jìn)的泛化能力**：如此廣泛的預(yù)訓(xùn)練的主要好處之一是模型在不同任務(wù)上的泛化能力得到提升。通過在訓(xùn)練過程中接觸更多樣化的示例，Qwen2.5-Max可以處理更廣泛的查詢，并將其知識應(yīng)用于不熟悉的情況。 - **語言理解能力提升**：通過學(xué)習(xí)20萬億詞元，該模型接觸到了眾多句子結(jié)構(gòu)、方言和語言細(xì)微差別，有助于它更細(xì)致地理解語言。 #### 訓(xùn)練后優(yōu)化：提升現(xiàn)實(shí)世界性能 Qwen2.5-Max采用了兩種重要的訓(xùn)練后優(yōu)化技術(shù)：監(jiān)督微調(diào)（SFT）和人類反饋強(qiáng)化學(xué)習(xí)（RLHF）。這些方法旨在提高模型在現(xiàn)實(shí)世界中的性能，以及生成更準(zhǔn)確、有用且符合人類期望的回復(fù)的能力。 - **監(jiān)督微調(diào)（SFT）**：SFT涉及在精心策劃的數(shù)據(jù)集上訓(xùn)練模型，這些數(shù)據(jù)集旨在優(yōu)化特定任務(wù)的性能，如問答、總結(jié)和信息提取。在這個(gè)階段，模型會(huì)接觸到高質(zhì)量的標(biāo)記示例，這些示例引導(dǎo)它產(chǎn)生更符合人類期望的精確輸出。 - **特定任務(wù)性能提升**：微調(diào)有助于模型在某些類型的任務(wù)上實(shí)現(xiàn)專業(yè)化，例如處理復(fù)雜查詢或總結(jié)長篇文檔。通過從這些特定示例中學(xué)習(xí)，模型能夠更好地解決現(xiàn)實(shí)世界中的問題。 - **任務(wù)特定調(diào)整**：SFT確保模型在目標(biāo)用例中的輸出符合人類期望，從而產(chǎn)生更準(zhǔn)確、相關(guān)的回復(fù)。 - **人類反饋強(qiáng)化學(xué)習(xí)（RLHF）**：RLHF是一種通過從用戶反饋中學(xué)習(xí)來進(jìn)一步優(yōu)化模型的技術(shù)。在生成回復(fù)后，模型會(huì)收到反饋，指示該回復(fù)是否有幫助。這個(gè)反饋循環(huán)幫助模型更好地理解用戶認(rèn)為有價(jià)值和相關(guān)的內(nèi)容，從而相應(yīng)地調(diào)整其行為。 ![](https://upload-images.jianshu.io/upload_images/17294212-f02a1e0d64bb9186.png) - **符合人類偏好**：RLHF確保模型的輸出更符合人類偏好，提高了它產(chǎn)生滿足用戶需求和期望的回復(fù)的能力。 - **提高可靠性**：通過根據(jù)現(xiàn)實(shí)世界的反饋不斷優(yōu)化輸出，Qwen2.5-Max隨著時(shí)間的推移可以生成更可靠、準(zhǔn)確的結(jié)果。 ### 性能一覽：Qwen2.5-Max與競爭對手對比 #### 為什么基準(zhǔn)測試很重要 基準(zhǔn)測試在評估AI模型的現(xiàn)實(shí)世界性能方面起著至關(guān)重要的作用。它們提供了標(biāo)準(zhǔn)化的指標(biāo)，有助于在各種任務(wù)（如常識知識、問題解決和編程等專業(yè)領(lǐng)域）中比較不同的模型。通過在這些公認(rèn)的基準(zhǔn)上評估模型，我們可以確定哪些模型在特定應(yīng)用中表現(xiàn)出色，并更明智地決定哪種模型最適合特定任務(wù)。 在本節(jié)中，我們將查看用于評估Qwen2.5-Max的關(guān)鍵基準(zhǔn)，并將其性能與DeepSeek V3、Claude 3.5和LLaMA 3.1等競爭對手進(jìn)行比較。這種比較將幫助我們了解Qwen2.5-Max在常識知識、推理、問題解決和專業(yè)任務(wù)等領(lǐng)域的表現(xiàn)。通過研究這些基準(zhǔn)，我們可以評估它與其他領(lǐng)先模型的差距。 ![](https://upload-images.jianshu.io/upload_images/17294212-9f100c0330bc6bb4.png) #### 用于評估的關(guān)鍵AI基準(zhǔn)概述 為了衡量Qwen2.5-Max的性能，使用了幾個(gè)基準(zhǔn)，每個(gè)基準(zhǔn)都側(cè)重于模型能力的不同方面： - **Arena-Hard**：一項(xiàng)旨在評估模型與人類偏好和決策一致性的測試。 - **LiveBench**：對模型通用能力的廣泛評估，測試其在各種任務(wù)中的表現(xiàn)。 - **LiveCodeBench**：一個(gè)專門的基準(zhǔn)，用于衡量模型的編碼能力，側(cè)重于軟件開發(fā)中的編程任務(wù)和問題解決。 - **GPQA-Diamond**：一項(xiàng)針對通用問題解決的挑戰(zhàn)，旨在評估模型處理復(fù)雜、開放式問題的能力。 - **MMLU-Pro**：對模型學(xué)術(shù)推理和知識的嚴(yán)格評估，側(cè)重于大學(xué)水平的材料。 #### Qwen2.5-Max與DeepSeek V3：性能對比 與其他大語言模型相比，Qwen2.5-Max在幾個(gè)關(guān)鍵領(lǐng)域表現(xiàn)出顯著優(yōu)勢。讓我們根據(jù)不同基準(zhǔn)的結(jié)果，詳細(xì)對比Qwen2.5-Max與DeepSeek V3的性能： - **Arena-Hard**：在這個(gè)基準(zhǔn)測試中，Qwen2.5-Max的表現(xiàn)優(yōu)于DeepSeek V3，顯示出與人類偏好更強(qiáng)的一致性。這表明Qwen2.5-Max能夠提供更直觀、更像人類的回復(fù)，使其成為那些需要理解人類需求和偏好的應(yīng)用的更好選擇。 - **LiveBench**：在評估模型通用能力的LiveBench測試中，Qwen2.5-Max以62%的得分領(lǐng)先，略高于DeepSeek V3的約60%。這表明Qwen2.5-Max在更廣泛的任務(wù)中提供了更多樣化的性能。 - **LiveCodeBench**：在與編碼相關(guān)的任務(wù)中，Qwen2.5-Max表現(xiàn)穩(wěn)定，得分接近39%，與Claude 3.5相當(dāng)。雖然DeepSeek V3和其他模型也表現(xiàn)不錯(cuò)，但Qwen2.5-Max在編程挑戰(zhàn)中脫穎而出，展示了它處理更復(fù)雜編碼任務(wù)的能力。 - **GPQA-Diamond**：在評估通用問題解決能力的GPQA-Diamond挑戰(zhàn)中，Qwen2.5-Max的表現(xiàn)與DeepSeek V3相似，并且優(yōu)于LLaMA 3.1等模型。它以59 - 60%的得分展示了處理更復(fù)雜、開放式問題的能力，這些問題需要先進(jìn)的推理和廣泛的知識。 - **MMLU-Pro**：Qwen2.5-Max在MMLU-Pro學(xué)術(shù)知識測試中表現(xiàn)出色，躋身頂尖行列。雖然Claude 3.5在這個(gè)基準(zhǔn)中略有優(yōu)勢，但Qwen2.5-Max的表現(xiàn)也很有競爭力，展示了其強(qiáng)大的學(xué)術(shù)推理能力。 #### Qwen2.5-Max的優(yōu)勢領(lǐng)域 Qwen2.5-Max在多個(gè)基準(zhǔn)測試中始終優(yōu)于DeepSeek V3，在人類對齊（Arena-Hard）、通用能力（LiveBench）和編碼性能（LiveCodeBench）等領(lǐng)域表現(xiàn)出色。與Claude 3.5和LLaMA 3.1等其他模型相比，Qwen2.5-Max在推理、事實(shí)知識和編碼方面也具有競爭力。雖然沒有一個(gè)模型在所有基準(zhǔn)測試中都表現(xiàn)出色，但Qwen2.5-Max因其全面的性能脫穎而出，使其成為需要在各個(gè)領(lǐng)域具備通用性的現(xiàn)實(shí)世界應(yīng)用的理想選擇。 #### 對決：Qwen2.5-Max、DeepSeek V3、LLaMA-3.1–405B與GPT-4 ![](https://upload-images.jianshu.io/upload_images/17294212-5d1731d5c6ae4763.png) - **關(guān)鍵要點(diǎn)**： - **Qwen2.5-Max在多個(gè)基準(zhǔn)測試中占優(yōu)**：Qwen2.5-Max在Arena-Hard、LiveBench和GPQA-Diamond等多個(gè)類別中表現(xiàn)突出，展示了其在廣泛任務(wù)中的整體優(yōu)勢，包括人類對齊和問題解決。它在需要推理、事實(shí)知識和編碼能力的任務(wù)中表現(xiàn)尤為出色。 - **不同模型各有所長**：GPT-4在MMLU中領(lǐng)先，在學(xué)術(shù)推理方面略有優(yōu)勢，在BBH中表現(xiàn)出色，在公平性和偏差基準(zhǔn)測試中表現(xiàn)強(qiáng)勁。Qwen2.5-Max在人類對齊任務(wù)（Arena-Hard）和通用能力（LiveBench）方面表現(xiàn)出色，但其學(xué)術(shù)推理（MMLU）略落后于GPT-4。DeepSeek V3在大多數(shù)基準(zhǔn)測試中落后，但在某些問題解決任務(wù)中是有力的競爭者。LLaMA-3.1–405B提供了有競爭力的結(jié)果，但與Qwen2.5-Max或GPT-4相比，在任何特定基準(zhǔn)測試中都不占領(lǐng)先地位。 - **對用戶選擇AI模型的意義**：如果你需要一個(gè)在一系列任務(wù)（如推理、問題解決、編碼）中表現(xiàn)一致的模型，Qwen2.5-Max是一個(gè)強(qiáng)有力的競爭者，特別是對于那些需要類似人類回復(fù)和常識知識的應(yīng)用。對于需要學(xué)術(shù)推理或公平性和偏差評估的任務(wù)，GPT-4具有優(yōu)勢，更適合專注于這些領(lǐng)域的應(yīng)用。Qwen2.5-Max和GPT-4在常識推理和問題解決方面比DeepSeek V3或LLaMA-3.1–405B更強(qiáng)，更適合需要深度理解和實(shí)際解決方案的應(yīng)用。 >近日熱文：[全網(wǎng)最全的神經(jīng)網(wǎng)絡(luò)數(shù)學(xué)原理（代碼和公式）直觀解釋](https://mp.weixin.qq.com/s/ITFeM-RUVs9k9Kw4njl9KQ?token=992101443&lang=zh_CN) 歡迎關(guān)注知乎和公眾號的專欄內(nèi)容 [LLM架構(gòu)專欄](https://mp.weixin.qq.com/mp/appmsgalbum?__biz=MzU5OTk5OTg4Ng==&action=getalbum&album_id=3803710040624594945#wechat_redirect) [知乎LLM專欄](https://zhuanlan.zhihu.com/column/c_1860259327224446976) [知乎【**柏企**】](https://www.zhihu.com/people/cbq-91) 公眾號【**柏企科技說**】【**柏企閱文**】 本文由[mdnice](https://mdnice.com/?platform=6)多平臺(tái)發(fā)布
最后編輯于 ：
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成，瀏覽時(shí)請結(jié)合常識與多方信息審慎甄別。
平臺(tái)聲明：文章內(nèi)容（如有圖片或視頻亦包括在內(nèi)）由作者上傳并發(fā)布，文章內(nèi)容僅代表作者本人觀點(diǎn)，簡書系信息發(fā)布平臺(tái)，僅提供信息存儲(chǔ)服務(wù)。

友情鏈接更多精彩內(nèi)容