發(fā)簡信
IP屬地：北京
-
base-llm 2.2.3 模型構(gòu)建、訓(xùn)練與推理
一、模型結(jié)構(gòu)設(shè)計(jì) NER本質(zhì)是序列標(biāo)注問題——為輸入序列中的每一個Token預(yù)測一個對應(yīng)的標(biāo)簽。 1. Token Embedding 層 to...
-
base-llm 4.1 模型部署實(shí)戰(zhàn) FastApi/docker-compose
FastAPI是基于Starlette和Pydantic構(gòu)建。pydantic能利用Python的類型提示（Type Hints）實(shí)現(xiàn)自動的數(shù)據(jù)...
-
base-llm 2.2.4 模型的推理與優(yōu)化
一、理解模型輸出 實(shí)體級別的F1值是衡量模型性能的核心標(biāo)準(zhǔn)，而非簡單的Token分類準(zhǔn)確率。 1.1 Token級準(zhǔn)確率的陷阱 Token分類準(zhǔn)...
-
base-llm 2.2.2 NER項(xiàng)目的數(shù)據(jù)處理一、 數(shù)據(jù)處理流程總覽 1.1. 數(shù)據(jù)處理目標(biāo) 使用的是BMES方法模型輸入X: [batch_seq_len] (每個位置是TokenID)...
-
base-llm 2.2.1 命名實(shí)體識別概要一、命名實(shí)體識別簡介 文本分類是一種對文本的宏觀理解。命名實(shí)體識別則，則是深入內(nèi)部理解，學(xué)習(xí)如何精準(zhǔn)是被出句子中的人名、地名等具有特定意義的詞語...
-
base-llm 1.5.3 T5結(jié)構(gòu)及應(yīng)用Bert是基于Encoder架構(gòu)，擅長理解（如分類、實(shí)體識別），GPT基于Decoder架構(gòu)，擅長生成（如續(xù)寫、對話）， T5回歸了Encode...
-
Base-llm 1.5.2 GPT結(jié)構(gòu)及應(yīng)用GPT系列模型是完全基于Transformer構(gòu)建的，與BERT致力于通過雙向上下文來“理解”語言不通，GPT的中心在生成語言。它的設(shè)計(jì)初衷是為...
-
Base-llm 1.5.1 BERT結(jié)構(gòu)及應(yīng)用一、BERT的設(shè)計(jì)原理與預(yù)訓(xùn)練策略 Bert（Bidirectional Encoder Representations from Transf...
-
base-llm 1.4.3 深入理解transformerTransformer 來自2017年Google研究團(tuán)隊(duì)的名為《Attention is All You Need》的論文。其思想拋棄了傳統(tǒng)R...