發(fā)簡(jiǎn)信
IP屬地：北京
-
base-llm 2.2.3 模型構(gòu)建、訓(xùn)練與推理
一、模型結(jié)構(gòu)設(shè)計(jì) NER本質(zhì)是序列標(biāo)注問(wèn)題——為輸入序列中的每一個(gè)Token預(yù)測(cè)一個(gè)對(duì)應(yīng)的標(biāo)簽。 1. Token Embedding 層 to...
-
base-llm 4.1 模型部署實(shí)戰(zhàn) FastApi/docker-compose
FastAPI是基于Starlette和Pydantic構(gòu)建。pydantic能利用Python的類型提示（Type Hints）實(shí)現(xiàn)自動(dòng)的數(shù)據(jù)...
-
base-llm 2.2.4 模型的推理與優(yōu)化
一、理解模型輸出 實(shí)體級(jí)別的F1值是衡量模型性能的核心標(biāo)準(zhǔn)，而非簡(jiǎn)單的Token分類準(zhǔn)確率。 1.1 Token級(jí)準(zhǔn)確率的陷阱 Token分類準(zhǔn)...
-
base-llm 2.2.2 NER項(xiàng)目的數(shù)據(jù)處理一、 數(shù)據(jù)處理流程總覽 1.1. 數(shù)據(jù)處理目標(biāo) 使用的是BMES方法模型輸入X: [batch_seq_len] (每個(gè)位置是TokenID)...
-
base-llm 2.2.1 命名實(shí)體識(shí)別概要一、命名實(shí)體識(shí)別簡(jiǎn)介 文本分類是一種對(duì)文本的宏觀理解。命名實(shí)體識(shí)別則，則是深入內(nèi)部理解，學(xué)習(xí)如何精準(zhǔn)是被出句子中的人名、地名等具有特定意義的詞語(yǔ)...
-
base-llm 1.5.3 T5結(jié)構(gòu)及應(yīng)用Bert是基于Encoder架構(gòu)，擅長(zhǎng)理解（如分類、實(shí)體識(shí)別），GPT基于Decoder架構(gòu)，擅長(zhǎng)生成（如續(xù)寫(xiě)、對(duì)話）， T5回歸了Encode...
-
Base-llm 1.5.2 GPT結(jié)構(gòu)及應(yīng)用GPT系列模型是完全基于Transformer構(gòu)建的，與BERT致力于通過(guò)雙向上下文來(lái)“理解”語(yǔ)言不通，GPT的中心在生成語(yǔ)言。它的設(shè)計(jì)初衷是為...
-
Base-llm 1.5.1 BERT結(jié)構(gòu)及應(yīng)用一、BERT的設(shè)計(jì)原理與預(yù)訓(xùn)練策略 Bert（Bidirectional Encoder Representations from Transf...
-
base-llm 1.4.3 深入理解transformerTransformer 來(lái)自2017年Google研究團(tuán)隊(duì)的名為《Attention is All You Need》的論文。其思想拋棄了傳統(tǒng)R...