1. 詳細(xì)步驟 1.1 安裝 1.2 啟動(dòng) 1.2.1 直接啟動(dòng) 簡潔命令 多參數(shù)命令 設(shè)置模型緩存路徑和模型來源（Hugging Face/Modelscope） 1.2....
發(fā)簡信
IP屬地：上海
-
Xinference 安裝使用（支持CPU、Metal、CUDA推理和分布式部署）
-
llama.cpp 安裝使用（支持CPU、Metal及CUDA的單卡/多卡推理）
1. 詳細(xì)步驟 1.1 安裝 cuda 等 nvidia 依賴（非CUDA環(huán)境運(yùn)行可跳過） 1.2 安裝 llama.cpp (C/C++環(huán)境) 1.3 安裝 llama-c...
-
ChatGLM.cpp 安裝使用（支持CPU、Metal及CUDA推理）
1. 詳細(xì)步驟 1.1 拉取源碼 1.2 模型轉(zhuǎn)換/量化 1.2.1 安裝所需 Python 依賴 torch 其他依賴 1.2.1 模型轉(zhuǎn)換/量化 f16 q8_0 q4_...
-
Ollama WebUI 安裝使用（pip 版）
Open WebUI (Formerly Ollama WebUI) 也可以通過 docker 來安裝使用 1. 詳細(xì)步驟 1.1 安裝 Open WebUI 1.2 啟動(dòng) ...
-
遷移 ollama 模型文件到新機(jī)器（支持離線運(yùn)行）
1. 詳細(xì)步驟 以qwen2.5:0.5b-instruct-fp16為例 1.1 遷移 manifests 文件 1.2 遷移 blobs 文件 1.3 驗(yàn)證
-
Ollama 安裝、運(yùn)行大模型（CPU 實(shí)操版）
1. 操作步驟 1.1 安裝 1.2 驗(yàn)證（可跳過） 1.3 啟動(dòng)服務(wù)端 1.4 跑通第一個(gè)模型 2. 參考資料 2.1 Ollama GitHub https://gith...
-
CUDA Toolkit 安裝記錄（nvcc -V 可查）
目前通過 runfile(local) 方式安裝，最終 nvcc -V 看到的版本有偏差（安裝12.4，顯示12.0），但不影響使用 llama-factory,llama....
-
Tmux 安裝使用（含終端窗口備份）
1. 詳細(xì)步驟 1.1 安裝 Tmux apt brew 1.2 終端新建/激活 Tmux 1.2.1 新開一個(gè)窗口 1.2.2 激活指定窗口 1.3 Tmux 內(nèi)使用 1....
-
Ubuntu 個(gè)別實(shí)用命令記錄（新建用戶、查看網(wǎng)速等）
1. 實(shí)用命令 1.1 系統(tǒng)相關(guān) 1.1.1 查看系統(tǒng)、用戶信息等 查看當(dāng)前系統(tǒng)硬件架構(gòu) 注：mac 上也能用 查看當(dāng)前系統(tǒng)的操作系統(tǒng)及版本 查看當(dāng)前系統(tǒng)單個(gè)cpu的可用核心...
-
組建軟件RAID（mdadm完整實(shí)操版）
1. 詳細(xì)步驟 以 Ubuntu 上，組建 4 盤 RAID-10 為例 掛載的位置以 /Volumes/RAID10 為例， 可替換為其他任意自定義路徑 1.1 初始化磁盤...
-
Dockerized GitLab 安裝使用（簡單實(shí)操版）
1. 詳細(xì)步驟 1.1 安裝啟動(dòng) postgresql 服務(wù) 1.2 安裝啟動(dòng) redis 服務(wù) 1.3 安裝啟動(dòng) gitlab 服務(wù) 1.4 使用 瀏覽器訪問 http:/...
-
docker 安裝使用（簡單實(shí)操版）
1. 詳細(xì)步驟 1.1 安裝 1.2 驗(yàn)證（可跳過） 1.3 使用 1.3.1 拉取鏡像 1.3.2 運(yùn)行鏡像 1.3.3 查看容器日志 1.3.4 停止容器 1.3.5 刪...
-
Homebrew 安裝使用（Ubuntu 完整實(shí)操版）
支持絕大部分系統(tǒng)軟件服務(wù)的安裝，如 ollama, ffmpeg, mysql 等 在非 root 用戶下安裝使用，mac 和 linux(ubuntu) 上都可以使用 1....
-
WSL拓展虛擬磁盤空間
1. 詳細(xì)步驟 1.1 終止所有 WSL 實(shí)例（官方建議） 1.2 通過 diskpart 拓展磁盤空間 1.3 啟動(dòng) WSL Linux 1.4 拓展磁盤空間 在 WSL-...
-
WSL遷移Linux系統(tǒng)到非系統(tǒng)盤（完整實(shí)操版）
1. 操作步驟 1.1 確認(rèn)要導(dǎo)出的Linux系統(tǒng)是否存在（可跳過） 1.2 導(dǎo)出Linux系統(tǒng)為tar包 1.3 刪除原Linux系統(tǒng) 1.4 在非系統(tǒng)盤創(chuàng)建Linux系統(tǒng)...
-
Windows最快2步安裝Ubuntu（WSL高效實(shí)操版）
1. 安裝 1.1 WSL安裝確認(rèn)（可跳過） 1.1.1 檢查是否安裝（可跳過） 注：Windows11已默認(rèn)安裝（所提WSL，默認(rèn)指WSL2） 1.1.2 手動(dòng)安裝（可跳過...
-
Python 虛擬環(huán)境安裝使用（Anaconda 完整實(shí)操版）
1. 安裝 安裝 anaconda（包含 python 和 pip 等，支持創(chuàng)建及管理多個(gè) python 虛擬環(huán)境） 注：miniconda 可能也可以，但是沒用過，優(yōu)先 a...
-
ubuntu 鏡像源配置
1. 詳細(xì)步驟 1.1 查看源文件位置（可跳過） 1.2 備份源文件 1.3 配置鏡像源 1.4 驗(yàn)證 2. 參考資料 2.1 清華大學(xué)開源軟件鏡像站 ubuntu http...
-
pypi 鏡像源配置
1. 詳細(xì)步驟 1.1 常用鏡像源列表 1.2 臨時(shí)使用 1.3 長期設(shè)置 1.4 配置多個(gè)鏡像源 2. 參考資料 2.1 清華大學(xué)開源軟件鏡像站 2.1.1 PyPI 軟件...
