前言 公司需要輸送給網(wǎng)安部一批數(shù)據(jù)集,共計(jì)1550w張圖片,大約3,5T。 處理過(guò)程中同時(shí)參考網(wǎng)上的一些方法的實(shí)踐總結(jié)。 1:快速大量小文件復(fù)制...
前言 1. 對(duì)環(huán)境的操作 1.1. 查看進(jìn)程中的環(huán)境變量 1.2. Linux查看物理CPU個(gè)數(shù)、核數(shù)、邏輯CPU個(gè)數(shù) **# 總核數(shù) = 物理...
前言 記錄一下Faiss在項(xiàng)目使用中的一些優(yōu)化,對(duì)OMP_NUM_THREADS 環(huán)境變量參數(shù)的測(cè)試驗(yàn)證~ 結(jié)論: 測(cè)試結(jié)果統(tǒng)計(jì): * CPU=...
前言 分享一些Mongdb常用的數(shù)據(jù)清洗方式 注:"Exceeded memory limit for $group, but didn't a...
前言 我們?cè)趐ull國(guó)外基礎(chǔ)鏡像使用時(shí),時(shí)區(qū)就成為一個(gè)不能規(guī)避的問(wèn)題。國(guó)外時(shí)區(qū)通常都是UTC,需要改成國(guó)內(nèi)時(shí)區(qū)CST. Ubuntu 基本鏡像修...
前言 常規(guī)我們需要把業(yè)務(wù)日志轉(zhuǎn)成JSON格式輸入到ELK中。經(jīng)常會(huì)碰到中文亂碼的問(wèn)題 解決方案 方案a: pythonjsonlogger [自...