The Communication Problem 當(dāng)將神經(jīng)網(wǎng)絡(luò)的訓(xùn)練并行化到許多GPU上時(shí)，你必須選擇如何將不同的操作分配到你可用的不同GPU上。在這里，我們關(guān)注一種稱為數(shù)...
發(fā)簡(jiǎn)信
IP屬地：浙江
-
Ring Allreduce -
-
10個(gè)案例說(shuō)明什么是產(chǎn)品模型(1)
1、我高中的時(shí)候，同學(xué)的哥哥問我，人生最爽的事情是什么？我說(shuō)，是游戲。他微微一笑說(shuō)，不，是女人。 我大學(xué)剛畢業(yè)的時(shí)候，還是這位哥哥問我，人生最爽的事情是什么？我說(shuō)，是女人。他...
-
Semijoin 半連接
什么是semi-join？ 所謂的semi-join是指semi-join子查詢。 當(dāng)一張表在另一張表找到匹配的記錄之后，半連接（semi-jion）返回第一張表中的記錄。 ...
-
Solidity知識(shí)點(diǎn)集 — Storage與Memory 與接口（四）
Storage與Memory 在 Solidity 中，有兩個(gè)地方可以存儲(chǔ)變量 —— storage 或 memory Storage 變量是指永久存儲(chǔ)在區(qū)塊鏈中的變量。 M...
-
使用 ftrace 來(lái)跟蹤系統(tǒng)問題 - ftrace 介紹
雖然之前一直聽說(shuō)過(guò) ftrace，但從來(lái)沒將它用在實(shí)戰(zhàn)中，在一次客戶排查問題中，遇到了比較奇怪的現(xiàn)象，一位精通內(nèi)核的朋友建議使用 ftrace 來(lái)定位一下。雖然那一次并沒有使...
-
使用 ftrace 來(lái)跟蹤系統(tǒng)問題 - 隱藏的電燈開關(guān)
在前面的文章中，我提到了我們會(huì)用 ftrace 來(lái)解決問題，在開始之前，我先聊聊外面大牛們是如何用 ftrace 來(lái)解決問題的，第一個(gè)例子，顯而易見，就是 Brendan G...
-
聊聊和猜想下 Nutanix 對(duì) RocksDB 的一些研究
Nutanix 是一家做超融合的云計(jì)算廠商，實(shí)話，我之前對(duì)這家公司是一無(wú)所知，但在 2018 年 RocksDB meetup 上面，他們做了一個(gè)如何在 RocksDB 支持...
-
一次奇怪的 page cache 大量突然回收的 bug
這里記錄一下前段時(shí)間排查的一個(gè) bug。起因是這樣，某個(gè)客戶跟我們說(shuō)他的 TiDB 集群時(shí)不時(shí)有延遲特別高的情況，然后我們通過(guò)監(jiān)控排查，也確定了這個(gè)事情，于是開始排查。 首先...
