Overhead PyTorch 執(zhí)行 eager 操作時(shí)，例如，torch.add(a, b)，調(diào)度器（c10::Dispatcher）會(huì)根據(jù)分派鍵（DispatchKey...
發(fā)簡(jiǎn)信
IP屬地：上海
-
PyTorch Internal：算子注冊(cè) -
深入解析 MLIR Toy Tutorial（Chapter 6）：CodeGen概述 MLIR Toy Tutorial[https://mlir.llvm.org/docs/Tutorials/Toy/] 的目標(biāo)是通過(guò)構(gòu)建一門編程語(yǔ)言編譯器的完整過(guò)程（...
-
深入解析 MLIR Toy Tutorial（Chapter 4）：
概述 MLIR Toy Tutorial[https://mlir.llvm.org/docs/Tutorials/Toy/] 的目標(biāo)是通過(guò)構(gòu)建一門編程語(yǔ)言編譯器的完整過(guò)程（...
-
深入解析 MLIR Toy Tutorial（Chapter 3）：Rewrite IR
概述 MLIR Toy Tutorial[https://mlir.llvm.org/docs/Tutorials/Toy/] 的目標(biāo)是通過(guò)構(gòu)建一門編程語(yǔ)言編譯器的完整過(guò)程（...
-
深入解析 MLIR Toy Tutorial（Chapter 2）：AST to IR
概述 MLIR Toy Tutorial[https://mlir.llvm.org/docs/Tutorials/Toy/] 的目標(biāo)是通過(guò)構(gòu)建一門編程語(yǔ)言編譯器的完整過(guò)程（...
-
深入解析 MLIR Toy Tutorial（Chapter 1）：Toy語(yǔ)言及其AST定義概述 MLIR Toy Tutorial 的目標(biāo)是通過(guò)構(gòu)建一門編程語(yǔ)言編譯器的完整過(guò)程（包括前端和后端技術(shù)），教授如何使用 MLIR 的各個(gè)組件來(lái)實(shí)現(xiàn)語(yǔ)言的解析、轉(zhuǎn)換和代碼生...
-
探索LazyTensor：PyTorch/XLA中動(dòng)態(tài)圖與靜態(tài)圖的結(jié)合力概述 PyTorch/XLA是PyTorch的一個(gè)擴(kuò)展，與Google的XLA（Accelerated Linear Algebra）編譯器相結(jié)合，旨在解決PyTorch在訓(xùn)...
-
理解PyTorch分發(fā)機(jī)制的內(nèi)部工作原理概述 PyTorch的成功歸功于其簡(jiǎn)單易用性（與Python的用法相似）和動(dòng)態(tài)靈活性。即使在PyTorch 2.0時(shí)代，它仍然保持著"Faster, more pythoni...
-
從PyTorch到TorchScript: 打通深度學(xué)習(xí)模型的生產(chǎn)和應(yīng)用概述 PyTorch是一款非常流行的深度學(xué)習(xí)框架，開(kāi)發(fā)者和研究者常常選擇它，因?yàn)樗哂徐`活性、易用性和良好的性能。然而，PyTorch的靈活易用性是建立在動(dòng)態(tài)計(jì)算圖的基礎(chǔ)上的...
-
-
JIT（上）：Tensorflow如何實(shí)現(xiàn)即時(shí)編譯？Tensorflow的JIT（just-in-time）是指在運(yùn)行@tf.function修飾的python函數(shù)時(shí)，由jit、tf2xla和XLA一起完成一系列如子圖構(gòu)造、子...
-
-
開(kāi)篇：XLA是什么？XLA[https://www.tensorflow.org/xla](Accelerated Linear Algebra)是專用于機(jī)器學(xué)習(xí)的編譯器，機(jī)器學(xué)習(xí)的運(yùn)算中99%...
-
-
-
