2020-05-08:分布式系統(tǒng)(Distributed System)資料

分布式系統(tǒng)(Distributed System)資料

希望轉(zhuǎn)載的朋友,你可以不用聯(lián)系我.但是一定要保留原文鏈接,因為這個項目還在繼續(xù)也在不定期更新.希望看到文章的朋友能夠?qū)W到更多.

《Reconfigurable Distributed Storage for Dynamic Networks》

介紹:這是一篇介紹在動態(tài)網(wǎng)絡(luò)里面實現(xiàn)分布式系統(tǒng)重構(gòu)的paper.論文的作者(導(dǎo)師)是MIT讀博的時候是做分布式系統(tǒng)的研究的,現(xiàn)在在NUS帶學(xué)生,不僅僅是分布式系統(tǒng),還有無線網(wǎng)絡(luò).如果感興趣可以去他的主頁了解.

《Distributed porgramming liboratory》

介紹:分布式編程實驗室,他們發(fā)表的很多的paper,其中不僅僅是學(xué)術(shù)研究,還有一些工業(yè)界應(yīng)用的論文.

《MIT Theory of Distributed Systems》

介紹:麻省理工的分布式系統(tǒng)理論主頁,作者南?!ち制嬖?002年證明了CAP理論,并且著《分布式算法》一書.

《Notes on Distributed Systems for Young Bloods》

介紹:分布式系統(tǒng)搭建初期的一些建議

《Principles of Distributed Computing》

介紹:分布式計算原理課程

《Google's Globally-Distributed Database》

介紹:Google全球分布式數(shù)據(jù)介紹,中文版

《The Architecture Of Algolia’s Distributed Search Network》

介紹:Algolia的分布式搜索網(wǎng)絡(luò)的體系架構(gòu)介紹

《Build up a High Availability Distributed Key-Value Store》

介紹:構(gòu)建高可用分布式Key-Value存儲系統(tǒng)

《Distributed Search Engine with Nanomsg and Bond》

介紹:Nanomsg和Bond的分布式搜索引擎

《Distributed Processing With MongoDB And Mongothon》

介紹:使用MongoDB和Mongothon進行分布式處理

《Salt: Combining ACID and BASE in a Distributed Database》

介紹:分布式數(shù)據(jù)庫中把ACID與BASE結(jié)合使用.

《Makes it easy to understand Paxos for Distributed Systems》

介紹:理解的Paxos的分布式系統(tǒng),參考閱讀:關(guān)于Paxos的歷史

《There is No Now Problems with simultaneity in distributed systems》

介紹:There is No Now Problems with simultaneity in distributed systems

《Distributed Systems》

介紹:倫敦大學(xué)學(xué)院分布式系統(tǒng)課程課件.

《Distributed systems for fun and profit》

介紹:分布式系統(tǒng)電子書籍.

《Distributed Systems Spring 2015》

介紹:卡內(nèi)基梅隆大學(xué)春季分布式課程主頁

《Distributed Systems: Concepts and Design (5th Edition)》

介紹: 電子書,分布式系統(tǒng)概念與設(shè)計(第五版)

《走向分布式》

介紹:這是一位臺灣網(wǎng)友 ccshih 的文字,短短的篇幅介紹了分布式系統(tǒng)的若干要點。pdf

《Introduction to Distributed Systems Spring 2013》

介紹:清華大學(xué)分布式系統(tǒng)課程主頁,里面的schedule欄目有很多寶貴的資源

《Distributed systems》

介紹:免費的在線分布式系統(tǒng)書籍

《Some good resources for learning about distributed computing》

介紹:Quora上面的一篇關(guān)于學(xué)習(xí)分布式計算的資源.

《Spanner: Google’s Globally-Distributed Database》

介紹:這個是第一個全球意義上的分布式數(shù)據(jù)庫,也是Google的作品。其中介紹了很多一致性方面的設(shè)計考慮,為了簡單的邏輯設(shè)計,還采用了原子鐘,同樣在分布式系統(tǒng)方面具有很強的借鑒意義.

《The Chubby lock service for loosely-coupled distributed systems》

介紹:Google的統(tǒng)面向松散耦合的分布式系統(tǒng)的鎖服務(wù),這篇論文詳細介紹了Google的分布式鎖實現(xiàn)機制Chubby。Chubby是一個基于文件實現(xiàn)的分布式鎖,Google的Bigtable、Mapreduce和Spanner服務(wù)都是在這個基礎(chǔ)上構(gòu)建的,所以Chubby實際上是Google分布式事務(wù)的基礎(chǔ),具有非常高的參考價值。另外,著名的zookeeper就是基于Chubby的開源實現(xiàn).推薦The google stack,Youtube:The Chubby lock service for loosely-coupled distributed systems

《Sinfonia: a new paradigm for building scalable distributed systems》

介紹:這篇論文是SOSP2007的Best Paper,闡述了一種構(gòu)建分布式文件系統(tǒng)的范式方法,個人感覺非常有用。淘寶在構(gòu)建TFS、OceanBase和Tair這些系統(tǒng)時都充分參考了這篇論文.

《Data-Intensive Text Processing with MapReduce》

介紹:Ebook:Data-Intensive Text Processing with MapReduce.

《Design and Implementation of a Query Processor for a Trusted Distributed Data Base Management System》

介紹:Design and Implementation of a Query Processor for a Trusted Distributed Data Base Management System.

《Distributed Query Processing》

介紹:分布式查詢?nèi)腴T.

《Distributed Systems and the End of the API》

介紹:分布式系統(tǒng)和api總結(jié).

《Distributed Query Reading》

介紹:分布式系統(tǒng)閱讀論文,此外還推薦github上面的一個論文列表The Distributed Reader

《Replication, atomicity and order in distributed systems》

介紹:Replication, atomicity and order in distributed systems

《MIT course:Distributed Systems》

介紹:2015年MIT分布式系統(tǒng)課程主頁,這次用Golang作為授課語言。6.824 Distributed Systems課程主頁

《Distributed systems for fun and profit》

介紹:免費分布式系統(tǒng)電子書。

《Ori:A Secure Distributed File System》

介紹:斯坦福開源的分布式文件系統(tǒng)。

《Availability in Globally Distributed Storage Systems》

介紹:Google論文:設(shè)計一個高可用的全球分布式存儲系統(tǒng)。

《Calvin: Fast Distributed Transactions For Partitioned Database Systems》

介紹:對于分區(qū)數(shù)據(jù)庫的分布式事務(wù)處理。

《Distributed Systems Building Block: Flake Ids》

介紹:Distributed Systems Building Block: Flake Ids.

《Introduction to Distributed System Design》

介紹:Google Code University課程,如何設(shè)計一個分布式系統(tǒng)。

《Sheepdog: Distributed Storage System for KVM》

介紹:KVM的分布式存儲系統(tǒng).

《Readings in Distributed Systems Systems》

介紹:分布式系統(tǒng)課程列表,包括數(shù)據(jù)庫、算法等.

《Tera》

介紹:來自百度的分布式表格系統(tǒng).

《Distributed systems: for fun and profit》

介紹:分布式系統(tǒng)的在線電子書.

《Distributed Systems Reading List》

介紹:分布式系統(tǒng)資料,此外還推薦Various articles about distributed systems.

《Designs, Lessons and Advice from Building Large Distributed Systems》

介紹:Designs, Lessons and Advice from Building Large Distributed Systems.

《Testing a Distributed System》

介紹:Testing a distributed system can be trying even under the best of circumstances.

《The Google File System》

介紹: 基于普通服務(wù)器構(gòu)建超大規(guī)模文件系統(tǒng)的典型案例,主要面向大文件和批處理系統(tǒng), 設(shè)計簡單而實用。 GFS是google的重要基礎(chǔ)設(shè)施, 大數(shù)據(jù)的基石, 也是Hadoop HDFS的參考對象。 主要技術(shù)特點包括: 假設(shè)硬件故障是常態(tài)(容錯能力強), 64MB大塊, 單Master設(shè)計,Lease/鏈式復(fù)制, 支持追加寫不支持隨機寫.

《Bigtable: A Distributed Storage System for Structured Data》

介紹:支持PB數(shù)據(jù)量級的多維非關(guān)系型大表, 在google內(nèi)部應(yīng)用廣泛,大數(shù)據(jù)的奠基作品之一 , Hbase就是參考BigTable設(shè)計。 Bigtable的主要技術(shù)特點包括: 基于GFS實現(xiàn)數(shù)據(jù)高可靠, 使用非原地更新技術(shù)(LSM樹)實現(xiàn)數(shù)據(jù)修改, 通過range分區(qū)并實現(xiàn)自動伸縮等.中文版

《PacificA: Replication in Log-Based Distributed Storage Systems》

介紹:面向log-based存儲的強一致的主從復(fù)制協(xié)議, 具有較強實用性。 這篇文章系統(tǒng)地講述了主從復(fù)制系統(tǒng)應(yīng)該考慮的問題, 能加深對主從強一致復(fù)制的理解程度。 技術(shù)特點: 支持強一致主從復(fù)制協(xié)議, 允許多種存儲實現(xiàn), 分布式的故障檢測/Lease/集群成員管理方法.

《Object Storage on CRAQ, High-throughput chain replication for read-mostly workloads》

介紹:分布式存儲論文:支持強一直的鏈式復(fù)制方法, 支持從多個副本讀取數(shù)據(jù),實現(xiàn)code.

《Finding a needle in Haystack: Facebook’s photo storage》

介紹:Facebook分布式Blob存儲,主要用于存儲圖片. 主要技術(shù)特色:小文件合并成大文件,小文件元數(shù)據(jù)放在內(nèi)存因此讀寫只需一次IO.

《Windows Azure Storage: A Highly Available Cloud Storage Service with Strong Consistency》

介紹: 微軟的分布式存儲平臺, 除了支持類S3對象存儲,還支持表格、隊列等數(shù)據(jù)模型. 主要技術(shù)特點:采用Stream/Partition兩層設(shè)計(類似BigTable);寫錯(寫滿)就封存Extent,使得副本字節(jié)一致, 簡化了選主和恢復(fù)操作; 將S3對象存儲、表格、隊列、塊設(shè)備等融入到統(tǒng)一的底層存儲架構(gòu)中.

《Paxos Made Live – An Engineering Perspective》

介紹:從工程實現(xiàn)角度說明了Paxo在chubby系統(tǒng)的應(yīng)用, 是理解Paxo協(xié)議及其應(yīng)用場景的必備論文。 主要技術(shù)特點: paxo協(xié)議, replicated log, multi-paxo.參考閱讀:關(guān)于Paxos的歷史

《Dynamo: Amazon’s Highly Available Key-Value Store》

介紹:Amazon設(shè)計的高可用的kv系統(tǒng),主要技術(shù)特點:綜和運用一致性哈希,vector clock,最終一致性構(gòu)建一個高可用的kv系統(tǒng), 可應(yīng)用于amazon購物車場景.新內(nèi)容來自分布式存儲必讀論文

《Efficient Replica Maintenance for Distributed Storage Systems》

介紹:分布式存儲系統(tǒng)中的副本存儲問題.

《PADS: A Policy Architecture for Distributed Storage Systems》

介紹:分布式存儲系統(tǒng)架構(gòu).

《The Chirp Distributed Filesystem》

介紹:開源分布式文件系統(tǒng)Chirp,對于想深入研究的開發(fā)者可以閱讀文章的相關(guān)Papers.

《Time, Clocks, and the Ordering of Events in a Distributed System》

介紹:經(jīng)典論文分布式時鐘順序的實現(xiàn)原理.

《Making reliable distributed systems in the presence of sodware errors》

介紹:面向軟件錯誤構(gòu)建可靠的分布式系統(tǒng),中文筆記.

《MapReduce: Simplified Data Processing on Large Clusters》

介紹:MapReduce:超大集群的簡單數(shù)據(jù)處理.

《Distributed Computer Systems Engineering》

介紹:麻省理工的分布式計算課程主頁,里面的ppt和閱讀列表很多干貨.

《The Styx Architecture for Distributed Systems》

介紹:分布式系統(tǒng)Styx的架構(gòu)剖析.

《What are some good resources for learning about distributed computing? Why?》

介紹:Quora上面的一個問答:有哪些關(guān)于分布式計算學(xué)習(xí)的好資源.

《RebornDB: The Next Generation Distributed Key-Value Store》

介紹:下一代分布式k-v存儲數(shù)據(jù)庫.

《Operating System Concepts Ninth Edition》

介紹:分布式系統(tǒng)歸根結(jié)底還是需要操作系統(tǒng)的知識,這是耶魯大學(xué)的操作系統(tǒng)概念書籍首頁,里面有提供了第8版的在線電子版和最新的學(xué)習(xí)操作系統(tǒng)指南,學(xué)習(xí)分布式最好先學(xué)習(xí)操作系統(tǒng).

《The Log: What every software engineer should know about real-time data's unifying abstraction》

介紹:分布式系統(tǒng)Log剖析,非常的詳細與精彩.中文翻譯|中文版筆記.

《Operating Systems Study Guide》

介紹:分布式系統(tǒng)基礎(chǔ)之操作系統(tǒng)學(xué)習(xí)指南.

《分布式系統(tǒng)領(lǐng)域經(jīng)典論文翻譯集》

介紹:分布式系統(tǒng)領(lǐng)域經(jīng)典論文翻譯集.

《Maintaining performance in distributed systems》

介紹:分布式系統(tǒng)性能維護.

《Computer Science from the Bottom Up》

介紹:計算機科學(xué),自底向上,小到機器碼,大到操作系統(tǒng)內(nèi)部體系架構(gòu),學(xué)習(xí)操作系統(tǒng)的另一個在線好材料.

《Operating Systems: Three Easy Pieces》

介紹:<操作系統(tǒng):三部曲>在線電子書,虛擬、并發(fā)、持續(xù).

《Database Systems: reading list》

介紹:數(shù)據(jù)庫系統(tǒng)經(jīng)典論文閱讀列,此外推送github上面的db reading.

《Unix System Administration》

介紹:Unix System Administration ebook.

《The Amoeba Distributed Operating System》

介紹:分布式系統(tǒng)經(jīng)典論文.

《Principles of Computer Systems》

介紹:計算機系統(tǒng)概念,以分布式為主.此外推薦Introduction to Operating Systems筆記

《Person page of EM?N GüN S?RER》

介紹:推薦康奈爾大學(xué)的教授EM?N GüN S?RER的主頁,他的研究項目有分布式,數(shù)據(jù)存儲。例如HyperDex數(shù)據(jù)庫就是他的其中一個項目之一.

《Scalable, Secure, and Highly Available Distributed File Access》

介紹:來自卡內(nèi)基梅隆如何構(gòu)建可擴展的、安全、高可用性的分布式文件系統(tǒng),其他papers.

《Distributed (Deep) Machine Learning Common》

介紹:分布式機器學(xué)習(xí)常用庫.

《The Datacenter as a Computer》

介紹:介紹了如何構(gòu)建倉儲式數(shù)據(jù)中心,尤其是對于現(xiàn)在的云計算,分布式學(xué)習(xí)來說很有幫助.本書是Synthesis Lectures on Computer Architecture系列的書籍之一,這套叢書還有 《The Memory System》,《Automatic Parallelization》,《Computer Architecture Techniques for Power Efficiency》,《Performance Analysis and Tuning for General Purpose Graphics Processing Units》,《Introduction to Reconfigurable Supercomputing》,Memory Systems Cache, DRAM, Disk

《helsinki:Distributed Systems Course slider》

介紹:來自芬蘭赫爾辛基的分布式系統(tǒng)課程課件:什么是分布式,復(fù)制,一致性,容錯,同步,通信.

《TiDB is a distributed SQL database》

介紹:分布式數(shù)據(jù)庫TiDB,Golang開發(fā).

《S897: Large-Scale Systems》

介紹:課程資料:大規(guī)模系統(tǒng).

《Large-scale L-BFGS using MapReduce》

介紹:使用MapReduce進行大規(guī)模分布式集群環(huán)境下并行L-BFGS.

《Twitter是如何構(gòu)建高性能分布式日志的》

介紹:Twitter是如何構(gòu)建高性能分布式日志的.

《Distributed Systems: When Limping Hardware Is Worse Than Dead Hardware》

介紹:在分布式系統(tǒng)中某個組件徹底死了影響很小,但半死不活(網(wǎng)絡(luò)/磁盤),對整個系統(tǒng)卻是毀滅性的.

《Tera - 高性能、可伸縮的結(jié)構(gòu)化數(shù)據(jù)庫》

介紹:來自百度的分布式數(shù)據(jù)庫.

《SequoiaDB is a distributed document-oriented NoSQL Database》

介紹:SequoiaDB分布式文檔數(shù)據(jù)庫開源.

《Readings in distributed systems》

介紹:這個網(wǎng)址里收集了一堆各TOP大學(xué)分布式相關(guān)的課程.

《Paxos vs Raft》

介紹:這個網(wǎng)站是Raft算法的作者為教授Paxos和Raft算法做的,其中有兩個視頻鏈接,分別講上述兩個算法.參考閱讀:關(guān)于Paxos的歷史

《A Scalable Content-Addressable Network》

介紹:A Scalable Content-Addressable Network.

《500 Lines or Less》

介紹:這個項目其實是一本書(The Architecture of Open Source Applications)的源代碼附錄,是一堆大牛合寫的.

《MIT 6.824 Distributed System》

介紹:這只是一個課程主頁,沒有上課的視頻,但是并不影響你跟著它上課:每一周讀兩篇課程指定的論文,讀完之后看lecture-notes里對該論文內(nèi)容的討論,回答里面的問題來加深理解,最后在課程lab里把所看的論文實現(xiàn)。當(dāng)你把這門課的作業(yè)刷完后,你會發(fā)現(xiàn)自己實現(xiàn)了一個分布式數(shù)據(jù)庫.

《HDFS-alike in Go》

介紹:使用go開發(fā)的分布式文件系統(tǒng).

《What are some good resources for learning about distributed computing? Why?》

介紹:Quora上關(guān)于學(xué)習(xí)分布式的資源問答.

《SeaweedFS is a simple and highly scalable distributed file system》

介紹:SeaweedFS是使用go開發(fā)的分布式文件系統(tǒng)項目,代碼簡單,邏輯清晰.

《Codis - yet another fast distributed solution for Redis》

介紹:Codis 是一個分布式 Redis 解決方案, 對于上層的應(yīng)用來說, 連接到 Codis Proxy 和連接原生的 Redis Server 沒有明顯的區(qū)別

《Paper: Coordination Avoidance In Distributed Databases By Peter Bailis》

介紹:Coordination Avoidance In Distributed Databases.

《從零開始寫分布式數(shù)據(jù)庫》

介紹:本文以TiDB源碼為例.

《what we talk about when we talk about distributed systems》

介紹:分布式系統(tǒng)概念梳理,為分布式系統(tǒng)涉及的主要概念進行了梳理.

《Distributed locks with Redis》

介紹:使用Redis實現(xiàn)分布式鎖.

《CS244b: Distributed Systems》

介紹: 斯坦福2014年秋季分布式課程.

《RAMP Made Easy》

介紹: 分布式的“讀原子性”.

《Strategies and Principles of Distributed Machine Learning on Big Data》

介紹: 大數(shù)據(jù)分布式機器學(xué)習(xí)的策略與原理.

《Distributed Systems: What is the CAP theorem?》

介紹: 分布式CAP法則.

《How should I start to learn distributed storage system as a beginner?》

介紹: 新手如何步入分布式存儲系統(tǒng).

《Cassandra - A Decentralized Structured Storage System》

介紹: 分布式存儲系統(tǒng)Cassandra剖析,推薦白皮書Introduction to Apache Cassandra.

《What is the best resource to learn about distributed systems?》

介紹: 分布式系統(tǒng)學(xué)習(xí)資源.

《What are some high performance TCP hacks?》

介紹: 一些高性能TCP黑客技巧.

《Maintaining performance in distributed systems》

介紹:分布式系統(tǒng)性能提升.

《A simple totally ordered broadcast protocol》

介紹:Benjamin Reed 和 Flavio P.Junqueira 所著論文,對Zab算法進行了介紹,zab算法是Zookeeper保持數(shù)據(jù)一致性的核心,在國內(nèi)有很多公司都使用zookeeper做為分布式的解決方案.推薦與此相關(guān)的一篇文章ZooKeeper’s atomic broadcast protocol: Theory and practice.

《zFS - A Scalable Distributed File System Using Object Disk》

介紹:可擴展的分布式文件系統(tǒng)ZFS,The Zettabyte File System,End-to-end Data Integrity for File Systems: A ZFS Case Study.

《A Distributed Haskell for the Modern Web》

介紹:分布式Haskell在當(dāng)前web中的應(yīng)用.

《Reasoning about Consistency Choices in Distributed Systems》

介紹:POPL2016的論文,關(guān)于分布式系統(tǒng)一致性選擇的論述,POPL所接受的論文,github上已經(jīng)有人整理.

《Paxos Made Simple》

介紹:Paxos讓分布式更簡單.譯文.參考閱讀:關(guān)于Paxos的歷史,understanding Paxos part1,Understanding Paxos – Part 2.Quora: What is a simple explanation of the Paxos algorithm?,Tutorial Summary: Paxos Explained from Scratch,Paxos algorithm explained, part 1: The essentials,Paxos algorithm explained, part 2: Insights

《Consensus Protocols: Paxos》

介紹:分布式系統(tǒng)一致性協(xié)議:Paxos.參考閱讀:關(guān)于Paxos的歷史

《Consensus on Transaction Commit》

介紹:事務(wù)提交的一致性探討.

《The Part-Time Parliaments》

介紹:在《The Part-Time Parliament》中描述了基本協(xié)議的交互過程。在基本協(xié)議的基礎(chǔ)上完善各種問題得到了最終的議會協(xié)議。 為了讓人更容易理解《The Part-Time Parliament》中描述的Paxos算法,Lamport在2001發(fā)表了《Paxos Made Simple》,以更平直的口頭語言描述了Paxos,而沒有包含正式的證明和數(shù)學(xué)術(shù)語。《Paxos Made Simple》中,將算法的參與者更細致的劃分成了幾個角色:Proposer、Acceptor、Learner。另外還有Leader和Client.參考閱讀:關(guān)于Paxos的歷史

《Paxos Made Practical》

介紹:看這篇論文時可以先看看理解Paxos Made Practical.

《PaxosLease: Diskless Paxos for Leases》

介紹:PaxosLease:實現(xiàn)租約的無盤Paxos算法,譯文.

《Paxos Made Moderately Complex》

介紹:Paxos算法實現(xiàn),譯文,同時推薦42 Paxos Made Moderately Complex.

《Hadoop Reading List》

介紹:Hadoop學(xué)習(xí)清單.

《Hadoop Reading List》

介紹:Hadoop學(xué)習(xí)清單.

《2010 NoSQL Summer Reading List》

介紹:NoSQL知識清單,里面不僅僅包含了數(shù)據(jù)庫閱讀清單還包含了分布式系統(tǒng)資料.

《Raft: Understandable Distributed Consensus》

介紹:Raft可視化圖幫助理解分布式一致性

《Etcd:Distributed reliable key-value store for the most critical data of a distributed system》

介紹:Etcd分布式Key-Value存儲引擎

《Understanding Availability》

介紹:理解peer-to-peer系統(tǒng)中的可用性究竟是指什么.同時推薦基于 Peer-to-Peer 的分布式存儲系統(tǒng)的設(shè)計

《Process structuring, synchronization, and recovery using atomic actions》

介紹:經(jīng)典論文

《Programming Languages for Parallel Processing》

介紹:并行處理的編程語音

《Analysis of Six Distributed File Systems》

介紹:此篇論文對HDFS,MooseFS,iRODS,Ceph,GlusterFS,Lustre六個存儲系統(tǒng)做了詳細分析.如果是自己研發(fā)對應(yīng)的存儲系統(tǒng)推薦先閱讀此篇論文

《A Survey of Distributed File Systems》

介紹:分布式文件系統(tǒng)綜述

《Concepts of Concurrent Programming》

介紹:并行編程的概念,同時推薦卡內(nèi)基梅隆FTP

《Concurrency Control Performance Modeling:Alternatives and Implications》

介紹:并發(fā)控制性能建模:選擇與意義

《Distributed Systems - Concepts and Design 5th Edition》

介紹:ebook分布式系統(tǒng)概念與設(shè)計

《分布式系統(tǒng)設(shè)計的形式方法》

介紹:分布式系統(tǒng)設(shè)計的形式方法

《互斥和選舉算法》

介紹:互斥和選舉算法

《Actors:A model Of Concurrent Cornputation In Distributed Systems》

介紹:經(jīng)典論文

《Security Engineering: A Guide to Building Dependable Distributed Systems》

介紹:如何構(gòu)建一個安全可靠的分布式系統(tǒng),About the Author,Bibliography:文獻資料,章節(jié)訪問把鏈接最后的01換成01-27即可

《15-712 Advanced and Distributed Operating Systems》

介紹:卡內(nèi)基梅隆大學(xué)的分布式系統(tǒng)博士生課程主頁,有很豐富的資料

《Dapper, Google's Large-Scale Distributed Systems Tracing Infrastructure》

介紹:Dapper,大規(guī)模分布式系統(tǒng)的跟蹤系統(tǒng),譯文,譯文對照

《CS262a: Advanced Topics in Computer Systems》

介紹:伯克利大學(xué)計算機系統(tǒng)進階課程,內(nèi)容有深度,涵蓋分布式,數(shù)據(jù)庫等內(nèi)容

《Egnyte Architecture: Lessons Learned In Building And Scaling A Multi Petabyte Distributed System》

介紹:PB級分布式系統(tǒng)構(gòu)建/擴展經(jīng)驗

《CS162: Operating Systems and Systems Programming》

介紹:伯克利大學(xué)計算機系統(tǒng)課程:操作系統(tǒng)與系統(tǒng)編程

《MDCC: Multi-Data Center Consistency》

介紹:MDCC主要解決跨數(shù)據(jù)中心的一致性問題中間件,一種新的協(xié)議

《Research at Google:Distributed Systems and Parallel Computing》

介紹:google公開對外發(fā)表的分布式系統(tǒng)與并行計算論文

《HDFS Architecture Guide》

介紹:分布式文件系統(tǒng)HDFS架構(gòu)

《ActorDB distributed SQL database》

介紹:分布式 Key/Value數(shù)據(jù)庫

《An efficient data location protocol for self-organizing storage clusters》

介紹:是著名的Ceph的負載平衡策略,文中提出的幾種策略都值得嘗試,比較贊的一點是可以對照代碼體會和實踐,如果你還需要了解可以看看Ceph:一個 Linux PB 級分布式文件系統(tǒng),除此以外,論文的引用部分也挺值得閱讀的,同時推薦Ceph: A Scalable, High-Performance Distributed File System

《A Self-Organizing Storage Cluster for Parallel Data-Intensive Applications》

介紹:Surrento的冷熱平衡策略就采用了延遲寫技術(shù)

《HBA: Distributed Metadata Management for Large Cluster-Based Storage Systems》

介紹:對于分布式存儲系統(tǒng)的元數(shù)據(jù)管理.

《Server-Side I/O Coordination for Parallel File Systems》

介紹:服務(wù)器端的I/O協(xié)調(diào)并行文件系統(tǒng)處理,網(wǎng)絡(luò),文件存儲等都會涉及到IO操作.不過里面涉及到很多技巧性的思路在實踐時需要斟酌

《Distributed File Systems: Concepts and Examples》

介紹:分布式文件系統(tǒng)概念與應(yīng)用

《CSE 221: Graduate Operating Systems》

介紹:加利福尼亞大學(xué)的研究生操作系統(tǒng)課程主頁,論文很值得閱讀

《S4: Distributed Stream Computing Platform》

介紹:Yahoo出品的流式計算系統(tǒng),目前最流行的兩大流式計算系統(tǒng)之一(另一個是storm),Yahoo的主要廣告計算平臺

《Pregel: a system for large-scale graph processing》

介紹:Google的大規(guī)模圖計算系統(tǒng),相當(dāng)長一段時間是Google PageRank的主要計算系統(tǒng),對開源的影響也很大(包括GraphLab和GraphChi)

《GraphLab: A New Framework for Parallel Machine Learning》

介紹:CMU基于圖計算的分布式機器學(xué)習(xí)框架,目前已經(jīng)成立了專門的商業(yè)公司,在分布式機器學(xué)習(xí)上很有兩把刷子,其單機版的GraphChi在百萬維度的矩陣分解都只需要2~3分鐘;

《F1: A Distributed SQL Database That Scales》

介紹:這篇論文是Google 2013年發(fā)表的,介紹了F1的架構(gòu)思路,13年時就開始支撐Google的AdWords業(yè)務(wù),另外兩篇介紹文章F1 - The Fault-Tolerant Distributed RDBMS Supporting Google's Ad Business .Google NewSQL之F1

《Cockroach DB:A Scalable, Survivable, Strongly-Consistent SQL Database》

介紹:CockroachDB :一個可伸縮的、跨地域復(fù)制的,且支持事務(wù)的數(shù)據(jù)存儲,InfoQ介紹,Design and Architecture of CockroachDb

《Multi-Paxos: An Implementation and Evaluation》

介紹:Multi-Paxos實現(xiàn)與總結(jié),此外推薦Paxos/Multi-paxos Algorithm,Multi-Paxos Example,地址:ftp://ftp.cs.washington.edu/tr/2009/09/UW-CSE-09-09-02.PDF

《Zab: High-performance broadcast for primary-backup systems》

介紹:一致性協(xié)議zab分析

《A Distributed Hash Table》

介紹:分布式哈希算法論文,擴展閱讀Introduction to Distributed Hash Tables,Distributed Hash Tables

《Comparing the performance of distributed hash tables under churn》

介紹:分布式hash表性能的Churn問題

《Brewer’s Conjecture and the Feasibility of Consistent, Available, Partition-Tolerant Web》

介紹:分布式系統(tǒng)的CAP問題,推薦Perspectives on the CAP Theorem.對CAP理論的解析文章,PODC ppt,A plain english introduction to CAP Theorem,IEEE Computer issue on the CAP Theorem

《F2FS: A New File System for Flash Storage》

介紹:閃存存儲文件系統(tǒng)F2FS

《Better I/O Through Byte-Addressable, Persistent Memory》

介紹:微軟發(fā)表的關(guān)于i/o訪問優(yōu)化論文

《tmpfs: A Virtual Memory File System》

介紹:虛擬內(nèi)存文件系統(tǒng)tmpfs

《BTRFS: The Linux B-tree Filesystem》

介紹:Linux B-tree文件系統(tǒng).

《Akamai technical publication》

介紹:Akamai是全球最大的云計算機平臺之一,承載了全球15-30%網(wǎng)絡(luò)流量,如果你是做CDN或者是云服務(wù),這個里面的論文會給你很有幫助.例如這幾天看facebook開源的osquery。找到通過db的方式運維,找到Keeping Track of 70,000+ Servers: The Akamai Query System這篇論文,先看論文領(lǐng)會思想,然后再使用工具osquery實踐

《BASE: An Acid Alternative》

介紹:來自eBay 的解決方案,譯文Base: 一種Acid的替代方案,應(yīng)用案例參考保證分布式系統(tǒng)數(shù)據(jù)一致性的6種方案

《A Note on Distributed Computing》

介紹:Jim Waldo和Sam Kendall等人共同撰寫了一篇非常有名的論文“分布式計算備忘錄”,這篇論文在Reddit上被人推薦為“每個程序員都應(yīng)當(dāng)至少讀上兩篇”的論文。在這篇論文中,作者表示“忽略本地計算與分布式計算之間的區(qū)別是一種危險的思想”,特別指出了Emerald、Argus、DCOM以及CORBA的設(shè)計問題。作者將這些設(shè)計問題歸納為“三個錯誤的原則”: “對于某個應(yīng)用來說,無論它的部署環(huán)境如何,總有一種單一的、自然的面向?qū)ο笤O(shè)計可以符合其需求。” “故障與性能問題與某個應(yīng)用的組件實現(xiàn)直接相關(guān),在最初的設(shè)計中無需考慮這些問題?!?“對象的接口與使用對象的上下文無關(guān)”.

《Distributed Systems Papers》

介紹:分布式系統(tǒng)領(lǐng)域經(jīng)典論文列表.

《Consistent Hashing and Random Trees: Distributed Caching Protocols for Relieving Hot Spots on the World Wide Web》

介紹:Consistent Hashing算法描述.

《SIGMOD 2016: Accepted Research Papers》

介紹:SIGMOD是世界上最有名的數(shù)據(jù)庫會議之一,最具有權(quán)威性,收錄論文審核非常嚴格.2016年的SIGMOD 會議照常進行,上面收錄了今年SIGMOD收錄的論文,把題目輸入google中加上pdf就能找到,很多論文值得閱讀,SIGMOD 2015

《Notes on CPSC 465/565: Theory of Distributed Systems》

介紹:耶魯大學(xué)的分布式系統(tǒng)理論課程筆記

《Distributed Operating System Doc PDF》

介紹:分布式系統(tǒng)文檔資源(可下載)

《Anatomy of a database system》

介紹:數(shù)據(jù)庫系統(tǒng)剖析,這本書是由伯克利大學(xué)的Joseph M. Hellerstein和M. Stonebraker合著的一篇論文.對數(shù)據(jù)庫剖析很有深度.除此以外還有一篇文章Architecture of a Database System。數(shù)據(jù)庫系統(tǒng)架構(gòu),廈門大學(xué)的數(shù)據(jù)庫實驗室教授林子雨組織過翻譯

《A Relational Model of Data for Large Shared Data Banks》

介紹:數(shù)據(jù)庫關(guān)系模型論文

《RUC Innovative data systems reaserch lab recommand papers》

介紹:中國人民大學(xué)數(shù)據(jù)研究實驗室推薦的數(shù)據(jù)庫領(lǐng)域論文

《A Scalable Distributed Information Management System》

介紹:構(gòu)建可擴展的分布式信息管理系統(tǒng)

《Distributed Systems in Haskell》

介紹:Haskell中的分布式系統(tǒng)開發(fā)

《Large-scale cluster management at Google with Borg》

介紹:Google使用Borg進行大規(guī)模集群的管理,伯克利大學(xué)ppt介紹,中文版

《Lock Free Programming Practice》

介紹:并發(fā)編程(Concurrency Programming)資料,主要涵蓋lock free數(shù)據(jù)結(jié)構(gòu)實現(xiàn)、內(nèi)存回收方法、memory model等備份鏈接密碼: xc5j

《Distributed Algorithms Lecture Notes for 6.852》

介紹:Nancy Lynch's的分布式算法研究生課程講義

《Distributed Algorithms for Topic Models》

介紹:分布式算法主題模型.

《RecSys - ACM Recommender Systems》

介紹:世界上非常有名的推薦系統(tǒng)會議,我比較推薦接收的PAPER

《All Things Distributed》

介紹:推薦一個博客,博主是Amazon CTO Werner Vogels,這是一個關(guān)注分布式領(lǐng)域的博客.大部分博文是關(guān)于在工業(yè)界應(yīng)用.

《programming, database, distributed system resource list》

介紹:這個Git是由阿里(alibaba)的技術(shù)專家何登成維護,主要是分布式數(shù)據(jù)庫.

《Making reliable distributed systems in the presence of sodware errors》

介紹:Erlang的作者Joe Armstrong撰寫的論文,面對軟件錯誤構(gòu)建可靠的分布式系統(tǒng).中文譯版

《CS 525: Advanced Distributed Systems[Spring 2016]》

介紹:伊利諾伊大學(xué)的Advanced Distributed Systems 里把各個方向重要papers(updated Spring 2015)列舉出來,可以參考一下

《Distributed Algorithms》

介紹:這是一本分布式算法電子書,作者是Jukka Suomela.講述了多個計算模型,一致性,唯一標示,并發(fā)等.

《TinyLFU: A Highly Efficient Cache Admission Policy》

介紹:當(dāng)時是在閱讀如何設(shè)計一個緩存系統(tǒng)時看到的,然后通過Google找到了這一篇關(guān)于緩存策略的論文,它是LFU的改良版,中文介紹.如果有興趣可以看看Golang實現(xiàn)版。結(jié)合起來可能會幫助你理解

《6.S897: Large-Scale Systems》

介紹:斯坦福大學(xué)給研究生開的分布式系統(tǒng)課程。教師是 spark 作者 matei. 能把這些內(nèi)容真正理解透,分布式系統(tǒng)的功力就很強了。

《學(xué)習(xí)分布式系統(tǒng)需要怎樣的知識?》

介紹:[怎么學(xué)系列]學(xué)習(xí)分布式系統(tǒng)需要怎樣的知識?

《Distributed systems theory for the distributed systems engineer》

介紹:分布式系統(tǒng)工程師的分布式系統(tǒng)理論

《A Distributed Systems Reading List》

介紹:分布式系統(tǒng)論文閱讀列表,此外推薦威斯康星大學(xué)麥迪遜分校計算機系分布式系統(tǒng)學(xué)習(xí)推薦閱讀列表

《Distributed Systems Reading Group》

介紹:麻省理工大學(xué)分布式系統(tǒng)小組,他們會把平時閱讀到的優(yōu)秀論文分享出來。雖然有些論文本頁已經(jīng)收錄,但是里面的安排表schedule還是挺贊的

《Scalable Software Architecture》

介紹:分布式系統(tǒng)、可擴展性與系統(tǒng)設(shè)計相關(guān)報告、論文與網(wǎng)絡(luò)資源匯總.

《MapReduce&Hadoop resource》

介紹:MapReduce&Hadoop相關(guān)論文,涉及分布式系統(tǒng)設(shè)計,性能分析,實踐,優(yōu)化等多個方面

《Distributed Systems: Principles and Paradigms(second edtion)》

介紹:分布式系統(tǒng)原理與范型第二版,課后解答

《Distributed Systems Seminar's reading list for Spring 2017》

介紹:分布式系統(tǒng)研討會論文閱讀列表

《A Critique of the CAP Theorem》

介紹:這是一篇評論CAP定理的論文,學(xué)習(xí)CAP很有幫助,推薦閱讀評論文章"A Critique of the CAP Theorem"

《Evolving Distributed Systems》

介紹:推薦文章《不斷演進的分布式系統(tǒng)》.

《Ask HN: Recommendations for a book on Distributed Systems?》

介紹:HN上面關(guān)于分布式系統(tǒng)相關(guān)領(lǐng)域?qū)W習(xí)的書籍推薦.

《SeaweedFS:A simple and highly scalable distributed file system》

介紹:Golang開源項目,分布式文件存儲系統(tǒng)SeaweedFS

《The Design and Implementation of a Log-Structured File System》

介紹:論文推薦:設(shè)計并實現(xiàn)一個日志結(jié)構(gòu)的文件系統(tǒng).

《DATABASE SYSTEMS》

介紹:數(shù)據(jù)庫系統(tǒng)的設(shè)計與實現(xiàn),卡內(nèi)基梅隆大學(xué)在2016年春季數(shù)據(jù)庫課程以本書作為教材,并且向外界開放了Schedule.引用一段亞馬遜上面的購書評論:

這本書主要集中在基本的數(shù)據(jù)庫實現(xiàn)方面??雌饋砗芾碚?,但實際上作者提到的點都有實際的考慮。這一點在寫完相關(guān)代碼后重新閱讀感觸尤深。但如果不經(jīng)過自己的思考和實踐,這本書實際上讀起來仍是“看起來就是那么回事”的感覺。不得不說,這本書其實應(yīng)該是所有進行數(shù)據(jù)庫應(yīng)用開發(fā)的人必讀的一本書。大部分數(shù)據(jù)庫里面的概念,書本都有從實際的需求中引導(dǎo)出,一目了然。大部分的教材,在提到數(shù)據(jù)庫的各種概念時,往往是有定義而無解釋為何有這種定義。

《Don't settle for eventual consistency》

介紹:原文主要講述了CAP理論中C在實踐中的重要性。做分布式系統(tǒng)的都知道CAP只能三選其二。而且目前很多基礎(chǔ)設(shè)置服務(wù)(云存儲,云數(shù)據(jù))都無法保證100%可用,那么就是間接的丟掉了A,推薦閱讀以下文末推薦的You Can’t Sacrifice Partition Tolerance,分區(qū)容錯也很重要

作者:Albert陳凱,鏈接:http://www.itdecent.cn/p/243bfa88ddc4,來源:簡書,著作權(quán)歸作者所有。商業(yè)轉(zhuǎn)載請聯(lián)系作者獲得授權(quán),非商業(yè)轉(zhuǎn)載請注明出處。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時請結(jié)合常識與多方信息審慎甄別。
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。

友情鏈接更多精彩內(nèi)容