ref: https://vivek-singh.medium.com/system-design-cheat-sheet-318ba2e34723
本篇文章是一個筆記文,紀錄關於 System Design 路上常遇到的架構與元件,譬如
1. LoadBalancer
2. Caches
3. Queues
4. Configuration Service
5. API Gateway
6. Service Mesh
7. CDN
8. Cassandra
9. Snowflake
10. Numbers
每個概念都還會附上一些相關影片與文章,也因為是個筆記內容,因此每個元件的介紹都不會非常詳細,都是小小段落介紹每個元件的最基本概念。
譬如 LoadBalancer 的筆記有
1. L4/L7 兩種的差異
2. AWS 上 ELB/ALB/NLB 的三種差異
3. LB 的演算法, Round Robin,Weighted RR, Least Connection/Response Time/Resource based 等
Caches
1. 實作有 Memcached, Redis 等相關專案
2. 什麼時候會使用 Memcached:
a. 需求簡單,譬如單純 Key/Value 字串,可以輕易地透過調整 cores/threads 來調整效能。
b. Volatile,沒有儲存機制
c. 只有 LRU 的 Cache 演算法
d. Key 最多 250B, Value 最多 1MB
3. 什麼時候使用 Redis
a. 需要儲存 object,而非單純 string
b. 支援多種演算法
c. 支援 data store,可以達到 non-volatile 效果
d. 可以支援 Set/Hash/List/Sorted Set 不同型態
這類型的文章對於踏入 System Design 能夠提供一個簡易的入門介紹,先有哪些類別需要學習,再針對每個類別獨立學習也是一個不錯的學習路徑。
同時也有2部Youtube影片,追蹤數超過9萬的網紅SoImJenn,也在其Youtube影片中提到,BEST CNY AD 2021? ?? - @mcdonaldsmalaysia #GoldenProsperity - ? Subscribe to my channel & hit the notification bell so you never miss an upload! » ht...
hash value 在 Taipei Ethereum Meetup Facebook 的精選貼文
📜 [專欄新文章] Merkle Tree in JavaScript
✍️ Johnson
📥 歡迎投稿: https://medium.com/taipei-ethereum-meetup #徵技術分享文 #使用心得 #教學文 #medium
這篇文章會說明 Merkle Tree 的運作原理,以及解釋 Merkle Proofs 的用意,並以 JavaScript / TypeScript 簡單實作出來。
本文為 Tornado Cash 研究系列的 Part 1,本系列以 tornado-core 為教材,學習開發 ZKP 的應用,另兩篇為:
Part 2:ZKP 與智能合約的開發入門
Part 3:Tornado Cash 實例解析
Special thanks to C.C. Liang for review and enlightenment.
本文中實作的 Merkle Tree 是以 TypeScript 重寫的版本,原始版本為 tornado-core 以 JavaScript 實作而成,基本上大同小異。
Merkle Tree 的原理
在理解 Merkle Tree 之前,最基本的先備知識是 hash function,利用 hash 我們可以對資料進行雜湊,而雜湊後的值是不可逆的,假設我們要對 x 值做雜湊,就以 H(x) 來表示,更多內容可參考:
一次搞懂密碼學中的三兄弟 — Encode、Encrypt 跟 Hash
SHA256 Online
而所謂的 Merkle Tree 就是利用特定的 hash function,將一大批資料兩兩進行雜湊,最後產生一個最頂層的雜湊值 root。
當有一筆資料假設是const leaves = [A, B, C, D],我們就用function Hash(left, right),開始製作這顆樹,產生H(H(A) + H(B))與H(H(C) + H(D)),再將這兩個值再做一次 Hash 變成 H(H(H(A) + H(B)) + H(H(C) + H(D))),就會得到這批資料的唯一值,也就是 root。
本文中使用的命名如下:
root:Merkle Tree 最頂端的值,特色是只要底下的資料一有變動,root 值就會改變。
leaf:指單一個資料,如 H(A)。
levels:指樹的高度 (height),以上述 4 個資料的假設,製作出來的 levels 是 2,levels 通常會作為遞迴的次數。
leaves:指 Merkle Tree 上的所有資料,如上述例子中的 H(A), H(B), H(C), H(D)。leaves 的數量會決定樹的 levels,公式是 leaves.length == 2**levels,這段建議先想清楚!
node:指的是非 leaves 也非 root 的節點,或稱作 branch,如上述例子中的H(H(A) + H(B)) 和 H(H(C) + H(D))。
index:指某個 leaf 所在的位置,leaf = leaves[index],index 如果是偶數,leaf 一定在左邊,如果是奇數 leaf 一定在右邊。
Merkle Proofs
Merkle Proofs 的重點就是要證明資料有沒有在樹上。
如何證明?就是提供要證明的 leaf 以及其相對應的路徑 (path) ,經過計算後一旦能夠產生所需要的 root,就能證明這個 leaf 在這顆樹上。
因此這類要判斷資料有無在樹上的證明,類似的說法有:proving inclusion, proving existence, or proving membership。
這個 proof 的特點在於,我們只提供 leaf 和 path 就可以算出 root,而不需要提供所有的資料 (leaves) 去重新計算整顆 Merkle Tree。這讓我們在驗證資料有沒有在樹上時,不需要花費大量的計算時間,更棒的是,這讓我們只需要儲存 root 就好,而不需要儲存所有的資料。
在區塊鏈上,儲存資料的成本通常很高,也因此 Merkle Tree 的設計往往成為擴容上的重點。
我們知道 n 層的 Merkle Tree 可以存放 2**n 個葉子,以 Tornado Cash 的設計來說,他們設定 Merkle Tree 有 20 層,也就是一顆樹上會有 2**20 = 1048576 個葉子,而我們用一個 root 就代表了這 1048576 筆資料。
接續上段的例子,這顆 20 層的 Merkle Tree 所產生的 Proof ,其路徑 (path) 要從最底下的葉子 hash 幾次才能到達頂端的 root 呢?答案就是跟一棵樹的 levels 一樣,我們要驗證 Proof 所要遞迴的次數就會是 20 次。
在實作之前,我們先來看 MerkleTree 在 client 端是怎麼調用的,這有助於我們理解 Merkle Proofs 在做什麼。
基本上一個 proof 的場景會有兩個人:prover 與 verifier。
在給定一筆 leaves 的樹,必定產生一特定 root。prover 標示他的 leaf 在樹上的 index 等於 2,也就是 leaves[2] == 30,以此來產生一個 proof,這個 proof 的內容大致上會是這個樣子:
對 verifier 來說,他要驗證這個 proof,就是用裡面的 leaf 去一個一個與 pathElements 的值做 hash,上述就是 H('30', 40) 後得出 node,再 hash 一次 H('19786...', node) 於是就能得出這棵樹的 root。
重點來了,這麼做有什麼意義?它的巧思在於對 verifier 來說,他只需要儲存一個 root,由 prover 提交證明給他,經過計算後產生的 root 如果跟 verifier 儲存的 root 一樣,那就證明了 prover 所提供的資料確實存在於這個樹上。
而 verifier 若不透過 proof ,要驗證某個 leaf 是否存在於樹上,也可以把 leaves = [10, 20 ,leaf ,40]整筆資料拿去做 MerkleTree 的演算法跑一趟也能產生特定的 root。
但由 prover 先行計算後所提交的 proof,讓 verifier 不必儲存整批資料,也省去了大量的計算時間,即可做出某資料有無在 Merkle Tree 上的判斷。
Sparse Merkle Tree
上述能夠證明資料有無在樹上的 Merkle Proofs 是屬於標準的 Merkle Tree 的功能。但接下來我們要實作的是稍微不一樣的樹,叫做 Sparse Merkle Tree。
Sparse Merkle Tree 的特色在於除了 proving inclusion 之外,還可以 proving non-inclusion。也就是能夠證明某筆資料不在某個 index,例如 H(A) 不在 index 2 ,這是一般 Merkle Tree 沒辦法做到的。
而要做到 non-membership 的功能其實也不難,就是我們要在沒有資料的葉子裡補上 zero value,或是說 null 值。更多內容請參考:What’s a Sparse Merkle Tree。
實作細節
本節將完整的程式碼分成三個片段來解釋。
首先,這裡使用的 Hash Function 是 MiMC,主要是為了之後在 ZKP 專案上的效率考量,你可以替換成其他較常見的 hash function 例如 node.js 內建 crypto 的 sha256:
crypto.createHash("sha256").update(data.toString()).digest("hex");
這裡定義簡單的 Merkle Tree 介面有 root, proof, and insert。
首先我們必須先給定這顆樹的 levels,也就是樹的高度先決定好,樹所能容納的資料量也因此固定為 2**levels 筆資料,至於要不要有 defaultLeaves 則看創建 Merkle Tree 的 client 自行決定,如果有 defaultLeaves 的話,constructor 就會跑下方一大段計算,對 default 資料開始作 hash 去建立 Merkle Tree。
如果沒有 defaultLeaves,我們的樹也不會是空白的,因為這是顆 Sparse Merkle Tree,這裡使用 zeroValue 作為沒有填上資料的值,zeros 陣列會儲存不同 level 所應該使用的 zero value。假設我們已經填上第 0 筆與第 1 筆資料,要填上第 2 筆資料時,第 2 筆資料就要跟 zeros[0] 做 hash,第 2 筆放左邊, zero value 放右邊。
我們將所有的點不論是 leaf, node, root 都用標籤 (index) 標示,並以 key-value 的形式儲存在 storage 裡面。例如第 0 筆資料會是 0–0,第 1 筆會是 0–1,這兩個 hash 後的節點 (node) 會是 1–0。假設 levels 是 2,1–0 節點就要跟 1–1 節點做 hash,即可產出 root (2–0)。
後半部份的重點在於 proof,先把 proof 和 traverse 看懂,基本上就算是打通任督二脈了,之後有興趣再看 insert 和 update。
sibling 是指要和 current 一起 hashLeftRight 的值…也就是相鄰在兩旁的 leaf (or node)。
到這裡程式碼的部分就結束了。
最後,讓我們回到一開始 client 調用 merkleTree 的例子:
以及 proof 的內容:
前面略過了 proof 裡頭的 pathIndices,pathIndices 告訴你的是當前的 leaf (or node) 是要放在左邊,還是放在右邊,大概是這個樣子:
if (indices == 0) hash(A, B);if (indices == 1) hash(B, A);
有興趣的讀者可以實作 verify function 看看就會知道了!
原始碼
TypeScript from gist
JavaScript from tornado-core
參考
Merkle Proofs Explained
What’s a Sparse Merkle Tree?
延伸:Verkle Tree
Merkle Tree in JavaScript was originally published in Taipei Ethereum Meetup on Medium, where people are continuing the conversation by highlighting and responding to this story.
👏 歡迎轉載分享鼓掌
hash value 在 ลงทุนแมน Facebook 的最佳解答
ทำไม ไต้หวัน จึงเป็นเจ้าแห่งอุตสาหกรรม เซมิคอนดักเตอร์ /โดย ลงทุนแมน
สมาร์ตโฟน วิดีโอเกม คอมพิวเตอร์ รวมไปถึงอุปกรณ์อิเล็กทรอนิกส์ชนิดต่างๆ
สิ่งเหล่านี้ กำลังมีความต้องการเพิ่มมากขึ้นเรื่อยๆ ในทุกวันนี้
อุปกรณ์อิเล็กทรอนิกส์ที่ว่ามานั้นจะมีส่วนประกอบสำคัญอย่างหนึ่ง นั่นก็คือ ชิป
ที่ทำหน้าที่ ประมวลผล เก็บข้อมูล และส่งข้อมูล
โดยที่ ชิป มีองค์ประกอบหลัก คือ สารกึ่งตัวนำหรือที่เรียกกันว่า เซมิคอนดักเตอร์
และถ้าหากพูดถึง ผู้นำในอุตสาหกรรมเซมิคอนดักเตอร์ของโลก
เราก็คงต้องยกตำแหน่งนั้นให้กับ “ไต้หวัน”
ทำไม ไต้หวัน จึงเป็นเจ้าแห่งอุตสาหกรรม เซมิคอนดักเตอร์?
ลงทุนแมนจะเล่าให้ฟัง
╔═══════════╗
Blockdit เป็นแพลตฟอร์ม สำหรับนักอ่าน และนักเขียน
ที่มีผู้ใช้งาน 1 ล้านคน ลองใช้แพลตฟอร์มนี้เพื่อได้ไอเดียใหม่ๆ
แล้วอาจพบว่าสังคมนี้เหมาะกับคนเช่นคุณ
Blockdit. Ideas Happen. Blockdit.com/download
╚═══════════╝
ไต้หวัน หรือมีชื่ออย่างเป็นทางการว่า “สาธารณรัฐจีน”
ปี 2020 ไต้หวัน มีประชากรจำนวน 23.6 ล้านคน
และมีมูลค่า GDP ประมาณ 19 ล้านล้านบาท
แต่รู้ไหมว่า ถ้าย้อนเวลากลับไป 60 ปีที่แล้ว ขนาดเศรษฐกิจของไต้หวันนั้นเล็กกว่าประเทศไทยเกือบเท่าตัว
- มูลค่า GDP ในปี 1960 ของไต้หวัน เท่ากับ 48,000 ล้านบาท
- มูลค่า GDP ในปี 1960 ของไทย เท่ากับ 83,000 ล้านบาท
ในช่วงนั้น อุตสาหกรรมการผลิตของไต้หวัน ยังคงเป็นการรับจ้างผลิต ที่เน้นการใช้แรงงานสูง
แต่จุดเปลี่ยนทางเศรษฐกิจครั้งสำคัญของไต้หวัน ก็เกิดขึ้นในช่วงปี 1986-2000
ในช่วง 15 ปีนั้น รัฐบาลไต้หวันต้องการเสริมสร้างความสามารถในการผลิตสินค้าของประเทศ
ด้วยการส่งเสริมและพัฒนาอุตสาหกรรมที่ใช้เทคโนโลยีขั้นสูง โดยเฉพาะสินค้าไอที
เพื่อให้สามารถสร้างมูลค่าเพิ่มให้แก่สินค้าของไต้หวัน
และหนึ่งในอุตสาหกรรมหลักที่ถูกผลักดัน ก็คือ “อุตสาหกรรมเซมิคอนดักเตอร์”
ธุรกิจในอุตสาหกรรมนี้ หลักๆ ก็คือการผลิต ชิป หรือ ชิปเซต
ซึ่งเป็นสิ่งที่ทำหน้าที่ประมวลผล เก็บข้อมูล และส่งข้อมูล
ที่เปรียบเสมือนสมองของอุปกรณ์อิเล็กทรอนิกส์ อย่างเช่น สมาร์ตโฟน หรือ คอมพิวเตอร์
การจะได้มาซึ่งชิปที่มีประสิทธิภาพสูง ก็ต้องมีเทคโนโลยีในการผลิตขั้นสูงก่อน
ซึ่งการจะมีเทคโนโลยีการผลิตขั้นสูง ก็หมายความว่า ไต้หวัน ต้องทุ่มงบประมาณในการวิจัยและพัฒนาสูงมากตามไปด้วย
สิ่งที่รัฐบาลไต้หวันทำในตอนนั้นคือ
มีการจัดสรรเงินทุนเพื่อก่อตั้ง "สถาบันเพื่อการวิจัยและพัฒนาเทคโนโลยีอุตสาหกรรม” หรือ Industrial Technology Research Institute (ITRI)
ซึ่ง ITRI มีการร่วมทุนกับบริษัทฟิลิปส์ของเนเธอร์แลนด์
ทำให้มีการถ่ายทอดเทคโนโลยีการผลิตชิปมาที่ไต้หวัน
จนทำให้ ITRI สามารถพัฒนากระบวนการผลิตชิปเป็นของตัวเอง
หลังจากนั้น ในปี 1987 ก็ได้เกิด บริษัท “TSMC”
หรือ Taiwan Semiconductor Manufacturing Company
บริษัทผลิตชิป ที่เป็นเสมือนหัวใจของอุตสาหกรรมเซมิคอนดักเตอร์ของไต้หวัน
หลังจากนั้นมา เศรษฐกิจไต้หวันก็เติบโตอย่างรวดเร็ว
อัตราการเติบโตทางเศรษฐกิจของไต้หวันระหว่างปี 1986-2000 เติบโตเฉลี่ยปีละ 7.5%
และถ้านับตั้งแต่ปี 1960-2019
รายได้เฉลี่ยต่อคนต่อปี ของคนไต้หวัน เพิ่มขึ้นถึง 167 เท่า
จากประมาณ 4,500 บาท เป็น 750,000 บาท
ทำให้ไต้หวันในตอนนี้ ถูกจัดอยู่ในกลุ่มประเทศที่มีรายได้สูงไปเรียบร้อยแล้ว
โดยในปัจจุบัน อุตสาหกรรมเซมิคอนดักเตอร์
สร้างรายได้ให้กับไต้หวันสูงกว่า 3 ล้านล้านบาท
หรือคิดเป็น 16% ของมูลค่า GDP
และ Taiwan Semiconductor Manufacturing Company หรือ TSMC
ที่เป็นผลพวงจากการทุ่มงบประมาณวิจัยและพัฒนาในอดีตของรัฐบาลไต้หวัน
ก็ได้ก้าวขึ้นมาเป็น ผู้ผลิตชิปรายใหญ่ ที่ตอนนี้ครองส่วนแบ่งในตลาดชิปโลก กว่า 55.6%
โดยในปีล่าสุด รายได้ของ TSMC สูงกว่า 1.4 ล้านล้านบาท กำไร 533,000 ล้านบาท
และมีมูลค่าสูงถึงประมาณ 17.6 ล้านล้านบาท
และในทุกวันนี้ รัฐบาลไต้หวันก็ยังคงให้ความสำคัญในการทุ่มงบวิจัยและพัฒนาอย่างมาก
อย่างเช่นในปี 2018 งบวิจัยและพัฒนาของไต้หวัน มีสัดส่วนกว่า 3.4% ต่อมูลค่า GDP ของไต้หวัน
ซึ่งสัดส่วนดังกล่าวถือว่ามากที่สุดเป็นอันดับที่ 3 ของโลก
สรุปแล้วก็คือ ที่ไต้หวันสามารถก้าวขึ้นมาเป็นเจ้าแห่งอุตสาหกรรมเซมิคอนดักเตอร์ได้
ปัจจัยที่สำคัญอย่างมาก คือการกำหนดชัดเจนว่าจะผลักดันอุตสาหกรรมนี้
และทุ่มงบการวิจัยและพัฒนาจำนวนมหาศาล เพื่อให้ได้มาซึ่งเทคโนโลยีขั้นสูง และผลักดันศักยภาพของอุตสาหกรรมเซมิคอนดักเตอร์ให้ถึงขีดสุด
และในวันนี้สิ่งเหล่านั้นที่ไต้หวันได้ทุ่มเทลงไป มันก็ได้ออกดอกออกผล อย่างเห็นได้ชัดแล้ว..
╔═══════════╗
Blockdit เป็นแพลตฟอร์ม สำหรับนักอ่าน และนักเขียน
ที่มีผู้ใช้งาน 1 ล้านคน ลองใช้แพลตฟอร์มนี้เพื่อได้ไอเดียใหม่ๆ
แล้วอาจพบว่าสังคมนี้เหมาะกับคนเช่นคุณ
Blockdit. Ideas Happen. Blockdit.com/download
╚═══════════╝
ติดตามลงทุนแมนได้ที่
Website - longtunman.com
Blockdit - blockdit.com/longtunman
Facebook - ลงทุนแมน
Twitter - twitter.com/longtunman
Instagram - instagram.com/longtunman
Line - page.line.me/longtunman
YouTube - youtube.com/longtunman
Spotify - open.spotify.com/show/4jz0qVn1AL7tRMHiTvMbZH
Apple Podcasts - podcasts.apple.com/th/podcast/ลงท-นแมน/id1543162829
Soundcloud - soundcloud.com/longtunman
References
-https://countryeconomy.com/gdp/taiwan?year=1987
-https://www.bangkokbank.com/-/media/files/international-banking---chinese-customers/news-and-articles/articles/2020/taiwanecondevelopment.pdf?la=en&hash=C8183A641316F370A22957C1778A06BB66EC8AA0
-https://en.wikipedia.org/wiki/Economy_of_Taiwan
-https://en.wikipedia.org/wiki/List_of_countries_by_GDP_(nominal)
-https://finance.yahoo.com/quote/TSM/
-https://en.wikipedia.org/wiki/Semiconductor_industry_in_Taiwan
-https://www.statista.com/statistics/726841/taiwan-value-of-exports/#:~:text=This%20statistic%20shows%20the%20value,approximately%20329.2%20billion%20U.S.%20dollars.
-https://www.tsia.org.tw Overview on Taiwan Semiconductor Industry (2020 Edition)
hash value 在 SoImJenn Youtube 的精選貼文
BEST CNY AD 2021? ??
-
@mcdonaldsmalaysia #GoldenProsperity
-
? Subscribe to my channel & hit the notification bell so you never miss an upload! » http://youtube.com/soimjenn for new videos!
❤️ LET'S TALK
INSTAGRAM » http://instagram.com/soimjenn
FACEBOOK » http://facebook.com/soimjenn

hash value 在 Peggie Neo Youtube 的最讚貼文
Eating massive breakfast from McDonald's!! Ordered 2 Big Breakfast Supremes, 3 sets of Hotcakes, 1 Egg McMuffin, 1 Sausage McMuffin, 1 Breakfast Wrap and 4 Hash browns! This was a really fun meal! Made a high stack of hotcakes and made my own McGriddles! :D
Subscribe to my channel: https://www.youtube.com/peggieneo?sub_confirmation=1
Thank you Patreons! Connect with me on Patreon https://www.patreon.com/peggieneo
Timeline:
2:00 Stacking the Hotcakes
5:30 Hotcakes (Start of eating)
10:38 Hashbrown
11:42 Hotcakes "McGriddles"
14:20 Egg McMuffin
16:20 Breakfast Wrap
22:07 Sausage McMuffin
33:37 Hashbrown (Last bite)
Thank you for watching this video! Hope you've enjoyed this McDonald's Breakfast mukbang eating show! Do check out more of my eating shows and food challenge videos below!
Food Challenges
Massive English Breakfast in UK https://youtu.be/3m62-_VtzzE
Pho Noodles Challenge in UK https://youtu.be/7DOPI6tSy3M
McDonald's Eating Shows
McDonald's Feast (Big Mac) https://youtu.be/Wp_ZSlb8hzw
McDonald's Feast (Signature Collection) https://youtu.be/7yTp7cXTwkU
Fried Chicken Eating Shows
KFC Hot Devil Wings https://youtu.be/9tMu3xSWY7g
Wingstop Chicken Wings Feast https://youtu.be/WI8q9AxCHVs
Connect with me:
Facebook https://www.facebook.com/peggieeats
Twitter https://twitter.com/Peggie_Neo
Instagram https://www.instagram.com/neopeggie/
Music
"Funin and Sunin" Kevin MacLeod (incompetech.com)
Licensed under Creative Commons: By Attribution 3.0 License
http://creativecommons.org/licenses/by/3.0/
"Vicious" Kevin MacLeod (incompetech.com)
Licensed under Creative Commons: By Attribution 3.0 License
http://creativecommons.org/licenses/by/3.0/
Sound Effects
http://www.freesfx.co.uk
