最近跟大家分享一個 2020 年初左右的問題,這個問題的徵狀使用者透過 service 去存取相關服務時,會一直遲遲連接不上,直到 63 秒後服務才會通。
這個問題有兩種類型,一個是 63 秒後服務會通,一個則是 1 秒後會通,兩個背後的原因都一樣,這邊就來稍微簡介一下這個問題
# 發生條件
1. 使用 VXLAN 作為底層 Overlay Network,最常見的就是 Flannel 這套 CNI
2. Kubernetes 的版本不能太舊,至少要 1.16 以後,不過目前這個問題已經修復,所以現在要撞到除非特別指定版本
3. 使用的 Linux Kernel 版本也不能太新,目前該問題已經修復於大部分的 upstream
# 發生原因
1. VXLAN 本身是一個基於 UDP 的封裝協議,有一個已知的 bug 會使得其 checksum 發生錯誤,導致封包不會被遠端接收方給接收
2. kube-proxy 內關於 iptables 的設定沒有妥善,導致 VXLAN 封包會進行二次 SNAT
3. 第二次的 SNAT 就會觸發(1) 的 bug(當然還有其他條件,但是那些條件也剛好符合)
,最後導致封包的 checksum 不同,因此送到遠方就被拒絕
4. 底層的 TCP 建立連線時,會不停地嘗試,每次失敗都會等待更多時間,分別是1,2,4,8,16,32秒
5. 五次都失敗後, TCP 就會觸發重傳機制,下一次的重傳就不會進入到第二次的 SNAT,因此封包就不會踩到問題,因此通過
# 解決方法
1. 基本上這個問題要踩到要各方一起努力才會踩到,也因此修復方式也是多元化
2. Kernel 本身修復了關於 UDP 封裝的 Checksum 計算
3. Kubernetes 這邊則是針對 kube-proxy 進行強化,其使用的 iptables 規則會避免二次 SNAT 的情況
# 其他問題
1. 為什麼 TCP 重送後就不會踩到二次 SNAT? 這部分我看了相關的 issue 以及諸多文章都沒有看到解釋,都在探討 SNAT 後產生的 checksum,至於為什麼 TCP 重送後就通則是一個謎底
2. 為了解決這個謎體,我特別指定 kubernetes 版本並且重新編譯 Ubuntu 的 Linux Kernel 版本,盼望從 Kernel 中來觀察並且理解這個問題,目前已經有一些初步的進度。之後完成後會在撰寫文章跟大家分享這個問題
這個問題我認為非常有趣,也許自己的環境剛好沒有踩到,但是可以透過觀察不同的 issue 來研究各式各樣問題,也藉由這些過程來學習
相關 PR: https://github.com/kubernetes/kubernetes/pull/92035
同時也有7部Youtube影片,追蹤數超過16萬的網紅冬瓜,也在其Youtube影片中提到,☪ 每周都有新影片!! 從今天起開始訂閱吧 !! ☪➔ http://bit.ly/2Aq60t8 ♔『Minecraft』 冬瓜_原味生存系列 『我的世界』➔http://bit.ly/2Ar5qf5 ☛禾卯 : https://bit.ly/2jhyAJc ☛冠冠 : https://bit.l...
1.16 5 bug 在 Free Fire - 我要活下去 Facebook 的最佳解答
⚠ 優化版本更新說明 ⚠
(4/20 14:40 更新: iOS 最新版本 1.16 也開放下載啦!)
-
親愛的玩家你好,
iOS & Android 的最新版本 1.16 已開放下載,本次更新包含了許多 Bug 的修復:
1. 修復絕命尬車模式中低機率出現載具掉落地底問題
2. 修復多人模式中有機率出現的斷線問題
3. 修復視角震動問題
4. 修復創建新帳號介面與排隊系統介面重疊問題
5. 修復少部分玩家無法進行多人模式問題
6. 修復角色介面顯示錯誤角色問題
7. 修復無法邀請好友及好友戰績無法顯示問題
8. 修復個人戰績顯示為零問題,先前出現戰績為零的玩家將回復正常戰績數據
👉 敬請玩家們前往 Google Play & App Store商店下載更新:https://goo.gl/Mn8Fzu
1.16 5 bug 在 Raiden San 小周 Facebook 的精選貼文
又有低能BUG..好彩無用B-Spec黎玩錦標賽..
關於1.16版本更新後於錦標賽發生的問題
安裝『Gran Turismo 6』的1.16更新後,已確認依照以下步驟操作會發生問題。
1. 在錦標賽的任一賽事中選擇[B-Spec]開始遊玩。
2. 不論是否跑完全程或棄權,競賽結束後在快捷選單選擇[中斷競賽]
3. 顯示[中斷競賽,並結束遊戲。下回啟動遊戲時,即可繼續進行遊玩。]訊息後,按下[OK]
4. 自動保存後會顯示[按下PS按鈕離開遊戲,下次啟動遊戲時,可接著目前進度繼續遊玩。]訊息,結束遊戲。
5. 重新啟動遊戲後,不論在顯示的快捷選單上選擇[A-Spec]或[B-Spec],都無法開始競賽,使得無法繼續進行遊戲。
若要迴避此問題,只要在上列「5」的操作時於快捷選單選擇[結束],即可回到My Home畫面繼續遊玩遊戲,但會失去錦標賽的進度資料。
此外若在[中斷競賽]前選擇了[A-Spec]模式,則不會發生此問題。
造成各位用戶的困擾,我們深感抱歉。發佈修正本問題的更新內容時,會再另行通知。
1.16 5 bug 在 冬瓜 Youtube 的最佳貼文
☪ 每周都有新影片!! 從今天起開始訂閱吧 !! ☪➔ http://bit.ly/2Aq60t8
♔『Minecraft』 冬瓜_原味生存系列 『我的世界』➔http://bit.ly/2Ar5qf5
☛禾卯 : https://bit.ly/2jhyAJc
☛冠冠 : https://bit.ly/2zpFxyo
▶▶▶▶▶
☟☟☟☟☟ 模組列表 ☟☟☟☟☟
https://drive.google.com/file/d/13gPhjuTgI97d-G8Nn5NCGEiL1ac1B_3g/view?usp=sharing
▶▶▶▶▶
PS. 第N次剪輯影片請大家多多指教& 踴躍留言 : D
訂閱我的頻道並幫我分享吧 : )
▶▶▶▶▶
※使用錄影軟體 : Action! 、 OBS
※使用剪輯軟體 : Adobe Premiere Pro CC 2020
※使用封面軟體 : Adobe Photoshop CC 2020
※Movie : 冬瓜
▶▶▶▶▶
❅影片封面 : 你好,在下柒臂 ➔https://reurl.cc/n0vjD8
❅大頭貼 : 海派 Neko ➔ https://goo.gl/nELyv4
❅首頁封面圖 : 海派 Neko ➔ https://goo.gl/nELyv4
❅開頭動畫 : 黑糖 ➔ https://reurl.cc/g7dVz7
❅影片中貼圖 : 海派 Neko ➔ https://goo.gl/nELyv4
▶▶▶▶▶
電腦配備 :
CPU : Intel i9-9900K
主機板 : 技嘉 Z390 GAMING X
RAM : 金士頓 16G*4 DDR4-3200
SSD : Micron Crucia MX500 1TB
SSD : Micron Crucia BX500 1TB
SSD : 金士頓 M.2 KC2000 1TB
HDD : WD 1TB*2
顯示卡 : 技嘉 AORUS RTX 3090™ 24G
機殼 : Antec P9 Window
Power : 全漢白金 HYDRO PTM PRO 1200W
CPU散熱 : NZXT Kraken X72
麥克風 : SM7B
錄音介面 : Focusrite scarlett solo
前放大器 : TritonAudio FetHead
鍵盤 : DUCKY Shine7 銀軸-黑髮絲
滑鼠 : Logitech PRO 無線
擷取卡 : 圓剛GC570
喇叭 : Logitech Z623
作業系統 : Win10 專業版
相機 : Sony ZV1
▶▶▶▶▶
♪ BGM、SE素材提供
♭ 魔王魂
♭ Youtube 創作工具箱
♭ DOVA-SYNDROME
▶▶▶▶▶
♟介紹自己-----!!
歐嗨唷~ 我是冬瓜,我喜歡錄製遊戲散播歡樂給大家的創作者^^!!
▶▶▶▶▶
★關注我的影片動態!
★FB : https://www.facebook.com/wintermelon11/
▶▶▶▶▶
1.12.2 模組 FORGE 暮光森林 混沌昆蟲 匠魂模組 打鐵模組 變身 #三傻亂世 #禾卯 #冠冠 卯卯 小柳 #模組生存 法術 槍械 交錯世界 宇宙 考古 極光密林 美食模組 4K 三傻三界 冶煉爐 工具 裝備 坩堝 岩漿 熔岩 融化 熔煉 製造 無限 鐵軌複製機 儲液槽 焦黑通道 黑焦 槍械 設施 彈藥 化學 粉碎機 沖壓機 手槍 散彈槍 鐵板 砲塔 自動 攻擊 防衛 聖甲蟲寶石 聖甲蟲 聖甲蟲劍 石英 強化 攻擊 聖劍 地獄之星 凋零怪 凋零王 凋零骷髏頭顱 地形 地下城 燧石 礫石 發電機 彩虹發電機 死亡發電機 鬧鬼 回送 送禮 發電機全介紹 強化桶 鐵桶 石桶 設施強化 設施改建 無限牛奶 無限水源 生產 收集水源 懶人 必備 黑曜石 全自動 掛機 材質更新 瑪玉靈 鈷 阿迪特 極光錠 暗影錠 月光錠 藍銅錠 極光鋼 聖甲蟲 弓箭 神弓 箭矢 重新規劃 布置 設置 傳送石碑 終界箱 終界袋 終界蓄水槽 EFLN TNT 整地器 敲山 炸山 剷平 整地 凋零怪 淺藍色 地下室 裝潢 夢幻 倉庫 電梯 火箭筒 核彈 高速火箭 火箭 砲塔 防衛 搗蛋 篩網 地獄石 壓縮地獄石 壓縮工具 自動壓縮槌 自動壓縮器 壓縮槌 導彈火箭 火焰噴射器 榴彈發射器 BUG 死神 死神火箭筒 合成失敗 木桶 石桶 巫水 凋零骷髏 頭顱 邪惡點滴 生怪磚 轉化 變化 珍貴人偶 小人偶 召喚術 召喚 石桶
槍械裝備 強化外骨骼 升級強化 電池 能量單元 RF電源 充能站 充電站 附魔書 反重力裝置 反重力核心 打印機 墨水 墨囊 緻密鋼 緻密銅 緻密 重裝板 NANS工作站 太空 外太空 星系 星際 火箭 壓縮機 考古活火山 稀有地形 大型 尋寶 輕機槍 火神機槍 AUG 軍工廠 軍火 月探車設計圖 探月車 月球 火箭 外星人 外星村民 王 BOSS PDW 聲波 雙持神武
1.16 5 bug 在 堯Live Youtube 的最佳解答
#一直害人受傷
好久沒有玩原味生存啦!
1.15出那麼久,
真的該來極限一波了!
希望大家看得開心哦~
如果大家喜歡我的影片,
可以訂閱我的頻道,
也歡迎按讚我的粉絲團,
鎖定更多開台動態!
https://www.facebook.com/WeAreSBY/
1.16 5 bug 在 堯Live Youtube 的精選貼文
#先行版bug
好久沒有玩原味生存啦!
1.15出那麼久,
真的該來極限一波了!
希望大家看得開心哦~
如果大家喜歡我的影片,
可以訂閱我的頻道,
也歡迎按讚我的粉絲團,
鎖定更多開台動態!
https://www.facebook.com/WeAreSBY/