Search
Latency 與 Bandwidth 到底哪一個是真正影響儲存效能的因素呢？說到底，關鍵還是在於應用系統的行為。
舉例來說，如果要觀看 4K 的奧運轉播，那麼可能要 100M 的頻寬才會有比較流暢的觀賞體驗；但如果是在號子進出當沖，5 個咩的頻寬就足足有餘了！再說，如果不是大量交易集中型應用，即使把回應時間大幅度的從 2ms 降低至 0.02ms，對連線進來的使用者來說，可能也是完全無感的，因為光網路上的延遲就遠遠超過這個數字！
不過，快閃儲存的低延遲對於老舊系統在效能的提升上，肯定是有所 助益的！
本文延續前篇效能校正的經驗談，上篇文章探討了關於系統呼叫, iptables 可以最佳化的部分，。本篇文章將繼續剩下最佳化步驟的探討。
Perfect Locality
預設情況下， Linux Kernel 會盡量平均地將請求給分配到所有的處理佇列，譬如 network queues, processes, CPUS. 大部分情況下這種機制運作良好不會有太多問題，不過如果今天要追求的不單單只是好的效能，而是極致的效能，則 locality 這個概念就要特別的去注意。
這篇文章中提到很多不同的方式，包含了 CPU Pinning, Receive Side Scaling(RSS), Transmit Packet Sterring(XPS)等，其實用比較簡單的介紹方式就是，希望可以使用固定的 CPU 來處理一條連線上的所有封包(進出)，這樣帶來的好處有
1. CPU Cache 可以盡可能的去使用，減少各種 miss 產生的成本
2. 減少 context switch 帶來的成本
3. 減少跨 CPU 之間交換資料帶來的成本
4. 減少 lock 之間帶來的成本
除了 CPU Pin, RSS, XPS 外，還有 irqbalance, smp_affinity_list 等相關的概念需要一併學習，對於這個概念有興趣的讀者非常歡迎去找尋這類型的資料
接者是 SO_REUSEPORT 這個參數，創建 Socket 時使用這個參數能夠使得多個 Process 共用一個連接埠，底層 Kernel 會針對 src/dst{ip/port} 來產生對應的 Hash，並且決定當前封包要送給哪一個 Process。
這個方式搭配前述各種 CPU Pin, 中斷的最佳化則會遇到問題，因為可能底層將該封包送到 CPU2 結果這個函式又把封包重新分配到 CPU0, 這樣就導致該連線要跨 CPU 處理了。
為了解決這個問題， Linux Kernel 4.6 後有新的參數 SO_ATTACH_REUSEPORT_CBPF，使用者可以自行撰寫 BPF 的程式來決定如何分配封包。作者根據這過想法撰寫了一個 BPF 的程式，來確保這個機制可以與前述的最佳化穩定運作。
這次的最佳化帶來的 38% 的成長，這時候的封包處理能力從 603k req/s 提升到 834k req/s
原文中關於這次的最佳化還有一些後續探討，有興趣的可以閱讀
Interrupt Optimizations
當封包透過網路送到網卡後，網卡必須要通知 OS 讓它知道有封包來了，要記得處理。一切處理完畢後網卡就可以繼續等待新的封包過來並且再次發送中斷給 OS 處理封包。這個流程大部分情況也是運作良好，不過當有大量的封包不停傳送來時，頻繁的中斷其實也是會造成不小的額外成本。
為了解決這個問題，目前比較嶄新的網卡都有支援中斷聚合等功能，透過這個功能可以延後中斷一個小週期，而該週期內收到的所有封包只需要透過一次的中斷就可以來處理，藉此降低中斷的次數。更為進階的網卡甚至支援動態自行調整該週期的時間，譬如當網路空閒時，減少週期使得每個封包能夠盡快的發送中斷被處理，而當網路流量很大時則會加大該該週期時間來更有效地處理封包。
註: AWS ENA 有支持這種動態調整的機制
作者基於 AWS 開啟動態調整收端中斷時間的功能，整個效能提升了 14%，從 834k req/s 提升到 955k req/s。作者說這次的調整可以說是整篇文章中幾個非常強的改動，改動的地方少，效能提升明顯，同時背後的隱憂與限制也少。
除了上述中斷的方式外，另外一種則是透過 Busy Polling 這種針對低延遲性的方式。預設情況下其允訓設定為 blocked 的 socket 能夠消耗額外的 CPU Cycle 來讀取接下來的封包，可以將其想成一成一種混合體，當底層網卡告訴我有資料要讀取時，我預期接下來還會有更多的資料，因此我就透過輪詢的方式去多問幾個封包。
由於作者的應用程式是使用 non-blocking 的方式去讀寫封包，所以預設的方式是沒有辦法使用的。而該應用程式又是使用 epoll 來進行底層封包的讀寫。 epoll 於 kenel 4.12 後正式支援 busy polling 的方式，所以這部分就沒有太大的問題。文章中有滿多關於 busy_poll 的一些參數調整。
將這兩個機制給整合後，整體的效能提升達到 28%，從 834k req/s 到達 1060k req/s，同時 99%的 latency 也從 361μs 下降到 292μs.
同時這兩個機制導入後，整個系統每秒產生的硬體中斷數量也從 183k 降到 16k。 Context switches 的數字也從 6k 下降到 1k 左右。
下篇文章會繼續從剩下的三個最佳化策略繼續介紹
https://talawah.io/blog/extreme-http-performance-tuning-one-point-two-million/
#DYK #Bigtable 可以用來解決儲存和檢索 #data 的挑戰。參加我們在 6 月 10 舉行的 #GoogleCloudTraining，了解企業如何利用 NoSQL database Bigtable 並以超低延遲時間 (latency) 進行資料儲存和檢索 👉 https://goo.gle/3ySLuzJ
@數位宇宙 @束褲3C團 @我是賴瑞 /iamLarrie @好放HaveFun
#4K #Apple #AirPodsMax #Sennheiser #MOMENTUM3Wireless
▌建議開啟 4K 畫質 達到高品質觀影享受
Apple AirPods Max 首款耳罩耳機一出來，辛蒂我身邊的果粉朋友看到 NT$18,490 也是很難吞下去啊......
我們找了聲音老牌森海的 MOMENTUM 3 Wireless，一樣都有 ANC 主動降噪（還可以調強度勒），傳輸編碼還給到 aptX™ / aptX™ Low Latency，最重要的是價格直接便宜六千元！
口說無憑，這次就直接拿兩副耳機橫評給大家看看！
白刈包 VS 黑糖饅頭 你會選擇誰呢？
🔯 他們拿這些耳機比 🔯
我是賴瑞/iamLarrie：https://youtu.be/5_HuNTEWr1Y
束褲 3C 團：https://youtu.be/RR7F22QgW4E
好放 HaveFun：https://youtu.be/h8sQugCOl3o
數位宇宙：https://youtu.be/nkGB4K-fmpg
::: 章節列表 :::
➥ 要打去練舞室打
00:00 前情提要
➥ 配戴 & 規格
00:54 配戴收納
01:57 規格比較
➥ 實測 & 外觀
03:00 音質實測
04:31 影音體驗
05:42 延遲實測
06:43 外觀設計
➥ 降噪效果
08:44 ANC 降噪比較
10:54 通話實測
➥ 辛蒂の真心話
12:01 心得總結
::: 模擬收音設備 :::
⚠ 錄音音質僅供參考．以親自試聽為準 ⚠
➥ 音樂收音
[ AirPods Max ]
測試歌曲：露娜蒂克 - 甜又喪
播放軟體：Spotify
音質編碼：AAC
配對裝置：iPhone 12
錄音裝置：3Dio Free Space + ART USB Dual Pre
[ MOMENTUM 3 Wireless ]
測試歌曲：露娜蒂克 - 甜又喪
播放軟體：Spotify
音質編碼：aptX
配對裝置：LG G8 ThinQ
錄音裝置：3Dio Free Space + ART USB Dual Pre
➥ 延遲收音
[ AirPods Max ]
測試遊戲：PUBG MOBILE：絕地求生M
配對裝置：iPhone 12
測試編碼：AAC
錄音裝置：3Dio Free Space + ART USB Dual Pre
[ MOMENTUM 3 Wireless ]
測試遊戲：PUBG MOBILE：絕地求生M
配對裝置：小米 11
測試編碼：aptX
錄音裝置：3Dio Free Space + ART USB Dual Pre
➥ 通話收音
[ AirPods Max ]
配對裝置：iPhone 12
通話裝置：LG G8 ThinQ
錄音裝置：3Dio Free Space + ART USB Dual Pre
[ MOMENTUM 3 Wireless ]
配對裝置：SAMSUNG Galaxy S20 5G
通話裝置：LG G8 ThinQ
錄音裝置：3Dio Free Space + ART USB Dual Pre
::: Apple AirPods Max 規格 :::
建議售價：NT$18,490
產品顏色：太空灰 / 銀色 / 綠色 / 天藍色 / 粉紅色
產品保固：1 年
藍牙版本：藍牙 5.0
支援協定：SBC / AAC
單體大小：40mm 動圈
頻率響應：N/A
連接能力：N/A
充電類型：Lightning 充電
續航能力：最長 20hrs
通話規格：9 個麥克風
防水係數：NO
產品重量：384.8g
::: Sennheiser MOMENTUM 3 Wireless 規格 :::
建議售價：NT$13,900
產品顏色：黑色
產品保固：2 年
藍牙版本：藍牙 5.0
支援協定：SBC / AAC / aptX™ / aptX™ Low Latency
單體大小：42mm 動圈
頻率響應：6Hz - 22kHz
連接能力：10 - 20m
充電類型：Type-C 充電
續航能力：最長 17hrs
通話規格：電容麥克風
防水係數：NO
產品重量：314.1g
不要錯過 👉 http://bit.ly/2lAHWB4
--------------------------------------
#4K #Apple #AirPodsMax #Sennheiser #MOMENTUM3Wireless
#蘋果 #森海 #耳罩耳機 #饅頭 #饅頭3 #PTT #科技狗
📖 Facebook：https://www.facebook.com/3cdog/
📖 Instagram：https://www.instagram.com/3c_dog/
📖 官方網站：https://3cdogs.com/
📖 回血賣場：https://shopee.tw/3cdog
▋ 有任何問題都來這邊找我們：3cdogs@gmail.com
NVIDIA Reflex 介紹: https://www.nvidia.com/zh-tw/geforce/technologies/reflex/
NVIDIA Reflex 提供終極競爭優勢。最低延遲。最佳反應速度。享受由 GeForce RTX™ 30 系列 GPU 與 NVIDIA® G-SYNC® 顯示器帶來的強大效能。這款革命性套件匯聚了各種技術，專門用來測量競技遊戲的系統延遲度並最將之最佳化，讓你以更快的速度鎖定目標、做出更為敏捷的反應、提高瞄準時的精準度。
ASUS ROG SWIFT 360HZ PQ259NR 介紹: https://www.asus.com/tw/News/bxvryf0yjkyvye3x
• 全球最快 360 Hz 更新率及 Fast IPS 面板技術，可提供真1 ms GTG 時間，實現令人驚嘆的流暢無光暈遊戲體驗
• 螢幕搭載NVIDIA G-SYNC 處理器
•NVIDIA Reflex Latency Analyzer整合系統延遲測量工具，讓遊戲玩家可測量系統延遲，亦即電腦從點擊到顯示的反應時間
•ROG獨家整合 GamePlus 快捷鍵功能
•支援高動態範圍 (HDR)
•三邊無邊框、基座投射燈及背面ROG logo設計
•ASUS AURA SYNC 燈光效果
✄✄✄✄✄✄✄✄✄✄✄✄✄✄✄✄✄✄✄✄✄
影片剪輯：子龍
後製特效：子龍
✄✄✄✄✄✄✄✄✄✄✄✄✄✄✄✄✄✄✄✄✄
Twitch ►http://www.twitch.tv/Xargon0731
FaceBook ►https://www.facebook.com/Xargonlol
YouTube►http://www.youtube.com/user/XargonTW
✄✄✄✄✄✄✄✄✄✄✄✄✄✄✄✄✄✄✄✄✄✄✄
NVIDIA Reflex 介紹: https://www.nvidia.com/zh-tw/geforce/technologies/reflex/
NVIDIA Reflex 提供終極競爭優勢。最低延遲。最佳反應速度。享受由 GeForce RTX™ 30 系列 GPU 與 NVIDIA® G-SYNC® 顯示器帶來的強大效能。這款革命性套件匯聚了各種技術，專門用來測量競技遊戲的系統延遲度並最將之最佳化，讓你以更快的速度鎖定目標、做出更為敏捷的反應、提高瞄準時的精準度。
ASUS ROG SWIFT 360HZ PQ259NR 介紹: https://www.asus.com/tw/News/bxvryf0yjkyvye3x
• 全球最快 360 Hz 更新率及 Fast IPS 面板技術，可提供真1 ms GTG 時間，實現令人驚嘆的流暢無光暈遊戲體驗
• 螢幕搭載NVIDIA G-SYNC 處理器
•NVIDIA Reflex Latency Analyzer整合系統延遲測量工具，讓遊戲玩家可測量系統延遲，亦即電腦從點擊到顯示的反應時間
•ROG獨家整合 GamePlus 快捷鍵功能
•支援高動態範圍 (HDR)
•三邊無邊框、基座投射燈及背面ROG logo設計
•ASUS AURA SYNC 燈光效果
打機最怕就係...☠️ 成日聽人話打機⚔️最怕lag機，Latency (延遲值) 一定要低，究竟講緊啲咩? 延遲值亦指round-trip delay... ... <看更多>
網路的延遲（Latency）與頻寬（Bandwidth）是什麼？ - G. T. Wang. 這裡介紹網路的延遲（Latency）與 ... ... <看更多>
latency延遲 在 直播時的延遲現象- YouTube說明 的推薦與評價
「串流延遲」是指攝影機拍到影像後，觀眾實際看到畫面之間的時間差。進行直播時，請務必思考延遲時間長短可能會對觀眾造成的影響。 透過聊天室與觀眾互動時，延遲時間 ... ... <看更多>