標題: 「低成本為你的 k8s 打造 egress」
類別: Kubernetes
連結: https://johnlin.dev/static-egress-ip-for-kubernetesw-workloads/

大部分使用公有雲的玩家對於 Ingress 也就是封包如何進到容器內比較在意，但是對於 Egress 也就是封包要如何從 K8s 出去則無所謂，畢竟能出去即可。
不過對於某些應用場景對於封包的來源IP有一定限制時，這時候就要考慮如何搭建一個 egress 來處理。

簡單直白的說，所有從 K8s 出去的封包大部分環境下都會經過節點本身的 SNAT 處理，而特殊環境則要求所有出去的來源 IP 要可控管且數量限制(通常是資安要求)，同時考慮到節點本身可能還會動態增長，因此如何達成這個目的實際上就是容易思考難以實作。
畢竟 Kubernetes 內建沒有支援 Egress 的概念，往往都要仰賴如 istio 等 service mesh 等方式幫你把封包都導向某個特定節點再由該節點轉發出去

本篇文章則是土炮示範如何用 linux 最原生的 iptables + iproute 等工具幫你把封包一路轉發到一個固定節點，接者將這些設定方式都導入 DaemonSet，則未來所有加入到 k8s 叢集的節點都會自動將封包轉發到對應節點，並且由該節點進行 SNAT 轉發

標題: 「Grafana oncall 101」
類別: DevOps
連結: https://medium.com/@magstherdev/say-hello-to-grafana-oncall-e78f548b2227

OnCall 想必是各位 DevOps/SRE 都不太陌生的文化，而本篇作者要介紹的是由 Grafana Lab 所開發的 Oncall 平台，名稱就非常直觀地稱為「Grafana OnCall」

Grafana 這幾年致力於打造一個非常完善的 O11y 平台，已經不單純只是過往 Prometheus 的視覺化平台而已這麼單純而已，其生態性已經包含了整個 Metris/Logs/Tracing，而今天的 OnCall 則是將告警直接補完讓整個 Grafana 直接提供一條龍的服務

另外 Grafana 大部分的服務都有開源OSS版本也有 Grafana Cloud 的版本，因此下載使用時要注意自己選到的版本與服務，以免不小心就付費下去了。

本篇文章主要是
1. 介紹 OnCall 內的基本流程與大抵概念
2. 簡易範例示範搭建一個 OnCall 的整體流程

相對於其他成熟的付費方案如 PageDuty/Opsgenie 等， Grafana OnCall 提供了一個機會讓你自行管理這些規則與平台，不過實務上使用的成本與否則是需要仔細考慮，畢竟告警這種東西要非常小心，設定不良等導致亂打電話或是產生狼來的現象導致告警疲勞最後就會錯過真正的問題，
因此使用時還是要謹慎評估整體的使用體驗，$$ 並非唯一的考量

標題: 「GCP BigQeury 即將迎來收費方案的改變」
類別: Others
連結: https://medium.com/@andrew_72226/bigquery-new-price-model-c2dc03aa2048

如果你是 GCP BigQuery 的使用者，那千萬不能不注意七月份即將迎來的付費方案改變，首先 flat-rate 的收費方案將整個收回，而 GCP 則是推出全新的 autoscaling 方式來處理，如果你什麼都不處理繼續使用 on-demand 的計費方式的話那就準備看到 20% 左右的漲幅

本篇文章以兩個客戶的範例講解一下作者是如何幫客戶進行 BQ 方面的省錢，由於剩下不到十天 GCP 就要直接轉換付費方式了，所以有使用 BQ 且目前有購買各種 slot reservation/commitmnet 的人最好研究一下確認自己不會下個月突然看到帳單暴衝

標題: 「上個月釋出的 Terraform v1.5 功能介紹」
類別: Tools
連結: https://medium.com/@willguibr/terraform-1-5-import-and-automatic-code-generation-caa4debfef28

上週推出的 Terraform v1.5 帶來些許功能的演進，其中最令人注目的就是關於 Terraform Import 概念的演進。

過往為了幫助團隊可以將現有 Infra 給整合到 Terraform 中， Terraform 開發了 Terraform import 這個指令將當下存在的 infra 給匯入到 Terraform state 檔案中，避免需要重新創建的問題就可以使用 Terraform 來管理這些 Infra 資源。

為了使用 Terraform Import，開發人員需要自行撰寫相關的 Terraform Code 並且根據 State 檔案內的名稱來手動逐步 Import 一個又一個的資源

而 Terraform 1.5 正式面對這個問題，引入 Config-Driven 為導向的 Import 功能，Import 不再只是單純一個 CLI 工具的參數而是一個可以撰寫於 Terraform 程式碼中的區塊，其可以一口氣 Import 匯入 大量的現存資源甚至還可以根據這些資源自動幫你產生 Terraform Code，讓你可以更方便的使用 Terraform 來管理現存資源

有很常使用 Terraform Import 的朋友可以研究看看此 v1.5 所引入的功能，評估看看這功能是否能夠簡化當前工作並且帶來好處

標題: 「繪製架構圖常用的八種工具」
類別: Tools
連結: https://icepanel.medium.com/top-8-diagramming-tools-for-software-architecture-2fc61d095b93

本篇文章作者幫大家整理了八個用來繪製架構圖的軟體，有付費/免費，有開源，有網頁應用，也有桌面應用程式，包含了
1 Diagrams.net(Draw.io)
2 Lucidchart
3 Excalidraw
4 tldraw
5 Gliffy
6 OmniGraffle
7 Miro
8 CloudSkew

以我自己繪製架構圖的經驗來說，最長需要的大抵上就是
1 方塊之間的連線是否好處理，特別是當元件過多時這些連接線能否彈性設定
2 是否跨平台，跨電腦，以及檔案容易保存與否
3 當需要繪製雲端架構時，有沒有一些現成的 icon 可以直接使用，譬如 AWS 之前就有釋出所有元件對應的 icon，對於繪製 AWS 架構來說可以說非常好用

上述工具我自己使用過的有
1 Draw.io
2 Excalidraw
3 OmniGraffle

畫圖風格來說我認為 Excalidraw 的風格比較偏向手寫一點，特別是其文字的基本字型，有興趣的可以嘗試看看
OmniGraffle 畫圖體驗非常的好，不過本身需要付費，可以嘗試使用看看試用版再決定是否需要付費
至於 Draw.io 我覺得就堪用，要繪製，同時因為是基於網頁的使用，所以切換電腦也不影響太多
剩下的幾個軟體有機會都來試試看

標題: 「Sidecar-less Service Mesh, Istio Ambient 於 AKS 上的仔細分析」
類別: Network
連結: https://medium.com/att-israel/a-deep-dive-into-azure-kubernetes-service-and-istio-ambient-for-sidecar-less-microservices-dcab76d6ef5e

Service Mesh 最初之際以 Sidecare 的模式達到透明性，讓應用程式無感背後的實作與原理就可以想到受 service mesh 帶來的好處，而隨者時間發展，目前也有一些聲音想要探討基於 sidecare-less 的架構，其中以 Cillium 以及 Istio Ambient 兩個的解決方案相較成熟與發展

本篇文章就是基於剛發佈沒多久的 Istio Ambient，想要從 Data Plan 以及 Control Plan 去探討 Sidecar-less Istio Ambient 實際使用起來的效果，整個環境基於 AKS 去創立，文章實際上有兩個部分，非常詳細的去介紹整體觀察的結果

對於正在使用 istio 但是又好奇 istio Ambient sidecar-less 架構的朋友，推薦閱讀一下，即使自己目前沒有轉換的計畫也可以科普一下這類型專案的一些概念

標題: 「Kubernetes 還剩下多少日子？」
類別: Others
連結: https://medium.com/cts-technologies/are-kubernetes-days-numbered-a3c267e65ee9


本篇文章是一個探討文，主因是作者之前有一篇探討 「Terraform 還剩下多少日子」的文章底下有網友詢問那 Kubernetes? 是否其還有未來

作者前半篇簡單的篇幅介紹何謂 K8s 以及探討以 GCP 架構來說，目前有下列產品有提供基於 Container 的應用程式部署，包含
1. GKE Standard
2. GKE Autopilot
3. Cloud Run
4. App Engine Flex
5. GCE with Containers

前兩個都是 GKE 的服務，但是 Autopilot 又簡化了關於 OS 層級的管理，讓使用人員只需要專注於應用程式本身，不需要去考慮 OS 層級的資源損耗與花費

而 Cloud Run 本身則是基於 Knative 的實作來提供 Serverless 的服務，讓使用者也是可以無感的去使用這些容器服務

此外 Cloud Function(v2) 本身的設計又是基於 Cloud Run 之上去疊加的。

以管理性質來來看，產品的發展逐步讓使用者愈來愈看不到底層的設計，盡量專注於自己所在意的層級

GKE Standard -> GKE Autopilot -> Cloud Run -> Cloud Function

因此作者認為 Kubernetes 短期內沒有什麼機會會消失，但是雲端的發展會愈來愈趨向“更多管理服務”的方向發展，讓開發者不需要擁有太多知識才有辦法去使用這個強大的容器管理平台，反而可以花更多心力與心思專注於自己的應用與開發
整個容器管理的發展就會如同 VM 一樣，大家使用 GCE/EC2/Azure VM 都可以非常簡單使用而也沒有真的去擔心到底底層的硬體機器與 Hypervisor 是怎麼設計與運作的吧?

標題: 「K8s 1.27: 如何加速你 Pod Startup 的階段」
類別: Others
連結: https://kubernetes.io/blog/2023/05/15/speed-up-pod-startup/


本篇是官方部落格文章，而本篇內容主要是探討當今天 k8s 叢集量很大且瞬間有很多個 Pod 要被部署到同一個節點上時，要如何提升整體的 Startup 時間。
有部份提到的功能要到 1.27 才出現，甚至可能是 alphe 的設定。

1. 開啟 Parallel Container Image Pulls

預設情況下 kubelet 是採取依序下載的策略，這意味假設同時有多個 Pod Image 需要下載，那就會陷入排隊狀況，只有等待當前下載完成才會開始下載下一個 Image

此功能開啟後就可以讓 Kubelet 平行的去載多個 Container Image，藉此可以避免其他的 Pod都卡在等待時間

此外開啟此設定還要特別注意上限值問題，官方建議根據你遠方 Registry 的設定去調整到底 Kubelet 最多一次可以抓多少個 Container Image

以下就節錄大綱，詳細內容請點選文章閱讀

2. 提升 kubelet 與 API Server 溝通的瓶頸 (API Query-per-second)
3. 調整 Pod 的資源(limit) 用量 (memoryThrottlingFactor)
4. k8s 1.26 後還有新增一個新的 histogram metric, pod_start_sli_duration_seconds 可以用來幫助團隊來偵測這些啟動時間

標題: 「如何用 KubeGreen 夜晚關服務幫你省錢」
類別: Kubernetes
連結: https://medium.com/@sourabp/a-new-way-to-save-idle-kubernetes-cost-kube-green-ecb01372b448

如果有使用雲端託管 K8S 的玩家一定會瞭解大部分的收費方式都是基於底層 VM 來收費
VM 本身又可透過 Cluster Autoscaling(CA) 的方式來自動增減。
而 CA 的觸發條件跟 VM 本身的資源用量以及運行 K8s Pod Resource Request 的量有很大的關係

因此如果想要省錢就要從 K8s Pod Resource Request 下手調整，減少 VM 資源被 Request 的量最後達到減少 VM 的效果。

本篇文章要介紹的工具為 Kube Green, 其邏輯很簡單，就是透過排程的方式於特定的時間內將 deployment/cronjob 等 workload 調整讓其產生的 Pod 數量為 0。
讓夜晚用不到的服務下限藉此減少整體資源的 Request 總和就有機會觸發 CA 的運作去減少 VM 的數量，最後達到省錢的效果

標題: 「一個困擾一個多月的 DNS 網路問題」
類別: Kubernetes
連結: https://medium.com/adevinta-tech-blog/its-not-always-dns-unless-it-is-16858df17d3f

本篇文章作者分享的是一個與網路長期抗戰的學習歷程，團隊從客戶那邊發現定期會有網路相關，作者團隊開始從各種 Metrics 去研究看看問題發生時是否可以找到任何蛛絲馬跡
最初懷疑是 Ingress Controller 這邊效能不夠，同時因為 HPA 的問題使得 HPA 的數量會各種變動，同時也看到有 CPU Throttling 的現象發生，因此懷疑可能跟 Ingrss Controller 的效能有關，簡單調整 CPU Limit 與部署數量來修復，然而問題卻沒有任何改善

由於此問題頻繁出現，作者團隊就開始認真面對該問題，開始仔細鑽研，最後歸納出應該跟 DNS 有關聯，但是有關聯不代表解決問題，還是要找到這個問題到底為什麼跟 DNS 有關以及要如何解決

Kubernetes 內有 CoreDNS 的機制，而部分叢集為了提升 DNS 效能同時減少 CoreDNS 的負擔，都會透過 local resolver 的架構去部署一個 local DNS 作為 Cache 使用，因此團隊認為問題應該跟這個 local resolver 有關。

團隊接下來發現了相關問題並且嘗試解決，但是每次問題過一段時間就會以不同的形式出現
1. Local DNS (DNS Masq) 有連線上限，最多同時只能有 150 DNS Request
2. Missing Caches， CoreDNS 某個版本升級後導致預設情況下 DNS Masq 沒有辦法把 CoreDNS 的結果給存放到 local cache，所以導致整個效能下降
3. ndots 問題使得每個 DNS 請求都會產生超多用不到的 DNS Rquest，而這些封包也就佔據了大量的流量最終使得 DNS 效能出問題

修復這一切問題後，CoreDNS 收到的 DNS 數量從 4000/s直接降到 1000/s 左右，而所有功能都可以正常運作，這意味可能過往有 75% 的封包都是無意義的，因此修正 ndots 的問題實際上可以非常有效的提升 CoreDNS 的效能

文章中有探討所有除錯的步驟，問題發生點以及思考方式，非常推薦所有維運人員都要仔細看一次，並且一起記住當網路中出現奇怪問題時， "it's always DNS"

標題: 「Alpine Linux Image 的各種小問題」
類別: Kubernetes
連結: https://martinheinz.dev/blog/92

作者的這篇文章探討的是為什麼其不再繼續使用 Alpine 作為 Container Image 的基底，其列出幾個問題

1. 使用 musl 而非常見的 glibc

作者提到使用 musl 最大的問題就是其處理 DNS 的問題，除了 Bug 外其天生也不支援 DNS over TCP，大部分時間下使用 UDP 來查詢 DNS 都不會有太多問題，然後就有用過 Alpine + K8s 的人可能都有遇過 Pod 平常跑得好好的，突然天外飛來一筆 "Unknown Host"，而且隨機發生沒有任何跡象與模式可以研究。
Kubernetes 官方文件也直接表明 Alpine 3.3 以前的版本都有 DNS 的問題，不過作者連使用 3.16 也都有踩到這個問題，所以遠離 Alpine 如果不想要哪天被 DNS 問題踩雷的話。

2. 由於 Alpine 使用 musl，所以如果你的程式語言/相關函式庫底層很依賴標準 C 函式庫的話，你很有可能會發現 Alpine 上的運作結果跟你想像的不同，這種情況就要轉換使用基於 Alpine 環境所編譯的套件或是需要自己重新編譯
整個過程會搞得容器化變得複雜也麻煩。

作者文章中舉例了 Python, Node.JS, Golang 中都有些許官方套件是直接依賴底層 C 語言的實作，而使用上都有可能會踩到一些奇妙的問題

文章最後作者提及幾個可以取代 Alpine 的相關 Image，不過我想現在應該愈來愈多人使用 distroless 而非 Alpine 了吧?

標題: 「Pod Topology Spread 使用上的注意事項」
類別: Kubernetes
連結:https://medium.com/wise-engineering/avoiding-kubernetes-pod-topology-spread-constraint-pitfalls-d369bb04689e

談到如何讓 Kubernetes 去控制調度節點時，常見的方式有
1. NodeSelector
2. Taint/Toleration
3. Node Affinity
4. Inter-Pod (Anti)/Affinity
5. Pod Topoology Spread

其中 (1) 是早期開發的產物，其用途簡單設定單純，因此後來透過 (3) 可以完全取代 (1) 的用法，並且有更多細微的設定來處理。

當環境中有所謂 Zone/Regional 等概念時，很多人就會想要確保高可用性，即 Pod 本身部署的時候應該要避免全部放到同一個籃子中，因此這時候可能就會透過 Inter-Pod Anti Affinity 等機制來打散這些 Pod，讓他們可以散落到不同的 Zone 中以確保任何 Zone 發生意外時，線上服務所屬的 Pod 都還有副本可以繼續處理。

然而上述這些概念本身探討的都是調度選擇節點的資格，本身沒有太多跟數量有關的決定，有可能會發現 Pod 的分佈不夠均勻打散的結果，因此後來又有 Pod Topology Spread 這新 API 的發展，旨在解決不均勻分布的問題。

本篇文章就是跟大家介紹一下 Pod Topology Spread 的概念並且實際使用上可能會遇到的雷點以及要如何避免

標題: 「The future of Terraform must be open」
類別: Terraform
連結: https://medium.com/gruntwork/the-future-of-terraform-must-be-open-ab0b9ba65bca


本篇文章的作者是 Gruntwork 的 co-founder，該公司著名的產品為 Terragrunt 以及 Terratest，由產品可知該公司對於 Terraform 一定有非常深刻且獨到的見解，所以本篇文章的內容更值得好好閱讀審思，一個 Terraform 專家是怎麼看待 Terraform 的未來與發展

文章內頭開頭就是直接探討最近 HashiCorp 針對其產品調整授權的議題，從 MPL v2 轉換到 BSL v1.1，作者認為這種授權對於 Terraform 整個生態系以及未來發展都是一個毒丸，而作者團隊因應這個則推出了 OpenTF 這個致力於讓 Terraform 永遠開源的計畫。

文章內容很多，基本上都是針對 MPL 授權對於 Terraform 生態系帶來的幫助與正向發展以及為什麼 BSL 會毀了這一切。

心得: 一言難盡，看看紅帽近期對 RHEL 近期的更動，不同角色不同視野很難一概而論，作為曾經開源專案公司的開發者，其實對開源文化真的心情複雜，畢竟幫你繳房租的不是使用者數量，是錢啊...

標題: 「ArgoCD + Argo Rollout 使用者調查報告」
類別: Kubernetes
連結: https://blog.argoproj.io/cncf-argo-cd-rollouts-2023-user-survey-results-514aa21c21df

這篇是今年七月由 Argo 官方所分享的使用者報告，主要聚焦於 ArgoCD 與 Argo Rollouts 的使用者情況

簡單摘要一下數字
1. 調查報告收到的回應數為 155 份
2. 每個調查內有回應的數量則不同，因此細部資料還是要點選全文去觀看每個類別的分析

ArgoCD
1. Net Promoter Score(NPS, 淨推薦值)為 76
2. 93% 的報告都顯示已將 ArgoCD 導入正式環境
3. 使用者有 45% 為 DevOps Eng, 25% 為 Platform Eng, 13% 為 Architecture, 5% 為 SW
4. 超過 75% 的生產環境使用者已經使用超過 6 個月，更有 28.4% 的使用者超過兩年
5. 77% 使用者的 Argo Instnace 是 1~5 座，有 11.2% 超過 10 座
6. 16% 的使用者用 Argo 管理超過 500 個應用程式


Argo Rollouts
1. 今年度是第一次收集 Rollout 的 NPS 資料，數值為 35
2. 使用者有 29% 為 DevOps Eng, 29% 為 Platform Eng, 15% 為 Architecture, 15% 為 SW
3. 19% 的使用者還在研究嘗試觀望，超過 47% 的使用者已經使用超過六個月
4. 75% 管理的應用程式小於 50 個，有 5% 的則是超過 2000 個
5. 搭配使用的 traffic 管理系統中，前三名為 Nginx, Istio, AWS ALB

Argo 威武?

標題: 「Grafana Loki 效能調整大補帖」
類別: O11y
連結: https://itnext.io/grafana-loki-performance-optimization-with-recording-rules-caching-and-parallel-queries-28b6ebba40c4

本篇文章探討 Loki 的基本架構並且以 Recording Rules, Caching 以及 Parallel Queries 等三種不同的方式來提升整體速度

如果對於使用 Loki 且只會單純不停提升 Pod 數量但是效能依然不如預期的，不如參考看看本篇文章

標題: 「細探 Kubernetes 如何偵測節點損壞以及如何快速處理節點上的 Pod」
類別: Kubernetes
連結: https://medium.com/@hwchiu/handling-pods-when-nodes-fail-4daae20213b

本篇文章基於 Kubernetes & Kubelet & Controller Manager 之間來探討當節點損壞時，要花少時間該節點才會被判定為 NotReady，有哪些參數可以調整來加速整個過程，以及當問題發生時，這些 Pod 要花多少時間才會被重新調度。

簡易結論:
1. 預設情況下，最快需要 40 秒去偵測節點故障
2. 預設情況下，每個 Pod 可以於故障節點上存活 500 秒
3. 預設情況下，一個 Pod 最快需要 540 秒才可以從故障節點中被重新部署
4. Pod 可以透過 Taint-Based Evicition 的方式來調整反應時間
5. 節點可以透過 kubelet + controller manager 的設定來調整回報與偵測時間

標題: 「Kubernetes 1.28 重點整理」
類別: Kubernetes
連結: https://medium.com/@seifeddinerajhi/kubernetes-1-28-new-features-for-sidecar-containers-jobs-and-proxies-1c30315243e9

本篇文章簡單整理 1.28 的幾個新功能，詳細內容請點選連結細閱
1. User Namespace -> 讓 Container & Host 的 User 系統是完全獨立的， Container 內的 Root 其實是 host 上的普通使用者
2. sidecar contaienr 改進 -> sidecar container 的模式非常好用，但是實務上處理這些 sidecar container 的生命週期有點麻煩，因此系統中正式加入 sidecar container 的概念，只要對 init container 加上一個 "restartPolicy: Always"， kubernetes 就會將其視為 sidecar container 並且會有特別的管理方式，減少你管理上的麻煩
3. Rolling Upgrade -> 不少關於 kube-proxy 的 bug 被修正，使得 rolling upgrade 更加順暢，特別是網路連線的部分會減少更多瞬斷的情況。

標題: 「以 EKS + VPC CNI 為範例來理解封包流向」
類別: Kubernetes
連結: https://medium.com/@olexandr.pochapskiy/journey-of-the-web-request-from-a-laptop-to-containerized-application-9f6ea4211bb9

本文的主軸非常直觀，就是探討以 AWS VPC CNI + AWS LB + EKS 的環境下，客戶端的網路請求一路上是如何到達 K8s 上面的 Pod

標題: 「探討 GitOps 下常見的 Git Repo 結構」
類別: Kubernetes
連結: https://hwchiu.medium.com/introduction-fdf73f6e012b

隨者 K8s + GitOps 愈來愈流行，許多團隊與組織都試圖導入並且使用，然而一樣的概念卻會隨者團隊規模/架構/基礎能力不同/目標而產生出不同的實作方式，光是採用何種方式維護 K8s 物件以及 Git Repo 要怎麼規劃就有各種變化。
雖然這種問題永遠都不會有最佳解，本文則紀錄與收集看過的一些案例與方式來探討規劃整個架構時需要探討與注意的部分。

標題: 「Kuberentes 即將於明天關閉過往的 Package Repository」
類別: Kubernetes
連結: https://kubernetes.io/blog/2023/08/31/legacy-package-repository-deprecation/

今年八月左右時 Kubernetes 官方宣布要將用來維護 Debian/PRM 相關套件的伺服器轉移至 pkgs.k8s.io，並且將逐漸替換掉過往使用的 "apt.kubernetes.io" 與 "yum.kubernetes.io".

而 09/13 也是正式關閉過往 apt.kubernetes.io/yum.kubernetes.io 的日子，所有安裝服務都要改到使用 pkgs.k8s.io 來使用。

有任何 script 寫死到該路徑的記得要處理一下，不然就會發生各種套件安裝不了

標題: 「比較 Prometheus Thanos Mimir VictoriaMetrics」
類別: Kubernetes
連結: https://sennasemakula.medium.com/evaluating-monitoring-solutions-prometheus-thanos-mimir-victoria-metrics-6bf9f4f9d602

本篇文章從多個角度去比較 Open source metrics solution 之間的差異，Prometheus 眾所皆知非常有名，但是本身的架構與設計使得它本身很難有 HA 等架構，因此後續就有各式各樣的專案以相容 Prometheus 為基準提供更多維運方面的功能，不論是 HA, remote object storage...等。