Powrót ze Szwecji i prosto w króliczą norę CIS Benchmark

Ilustracja audytu bezpieczeństwa według CIS Benchmark, część pierwsza

🌐 Także w: English · Deutsch · Français · Español · Italiano · Português · Nederlands

🇸🇪 Wróciłem ze Szwecji. Opalenizna: nie istnieje (to Szwecja). Liczba ukąszeń komarów: nielegalna. Motywacja, żeby znowu dobrać się do homelabu: pod sufit. Coś w dwóch tygodniach przymusowego czasu bez ekranu w lesie sprawia, że wracasz do domu i od razu chcesz o 23:00 w środę zrobić ssh do klastra Kubernetes. Nie stawiaj mi diagnozy. 💻 Więc przez ostatnie wieczory robiłem to, co każda zrównoważona osoba robi po urlopie: 📚 czytałem materiały o bezpieczeństwie Kubernetes, konkretnie program Certified Kubernetes Security Specialist (CKS). Żeby było jasne — na razie nie planuję faktycznie podchodzić do egzaminu, po prostu nerduję na ten temat, bo jest naprawdę ciekawy i bezpośrednio dotyczy klastra, który prowadzę na produkcji (no dobra, “produkcji” — to blog). CKS to w świecie Kubernetes program z serii “okej, ale czy umiesz to naprawdę zabezpieczyć” — hardening RBAC, supply chain, bezpieczeństwo w runtime, network policy, cały bufet “rzeczy, które są w porządku, dopóki bardzo nie przestaną być”. I gdzieś w tej króliczej norze odkryłem na nowo narzędzie, którego użyłem raz przed laty i o którego istnieniu kompletnie zapomniałem: kube-bench 🔍.

Spis treści

🧐 Czym jest kube-bench i czym w ogóle jest CIS Benchmark?

kube-bench to mała binarka w Go od Aqua Security, która sprawdza konfigurację twojego klastra Kubernetes względem CIS Kubernetes Benchmark — dużej, nudnej i niezwykle przydatnej checklisty publikowanej przez Center for Internet Security, która mówi rzeczy w stylu “hej, audit logging twojego API servera chyba powinien być włączony” albo “certyfikaty twojego kubeleta nie powinny być czytelne dla całego świata, geniuszu”. Niczego nie hakuje, nie skanuje CVE, po prostu przechodzi przez setki bardzo konkretnych, bardzo pedantycznych kontroli konfiguracji — uprawnienia plików, flagi API servera, RBAC bindings, ustawienia pod security — i dla każdej mówi PASS, FAIL albo WARN. Fajne w kube-bench jest to, że ma profile dopasowane do dystrybucji. Czyste klastry kubeadm wyglądają inaczej niż EKS, który wygląda inaczej niż GKE, który wygląda bardzo inaczej niż k3s (moja ulubiona dystrybucja do tego homelabu, bo kto ma RAM na “prawdziwy” control plane). Uruchomiłem go z profilem k3s-cis-1.9 na jednowęzłowym klastrze k3s, który obecnie hostuje, no cóż, dokładnie ten blog.

🚦 Runda pierwsza: 55 pass, 4 fail, 57 warn

Pierwsze uruchomienie zwróciło ✅ 55 PASS, ❌ 4 FAIL, ⚠️ 57 WARN, ℹ️ 14 INFO. Nie katastrofa, ale też nie nic. Krótka uwaga, zanim pójdę dalej: większość z tych 57 WARN-ów to kontrole, które kube-bench oznacza jako “Manual” — czyli narzędzie dosłownie nie potrafi ich zweryfikować automatycznie i zawsze wypisuje WARN, niezależnie od tego, jak dobrze masz wszystko skonfigurowane, bo potrzebny jest prawdziwy człowiek, który spojrzy na rzecz i użyje rozsądku. Duża liczba WARN-ów nie oznacza więc automatycznie “58 problemów”, raczej “58 rzeczy, na które człowiek powinien rzucić okiem, z których część jest już w porządku”. Na sporo z nich rzuciłem okiem. Więcej o tym niżej. 👇 Oto wycieczka po tym, co zostało naprawione, co okazało się nie być problemem i — bo żadna zmiana infrastruktury nie przetrwa zderzenia z rzeczywistością — po kilku naprawdę zabawnych sposobach, na jakie zepsułem jedne rzeczy, naprawiając inne. 🙃

1️⃣ 🔐 Pliki certyfikatów z uprawnieniami ławki w parku

k3s zapisuje certyfikaty swojej wewnętrznej PKI (te w /var/lib/rancher/k3s/server/tls/) jako 644 — czytelne dla wszystkich. CIS chce 600. Uczciwie mówiąc, to są certyfikaty publiczne, nie klucze prywatne (te były już poprawnie zabezpieczone), więc realne ryzyko było bliższe “lekkiego bałaganu” niż “ziejącej dziury”. Naprawione przez chmod, a ponieważ k3s od czasu do czasu generuje część z nich na nowo przy restarcie, zrobiłem tę poprawkę idempotentną w roli Ansible, żeby wymuszała się przy każdym uruchomieniu playbooka, zamiast po cichu się cofać.

2️⃣ 🎫 Tokeny ServiceAccount zamontowane w podach, które ani razu nie wywołają API Kubernetes

To klasyka. Domyślnie każdy pod dostaje token API Kubernetes automatycznie zamontowany w swoim systemie plików, “na wszelki wypadek”. Moje pody WordPress, MariaDB i Redis przez całe swoje życie nie rozmawiają z API Kubernetes — odpowiednio serwują bloga, przechowują wiersze i cache’ują rzeczy. A jednak wszystkie miały aktywny, choć mało uprzywilejowany, token API leżący w /var/run/secrets/kubernetes.io/serviceaccount/, czysto na zasadzie “a czemu nie”. Gdyby atakujący kiedyś przejął jeden z tych kontenerów (powiedzmy przez RCE w podejrzanej wtyczce — to WordPress, zdarza się 😅), ten token byłby darmowym terenem do rozpoznania. Ustawiłem automountServiceAccountToken: false wszędzie tam, gdzie nie był potrzebny — na samych podach oraz, jak przekonałem się na własnej skórze, także na obiektach ServiceAccount pod spodem, bo automatyczna kontrola kube-bench najwyraźniej sprawdza ServiceAccount, a nie tylko to, czy jakiś pod akurat to nadpisuje. Przy okazji załatałem to w całym klastrze dla każdej niesystemowej przestrzeni nazw. 🧹

3️⃣ 🕵️ Nurkowanie w RBAC: spodziewałem się coś znaleźć, nie znalazłem nic

CIS ma całą serię kontroli dotyczących minimalizacji RBAC — uprawnienia z wildcardem, kto może się podszywać pod kogo, kto może tworzyć pody itd. Wchodziłem z nastawieniem, że znajdę przynajmniej jeden zbyt szeroki binding, który ktoś (ja, pół roku temu, o 1 w nocy 🌙) zostawił gdzieś na wierzchu. Nic. Każda niestandardowa rola w klastrze okazała się albo zupełnie nieużywaną domyślną rolą Kubernetes (admin/edit, nieprzypisane do nikogo), albo rolą zainstalowaną przez Helm chart (cert-manager, ingress-nginx), ograniczoną dokładnie do tego, czego dany komponent potrzebuje, i ani trochę więcej. Naprawdę satysfakcjonujące, móc to potwierdzić zamiast zakładać. ✨

4️⃣ 🧱 NetworkPolicies: to, co odkładałem na później

Zabawny kawałek historii homelabu: mój stack Nextcloud od dawna ma NetworkPolicies egzekwowane przez Calico, ale stack WordPress/blog nigdy nie dostał tego samego traktowania. Rozumowanie było wtedy takie, że Collabora (edytor dokumentów w Nextcloud) ma oczywisty, czysty model zagrożeń — parsuje niezaufane dokumenty i nie ma żadnego uzasadnionego powodu, by kiedykolwiek dotykać bazy danych, więc zamknięcie go było oczywiste. WordPress wydawał się bardziej mglisty: pod WordPressa musi zgodnie z przeznaczeniem rozmawiać zarówno z MariaDB, jak i z Redisem, więc “po prostu zablokuj wszystko” to nie jest właściwy kształt polityki. Ale mglisty to nie to samo co bezcelowy. Prawdziwa wartość nie polega tu na izolowaniu WordPressa od jego własnej bazy — chodzi o to, żeby MariaDB i Redis były osiągalne tylko z WordPressa, a nie z każdego innego poda, który kiedykolwiek wyląduje w tym klastrze, i żeby ograniczyć promień rażenia samego WordPressa, jeśli kiedyś zostanie przejęty. Więc w końcu napisałem trzy NetworkPolicies: WordPress może się łączyć z MariaDB, Redisem, DNS i otwartym internetem na porcie 443 (dla aktualizacji wtyczek/core — zaraz wyjaśnię, czemu tego ostatniego nie da się zawęzić bardziej); MariaDB i Redis są osiągalne tylko z WordPressa i z niczego więcej. Jedno uczciwe ograniczenie, do którego przyznaję się publicznie, bo ukrywanie go byłoby nieuczciwe i do tego bezcelowe: standardowa NetworkPolicy w Kubernetes filtruje tylko po IP/CIDR, nie po nazwie domeny, a moja instalacja Calico działa w darmowym trybie “policy-only”, bez wymyślnych zestawów reguł opartych na domenach. Core WordPressa, jego wtyczki i mój bootstrap WP-CLI potrzebują wychodzącego HTTPS do zmieniającej się obsady adresów IP CDN (wordpress.org, CDN wydań GitHuba itd.), których po prostu nie jestem w stanie wyliczyć. Więc port 443 do otwartego internetu pozostaje dozwolony. To, co ta polityka faktycznie mi daje, to blokowanie ruchu bocznego wewnątrz klastra — przejęty pod WordPressa nie może iść grzebać w cert-managerze ani w powierzchni administracyjnej ingress controllera — a nie pełną blokadę ruchu wychodzącego. Wolę powiedzieć ci uczciwie, jaki jest zakres zabezpieczenia, niż pozwolić ci założyć, że robi więcej, niż robi. 🙏

5️⃣ 🐛🐛 Dwa bugi, które wyszły tylko dlatego, że naprawdę testowałem, zamiast ufać zielonym ptaszkom

To ta część wpisu, w której praca nad infrastrukturą przestaje być checklistą, a staje się prawdziwym śledztwem, i szczerze mówiąc to przy niej bawiłem się najlepiej. 🕵️‍♂️ Po wdrożeniu NetworkPolicies ręcznie uruchomiłem cron job WordPressa (CronJob Kubernetes, który co 5 minut uruchamia wp-cron.php), żeby upewnić się, że nic się nie zepsuło. Zgłosił STATUS: Complete ✅. Super, wdrażamy — tyle że faktycznie zajrzałem do logów, zamiast ufać zielonemu statusowi, i znalazłem pełną stronę błędu krytycznego WordPressa: “Error establishing a Redis connection.” 💥 Przy każdym uruchomieniu crona. Po cichu. Najwyraźniej od zawsze, bo PHP-owe wp_die() kończy się statusem 0, więc Kubernetes nie ma zielonego pojęcia, że coś poszło nie tak. “Complete” oznaczało tylko, że proces się zakończył, a nie że mu się udało. Lekcja odrobiona ponownie na własnej skórze: zielony status to twierdzenie, nie dowód. Po głębszym kopaniu okazało się, że są tam dwa osobne bugi, nałożone jeden na drugi:

  • 🐛 Bug nr 1 — prawdziwy, istniejący wcześniej, niezwiązany z niczym, co dziś zrobiłem: definicja kontenera CronJoba nigdy nie miała ustawionej zmiennej środowiskowej WORDPRESS_CONFIG_EXTRA — bloku, który definiuje WP_REDIS_HOST i spółkę — w przeciwieństwie do głównego deploymentu WordPressa. Więc WP_REDIS_HOST była niezdefiniowana przy każdym uruchomieniu crona od zawsze, wtyczka object cache dla Redisa po cichu wracała do własnej wartości domyślnej 127.0.0.1, a oczywiście nic nie nasłuchuje na localhost w tym podzie. Nie miało to nic wspólnego z NetworkPolicies, Calico ani z czymkolwiek z dzisiaj — było zepsute od momentu napisania CronJoba i po prostu nigdy nie wypłynęło, bo “Complete” okłamywało wszystkich, łącznie ze mną, nie wiadomo jak długo 🙈. Naprawione przez skopiowanie dokładnie tego samego bloku konfiguracji z głównego deploymentu.
  • 🐛 Bug nr 2 — naprawdę nowy, spowodowany NetworkPolicy, którą właśnie dodałem: po naprawieniu buga nr 1 i skierowaniu poda crona na właściwy hostname Redisa nadal się wywalał — ale tym razem ze zwykłym “Connection refused” zamiast błędu krytycznego WordPressa, co jest zupełnie innym smakiem awarii i od razu pachniało problemem sieciowym, a nie konfiguracyjnym. Okazuje się, że pierwsza próba połączenia wychodzącego zupełnie nowego poda, mniej więcej w pierwszej sekundzie jego istnienia, może zostać odrzucona, bo agent Felix z Calico jeszcze nie skończył programować reguł firewalla dla tego konkretnego poda ⏱️. Długo żyjące pody nigdy tego nie zauważają, bo ich readiness probes mają hojny 20-sekundowy okres karencji, zanim ktokolwiek je sprawdzi. Pod CronJoba, który próbuje rozmawiać z Redisem w pierwszej połowie sekundy życia, nie ma takiego luksusu. Odtworzyłem to niezawodnie izolowanym testem (gołe połączenie TCP, bez WordPressa) — na świeżym podzie od razu pada, z 5-sekundowym sleepem przed nim działa za każdym razem. Poprawka: sleep 5 && doklejone przed właściwą komendę crona. Nieelegancko. Niezwykle skutecznie. 🛠️

✅ Obie poprawki działają już na produkcji i są zweryfikowane na prawdziwym, niewymuszonym, faktycznie zaplanowanym ticku crona, a nie tylko na ręcznym teście.

6️⃣ 🤦 Ta, w której przypadkiem wyłączyłem jedno domyślne zabezpieczenie, dodając inne

Mój ulubiony samobój z całego ćwiczenia. Dodałem admission plugin EventRateLimit do API servera, żeby pod w crash loopie nie mógł zalać strumienia zdarzeń. Standardowy Kubernetes traktuje --enable-admission-plugins jako addytywne — dodaje twój plugin do tego, co już jest domyślnie włączone. k3s, jak się okazuje, nie podziela tej filozofii: ustawienie tej flagi zastępuje całą domyślną listę. Co oznacza, że moja jednolinijkowa zmiana “dodajmy trochę rate limitingu” po cichu wyłączyła NodeRestriction, domyślny admission plugin k3s, który powstrzymuje przejętego kubeleta przed grzebaniem w obiektach API, których nie powinien dotykać. Wyłapałem to tylko dlatego, że potem dla pewności ponownie uruchomiłem kube-bench i zobaczyłem, jak kontrola, która wcześniej przechodziła, od razu zmienia się w FAIL 📉. Morał z tej historii: zawsze wypisuj domyślne wartości jawnie, gdy dotykasz takiej flagi, i zawsze uruchamiaj ponownie narzędzie walidacyjne po każdej zmianie, a nie tylko raz na samym końcu.

7️⃣ 🗝️ Sekrety jako pliki zamiast zmiennych środowiskowych

Hasła do bazy siedziały w zwykłych zmiennych środowiskowych w kontenerach — czytelne przez /proc/<pid>/environ, kubectl describe, zrzuty po awarii albo każdy error handler na tyle głupi, by przy błędzie krytycznym wypisać swoje środowisko. Oficjalne obrazy Dockera zarówno WordPressa, jak i MariaDB obsługują wczytywanie sekretów ze ścieżki do pliku (konwencja z przyrostkiem _FILE), więc przestawiłem wszystko. Jedna nieoczywista pułapka ⚠️: własne health-check probes MariaDB czytały hasło roota prosto z tej samej zmiennej środowiskowej. Zamień zmienną na plik bez ruszania probes, a MariaDB od momentu wdrożenia zaczęłaby się zgłaszać jako trwale unhealthy. Wyłapałem to przy przeglądzie, zaktualizowałem probes tak, żeby czytały plik bezpośrednio, i przetestowałem na żywo, zanim uznałem sprawę za zamkniętą. 👍

8️⃣ 📦 Pochodzenie obrazów, po uczciwemu

CIS chce “Image Provenance using ImagePolicyWebhook” — to prawdziwa funkcja Kubernetes, ale jej wdrożenie oznacza postawienie i hostowanie całej zewnętrznej usługi webhooka, która przy admission zatwierdza albo odrzuca obrazy. To spora porcja nowej infrastruktury jak na bloga z homelabu, a nie zamierzałem budować całego mikroserwisu tylko po to, żeby uszczęśliwić jeden checkbox compliance 🙅. Zamiast tego użyłem ValidatingAdmissionPolicy — natywnego mechanizmu wbudowanego w API server (GA od Kubernetes 1.30, bez dodatkowych ruchomych części) — żeby odrzucać każdy pod w przestrzeni nazw WordPressa, którego obraz kontenera nie znajduje się na jawnej allowliście z dokładnie tymi repozytoriami, których ten stack używa. Ten sam cel kontroli, zero nowej infrastruktury do pilnowania o 2 w nocy. 😴

🤷 Co celowo zostawiłem bez zmian

Nie wszystko, co świeci się na czerwono, wymaga naprawy, i chcę otwarcie powiedzieć, co nadal jest oznaczone i dlaczego — bo “naprawiliśmy dosłownie wszystko” to zwykle znak, że nikt nie przyjrzał się wystarczająco dokładnie, i bo nic z poniższych nie daje atakującemu niczego przydatnego:

  • 🗄️ Kontrola “etcd”, która w ogóle mnie nie dotyczy. To jednowęzłowy klaster k3s z wbudowanym datastore SQLite, nie etcd. Kontrola CIS pytająca o plik CA etcd sprawdza komponent, który tu dosłownie nie działa. To nie jest znalezisko, tylko benchmark, który jest ogólny.
  • 🧩 Uprawnienie RBAC z wildcardem, które należy do samego Calico, potrzebne mu do zarządzania własnymi custom resources. To widoczny koszt włączenia egzekwowania NetworkPolicies opisanego wyżej — ręczne przycinanie grozi tym, że sam silnik network policy nie wystartuje, co wydało mi się gorszą wymianą niż “jedno uprawnienie z wildcardem dla komponentu, któremu i tak powierzono sieć klastra”.
  • 🔧 Garść komponentów, które nadal mają zamontowane tokeny API Kubernetes — konkretnie cert-manager, mój ingress controller i kontrolery samego Calico. Wszystkie trzy potrzebują tego dostępu do swojej właściwej pracy (odpowiednio obserwowania certyfikatów, obiektów ingress i network policies). Wyrwanie tego niczego by nie wzmocniło, tylko zepsułoby wystawianie certyfikatów TLS.

🏁 Tablica wyników

Zacząłem wieczór na ❌ 55 PASS / 4 FAIL / 57 WARN / 14 INFO. Skończyłem na ✅ 63 PASS / 3 FAIL / 50 WARN / 14 INFO, przy czym 3 pozostałe FAIL-e zostały świadomie zaakceptowane z powodów opisanych wyżej, a nie po cichu zignorowane. Po drodze naprawiłem regresję bezpieczeństwa, którą sam wprowadziłem w tej samej sesji, znalazłem i naprawiłem zupełnie niezwiązany, wcześniej istniejący bug, który prawdopodobnie od miesięcy po cichu się wywalał, i nauczyłem się, że “Job: Complete” i “to coś w środku naprawdę zadziałało” to dwa bardzo różne twierdzenia, które Kubernetes z radością pozwoli ci pomylić, jeśli nie sprawdzisz. 🎯 📤 Jeszcze jedna uwaga organizacyjna dla wszystkich, którzy śledzą to w domu: obecnie trochę przebudowuję też część homelabu związaną z GitLabem, więc kod Ansible i zmiany w dokumentacji opisane tutaj leżą na razie w moim prywatnym repozytorium — wypchnę je do mojego publicznego mirrora na GitHubie w ciągu najbliższych dni, gdy już to ogarnę. Wracam teraz do listy lektur CKS. 📖 Okazuje się, że czytanie o bezpieczeństwie Kubernetes i faktyczne szukanie prawdziwych znalezisk we własnym klastrze to zupełnie inne doświadczenia. Polecam. ✌️


Uwaga (19 paź 2026): Wymienione tu Calico okazało się niczego nie egzekwować – NetworkPolicies egzekwuje kontroler network policy wbudowany w K3s, a Calico zostało usunięte. Część 2 Ansible Tour wyjaśnia, jak to wyszło na jaw.

📚 Więcej w tej serii: CIS Benchmark

Część tekstów i obrazów na tej stronie powstała z pomocą AI lub została wygenerowana przez AI. Szczegóły