태그: Kubernetes
13편
-
vLLM으로 LLM 추론 서버 운영하기: PagedAttention, Continuous Batching, 양자화, Kubernetes 배포
vLLM으로 OpenAI 호환 LLM 추론 서버를 띄우고, PagedAttention과 Continuous Batching이 처리량을 높이는 원리, 프리픽스 캐시, AWQ·GPTQ·FP8 양자화, Tensor Parallel, Kubernetes 배포와 Prometheus 모니터링까지 운영 관점에서 다룹니다.
-
Sigstore로 공급망 보안 서명하기: cosign keyless 서명, GitHub Actions 자동화, SBOM, Kubernetes 검증
cosign으로 컨테이너 이미지에 keyless 서명을 하고 Fulcio 인증서와 Rekor 로그로 검증하는 흐름을 보여줍니다. GitHub Actions 자동 서명, SBOM과 SLSA provenance 첨부, Kyverno 등으로 Kubernetes 배포 시 검증하는 방법도 다룹니다.
-
Karpenter로 EKS 노드 오토스케일링: NodePool·NodeClass, Disruption, 스팟 혼합 운영
AWS EKS 노드 오토스케일러 Karpenter 정리. Cluster Autoscaler와의 차이, 설치, NodeClass와 NodePool, Disruption으로 비용 절감, 스팟·온디맨드 혼합 전략, 관측 지표와 보안을 다룹니다.
-
Kubernetes 핵심 오브젝트: Pod, Deployment, Service, ConfigMap·Secret, Ingress, 헬스체크, HPA
Kubernetes로 컨테이너를 운영하는 방법. Pod, Deployment, Service, ConfigMap과 Secret, Ingress, Liveness·Readiness Probe, HorizontalPodAutoscaler, Pod 재시작 문제 해결을 예제로 다룹니다.
-
Grafana Loki로 로그 수집하기: 라벨만 인덱싱하는 구조, LogQL, Alloy 수집, 보존 비용
Grafana Loki 정리. 로그 본문 대신 라벨만 인덱싱해 저장 비용을 낮추는 구조, 설치, Grafana Alloy로 Kubernetes 로그 수집, 라벨 설계, LogQL 쿼리, 알림, S3 보존 전략을 다룹니다.
-
Docker 네트워킹 내부 — CNI·veth·브리지·iptables·서비스 디스커버리
Docker·Kubernetes 네트워크 내부: CNI와 libnetwork, veth·Linux bridge, 포트 매핑 iptables/nft, DNS·서비스 디스커버리, 프로덕션 패턴까지 실무 심화 정리.
-
eBPF로 커널 레벨 관측하기: Cilium, Pixie, Parca, Tetragon과 bpftrace
eBPF가 커널을 수정하지 않고 네트워크와 시스템콜을 관측하는 원리를 짚고, Cilium·Hubble 네트워크 정책과 플로우 관찰, Pixie 무계측 관측, Parca 지속 프로파일링, Tetragon·Falco 런타임 보안, bpftrace 사용법을 다룹니다. BTF 미지원 오류 같은 도입 초기 문제도 정리했습니다.
-
컨테이너 오케스트레이션 심화 — 스케줄러·DNS·CNI·스토리지·프로덕션 패턴
Kubernetes·Docker Swarm 내부를 깊이 있게 다룹니다. 스케줄링 프레임워크, CoreDNS·서비스 디스커버리, Flannel·Calico 오버레이, PV/PVC·StorageClass, PDB·토폴로지 분산 등 운영 관점까지.
-
Kubernetes 클러스터 보안 강화: RBAC, Pod Security Standards, Network Policy, Secrets, 감사 로그
Kubernetes 클러스터 보안 강화 가이드. RBAC·Pod Security Standards·Network Policy·Secrets·이미지 스캔·Admission Control·감사 로그·실무 체크리스트를 한 번에 정리합니다.
-
Docker & Kubernetes 입문 가이드 | 컨테이너부터 오케스트레이션까지
Docker 이미지·컨테이너·Dockerfile·Compose부터 Kubernetes Pod·Deployment·Service까지. 멀티 스테이지 빌드, 헬스체크, 컨테이너 디버깅 순서를 실습 예제로 정리합니다.
-
Kubernetes minikube로 Node API 배포하기 | Deployment·Service
minikube로 로컬 Kubernetes 클러스터를 띄우고 헬스 엔드포인트가 있는 Node.js API 이미지를 클러스터에 적재한 뒤, Deployment와 Service 매니페스트를 적용하고 port-forward로 접속을 확인하는 과정을 kubectl 중심으로 설명합니다.
-
Kubernetes Pod가 안 뜰 때: CrashLoopBackOff·ImagePullBackOff·Pending 원인 찾기
Kubernetes Pod 트러블슈팅. CrashLoopBackOff, ImagePullBackOff, Pending 상태의 흔한 원인과 kubectl logs·describe·events로 원인을 찾는 순서, 실무 체크리스트를 정리합니다.
-
C++ 서버 배포: Docker 멀티스테이지, systemd, Kubernetes 무중단 배포, Prometheus 모니터링
C++ 서비스를 프로덕션에 배포하는 방법. Docker 멀티스테이지 빌드, systemd 서비스, Kubernetes Deployment·Ingress·readinessProbe, 롤링 업데이트, CI/CD, Prometheus·Grafana·spdlog, glibc·OOM·502 에러 대응을 다룹니다.