Répondre à la question

Quelles Requests & Limits définir sur vos applications conteneurisées ?

Agenda

• (R)appel Requests & Limits dans Kubernetes

• Présentation de 2 outils (+ démo) pour vous aider à les définir

• Stratégies de mise à l'échelle : focus sur Vertical Pod Autoscaler

• Q/A si on a du temps

Qui suis-je ?

Rémi Verchère

Cloud Native Infrastructure Consultant

• Ops qui aide les Devs à mettre en prod

Open Source & CNCF landscape

• Papa x

@rverchere

Requests & Limits

Requests

Ressources nécessaires pour placer un conteneur sur un noeud.

Limits

Ressources maximum qu'un conteneur peut utiliser sur un noeud.

Sur Memory & CPU ()

Requests & Limits

Qualité de Service

• Ni Requests, ni Limits : Best Effort
• Requests < Limits : Burstable
• Requests = Limits : Guaranteed

PDB, Evictions, Priority Classes

Enix Live Show le 14/12/2023

Requests & Limits

Quel sizing alors ? Trop ? Trop peu ?

Requests & Limits

Requests & Limits

Aide au dimensionnement

Plusieurs méthodes

1. Au doigt mouillé itératif
2. Spécial devs Java
3. Grâce aux métriques !

Aide au dimensionnement

Plusieurs méthodes

1. Au doigt mouillé itératif
2. Spécial devs Java
3. Grâce aux métriques !

Outils pour vous faciliter la vie

1. Krr
2. Goldilocks

Krr

• From Robusta : https://github.com/robusta-dev/krr
• "Prometheus-based Kubernetes Resource Recommendations"
• CLI, sans agent, basé sur métriques Prometheus & co, extensible
  Possibilité run in-cluster périodique (notifs Slack)
• Calcul : https://github.com/robusta-dev/krr#algorithm

Krr

Démo !

Goldilocks

• From Fairwinds : https://goldilocks.docs.fairwinds.com/
• "Get your resource requests 'Just Right'"
• Automatise les "Vertical Pod Autoscalers" en mode recommendation (),
• Interface Web

VPA

• Adaptation automatique des Requests & Limits du pod

VPA

• 3 composants
  • Recommender
  • Updater
  • Admission Controller
• Plusieurs modes
  • Recreate
  • Initial
  • Off

VPA

Remarques

• Pas par défaut, à installer
• Besoin de créer une ressource de type “VerticalPodAutoscaler”
• A ne pas utiliser avec HPA
• Restart du conteneur ★
• Fournit des métriques : via le 'status' de la resource VPA
• Calcul : vertical-pod-autoscaler.md#recommendation-model
  • Requests : CPU 90% Percentile par défaut, RAM OOMKilled
  • Limits : Ratio Requests Initiaux

VPA

Exemple

apiVersion: autoscaling.k8s.io/v1
kind: VerticalPodAutoscaler
metadata:
  name: my-app
spec:
  targetRef:
    apiVersion: apps/v1
    kind: Deployment
    name: my-app
  updatePolicy:
    updateMode: "Off"
status:
  recommendation:
    containerRecommendations:
    - [...]

Autres types d'Autoscalers

1) Horizontal Pod Austocaler

2) Cluster Autoscaler

3) Multi-dimensional Pod Autoscaling

• AEP-5342 (Autoscaler Enhancement Proposal): Multi-dimensional Pod Autoscaler

Goldilocks

Démo !

Goldilocks + VPA + Grafana =

Mes stratégies

Requests, Limits ?

• CPU Requests, No Limits
• RAM Requests = Limits
• Ce dont l'application à besoin ★

Blog posts

• Kubernetes CPU Limits (cgroup quotas)
• Stop setting CPU & Memory Requests
• Stop Using CPU limits

Nouveautés depuis K8S 1.27

• In-place Resource Resize for Kubernetes Pods (alpha)
  "In Kubernetes v1.27, we have added a new alpha feature that allows users to resize CPU/memory resources allocated to pods without restarting the containers"

• HorizontalPodAutoscaler ContainerResource type metric moves to beta
  "Kubernetes 1.20 introduced the ContainerResource type metric in HorizontalPodAutoscaler (HPA). In Kubernetes 1.27, this feature moves to beta and the corresponding feature gate (HPAContainerMetrics) gets enabled by default."

• Quality-of-Service for Memory Resources (alpha)