🖼️ See the drawing + lab 🏠 Course home 🌿 Branch on GitHub ✏️ View source

🖼️ आकृती आणि labThe drawing + lab पूर्ण पानावर उघडा ↗Open full page ↗

🚌 धडा 09 — Autoscaling: पावसाळी दिवशी जादा बसेस

📍 तुम्ही इथे आहात: 13 पैकी धडा 09 · मागचा: lesson-08-resources · पुढचा: lesson-10-ingress

📦 या ब्रँचमध्ये काय आहे

धडे 01–08, आणि: HorizontalPodAutoscaler (HPA) — load वाढला की वाढणारे आणि शांत झाले की परत कमी होणारे pods. खरी file:

k8s/hpa.yaml — 70% CPU वर school-api ला 2 ते 5 pods दरम्यान scale करते

🧒 5 वर्षांच्या मुलाला समजावल्यासारखे

उन्हाच्या दिवशी शाळेच्या 2 बसेस 🚌🚌 पुरेशा असतात — काही मुले चालत येतात, काही सायकलने. पण पावसाच्या दिवशी प्रत्येकालाच बस हवी असते! मुले दाटीवाटीने बसतात, दप्तरे मांडीवर, कोणी तरी पायरीवरच बसलेले असते… 🌧️😫

एक हुशार वाहतूक व्यवस्थापक बसेस किती भरल्या आहेत ते पाहत असतो:

70% पेक्षा जास्त भरल्या? → आणखी एक बस काढा. तरी गर्दी? आणखी एक — शाळेकडे असलेल्या 5 बसेस पर्यंत.
ऊन परत आले, बसेस अर्ध्या रिकाम्या? → जादा बसेस उभ्या करा. पण कधीच 2 पेक्षा कमी नाही — सर्वात रिकाम्या दिवशीही मुलांना बसने जाता आले पाहिजे (आणि एखादी बस बंद पडू शकते — धडा 03 आठवा!).

HPA म्हणजे हाच व्यवस्थापक: तो दर 15 सेकंदांनी तुमच्या pods चा CPU पाहतो आणि pods वाढवतो किंवा कमी करतो (मोठे pods नाही — जास्त pods; हेच "horizontal").

🗺️ आकृती

flowchart TB
    M["📊 metrics-server<br/>collects CPU usage"]
    H["🧑‍💼 HPA - transport manager<br/>target: 70% of requested CPU<br/>min 2, max 5"]
    D["Deployment school-api<br/>replicas: ← HPA edits this"]
    P1["🚌 pod 1"]
    P2["🚌 pod 2"]
    P3["🚌 pod 3 - rainy day"]
    P4["🚌 pod 4 - storm!"]
    M --> H -->|"avg CPU 85% → scale up!<br/>avg CPU 20% → scale down"| D
    D --> P1 & P2
    D -.-> P3 & P4

❓ काय

HPA एक metric पाहतो (इथे: सर्व pods मधला सरासरी CPU, धडा 08 मधल्या प्रत्येक pod च्या request च्या % मध्ये — 100m चे 70% = 70m) आणि Deployment वरचे replicas minReplicas: 2 आणि maxReplicas: 5 दरम्यान बदलतो.
त्यासाठी metrics-server add-on install केलेले असावे लागते — मोजमाप नाही, तर व्यवस्थापक नाही.
Scale-up जलद असतो (भरलेल्या बसेस तातडीचे काम); scale-down मुद्दाम हळू आणि स्थिर केलेला असतो (पाऊस थांबल्या क्षणी बस उभी करू नका).
Horizontal (जास्त pods) विरुद्ध vertical (मोठे pods) — web apps जवळजवळ नेहमीच horizontally scale होतात: एका प्रचंड बसपेक्षा अनेक लहान एकसारख्या बसेस चांगल्या.

🤔 का

ठरलेली क्षमता नेहमीच चुकीची असते: रात्री 3 वाजता 5 pods चे पैसे भरा (वाया 💸) किंवा परीक्षेच्या निकालाच्या गर्दीत 2 pods चालवा (crash 😱). HPA प्रत्यक्ष load च्या वक्रावर स्वार होतो. आणि तुम्ही बांधलेली सुंदर रचना पाहा: HPA एक आकडा बदलतो → Deployment (धडा 03) बाक बनवतो → Service (धडा 04) त्यांना लगेच सामावून घेते → probes (धडा 07) त्यांचे traffic नियंत्रित करतात. प्रत्येक धडा या यंत्रातले एक चाक आहे.

🔧 कसे (या repo मध्ये)

k8s/hpa.yaml:

scaleTargetRef:
  kind: Deployment
  name: school-api        # whose bus fleet to manage
minReplicas: 2            # never fewer (availability floor)
maxReplicas: 5            # never more (budget ceiling)
metrics:
  - type: Resource
    resource:
      name: cpu
      target:
        type: Utilization
        averageUtilization: 70    # % of each pod's REQUESTED cpu

🧪 करून पाहा

# minikube: enable metrics first:  minikube addons enable metrics-server
kubectl apply -f k8s/hpa.yaml
kubectl -n school get hpa -w          # TARGETS shows live %, e.g. 12%/70%

# Rainy day generator 🌧️ — hammer the API from a loop pod:
kubectl -n school run rain --rm -it --image=busybox --restart=Never \
  -- /bin/sh -c 'while true; do wget -qO- http://school-api >/dev/null; done'

# In another terminal, watch buses roll out (takes ~1–2 min):
kubectl -n school get hpa,pods -w

# Ctrl+C the rain pod, then watch it calmly scale back to 2 (~5 min).

🔧 या धड्यासाठी kubectl

kubectl get hpa -w · kubectl top pods

🔗 यावर आधारित: 🪪 AWS L12 (ASG) · L18 (alarm → action)

✅ तपासा — तुम्हाला काय दिसायला हवे

load खाली kubectl get hpa -w 2 पासून 5 कडे चढतो; शांत झाल्यावर हळूहळू परत खाली येतो.

🧹 साफसफाई

kubectl delete hpa — आणि load generator pod काढून टाका

⚠️ नेहमीच्या चुका

resource requests नसलेला HPA — 'unknown' utilization, scaling नाही
Deployment manifest मध्येही replicas: set करणे (GitOps आणि HPA भांडतात)

⏭️ पुढे

आतापर्यंतचे सगळे शाळेच्या आत आहे. बाहेरचे जग — पालक, browsers, internet — आत कसे येते? मुख्य फाटकातून: Ingress.

git checkout lesson-10-ingress

🚌 Lesson 09 — Autoscaling: extra buses on rainy days

📍 You are here: Lesson 09 of 13 · Previous: lesson-08-resources · Next: lesson-10-ingress

📦 What's in this branch

Lessons 01–08, plus: the HorizontalPodAutoscaler (HPA) — pods that multiply under load and shrink back when it's quiet. Real file:

k8s/hpa.yaml — scales school-api between 2 and 5 pods at 70% CPU

🧒 Explain like I'm 5

On sunny days, 2 school buses 🚌🚌 are plenty — some kids walk, some cycle. But on a rainy day, EVERYONE wants the bus! Kids squeeze in, bags on laps, someone's sitting on the steps… 🌧️😫

A smart transport manager watches how full the buses are:

More than 70% full? → roll out another bus. Still crowded? Another one — up to the 5 buses the school owns.
Sun's back, buses half empty? → park the extras. But never fewer than 2 — even on the emptiest day, kids must be able to ride (and one bus might break down — remember lesson 03!).

The HPA is that manager: it watches your pods' CPU every 15 seconds and adds or removes pods (not bigger pods — MORE pods; that's the "horizontal").

🗺️ Diagram

flowchart TB
    M["📊 metrics-server<br/>collects CPU usage"]
    H["🧑‍💼 HPA - transport manager<br/>target: 70% of requested CPU<br/>min 2, max 5"]
    D["Deployment school-api<br/>replicas: ← HPA edits this"]
    P1["🚌 pod 1"]
    P2["🚌 pod 2"]
    P3["🚌 pod 3 - rainy day"]
    P4["🚌 pod 4 - storm!"]
    M --> H -->|"avg CPU 85% → scale up!<br/>avg CPU 20% → scale down"| D
    D --> P1 & P2
    D -.-> P3 & P4

❓ What

The HPA watches a metric (here: average CPU across the pods, as a % of each pod's request from lesson 08 — 70% of 100m = 70m) and adjusts replicas on the Deployment between minReplicas: 2 and maxReplicas: 5.
It needs the metrics-server add-on installed — no measurements, no manager.
Scale-up is fast (crowded buses are urgent); scale-down is deliberately slow and stabilized (don't park a bus the second the rain pauses).
Horizontal (more pods) vs vertical (bigger pods) — web apps almost always scale horizontally: many small identical buses beat one giant bus.

🤔 Why

Fixed capacity is always wrong: pay for 5 pods at 3 AM (waste 💸) or run 2 pods during the exam-results rush (crash 😱). The HPA rides the actual load curve. And notice the beautiful stack you've built: HPA changes a number → the Deployment (lesson 03) makes desks → the Service (lesson 04) instantly includes them → probes (lesson 07) gate their traffic. Every lesson is a gear in this machine.

🔧 How (in this repo)

k8s/hpa.yaml:

scaleTargetRef:
  kind: Deployment
  name: school-api        # whose bus fleet to manage
minReplicas: 2            # never fewer (availability floor)
maxReplicas: 5            # never more (budget ceiling)
metrics:
  - type: Resource
    resource:
      name: cpu
      target:
        type: Utilization
        averageUtilization: 70    # % of each pod's REQUESTED cpu

🧪 Try it

# minikube: enable metrics first:  minikube addons enable metrics-server
kubectl apply -f k8s/hpa.yaml
kubectl -n school get hpa -w          # TARGETS shows live %, e.g. 12%/70%

# Rainy day generator 🌧️ — hammer the API from a loop pod:
kubectl -n school run rain --rm -it --image=busybox --restart=Never \
  -- /bin/sh -c 'while true; do wget -qO- http://school-api >/dev/null; done'

# In another terminal, watch buses roll out (takes ~1–2 min):
kubectl -n school get hpa,pods -w

# Ctrl+C the rain pod, then watch it calmly scale back to 2 (~5 min).

🔧 kubectl for this lesson

kubectl get hpa -w · kubectl top pods

🔗 Builds on: 🪪 AWS L12 (ASG) · L18 (alarm → action)

✅ Verify — what you should see

under load kubectl get hpa -w climbs from 2 toward 5; when quiet it walks back down slowly.

🧹 Clean up

kubectl delete hpa — and remove the load generator pod

⚠️ Common mistakes

HPA with no resource requests — 'unknown' utilization, no scaling
also setting replicas: in the Deployment manifest (GitOps and HPA fight)

⏭️ Next

Everything so far is inside the school. How does the outside world — parents, browsers, the internet — get in? Through the main gate: Ingress.

git checkout lesson-10-ingress

← Previousresources Next →ingress

This page is the lesson's README from the lesson-09-autoscaling branch, shown here so the whole School stays on one site. Code files open on GitHub at the same branch.