Server bạn đang chạy ngon thì một hôm traffic tăng vọt, response time kéo dài, rồi sập. Câu hỏi lúc đó không phải "code có bug không" mà là "hệ thống có được thiết kế để chịu tải hơn không". Hai công cụ cơ bản nhất để trả lời câu hỏi này là mở rộng quy mô (scaling) và cân bằng tải (load balancing).
Mở Rộng Quy Mô: Ngang Hay Dọc?
Hiệu năng backend phụ thuộc rất nhiều vào việc bạn chọn đúng kiểu mở rộng quy mô (scaling) khi tải tăng. Có hai hướng chính:
- Mở rộng theo chiều dọc (vertical scaling / scale up): thêm tài nguyên (CPU, RAM) vào một máy chủ hiện có. Cách này nhanh, dễ làm, nhưng bị giới hạn bởi cấu hình tối đa của phần cứng, và máy đó vẫn là điểm lỗi đơn (single point of failure).
- Mở rộng theo chiều ngang (horizontal scaling / scale out): thêm nhiều máy chủ chạy song song. Cách này giúp hệ thống chịu tải lớn hơn nhiều về lâu dài, tăng tính dự phòng (nếu một máy chết, các máy khác vẫn phục vụ), nhưng đòi hỏi ứng dụng phải thiết kế để chạy đa máy (không giữ trạng thái trên một máy cụ thể) và cần thêm cơ chế phân phối traffic.
Hai cách này không loại trừ nhau. Ví dụ thực tế: một đợt tăng traffic đột ngột trong vài giờ có thể xử lý tạm bằng cách nâng cấu hình máy hiện có (mở rộng dọc), còn tăng trưởng người dùng ổn định theo tháng thì nên giải quyết bằng cách thêm máy chủ (mở rộng ngang). Chọn sai hướng - ví dụ cứ nâng cấu hình mãi cho một bài toán tăng trưởng dài hạn - sẽ khiến bạn sớm chạm trần phần cứng và trả tiền oan cho máy chủ đắt tiền.
Cân Bằng Tải Để Phân Phối Lưu Lượng
Khi đã có nhiều máy chủ (mở rộng ngang), bạn cần một cơ chế quyết định request nào đi vào máy nào. Đó là việc của cân bằng tải (load balancing): một bộ cân bằng tải (load balancer) đứng trước các máy chủ, nhận request và phân phối chúng theo một chiến lược nào đó (round-robin, least-connections, theo tải CPU...) để không máy nào bị quá tải trong khi máy khác rảnh rỗi.
Client -> Load Balancer -> Server 1
-> Server 2
-> Server 3
Ví von cho dễ hình dung: cân bằng tải giống như nhân viên xếp hàng ở siêu thị, luôn hướng khách sang quầy thu ngân đang trống thay vì để mọi người dồn hết vào một quầy trong khi các quầy khác không ai đứng. Kết quả là không quầy nào quá tải, khách được phục vụ đều và nhanh hơn.
Trên thực tế, các dịch vụ traffic cao như Amazon hay Facebook đều đặt bộ cân bằng tải trước hàng loạt máy chủ để chia đều hàng triệu request mỗi ngày, giúp hệ thống phục vụ ổn định thay vì dồn tải lên một điểm.
Tóm Tắt
- Mở rộng dọc: nhanh, đơn giản, nhưng có trần phần cứng và là điểm lỗi đơn.
- Mở rộng ngang: chịu tải và dự phòng tốt hơn về lâu dài, nhưng cần thiết kế ứng dụng phù hợp.
- Cân bằng tải là điều kiện cần khi đã mở rộng ngang, giúp chia đều traffic giữa các máy.
- Đừng quên xử lý trạng thái dùng chung (session, cache) khi có nhiều máy chủ phía sau load balancer.
- Kai