Internal Bandwidth là gì? Tối ưu chi phí mạng trong Cloud

Internal Bandwidth là dung lượng truyền tải dữ liệu giữa các thành phần bên trong một mạng riêng tư như VPC, Data Center hoặc giữa các server trong cùng một Cluster.

Trong DevOps và SRE, Internal Bandwidth đóng vai trò cốt lõi trong kiến trúc Microservices và Big Data vì phần lớn traffic hệ thống hiện đại là giao tiếp giữa các service với nhau. Việc quản lý Internal Bandwidth không chỉ ảnh hưởng đến Throughput và Latency của ứng dụng mà còn tác động trực tiếp đến Cloud cost hằng tháng.

Ví dụ: Khi App Server gọi Database Server để lấy dữ liệu, traffic đó tiêu thụ Internal Bandwidth. Nếu App và DB nằm khác Availability Zone, bạn sẽ phải trả thêm phí truyền tải dữ liệu.

Khác với Internet bandwidth thường bị giới hạn bởi ISP, Internal Bandwidth trong Cloud thường rất lớn nhưng vẫn có giới hạn vật lý trên từng Instance type.

Internal Bandwidth cho biết điều gì?

Theo dõi Internal Bandwidth giúp bạn hiểu rõ behavior của hệ thống:

Traffic pattern: Service nào đang giao tiếp nhiều nhất với service nào.
Data replication lag: Băng thông có đủ để Database sync dữ liệu kịp thời giữa Master và Slave không.
Cost efficiency: Traffic đang đi qua đường Private Network rẻ tiền hay đang vòng qua Public Internet đắt đỏ.
Bottleneck: Có thành phần nào đang bị nghẽn mạng do đạt đến giới hạn Network Throughput của Instance không.

Internal Bandwidth khác External Bandwidth ra sao?

Sự khác biệt nằm ở hướng đi của traffic và chi phí:

External Bandwidth: Thường là North-South traffic từ User vào hệ thống hoặc từ hệ thống ra Internet. Chi phí tính theo Data Transfer Out ra Internet.
Internal Bandwidth: Thường là East-West traffic giữa các server. Trong cùng một Availability Zone thường miễn phí, nhưng khác Availability Zone hoặc khác Region sẽ tính phí Inter-AZ Data Transfer.

Lưu ý rằng Internal Bandwidth thường có độ trễ thấp hơn và ổn định hơn so với External Bandwidth.

East-West Traffic và Microservices

Trong kiến trúc Monolith, các module gọi nhau qua function call trong memory nên không tốn băng thông. Nhưng trong Microservices, mọi giao tiếp đều qua mạng (RPC, REST, gRPC).

Điều này dẫn đến hiện tượng khuếch đại traffic: Một request từ user có thể sinh ra hàng chục request nội bộ. Internal Bandwidth tiêu thụ có thể gấp nhiều lần External Bandwidth.

Ví dụ:

User request 1MB dữ liệu.
Gateway gọi Auth Service, Product Service, Pricing Service, Inventory Service.
Tổng Internal traffic có thể lên tới 5-10MB cho 1 request đó.

Rủi ro về chi phí (Cloud Cost)

Đây là bẫy phổ biến nhất khi vận hành trên AWS, GCP hay Azure.

Inter-AZ Transfer: Traffic giữa hai instance nằm ở hai Availability Zone khác nhau dù cùng VPC sẽ bị tính phí.
Public IP usage: Nếu hai instance trong cùng VPC giao tiếp với nhau qua Public IP, traffic sẽ đi ra ngoài Internet Gateway rồi vòng lại, gây tăng Latency và bị tính phí Data Transfer như traffic Internet.

Vì vậy, luôn cấu hình service giao tiếp qua Private IP để tối ưu Internal Bandwidth cost.

Internal Bandwidth Saturation

Mỗi dòng Cloud Instance đều có giới hạn Network Performance cụ thể (ví dụ 5 Gbps, 10 Gbps).

Nếu ứng dụng đẩy traffic vượt quá ngưỡng này, gói tin sẽ bị drop hoặc queuing, làm tăng Latency đột biến.
Các dòng Instance nhỏ thường dùng cơ chế Network Burst: cho phép băng thông cao trong thời gian ngắn nhưng sẽ bị bóp nghẹt về baseline nếu dùng lâu.

Dấu hiệu nhận biết là metric packets_dropped tăng cao hoặc bandwidth_utilization đạt tối đa.

Internal Bandwidth metrics nên theo dõi

Bạn cần giám sát các chỉ số sau ở mức Interface (eth0):

Bytes Sent/Received: Tổng lưu lượng ra vào.
Packets Sent/Received: Số lượng gói tin. PPS (Packets Per Second) cao cũng có thể gây nghẽn CPU dù Bandwidth chưa full.
Drop/Error Count: Số gói tin bị lỗi hoặc bị drop do buffer đầy.
TCP Retransmission: Tỷ lệ gửi lại gói tin, dấu hiệu của mạng chập chờn hoặc nghẽn.

Checklist quản lý Internal Bandwidth cho Production

Đã thiết kế High Traffic Service như App và DB nằm cùng Availability Zone để giảm cost chưa?
Service Discovery có trả về Private IP thay vì Public IP không?
Đã chọn Instance Type có Network Performance đủ đáp ứng peak traffic chưa?
Có sử dụng Compression như Gzip, Snappy cho dữ liệu trao đổi nội bộ để tiết kiệm băng thông không?
Đã có Alert khi Bandwidth Utilization vượt quá 80% giới hạn của Instance chưa?

Kết luận

Internal Bandwidth là huyết mạch của hệ thống phân tán. Nó quyết định tốc độ giao tiếp giữa các service và ảnh hưởng lớn đến hóa đơn hạ tầng.

Để vận hành hiệu quả, bạn cần ưu tiên giao tiếp qua Private IP, tối ưu vị trí đặt server theo Availability Zone để giảm Inter-AZ cost, và luôn giám sát Network Saturation để tránh điểm nghẽn ẩn trong hệ thống.