Giới thiệu

Chạy Kafka trên Kubernetes thường diễn ra rất suôn sẻ. Tuy nhiên, khi sử dụng chế độ KRaft (Kafka Raft Metadata mode), chúng ta có thể gặp phải một vấn đề khó khăn liên quan đến Cluster ID.

KRaft là cách mới của Kafka trong việc quản lý metadata của cluster mà không cần sử dụng ZooKeeper. Mỗi cluster sẽ có một Cluster ID duy nhất được lưu trữ trong metadata. Tất cả các node trong cluster cần phải đồng ý về ID này để có thể tham gia vào cluster.

Vấn Đề

Chúng tôi nhận thấy rằng mỗi khi một pod Kafka được khởi động lại, nó sẽ tạo ra một Cluster ID mới. Do các pod của chúng tôi sử dụng persistent storage, metadata trên đĩa vẫn giữ ID Cluster cũ. Điều này dẫn đến việc Kafka không khởi động được với một lỗi rõ ràng:

Copy

Cluster ID mismatch: Expected <old-id>, Found <new-id>

Nói một cách đơn giản, pod nghĩ rằng nó là một cluster mới, nhưng lưu trữ lại nói điều ngược lại.

Giải Pháp Của Chúng Tôi

Để kiểm tra, chúng tôi đã khắc phục vấn đề này bằng cách chỉ định thủ công Cluster ID trong deployment của Kubernetes. Điều này đảm bảo rằng mỗi pod đều lấy cùng một ID như metadata trên persistent volume. Sau đó, các pod khởi động mà không gặp lỗi và tái tham gia vào cluster một cách liền mạch. Dưới đây là biến môi trường Kubernetes mẫu để thiết lập:

yaml Copy

            - name: KAFKA_KRAFT_CLUSTER_ID
              value: "kraft-local-cluster"

Bài Học Rút Ra

Trong chế độ KRaft, Cluster ID phải được duy trì khi sử dụng Kubernetes và các pod có trạng thái.
Việc tái sử dụng các volume cũ có thể gây ra sự không khớp nếu Cluster ID thay đổi.
Đối với môi trường sản xuất, hãy tự động hóa việc truyền bá Cluster ID hoặc khởi tạo các node với một ID đã thiết lập sẵn để tránh các sửa chữa thủ công.

Mẹo Tối Ưu Hiệu Suất

Sử dụng StatefulSet: Đảm bảo rằng các pod có thể duy trì trạng thái và không bị mất metadata khi khởi động lại.
Giám sát Cluster ID: Thiết lập các cảnh báo để theo dõi sự thay đổi của Cluster ID, giúp phát hiện lỗi kịp thời.

Những Cạm Bẫy Thường Gặp

Khó khăn trong việc đồng bộ hóa: Đảm bảo tất cả pod đều sử dụng cùng một Cluster ID.
Quản lý lưu trữ: Cần cẩn thận khi thay đổi cấu hình lưu trữ để tránh mất mát dữ liệu.

Kết Luận

Chế độ KRaft hứa hẹn mang lại nhiều lợi ích, nhưng những chi tiết nhỏ như Cluster ID có thể khiến bạn gặp khó khăn. Khi đã nắm rõ những gì cần chú ý, việc khắc phục trở nên đơn giản - và giờ đây cluster Kafka của chúng tôi ổn định hơn bao giờ hết.

Câu Hỏi Thường Gặp (FAQ)

KRaft có thay thế ZooKeeper không?
Có, KRaft được thiết kế để quản lý metadata mà không cần ZooKeeper.
Làm thế nào để khắc phục lỗi Cluster ID?
Bạn nên chỉ định Cluster ID trong cấu hình deployment của Kubernetes để đảm bảo tính nhất quán.
Có cách nào để tự động hóa quản lý Cluster ID không?
Có, bạn có thể sử dụng các script để tự động thiết lập và quản lý Cluster ID trong môi trường sản xuất.
Những lưu ý nào cần nhớ khi sử dụng KRaft?
Đảm bảo quản lý tốt persistent storage và theo dõi Cluster ID để tránh lỗi không mong muốn.

Khắc Phục Lỗi Mismatch Cluster ID Kafka KRaft Trên Kubernetes