Nếu tích hợp của bạn gặp lỗi 429, RateLimitExceeded hoặc NoMoreConcurrentTasks khi gọi Meshy API, hướng dẫn này giải thích lý do các giới hạn này tồn tại và cách thiết kế tích hợp của bạn để hoạt động trong các giới hạn đó.
Tại sao tồn tại giới hạn tốc độ
API của Meshy nằm phía trước tài nguyên tính toán GPU dùng chung để tạo mô hình 3D, texture và các tài nguyên liên quan. Giới hạn tốc độ và giới hạn tổng đồng thời bảo vệ hạ tầng dùng chung đó để chất lượng tạo và thời gian xử lý luôn nhất quán cho mọi người dùng trên nền tảng. Mỗi tài khoản, dựa trên gói hiện tại, có số lượng yêu cầu tối đa có thể thực hiện trong một khoảng thời gian nhất định và số lượng tác vụ tạo tối đa có thể chạy (đang xếp hàng hoặc đang xử lý) cùng lúc.
Giới hạn yêu cầu so với giới hạn hàng đợi/tổng đồng thời
Có hai giới hạn riêng biệt và chúng gây lỗi theo các cách khác nhau:
Giới hạn tốc độ yêu cầu (429 / RateLimitExceeded): giới hạn này quy định số lượng lệnh gọi API (ví dụ: tạo tác vụ, kiểm tra trạng thái) bạn có thể thực hiện mỗi phút. Vượt quá giới hạn này nghĩa là bạn đang gọi API quá thường xuyên, bất kể thực tế có bao nhiêu tác vụ đang chạy.
Giới hạn tổng đồng thời / hàng đợi (NoMoreConcurrentTasks): giới hạn này quy định số tác vụ tạo bạn có thể có trong hàng đợi hoặc đang xử lý cùng một lúc. Vượt quá giới hạn này nghĩa là bạn đã có số tác vụ đang hoạt động tối đa và cần đợi một tác vụ hoàn tất trước khi gửi tác vụ khác.
Kiểm tra giới hạn yêu cầu và tổng đồng thời hiện tại của gói bạn trong bảng điều khiển Meshy, vì các giới hạn này có thể khác nhau tùy theo hạng gói.
Chiến lược backoff cho lỗi 429
Khi bạn nhận được phản hồi 429 hoặc RateLimitExceeded, đừng thử lại ngay yêu cầu đó. Thay vào đó:
Sử dụng exponential backoff: chờ một khoảng ngắn, sau đó nhân đôi khoảng chờ sau mỗi lần thất bại tiếp theo, cho đến một mức tối đa hợp lý.
Thêm jitter (một độ lệch ngẫu nhiên nhỏ) vào khoảng backoff để nhiều worker trong hệ thống của bạn không đồng loạt thử lại cùng một thời điểm.
Tuân thủ các header Retry-After hoặc header giới hạn tốc độ được trả về trong phản hồi, nếu có, thay vì tự đoán thời gian chờ.
Giới hạn số lần thử lại cho mỗi yêu cầu để một lỗi kéo dài không lặp vô hạn.
Lên kế hoạch xung quanh giới hạn tổng đồng thời
Lỗi NoMoreConcurrentTasks nghĩa là bạn đã chạm mức trần tác vụ đang hoạt động của tài khoản. Để tránh gặp lỗi này trong môi trường sản xuất:
Duy trì một hàng đợi cục bộ hoặc bộ lập lịch tác vụ trong ứng dụng của bạn, chỉ gửi một tác vụ tạo mới khi tác vụ trước đó hoàn tất hoặc số tác vụ đang hoạt động của bạn giảm xuống dưới giới hạn.
Thăm dò trạng thái tác vụ (hoặc dùng webhook, nếu quy trình của bạn hỗ trợ) để biết khi nào có chỗ trống, thay vì gửi yêu cầu một cách phỏng đoán.
Gộp lô và điều tiết các tác vụ tạo hàng loạt thay vì gửi tất cả yêu cầu cùng lúc — điều này giúp làm mượt cả tốc độ yêu cầu lẫn số tác vụ đồng thời của bạn.
Xây dựng cơ chế giám sát/cảnh báo ở phía bạn để phát hiện sự gia tăng đột biến lỗi 429/NoMoreConcurrentTasks trước khi nó ảnh hưởng đến người dùng của bạn.
Thử lại các tác vụ không thành công hoặc không đạt yêu cầu
Meshy API hiện không hỗ trợ tính năng "thử lại" tích hợp sẵn đối với một tác vụ tạo đã có cho các gói cá nhân hoặc studio — nếu kết quả không đáp ứng mong đợi của bạn, bạn cần gửi một yêu cầu tạo mới, và việc này sẽ tiêu tốn credits như bình thường. Khi pipeline tự động của bạn xử lý các lỗi tạm thời (như lỗi 429), hãy đảm bảo logic thử lại chỉ gửi lại yêu cầu gốc sau khi đã backoff, chứ không tạo ra các tác vụ tạo trùng lặp mỗi lần.
Khi nào nên cân nhắc nâng cấp gói của bạn
Nếu bạn đã triển khai backoff và hàng đợi có tính đến tổng đồng thời mà vẫn liên tục gặp giới hạn tốc độ hoặc giới hạn tổng đồng thời, đó thường là dấu hiệu nhu cầu thông lượng của tích hợp đã vượt quá giới hạn của gói hiện tại. Hãy kiểm tra bảng điều khiển để xem mức cho phép về yêu cầu và tổng đồng thời của gói hiện tại, đồng thời cân nhắc nâng cấp hoặc liên hệ đội ngũ kinh doanh của Meshy để trao đổi về quyền truy cập Meshy API cấp doanh nghiệp nếu bạn cần thông lượng cao hơn một cách ổn định.
FAQ
1. Lỗi 429 hoặc RateLimitExceeded nghĩa là gì?
Điều này có nghĩa là bạn đã vượt quá số lượng yêu cầu API được phép trong một khoảng thời gian nhất định theo gói của bạn. Hãy giảm tốc độ gửi yêu cầu và sử dụng exponential backoff trước khi thử lại.
2. NoMoreConcurrentTasks nghĩa là gì?
Điều này có nghĩa là tài khoản của bạn đã có số lượng tác vụ tạo tối đa đang trong hàng đợi hoặc đang được xử lý. Hãy đợi một tác vụ hiện có hoàn thành, hoặc giảm số tác vụ gửi cùng lúc, trước khi gửi thêm.
3. Làm sao biết giới hạn tốc độ và tổng đồng thời của tài khoản?
Hãy kiểm tra bảng điều khiển Meshy để xem các giới hạn tương ứng với gói hiện tại của bạn, vì các giới hạn này có thể khác nhau giữa các gói.
4. Meshy có hỗ trợ tự động thử lại tác vụ tạo không?
Không, không áp dụng cho gói Individual hoặc Studio — một tác vụ tạo không thành công hoặc không đạt yêu cầu phải được gửi lại như một yêu cầu mới và vẫn tiêu tốn credits như bình thường. Khách hàng Enterprise nên liên hệ bộ phận kinh doanh để biết về chức năng thử lại.
5. Cách tốt nhất để tránh các lỗi này trong pipeline sản xuất là gì?
Hãy triển khai một hàng đợi cục bộ để điều tiết lượng yêu cầu gửi đi, giữ ở dưới giới hạn tổng đồng thời của bạn; thêm exponential backoff có jitter cho mọi phản hồi 429; và giám sát tỷ lệ lỗi để có thể phản ứng trước khi chúng ảnh hưởng đến người dùng của bạn.
6. Khi nào nên nâng cấp gói vì giới hạn tốc độ?
Nếu bạn đã triển khai backoff và hàng đợi nhận biết giới hạn tổng đồng thời mà vẫn thường xuyên gặp các giới hạn này, rất có thể mức sử dụng của bạn đã vượt quá gói hiện tại — hãy kiểm tra bảng điều khiển hoặc liên hệ bộ phận kinh doanh về gói có thông lượng cao hơn.