Bảo mật khóa API AI và kiểm soát chi phí

Bảo vệ tác vụ AI bằng khóa riêng, hạn mức, ngày hết hạn, giới hạn mô hình, danh sách IP được phép, chính sách định tuyến, xoay vòng khóa và quy chi phí rõ ràng.

Bảo mật khóa API AI và kiểm soát chi phí

Một khóa API AI nên đại diện cho một ranh giới tác vụ, chứ không phải cho cả tổ chức mãi mãi. Các khóa riêng biệt giúp kiểm soát quyền truy cập, hạn mức, định tuyến, xoay vòng và bản ghi sử dụng dễ dàng hơn mà không để một thông tin xác thực bị dùng chung giữa các ứng dụng không liên quan.

Khóa API Modelflare có thể kết hợp ngày hết hạn, hạn mức hữu hạn hoặc không giới hạn, giới hạn mô hình, danh sách IP được phép và chính sách định tuyến. Các biện pháp kiểm soát này hiệu quả nhất khi được thiết kế cùng nhau thay vì chỉ bổ sung sau khi xảy ra sự cố.

Bắt đầu với một khóa cho mỗi tác vụ

Hãy tạo khóa riêng cho các ranh giới cần quyền truy cập hoặc hạch toán độc lập, chẳng hạn:

  • API production và các worker chạy nền;
  • môi trường phát triển và CI;
  • agent lập trình hoặc công cụ cục bộ;
  • ứng dụng phục vụ khách hàng;
  • nhà thầu tạm thời hoặc một đợt chuyển đổi;
  • tác vụ xử lý hàng loạt có chi phí cao.

Hãy đặt tên mô tả môi trường và mục đích, chẳng hạn prod-support-agent hoặc dev-evaluation. Tên rõ ràng giúp bản ghi yêu cầu và quyết định xoay vòng dễ hiểu mà không làm lộ khóa bí mật.

Giữ khóa bí mật ngoài mã mà phía người dùng có thể xem

Hãy lưu toàn bộ khóa trong trình quản lý bí mật phía máy chủ hoặc biến môi trường được bảo vệ. Không đưa khóa vào:

  • JavaScript trên trình duyệt hoặc gói ứng dụng di động mà người dùng có thể kiểm tra;
  • hệ thống quản lý mã nguồn, container image, ảnh chụp màn hình hoặc phiếu hỗ trợ;
  • event phân tích, công cụ theo dõi lỗi, lịch sử shell hoặc nhật ký ứng dụng;
  • URL, query string hoặc ví dụ lệnh được sao chép có chứa giá trị thật.

Với ứng dụng trên trình duyệt, hãy gửi yêu cầu qua một backend có nhiệm vụ xác thực người dùng và giữ khóa Modelflare. Nếu khóa có thể đã bị lộ, hãy tạo khóa thay thế, chuyển tác vụ sang khóa mới, xác minh lưu lượng trên khóa mới, rồi thu hồi khóa cũ.

Dùng hạn mức và thời hạn như hai ranh giới độc lập

Hạn mức hữu hạn đặt một ranh giới cứng cho mức sử dụng của khóa đó. Ngày hết hạn giới hạn thời gian thông tin xác thực còn hiệu lực. Hai biện pháp này xử lý các rủi ro khác nhau:

Biện pháp kiểm soát Mục đích chính
Hạn mức hữu hạn Giới hạn lượng sử dụng có thể quy cho khóa
Hạn mức không giới hạn Không đặt mức trần ở cấp khóa; tín dụng tài khoản và các chính sách khác vẫn được áp dụng
Ngày hết hạn Chấm dứt quyền truy cập sau một thời điểm xác định
Tắt hoặc thu hồi Ngừng mọi truy cập mới ngay lập tức

Khóa cho phát triển, nhà thầu và đánh giá thường nên có cả hạn mức hữu hạn lẫn ngày hết hạn. Khóa production có thể cần hạn mức lớn hơn hoặc không giới hạn, nhưng vẫn có lợi khi được tách riêng để quy chi phí theo tác vụ và có kế hoạch xoay vòng.

Hạn mức không thay thế được giới hạn số yêu cầu đồng thời hay cơ chế kiểm soát thử lại phía ứng dụng khách. Một đợt tăng đột biến có thể tiêu hết lượng còn lại rất nhanh, và lỗi lặp lại có thể tạo thêm yêu cầu.

Giới hạn mô hình khi tác vụ có phạm vi hẹp

Giới hạn mô hình ngăn khóa yêu cầu những mô hình nằm ngoài tập dự định. Điều này giảm nguy cơ vô tình dùng một mô hình không tương thích hoặc đắt bất ngờ, đồng thời tạo ranh giới 403 rõ ràng hơn khi ứng dụng khách yêu cầu thứ mà nó không được phép truy cập.

Hãy giữ tập mô hình được phép khớp với endpoint. Một khóa có thể liệt kê một mô hình vẫn cần ứng dụng khách và giao thức hỗ trợ định dạng yêu cầu của mô hình đó. Hãy xem hợp đồng hiện tại trong Mô hình & bảng giá thay vì sao chép ID mô hình vào một tài liệu chính sách dùng lâu dài.

Chỉ thêm quy tắc IP khi đường mạng ổn định

Danh sách IP được phép so sánh IP ứng dụng khách mà Modelflare ghi nhận với từng địa chỉ riêng lẻ hoặc dải CIDR được cấu hình trên khóa. Biện pháp này hữu ích với máy chủ có địa chỉ đi ra (egress) đã biết, nhưng có thể làm gián đoạn lưu lượng khi:

  • tác vụ trên đám mây thay đổi địa chỉ NAT đi ra;
  • yêu cầu đi qua một proxy hoặc gateway mới;
  • đường IPv4 và IPv6 khác nhau;
  • nhà phát triển chuyển sang mạng khác;
  • dải CIDR được cấu hình rộng hơn hoặc hẹp hơn dự định.

Hãy xác minh đường egress thực tế trước khi bật giới hạn, duy trì sẵn một phương án xoay vòng khẩn cấp, và đừng coi danh sách IP được phép là sự thay thế cho việc bảo vệ khóa bí mật.

Chọn định tuyến thông thường hoặc thông minh có chủ đích

Loại khóa Cách định tuyến Phù hợp nhất
Khóa API thông thường Một nhóm chính được chỉ định rõ, kèm các nhóm dự phòng theo thứ tự nếu cần Tác vụ cần thứ tự tuyến và chính sách nhóm đã biết
Khóa API thông minh (Smart API Key) Đánh giá các nhóm mà tài khoản đủ điều kiện dùng theo chiến lược cân bằng, ưu tiên ổn định hoặc ưu tiên giá thấp Tác vụ muốn tự động chọn tuyến trong phạm vi rộng hơn

Cả hai loại khóa vẫn gửi đúng mô hình và giao thức được yêu cầu. Chính sách định tuyến chọn một nhóm đủ điều kiện; nó không bảo đảm mọi nhóm đều hỗ trợ mọi mô hình hoặc tính năng. Danh sách dự phòng thông thường nên được kiểm tra theo đúng thứ tự. Khóa API thông minh nên được đánh giá theo các yêu cầu thực tế về độ trễ, giá và khả năng tương thích trước khi đưa vào production.

Để biết chi tiết về hành vi, hãy đọc Định tuyến API AI ổn định.

Xoay vòng khóa mà không gây gián đoạn không cần thiết

Hãy xoay vòng theo cách chồng lấn:

  1. Tạo khóa mới với cùng các giới hạn dự định.
  2. Lưu khóa vào hệ thống quản lý bí mật của ứng dụng.
  3. Triển khai thông tin xác thực mới mà chưa xóa khóa cũ.
  4. Xác minh quyền truy cập mô hình và một yêu cầu thực tế.
  5. Xác nhận các bản ghi sử dụng mới xuất hiện dưới khóa mới.
  6. Gỡ khóa cũ khỏi mọi bản triển khai và tác vụ tự động hóa.
  7. Tắt hoặc xóa khóa cũ.
  8. Theo dõi các yêu cầu bất thường dùng thông tin xác thực đã ngừng sử dụng.

Nếu khóa đang bị khai thác, hãy thu hồi trước và chấp nhận gián đoạn có kiểm soát. Quy trình chồng lấn dành cho việc xoay vòng theo kế hoạch, không phải để tiếp tục để lộ khóa.

Gắn chính sách khóa với việc rà soát chi phí

Việc tách riêng theo khóa giúp rà soát chi phí có thể dẫn đến hành động cụ thể. Hãy lọc nhật ký sử dụng theo khóa, rồi so sánh mô hình, nhóm, mức sử dụng đầu vào và đầu ra, trạng thái, số lần thử lại và chi phí. Hạn mức hữu hạn có thể ngăn việc sử dụng tiếp, nhưng bản ghi yêu cầu mới giải thích điều gì đã tiêu thụ hạn mức đó.

Xem Theo dõi chi phí API AI để biết quy trình rà soát có thể lặp lại.

Danh sách kiểm tra khóa API

  • Mỗi ứng dụng, môi trường hoặc tác vụ cần quy trách nhiệm có một khóa riêng.
  • Không có khóa bí mật trong mã trình duyệt, kho mã, nhật ký, URL hoặc ảnh chụp màn hình.
  • Hạn mức hữu hạn và ngày hết hạn cho mục đích tạm thời hoặc thử nghiệm.
  • Giới hạn mô hình cho tác vụ có phạm vi hẹp.
  • Chỉ dùng quy tắc IP cho đường egress đã xác minh và ổn định.
  • Thứ tự dự phòng thông thường rõ ràng hoặc chiến lược thông minh được chọn có chủ đích.
  • Kiểm tra quy trình xoay vòng trước khi gỡ khóa cũ.
  • Rà soát mức sử dụng và chi phí theo khóa sau mỗi lần thay đổi chính sách.

Câu hỏi thường gặp

Khóa không giới hạn có bỏ mọi giới hạn chi tiêu không?

Không. Nó chỉ bỏ mức trần hạn mức ở cấp khóa. Tín dụng tài khoản, giá mô hình, chính sách nhóm, giới hạn yêu cầu và các biện pháp kiểm soát dịch vụ khác vẫn được áp dụng.

Nhiều khóa có thể vượt qua giới hạn tốc độ không?

Không nhất thiết. Giới hạn có thể áp dụng ở cấp tài khoản, nhóm mô hình hoặc tuyến. Hãy tạo khóa để phân quyền truy cập và quy chi phí, không phải làm cách lách giới hạn tốc độ chưa được kiểm chứng.

Danh sách IP được phép có đủ nếu khóa bị lộ không?

Không. Quy tắc mạng thu hẹp nơi khóa có thể được sử dụng, nhưng đường mạng có thể thay đổi và cấu hình có thể sai. Hãy xoay vòng thông tin xác thực bị lộ và tiếp tục bảo vệ khóa bí mật khi lưu trữ cũng như khi triển khai.