Безопасность ключей ИИ-API и контроль расходов

Защитите ИИ-нагрузки отдельными ключами, лимитами кредитов, сроком действия, ограничениями моделей, белыми списками IP, маршрутизацией, ротацией и учётом расходов.

Безопасность ключей ИИ-API и контроль расходов

API-ключ для ИИ-API должен обозначать границу одной нагрузки, а не всю организацию навсегда. С отдельными ключами проще управлять доступом, лимитом кредитов, маршрутизацией, ротацией и записями об использовании, не раскрывая одни и те же учётные данные несвязанным приложениям.

API-ключи Modelflare позволяют сочетать срок действия, конечный лимит кредитов или работу без лимита, ограничения моделей, белый список IP и политику маршрутизации. Эти меры работают лучше всего, если продумать их вместе, а не добавлять только после инцидента.

Начните с одного ключа на нагрузку

Создавайте отдельные ключи для границ, которым нужен независимый доступ или учёт, например:

  • API рабочей среды и фоновые обработчики;
  • разработка и CI;
  • агент для программирования или локальный инструмент;
  • приложение для клиентов;
  • временный подрядчик или миграция;
  • дорогостоящая пакетная нагрузка.

Используйте названия, описывающие среду и назначение, например prod-support-agent или dev-evaluation. С понятным названием проще разбираться в записях запросов и решениях о ротации, а сам секрет при этом не раскрывается.

Не допускайте секрет в код, видимый клиенту

Храните полный ключ в серверном менеджере секретов или защищённой переменной окружения. Не размещайте его:

  • в браузерном JavaScript или мобильных пакетах, которые пользователи могут изучить;
  • в системе контроля версий, образах контейнеров, на скриншотах или в обращениях;
  • в аналитических событиях, системах отслеживания ошибок, истории командной оболочки или журналах приложения;
  • в URL, строках запроса или скопированных примерах команд с реальными значениями.

Для браузерного приложения отправляйте запросы через бэкенд, который аутентифицирует пользователя и хранит ключ Modelflare. Если ключ мог утечь, создайте замену, переведите на неё нагрузку, убедитесь, что трафик идёт через новый ключ, и отзовите старый.

Используйте лимит кредитов и срок действия как независимые границы

Конечный лимит кредитов задаёт для ключа жёсткую границу использования. Срок действия ограничивает время, в течение которого учётные данные остаются действительными. Эти меры защищают от разных рисков:

Мера Основная цель
Конечный лимит кредитов Ограничивает объём использования, который можно отнести к ключу
Без лимита Снимает ограничение на уровне ключа; кредиты аккаунта и другие правила продолжают действовать
Срок действия Прекращает доступ по истечении заданного времени
Отключение или отзыв Немедленно прекращает новый доступ

Ключам для разработки, подрядчиков и оценки обычно нужны и конечный лимит кредитов, и срок действия. Ключам рабочей среды может понадобиться больший лимит или работа без лимита, но и им полезны отдельная атрибуция нагрузки и план ротации.

Лимит кредитов не заменяет ограничения параллелизма и контроль повторов на клиенте. Всплеск запросов может быстро израсходовать остаток, а повторяющиеся сбои — породить дополнительные запросы.

Ограничивайте модели, если нагрузка узкая

Ограничения моделей не дают ключу запрашивать модели вне предусмотренного набора. Это снижает риск случайно использовать несовместимую или неожиданно дорогую модель и даёт понятную границу 403, когда клиент запрашивает то, к чему у него не должно быть доступа.

Согласуйте разрешённый набор с эндпоинтом. Даже если ключ видит модель в списке, клиент и протокол всё равно должны поддерживать формат запросов этой модели. Сверяйтесь с актуальным контрактом в разделе Модели и цены, а не копируйте ID моделей в долгоживущий документ с политикой.

Добавляйте IP-правила, только если сетевой путь стабилен

Белый список IP сравнивает IP-адрес клиента, который видит Modelflare, с отдельными адресами или диапазонами CIDR, настроенными для ключа. Это полезно для серверов с известным исходящим адресом, но может нарушить работу, если:

  • облачная нагрузка меняет исходящие NAT-адреса;
  • запросы начинают проходить через новый прокси или шлюз;
  • пути IPv4 и IPv6 различаются;
  • разработчик переключается на другую сеть;
  • настроенный диапазон CIDR шире или уже, чем задумано.

Прежде чем включать ограничение, проверьте реальный путь исходящего трафика, сохраните возможность экстренной ротации и не рассматривайте белый список IP как замену защите секрета.

Выбирайте обычную или умную маршрутизацию осознанно

Тип ключа Поведение маршрутизации Лучше всего подходит
Обычный API-ключ Одна явно заданная основная группа и необязательные упорядоченные резервные группы Нагрузкам, которым нужны известный порядок маршрутов и политика групп
Умный API-ключ (Smart API Key) Оценивает доступные аккаунту группы по стратегии «Баланс», «Приоритет стабильности» или «Сначала низкая цена» Нагрузкам, которым нужен более широкий автоматический выбор маршрута

Ключи обоих типов по-прежнему отправляют запрошенные модель и протокол. Политика маршрутизации выбирает подходящую группу, но не гарантирует, что каждая группа поддерживает любую модель или функцию. Обычный список резервных групп нужно проверить по порядку. Умный API-ключ перед запуском в рабочую среду нужно оценить с учётом реальных требований к задержке, цене и совместимости.

Подробности — в статье Надёжная маршрутизация ИИ-API.

Выполняйте ротацию без лишнего простоя

Используйте ротацию с перекрытием:

  1. Создайте новый ключ с теми же ограничениями.
  2. Сохраните его в системе управления секретами приложения.
  3. Разверните новые учётные данные, не удаляя старые.
  4. Проверьте доступ к модели и один реальный запрос.
  5. Убедитесь, что новые записи об использовании появляются под новым ключом.
  6. Удалите старый ключ из всех развёртываний и задач автоматизации.
  7. Отключите или удалите старый ключ.
  8. Отслеживайте неожиданные запросы со старыми учётными данными.

Если компрометация происходит прямо сейчас, сначала отзовите ключ и примите контролируемый перерыв в работе. Процедура с перекрытием предназначена для плановой ротации, а не для продолжения работы с раскрытым ключом.

Свяжите политику ключей с анализом расходов

Изоляция на уровне ключей делает анализ расходов практичным. Отфильтруйте журнал использования по ключу и сравните модель, группу, объём ввода и вывода, статус, повторы и стоимость. Конечный лимит кредитов может остановить дальнейшее использование, но объяснить, на что ушли кредиты, помогут именно записи запросов.

Повторяемый процесс проверки описан в статье Учёт расходов на ИИ-API.

Чек-лист для API-ключей

  • Один ключ на приложение, среду или нагрузку с понятной ответственностью.
  • Никаких секретов в браузерном коде, репозиториях, журналах, URL и на скриншотах.
  • Конечный лимит кредитов и срок действия для временного или экспериментального использования.
  • Ограничения моделей для узких нагрузок.
  • IP-правила только для проверенного стабильного пути исходящего трафика.
  • Явный порядок резервных групп для обычного ключа или осознанно выбранная стратегия умного ключа.
  • Ротация проверена до удаления старого ключа.
  • После каждого изменения политики проверены использование и стоимость по ключу.

Частые вопросы

Снимает ли ключ без лимита все ограничения расходов?

Нет. Снимается только лимит кредитов на уровне ключа. Кредиты аккаунта, цены моделей, политика групп, лимиты запросов и другие механизмы контроля сервиса продолжают действовать.

Можно ли обойти лимит запросов с помощью нескольких ключей?

Не обязательно. Лимит может действовать на уровне аккаунта, группы моделей или маршрута. Создавайте ключи для разграничения доступа и атрибуции, а не как непроверенный способ обойти лимит запросов.

Достаточно ли белого списка IP, если ключ утёк?

Нет. Сетевые правила ограничивают, откуда можно использовать ключ, но сетевые пути меняются, а конфигурация может быть ошибочной. Выполните ротацию раскрытых учётных данных и защищайте секрет как при хранении, так и при развёртывании.