AI API 키 보안과 비용 관리

워크로드별 키 분리, 한도, 만료, 모델 제한, IP 허용 목록, 라우팅 정책, 키 교체, 검증 가능한 비용 귀속으로 AI 워크로드를 보호합니다.

AI API 키 보안과 비용 관리

AI API 키는 조직 전체를 영원히 대표하는 것이 아니라 하나의 워크로드 경계를 식별해야 합니다. 키를 나누면 서로 관련 없는 애플리케이션에 하나의 자격 증명을 노출하지 않으면서 액세스, 한도, 라우팅, 키 교체, 사용 기록을 더 쉽게 통제할 수 있습니다.

Modelflare API 키에는 만료일, 유한 또는 무제한 한도, 모델 제한, IP 허용 목록, 라우팅 정책을 함께 설정할 수 있습니다. 이러한 제어는 사고가 난 뒤에 하나씩 추가하기보다 처음부터 함께 설계할 때 가장 효과적입니다.

워크로드마다 키 하나로 시작하기

독립적인 액세스나 비용 집계가 필요한 경계마다 키를 따로 생성하세요. 예를 들면 다음과 같습니다.

  • 프로덕션 API와 백그라운드 워커
  • 개발 환경과 CI
  • 코딩 에이전트나 로컬 도구
  • 고객용 애플리케이션
  • 임시 외주 작업이나 마이그레이션
  • 비용이 많이 드는 배치 워크로드

prod-support-agent나 dev-evaluation처럼 환경과 용도를 설명하는 이름을 사용하세요. 이름이 명확하면 비밀 값을 드러내지 않고도 요청 기록과 키 교체 결정을 이해하기 쉽습니다.

클라이언트에서 보이는 코드에 비밀 키를 넣지 않기

전체 키는 서버 측 시크릿 관리자나 보호된 환경 변수에 저장하세요. 다음 위치에는 넣지 마세요.

  • 사용자가 내용을 들여다볼 수 있는 브라우저 JavaScript나 모바일 패키지
  • 소스 제어, 컨테이너 이미지, 스크린샷, 티켓
  • 분석 이벤트, 오류 추적 도구, 셸 기록, 애플리케이션 로그
  • URL, 쿼리 문자열, 실제 값이 들어간 채로 복사한 명령 예시

브라우저 애플리케이션이라면 사용자를 인증하고 Modelflare 키를 보관하는 백엔드를 거쳐 요청을 보내세요. 키가 유출되었을 가능성이 있다면 대체 키를 생성하고, 워크로드를 옮기고, 새 키의 트래픽을 확인한 뒤 이전 키를 폐기하세요.

한도와 만료를 독립적인 경계로 사용하기

유한 키 한도는 해당 키에 확실한 사용량 상한을 둡니다. 만료일은 자격 증명이 유효한 기간을 제한합니다. 두 제어는 서로 다른 위험을 해결합니다.

제어 주요 목적
유한 한도 키에 귀속되는 사용량을 제한
무제한 한도 키 단위 상한을 두지 않음(계정 크레딧과 기타 정책은 계속 적용)
만료 정해진 시간이 지나면 액세스 종료
비활성화 또는 폐기 새 액세스를 즉시 중단

개발용, 외주 작업용, 평가용 키에는 대개 유한 한도와 만료를 모두 설정하는 것이 좋습니다. 프로덕션 키에는 더 큰 한도나 무제한 키 한도가 필요할 수 있지만, 이 경우에도 워크로드별 비용 귀속과 키 교체 계획을 갖추면 도움이 됩니다.

한도는 동시성 제한이나 클라이언트 재시도 제어를 대신하지 못합니다. 요청이 몰리면 남은 한도가 빠르게 소진될 수 있고, 실패가 반복되면 추가 요청이 생길 수 있습니다.

워크로드 범위가 좁다면 모델 제한하기

모델 제한은 키가 의도한 범위 밖의 모델을 요청하지 못하게 합니다. 호환되지 않거나 예상보다 비싼 모델을 실수로 사용하는 일을 줄이고, 클라이언트가 액세스해서는 안 되는 모델을 요청하면 403으로 경계를 명확히 드러냅니다.

허용 모델 목록은 엔드포인트와 맞춰 관리하세요. 키로 모델 목록을 조회할 수 있더라도 해당 모델의 요청 형식을 지원하는 클라이언트와 프로토콜이 필요합니다. 오래 유지되는 정책 문서에 모델 ID를 복사해 두지 말고 모델 및 요금에서 실시간 계약을 확인하세요.

네트워크 경로가 안정적일 때만 IP 규칙 추가하기

IP 허용 목록은 Modelflare가 관측한 클라이언트 IP를 키에 설정된 개별 주소나 CIDR 범위와 대조합니다. 송신(egress) 주소가 정해진 서버에는 유용하지만, 다음과 같은 경우 트래픽이 차단될 수 있습니다.

  • 클라우드 워크로드의 아웃바운드 NAT 주소가 바뀌는 경우
  • 요청이 새 프록시나 게이트웨이를 거치게 되는 경우
  • IPv4와 IPv6 경로가 서로 다른 경우
  • 개발자가 다른 네트워크로 옮기는 경우
  • 설정한 CIDR 범위가 의도보다 넓거나 좁은 경우

제한을 활성화하기 전에 실제 송신 경로를 확인하고 긴급 키 교체 경로를 준비해 두세요. IP 허용 목록을 비밀 키 보호의 대안으로 여겨서는 안 됩니다.

일반 라우팅과 스마트 라우팅을 의도적으로 선택하기

키 유형 라우팅 동작 적합한 경우
일반 API 키 명시적인 기본 그룹 하나와 선택 사항인 순서가 정해진 폴백 그룹 정해진 경로 순서와 그룹 정책이 필요한 워크로드
스마트 API 키(Smart API Key) 균형, 안정성 우선, 최저가 우선 전략으로 계정에서 사용 가능한 그룹을 평가 더 넓은 범위의 자동 경로 선택이 필요한 워크로드

두 키 유형 모두 요청한 모델과 프로토콜을 그대로 보냅니다. 라우팅 정책은 적격한 그룹을 선택할 뿐, 모든 그룹이 모든 모델이나 기능을 지원한다고 보장하지는 않습니다. 일반 키의 폴백 목록은 순서대로 테스트해야 합니다. 스마트 API 키는 프로덕션에 적용하기 전에 실제 지연 시간, 가격, 호환성 요구 사항을 기준으로 평가해야 합니다.

자세한 동작은 안정적인 AI API 라우팅을 참고하세요.

불필요한 중단 없이 키 교체하기

새 키와 이전 키가 잠시 함께 유효하도록 겹쳐서 교체하세요.

  1. 의도한 제한을 똑같이 적용한 새 키를 생성합니다.
  2. 애플리케이션의 시크릿 시스템에 새 키를 저장합니다.
  3. 이전 키를 삭제하지 않은 상태로 새 자격 증명을 배포합니다.
  4. 모델 액세스와 실제 요청 하나를 검증합니다.
  5. 새 사용 기록이 새 키로 표시되는지 확인합니다.
  6. 모든 배포 환경과 자동화 작업에서 이전 키를 제거합니다.
  7. 이전 키를 비활성화하거나 삭제합니다.
  8. 폐기된 자격 증명을 사용하는 예상치 못한 요청이 있는지 모니터링합니다.

키 유출이 진행 중이라면 먼저 키를 폐기하고 통제된 중단을 감수하세요. 겹쳐서 교체하는 절차는 계획된 교체를 위한 것이지, 노출을 계속 허용하기 위한 것이 아닙니다.

키 정책을 비용 검토와 연결하기

키 단위로 분리하면 비용 검토 결과를 바로 실행에 옮길 수 있습니다. 사용 로그를 키별로 필터링한 뒤 모델, 그룹, 입력·출력 사용량, 상태, 재시도, 비용을 비교하세요. 유한 한도는 추가 사용을 막을 수 있지만, 무엇이 한도를 소진했는지는 요청 기록이 설명해 줍니다.

반복 가능한 검토 절차는 AI API 비용 추적을 참고하세요.

API 키 체크리스트

  • 애플리케이션, 환경 또는 책임 단위가 되는 워크로드마다 키 하나
  • 브라우저 코드, 저장소, 로그, URL, 스크린샷에 비밀 키를 두지 않기
  • 임시 또는 실험용 키에는 유한 한도와 만료 설정
  • 범위가 좁은 워크로드에는 모델 제한
  • 검증된 안정적인 송신 경로에만 IP 규칙 사용
  • 명시적인 일반 폴백 순서 또는 의도적으로 선택한 스마트 전략
  • 이전 키를 제거하기 전에 키 교체 테스트
  • 정책을 변경할 때마다 키별 사용량과 비용 검토

자주 묻는 질문

무제한 키는 모든 지출 한도를 없앱니까?

아닙니다. 무제한 키는 키 단위의 한도 상한만 없앱니다. 계정 크레딧, 모델 가격, 그룹 정책, 요청 한도, 기타 서비스 제어는 계속 적용됩니다.

여러 키를 사용하면 속도 제한을 우회할 수 있습니까?

반드시 그렇지는 않습니다. 제한은 계정, 모델 그룹, 경로 수준에서 적용될 수 있습니다. 키는 액세스 관리와 비용 귀속을 위해 생성하고, 검증되지 않은 속도 제한 우회 수단으로 사용하지 마세요.

키가 유출되었을 때 IP 허용 목록만으로 충분합니까?

아닙니다. 네트워크 규칙은 키를 사용할 수 있는 위치를 줄여 주지만, 네트워크 경로는 바뀔 수 있고 설정이 잘못될 수도 있습니다. 노출된 자격 증명은 교체하고, 저장 시와 배포 과정에서 비밀 키를 계속 보호하세요.