온프레미스 LLM 도입 시 반드시 요구해야 할 SLA 항목과 라이선스 범위를 9개 항목으로 정리해 계약 교섭에서 놓치기 쉬운 비용·책임·전환 리스크를 차단한다.
매일 엑셀 반복 작업에 시달리던 실무자 A씨와 AI 서비스 도입을 고민하는 기획자 B씨를 위해, 인사이트 편집팀의 분석 결과를 기반으로 실무 협상 단계에서 즉시 사용할 수 있는 체크리스트를 제공한다. 온프레미스 특유의 데이터 주권·운영 책임 이슈를 중심으로 구성했다.
주요 내용
계약서 초안 수령 시 우선으로 검토해야 할 9개 항목을 순서대로 제시한다. 각 항목은 요청 가능한 최소 조항과 교섭 포인트를 함께 적어두었다.
- 서비스 범위 및 성능 지표(SLIs/SLOs): 가동률(예: 월 99.9%), 평균 응답시간, 동시 처리량 등 구체 수치로 명시. 측정 방법과 측정 주기를 계약서에 포함.
- 지원·응답 체계 및 에스컬레이션: 1차/2차/3차 지원 정의, 응답 시간(예: P1 1시간 이내), 근무시간·비근무시간 지원 범위, 전담 연락처.
- 유지관리·업데이트 정책: 정기 패치 일정, 긴급 패치 절차, 성능 회귀 발생 시 롤백 책임, 변경 공지 최소 기간(예: 30일).
- 데이터 소유권·보유·삭제 절차: 고객 데이터 소유권 명시, 저장 위치(리전/온프레), 보관 기간, 계약 종료 시 데이터 반환·영구삭제 방식과 인증 방식.
- 라이선스 범위와 사용량 지표: 사용 단위(노드, 코어, 동시세션, 엔드유저), 계정·환경 수, 초과 사용 요율, 내부 개발·테스트 환경에 대한 적용 정책.
- 모델·소프트웨어 사용권과 파인튜닝 권한: 모델 가중치 배포 가능 여부, 파인튜닝 시 2차 저작권/데이터 유출 위험, 내부 재배포 및 SaaS 외부 서비스 연동 제한.
- 보안·규정 준수 의무: 취약점 공시·패치, 침투테스트·감사 권한, DLP·SIEM 연동 요구사항, 규제(예: 개인정보보호법, 수출규제) 준수 선언.
- 책임 범위·면책·보험: 직접·간접 손해 한도, 면책 조항의 제외 항목(고의·중대한 과실 등), 공급자 책임 한도와 권고 보험 수준.
- 계약 종료·전환(Exportability) 조건: 서비스 중단 시 데이터 포맷·이관 툴 제공, 전환 지원 기간, 종료 시 라이선스 정산 방식과 보증된 마이그레이션 테스트 포함 여부.
사례 분석
사내 검색과 LLM 연동 프로젝트를 진행한 중견기업 사례. 초기 계약서에 ‘가동률 99.95%’가 명시되어 있었으나, 측정 방식이 공급자 로그 기준으로만 정의되어 있어 실제 사용자 경험과 괴리가 발생했다. 교섭 과정에서 다음 항목을 요구하면 리스크를 줄일 수 있었다: 독립된 모니터링 지표, 월별 리포트 제공, SLA 위반 시 크레딧 산정법.
또 다른 사례로, 파인튜닝 권한을 명시하지 않아 내부 모델 개선이 불가능했던 팀이 있었다. 파인튜닝 권한과 파생 저작권에 대한 명확한 합의가 없으면 R&D 민첩성이 떨어진다.
데이터 비교표: 온프레미스 vs 클라우드(라이선스·SLA 관점)
| 항목 | 온프레미스 | 클라우드 |
|---|---|---|
| 가동률 책임 | 운영팀 책임. 공급자는 소프트웨어 제공 및 패치 책임 | 공급자가 인프라 포함 가동률 보장 |
| 업데이트 제어 | 고객이 적용 시점 결정 가능. 긴급패치 절차 명시 필요 | 공급자 일괄 배포. 공지 및 롤백 정책 확인 필요 |
| 보안 통제 | 물리적·네트워크 수준 제어 가능. 감사 로그 직접 보유 | 공급자 보안방어에 의존. 로그 접근 범위 제한 가능성 |
| 라이선스 비용 구조 | 초기 라이선스 + 유지보수(연간) 형태가 일반적 | 사용량 기반 과금(예: 호출·시간) 또는 구독형 |
| 데이터 주권 | 완전 제어 가능, 규제 대응 유리 | 리전·계약으로 통제하지만 완전한 물리적 제어는 제한 |
SLA 위반 시 크레딧 계산식을 계약서에 표준화해서 넣어두면 분쟁 시 합의가 쉬워진다. 예: 월 가동률 99.9% 미만 시 1%당 요금의 X% 크레딧.
테스트 중 발견된 주의사항
- 라이선스 사용량 정의 불일치: “세션” vs “요청” 단위 혼동으로 과금 오해 발생.
- 숨겨진 비용: 보안 패치 적용, 엔터프라이즈 지원, 추가 로그 보관 비용 등.
- 감사·컴플라이언스 요구가 모호할 때 규제 리스크 상존.
- 종속성 문제: 특정 런타임·라이브러리 버전에 묶이면 장기 유지비 상승.
- 종료 시 데이터 추출 포맷 부재로 마이그레이션 지연.
전문가 팁
협상 전략은 다음과 같다.
- 초기 RFP에 SLIs와 검증 방법을 포함해 합의된 측정값으로만 SLA 계산을 허용한다.
- 사용량 단위를 명확히 하고 초과요율을 표준화한다. 샘플 계산식을 계약서 부록으로 첨부하라.
- 종료·전환 조건에 대한 기술적 부록을 요구해 데이터 추출 포맷, 스크립트, 테스트 플랜을 확보한다.
- 보안·컴플라이언스 관련 증빙(침투시험 보고서, SOC2 등)을 정기 제출 항목으로 규정한다.
- 핵심 서비스(모델 가중치·파인튜닝 권한 등)는 별도 라이선스로 분리해 장기적 운영권을 확보한다.
계약서 서문에 ‘정의(Definitions)’를 상세히 적어두면 해석 차이로 인한 분쟁 가능성을 크게 줄일 수 있다. 특히 ‘사용자’, ‘세션’, ‘요청’ 등 용어 정의를 표준화하라.