컨설팅 현장에서 많이 받은 질문 - "이 AI 모델이 갑자기 막히면 어떻게 되나요?"

최근 여러 컨설팅과 자문 프로젝트를 진행하고 있습니다. 
그중 업무 자동화와 LLM 기반 대시보드 생성 프로젝트에 집중하고 있습니다.
두 프로젝트의 공통점이 있습니다. 핵심 로직의 상당 부분이 외부 LLM API에 의존한다는 것입니다. 
그래서 클라이언트와 이야기를 나눌 때마다 거의 빠지지 않고 나온 질문이 하나 있었습니다.

"이 AI 모델이 갑자기 막히면 어떻게 되나요?"
지난주, 그 질문이 현실이 됐습니다.

무슨 일이 있었는지부터 정리하면 이렇습니다.

6월 12일 오후 5시 21분(미국 동부시간), Anthropic이 미국 정부로부터 수출 통제 지시(Export Control Directive)를 받았습니다.
국가 안보를 근거로, 최신 모델인 Fable 5와 Mythos 5에 대한 모든 외국 국적자의 접근을 차단하라는 내용이었습니다. 
미국 밖에 있는 사람뿐 아니라, 미국 안에 있는 외국 국적자, 심지어 Anthropic 자사의 외국 국적 직원까지 포함됐습니다.

문제는 실행 방식이었습니다. 수억 명 규모의 사용자 중에서 외국 국적자만 실시간으로 골라내 차단하는 것은 기술적으로 불가능합니다. 그것도 당일 통보로는 더욱 그렇습니다. 
결국 Anthropic은 두 모델을 전 세계 모든 사용자에게 차단하는 방식을 택했습니다. AWS Bedrock, Google Cloud, Microsoft Foundry, Snowflake, 직접 API까지 동시에 멈췄습니다.

한 개발자가 API에 1분 간격으로 요청을 보내며 차단 시점을 기록했습니다. 태평양시간 오후 6시 59분, 응답이 정상적으로 오던 모델이 갑자기 404 오류를 반환하기 시작했습니다. "Claude Fable 5 is not available." 그렇게 모델이 꺼졌습니다.

Anthropic의 입장은 분명했습니다.
회사는 이것을 "오해"라고 표현하며 최대한 빨리 접근을 복구하기 위해 노력하고 있다고 밝혔습니다. 
정부가 우려하는 것은 Fable 5의 안전장치를 우회하는 "탈옥(Jailbreaking)" 기법으로 보이는데, Anthropic이 실제 시연을 검토해보니 이미 알려진 사소한 취약점 몇 개를 찾는 수준이었고, 다른 공개 모델들도 동일하게 찾아낼 수 있는 것이었다고 설명했습니다. 정부는 구체적인 기술적 근거를 서면으로 제공하지 않았습니다.
Dario Amodei는 트럼프 행정부와 직접 만나 이 문제를 논의했지만, 아직 해결되지 않았습니다. 
다른 모델들, 특히 Claude Opus 4.8은 영향을 받지 않았습니다.

저는 이 사건이 AI를 실무에 도입하는 모든 사람에게 중요한 질문을 던진다고 생각합니다.

지금까지 우리가 외부 AI 모델을 도입할 때 따지던 것은 성능, 비용, 응답 속도, 데이터 보안 정도였습니다. 
"이 모델이 정부 명령으로 어느 날 갑자기 사라질 수 있다"는 시나리오는 거의 고려하지 않았습니다.

그런데 이번 사건은 그것이 실제 리스크라는 것을 보여줬습니다. 
모델 가용성(Availability)은 더 이상 기술적 안정성만의 문제가 아닙니다. 
지정학과 규제의 문제가 됐습니다. 내가 통제할 수 없는 영역에서 결정되는 변수입니다.

특히 한국처럼 미국 밖에 있는 환경에서 일하는 입장에서는 더 직접적인 문제입니다. 
이번에 차단된 것은 Fable 5와 Mythos 5라는 특정 모델이었지만, 
같은 메커니즘이 다른 모델에 적용되지 않는다는 보장은 없습니다.

그래서 클라이언트의 그 질문에, 저는 이제 이렇게 답하고 있습니다.
핵심 워크플로우를 단일 모델에 강하게 결합시키지 않는 구조를 먼저 설계해야 하고,
모델 교체가 가능하도록 추상화 레이어를 두고, 중요한 기능에는 대체 경로를 마련하고, 
특정 공급사의 특정 모델에만 의존하는 지점을 최소화해야 한다고 말입니다.

AI를 잘 쓰는 것과 AI에 안전하게 의존하는 것은 다른 문제입니다. 
이번 사건은 그 둘을 구분해야 하는 시점이 이미 왔다는 것을 보여줬습니다.