AI가 더 강한 AI를 만들기 시작했습니다 - 재귀적 자기 개선(RSI)의 시대

Anthropic의 한 직원이 내부에서 이런 글을 남겼습니다.

"우리는 Claude n이 Claude n+1을 만들게 하고 싶습니다. 그러면 우리는 집에 가서 스웨터를 짤 수 있을 테니까요."

농담처럼 읽히지만 이것은 지금 AI 업계 전체가 실제로 향하고 있는 방향입니다.

 

재귀적 자기 개선(Recursive Self-Improvement, RSI)이라는 개념이 있습니다. 

AI 시스템이 스스로를 개선하는 능력을 갖추고, 그렇게 만들어진 더 강한 AI가 다시 더 강한 AI를 만드는 루프입니다. 

오랫동안 먼 미래의 이야기로 여겨졌습니다.

 

하지만 지금은 다릅니다.

OpenAI는 2026년 9월까지 'AI 연구 인턴'을 배치하고, 

2028년 3월까지 '완전 자동화된 AI 연구자'를 개발하겠다는 목표를 공개적으로 밝혔습니다. 

 

AI가 AI 연구를 수행하는 것이 지금 OpenAI의 핵심 프로그램입니다.

Dario Amodei Anthropic CEO는 올해 1월 다보스 포럼에서 이렇게 설명했습니다. 

"코딩과 AI 연구에 뛰어난 모델을 만들고, 그것을 활용해 다음 세대 모델을 만들어 루프를 가속화하는 것입니다."

 

이것이 먼 미래의 이야기가 아닌 이유가 있습니다.

OpenAI는 2025년 12월 18일 Codex를 출시했고, 두 달도 채 되지 않아 훨씬 강력한 버전을 내놓았습니다. 

기존에는 주요 업데이트 사이에 6개월에서 1년이 걸렸습니다. 개선 속도가 이미 달라지고 있습니다.

 

Dario Amodei는 Anthropic 내부적으로 코딩 에이전트를 활용해 소프트웨어 개발 속도가 이미 20~40% 향상됐다고 밝혔습니다. 

일부 엔지니어는 코드를 직접 작성하는 것을 멈췄습니다. 

Google DeepMind의 AlphaEvolve는 Gemini 모델을 활용해 알고리즘을 스스로 생성하고 검증하고 개선하는 루프를 이미 내부 인프라에 배치했습니다. 

데이터센터 스케줄링을 최적화하고, 다음 세대 Gemini 모델 학습에 쓰이는 행렬 연산 커널을 개선했습니다.

AI가 AI를 개선하는 루프는 이미 돌아가고 있습니다.

 

그런데 이 흐름을 가장 선명하게 경고한 사람도 AI를 만드는 쪽입니다.

Anthropic의 공동창업자이자 최고과학책임자(CSO) Jared Kaplan은 

The Guardian과의 인터뷰에서 재귀적 자기 개선을 "궁극의 위험(The Ultimate Risk)"이라고 표현했습니다. 

"당신보다 스마트한 AI를 만들고, 그것이 더 스마트한 AI를 만드는 과정을 상상해 보세요. 어디서 끝날지 알 수 없습니다."

 

OpenAI는 2025년 4월 자사의 준비 체계(Preparedness Framework)를 업데이트하면서 RSI를 추적 항목으로 추가했습니다. 

강력해질수록 위험해진다는 것을 스스로 인식하고 있다는 신호입니다.

xAI 공동창업자였던 Jimmy Ba는 올해 2월 퇴사를 발표하며 이렇게 남겼습니다. 

"재귀적 자기 개선 루프는 앞으로 12개월 안에 작동하기 시작할 가능성이 높습니다. 

2026년은 인류 역사에서 가장 바쁘고 결정적인 해가 될 것입니다."

 

저는 이 흐름에서 한 가지 구조적 긴장이 보입니다.

루프가 빨라질수록 인간이 개입할 수 있는 시간이 줄어듭니다. 

지금은 인간이 각 단계를 설정하고, AI가 실행하고, 인간이 검토합니다. 

루프가 완전히 닫히면 그 검토의 자리가 사라집니다. 

Kaplan이 걱정하는 것은 AI의 능력이 아니라, 그 능력이 인간이 이해할 수 없는 방식으로 발전하는 것입니다.

 

Anthropic이 정렬 연구(Alignment Science)에 투자하는 이유, 안전 프레임워크를 먼저 만들고 모델을 출시하는 이유, 

Anthropic Institute를 세운 이유가 여기에 있습니다. 

루프가 빨라지기 전에 통제 구조를 먼저 만들어야 한다는 것입니다.

AI가 더 강한 AI를 만들기 시작하는 시대에, 가장 중요한 질문은 속도가 아닙니다. 

그 루프 안에 인간이 어떤 방식으로 남아 있는가입니다.