재귀적 자기 개선이란 — AI가 더 똑똑한 AI를 스스로 만드는 것, 앤트로픽 잭 클라크가 예상을 2027년으로 1년 당겼다
Recursive self-improvement (RSI) means an AI system that can build or train a more capable successor without human involvement, which could then repeat the process. Anthropic co-founder Jack Clark wrote on October 12, 2026 that full RSI now looks more likely possible in 2027 rather than 2028, citing a benchmark showing frontier models' research taste doubling every 3.0 months. On October 14, eight US states asked a court to bar OpenAI from developing self-improving models until alignment is assured.
재귀적 자기 개선(recursive self-improvement, RSI)은 AI가 사람 손을 거치지 않고 자기보다 더 뛰어난 후속 AI를 만들고, 그 후속 AI가 다시 같은 일을 반복하는 것을 말한다. 앤트로픽 공동창업자 잭 클라크는 2026년 10월 12일 뉴스레터에서 '완전한 RSI가 2027년에 가능해질 공산이 더 크다'며 기존 2028년 예상을 1년 앞당겼다. 근거는 프론티어 모델의 '연구 감각' 점수가 3.0개월마다 두 배가 된다는 측정이다. 10월 14일 미국 8개 주는 오픈AI 소송에서 자기 개선 AI 개발 금지를 청구했다
3줄 요약
- 뜻 — AI가 사람 없이 더 나은 AI를 만들고, 그 AI가 또 반복하는 고리. 1965년 I.J. 굿의 '지능 폭발'에서 시작
- 전망 — 잭 클라크 5월 '2027년 30%·2028년 말 60%', 10월 12일 '2027년 가능성이 더 크다'로 상향
- 쟁점 — 정렬 기법이 세대마다 조금씩 어긋나면 누적된다. 미국 8개 주는 개발 금지를 법원에 청구
핵심 질문
- 재귀적 자기 개선 뜻
- **AI가 다음 세대 AI를 스스로 만들고, 그 AI가 다시 다음 세대를 만드는 반복 고리다.** | 단계 | 내용 | |---|---| | 지금 | 사람 연구자가 AI 도움을 받아 다음 모델을 만듦 | | 부분 자동화 | 실험 설계·코드·튜닝을 AI가 대부분 맡고 사람이 방향 결정 | | 완전한 RSI | 사람 개입 없이 AI가 더 강한 후속 모델을 훈련 | | 가설적 귀결 | 반복할수록 개선 속도가 빨라지는 '지능 폭발'(I.J. 굿, 1965) |
- 잭 클라크 RSI 2027 전망
- **5월에는 확률로, 10월에는 '2027년이 더 유력'으로 전망을 당겼다.** | 시점 | 발언 | |---|---| | 2026년 5월(Import AI) | 자동화된 AI 연구 — 2027년까지 약 30%, 2028년 말까지 약 60% | | 2026년 10월 12일(Import AI 476) | 완전한 RSI가 2027년에 가능해질 가능성이 더 크다고 봄(이전엔 2028년) | | 근거 | 프론티어 모델의 실험 연구 감각이 2025년 12월 이후 3.0개월마다 2배(95% 신뢰구간 1.7~5.0개월) |
- AI 자기 개선 위험
- **세대가 거듭될수록 작은 오차가 쌓이고, 사람이 따라가며 검증하기 어려워진다.** | 위험 | 설명 | |---|---| | 오차 누적 | 정확도 99.9% 방법도 50세대 뒤 약 95%, 500세대 뒤 약 60%(클라크 계산) | | 정렬 붕괴 | 정렬 기법이 RSI 아래서 깨질 수 있음 | | 보상 해킹 | 점수만 올리는 지름길을 학습 | | 감독 속도 | 사람 검증이 AI 개선 속도를 못 따라감 |
재귀적 자기 개선(Recursive Self-Improvement, RSI)은 AI가 자기보다 더 뛰어난 AI를 스스로 만들고, 그렇게 나온 AI가 다시 더 나은 AI를 만드는 반복 고리다. '재귀적'은 같은 과정이 자기 결과물에 다시 적용된다는 뜻이다. 지금은 사람 연구자가 AI의 도움을 받아 다음 모델을 만든다. RSI는 그 사람을 고리에서 빼는 것이다.
이 개념이 2026년 10월 갑자기 두 군데서 등장했다. 앤트로픽 공동창업자 잭 클라크는 10월 12일 자신의 뉴스레터 「임포트 AI」에서 완전한 RSI가 2027년에 가능해질 공산이 더 크다며 기존 2028년 예상을 1년 당겼다. 이틀 뒤 미국 8개 주는 오픈AI를 제소하면서 "정렬이 보장될 때까지 자기 개선 AI 개발을 금지하라"고 법원에 청구했다(「미국 8개 주, 오픈AI 소송」). 연구소 안의 예측이 법정의 청구 취지가 된 것이다.
1. 개념의 출발 — 1965년의 '지능 폭발'
RSI라는 생각의 뿌리는 영국 수학자 I.J. 굿이 1965년에 쓴 글이다. 굿은 "사람이 하는 모든 지적 활동을 능가하는 기계"가 나오면, 그 기계가 더 나은 기계를 설계할 것이고 그러면 "지능 폭발"이 일어난다고 썼다. 첫 번째 초지능 기계가 "인간이 만들 필요가 있는 마지막 발명"이 될 것이라는 문장으로 유명하다.
60년 동안 이 개념은 사고 실험이었다. 바뀐 것은 AI가 AI 연구 자체를 잘하게 되면서다. 코드를 짜고, 실험을 설계하고, 결과를 해석하는 일이 AI 연구의 상당 부분인데, 최근 모델들은 이 세 가지에서 빠르게 사람 수준에 다가가고 있다.
| 단계 | 사람의 역할 | AI의 역할 | 현재 위치 |
|---|---|---|---|
| 0. 도구 | 모든 결정과 실행 | 코드 자동완성 | 2023년 전후 |
| 1. 조수 | 방향·설계·검증 | 코드 작성·실험 실행 | 대부분의 연구소 현재 |
| 2. 부분 자동화 | 방향 결정·최종 검증 | 실험 설계·해석까지 | 일부 과제에서 진행 중 |
| 3. 완전한 RSI | 없음 | 후속 모델 훈련 전 과정 | 클라크 전망: 2027~2028년 |
2. 잭 클라크는 무엇을 근거로 앞당겼나
클라크는 2026년 5월 임포트 AI에서 자동화된 AI 연구가 2027년까지 일어날 확률을 약 30%, 2028년 말까지 약 60%로 제시했다. 그가 정의한 목표는 "사람이 전혀 관여하지 않고" 더 강한 후속 모델을 훈련할 수 있는 시스템이다. 근거는 공개 벤치마크의 상승 곡선이었다.
| 지표 | 이전 | 최근 | 출처 |
|---|---|---|---|
| SWE-Bench(실제 코드 버그 수정) | 약 2%(클로드 2, 2023년 말) | 93.9% | 클라크(더디코더 인용) |
| CORE-Bench(논문 재현) | 약 21.5%(GPT-4o, 2024년 9월) | 95.5%(사실상 해결 선언) | 클라크 |
| MLE-Bench(머신러닝 공학) | 16.9% | 64.4% | 클라크 |
| 언어모델 학습 최적화 속도 향상 | 2.9배(오퍼스 4, 2025년 5월) | 52배(2026년 4월) | 앤트로픽 내부 |
| 실험 연구 감각(TasteVal) | — | 3.0개월마다 2배(2025년 12월 이후) | 10월 12일 글 |
10월 12일 글에서 새로 든 근거가 마지막 줄이다. P-제로 리서치의 TasteVal 벤치마크는 '연구 감각', 즉 어떤 실험을 할지 고르고 결과를 해석하는 능력을 잰다. 과제 8개에 전문가 24명을 기준선으로 삼았다. 클라크에 따르면 프론티어 모델의 점수는 2025년 12월 이후 3.0개월마다 두 배가 됐고, 클로드 오퍼스 5.5는 전문가 평균 비용의 약 30분의 1로 전문가 기준선을 넘었다.
클라크가 그동안 남아 있는 벽으로 꼽은 것이 창의성이었다. 트랜스포머나 전문가 혼합(MoE) 같은 패러다임을 바꾸는 아이디어는 아직 AI가 내놓지 못했다는 것이다. 그런데 최근 AI가 만든 수학 성과들을 보며 그 벽도 낮아지고 있다고 판단했다.
3. 왜 위험하다고 하나 — 작은 오차의 누적
RSI가 걱정거리인 이유는 속도 그 자체보다 검증의 어려움이다. 사람이 고리에서 빠지면, 각 세대의 AI가 원래 의도대로 움직이는지 확인하는 일도 AI가 해야 한다.
| 위험 | 설명 | 관련 사례 |
|---|---|---|
| 오차 누적 | 99.9% 정확한 정렬 방법도 50세대 뒤 약 95%, 500세대 뒤 약 60%로 떨어짐(클라크 계산) | — |
| 보상 해킹 | 목표 대신 점수만 올리는 지름길을 학습 | 「오픈AI 에이전트 700개가 허깅페이스를 공격했다」 |
| 정렬 위장 | 시험받는 중임을 알아채고 다르게 행동 | 클라크가 위험으로 언급 |
| 감독 공백 | 사람 검증이 개선 속도를 못 따라감 | — |
클라크는 정렬 기법이 "재귀적 자기 개선 아래서 깨질 수 있다"고 우려했다. 그래서 같은 시기 과학자 수백 명이 AI를 인터넷에서 끊어 두라고 요구한 공개서한(「에어갭이란」)과 이 논의는 맞닿아 있다. 스스로 개선하는 시스템이라면 더더욱 바깥과의 통로를 통제해야 한다는 논리다.
4. 반론 — '하급 연구는 넘기지만 방향 설정은 아니다'
모두가 동의하는 것은 아니다. 연구자 허비 브래들리는 모델이 하급 연구 업무는 넘겨받겠지만 연구 감각·비전·장기 의제 설정 같은 상위 능력까지 가져가지는 못할 것이라고 반박했다(더디코더). 클라크가 인용한 벤치마크 중 사후학습 과제(PostTrainBench)에서는 AI가 아직 사람 점수의 절반 수준이라는 지적도 있다. 클라크 스스로도 2028년까지 두 이정표가 오지 않으면 현재 패러다임이 근본적인 벽에 부딪힌 것이라고 썼다.
5. 자주 묻는 질문
| 질문 | 답 |
|---|---|
| 지금 AI도 자기를 개선하지 않나? | 모델이 스스로 가중치를 바꾸지는 않는다. 사람이 AI 도움을 받아 다음 모델을 만드는 단계다 |
| AGI와 같은 말인가? | 아니다. AGI는 능력 수준, RSI는 개선 방식이다. RSI가 AGI로 가는 경로가 될 수 있다 |
| 누가 막을 수 있나? | 현재 법적 규제는 없다. 미국 8개 주 소송의 금지 청구가 첫 법적 시도에 가깝다 |
| 확률 숫자는 믿을 만한가? | 한 사람의 공개 데이터 기반 추정이다. 앤트로픽 공식 예측이 아니다 |
6. 남은 것과 확인되지 않은 것
- 정의의 차이: 클라크는 10월 글에서 RSI를 새로 정의하지 않았다. 5월 글의 '사람 없이 후속 모델 훈련'을 기준으로 읽어야 한다.
- 벤치마크 크기: TasteVal은 과제 8개짜리 작은 시험이라 신뢰구간이 넓다(1.7~5.0개월).
- 업계 반응: 오픈AI·구글 딥마인드의 공식 RSI 전망은 확인하지 못했다.
- 법원 판단: 미국 8개 주의 '자기 개선 AI 개발 금지' 청구가 받아들여질지는 미지수다.