AI 위험 등급 누가 매기는 거야

현재 공개된 등급은 대부분 모델을 만든 회사가 스스로 매긴다. 앤트로픽의 '책임 있는 스케일링 정책(RSP)'처럼 회사가 먼저 자체 기준 문서를 만들고, 그 기준에 따라 주기적으로 위험 보고서를 내는 방식이다. 정부 기관이 검사해 부여하는 인증이 아니다. 이 구분이 중요한 이유는, 등급의 신뢰도가 회사의 자체 평가 절차와 공개 의지에 달려 있기 때문이다.

앤트로픽이 위험 등급을 올렸다는 게 무슨 뜻이야

앤트로픽은 2026년 8월 14일 두 번째 전사 위험 보고서를 내면서, 고위험 상황에서 오정렬(misalignment)로 인한 파국적 피해 위험 등급을 '매우 낮음(very low)'에서 '낮음(low)'으로 한 칸 올렸다. 다만 회사는 이것이 모델이 더 위험해졌다는 뜻은 아니라고 밝혔다. 사이버보안 평가에서 모델 행동에 관한 사실이 드러난 뒤 '전반적 불확실성이 커졌다'는 점을 반영한 조정이라는 설명이다.

벤치마크가 포화됐다는 게 무슨 말이야

측정 도구가 한계에 닿아 더 이상 차이를 잡아내지 못하는 상태다. 시험 문제가 너무 쉬워져 모든 학생이 만점을 받으면 그 시험으로는 누가 더 잘하는지 알 수 없는 것과 같다. 앤트로픽은 가장 위험한 능력 임계선을 넘었는지 탐지하려고 만든 내부 벤치마크가 포화됐다고 밝혔다. 문제는 그 시점이 하필 회사가 능력 가속의 초기 신호를 보고 있다고 말한 시점과 겹친다는 점이다. 즉 재야 할 것이 커지는 순간 자가 무너졌다.

그럼 이 등급을 믿어도 되는 거야

등급 자체보다 등급이 바뀐 이유와 근거 문서를 보는 편이 낫다. 자기 평가라는 한계는 분명하지만, 회사가 스스로 불리한 방향으로 등급을 올리고 그 이유를 공개했다는 사실은 정보로서 가치가 있다. 반대로 위험한 것은 이 등급을 외부 검증을 통과한 인증처럼 취급해 자사 서비스의 안전 근거로 그대로 인용하는 일이다. 이 등급은 특정 회사가 자사 모델에 대해 특정 시점에 내린 판단이며, 다른 회사 모델이나 다른 사용 맥락으로 옮겨오지 않는다.

AI 위험 등급이란 — 만든 회사가 자기 점수를 매길 때

AI 위험 등급은 프론티어 모델을 만드는 회사가 자사 시스템이 초래할 수 있는 심각한 피해의 가능성을 스스로 평가해 매기는 등급이다. 외부 규제기관이 부여하는 인증이 아니라 회사가 자체 정책에 따라 발표하는 자기 평가이며, 등급이 오르내리는 이유가 반드시 모델의 성능 변화 때문인 것은 아니다

2026년 8월 14일, 앤트로픽이 자사 AI의 위험 등급을 한 칸 올렸다. 스스로.

"파국적 오정렬 위험: 매우 낮음 → 낮음."

한 단어가 바뀐 문서인데, 그 안에 AI 안전이라는 분야가 지금 어디에 서 있는지가 거의 다 들어 있다.

1. AI 위험 등급이란 무엇인가

프론티어 모델을 만드는 회사가 자사 시스템이 심각한 피해를 일으킬 가능성을 스스로 평가해 매긴 등급이다.

먼저 확실히 해둘 것이 있다.

오해	실제
정부 기관이 검사해 부여하는 인증	회사가 자체 정책에 따라 매기는 자기 평가
업계 공통 척도로 회사 간 비교 가능	회사마다 척도와 정의가 다름
등급이 오르면 모델이 더 위험해진 것	측정 불확실성이 커져도 등급은 오름
한 번 받으면 유지되는 라벨	주기적으로 재평가·갱신되는 판단

이 등급의 근거가 되는 것은 회사가 미리 만들어 공개한 정책 문서다. 앤트로픽의 경우 '책임 있는 스케일링 정책(Responsible Scaling Policy, RSP)'이며, 2026년 8월 보고서는 이 정책 3.4판에 따라 작성됐다.

2. 2026년 8월에 실제로 일어난 일

항목	내용
발표일	2026년 8월 14일
문서	앤트로픽 두 번째 전사 위험 보고서
적용 정책	책임 있는 스케일링 정책 3.4판
대상 기간	2026년 2월 24일 ~ 7월 15일
변경 항목	고위험 상황에서의 파국적 오정렬 위험
이전 등급 (2026년 2월 첫 보고서)	매우 낮음 (very low)
새 등급	낮음 (low)

한 칸 올라갔다. 그런데 회사는 모델이 더 위험해졌다고 말하지 않았다.

3. 그럼 왜 올렸나

보고서가 제시한 이유는 "전반적인 불확실성 증가(general increased uncertainty)"다. 사이버보안 평가에서 모델 행동에 관한 사실이 드러난 뒤의 조정이었다.

이 구분이 이 문서의 핵심이다.

등급이 오르는 두 가지 이유	의미
① 모델의 위험한 능력이 실제로 커졌다	대상이 변했다
② 대상을 얼마나 잘 알고 있는지가 나빠졌다	측정이 변했다

이번 조정은 ②다. 같은 모델을 보면서도, 그 모델에 대해 안다고 여겼던 것의 확신이 줄었을 때 등급은 올라간다.

이것이 자기 평가 등급을 읽는 올바른 방법이다. 등급 숫자나 단어만 뽑아 오면 "AI가 더 위험해졌다"는 오독이 나온다. 등급이 바뀐 *이유*가 실제 정보다.

4. 같은 보고서에 들어 있던 두 가지

보고서에는 등급 변경 외에 두 가지가 더 들어 있었고, 둘 다 등급보다 무겁다.

모델 2(Model 2) — 앤트로픽은 외부에 공개하지 않은 내부 모델의 존재를 밝혔다. 자사 프론티어 모델보다 다소 더 유능하며, 현재 외부 공개 계획이 없다고 했다. 만들었지만 내놓지 않은 모델이 있다는 사실을 스스로 공개한 것이다.

벤치마크 포화 — 가장 위험한 능력 임계선을 넘었는지 탐지하려고 만든 내부 벤치마크가 포화(saturate)됐다. 더 이상 능력 향상을 눈금으로 잡아내지 못한다는 뜻이다.

포화는 이런 상태다. 시험 문제가 응시자 수준에 비해 너무 쉬워지면 모두가 만점을 받는다. 그 순간부터 시험은 서열을 알려주지 못한다. 문제가 잘못돼서가 아니라 대상이 시험을 넘어섰기 때문이다.

시점이 문제다. 회사가 능력 가속의 초기 신호를 보고 있다고 말한 바로 그 시점에, 그 가속을 잡으라고 만든 자가 눈금을 잃었다. 재야 할 것이 커지는 순간 자가 짧아진 셈이다.

5. 이 등급을 어떻게 써야 하나

쓰는 방식	평가
등급 변경의 이유와 근거 문서를 읽는다	적절
특정 회사·특정 시점의 판단으로 취급한다	적절
외부 검증을 통과한 인증처럼 인용한다	부적절
다른 회사 모델의 안전 근거로 옮겨 쓴다	부적절
자사 서비스 안전성의 보증으로 삼는다	부적절

마지막 세 줄이 실무에서 가장 자주 벌어지는 오용이다. A사의 자기 평가 등급을, A사 모델을 가져다 쓰는 B사가 자사 제품의 안전 근거로 인용하는 구조다. 그러나 위험은 모델 자체가 아니라 모델이 어떤 권한을 갖고 무엇에 연결되는가에서 크게 달라진다. 개발사의 등급은 그 배치 맥락을 알지 못한다.

이 지면이 같은 날 다룬 「AI 매니저가 직원 해고를 권고했다」가 그 예다. 문제는 모델의 능력이 아니라, 몇 달간 자체 규정을 추적하지 못한 상태로 실제 인사 결정에 연결돼 있었다는 배치 쪽에서 나왔다.

6. 자기 평가라는 한계와, 그럼에도 남는 가치

자기 평가의 약점은 명백하다. 채점자가 응시자다. 불리한 결과를 공개할 유인이 구조적으로 약하다.

그럼에도 이번 보고서에는 정보가 있다. 회사가 불리한 방향으로 등급을 올렸고, 이유를 밝혔고, 공개하지 않기로 한 모델의 존재와 자체 측정 도구가 한계에 닿았다는 사실까지 문서에 적었다. 자기 평가가 유용한지 아닌지는 이 종류의 항목이 문서에 남는지로 갈린다.

읽는 사람이 할 일은 등급을 믿거나 안 믿는 것이 아니라, 다음 보고서에서 이 항목들이 어떻게 갱신되는지 추적하는 것이다.

7. 이 기사가 확인하지 못한 것

척도 원문 — 등급이 몇 단계이고 각 단계의 정의가 무엇인지, 원문 척도표를 직접 확인하지 못했다.
모델 2의 실체 — 구체적 성능 수치와 미공개 결정의 내부 근거는 공개되지 않았다.
포화된 벤치마크 — 이름과 측정 항목이 확인되지 않았다.
회사 간 비교 — 다른 프론티어 개발사가 동일 척도의 등급을 공개하는지, 비교가 가능한지는 확인하지 못했다.

AI 모델의 능력을 재는 벤치마크가 왜 같은 모델에 다른 점수를 주는지는 이 지면이 2026년 8월 16일 「코딩 벤치마크란 — 같은 모델이 28%와 84%를 동시에 받는 이유」에서 다뤘다.