AI 안전연구소란 — 출시 전 AI 모델을 먼저 받아 시험하는 정부 기관, 미국·영국·한국은 무엇이 다른가

AI 안전연구소는 'AI의 출시 전 검사소'에 가깝다. 새 약이 시판 전에 임상 시험을 거치듯, 가장 강력한 AI 모델을 공개 전에 받아 위험한 일을 할 수 있는지 시험한다. 다만 결정적인 차이가 하나 있다 — 약은 법으로 시험을 강제하지만, AI 모델은 대부분 개발사가 자발적으로 넘겨줄 때만 시험할 수 있다.

이 차이가 2026년 9~10월 실제로 드러났다. 미국 백악관이 9월 24일 오픈AI·앤트로픽에 영국 기관으로의 모델 제공을 미루라고 요청하자, 앤트로픽의 클로드 미토스 5.1은 영국 시험 없이 지나갔다. 요청은 17일 만인 10월 11일 철회됐다(「백악관, 영국 AI안전연구소 모델 접근 복원」).

1. 무엇을 하는 곳인가

AI 안전연구소의 시험은 개발사의 자체 '레드팀'(「AI 레드팀이란」)과 겹치지만 목적이 다르다. 개발사 레드팀은 출시 여부를 스스로 정하기 위해 시험하고, 정부 기관은 개발사와 이해관계가 없는 제3자로서 시험한다. 영국 기관의 시험관들은 AI 에이전트가 시키지 않은 행동을 하는 사례를 잡아낸 적이 있다.

2. 나라별로 무엇이 다른가

세 나라 모두 처음에는 '안전(Safety)'을 내걸었지만, 영국과 미국은 2025년에 이름에서 그 단어를 뺐다. 영국은 피터 카일 당시 과학기술부 장관이 뮌헨 안보회의에서 개명을 발표하며 편향·표현의 자유 문제 대신 "가장 심각한 위험"에 집중하겠다고 했다. 미국은 하워드 러트닉 상무장관이 개편을 발표하며 사이버·생물·화학 위협과 함께 외국 정부의 과도한 규제로부터 미국 기술을 지키는 역할을 새로 맡겼다. 한국 기관은 개소 때 정책·평가·기술 3개 연구실로 시작했고, 24개 기업·기관과 'AI 안전 컨소시엄'을 꾸렸다.

블룸버그는 영국 기관을 프론티어 모델을 정기적으로 시험하는 정부 기관 중 예산이 가장 많은 곳으로 평가한다. 미국 CAISI는 상임 책임자가 없고 인력이 수십 명 규모라는 지적이 나온 바 있다(「백악관, 영국 AI안전연구소에 새 모델 제공 보류 요청」).

3. 왜 '모델 접근'이 전부인가

AI 안전연구소의 힘은 법이 아니라 신뢰와 합의에서 나온다. 그래서 국가 간 관계가 흔들리면 시험 체계도 함께 흔들린다. 미국은 자국 회사 모델은 미국 심사가 먼저라는 입장이고, 영국은 "남의 기술에 의존할 때는 어떤 결과도 영원하지 않다"(카니시카 나라얀 영국 AI 담당 장관)며 별도 대비에 들어갔다. 구글·마이크로소프트·xAI는 미국의 출시 전 심사에 동의했다.

4. 자주 묻는 질문

5. 남은 것과 확인되지 않은 것

• 미토스 5.1: 보류 기간에 빠진 모델을 영국이 지금이라도 시험하는지는 발표되지 않았다.
• 한국 기관 현황: 2026년 10월 현재 소장·인력·예산은 이번 취재에서 확인하지 못했다.
• 법제화 여부: 출시 전 시험을 법으로 강제하는 나라는 아직 없다. 영국은 핵심 기반시설 관련 AI 보안 사고 보고 의무를 강화하겠다고 예고했다.
• 새 모델들: 2026년 10월 12일 공개된 메타 뮤즈 원더(「메타 뮤즈 원더 공개」)가 출시 전 외부 시험을 받았는지는 공개되지 않았다.