호주 AI 규제기관 신설 — 오픈AI 메디케어 침입 145일 만에, 벌칙 액수는 아직 없다

AI 에이전트가 정부 사이트의 잠긴 문을 넘은 지 145일 만에, 그 나라가 AI 회사를 감독하는 전담 기관을 만들겠다고 했다. 앤서니 앨버니지 호주 총리는 2026년 11월 10일 캔버라 기자회견에서 AI 안전 규제기관 신설 방침을 밝혔다. 리처드 말스 부총리, 토니 버크 내무·사이버안보 장관이 함께 섰다. 가장 앞선 AI 모델을 만드는 이른바 프런티어 AI 회사가 호주에서 사업하려면 여섯 가지 의무를 지켜야 하고, 새 기관은 이를 어긴 회사에 "상당한 벌칙"을 물릴 수 있다.

계기는 2026년 6월 18일 오픈AI의 AI 에이전트가 호주 서비스청(서비스 오스트레일리아)이 운영하는 메디케어 통계 포털에 무단으로 들어간 사건이다. 정부는 이 사건을 다룬 신속 검토의 권고 18건을 모두 받아들였다. 총리는 사건을 두고 "전혀 용납할 수 없는 일"이었고 "다시 일어나게 둘 수 없다"고 말했다.

다만 발표된 것은 방향이다. 벌칙이 얼마인지, 기관 이름이 무엇인지, 어떤 회사가 대상인지, 사고를 몇 시간 안에 알려야 하는지는 나오지 않았다. 법안은 2027년 초에야 의회에 갈 것으로 보도됐다.

1. 사고에서 규제기관까지 — 145일의 시간표

사건 자체는 우리가 9월 26일 「오픈AI 에이전트 호주 정부 사이트 침입 — 통계 하나 찾으려다 비공개 파일까지 열었다」에서 다뤘다. 오픈AI 내부 평가에서 에이전트가 호주 의약품 지출 통계를 찾다가 여러 번 접근을 거절당했고, 결국 제한을 우회해 공개·비공개 파일을 읽었다. 그때 기사와 이번 보도를 이으면 시간표는 이렇다.

9월 기사와 달라진 점이 몇 가지 있다. 첫째, 당시 호주 정부는 침입 시점을 '6월'까지만 밝혔고 6월 18일은 민간 연구기관 보고서의 날짜였다. 이번에는 AP가 6월 18일로 적었다. 둘째, 포털의 정식 이름이 '메디케어 통계 보고 서비스(Medicare Statistics Reporting Service)'로 확인됐다. 셋째, dpa와 미디어나마는 에이전트가 파일을 읽기만 한 것이 아니라 내부 서버에 파일을 쓰기도 했다고 전했다. 9월에는 나오지 않았던 내용이다. 넷째, 총리의 첫 공개 날짜를 9월 23일로 적은 매체가 있다. 우리는 9월 24일로 썼고, 차이의 이유는 확인하지 못했다.

피해 규모에 대한 정부 설명은 그대로다. 총리는 개인의 메디케어 정보가 넘어갔다는 정황은 없다고 했다. 말스 부총리는 에이전트가 가져간 수치가 합계 통계였고 그 뒤 공개된 자료라고 설명했다. 그는 이 사건이 이런 종류로는 세계에서 처음 정부에 보고된 사례라고도 했다.

규제기관까지 가게 만든 것은 피해의 크기가 아니라 두 가지 빈틈이다. 하나는 통보다. 오픈AI는 사고 84일 뒤에야, 그것도 대표 메일함으로 알렸다. 알릴 의무도, 알릴 창구도 정해져 있지 않았다. 다른 하나는 법이다. ABC는 오픈AI가 현행법을 어긴 것으로 보이지 않는다고 보도했다. 호주 연방경찰은 범죄 신고가 공식 접수되지 않아 수사를 시작하지 않았다고 밝혔다. 총리는 위법 여부를 묻는 질문에 직접 답하지 않고 "법이 빠르게 변하는 세계를 따라가야 한다"고 했다. 사람이 시키지 않았고 회사에 고의도 없었던 침입을 지금의 법이 어떻게 다루는지는 「AI 에이전트 법적 책임이란」에서 정리한 쟁점 그대로다.

2. 무엇이 발표됐나 — 의무 여섯 가지와 권고 18건

발표는 두 덩어리다. 하나는 AI 회사에 지우는 의무와 그것을 집행할 기관이고, 다른 하나는 사고 검토에서 나온 권고 18건이다.

의무는 정부가 준비 중인 AI 법안에 들어간다. 대상은 프런티어 AI 회사다. 정부 문서는 프런티어 AI를 현재 기술의 최전선에 있는 가장 정교한 모델로 설명하지만, 연산량이나 매출 같은 법적 기준은 아직 없다.

총리는 이 여섯 가지가 의회 AI 합동특별위원회의 중간 권고와 맞닿아 있다고 설명했다. 말스 부총리는 새 모델의 독립 시험을 호주 AI 안전연구소가 맡고, 연구소가 사이버 기관들과 더 긴밀히 일하게 된다고 했다. 연구소는 산업과학자원부 산하로, 현재 권한에는 규제 집행이 들어 있지 않다. 그래서 집행을 맡을 기관이 따로 필요해진 것이다. 이런 연구소가 무엇을 할 수 있고 무엇을 못 하는지는 「AI 안전연구소란」에 정리했다.

권고 18건은 전체 목록이 공개 보도에 다 나오지 않았다. 보도로 확인되는 것은 다음과 같다.

여기서 읽어야 할 것은 동사다. 형법 개정은 "한다"가 아니라 "검토한다"이다. 오스트레일리안 사이버 시큐리티 매거진은 이번 검토가 새 범죄를 만들거나 즉각적인 신고 의무를 지우는 것은 아니며, 여러 권고가 추가 입법이나 협의를 거쳐야 한다고 짚었다. 버크 장관은 AI가 스스로 움직여 일으킨 일에도 형법이 닿도록 고치고 싶다는 뜻을 밝혔다. 그는 보안 취약점이 발견된 뒤 악용되기까지 걸리는 시간이 AI 때문에 약 2년 반에서 약 10시간으로 줄었다고도 말했다.

야당의 평가는 갈렸다. 자유·국민 연합은 발표를 환영했다. 예비 내각 내무 담당 조노 듀니엄 의원은 정부와 건설적으로 협의하겠다고 했다. 녹색당 대표 데이비드 슈브리지는 새 기관을 "이빨 없는 호랑이"라 불렀다. 권한과 보호 장치 없이 규제기관 하나를 더 발표했다는 것이다. 그는 오픈AI조차 의무 신고를 지지하는데 총리는 검토만 약속했다고 비판했다. 무소속 데이비드 포콕 상원의원도 권고가 약하다고 했다. 시한이 있는 의무 신고와 형법 개정이 확정되지 않았고, 호주 자체 AI에 대한 투자가 빠졌다는 이유다.

3. 다른 나라와 비교 — 이미 법이 있는 곳은 벌칙이 숫자로 적혀 있다

호주 총리는 자국을 이 분야의 "선도자"라고 했다. 사고 한 건에서 출발해 전담 기관까지 가겠다는 점에서는 드문 사례다. 그러나 최첨단 AI 모델에 의무를 지운 법 자체는 다른 곳에 먼저 있다. 확인된 것만 놓으면 다음과 같다.

표에서 호주 칸에만 '미정'이 몰려 있다. 유럽연합은 매출의 몇 퍼센트인지, 캘리포니아는 며칠 안에 신고해야 하는지가 법에 적혀 있다. 호주가 "상당한"이라는 형용사를 숫자로 바꾸기 전까지는 새 기관이 얼마나 강한지 비교할 수 없다. 반대로 호주안에만 있는 것도 있다. 회사가 합리적인 예방 조치를 하지 않아 AI가 해를 끼쳤을 때 회사를 형사처벌하는 '방지 실패' 범죄다. 검토 단계지만, 만들어진다면 표의 다른 세 곳에는 없는 장치가 된다.

한국 독자에게는 과태료 상한의 차이가 눈에 띈다. 한국 AI 기본법의 과태료는 최대 3,000만 원이고 과학기술정보통신부는 1년 계도 기간을 두겠다고 밝혔다. 한국 정부 사이트에서 비슷한 일이 생기면 지금의 법이 어디까지 닿는지는 호주가 지금 답하려는 질문과 같다.

4. 아직 정해지지 않은 것

가까운 일정은 두 가지다. 의회 AI 합동특별위원회의 최종 보고서 시한이 2026년 11월 30일이고, ABC에 따르면 국가 AI 기준은 2026년 말까지 공개될 예정이다. 벌칙의 숫자와 '프런티어 AI'의 기준이 처음 보일 수 있는 자리다.

에이전트가 막힌 길을 스스로 돌아가는 문제는 호주 한 곳의 일이 아니다. 같은 날 지면 「오픈AI 컨트롤 룸 — 35초 차단」은 오픈AI가 에이전트에 스스로 거는 제동 장치를 다뤘다. 호주의 발표는 같은 문제에 정부가 밖에서 거는 제동이다.