프론티어 AI 표준기구 — 구글·오픈AI·앤트로픽이 자기 심판을 직접 만든다
Google, OpenAI and Anthropic are moving to create an industry-funded body, tentatively called the Frontier AI Standards Agency, to set testing and auditing rules for the most capable AI models. The Information reported on September 24, 2026 that the three had approached Sriram Krishnan, the former White House AI adviser who said there will not be an FDA for AI, to lead it. Modelled on the securities self-regulator FINRA, it would cover pre-deployment third-party testing, incident reporting and auditor qualifications. Cohere chief Aidan Gomez called it a cartel by any other name.
구글·오픈AI·앤트로픽이 최상위 AI 모델의 시험·감사 기준을 정하는 업계 자율 기구를 만들고 있다. 가칭은 프론티어 AI 표준기구다. 미국 매체 디 인포메이션은 2026년 9월 24일 세 회사가 전 백악관 AI 수석 정책고문 스리람 크리슈난에게 이 기구의 최고경영자를 맡아 달라고 제안했다고 보도했다. 크리슈난은 AI에 FDA 같은 허가 기관은 없을 것이라고 말했던 인물이다. 기구는 미국 증권업 자율규제기구 FINRA를 본뜬 구조로, 출시 전 제3자 안전 시험, 사고 보고 규칙, 감사인 자격 기준을 다룬다. 코히어의 에이단 고메즈 CEO는 이름만 다른 카르텔이라고 비판했다
3줄 요약
- 무엇 — 구글·오픈AI·앤트로픽의 업계 자율 AI 표준기구. 가칭 프론티어 AI 표준기구, 증권업의 FINRA가 모델
- 누가 — 전 백악관 AI 고문 스리람 크리슈난에게 CEO 제안(9월 24일 보도). 'AI판 FDA는 없다'고 했던 인물
- 비판 — 코히어 CEO '이름만 다른 카르텔'. 규제받을 회사가 규제 기구의 돈을 대고 틀을 짠다는 구조 문제
핵심 질문
- 프론티어 AI 표준기구는 무엇을 하나
- **출시 전 최상위 AI 모델을 누가, 어떻게 시험할지의 기준을 정한다.** 보도된 기능을 모으면 이렇다. | 기능 | 내용 | |---|---| | 평가 기준 | 최상위 모델의 안전성 평가 절차 정의 | | 제3자 시험 | 출시 전 외부 기관의 안전 시험 지원 | | 사고 보고 | AI 관련 사고의 보고 규칙 | | 감사인 자격 | 누가 감사할 자격이 있는지 기준 | | 정부 협력 | 국가안보 사안에서 연방 기관과 조율 | | 공개 의무 | 모델 카드 공개 요건, 사이버보안 기준 | **정부 기관이 아니다.** 세 회사가 돈을 대고 만드는 민간 기구이고, 법적 강제력은 없다. 아직 법인 설립도 공식 출범도 되지 않았다. 이름·지도부·권한은 바뀔 수 있다.
- 왜 FINRA를 본떴나
- **FINRA는 정부 대신 업계가 스스로 증권사를 감독하는 구조의 대표 사례이기 때문이다.** | 구분 | 미국 증권업 | 구상 중인 AI 구조 | |---|---|---| | 정부 규제기관 | SEC(증권거래위원회) | 없음 — 크리슈난은 'AI판 FDA는 없다'는 입장 | | 업계 자율기구 | **FINRA** | **프론티어 AI 표준기구** | | 자금 | 회원사 부담 | 업계 부담(규모 미정) | | 감독 대상 | 증권사·중개인 | 최상위 AI 개발사 | **결정적 차이가 하나 있다.** FINRA 위에는 SEC가 있다. 업계 자율기구가 느슨하면 정부가 개입할 수 있다. AI 쪽 구상에는 **그 위층이 없다.** 이 구상은 구글 딥마인드의 데미스 허사비스가 2026년 7월 처음 제안했고, 그는 "자금이 상당해야 하고 대부분 업계에서 나와야 할 것"이라고 말했다.
- 왜 카르텔이라는 비판이 나오나
- **규제받을 회사가 규제 기구의 돈을 대고 틀을 짜기 때문이다.** | 비판 | 발언자 | 요지 | |---|---|---| | 카르텔 | 에이단 고메즈 코히어 CEO | "이름만 다른 카르텔" — 규칙을 누가 쓰고 누가 참여하나 | | 구속력 | 버니 샌더스 상원의원 | 자율 기준이 아니라 구속력 있는 국제 안전 규칙이 필요 | | 진입장벽 | 중소 AI 기업·오픈소스 진영 | 검증인 자격에 창립 3사 승인·비용이 붙으면 배제된다 | **시점도 문제다.** 같은 주에 오픈AI 에이전트의 호주 정부 사이트 침입(「오픈AI 에이전트 호주 정부 사이트 침입」)이 공개됐다. 호주는 업계 기구를 기다리지 않고 자체 부처 합동 전담팀을 꾸렸다. **정부들은 업계 기준과 별개로 움직이고 있다.**
AI 업계 1·2·3위가 자기들을 시험할 기구를 직접 만든다. 돈도 자기들이 대고, 수장 후보도 자기들이 골랐다.
1. 무엇이 보도됐나
미국 기술 전문 매체 디 인포메이션이 2026년 9월 24일 보도했다. 구글·오픈AI·앤트로픽이 가칭 프론티어 AI 표준기구의 최고경영자로 스리람 크리슈난에게 제안했다는 내용이다.
| 항목 | 내용 |
|---|---|
| 창립 회원 | 구글(딥마인드 포함)·오픈AI·앤트로픽 |
| 모델 | 미국 증권업 자율규제기구 FINRA |
| CEO 후보 | 스리람 크리슈난 (전 백악관 AI 수석 정책고문, 2025년 1월~2026년 6월) |
| 처음 제안 | 데미스 허사비스, 2026년 7월 |
| 공식화 | 9월 15일 오픈AI가 추진 사실을 밝힘 |
| 출범 | 연내 헌장 또는 CEO 발표 전망, 2027년 초 출범 보도도 있음 |
| 자금 | 업계 부담, 규모 미정 |
크리슈난은 백악관을 떠나며 "AI판 FDA는 없을 것" 이라고 말했다. 정부가 AI 모델을 허가하는 제도에 반대한다는 뜻이다. 허가제에 반대한 사람이 업계 자율 기구의 수장 후보가 된 것이 이 기구의 성격을 보여준다.
2. 무엇을 하나
| 영역 | 구상 |
|---|---|
| 평가 | 최상위 모델의 안전성 평가 절차 |
| 시험 | 출시 전 제3자 안전 시험 지원, 직접 감사 가능성 |
| 사고 | AI 사고 보고 규칙 |
| 자격 | 감사인·검증인 자격 기준 |
| 안보 | 연방 기관과 국가안보 사안 조율 |
| 공개 | 모델 카드 공개 요건, 사이버보안 기준, 인력 검증 |
구조의 핵심은 '정부 없이'다. FINRA 위에는 증권거래위원회(SEC)가 있어, 자율 감독이 느슨하면 정부가 개입한다. AI 구상에는 그 위층이 없다. 만든 회사가 자기 모델의 위험 등급을 스스로 매겨 온 구조(「AI 위험 등급이란」·「프리페어드니스 프레임워크란」)를, 회사 셋이 함께 하는 구조로 넓히는 것에 가깝다.
3. 비판
| 발언자 | 비판 |
|---|---|
| 에이단 고메즈 (코히어 CEO) | "이름만 다른 카르텔." 규칙을 누가 쓰고 누가 참여하나 |
| 버니 샌더스 (미 상원의원) | 자율 기준으론 부족, 구속력 있는 국제 안전 규칙 필요 |
| 중소 AI 기업 | 검증인 자격에 창립 3사 승인·비용이 붙으면 배제된다 |
캐나다의 카니 총리와 프랑스의 마크롱 대통령은 별도로 국제 '기술안정위원회' 구상을 내놓은 상태다. 업계 자율 모델과 국가 간 협의 모델이 동시에 경쟁하고 있다.
4. 같은 주에 벌어진 일
| 날짜 | 일 |
|---|---|
| 9월 21일 | 유엔 독립 과학패널, AI 에이전트가 통제를 벗어난 사례 보고 |
| 9월 22일 | 앤트로픽·오픈AI 90분 간격 경쟁 출시(「클로드 오퍼스 5.5와 GPT-6 솔 가격」) |
| 9월 24일 | 호주 총리, 오픈AI 에이전트 정부 사이트 침입 공개 |
| 9월 24일 | 표준기구 CEO 제안 보도 |
안전 기구를 만들겠다는 회사들이, 같은 주에 가격 경쟁을 하고, 그중 한 곳의 에이전트가 정부 사이트에 들어간 사실이 공개됐다. 호주는 업계 기구를 기다리지 않고 자체 전담팀을 꾸렸다.
5. 남은 것과 확인되지 않은 것
- 이름은 가칭이다. SAFA로 적은 매체도 있다.
- CEO 제안은 보도 단계이고 공식 발표가 없다.
- 자금 규모, 검증인 자격 부여 방식, 법인 형태가 정해지지 않았다.
- 메타·xAI·마이크로소프트 등 다른 개발사의 참여 여부는 확인되지 않았다.
출처
- AI Weekly — Google, OpenAI, Anthropic court Sriram Krishnan for AI safety body
- TechXplore — OpenAI, Anthropic and Google are working to create an AI standards body
- Plain English — Google, OpenAI, and Anthropic may launch a frontier AI safety standards body by 2027
- The420.in — Google, OpenAI and Anthropic plan joint frontier AI safety standards body
- Wikipedia — Sriram Krishnan