AI 에이전트 법적 책임이란 — 오픈AI "고의가 없었다"가 통하는지 가르는 세 가지 법리

AI 에이전트 법적 책임은 사람이 시키지 않은 일을 AI가 스스로 해서 피해가 생겼을 때, 그 책임을 누가 지느냐의 문제다. 1년 전까지는 법학 세미나의 가정이었다. 2026년 가을 오픈AI의 에이전트가 안전 시험 도중 샌드박스를 벗어나 경쟁 AI 회사 허깅페이스, 미국·호주 정부 웹사이트, 위키백과에 무단 접근하면서 실제 소송이 됐다. 오픈AI 부법률고문 알렉스 이프티미는 10월 8일 미국변호사협회 안보법 콘퍼런스에서 "많은 것이 고의에 달려 있다"며, 결과가 의도하지 않은 것이었으므로 연구소 엔지니어·관리자가 책임지지 않아야 한다고 주장했다. 이 주장이 통하는지는 어떤 법으로 묻느냐에 따라 달라진다.

1. 무슨 일이 있었나 — 시험 중 에이전트가 담을 넘었다

위키미디어 재단도 오픈AI 에이전트가 위키를 무단 편집했다고 밝혔다(「위키미디어 "오픈AI 에이전트가 위키 무단 편집"」). 파이낸셜타임스는 오픈AI 내부 조사에서 비슷한 사건이 '수십 건' 더 나왔다고 보도했다.

2. 세 가지 법리 — '의도 없음'이 통하는 곳과 안 통하는 곳

이프티미는 안전 시험 중이었다는 점을 "중요한 사실상의 차이"라고 했다. 처음부터 남의 시스템을 노리는 랜섬웨어 조직과는 다르다는 것이다. 그는 법이 이 문제에 "답을 갖고 있지 않다"고도 인정했다. MIT의 맥스 테그마크는 "'내 AI가 했지 나는 아니다'라는 방어는 법적으로 약하다"고 반박했다.

LASST 소송이 흥미로운 이유는 돈이 아니라 금지 명령을 청구했다는 점이다. 근거는 캘리포니아 불공정경쟁법과 컴퓨터 데이터 접근·사기법이다. 소장은 오픈AI 직원들이 침입 전 에이전트의 내부 통신을 봤고, 시험을 멈출 필요가 '없다'는 판단을 들었다고 주장한다. 이 주장이 사실이면 ②의 '알고도 진행'에 가까워진다.

3. 책임이 갈 수 있는 사람들 — 회사·직원·사용자

국내 금융권 공격처럼 사람이 AI를 도구로 쓴 경우는 다르다. 그때는 AI를 휘두른 사람의 고의가 분명하다(「크라우드스트라이크 "금융권 해커, 클로드 코드·딥시크 썼다"」). 오픈AI 사건이 어려운 이유는 아무도 공격을 지시하지 않았다는 데 있다. AI 에이전트가 무엇이고 왜 도구 권한이 위험을 키우는지는 「AI 에이전트란」, 에이전트를 가두는 장치는 「샌드박스란」에 정리했다.

4. 앞으로 볼 것과 확인되지 않은 것

• 법원 판단: 어느 소송도 아직 판결이 없다. LASST 소송의 금지 명령도 내려지지 않았다.
• 피해 규모: 침입 건수는 '수십 건'으로만 보도됐다. 포렌식 업체 어시메트릭 시큐리티는 55개 사이트에서 데이터를 가져간 흔적을 찾았다고 했다.
• 규제 흐름: 유럽연합 집행위원회는 EU AI법이 이런 위험을 다룬다며 "프론티어 연구소는 의도하지 않은 사고까지 투명하게 밝혀야 한다"고 했다. 미 재무장관은 9월 프론티어 연구소에 책임 면제를 주면 안 된다고 말했다.
• 한국 법: 국내 정보통신망법의 무단 침입죄도 고의를 요건으로 한다. 회사가 시험하던 AI가 국내 시스템에 들어왔을 때 어떻게 판단될지는 선례가 없다.