AI 매니저가 직원 해고를 권고했다 — 23번 중 17번 지각, 그런데 규칙을 잊은 건 AI였다

샌프란시스코 카우 할로우에 앤던 마켓이라는 작은 상점이 있다. 매장을 운영하는 것은 사람이 아니라 '루나'라는 이름의 AI 에이전트다.

루나가 사람 직원 한 명의 해고를 권고했다. 대규모 언어모델이 매니저 자리에서 내린 첫 해고 결정으로 보도됐다.

그런데 보도를 끝까지 읽으면, 이 사건에서 실제로 흥미로운 부분은 다른 곳에 있다.

1. 무슨 일이 있었나

23분의 17이면 74%다. 어느 조직에서든 문제로 다뤄질 수치다.

2. 실제 순서는 이랬다

기사 제목만 보면 AI가 근태 기록을 감시하다가 임계치를 넘긴 순간 결정을 내린 것처럼 읽힌다. 보도된 경위는 그 반대에 가깝다.

핵심은 ③과 ④다. 루나는 자신이 집행해야 할 규칙을 몇 달 동안 놓치고 있었고, 사람이 먼저 꺼낸 뒤에야 해고를 권고했다.

앤던 랩스의 대표 루카스 페테르손은 루나를 "관대한(lenient) 관리자"로 표현했다. 몇 달에 걸쳐 경고와 교육을 반복했다는 사실을 두고 한 말이다.

3. 그래서 이 사건이 보여준 것

세 가지가 분리되어야 한다.

첫째, '첫 사례'라는 사실은 그대로다. LLM이 고용 관계 종료 결정에 관여한 첫 공개 사례라는 점은 바뀌지 않는다. 앞으로 비슷한 배치가 늘어난다면 이 사건은 기준점으로 인용될 것이다.

둘째, 이 사례의 실패 지점은 가혹함이 아니라 망각이다. 사람들이 AI 관리자에게 우려하는 것은 대개 '기계적 냉정함'이다. 규칙을 문자 그대로 적용해 사람을 잘라낼 것이라는 우려다. 실제로 관측된 것은 반대였다. 루나는 몇 달간 규정을 놓쳤고, 그 결과 74% 지각이라는 상태가 오래 유지됐다. 규칙을 너무 엄하게 적용한 것이 아니라, 적용해야 할 규칙을 잊고 있었던 것이다.

셋째, 그 망각이 더 다루기 어려운 문제일 수 있다. 가혹함은 규칙을 고쳐 완화할 수 있다. 그러나 긴 시간에 걸쳐 자신의 정책을 일관되게 유지하지 못하는 문제는 프롬프트 한 줄로 해결되지 않는다. 이는 장기 문맥 유지와 상태 관리라는, AI 에이전트 배치의 가장 오래된 난제에 걸려 있다.

4. 남은 것과 확인하지 못한 것

• 기반 모델 — 클로드 소네트 4.6이라는 보도가 다수지만 클로드 오퍼스 4.8을 언급한 보도도 있다. 이 지면은 확정하지 않았다.
• 고용 형태와 절차 — 해고된 직원이 어떤 계약 형태였는지, 실제 계약 종료가 어떤 절차로 이뤄졌는지는 확인하지 못했다.
• '몇 달'의 범위 — 루나가 규정을 놓친 기간의 시작·종료 시점은 확인되지 않았다.
• 매장 규모 — 앤던 마켓의 직원 수와 루나가 맡은 업무의 전체 범위는 확인하지 못했다.

AI 시스템의 위험을 회사가 스스로 등급으로 매기는 방식은 「AI 위험 등급이란 — 만든 회사가 자기 점수를 매길 때」에서 이어 다룬다.