엣지 컴퓨팅이란 — 서버를 사용자 곁에 두는 이유, AI가 다시 찾는 까닭

인터넷에서 가장 줄이기 어려운 시간은 빛이 오가는 시간이다. 엣지 컴퓨팅은 그 시간을 줄이려고 서버를 사용자 쪽으로 옮기는 방식이다. 25년 넘게 웹과 영상을 빠르게 만드는 데 쓰였고, 이제 AI가 같은 이유로 이 방식을 다시 찾고 있다.

1. 정의 — 네트워크의 '가장자리'에서 계산하기

'엣지'는 네트워크의 가장자리, 사용자 쪽 끝이다. 중앙 데이터센터가 본사라면 엣지는 동네 지점이다. 복잡한 일은 본사가, 빨리 처리할 일은 지점이 맡는다.

출발은 CDN(콘텐츠 전송망)이다. 1990년대 말 인기 웹사이트에 접속이 몰리면 서버가 멈췄다. 해법은 같은 페이지와 영상을 세계 곳곳의 서버에 복사해 두고, 사용자를 가장 가까운 복사본으로 보내는 것이었다. 이 방식을 연 회사가 아카마이다. 아카마이는 2025년 말 기준 130여 개국, 약 700개 도시, 4,300곳 이상에 거점을 두고 있다.

2. 왜 가까워야 하나 — 빛의 속도라는 벽

광섬유 속 빛은 1밀리초(1,000분의 1초)에 약 200km를 간다.

실제 인터넷은 이보다 느리다. 케이블이 직선으로 깔려 있지 않고, 여러 장비를 거치기 때문이다. 더 중요한 것은 주고받는 횟수다. 웹페이지 하나를 열 때도 연결을 맺고, 암호를 협상하고, 파일을 요청하느라 여러 번 오간다. 한 번에 90밀리초가 다섯 번이면 0.45초다. 서버를 가까이 두는 것 말고는 이 시간을 없앨 방법이 없다.

3. 엣지가 하는 일 — 전송에서 계산으로

엣지는 처음엔 '가까운 창고'였다. 공격 트래픽을 사용자 근처에서 걸러 내는 보안 관문이 됐고(「봇넷이란」), 이어 짧은 코드를 돌리는 작은 컴퓨터가 됐다. 지금은 AI 모델의 답을 만들거나 에이전트의 작업을 실행하는 곳으로 넓어지고 있다.

4. AI는 왜 엣지를 다시 찾나

AI 계산은 크게 둘로 나뉜다(「AI 학습과 추론 차이」).

에이전트가 이 흐름을 키운다. 에이전트는 한 번 일할 때 웹을 읽고, 파일을 열고, 코드를 돌리는 짧은 작업을 수십~수백 번 한다. 한 작업은 가볍지만 횟수가 많다. 이런 작업은 GPU보다 CPU가 맡고, 한곳에 몰기보다 흩어 놓는 편이 효율적일 수 있다.

2026년 9월 24일 앤트로픽이 아카마이와 7년 116억 달러 계약을 맺은 이유가 여기 있다. 계약의 목적은 앤트로픽의 CPU 작업 수요를 아카마이의 분산 인프라로 받치는 것이다(「앤트로픽·아카마이 116억 달러 계약」). 엣지 회사가 AI 연산의 대형 공급자로 검증받는 첫 사례다.

5. 한계와 반론

엣지는 중앙 클라우드를 대체하지 않는다. 중앙은 크게 생각하고, 엣지는 빨리 움직인다. AI가 '생각'에서 '행동'으로 넘어갈수록 행동을 맡는 쪽의 몫이 커진다 — 지금 벌어지는 일은 그 몫의 크기를 재는 과정이다.

6. 자주 묻는 것

7. 남은 것과 확인되지 않은 것

• 구간별 지연 시간은 물리적 하한 계산값이며 실측이 아니다.
• 아카마이 거점 수는 2025년 말 기준이다.
• 엣지 AI 추론의 비용 우위는 독립적으로 검증된 비교가 드물다.