Edge0-145B 사양 — 1,450억 파라미터가 29GB? 내려받는 파일은 106GB
Edge0 released Edge0-145B on November 12, 2026, calling it the first open-source 145-billion-parameter on-device model, with 29GB peak memory on a laptop. The repository tells a narrower story: the Q3_K download is about 106GB, Edge0's own measured run used 23.14 GiB of GPU memory plus 31.28 GiB of system RAM, the weights carry a custom license with commercial carve-outs on top of Qwen's, Mac support was merged two days after launch, and every benchmark is Edge0's own.
Edge0-145B는 Edge0가 2026년 11월 12일 공개한 총 1,450억 파라미터 모델이다. 토큰 하나에 약 101억 개만 쓰는 전문가 혼합 구조이고, 알리바바 Qwen3.8-Flash-Next에서 파생됐다. 회사 블로그는 노트북에서 최대 메모리 29GB, 생성 초당 80토큰 이상이라고 적었지만 측정 기기와 조건은 공개하지 않았다. 저장소에 실린 실측은 RTX 5090 D에서 GPU 메모리 23.14GiB에 시스템 메모리 31.28GiB다. 내려받는 Q3_K 폴더는 약 106GB다. 엔진 코드는 Apache 2.0이지만 가중치는 상업 제공을 제한하는 자체 라이선스이고, 벤치마크는 모두 회사 자체 평가다.
3줄 요약
- 산수 — 1,450억 개를 통째로 29GB에 넣으려면 파라미터당 1.6비트여야 한다. 실제 파일은 전문가 묶음 40GB에 임베딩 표 51GB, 합쳐 약 106GB다
- 조건 — 리눅스·윈도는 엔비디아 GPU와 CUDA 13, 맥은 11월 14일에야 Q3_K 빌드만 지원이 들어갔다. 29GB를 잰 기기는 공개되지 않았다
- 라이선스와 점수 — 가중치는 Edge0 Community Model License 1.0에 Qwen 라이선스가 겹친다. 벤치마크 6종은 전부 자체 평가이고 독립 검증은 없다
핵심 질문
- Edge0-145B 사양
- **총 1,450억 파라미터, 토큰당 활성 약 101억 개, 48층에 층마다 전문가 512개를 둔 전문가 혼합 모델이다. 알리바바 Qwen3.8-Flash-Next에서 파생됐다.** | 항목 | 내용 | 출처 | |---|---|---| | 총 파라미터 | 1,450억 (145B) | 회사 블로그·모델 카드 | | 토큰당 활성 | 101억2천만 (10.12B) | 모델 카드 | | 구조 | 48층, 층당 전문가 512개, 토큰당 10개 선택 + 공유 1개 | 모델 카드 | | 기반 모델 | Qwen3.8-Flash-Next | 깃허브·허깅페이스 | | 컨텍스트 | 256K (맥 기본 설정은 32,768) | 모델 문서 | | 빌드 | Q3_K, NVFP4 두 종 | 깃허브 | | 가중치 크기 | Q3_K 40.81GiB, NVFP4 47.79GiB (임베딩 표 제외) | 깃허브 | | 내려받는 폴더 | Q3_K 약 106GB (98.98GiB) | 허깅페이스 파일 목록 합산 | | 가중치 라이선스 | Edge0 Community Model License 1.0 | 허깅페이스 |
- Edge0-145B 사용법
- **Edge0 자체 엔진으로만 돈다. 윈도와 맥은 Edge0 Chat 앱을 받고, 리눅스는 저장소를 받아 직접 빌드한 뒤 모델 폴더를 지정해 실행한다.** | 단계 | 할 일 | |---|---| | 1. 기기 확인 | 리눅스·윈도: 엔비디아 GPU와 CUDA 13. 맥: 애플 실리콘, macOS 26 이상 | | 2. 저장 공간 | Q3_K 폴더 약 106GB. SSD에 둔다 | | 3. 엔진 | 윈도·맥은 깃허브 릴리스 0.2.0의 Edge0 Chat, 리눅스는 edge0-strata와 edge0-infer를 빌드 | | 4. 모델 | 허깅페이스 Edge0/Edge0-145B-q3k 폴더를 그대로 내려받는다. 맥은 Q3_K만 된다 | | 5. 실행 | edge0-infer serve --model 폴더 경로. 대화형은 chat | | 6. 연결 | 127.0.0.1:8000, 모델 이름 edge0_145b. OpenAI·Anthropic 호환 API |
- Edge0-145B 오픈소스 맞나
- **엔진 코드는 오픈소스가 맞다. 가중치는 아니다. 상업 제공 세 가지를 막는 자체 라이선스에 Qwen 라이선스가 함께 적용된다.** | 대상 | 라이선스 | 상업 이용 | |---|---|---| | 프레임워크 코드 | Apache 2.0 | 자유 | | edge0-strata 엔진 | MIT (Strata 포크) | 자유 | | Edge0 가중치 기여분 | Edge0 Community Model License 1.0 | 모델 판매, 유료 추론 서비스, 독립 코딩·사무 보조 제품은 서면 허가 필요 | | Qwen 유래 부분 | Qwen Community License 1.0 | 모델 서비스·AI 업무 보조 사업자는 Qwen의 별도 라이선스 필요 | | 생성 결과물 | 두 라이선스 모두 제한 없음 | 판매 가능 |
Edge0가 2026년 11월 12일 「노트북에서 도는 1,450억 파라미터 오픈소스 모델」이라며 Edge0-145B를 내놓았다. 숫자를 뜯어보면 29GB에 들어가는 것은 모델 전체가 아니라 그때그때 올려 둔 일부다. 회사 블로그는 최대 메모리 29GB, 프롬프트 처리 초당 1,100토큰 이상, 생성 초당 80토큰 이상이라고 적었다. 같은 회사의 깃허브 저장소와 허깅페이스 모델 카드에는 다른 숫자가 있다. 내려받는 폴더는 약 106GB이고, 회사가 직접 잰 실행 한 건은 GPU 메모리 23.14GiB에 시스템 메모리 31.28GiB를 썼다.
발표문의 세 단어, 「오픈소스」「노트북」「프론티어급」은 각각 조건이 붙는다. 엔진 코드는 Apache 2.0이지만 가중치는 상업 제공을 제한하는 자체 라이선스다. 맥 지원은 발표 이틀 뒤에 저장소에 들어갔고 한 가지 빌드만 된다. 벤치마크는 전부 회사가 스스로 매긴 점수다. 출처마다 숫자가 어긋나는 곳이 많아, 이 기사는 어느 문서가 무엇이라고 적었는지를 표로 나란히 놓는다.
1. 무엇이 나왔나 — 같은 회사 문서끼리도 숫자가 다르다
Edge0는 Edge0-145B와 Edge0-120B 두 모델, 추론 엔진 edge0-infer와 edge0-strata, 데스크톱 앱 Edge0 Chat을 함께 공개했다. 가중치는 허깅페이스에 Q3_K와 NVFP4 두 가지 빌드로 올라와 있다. 9월에 나온 전화기용 Edge0-35B의 후속이다.
모델 카드가 적은 구조는 이렇다.
| 항목 | Edge0-145B | Edge0-120B |
|---|---|---|
| 총 파라미터 | 1,450억 | 1,200억 |
| 토큰당 활성 | 101억2천만 | 86억4천만 |
| 층 수 | 48 | 48 |
| 층당 전문가 | 512개 (10개 선택 + 공유 1개) | 512개 (10개 선택 + 공유 1개) |
| 전문가 묶음 | 846억, 잠재 폭 1,792 | 604억, 잠재 폭 1,280 |
| n-gram 임베딩 표 | 512억, 8비트, SSD에서 읽음 | 512억, 8비트, SSD에서 읽음 |
| 가중치 크기 (Q3_K / NVFP4) | 40.81GiB / 47.79GiB | 27.98GiB / 32.96GiB |
| 컨텍스트 | 256K | 256K |
전문가 혼합(MoE)은 토큰 하나를 처리할 때 전체 가운데 일부 전문가만 켜는 구조다. Edge0가 붙인 이름은 잠재 MoE다. 토큰을 좁은 폭(1,792)으로 눌러서 전문가에게 보내고, 결과를 다시 원래 폭(2,560)으로 편다. 전문가 한 개가 163만 바이트짜리 고정 크기 기록이 되고, 엔진은 자주 쓰는 수천 개만 GPU에 두고 나머지를 시스템 메모리나 SSD에서 흘려 넣는다.
문제는 이 발표를 전한 글들이, 그리고 Edge0 자신의 문서들이 서로 다른 말을 한다는 점이다.
| 쟁점 | 회사 블로그 (11월 12일) | 깃허브·허깅페이스 | 다른 매체 |
|---|---|---|---|
| 모델의 출발점 | 처음부터 온디바이스 구조로 학습. Qwen은 비교 대상으로만 등장 | Qwen3.8-Flash-Next에서 파생. 전문가 층을 다시 짓고 후속 학습 | AIbase는 처음부터 학습했다고 전했고, Enjoy·DEV는 Qwen 파생이라고 적었다 |
| 메모리 | 최대 29GB (한 문단에는 28GB) | 23.14GiB + 31.28GiB 실측. 16GiB + 20GiB는 시험 한도 | 릴리스 노트는 GPU 16GiB·시스템 20GiB 「이상」 |
| 속도 | 프롬프트 1,100+, 생성 80+ 토큰/초 | 기기별 표. 맥 M2 Ultra 생성 60.9, RTX 5090 D 99.7 | DEV는 48GB 맥북 프로 수치로 소개 |
| 맥 지원 | 첫날부터 macOS와 애플 M 시리즈 | 11월 13일 공지는 엔비디아 GPU만. 11월 14일 Metal 지원 병합, Q3_K만 | Enjoy(11월 13일)는 맥 미지원으로 정리 |
| 라이선스 | 「오픈소스」라고만 표기 | 코드 Apache 2.0, 가중치는 자체 라이선스 + Qwen 라이선스 | AIbase·Emergent는 라이선스 언급 없음 |
| 120B 점수 | DeepSWE 53.6, Terminal-Bench 81.3 | 51.3, 75.3 | Enjoy·FreeAnswers가 불일치를 지적 |
| 공개 날짜 | 11월 12일 | README 공지는 11월 13일 | 대부분 11월 12일 |
| 허깅페이스 저장소 | NVFP4 저장소를 안내 | Q3_K와 NVFP4 둘 다 | DEV는 q3k 저장소를 안내 |
출발점에 관한 두 설명은 겉보기만큼 정면충돌은 아니다. 블로그의 표현은 「온디바이스 구조로 처음부터 학습한다, 클라우드 모델을 나중에 압축하거나 가지치기하지 않는다」이다. 모델 카드는 더 구체적이다. Qwen3.8-Flash-Next의 48개 층 전부에서 전문가 층을 잠재 MoE로 바꿔 끼웠고, 구조가 바뀌었으므로 자체 데이터로 오래 후속 학습했으며, 4비트 상태로 학습했다고 적었다. 요약하면 Qwen의 뼈대를 가져와 전문가 층을 갈아 끼우고 다시 학습한 파생 모델이다. 블로그만 읽은 매체가 「처음부터 학습」으로 옮긴 것은 블로그가 Qwen과의 관계를 적지 않았기 때문이다. 허깅페이스 메타데이터의 기반 모델 칸에도 Qwen/Qwen3.8-Flash-Next가 적혀 있다.
2. 145B가 29GB가 되는 산수
파라미터 수에 파라미터당 비트 수를 곱하고 8로 나누면 바이트가 나온다. 1,450억 개를 통째로 메모리에 올린다고 치고 계산하면 아래와 같다.
| 파라미터당 비트 | 계산 | 필요한 크기 |
|---|---|---|
| 16비트 (학습 때 흔히 쓰는 정밀도) | 1,450억 × 16 ÷ 8 | 290GB |
| 8비트 | 1,450억 × 8 ÷ 8 | 145GB |
| 4비트 | 1,450억 × 4 ÷ 8 | 72.5GB |
| 3.44비트 (Q3_K 표기값) | 1,450억 × 3.44 ÷ 8 | 약 62.4GB |
| 거꾸로: 29GB에 전부 넣으려면 | 29GB × 8 ÷ 1,450억 | 파라미터당 1.6비트 |
4비트로 줄여도 72.5GB다. 29GB에 전부 넣으려면 파라미터 하나를 1.6비트로 저장해야 하는데, Edge0가 배포한 어떤 빌드도 그렇게 낮지 않다. 그러니 29GB는 모델 전체의 크기가 아니다. 한 시점에 메모리에 올라가 있는 부분의 크기다.
실제 파일을 보면 구조가 드러난다. 허깅페이스 Edge0-145B-q3k 저장소의 파일 크기를 합치면 다음과 같다.
| 구성 | 파라미터 | 저장 정밀도 | 파일 크기 | 평소 있는 곳 |
|---|---|---|---|---|
| 전문가 묶음 (experts.bin) | 846억 | 평균 약 3.8비트 | 40.08GB (37.32GiB) | 자주 쓰는 것은 GPU, 나머지는 시스템 메모리나 SSD |
| n-gram 임베딩 표 (ple-fp8.gguf) | 512억 | 8비트 | 51.20GB (47.68GiB) | SSD. 필요한 줄만 읽는다 |
| 나머지 (주의 층·공유 부분·초안 예측 층 등) | 약 92억 (뺄셈으로 구한 값) | 4~16비트 혼합 | 약 15GB | GPU와 시스템 메모리 |
| 폴더 전체 | 1,450억 | — | 106.28GB (98.98GiB) | 디스크 |
전문가 묶음의 평균 3.8비트는 모델 카드 설명과 맞아떨어진다. Q3_K 빌드는 균일한 3비트가 아니다. 전문가 하나를 이루는 행렬 셋 가운데 둘은 3.44비트, 하나는 4.5비트로 저장한다. (3.44 × 2 + 4.5) ÷ 3 = 약 3.79비트다. 846억 × 3.79 ÷ 8은 약 40.1GB로, 실제 파일 크기 40.08GB와 일치한다.
여기서 두 가지가 보인다. 첫째, 1,450억 가운데 512억은 임베딩 표다. 이 표는 8비트로 51GB를 차지하지만 메모리에 통째로 올리지 않고 SSD에 둔 채 필요한 줄만 읽는다. 블로그가 「약 48GB의 어휘 데이터가 SSD에 있다」고 쓴 것이 이것이다(51.2GB는 47.68GiB다). 총합에서 임베딩 표를 빼면 실제 연산을 하는 가중치는 약 938억 개이고, Edge0가 Q3_K 가중치 크기로 적은 40.81GiB(약 43.8GB)로 나누면 파라미터당 약 3.7비트가 된다. 둘째, 그 43.8GB도 29GB보다 크다. 전문가 묶음을 다 올리지 않고 일부를 SSD에서 읽을 때만 29GB 아래로 내려간다.
Edge0가 저장소에 직접 적어 둔 메모리 수치와 블로그 수치를 나란히 놓으면 차이가 분명하다.
| 조건 | GPU 메모리 | 시스템 메모리 | 합계 | 생성 속도 | 출처 |
|---|---|---|---|---|---|
| RTX 5090 D 24GB, Q3_K, 전문가 전부 상주 | 23.14GiB | 31.28GiB | 54.42GiB | 초당 99.7토큰 | 깃허브 README |
| RTX 5090 D 24GB, NVFP4, 전문가 전부 상주 | 23.25GiB | 38.27GiB | 61.52GiB | 초당 79.6토큰 | 깃허브 README |
| 같은 카드를 16GiB + 20GiB로 묶은 시험 | 16GiB | 20GiB | 36GiB | 초당 36.8토큰 | 깃허브 README |
| 애플 M2 Ultra, Q3_K | 통합 메모리 (사용량 미기재) | — | — | 초당 60.9토큰 | 깃허브 README |
| 블로그 발표값 | 구분 없음 | 구분 없음 | 29GB | 초당 80토큰 이상 | 회사 블로그 |
저장소에서 가장 빡빡하게 묶은 시험도 합계 36GiB다. 그 조건의 생성 속도는 초당 36.8토큰으로, 블로그가 내건 80토큰의 절반에 못 미친다. 블로그의 초당 80토큰에 가장 가까운 행은 RTX 5090 D의 NVFP4 빌드(79.6)인데, 그 실행은 메모리를 합쳐 61GiB 넘게 썼다. 29GB와 초당 80토큰이 같은 실행에서 나온 값이라는 근거는 공개 자료에 없다. 블로그는 숫자의 출처를 「내부 시험」이라고만 적었고, 기기는 「맥북 프로 같은 호환 노트북」이라고만 했다.
블로그 안에서도 설명이 엇갈린다. 최대 메모리가 29GB라고 쓴 같은 글이 「약 40GB의 전문가 라이브러리가 시스템 메모리에 있다」고 적었다. 해커뉴스에서도 이 대목이 지적됐다. 저장소 문서는 16GiB + 20GiB가 「시험 한도이지 최소 요구 사양이 아니다」라고 적었는데, 윈도용 릴리스 노트는 GPU 메모리 16GiB 이상, 시스템 메모리 20GiB 이상을 요구 사양으로 적었다.
기반 모델과 비교하면 Edge0가 실제로 줄인 것이 무엇인지 보인다.
| 항목 | Qwen3.8-Flash-Next | Edge0-145B | Edge0-120B |
|---|---|---|---|
| 선택형 전문가 파라미터 | 1,208억 | 846억 (−30%) | 604억 (−50%) |
| 토큰당 전문가 파라미터 | 23억6천만 | 16억5천만 | 11억8천만 |
| 전문가 묶음 크기 (NVFP4) | 63.2GiB | 44.3GiB | 31.6GiB |
| 16GiB + 20GiB 조건 생성 속도 | 초당 18.5토큰 | 초당 36.8토큰 | 초당 62.4토큰 |
모두 Edge0 모델 카드의 수치다. 이름의 숫자는 커졌지만(Qwen은 스스로 1,250억이라 부른다) 전문가 파라미터는 30% 줄었다. Qwen 모델 카드는 언어 모델 1,250억에 n-gram 임베딩 510억과 MTP 40억을 따로 적는다. Edge0의 1,450억은 임베딩 표를 포함해야 맞는 합계다. 같은 방식으로 세면 Qwen 쪽은 약 1,800억이 된다. 「145B」는 기반 모델보다 큰 모델이라는 뜻이 아니라, 세는 범위가 다른 숫자다. 다만 Edge0가 총합의 내역을 표로 밝히지 않았으므로 이 해석은 공개된 두 항목을 뺀 계산에 근거한다.
3. 세 주장 점검 — 오픈소스, 노트북, 프론티어급
오픈소스. 블로그는 Edge0-145B를 「세계 최초의 1,450억 파라미터 오픈소스 온디바이스 모델」이라고 불렀다. 코드와 가중치의 라이선스는 다르다.
| 대상 | 라이선스 | 허용 | 별도 허가가 필요한 것 |
|---|---|---|---|
| 프레임워크 코드 (edge0-infer 등) | Apache 2.0 | 상업 이용 포함 전부 | 없음 |
| edge0-strata 엔진 | MIT | 상업 이용 포함 전부 | 없음 |
| Edge0가 만든 가중치 기여분 | Edge0 Community Model License 1.0 (2026년 11월 12일자) | 개인 이용, 연구·교육, 수정, 비상업 공유, 사내 이용, 결과물의 상업 이용 | 모델 판매와 유료 배포, 요금·구독·광고로 운영하는 추론·미세조정 서비스, 독립된 상업용 코딩·사무 보조 제품(기기에서 돌려도 해당) |
| Qwen에서 온 부분 | Qwen Community License 1.0 | 광범위한 이용 | 모델 서비스 또는 AI 업무 보조 사업을 하는 회사는 상업 이용 전에 Qwen의 별도 라이선스 필요 |
Edge0 라이선스는 조건이 너그러운 편이다. 수정본을 공개할 의무가 없고, 매출이나 이용자 수 기준도 없다. 회사 직원이나 프리랜서가 이 모델로 돈 받는 일을 해도 된다. 막힌 것은 모델 자체를 팔거나, 모델 접근을 서비스로 팔거나, 이 모델로 코딩 보조·사무 보조 제품을 만들어 파는 경우다. 그리고 Edge0의 허가는 Qwen의 허가를 대신하지 않는다. 라이선스 2조가 「Edge0의 허가는 Qwen의 허가가 아니다」라고 명시한다. Qwen 라이선스에는 월간 이용자 1억 명 또는 월 매출 2,000만 달러를 넘는 상업 제품은 화면에 모델 이름을 표시하라는 조항도 있다.
특정 사업 분야를 막는 라이선스는 통상의 오픈소스 정의에 들지 않는다. 해커뉴스 토론에서도 「오픈소스가 아니라 오픈웨이트」라는 댓글이 달렸다. 정확한 표현은 엔진은 오픈소스, 모델은 조건부 공개 가중치다.
노트북. 블로그는 맥북 프로를 예로 들었고 첫날부터 macOS·윈도·리눅스를 지원한다고 썼다. 저장소 기록은 다르다.
| 플랫폼 | 지원 내용 | 조건 |
|---|---|---|
| 리눅스 | 엔비디아 GPU | CUDA 13. 소스에서 직접 빌드 |
| 윈도 x64 | 엔비디아 GPU | RTX 20·30·40·50 계열, GPU 메모리 16GiB 이상, 시스템 메모리 20GiB 이상, CUDA Toolkit 13 설치 |
| 윈도 Arm64 | 엔비디아 RTX Spark N1X 계열 | 위와 같은 메모리 조건, Arm64용 CUDA Toolkit 13 |
| macOS (애플 실리콘) | Metal | macOS 26 이상. Q3_K 폴더만. NVFP4는 안 된다. 기본 컨텍스트 32,768 |
| iOS·안드로이드 | 미지원 | 전화기는 Edge0-35B만 |
맥 지원은 발표 당일에는 없었다. 깃허브 README의 11월 13일자 공지는 두 모델을 「리눅스 또는 윈도의 엔비디아 GPU 한 장용」이라고 소개했고, 11월 13일에 문서를 대조한 Enjoy의 메모도 맥은 빈칸이라고 정리했다. Metal에서 145B와 120B를 돌리는 코드는 11월 14일에 병합됐고, 그 뒤 릴리스 0.2.0에 맥용 Edge0 Chat 패키지가 추가됐다. 앱은 공증을 받지 않은 임시 서명 상태라 처음 실행할 때 시스템 설정에서 허용해 줘야 한다. 이 기사의 출발점이 된 여러 글이 「맥 미지원」이라고 쓴 것은 11월 13일 기준으로는 맞았고, 11월 16일 기준으로는 낡은 정보다.
그래도 「노트북」에는 물음표가 남는다. Edge0가 공개한 측정 기기는 RTX 5090 D와 RTX 4090(둘 다 24GB짜리 데스크톱용 그래픽카드), RTX Spark N1X, 애플 M2 Ultra다. M2 Ultra는 맥 스튜디오와 맥 프로에 들어가는 칩이고 맥북에는 쓰이지 않는다. 맥북 프로에서 잰 수치는 블로그의 29GB·초당 80토큰뿐인데, 어떤 맥북 프로인지는 적혀 있지 않다. 윈도·리눅스 노트북이라면 GPU 메모리 16GiB 이상인 엔비디아 외장 그래픽이 있어야 하므로 얇은 사무용 노트북은 해당하지 않는다. 저장 공간도 조건이다. 엔진이 SSD에서 전문가와 임베딩 표를 수시로 읽기 때문에 106GB를 빠른 SSD에 둬야 한다.
프론티어급. 블로그는 코딩과 추론이 「프론티어 클라우드 모델에 맞먹는다」고 썼다. 근거는 여섯 가지 벤치마크다.
| 모델 | DeepSWE 1.1 | Terminal-Bench 2.1 | AA-LCR | IFBench | GPQA-Diamond | HLE |
|---|---|---|---|---|---|---|
| Edge0-145B | 64.6 | 86.5 | 79.3 | 80.6 | 90.4 | 35.4 |
| Edge0-120B (깃허브) | 51.3 | 75.3 | 81.0 | 79.3 | 87.4 | 31.0 |
| Edge0-120B (블로그) | 53.6 | 81.3 | 81.0 | 79.3 | 87.4 | 31.0 |
| Qwen3.8-Flash-Next | 58.7 | 83.3 | 79.1 | 81.3 | 91.7 | 35.9 |
| DeepSeek-V4-Flash-0731 | 54.4 | 82.7 | 79.7 | 79.2 | 90.8 | 33.8 |
| Qwen3.8-27B | 42.2 | 73.0 | 82.0 | 79.5 | 89.2 | 30.8 |
| Claude-Opus-4.6 (Max) | 점수 없음 | 78.2 | 78.0 | 62.5 | 91.3 | 40.0 |
굵은 글씨는 열마다 가장 높은 점수다. 블로그는 Terminal-Bench 2.1 점수를 86.52로, 깃허브는 86.5로 적는다. 읽을 때 걸러야 할 것이 네 가지다.
첫째, 전부 자체 평가다. 블로그는 Edge0·Qwen·딥시크·클로드 점수가 모두 Edge0 내부 평가에서 나왔다고 밝혔다. 경쟁 모델의 점수까지 발표 당사자가 매겼다는 뜻이다. 평가 설정과 재현 방법은 기술 보고서와 함께 내겠다고 했다. 둘째, 145B가 1위인 것은 여섯 가운데 코딩 두 종목뿐이다. 나머지 넷에서는 적어도 한 모델에 뒤진다. GPQA-Diamond 90.4는 기반 모델 Qwen(91.7)보다 낮다. 셋째, 여섯 종목 평균은 145B가 72.8, 기반 모델이 71.7로 1.1점 차이다. 블로그가 내세운 것은 점수 우위라기보다 「비슷한 점수를 40% 메모리로」라는 주장인데, 그 40%의 분자가 앞에서 본 29GB이고 분모인 70GB는 블로그 스스로 「추정치이며 측정이 남았다」고 적은 값이다. 넷째, 클라우드 모델 비교 대상은 Claude Opus 4.6이다. Enjoy는 이것이 현행 최신 모델이 아니라고 지적했다.
120B의 점수가 문서마다 다른 것도 걸린다. 블로그 숫자로 평균을 내면 68.9(블로그가 적은 값과 같다), 깃허브 숫자로는 약 67.6이다. Terminal-Bench 2.1에서 6점 차이는 반올림으로 설명되지 않는다.
4. Edge0-145B 사용법, 그리고 남은 것
실행 경로는 하나다. 모델 폴더는 여러 파일로 나뉜 Edge0 전용 형식이고, Edge0의 엔진이 폴더 안 model.json을 읽어 모델을 알아본다. Enjoy는 Ollama나 llama.cpp, LM Studio, vLLM으로는 열 수 없다고 정리했고, 해커뉴스에서도 표준 GGUF 파일 하나가 아니라는 점이 지적됐다. 호스팅 서비스도 없다.
| 단계 | 윈도 | 맥 (애플 실리콘) | 리눅스 |
|---|---|---|---|
| 준비물 | 엔비디아 GPU(16GiB 이상), CUDA Toolkit 13 | macOS 26 이상 | 엔비디아 GPU, CUDA 13, 빌드 도구 |
| 엔진 | 릴리스 0.2.0의 Edge0 Chat (x64 약 276MB) | 릴리스 0.2.0의 Edge0 Chat (약 66MB, 첫 실행 때 허용 필요) | 저장소를 받아 edge0-strata와 edge0-infer 빌드 |
| 모델 | Edge0-145B-q3k 또는 NVFP4 폴더 | Edge0-145B-q3k 폴더만 | Edge0-145B-q3k 또는 NVFP4 폴더 |
| 실행 | 앱에서 폴더 선택, 또는 edge0-infer.exe serve | 앱에서 폴더 선택 | edge0-infer serve --model 폴더 경로 |
| 접속 | 127.0.0.1:8000, 모델 이름 edge0_145b | 같음 | 같음 |
서버는 OpenAI 방식(Chat Completions)과 Anthropic 방식(Messages) 요청에 모두 답한다. 기존 코딩 도구의 모델 주소를 로컬로 돌려 붙일 수 있다는 뜻이다. 145B와 120B에는 serve와 chat 명령만 쓴다. 메모리가 모자라면 시스템 메모리의 전문가 캐시 상한을 정하는 옵션(--resident-budget-gib)과 나머지를 SSD에서 읽는 옵션(--mmap-experts)이 있다. 이 옵션을 쓰면 메모리는 줄고 속도도 줄어든다. 16GiB + 20GiB 시험에서 생성 속도가 99.7에서 36.8로 떨어진 것이 그 예다. 그 밖에 문서가 적은 제약은 이렇다. 동시 요청은 병렬로 처리되지 않고 줄을 선다. 이미지 입력에는 저장소에 없는 별도 구성 요소가 필요하다. 맥에서는 첫 실행 때 모델 폴더에 파일을 하나 쓰므로 폴더가 쓰기 가능해야 한다.
시험해 볼 만한 사람은 좁혀진다. 24GB급 엔비디아 그래픽카드와 넉넉한 시스템 메모리가 있는 데스크톱이면 회사가 공개한 측정 조건과 같다. 맥은 지원이 막 들어온 단계이고 공개된 측정이 M2 Ultra 한 건이다.
| 열린 질문 | 지금 상태 |
|---|---|
| 29GB를 잰 기기와 설정 | 비공개. 「내부 시험」, 「맥북 프로 같은 호환 노트북」이라는 설명뿐 |
| 29GB와 초당 80토큰이 같은 실행인지 | 확인 불가. 저장소 표에는 맞는 행이 없다 |
| 벤치마크 독립 검증 | 없음. 기술 보고서는 예고만 됐다 |
| 120B 점수 불일치 | 블로그와 깃허브가 다른 채로 남아 있다 |
| 최소 요구 사양 | README는 「시험 한도」, 릴리스 노트는 「16GiB·20GiB 이상」으로 서로 다르게 적는다 |
| 맥북 프로 실측 | 공개된 수치 없음 |
| 맥에서 NVFP4 지원 | 미지원. 일정 언급 없음 |
| 1,450억의 내역 | 전문가 846억과 임베딩 표 512억만 공개. 나머지는 뺄셈으로만 알 수 있다 |
| 회사 정보 | 소재지·창업자·투자 내역이 블로그와 저장소에 없다 |
정리하면 이렇다. Edge0-145B는 Qwen3.8-Flash-Next의 전문가 층을 더 작게 다시 짓고, 큰 표는 SSD에, 자주 쓰는 전문가는 GPU에 두는 방식으로 100GB가 넘는 모델을 소비자용 기기에서 돌게 만든 결과물이다. 내려받아 돌려 볼 수 있고 엔진 코드도 열려 있다는 점은 확인된다. 「1,450억이 29GB에」라는 문장은 모델 전체가 아니라 메모리에 머무는 일부를 가리키고, 그 숫자를 잰 조건은 공개되지 않았다. 「오픈소스」는 엔진에만 해당하고, 「프론티어급」은 회사가 스스로 매긴 점수에 기대고 있다.
일부 전문가만 켜는 구조가 왜 메모리를 줄이는지는 Qwen3.8-Flash-Next 사례로 쓴 「MoE(전문가 혼합)란」에, 비트 수를 줄일 때 크기와 품질이 어떻게 바뀌는지는 「모델 양자화란」에 정리했다. 가중치 공개와 오픈소스의 차이는 「오픈웨이트 모델이란」에서, 전화기와 노트북에서 모델을 돌릴 때 걸리는 메모리·전력 한계는 「온디바이스 AI란」에서 다뤘다.
출처
- Edge0 블로그 — Introducing Edge0-145B: Frontier AI Capabilities on Your Own Computer (2026-11-12)
- 깃허브 — Edge0-AI/Edge0 저장소 README (2026-11-15 기준)
- 깃허브 — Edge0 145B·120B 모델 문서 (docs/models/edge0-145b.md)
- 깃허브 — Edge0 릴리스 0.2.0 노트 (윈도·맥 패키지 요구 사양)
- 깃허브 — Edge0 Community Model License 1.0 전문 (2026-11-12)
- 깃허브 — Qwen Community License 1.0 (Edge0 저장소에 원문 그대로 수록)
- 허깅페이스 — Edge0/Edge0-145B-q3k 모델 카드
- 허깅페이스 API — Edge0/Edge0-145B-q3k 파일 목록과 크기
- 허깅페이스 — Qwen/Qwen3.8-Flash-Next 모델 카드
- Enjoy — Edge0-145B 점검 메모 (2026-11-13)
- DEV Community — Edge0-145B: a 145B model that runs on your laptop (2026-11-13)
- FreeAnswers — Edge0-145B (2026-11-15)
- AIbase — Edge0 open-sources Edge0-145B and Edge0-120B (2026-11-13)
- Emergent — Edge0-145B open source 145B device model 29GB (2026-11-13)
- 해커뉴스 — Edge0-145B: Frontier AI Capabilities on Your Own Computer (2026-11-12 게시)