본문으로 건너뛰기
TEN Brief 하루 열 건, 확인된 것만 2026.11.16 EN

This article is also available in English →

테크 · 16분 · 핫토픽

Edge0-145B 사양 — 1,450억 파라미터가 29GB? 내려받는 파일은 106GB

Edge0 released Edge0-145B on November 12, 2026, calling it the first open-source 145-billion-parameter on-device model, with 29GB peak memory on a laptop. The repository tells a narrower story: the Q3_K download is about 106GB, Edge0's own measured run used 23.14 GiB of GPU memory plus 31.28 GiB of system RAM, the weights carry a custom license with commercial carve-outs on top of Qwen's, Mac support was merged two days after launch, and every benchmark is Edge0's own.

Edge0-145B는 Edge0가 2026년 11월 12일 공개한 총 1,450억 파라미터 모델이다. 토큰 하나에 약 101억 개만 쓰는 전문가 혼합 구조이고, 알리바바 Qwen3.8-Flash-Next에서 파생됐다. 회사 블로그는 노트북에서 최대 메모리 29GB, 생성 초당 80토큰 이상이라고 적었지만 측정 기기와 조건은 공개하지 않았다. 저장소에 실린 실측은 RTX 5090 D에서 GPU 메모리 23.14GiB에 시스템 메모리 31.28GiB다. 내려받는 Q3_K 폴더는 약 106GB다. 엔진 코드는 Apache 2.0이지만 가중치는 상업 제공을 제한하는 자체 라이선스이고, 벤치마크는 모두 회사 자체 평가다.

아침 햇살이 드는 창가 책상에 열린 노트북과 그래픽카드가 보이는 소형 데스크톱이 나란히 놓여 있고, 뒷모습의 사람이 키보드에 손을 뻗고 있다

3줄 요약

  • 산수 — 1,450억 개를 통째로 29GB에 넣으려면 파라미터당 1.6비트여야 한다. 실제 파일은 전문가 묶음 40GB에 임베딩 표 51GB, 합쳐 약 106GB다
  • 조건 — 리눅스·윈도는 엔비디아 GPU와 CUDA 13, 맥은 11월 14일에야 Q3_K 빌드만 지원이 들어갔다. 29GB를 잰 기기는 공개되지 않았다
  • 라이선스와 점수 — 가중치는 Edge0 Community Model License 1.0에 Qwen 라이선스가 겹친다. 벤치마크 6종은 전부 자체 평가이고 독립 검증은 없다

핵심 질문

Edge0-145B 사양
**총 1,450억 파라미터, 토큰당 활성 약 101억 개, 48층에 층마다 전문가 512개를 둔 전문가 혼합 모델이다. 알리바바 Qwen3.8-Flash-Next에서 파생됐다.** | 항목 | 내용 | 출처 | |---|---|---| | 총 파라미터 | 1,450억 (145B) | 회사 블로그·모델 카드 | | 토큰당 활성 | 101억2천만 (10.12B) | 모델 카드 | | 구조 | 48층, 층당 전문가 512개, 토큰당 10개 선택 + 공유 1개 | 모델 카드 | | 기반 모델 | Qwen3.8-Flash-Next | 깃허브·허깅페이스 | | 컨텍스트 | 256K (맥 기본 설정은 32,768) | 모델 문서 | | 빌드 | Q3_K, NVFP4 두 종 | 깃허브 | | 가중치 크기 | Q3_K 40.81GiB, NVFP4 47.79GiB (임베딩 표 제외) | 깃허브 | | 내려받는 폴더 | Q3_K 약 106GB (98.98GiB) | 허깅페이스 파일 목록 합산 | | 가중치 라이선스 | Edge0 Community Model License 1.0 | 허깅페이스 |
Edge0-145B 사용법
**Edge0 자체 엔진으로만 돈다. 윈도와 맥은 Edge0 Chat 앱을 받고, 리눅스는 저장소를 받아 직접 빌드한 뒤 모델 폴더를 지정해 실행한다.** | 단계 | 할 일 | |---|---| | 1. 기기 확인 | 리눅스·윈도: 엔비디아 GPU와 CUDA 13. 맥: 애플 실리콘, macOS 26 이상 | | 2. 저장 공간 | Q3_K 폴더 약 106GB. SSD에 둔다 | | 3. 엔진 | 윈도·맥은 깃허브 릴리스 0.2.0의 Edge0 Chat, 리눅스는 edge0-strata와 edge0-infer를 빌드 | | 4. 모델 | 허깅페이스 Edge0/Edge0-145B-q3k 폴더를 그대로 내려받는다. 맥은 Q3_K만 된다 | | 5. 실행 | edge0-infer serve --model 폴더 경로. 대화형은 chat | | 6. 연결 | 127.0.0.1:8000, 모델 이름 edge0_145b. OpenAI·Anthropic 호환 API |
Edge0-145B 오픈소스 맞나
**엔진 코드는 오픈소스가 맞다. 가중치는 아니다. 상업 제공 세 가지를 막는 자체 라이선스에 Qwen 라이선스가 함께 적용된다.** | 대상 | 라이선스 | 상업 이용 | |---|---|---| | 프레임워크 코드 | Apache 2.0 | 자유 | | edge0-strata 엔진 | MIT (Strata 포크) | 자유 | | Edge0 가중치 기여분 | Edge0 Community Model License 1.0 | 모델 판매, 유료 추론 서비스, 독립 코딩·사무 보조 제품은 서면 허가 필요 | | Qwen 유래 부분 | Qwen Community License 1.0 | 모델 서비스·AI 업무 보조 사업자는 Qwen의 별도 라이선스 필요 | | 생성 결과물 | 두 라이선스 모두 제한 없음 | 판매 가능 |

Edge0가 2026년 11월 12일 「노트북에서 도는 1,450억 파라미터 오픈소스 모델」이라며 Edge0-145B를 내놓았다. 숫자를 뜯어보면 29GB에 들어가는 것은 모델 전체가 아니라 그때그때 올려 둔 일부다. 회사 블로그는 최대 메모리 29GB, 프롬프트 처리 초당 1,100토큰 이상, 생성 초당 80토큰 이상이라고 적었다. 같은 회사의 깃허브 저장소와 허깅페이스 모델 카드에는 다른 숫자가 있다. 내려받는 폴더는 약 106GB이고, 회사가 직접 잰 실행 한 건은 GPU 메모리 23.14GiB에 시스템 메모리 31.28GiB를 썼다.

발표문의 세 단어, 「오픈소스」「노트북」「프론티어급」은 각각 조건이 붙는다. 엔진 코드는 Apache 2.0이지만 가중치는 상업 제공을 제한하는 자체 라이선스다. 맥 지원은 발표 이틀 뒤에 저장소에 들어갔고 한 가지 빌드만 된다. 벤치마크는 전부 회사가 스스로 매긴 점수다. 출처마다 숫자가 어긋나는 곳이 많아, 이 기사는 어느 문서가 무엇이라고 적었는지를 표로 나란히 놓는다.

1. 무엇이 나왔나 — 같은 회사 문서끼리도 숫자가 다르다

Edge0는 Edge0-145B와 Edge0-120B 두 모델, 추론 엔진 edge0-infer와 edge0-strata, 데스크톱 앱 Edge0 Chat을 함께 공개했다. 가중치는 허깅페이스에 Q3_K와 NVFP4 두 가지 빌드로 올라와 있다. 9월에 나온 전화기용 Edge0-35B의 후속이다.

모델 카드가 적은 구조는 이렇다.

항목Edge0-145BEdge0-120B
총 파라미터1,450억1,200억
토큰당 활성101억2천만86억4천만
층 수4848
층당 전문가512개 (10개 선택 + 공유 1개)512개 (10개 선택 + 공유 1개)
전문가 묶음846억, 잠재 폭 1,792604억, 잠재 폭 1,280
n-gram 임베딩 표512억, 8비트, SSD에서 읽음512억, 8비트, SSD에서 읽음
가중치 크기 (Q3_K / NVFP4)40.81GiB / 47.79GiB27.98GiB / 32.96GiB
컨텍스트256K256K

전문가 혼합(MoE)은 토큰 하나를 처리할 때 전체 가운데 일부 전문가만 켜는 구조다. Edge0가 붙인 이름은 잠재 MoE다. 토큰을 좁은 폭(1,792)으로 눌러서 전문가에게 보내고, 결과를 다시 원래 폭(2,560)으로 편다. 전문가 한 개가 163만 바이트짜리 고정 크기 기록이 되고, 엔진은 자주 쓰는 수천 개만 GPU에 두고 나머지를 시스템 메모리나 SSD에서 흘려 넣는다.

문제는 이 발표를 전한 글들이, 그리고 Edge0 자신의 문서들이 서로 다른 말을 한다는 점이다.

쟁점회사 블로그 (11월 12일)깃허브·허깅페이스다른 매체
모델의 출발점처음부터 온디바이스 구조로 학습. Qwen은 비교 대상으로만 등장Qwen3.8-Flash-Next에서 파생. 전문가 층을 다시 짓고 후속 학습AIbase는 처음부터 학습했다고 전했고, Enjoy·DEV는 Qwen 파생이라고 적었다
메모리최대 29GB (한 문단에는 28GB)23.14GiB + 31.28GiB 실측. 16GiB + 20GiB는 시험 한도릴리스 노트는 GPU 16GiB·시스템 20GiB 「이상」
속도프롬프트 1,100+, 생성 80+ 토큰/초기기별 표. 맥 M2 Ultra 생성 60.9, RTX 5090 D 99.7DEV는 48GB 맥북 프로 수치로 소개
맥 지원첫날부터 macOS와 애플 M 시리즈11월 13일 공지는 엔비디아 GPU만. 11월 14일 Metal 지원 병합, Q3_K만Enjoy(11월 13일)는 맥 미지원으로 정리
라이선스「오픈소스」라고만 표기코드 Apache 2.0, 가중치는 자체 라이선스 + Qwen 라이선스AIbase·Emergent는 라이선스 언급 없음
120B 점수DeepSWE 53.6, Terminal-Bench 81.351.3, 75.3Enjoy·FreeAnswers가 불일치를 지적
공개 날짜11월 12일README 공지는 11월 13일대부분 11월 12일
허깅페이스 저장소NVFP4 저장소를 안내Q3_K와 NVFP4 둘 다DEV는 q3k 저장소를 안내

출발점에 관한 두 설명은 겉보기만큼 정면충돌은 아니다. 블로그의 표현은 「온디바이스 구조로 처음부터 학습한다, 클라우드 모델을 나중에 압축하거나 가지치기하지 않는다」이다. 모델 카드는 더 구체적이다. Qwen3.8-Flash-Next의 48개 층 전부에서 전문가 층을 잠재 MoE로 바꿔 끼웠고, 구조가 바뀌었으므로 자체 데이터로 오래 후속 학습했으며, 4비트 상태로 학습했다고 적었다. 요약하면 Qwen의 뼈대를 가져와 전문가 층을 갈아 끼우고 다시 학습한 파생 모델이다. 블로그만 읽은 매체가 「처음부터 학습」으로 옮긴 것은 블로그가 Qwen과의 관계를 적지 않았기 때문이다. 허깅페이스 메타데이터의 기반 모델 칸에도 Qwen/Qwen3.8-Flash-Next가 적혀 있다.

2. 145B가 29GB가 되는 산수

파라미터 수에 파라미터당 비트 수를 곱하고 8로 나누면 바이트가 나온다. 1,450억 개를 통째로 메모리에 올린다고 치고 계산하면 아래와 같다.

파라미터당 비트계산필요한 크기
16비트 (학습 때 흔히 쓰는 정밀도)1,450억 × 16 ÷ 8290GB
8비트1,450억 × 8 ÷ 8145GB
4비트1,450억 × 4 ÷ 872.5GB
3.44비트 (Q3_K 표기값)1,450억 × 3.44 ÷ 8약 62.4GB
거꾸로: 29GB에 전부 넣으려면29GB × 8 ÷ 1,450억파라미터당 1.6비트

4비트로 줄여도 72.5GB다. 29GB에 전부 넣으려면 파라미터 하나를 1.6비트로 저장해야 하는데, Edge0가 배포한 어떤 빌드도 그렇게 낮지 않다. 그러니 29GB는 모델 전체의 크기가 아니다. 한 시점에 메모리에 올라가 있는 부분의 크기다.

실제 파일을 보면 구조가 드러난다. 허깅페이스 Edge0-145B-q3k 저장소의 파일 크기를 합치면 다음과 같다.

구성파라미터저장 정밀도파일 크기평소 있는 곳
전문가 묶음 (experts.bin)846억평균 약 3.8비트40.08GB (37.32GiB)자주 쓰는 것은 GPU, 나머지는 시스템 메모리나 SSD
n-gram 임베딩 표 (ple-fp8.gguf)512억8비트51.20GB (47.68GiB)SSD. 필요한 줄만 읽는다
나머지 (주의 층·공유 부분·초안 예측 층 등)약 92억 (뺄셈으로 구한 값)4~16비트 혼합약 15GBGPU와 시스템 메모리
폴더 전체1,450억—106.28GB (98.98GiB)디스크

전문가 묶음의 평균 3.8비트는 모델 카드 설명과 맞아떨어진다. Q3_K 빌드는 균일한 3비트가 아니다. 전문가 하나를 이루는 행렬 셋 가운데 둘은 3.44비트, 하나는 4.5비트로 저장한다. (3.44 × 2 + 4.5) ÷ 3 = 약 3.79비트다. 846억 × 3.79 ÷ 8은 약 40.1GB로, 실제 파일 크기 40.08GB와 일치한다.

여기서 두 가지가 보인다. 첫째, 1,450억 가운데 512억은 임베딩 표다. 이 표는 8비트로 51GB를 차지하지만 메모리에 통째로 올리지 않고 SSD에 둔 채 필요한 줄만 읽는다. 블로그가 「약 48GB의 어휘 데이터가 SSD에 있다」고 쓴 것이 이것이다(51.2GB는 47.68GiB다). 총합에서 임베딩 표를 빼면 실제 연산을 하는 가중치는 약 938억 개이고, Edge0가 Q3_K 가중치 크기로 적은 40.81GiB(약 43.8GB)로 나누면 파라미터당 약 3.7비트가 된다. 둘째, 그 43.8GB도 29GB보다 크다. 전문가 묶음을 다 올리지 않고 일부를 SSD에서 읽을 때만 29GB 아래로 내려간다.

Edge0가 저장소에 직접 적어 둔 메모리 수치와 블로그 수치를 나란히 놓으면 차이가 분명하다.

조건GPU 메모리시스템 메모리합계생성 속도출처
RTX 5090 D 24GB, Q3_K, 전문가 전부 상주23.14GiB31.28GiB54.42GiB초당 99.7토큰깃허브 README
RTX 5090 D 24GB, NVFP4, 전문가 전부 상주23.25GiB38.27GiB61.52GiB초당 79.6토큰깃허브 README
같은 카드를 16GiB + 20GiB로 묶은 시험16GiB20GiB36GiB초당 36.8토큰깃허브 README
애플 M2 Ultra, Q3_K통합 메모리 (사용량 미기재)——초당 60.9토큰깃허브 README
블로그 발표값구분 없음구분 없음29GB초당 80토큰 이상회사 블로그

저장소에서 가장 빡빡하게 묶은 시험도 합계 36GiB다. 그 조건의 생성 속도는 초당 36.8토큰으로, 블로그가 내건 80토큰의 절반에 못 미친다. 블로그의 초당 80토큰에 가장 가까운 행은 RTX 5090 D의 NVFP4 빌드(79.6)인데, 그 실행은 메모리를 합쳐 61GiB 넘게 썼다. 29GB와 초당 80토큰이 같은 실행에서 나온 값이라는 근거는 공개 자료에 없다. 블로그는 숫자의 출처를 「내부 시험」이라고만 적었고, 기기는 「맥북 프로 같은 호환 노트북」이라고만 했다.

블로그 안에서도 설명이 엇갈린다. 최대 메모리가 29GB라고 쓴 같은 글이 「약 40GB의 전문가 라이브러리가 시스템 메모리에 있다」고 적었다. 해커뉴스에서도 이 대목이 지적됐다. 저장소 문서는 16GiB + 20GiB가 「시험 한도이지 최소 요구 사양이 아니다」라고 적었는데, 윈도용 릴리스 노트는 GPU 메모리 16GiB 이상, 시스템 메모리 20GiB 이상을 요구 사양으로 적었다.

기반 모델과 비교하면 Edge0가 실제로 줄인 것이 무엇인지 보인다.

항목Qwen3.8-Flash-NextEdge0-145BEdge0-120B
선택형 전문가 파라미터1,208억846억 (−30%)604억 (−50%)
토큰당 전문가 파라미터23억6천만16억5천만11억8천만
전문가 묶음 크기 (NVFP4)63.2GiB44.3GiB31.6GiB
16GiB + 20GiB 조건 생성 속도초당 18.5토큰초당 36.8토큰초당 62.4토큰

모두 Edge0 모델 카드의 수치다. 이름의 숫자는 커졌지만(Qwen은 스스로 1,250억이라 부른다) 전문가 파라미터는 30% 줄었다. Qwen 모델 카드는 언어 모델 1,250억에 n-gram 임베딩 510억과 MTP 40억을 따로 적는다. Edge0의 1,450억은 임베딩 표를 포함해야 맞는 합계다. 같은 방식으로 세면 Qwen 쪽은 약 1,800억이 된다. 「145B」는 기반 모델보다 큰 모델이라는 뜻이 아니라, 세는 범위가 다른 숫자다. 다만 Edge0가 총합의 내역을 표로 밝히지 않았으므로 이 해석은 공개된 두 항목을 뺀 계산에 근거한다.

3. 세 주장 점검 — 오픈소스, 노트북, 프론티어급

오픈소스. 블로그는 Edge0-145B를 「세계 최초의 1,450억 파라미터 오픈소스 온디바이스 모델」이라고 불렀다. 코드와 가중치의 라이선스는 다르다.

대상라이선스허용별도 허가가 필요한 것
프레임워크 코드 (edge0-infer 등)Apache 2.0상업 이용 포함 전부없음
edge0-strata 엔진MIT상업 이용 포함 전부없음
Edge0가 만든 가중치 기여분Edge0 Community Model License 1.0 (2026년 11월 12일자)개인 이용, 연구·교육, 수정, 비상업 공유, 사내 이용, 결과물의 상업 이용모델 판매와 유료 배포, 요금·구독·광고로 운영하는 추론·미세조정 서비스, 독립된 상업용 코딩·사무 보조 제품(기기에서 돌려도 해당)
Qwen에서 온 부분Qwen Community License 1.0광범위한 이용모델 서비스 또는 AI 업무 보조 사업을 하는 회사는 상업 이용 전에 Qwen의 별도 라이선스 필요

Edge0 라이선스는 조건이 너그러운 편이다. 수정본을 공개할 의무가 없고, 매출이나 이용자 수 기준도 없다. 회사 직원이나 프리랜서가 이 모델로 돈 받는 일을 해도 된다. 막힌 것은 모델 자체를 팔거나, 모델 접근을 서비스로 팔거나, 이 모델로 코딩 보조·사무 보조 제품을 만들어 파는 경우다. 그리고 Edge0의 허가는 Qwen의 허가를 대신하지 않는다. 라이선스 2조가 「Edge0의 허가는 Qwen의 허가가 아니다」라고 명시한다. Qwen 라이선스에는 월간 이용자 1억 명 또는 월 매출 2,000만 달러를 넘는 상업 제품은 화면에 모델 이름을 표시하라는 조항도 있다.

특정 사업 분야를 막는 라이선스는 통상의 오픈소스 정의에 들지 않는다. 해커뉴스 토론에서도 「오픈소스가 아니라 오픈웨이트」라는 댓글이 달렸다. 정확한 표현은 엔진은 오픈소스, 모델은 조건부 공개 가중치다.

노트북. 블로그는 맥북 프로를 예로 들었고 첫날부터 macOS·윈도·리눅스를 지원한다고 썼다. 저장소 기록은 다르다.

플랫폼지원 내용조건
리눅스엔비디아 GPUCUDA 13. 소스에서 직접 빌드
윈도 x64엔비디아 GPURTX 20·30·40·50 계열, GPU 메모리 16GiB 이상, 시스템 메모리 20GiB 이상, CUDA Toolkit 13 설치
윈도 Arm64엔비디아 RTX Spark N1X 계열위와 같은 메모리 조건, Arm64용 CUDA Toolkit 13
macOS (애플 실리콘)MetalmacOS 26 이상. Q3_K 폴더만. NVFP4는 안 된다. 기본 컨텍스트 32,768
iOS·안드로이드미지원전화기는 Edge0-35B만

맥 지원은 발표 당일에는 없었다. 깃허브 README의 11월 13일자 공지는 두 모델을 「리눅스 또는 윈도의 엔비디아 GPU 한 장용」이라고 소개했고, 11월 13일에 문서를 대조한 Enjoy의 메모도 맥은 빈칸이라고 정리했다. Metal에서 145B와 120B를 돌리는 코드는 11월 14일에 병합됐고, 그 뒤 릴리스 0.2.0에 맥용 Edge0 Chat 패키지가 추가됐다. 앱은 공증을 받지 않은 임시 서명 상태라 처음 실행할 때 시스템 설정에서 허용해 줘야 한다. 이 기사의 출발점이 된 여러 글이 「맥 미지원」이라고 쓴 것은 11월 13일 기준으로는 맞았고, 11월 16일 기준으로는 낡은 정보다.

그래도 「노트북」에는 물음표가 남는다. Edge0가 공개한 측정 기기는 RTX 5090 D와 RTX 4090(둘 다 24GB짜리 데스크톱용 그래픽카드), RTX Spark N1X, 애플 M2 Ultra다. M2 Ultra는 맥 스튜디오와 맥 프로에 들어가는 칩이고 맥북에는 쓰이지 않는다. 맥북 프로에서 잰 수치는 블로그의 29GB·초당 80토큰뿐인데, 어떤 맥북 프로인지는 적혀 있지 않다. 윈도·리눅스 노트북이라면 GPU 메모리 16GiB 이상인 엔비디아 외장 그래픽이 있어야 하므로 얇은 사무용 노트북은 해당하지 않는다. 저장 공간도 조건이다. 엔진이 SSD에서 전문가와 임베딩 표를 수시로 읽기 때문에 106GB를 빠른 SSD에 둬야 한다.

프론티어급. 블로그는 코딩과 추론이 「프론티어 클라우드 모델에 맞먹는다」고 썼다. 근거는 여섯 가지 벤치마크다.

모델DeepSWE 1.1Terminal-Bench 2.1AA-LCRIFBenchGPQA-DiamondHLE
Edge0-145B64.686.579.380.690.435.4
Edge0-120B (깃허브)51.375.381.079.387.431.0
Edge0-120B (블로그)53.681.381.079.387.431.0
Qwen3.8-Flash-Next58.783.379.181.391.735.9
DeepSeek-V4-Flash-073154.482.779.779.290.833.8
Qwen3.8-27B42.273.082.079.589.230.8
Claude-Opus-4.6 (Max)점수 없음78.278.062.591.340.0

굵은 글씨는 열마다 가장 높은 점수다. 블로그는 Terminal-Bench 2.1 점수를 86.52로, 깃허브는 86.5로 적는다. 읽을 때 걸러야 할 것이 네 가지다.

첫째, 전부 자체 평가다. 블로그는 Edge0·Qwen·딥시크·클로드 점수가 모두 Edge0 내부 평가에서 나왔다고 밝혔다. 경쟁 모델의 점수까지 발표 당사자가 매겼다는 뜻이다. 평가 설정과 재현 방법은 기술 보고서와 함께 내겠다고 했다. 둘째, 145B가 1위인 것은 여섯 가운데 코딩 두 종목뿐이다. 나머지 넷에서는 적어도 한 모델에 뒤진다. GPQA-Diamond 90.4는 기반 모델 Qwen(91.7)보다 낮다. 셋째, 여섯 종목 평균은 145B가 72.8, 기반 모델이 71.7로 1.1점 차이다. 블로그가 내세운 것은 점수 우위라기보다 「비슷한 점수를 40% 메모리로」라는 주장인데, 그 40%의 분자가 앞에서 본 29GB이고 분모인 70GB는 블로그 스스로 「추정치이며 측정이 남았다」고 적은 값이다. 넷째, 클라우드 모델 비교 대상은 Claude Opus 4.6이다. Enjoy는 이것이 현행 최신 모델이 아니라고 지적했다.

120B의 점수가 문서마다 다른 것도 걸린다. 블로그 숫자로 평균을 내면 68.9(블로그가 적은 값과 같다), 깃허브 숫자로는 약 67.6이다. Terminal-Bench 2.1에서 6점 차이는 반올림으로 설명되지 않는다.

4. Edge0-145B 사용법, 그리고 남은 것

실행 경로는 하나다. 모델 폴더는 여러 파일로 나뉜 Edge0 전용 형식이고, Edge0의 엔진이 폴더 안 model.json을 읽어 모델을 알아본다. Enjoy는 Ollama나 llama.cpp, LM Studio, vLLM으로는 열 수 없다고 정리했고, 해커뉴스에서도 표준 GGUF 파일 하나가 아니라는 점이 지적됐다. 호스팅 서비스도 없다.

단계윈도맥 (애플 실리콘)리눅스
준비물엔비디아 GPU(16GiB 이상), CUDA Toolkit 13macOS 26 이상엔비디아 GPU, CUDA 13, 빌드 도구
엔진릴리스 0.2.0의 Edge0 Chat (x64 약 276MB)릴리스 0.2.0의 Edge0 Chat (약 66MB, 첫 실행 때 허용 필요)저장소를 받아 edge0-strata와 edge0-infer 빌드
모델Edge0-145B-q3k 또는 NVFP4 폴더Edge0-145B-q3k 폴더만Edge0-145B-q3k 또는 NVFP4 폴더
실행앱에서 폴더 선택, 또는 edge0-infer.exe serve앱에서 폴더 선택edge0-infer serve --model 폴더 경로
접속127.0.0.1:8000, 모델 이름 edge0_145b같음같음

서버는 OpenAI 방식(Chat Completions)과 Anthropic 방식(Messages) 요청에 모두 답한다. 기존 코딩 도구의 모델 주소를 로컬로 돌려 붙일 수 있다는 뜻이다. 145B와 120B에는 serve와 chat 명령만 쓴다. 메모리가 모자라면 시스템 메모리의 전문가 캐시 상한을 정하는 옵션(--resident-budget-gib)과 나머지를 SSD에서 읽는 옵션(--mmap-experts)이 있다. 이 옵션을 쓰면 메모리는 줄고 속도도 줄어든다. 16GiB + 20GiB 시험에서 생성 속도가 99.7에서 36.8로 떨어진 것이 그 예다. 그 밖에 문서가 적은 제약은 이렇다. 동시 요청은 병렬로 처리되지 않고 줄을 선다. 이미지 입력에는 저장소에 없는 별도 구성 요소가 필요하다. 맥에서는 첫 실행 때 모델 폴더에 파일을 하나 쓰므로 폴더가 쓰기 가능해야 한다.

시험해 볼 만한 사람은 좁혀진다. 24GB급 엔비디아 그래픽카드와 넉넉한 시스템 메모리가 있는 데스크톱이면 회사가 공개한 측정 조건과 같다. 맥은 지원이 막 들어온 단계이고 공개된 측정이 M2 Ultra 한 건이다.

열린 질문지금 상태
29GB를 잰 기기와 설정비공개. 「내부 시험」, 「맥북 프로 같은 호환 노트북」이라는 설명뿐
29GB와 초당 80토큰이 같은 실행인지확인 불가. 저장소 표에는 맞는 행이 없다
벤치마크 독립 검증없음. 기술 보고서는 예고만 됐다
120B 점수 불일치블로그와 깃허브가 다른 채로 남아 있다
최소 요구 사양README는 「시험 한도」, 릴리스 노트는 「16GiB·20GiB 이상」으로 서로 다르게 적는다
맥북 프로 실측공개된 수치 없음
맥에서 NVFP4 지원미지원. 일정 언급 없음
1,450억의 내역전문가 846억과 임베딩 표 512억만 공개. 나머지는 뺄셈으로만 알 수 있다
회사 정보소재지·창업자·투자 내역이 블로그와 저장소에 없다

정리하면 이렇다. Edge0-145B는 Qwen3.8-Flash-Next의 전문가 층을 더 작게 다시 짓고, 큰 표는 SSD에, 자주 쓰는 전문가는 GPU에 두는 방식으로 100GB가 넘는 모델을 소비자용 기기에서 돌게 만든 결과물이다. 내려받아 돌려 볼 수 있고 엔진 코드도 열려 있다는 점은 확인된다. 「1,450억이 29GB에」라는 문장은 모델 전체가 아니라 메모리에 머무는 일부를 가리키고, 그 숫자를 잰 조건은 공개되지 않았다. 「오픈소스」는 엔진에만 해당하고, 「프론티어급」은 회사가 스스로 매긴 점수에 기대고 있다.

일부 전문가만 켜는 구조가 왜 메모리를 줄이는지는 Qwen3.8-Flash-Next 사례로 쓴 「MoE(전문가 혼합)란」에, 비트 수를 줄일 때 크기와 품질이 어떻게 바뀌는지는 「모델 양자화란」에 정리했다. 가중치 공개와 오픈소스의 차이는 「오픈웨이트 모델이란」에서, 전화기와 노트북에서 모델을 돌릴 때 걸리는 메모리·전력 한계는 「온디바이스 AI란」에서 다뤘다.

출처

  1. Edge0 블로그 — Introducing Edge0-145B: Frontier AI Capabilities on Your Own Computer (2026-11-12)
  2. 깃허브 — Edge0-AI/Edge0 저장소 README (2026-11-15 기준)
  3. 깃허브 — Edge0 145B·120B 모델 문서 (docs/models/edge0-145b.md)
  4. 깃허브 — Edge0 릴리스 0.2.0 노트 (윈도·맥 패키지 요구 사양)
  5. 깃허브 — Edge0 Community Model License 1.0 전문 (2026-11-12)
  6. 깃허브 — Qwen Community License 1.0 (Edge0 저장소에 원문 그대로 수록)
  7. 허깅페이스 — Edge0/Edge0-145B-q3k 모델 카드
  8. 허깅페이스 API — Edge0/Edge0-145B-q3k 파일 목록과 크기
  9. 허깅페이스 — Qwen/Qwen3.8-Flash-Next 모델 카드
  10. Enjoy — Edge0-145B 점검 메모 (2026-11-13)
  11. DEV Community — Edge0-145B: a 145B model that runs on your laptop (2026-11-13)
  12. FreeAnswers — Edge0-145B (2026-11-15)
  13. AIbase — Edge0 open-sources Edge0-145B and Edge0-120B (2026-11-13)
  14. Emergent — Edge0-145B open source 145B device model 29GB (2026-11-13)
  15. 해커뉴스 — Edge0-145B: Frontier AI Capabilities on Your Own Computer (2026-11-12 게시)

검증

발행
최종 수정
교차 확인
서로 다른 출처 15건을 대조했다.
미검증
  • 최대 메모리 29GB, 프롬프트 처리 초당 1,100토큰 이상, 생성 초당 80토큰 이상, 전력 약 120W는 Edge0 블로그의 자체 발표다. 측정에 쓴 기기 이름, 빌드(Q3_K인지 NVFP4인지), 메모리 옵션이 공개되지 않았다. 블로그는 호환 노트북의 예로 맥북 프로를 들었을 뿐이고, 같은 글의 다른 문단에는 28GB로 적혀 있다. 저장소의 속도 표에는 이 숫자와 정확히 맞는 행이 없다.
  • 145B의 내역(전문가 묶음 846억 + 임베딩 표 512억 + 나머지 약 92억)에서 나머지 약 92억은 총합에서 공개된 두 항목을 뺀 본지 계산이다. Edge0는 총 1,450억의 구성 내역을 표로 공개하지 않았다. 임베딩 표 512억이 총합에 포함된다는 것도 이 뺄셈에 근거한 추정이다.
  • Qwen3.8-Flash-Next는 모델 카드에 언어 모델 1,250억(활성 60억)에 n-gram 임베딩 510억, MTP 40억을 따로 적는다. Edge0의 활성 101억2천만과 Qwen의 활성 60억이 같은 기준으로 센 값인지는 확인하지 못했다.
  • 벤치마크 6종 점수는 모두 Edge0 내부 평가다. 비교 대상인 Qwen·딥시크·클로드 점수도 Edge0가 직접 돌린 값이라고 블로그가 밝혔다. 평가 설정과 재현 방법은 기술 보고서와 함께 내겠다고 했으나 보고서는 확인하지 못했다. 독립 기관의 재현 결과는 찾지 못했다.
  • Edge0-120B의 DeepSWE 1.1과 Terminal-Bench 2.1 점수는 블로그(53.6, 81.3)와 깃허브(51.3, 75.3)가 다르다. 어느 쪽이 맞는지 회사 설명은 없다.
  • 맥 지원 시점은 깃허브 커밋 기록(2026-11-14, 병합 요청 214번)과 릴리스 노트로 확인했다. 릴리스 0.2.0의 게시 시각은 11월 11일로 찍혀 있으나 본문이 11월 14일 병합분을 언급하므로 나중에 고쳐진 것으로 보인다. 11월 13일 시점에 맥이 지원 목록에 없었다는 것은 Enjoy의 11월 13일 메모와 깃허브 README의 11월 13일자 공지 문구로 확인했다.
  • 맥북 프로에서 잰 속도·메모리 수치는 어디에도 없다. 저장소의 맥 측정값은 애플 M2 Ultra 한 줄뿐이고 해당 기기의 메모리 용량은 적혀 있지 않다.
  • Ollama·llama.cpp·LM Studio·vLLM으로 불러올 수 없다는 내용은 Enjoy 메모와 해커뉴스 댓글에 근거했다. 직접 실행해 확인하지 않았다. 허깅페이스 화면에 뜨는 범용 실행 명령 예시는 모델 카드 원문에 없는 내용이다.
  • 학습 데이터와 학습 코드가 공개됐는지는 저장소에서 확인하지 못했다. 공개된 것으로 확인한 범위는 추론 엔진 코드와 가중치다.
  • Edge0의 소재지·창업자·투자 유치 내역은 회사 블로그와 저장소 어디에서도 확인하지 못했다. 생산 기기 500만 대 이상, 고객사 11만 곳 이상은 블로그의 자체 수치다.
  • 해커뉴스 점수(355점)와 댓글 수(105개)는 2026년 11월 16일 조회 시점 값이다.
  • 같은 예산에서 Qwen3.8-Flash-Next보다 생성이 2.0배 빠르다는 비교(초당 18.5토큰 대 36.8토큰)는 Edge0 모델 카드의 자체 측정이다.
작성
발행 전 사람이 검수했다. 수집·교차확인·재작성 절차는 편집 원칙.

하루 열 건, 아침에 한 번

3줄 요약만 보내고 전문은 사이트에서 읽습니다. 하단에서 한 번의 클릭으로 언제든 해지할 수 있습니다.

관련