#로컬 AI
로컬 AI 관련 기사 3건을 모았습니다. 기사 12건이 모이면 이 주제의 검색에서 사이트 전체가 올라갑니다.
시간순 흐름
-
llama.cpp란 — Ollama·LM Studio 밑에서 도는 엔진
-
오픈웨이트 모델이란 — 오픈소스와 다른 점, 1조 파라미터를 받아도 못 돌리는 이유
-
MoE(전문가 혼합)란 — 1250억 파라미터 AI가 게임용 GPU 한 장에서 도는 이유
전체 기사
-
테크 · 19분llama.cpp란 — Ollama·LM Studio 밑에서 도는 엔진
뜻 — GGUF 파일에 담긴 AI 모델을 CPU·GPU에서 실행하는 C/C++ 엔진. Ollama와 LM Studio가 이 위에서 돈다
-
테크 · 4분오픈웨이트 모델이란 — 오픈소스와 다른 점, 1조 파라미터를 받아도 못 돌리는 이유
정의 — 학습된 가중치를 내려받아 직접 돌릴 수 있게 공개한 모델. 데이터·코드 공개는 별개
-
테크 · 3분MoE(전문가 혼합)란 — 1250억 파라미터 AI가 게임용 GPU 한 장에서 도는 이유
구조 — 작은 '전문가' 여럿 + 토큰마다 몇 개만 고르는 라우터. 전체는 크게, 계산은 작게