로컬 LLM 관련 기사 1건을 모았습니다. 기사 12건이 모이면 이 주제의 검색에서 사이트 전체가 올라갑니다.
씨앗 · 1건
핵심은 메모리 — 파라미터 하나당 비트 수를 줄이는 양자화가 30B급을 개인 기기에 넣는다
