本気のローカル LLM 界隈では 32GB 程度の RAM (ユニファイドメモリ) はジョークです。全てを GPU に割り当てられないので、本当に大規模 (70B 以上) な LLM には 32GB では足りません。ボク … 続きを読む 32GB RAM の Mac でローカル LLM をいい感じに動かす (日本語 LLM もあり)