Ollamaのメンタルモデルで、LM Studioを導入する。 上からやれば、LM Studioが動く。Gemma 4 12Bが動くとは、限らない。 モチベーション Gemma 4 12BをLinuxで動かしたい。 Ollamaで、12Bは、検証時点でMLX(Apple Silicon専用に設計されたオープンソースMLフレームワーク)モデルしかないため、LM Studioを導入する。 環境 $ cat /etc/redhat-release AlmaLinux release 10.2 (Lavender Lion) $ CPU: Intel Core i5第 8世代 メモ...

💾

つれづれなるままに、1日中コンピューターに向かって、思ったことを書いてみる。 ! この記事の内容は、コンピューターのハードウェアリソースを積めばLLMの回答は速くなるし、それをOllama Cloudは無料で提供するなんて、すごいことやってるなあと、驚いた話である。他の媒体には、同じような記事があったが、Zennで、"ollama cloud"を検索してもヒットしなかったので、書いてみる。 LLMが出てきた頃から、ずっと思ってる仮説は、プログラムの改善を無限回繰り返し行えば、プログラム・ソフトウェアは最適になる、というのがある。 貧乏であるから、フロンティアモデルに課金するお金も無い。...

💾