Poolsideというアメリカ拠点の企業が出した118B-A8BのLLM、Laguna-S-2.1を試してみます。 llama.cppではb10173で対応してるので、LM Studioでも動くはず。 https://github.com/ggml-org/llama.cpp/releases/tag/b10173 知識がかなり怪しくてコーディング全振り感あるけど、エージェント動作はかなりしっかりしてます。知識をちゃんと与えてやれば、それなりにはコード書けると思います。 Inklingと同じく、中国系モデルが使えないなら貴重、という感じです。Ling-3.
