Ant Lingというところから、124B-A5.1BのLing-3.0-Flashというのが出ていたので試そうと思ったけどllama.cppでもmlxでも出力が変なのでOpenRouterで試しました。 過程はこちらのサブスク投稿でまとめてます。 https://x.com/kis/status/2085044195874783265 どうにもローカルでうまく動かなかったので、OpenRouterでfreeで使えたのでこちらを試しています。 llama.cppで使う場合 llama.
Ant Lingというところから、124B-A5.1BのLing-3.0-Flashというのが出ていたので試そうと思ったけどllama.cppでもmlxでも出力が変なのでOpenRouterで試しました。 過程はこちらのサブスク投稿でまとめてます。 https://x.com/kis/status/2085044195874783265 どうにもローカルでうまく動かなかったので、OpenRouterでfreeで使えたのでこちらを試しています。 llama.cppで使う場合 llama.