いまサイズの割にパフォーマンスがよくて400B以下で最強と思っているモデルが、TencentのHy3です。 コーディングエージェントにはアクティブ20Bが必要と思っていて、知識も300Bくらい欲しいと思っているのだけど、Hy3の295B-A21Bというのがちょうどそのサイズです。 いつものUnslothさんからは量子化がでていないので、同じく性能の高い量子化を提供してるBartowskiさんのモデルを使います。 bartowski/Hy3-GGUF · Hugging Face コードちゃんと書けるし、無駄なトークンを使わないし、指示に従うし、素直で使いやすいモデルという印象です。...
