8GB未満で動く賢いAIモデル公開 画像追加や外部ツール連携に対応
要点 3行
- Qwen3.8-27Bを8GB未満に圧縮したモデル「Saluki」が公開された。
- 外部機能の呼び出し性能を維持し、特定テストでは元モデルを上回る精度を記録した。
- 画像認識機能は0.6〜0.9GBの別ファイルを追加することで利用できる。
ConwayResearchは、270億パラメータ規模のAIモデル「Qwen3.8-27B」を8GB未満の容量で動作可能にした軽量モデル「Underdog-Saluki-27B-1.0」を公開した。ライセンスはApache 2.0が適用されている。
外部ツールを呼び出す機能の維持に重点が置かれており、性能評価ベンチマーク「BFCL v4」に基づく100件の並行処理タスクでは、Salukiが42点を記録し、元モデルの35点を上回る結果を示した。競技数学スコアにおいても元モデルの約82〜85%を維持している一方、回文や文字順といった文字単位のパズルを苦手とし、並行呼び出しの約5分の1で軽微な形式の乱れが生じる課題も確認されている。
モデル本体はテキスト専用で、画像認識を行う場合は0.6〜0.9GBのアドオンファイルを追加する構成をとる。一般的なオープンソース環境「llama.cpp」で動作し、OpenAI互換の通信手順に対応する。
この記事は Hugging Face トレンドの発表を AI が日本語に要約したものです。正確な内容は原文をご確認ください。
アプリで開く