GGUFとは
大規模言語モデルを一般的なパソコンやスマートフォンなどで素早く動かせるように、データを扱いやすくまとめて圧縮・保存するためのファイル形式です。
たとえるなら — 重たい巨大な専門書を、持ち運びやすく要点をまとめたポケット版の手帳にまとめるようなものです。
実務モデルと技術GGUF形式GGUFファイル
「GGUF」が出てきたニュース
- 回答の安全制限を解除した検証用AIモデル3種が公開、事前の攻撃テスト向け
- 7600億規模の巨大AIを1台のPCで動かす軽量版、安全制限を外し公開
- 自前のパソコンで動くセキュリティ専用AIが登場 機密データを外に出さず解析
- AIの応答を速くする基盤ソフトに2000人超が参加、200種以上のモデルに対応
- 改造PS5を自宅のAIサーバーにするツール登場 PCやクラウド不要で動作
- 答えが出ても考え続けるAIの悪癖を修正、回答打ち切りを大幅に減らしたモデルが登場
