ローカルLLMとは
クラウドを経由せず、手元のパソコンや自社の専用サーバーなどの機器上で直接動かす大規模言語モデルのこと。外部にデータが送信されないため、機密情報を安全に扱いやすい。
たとえるなら — インターネット上の音楽配信を使うのではなく、自分のスマートフォンにダウンロードした曲をオフラインで再生するようなものです。
実務モデルと技術ローカル言語モデルローカルAIオンプレミスLLMオンデバイスLLM
「ローカルLLM」が出てきたニュース
- ジンベイ、数百件の社内データから自社専用AIを作る構築支援を開始 外部に出さず安全運用
- 情報が外に一切出ない!? 岡山大の学内専用AI「おいとま」に金沢大が注目した裏側
- 社外に漏らさず欠陥を発見 自社サーバー専用の安全点検AIが提供開始
- フツパー、社外にデータ出さず資料集計や報告書作りまで自動化するAI発売へ
- 使用済み計算サーバーを再活用 エクストリームーDなど3社が最短即日でAI基盤提供
- ChatGPTなどの定額契約で表計算データを自動分析 GotoAIが新機能を提供
