推論エンジンとは
学習済みのAIモデルをもとに、新しく入力されたデータに対して予測や判断、文章の生成などの処理を実際に実行するプログラムのこと。
たとえるなら — 勉強して知識を蓄えた人が、テストの問題を見て実際に答えを導き出す「頭の働き」のようなものです。
実務モデルと技術Inference Engine
「推論エンジン」が出てきたニュース
- マイクロソフト、最長1時間の音声を話者ごとに文字起こしする音声AIを公開
- 家庭用パソコンで超巨大AIを高速に動かす新ソフト「FreeToken」公開
- DeepSeekの回答拒否を完全解除、危険な質問にも100%応答する派生モデルが登場
- DeepSeek、自社の大規模AIを動かす高速処理基盤を無料公開
- 用途に特化した賢いAIを低コストで自前育成できる新基盤、初期は1時間9ドル
- 家庭用PCで最新画像や動画AIを操作できる「ComfyUI」メモリ4GBでも動作
