ローカル推論とは

外部のクラウドサーバーを使わず、手元のパソコンやスマートフォンなどの端末内でAIを動かして予測や回答を導くこと。通信が不要なため、プライバシー保護や通信待ち時間の削減に役立つ。

たとえるなら — 出前を頼んで料理を届けてもらうのではなく、自宅のキッチンで手早く自炊するようなものです。