仏ミストラル、工場の故障や需要を予測する小型AI公開 通常のパソコンでも高速動作
- 仏Mistral AIが初の時系列基盤モデル「Timestral」を公開した。通常のCPUで高速に動作する。
- 最大2億900万パラメータの小型設計ながら、主要な3つの公開ベンチマークでゼロショット首位を獲得した。
- 工場の複数センサーや金融指標などを統合して扱い、予定された計画や天候などの将来情報も反映して予測する。
仏Mistral AIは2026年10月15日、同社初となる時系列データ向けの基盤モデル群「Timestral」を発表した。センサー監視や金融取引など、時間とともに変化する数値データを予測するための基盤モデルであり、最小500万(5M)から最大2億900万(209M)学習で調整される膨大な数値。「7B」は70億個の意味で、多いほど賢くなる傾向があるが動かすコストも増える。">パラメータまでの計4サイズ(5M、28M、123M、209M)で構成される。グラフィック処理装置(GPU)を必要とせず、一般的なサーバー向けCPU環境でも高速に動作する設計を特徴とする。
時系列予測の領域では従来、ARIMAなどの古典的な統計手法やデータごとに学習をやり直す深層学習モデルが広く使われてきた。Timestralは多様なデータで事前学習を行うことで、過去に見たことがない未知のドメインに対しても追加学習なしで予測する「ゼロショット予測」を可能にしている。公開ベンチマークの「GIFT-Eval」「TIME」「fev-bench」の3種すべてにおいて、事前学習済みゼロショットモデルの中で首位の精度を記録した。28Mモデルが約4倍の規模を持つ「Chronos-2」を上回ったほか、209Mモデルも「TimesFM-3」や「Falcon-2.0」をより少ないパラメータ数で上回る性能を示したという。
本モデルは、複数のセンサー値の相関を捉える多変量予測や、予測の不確実性を数値の幅として示す確率的予測に対応する。さらに、機械の稼働状態といったカテゴリ分類データや、生産計画・気象予報のようにあらかじめ確定している将来の外部要因を取り込む仕組みを備える。処理速度の面では、8スレッドの標準的なCPU環境において、3週間分の15分間隔データを基に1日先を予測する処理を、5Mモデルで10ミリ秒、209Mモデルで140ミリ秒で完了する。
技術面では、学習時の欠損補完と予測対象の分離を行う独自手法「Decoupled Horizon Forecasting(DHF)」や、ターゲットへの情報漏洩を防ぐアテンション構造を採用した。学習データは大半が合成データで構成され、文脈長8192の合成データによる大規模な事前学習を経た後、実データと合成データを組み合わせた4倍のコンテキスト長で追加学習を行う2段階構成を取っている。
同社はすでにコードを実行できるGitHubリポジトリを公開しており、詳細な技術レポートも追って公開する予定だ。また、同社の学習基盤「Mistral Forge」を通じて自社保有データによるファインチューニングや、外部ネットワークから遮断された環境への展開も支援するとしている。


この記事は Mistral AI 公式の発表を AI が日本語に要約したものです。正確な内容は原文をご確認ください。
アプリで開く