AIニュース
AI用語辞典

混合精度とは

AIの計算において、細かい桁数の正確な数値とおおまかな数値を使い分け、AIの性能を保ちながら計算速度の向上とメモリの節約を行う技術です。

たとえるなら — 重要なお金の計算は1円単位で行い、移動時間の計算はおおよその分数で素早く済ませるような使い分けです。

研究学習と評価Mixed Precision混合精度学習混合精度計算

「混合精度」が出てきたニュース

アプリなら毎朝1件、注目のAIニュースが届きます アプリなら、記事を読みながら分からない用語をその場でタップして確認できます。
Google Play で手に入れよう App Store からダウンロード

関連する用語

ファインチューニング蒸留機械学習学習データ事前学習教師あり学習強化学習転移学習過学習アノテーション