低精度計算とは

AIの計算で扱う数値の桁数をあえて減らして処理する技術です。計算の細かさを少し削る代わりに、メモリーの使用量を減らし、処理速度を大幅に高めることができます。

たとえるなら — 小数点以下の細かい端数を四捨五入して、大まかな暗算で素早く買い物の合計金額を出すようなものです。