線形アテンションとは

AIが文章を処理する際、単語同士の関係を調べる計算を簡略化する技術。通常の仕組みと比べて計算量が大幅に減り、長い文章を素早く処理できるようになります。

たとえるなら — クラス全員が総当たりで自己紹介し合う代わりに、代表者が全員の要点をまとめて共有するようなものです。