アテンションとは
文中のどの単語同士が関係し合うかに「注目」して処理する仕組み。トランスフォーマーの中核技術。
たとえるなら — 長文を読むとき、大事な箇所に蛍光ペンを引きながら読む読み方。
研究モデルと技術注意機構
「アテンション」が出てきたニュース
- 5人開発の小型AI、10倍超の米大手モデルをプログラミング性能で逆転
- 重みを増やさず計算を深める新AI登場、本1冊分の長文や画像に対応
- AWS、画像や文書を読み取るNVIDIAの最新AIを動かす構成手順を公開
- Cevaが新型AI半導体設計を発表、電力効率50％改善で端末からクラウドまで対応
- スマホでも動く小型AI「LFM3」公開、画像や音声も手元のパソコン1台で追加学習
- AIの記憶データを9割削っても回答精度を維持する新技術、最大4.9倍の性能改善
アプリなら毎朝1件、注目のAIニュースが届きます
アプリなら、記事を読みながら分からない用語をその場でタップして確認できます。
