文字や画像を数値化するAI研究、バラバラだった手法を束ねる新構想が発表

あらゆるAIシステムで文字や画像などのデータを数値に変換する「埋め込み」技術について、分野ごとに分断されていた研究を統合するための枠組みを示したサーベイ論文が発表された。

検索エンジンや推薦システムを支える埋め込み技術は、共通の数学的基盤を持ちながらも、テキストや画像といったデータの形式ごとにコミュニティが孤立して開発を進めてきた課題があった。しかし近年は、学習させる手法です。画像や文章の特徴をラベルなしで効率よく捉えるために用いられます">対照学習やTransformerアーキテクチャの普及により、異なる形式間でも共通の原則へと技術が収斂しつつある。

論文では、この収斂を整理する基準として「網羅性」「比較可能性」「構成性」という難易度順の3つの能力を提唱した。その上で、変換によって網羅性を広げ、整列によって比較を可能にし、最終的には複数の形式を同時に扱う「結合埋め込み」によって構成性の実現を目指すという統合への道筋を示している。