AIが書いた意見で揺らぐ公聴制度、MIT教授が「発言の責任者」明確化を訴える

行政が政策を策定する際の意見公募（パブリックコメント）など市民対話の場で、生成AIによる文章の悪用と「誰が発言に責任を持つのか」という説明責任の欠如が課題となっている。米マサチューセッツ工科大学（MIT）メディアアーツ・アンド・サイエンシズの教授で、同大学構成的コミュニケーションセンター（CCC）ディレクターを務めるデブ・ロイ教授が、学術誌「ブレティン・オブ・ジ・アトミック・サイエンティスツ」に寄稿したエッセイで警鐘を鳴らし、制度設計の見直しを呼びかけた。

行政の意見公募制度は民主主義を支える重要な手続きだが、AIの進歩によって実在する市民が書いたように見える意見を大量に送ることが可能になった。ロイ教授によると、2017年に米連邦通信委員会（FCC）がネット中立性ルールの撤廃を提案した際、2,200万件以上の意見が集まり、その後のニューヨーク州司法長官の調査で約1,800万件が偽物だったと判明した。当時は定型文や重複した表現といった痕跡から不正を検出できたが、現代の大規模言語モデルは異なる表現で流暢な文章を作るため痕跡が残らず、担当者が本物の市民意見と見分けることが難しくなっているという。

ロイ教授は、法的な概念に着想を得た「当事者適格（スタンディング）」と、発言に対して説明する義務を負う「応答可能性（アンサーアビリティ）」の回復が必要だと主張する。どれほど高度な処理を行うシステムであっても、失うもののないソフトウェア自体が責任の最終的な引き受け手になることはできないと同氏は指摘する。AIを下書き作成や要約、傾向の分析といった補助作業に使うこと自体は正当だが、説明責任の連鎖を固定する終点にはなれず、言葉の背後には必ず責任を負う人間が存在しなければならないと論じている。

エッセイの中でロイ教授は、AIを組み込んだ対話システムにおいて担保すべき4つの設計原則を挙げた。「帰属可能な著者性」「分解され検証可能なプロセス」「インフラとしての来歴の活用」「当事者適格の拡大」である。自律的な技術活用は認めつつも無責任な状態は許容しないとし、人間を排除して効率を高めることではなく、人間が自身の発言に責任を持てる役割へ配置されることを重視すべきだとした。

ロイ教授が率いるCCCと、共同設立した関連非営利組織のコーティコは、市民集会や学校、民間組織などの対話の場でAIツールを活用した議論の支援を行っている。同センターでは、参加者が各工程でシステムの出力を確認し、上書きできる仕組みを取り入れており、最終的に人間がすべての発言に責任を持つ形を維持しているという。