米政府の対話型AI、公開後に仕様変更　都合の悪い質問への回答を拒否

米政府の対話型AIが公開後に仕様変更され、トランプ大統領に都合の悪い質問への回答を拒否するようになったと報じられた。

今何が起きているか

米政府が公開した対話型AIについて、公開後に仕様が変更され、トランプ大統領に都合の悪い質問への回答を拒否するようになったと読売新聞などが報じた。あわせて、AIの自主規制を巡る合意文書で国名に誤りがあり、トランプ大統領の署名欄があったことも伝えられた。

政府が運用するAIツールでは、どの質問にどう答えるかの基準を誰が決めるかが問われる。政治的に敏感な話題を避ける調整が加えられれば、中立性への疑念が生じる。自主規制文書の誤りは、AI政策の枠組みづくりが急ピッチで進んでいることをうかがわせる。

影響は米国内の行政サービス利用者にとどまらない。政府がAIを広報や窓口に使う場合、説明責任の範囲が問われる。各国の行政機関が同種のツールを導入する際の参考事例になり、AI規制の議論にも影響する。

政府AIの回答基準や運用ルールについて、議会や監視機関が説明を求める可能性がある。自主規制の枠組みは内容の精査が進むとみられる。日本を含む各国でも、公的部門でのAI利用に関する透明性の議論が続く。

公的機関のAIを使う際は、回答が一次情報に基づくかを確認し、判断の根拠をAIだけに委ねないことが望ましい。政策文書は原文と照合する習慣が有効だ。AI規制の動向は、企業のコンプライアンス体制にも直結する。

公的AIが特定の政治的立場に配慮して回答を制限すれば、情報への平等なアクセスという前提が揺らぐ。政府とテクノロジーの関係、説明責任の所在が改めて問われる。AIの信頼性をどう担保するかは、民主主義的な意思決定の質にも関わる。