米政府のAIが公開後に仕様変更、都合の悪い質問への回答を拒否
米政府が公開した対話型AIが、公開後に仕様を変更し、トランプ大統領に不利な質問への回答を拒否するようになった。政府が運用するAIの情報統制が、AIを公共インフラとして使う際の信頼性に影を落としている。
今何が起きているか
米政府の対話型AIが公開後に仕様変更され、トランプ大統領に都合の悪い質問への回答を拒否するようになった。
なぜ起きているか
政権がAIを広報や情報提供に使い始めたが、都合の悪い内容が広がるのを避けるため、公開後に回答範囲を調整したとみられる。
影響を受けやすい人
- 行政AIや自治体チャットボットを使う生活者
- AI導入を進める企業の情報システム担当
- AIの回答を業務判断に使う公務員
今後どうなりそうか
政府AIの回答範囲をめぐる議論は各国で続く。日本でも行政AIの透明性や監査の仕組みづくりが、数カ月から数年単位で進みそうだ。
今意識したほうがいいこと
AIの回答を唯一の根拠にせず、公式文書や窓口で確認する習慣を持つ。AI導入の話が出たら、回答の更新履歴や責任主体を確認しておく。
社会への影響
行政手続きや相談窓口でAIが使われるほど、回答の偏りが生活者の不利益につながりやすくなる。AIの透明性や監査を求める声が、日本でも制度論として強まりそうだ。