アンソロピックCEO、AI開発の減速を提言軍事利用の報告も

アンソロピックCEOがAI開発の減速を提言。同社はAIが生物兵器やミサイル研究に使われたとする報告も公表した。

今何が起きているか

アメリカのAI企業アンソロピックのCEOは、AIの進歩が人間の制御能力を上回る可能性があるとして、開発ペースを減速させる必要があるとの考えを示した。同社は別途、AIが生物兵器やミサイル研究に利用された事例や、イランによる利用を報告したと報じられている。

生成AIの能力が短期間で向上し、悪意ある主体が軍事・兵器関連の研究に転用する事例が確認されたため、開発企業自身がリスクを公表する必要に迫られた。同時に、米中間のAI開発競争が減速の合意を難しくしている。

AIを開発・提供する企業、軍事・安全保障に関わる研究機関、規制を検討する政府が影響を受ける。一般利用者にも、AIサービスの利用条件や安全対策の変更が及ぶ可能性がある。

開発の減速を求める声と、競争力を優先する動きの綱引きが続くとみられる。軍事利用の報告を受けて、輸出管理や利用規約の厳格化、国際的なルール作りが議論される可能性がある。

AIを業務で使う企業は、自社の利用が規約や規制に抵触しないか点検したい。開発側は軍事・兵器関連の用途を想定したリスク評価と利用制限の設計を進める必要がある。

AIの軍事転用が現実の事例として報告されたことで、技術の便益とリスクをどう両立させるかという議論が深まる。開発企業の自己規制と政府の規制の役割分担が問われる。