国連でAI開発への慎重さを求めるテックリーダーたち

国連安全保障理事会での呼び掛け

水曜日に開催された国連安全保障理事会で、主要AI企業のトップらが技術の進展に対し高度な警戒心を示しました。

OpenAIのCEOサム・アルトマンは「極めて慎重になるべきだ」と述べ、AIシステムがより自律的になるにつれて、制度や権力が追いつかない危険性を指摘しました。また、政府と産業界が協力して技術の将来像を形作るよう訴えました。

AnthropicのCEOダリオ・アモデイは、AIモデルが強力になるほど安全性基準を厳格化する必要があるとし、リリースごとに十分な安全確認を行うために「必要なだけ速度を落とす」ことを約束しました。「管理が不十分なら、人類全体へのリスクとなり得る」と警鐘を鳴らしています。

他にもHugging Faceのクレマン・デラング氏が登壇し、同社がサイバー攻撃を受けた経験を踏まえて、オープンソースAIの重要性を訴えました。

アルトマンらはグローバルな監督体制の構築を求め、OpenAIは米国が主導してAI標準を策定すべきだと提案しました。英国のアンディ・バーナム首相は2027年のG20議長期間中に国際的なAI基準設定を推進すると表明し、フランスのジャン＝ノエル・バロ外相もUN枠組み内での共同行動を呼びかけました。

ホワイトハウス科学技術政策局長マイケル・クラツィオスは、急速な技術革新は規制や開発停止の理由にならないと主張しました。一方、ドナルド・トランプ前大統領は国際的なAI規制を「グローバリストの陰謀」と批判し、規制に反対の姿勢を示しました。