メタCEOザッカーバーグ、AI安全性確保のため開発速度調整の必要性を訴える

背景

AI技術の急速な進展に伴い、安全性への懸念が高まっている中、メタのCEOマーク・ザッカーバーグは、業界全体での合意なしにでも安全上の理由から開発スピードを調整できるべきだと主張した。

ザッカーバーグの主張

同氏は、X（旧Twitter）への投稿で「市場の圧力がアラインメント（利用者の意図に沿った動作）を競争優位にする」と述べ、各研究所が安全にモデルを訓練するために必要なペースで進める責任とインセンティブを持つべきだと指摘した。また、「信頼とアラインメントは今後最も重要な能力となり、これに注力しないラボは遅れを取る」と付け加えた。

メタの具体的な対応

メタは自社開発のMuseモデルを数か月延期し、安全性とセキュリティの強化に努めたことを明かし、「他社に先んじて求めたわけではなく、独自に判断した」と説明した。

業界内の意見対立

このコメントは、フロンティアAIの開発を協調的かつ検証可能な安全策で減速させるべきかという議論の渦中で出された。Anthropicは政府規制と警告サインが現れた際にラボが一時停止できる仕組みを求めている一方、NVIDIAのジェンセン・ホアンCEOなどは独立した評価と個別責任を重視している。

メタAIチーフオフィサーの見解

メタ最高AI責任者アレクサンドル・ワン氏は、同様に「強固なガバナンス、外部評価者、モデル公開時の独立した監督」が必要だと述べ、再帰的自己改善（RSI）の競争は制御喪失の危険性が高いと警告した。さらに、メタは計算資源の大半を人々のサービス向上に割り当て、RSI競争に追随しない方針を示し、他社も同様の選択が可能だと言及した。「AIは非常に強力な技術であり、適切なチェックとバランスの下で安全に開発する重大な責任がある」と結んだ。

元記事: https://www.businessinsider.com/zuckerberg-says-ai-labs-slow-down-market-pressure-for-safety-2026-9