元AI政策担当官デビッド・サックス氏がAnthropicとOpenAIへ減速と利益要求停止を呼び掛ける理由

背景とサックス氏の主張

デビッド・サックス氏は、Anthropic と OpenAI に対し、製造物責任と市場の圧力がすでに両社を規律していると主張し、フロンティアのペースで開発を続ける一方で、独占禁止法の免除や承認体制の追求はやめるべきであると指摘した。ANI の報道によれば、サックス氏は「速度を緩め、見返りを求めない」よう指示した。また、同氏は大統領科学技術諮問委員会の議長を務め、3 月まではホワイトハウスの AI と暗号通貨の最高責任者でもあった。

欧州の規制動向

欧州は 2025 年 2 月に同様の結論に至り、AI ソフトウェアを製品として扱う製造物責任規則を改訂した。2025 年 2 月に提案されていた AI 責任指令は撤回され、12 月 9 日からはスタンドアロンソフトウェア、オペレーティングシステム、AI システムを厳格な責任対象とした。請求者は過失を証明する必要がなく、欠陥がサイバーセキュリティの脆弱性や自己学習による安全性低下を含む場合、裁判所は証拠開示を命じ、欠陥の証明が困難な場合は欠陥を推定できる。

業界への影響と課題

サックス氏は、Anthropic が利用している評価機関 METR の独立性に疑問を呈し、投資家やスタッフとの関係が問題視されていると指摘した。さらに、AI が 10 年以内に人類を絶滅させる確率が 10% を超えるとするアライメント科学者の見解が紹介され、業界は「命を賭けたギャンブル」を行っているとの批判が浮上した。サックス氏は、モデルが重大なサイバー攻撃を可能にすれば製造物責任の賠償請求に直面し、市場はすでに予測不可能なシステムに罰則を課していると主張した。規制枠組みを強要することは「脅迫」に見えるとも述べた。

今後の展望

欧州は 2025 年 8 月以降、AI 法のシステミックリスク義務によりフロンティアモデルを拘束し、欧州委員会は評価と世界売上高の 3% に相当する罰金を課す権限を持つようになった。この結果、サックス氏が反対する承認型制度と、彼が支持する製造物責任制度は、同じモデル上で同時に機能することになる。

元記事: https://thenextweb.com/news/sacks-pacing-frontier-eu-liability