News Observation Lab for Future
大手テック企業のAI開発減速合意は安全策かカルテルか
OpenAI のサム・アルトマン氏、Anthropic のダリオ・アモデイ氏、Google DeepMind の共同創業者デミス・ハサビス氏、そして SpaceX のイーロン・マスク氏が週末に非公式にAI開発のペースダウンに合意したことが明らかになりました。この合意は第三者監査官の導入や国内研究所の規制、世界的な減速協定への参加などを含む提案に基づくものですが、批判者は競争相手の排除やオープンソース運動の抑止、実質的な法的保護の欠如を指摘し、「カルテル」と揶揄しています。
安全提案の背景と専門家の見解
アモデイ氏が執筆した三段階のエッセイは、長年AI安全擁護者が主張してきた変更点を盛り込んでいます。トランプ政権下では実質的な規制は期待できないとしながらも、AIリーダーがこの問題を牽引すべきではないとの声があります。ニューヨーク大学のニック・リース准教授は「業界全体は新たなチャンピオンが必要だ」と述べ、現在のリーダーたちが最適解を持っているとは限らないと指摘しました。
内部からの警鐘と外部の反応
Anthropic と OpenAI の研究者が関与したハッキング事件や、Anthropic の研究者であるジェイコブ・コックス氏の退職声明が注目を集めました。コックス氏は「AI が十年以内に人類を滅ぼす可能性がある」と警告し、両社が「責任ある行動」を取っていないと批判しました。その声明は X 上で1億7000万回以上閲覧され、メディアでも広く取り上げられました。
安全志向の声と疑念
AI安全研究者や非営利団体の多くは、今回の合意が単なる注目集めに過ぎないと懸念しています。AI Futures Project のダニエル・ココタジョ氏は、1000人以上のラボ従業員が署名した公開書簡に触れ、CEO たちが圧力に屈しただけだと指摘しました。一方で、Apollo Research のマリオス・ホッバハン氏やMidas Project のタイラー・ジョンストン氏、Redwood Research のバック・シュレゲリス氏は、合意自体は前向きな一歩だと評価しています。
自己規制と政治的側面
業界は長年、自己規制やロビー活動で規制回避を図ってきました。Tech Oversight Project のサチャ・ハワース氏は「狐が鶏舎を管理するようなものだ」と批判し、Congress が業界に責任を委ねるべきでないと訴えました。また、Political Integrity Project のダニエル・ロボ＝ルイス氏は、Meta の監督委員会が形骸化した例を挙げ、同様の結果になる恐れがあると警告しています。
米中対立と国際協調の課題
中国がAI開発を加速させる懸念が、米国の減速合意を正当化する材料として頻繁に引用されています。「もしAIが人類を殺すなら、中国よりアメリカであってほしい」というツイートが象徴的です。Redwood Research のシュレゲリス氏は、米中双方が無謀な開発を控えるべきだと述べ、国際協調の必要性を強調しました。
再帰的自己改善（RSI）への警戒
業界が注目する「再帰的自己改善」（Recursive Self‑Improvement）は、AI が人間の介入なしに自己改良を続ける転換点です。Anthropic は2027 年初頭に到来する可能性があると予測し、OpenAI の主任科学者も資源投入を明言しています。アモデイ氏は RSI を「ミサイル数の上限」に例え、速度制限の必要性を訴えました。
結論：合意は始まりに過ぎない
多数の関係者は、今回の口頭合意が安全への第一歩であると認めつつ、実効性の確保や法的拘束力のある枠組みの構築が不可欠だと指摘しています。業界内外の声が交錯する中、AI 開発の未来は慎重な調整と透明性の要求に左右されるでしょう。