News Observation Lab for Future
元Anthropic・OpenAI研究者がAI開発速度の減速を訴える
背景と辞任
元AnthropicとOpenAIの安全研究者であったジェイコブ・コクソン氏は、AIの安全性への懸念から先週Anthropic社を辞任しました。
CEOの声明
AnthropicのCEOダリオ・アモデイ氏は「我々はフロンティアのペースを上げなければならない」という題名の書簡で、人工知能企業が革新的な技術を開発するペースを減速すべきだと主張し、人類に対する責任を訴えました。
元研究者の批判と警鐘
コクソン氏はX（旧Twitter）に、Anthropic社とOpenAI社が「責任ある行動を取っていない」「自己改善の超知性を目指して真っ直ぐ競争し、我々の命を賭して賭けている」と投稿し、大きな波紋を呼びました。また、AIが10年代の末までに全員を殺す可能性があると真剣に信じていると業界内の懸念を強調しています。
業界内の危機感
同氏は、AIテクノロジーの制御がますます困難になっていることを指摘し、ここ数カ月でリスクが頻繁に浮上していると述べています。「社内のどこにいても、おそらく週に数回はテクノロジーの大きなリスクについて何らかの会話が行われる」と語りました。
反応と今後の展望
コクソン氏は、自身の投稿に対する大きな反応は予想していなかったものの、エンゲージメントの高さに驚きを示し、これが議論の機が熟している証拠だとコメントしました。