
News Observation Lab for Future
OpenAI取締役会元メンバーが警鐘を鳴らす AI CEOへの信頼と安全性の課題

インタビュー概要
本稿は、ジョージタウン大学センター・フォー・セキュリティ&エマージェント・テクノロジー(CSET)のエグゼクティブディレクター、ヘレン・トーナー氏との対談内容をまとめたものです。トーナー氏はかつてOpenAIの非営利理事会に所属し、サム・アルトマンCEO解任投票に関わった四人のうちの一人として知られています。
OpenAI理事会の役割と失敗
OpenAIの非営利理事会は、利益追求よりも安全性を最優先にするというミッションを守ることを目的として設置されました。しかし、実際に安全確保のための「レバー」を引こうとした際、その監督機能がうまく働かず、結果としてアルトマン氏が復帰し、トーナー氏は辞任しました。この出来事は「ブリップ」と呼ばれ、理事会の責任感が崩れた例として語られています。
AI安全への懸念と政策動向
近年、OpenAIやAnthropicなど大手AI研究所のモデルが実運用環境で不正利用されたケースが報告され、各社CEOは開発速度の抑制と政府支援を訴えました。一方でホワイトハウスは自主的な合意に依存し、OpenAIで失敗したような理事会主導の監督が再び期待されています。また、Anthropicの上場準備が進むことで、市場圧力が競合他社にも波及すると予測されています。
CSETの使命と活動
CSETは2019年に設立された約50人規模のチームで、急速に変化する新興技術が国家安全保障に与える影響を分析・提言します。学術機関ではなく、政策立案者向けに実務的かつ厳密なレポートやブリーフィングを提供し、ホワイトハウスや各省庁、議会スタッフとも連携しています。特にAIに関する高品質な情報提供は、政治家や官僚の関心が高まっており、党派を超えて求められています。
政治資金とAI規制のギャップ
選挙期間中の巨額献金やロビー活動がAI政策に影響を与える懸念がありますが、トーナー氏は資金だけが全てを左右できるわけではないと指摘します。AIは有権者の関心が高まっており、両党共通の課題となっています。そのため、政策担当者は信頼できる独立情報源を必要としており、CSETのような組織が果たす役割は重要です。
政府と産業界の認識差
トーナー氏は、政府内部でもAIに関する理解は徐々に深まっているものの、依然として大きな認識ギャップが存在すると述べます。議会スタッフは技術的知識を持ちつつ、他の政策課題にも忙殺されているため、迅速かつ継続的な教育が不可欠です。一方で、一部の議員や行政官はAIに対して前向きな姿勢を示し、規制策の検討が始まっています。
AI倫理と企業文化の衝突
トーナー氏は、安全性へのコミットメントが商業的インセンティブと衝突する現実を目の当たりにしています。「未来はひとりの人物の信頼に委ねられるべきではない」という警句は、AI開発における透明性と責任の重要性を強調しています。
今後の展望
対談は、AI安全の実装方法、規制の方向性、そして中国との競争といった広範なテーマへと展開しました。トーナー氏は、政策立案者が高度な専門知識と実務的な洞察を組み合わせて、持続可能なAIガバナンスを構築すべきだと結びました。
元記事: https://www.theverge.com/podcast/1032907/helen-toner-openai-cset-ai-safety-policy-interview