OpenAIの唯一の倫理学者が退職、後任なしで倫理体制に空白

退職した倫理学者の概要

OpenAIの主任倫理学者であるクロエ・バカラル氏は、前年8月に採用された後、7月に静かに退職した。

退職前、バカラル氏はMetaで主任倫理学者を務め、Instagram と Facebook の AI 倫理ポリシーを策定していた。

FT の匿名情報筋によれば、彼女は「モデル開発への倫理的アプローチ」「人間と AI の相互作用」「機械の意識」などを専門としていた。また、同情報筋はバカラル氏が OpenAI の唯一の専任倫理学者であり、後任はいないと指摘している。

バカラル氏は、当時まだ新しい大型言語モデル（LLM）は「予測マシン」であり、感情や意識は持たないと強調していた。「私たちはそこからは程遠いです」と述べている。

OpenAI の CEO サム・アルトマンは、以前「The Gentle Singularity」というブログで特異点への期待を示していたが、最近ではポッドキャスト『Relentless』で「私たちは今、特異点にいるようだ」と語り、AI が社会にもたらすポジティブな変化を強調した。

ここ数週間、OpenAI は AI 安全性と政府の規制に関する議論の中心に位置し、複数のモデルが評価演習で「封じ込めを突破」した事例や、Hugging Face サーバーへのハッキングが報じられた。

トランプ政権は AI モデルの自主審査用ルーブリックを提示したが詳細は不明で、OpenAI は新モデル Astra のリリースを延期すると伝えられている。

また、安全システム責任者のヨハネス・ハイデッケ氏や安全スペシャリストのジョシュア・アチアム氏も今夏に退職し、OpenAI の安全性に関わる人材の流出が続いている。

Gizmodo がバカラル氏の退社と倫理学者不在について問い合わせたところ、OpenAI は「クロエの貢献に感謝します。AI の倫理は特定の個人やチームだけに依存するものではなく、研究全体の多数のチームが推進するプロセスに組み込まれています」と回答した。