AI安全性への警鐘
OpenAIが新たに採用した安全担当者、ポール・クリスティアーノ氏は、超知能の開発に伴う制御喪失のリスクについて強い懸念を示した。
同氏は「より堅牢な整合性が確保されないまま超知能を構築すれば、永久に制御を失う可能性がある。その結果、多くの人が死亡する恐れがある」と述べた。
現在のリスク評価
クリスティアーノ氏は、AI能力の急速な向上と整合性確保の困難さから、近い将来に制御不能となる重大なリスクが存在すると指摘した。また、業界全体がこのリスクを許容できるレベルまで低減できているとは考えていないという。
過去の経験と提言
同氏は以前、OpenAIで整合性研究を率いたほか、米国国立標準技術研究所（NIST）のAI基準イノベーションセンターでも安全部門長を務めた。
彼は、フロンティア企業が協調や開発速度の調整、共通の安全基準の導入、リスク情報の透明化などで状況改善に取り組む余地があると訴えた。
他の研究者の警告
同日に別のAI研究者であるジェイコブ・コックスオン氏も、自己改良型超知能への競争が人命を危険にさらすと警告し、両社とも責任ある行動を取っていないと指摘した。