AI開発のペースを減速すべきと訴えるアンソロピックCEO

背景

アンソロピックのCEOであるダリオ・アモデイ氏は、AIモデルの機能向上速度を意図的に抑えるよう業界全体に呼び掛けました。ロイターが報じたところによると、同氏はリスクを管理する時間を確保するために、開発を段階的に遅らせる三段階の枠組みを提示しています。

ダリオ・アモデイ氏の提案

アモデイ氏が示した「フロンティアのペース調整」計画は、①独立した第三者が安全性を評価できる「埋め込み評価者」、②民主国家の企業が共有する安全基準を設ける「民主的協調」、③各国政府が連携して遵守状況を確認する「グローバル協調」の三本柱から構成されています。この余分な時間を安全対策の強化に活用することが重要だとしています。

ジェイコブ・コックス氏の警告

元アンソロピックおよびOpenAI勤務のジェイコブ・コックス氏は、同社を退職し、企業が無責任にAI技術を進めているとして批判しました。同氏は、AIが「超人的システム」となり、あらゆる分野を一夜にして変革し、実権を握る危険性を指摘し、競争が先行することで安全性が犠牲になる恐れがあると警鐘を鳴らしています。

リスクと利益のバランス

アモデイ氏は、AIが医療の多くの疾患を5〜10年で治癒可能にし、経済成長や民主主義の復興にも寄与すると期待しつつ、制御喪失やサイバー攻撃、生物テロ、深刻な経済混乱といったリスクも認識しています。また、自己改良型AIの急速な進化や、OpenAI‑HuggingFace事件など、予期せぬ危険な挙動が顕在化した事例を踏まえて、業界全体で慎重な規制と安全基準の策定を求めています。

元記事: https://www.jpost.com/business-and-innovation/article-908435