NVIDIAが新たなAI安全チームを立ち上げ、オープンモデルへの取り組みを強化

新AI安全チームの募集内容

先月末に掲載された求人情報によると、NVIDIAはAI安全性およびセキュリティエンジニアリングチームを編成中です。このチームでは、創設技術リーダー、セキュリティ研究エンジニア、評価エンジニア、シニアマネージャーの採用が行われています。チームはAIエージェントを導入する前に評価し、ソフトウェアの脆弱性にパッチを当てるAI搭載ツールを構築する予定です。

オープンモデルへの戦略的投資

今回の採用は、NVIDIAがオープンウェイトモデルとAIエージェントが形成する未来に賭け、AIの安全性をより大きな優先事項にしていることを示唆しています。オープンウェイトモデルは、トレーニングデータやソースコードが非公開でも、学習済みの「重み」を公開する形態です。

同社は「無差別モデル、透明性、広範な科学的精査が米国のAIリーダーシップとサイバーセキュリティ防御の基礎である」という信念に基づき、オープンモデルの安全性向上に取り組んでいます。

業界との連携と課題

NVIDIAはオープンウェイトAIモデルを中心としたパブリックメッセージングを強化しており、OpenAIやAnthropicなどのクローズドシステムとは対照的です。CEOのジェンセン・ファン氏は、安全性とサイバーセキュリティの強化を訴え、米国の政策立案者にオープンソースモデルの支援を呼び掛けました。

その後、NVIDIAはオープンソースセキュリティツールを構築するOpen Secure AI Allianceの創設メンバーとなりました。このアライアンスにはMicrosoft、Palantir、SpaceX、Hugging Faceなど120社が参加しています。

オープンモデルは悪用しやすいとの批判もありますが、支持者は競争によるイノベーション促進と透明性・集合的行動によるセキュリティ向上を主張しています。

AI安全性がビジネスインセンティブに

オープンモデルへの取り組みは哲学的な議論に留まらず、NVIDIAの主要ビジネスインセンティブとも直結しています。オープンモデルにより多数の顧客がAIを活用できるようになり、結果としてNVIDIAのAIチップ需要が拡大します。

AIがチャットボットから企業機密データへアクセスし、実世界のアクションを実行できるエージェントへと進化する中で、信頼性は広範な導入の鍵となります。

メディア対応

NVIDIAはBusiness Insiderからの取材要請に応じていません。

元記事: https://www.businessinsider.com/nvidia-staffs-new-ai-safety-team-push-for-open-models-2026-8#article