大手AI企業、兵器専門家の採用を本格化

人工知能(AI)企業のAnthropicとOpenAIが、自社AIモデルが大量破壊兵器(WMD)製造に悪用されることを防ぐため、化学兵器および爆発物防御専門家の採用に乗り出した。英国BBCが3月中旬に報じたところによると、AnthropicはLinkedInを通じて「壊滅的悪用(catastrophic misuse)防止」のための化学兵器・高性能爆発物専門家の採用公告を掲載した。応募資格要件として、最低5年以上の化学兵器または爆発物防御経験と放射能拡散装置(ダーティボム)関連知識を明示した。

OpenAIも同様の職務で「生物学的・化学的危険」研究員を募集しており、提示した年俸は最高45万5千ドル(約5億3千万ウォン)に達する。これはAnthropicが提示した年俸範囲のほぼ2倍の水準である。両企業とも採用公告を通じて、自社モデルが攻撃意図を持つ者に「意味のある支援」を提供できる水準に達したことを事実上認めた。

なぜ今、化学・生物・放射能専門家なのか

今回の採用動向は、単純な予防的安全措置を超えている。AIモデルの能力が特定の閾値を超えたという業界の自己評価が反映されたものと見られる。AnthropicのClaudeとOpenAIのGPTシリーズは、複雑な化学反応式の生成、実験手順の説明、物質合成経路の提示などで、既に専門家レベルの出力を示している。

特に今回の採用公告が出た時期は意味深長である。イランで3週間にわたって進行中の武力紛争において、米国防総省が前例のない規模でAIツールを配備しているという報道と時期が重なる。AI技術の軍事的活用が加速すると同時に、非国家主体や敵対勢力による悪用のリスクも現実化している。

技術研究者でありBBC AI Decodedプログラムの共同司会者であるステファニー・ヘア(Stephanie Hare)博士は、「敏感な化学物質および爆発物情報、ダーティボムを含む放射能兵器情報をAIシステムが扱うことが果たして安全なのか」と懸念を表明した。彼女は「このような作業に関する国際条約や規制が全くなく、すべてが非公開で進められている」と指摘した。

以前と何が変わったのか

AI企業の安全性検証戦略が質的に変化している。過去にはコンピュータ科学者と倫理学者中心の「レッドチーム(red team)」構成が主流だったが、今は実際の兵器システムに関する実務経験を持つ専門家を直接採用する段階に進化した。

特にOpenAIが提示した最高45万5千ドルという破格の年俸は、AI業界がこの問題をどれだけ深刻に受け止めているかを示す指標である。これは一般的なAI研究者やソフトウェアエンジニアの年俸の1.5~2倍の水準で、当該専門性に対する市場プレミアムが形成されていることを示唆している。

国防協力をめぐる葛藤

両企業とも国防総省との協力関係をめぐって内部的に相反する立場を示してきた。OpenAIは2024年に防衛用途ポリシーを変更して軍事協力の可能性を開いたが、一部職員の反発に直面した。Anthropicは比較的慎重な立場を維持してきたが、最近クラウドインフラ提供業者であるAWSが国防総省プロジェクトに参加したことで、間接的な接点が形成された。

現在イラン紛争で米軍が使用中のAIツールの具体的な出所は公開されていないが、関連業界報道によると、大規模言語モデル(LLM)ベースの情報分析システムが作戦計画立案に活用されているとされる。これはAI企業が自社技術の直接的・間接的な軍事活用経路を完全に制御できない現実を露呈している。

技術的ジレンマ:情報を注入するほど大きくなるリスク

逆説的に、専門家採用による安全性強化戦略は新たなリスクを内包している。AIモデルに兵器製造関連知識を注入して遮断メカニズムを構築する過程で、当該情報がモデルの学習データやパラメータに何らかの形で痕跡を残す可能性があるためである。

ステファニー・ヘア博士が指摘した「情報処理自体のリスク性」はこれを指す。モデルが化学兵器製造手順を「知っていながら回答しない」ことと「そもそも知らない」こととの間には根本的な違いがある。前者の場合、敵対的プロンプトエンジニアリングやジェイルブレイク(jailbreak)技法を通じて回避される可能性が常に存在する。

現在国際社会には、AIシステムの機密情報処理を規律する条約や基準が不在である。化学兵器禁止条約(CWC)や核拡散防止条約(NPT)のような既存の軍備管理体制は、AI技術のデュアルユース(dual-use)特性を扱うのに適していない。各企業が独自に策定した「責任あるAI」原則だけが唯一のガイドラインである状況だ。

[AI分析] 今後の展望と示唆

産業レベルの標準化の動き予想
今後6~12ヶ月以内に、主要AI企業が共同で「危険物質情報処理ガイドライン」を策定する可能性が高い。既にPartnership on AIやFrontier Model Forumのような業界協議体が存在するため、化学・生物・放射能専門家採用事例が蓄積されれば、ベストプラクティス共有段階に移行すると見られる。

規制の空白を埋めるための政府介入の可能性
米国国立標準技術研究所(NIST)のAIリスク管理フレームワーク(AI RMF)が兵器悪用シナリオを具体化する可能性がある。欧州連合(EU)AI法案の場合、既に「高リスクAI」カテゴリーに安全保障関連用途を含んでおり、執行段階で化学・生物・放射能情報処理規則が追加される可能性がある。

AI安全人材市場の専門化深化
OpenAIの45万ドル年俸設定は、新しい職業群の誕生を予告している。既存のサイバーセキュリティや脅威インテリジェンス分野で活動していた専門家がAI安全領域に移動する「人材再配置」現象が加速する見通しだ。特に軍務経験者や国防研究所出身者が好まれると予想される。

透明性とセキュリティの間の綱渡り継続
AI企業は安全措置の有効性を対外的に証明する必要がある一方、具体的な防御メカニズムを公開すれば攻撃者に回避経路を提供する可能性があるというジレンマに直面している。これは「検証可能な不透明性(verifiable opacity)」という新しいガバナンスモデルの必要性を提起している。第三者監査機関や政府認証体系が仲裁者の役割を果たす方案が議論される可能性が高い。

技術-倫理境界の再定義
化学・生物・放射能専門家のAI企業流入は、技術開発の倫理的境界を再定義する契機となるだろう。「AIが何ができるか」から「AIが何を知るべきか」へと議論の焦点が移動している。これは究極的に汎用AIの開発方向自体に影響を与える可能性がある根本的な問いである。