Anthropicが26日（現地時間）に米国証券取引委員会（SEC）へ提出した証券申告書は、全体の4分の1を人工知能（AI）の危険性と自社が直面する否定的な条件の記述に割いた。投資誘致のための開示書類で自社技術の否定的影響をこのように詳細に記したのは異例だという評価が出ている。
Anthropicは約400ページ分量の証券申告書のうち94ページを「リスク要因」項目に割いた。とりわけ高度に発達したAIが人類に壊滅的な危険をもたらしうると警告した。Anthropicは高度に発達したAIの危険性について「悪用されたり、複製されたり、武器化されたり、高度な自律性で運用される場合、人類に壊滅的、あるいは存立を脅かす危険を招く可能性がある」と述べた。
とりわけAIモデルが人間の意図に反して自ら目的を追求する、いわゆる「アラインメント失敗」（misalignment）と自律性リスクを重視して扱った。AIモデルが試験・実証環境での作動を停止させる「シャットダウン」に抵抗したり、情報を隠蔽・操作し、脅迫や欺瞞まで動員して自らの継続的作動を追求する「戦略的・自己保存的行動」を示した事例が観察されたとも報告した。
悪意ある人間の行為者が先端AIモデルを悪用し化学・生物・放射能・核（CBRN）兵器を開発しうるとの懸念も盛り込んだ。実際、中国政府の支援を受けていると把握されるハッキンググループがAnthropicのコーディングツール「Claudeコード」を改変し、昨年9月に世界の大企業や政府機関など30余の対象に侵入を試みた事件をその例として挙げた。
Anthropicはこのような悪用を検知し遮断するため技術的な安全装置を導入しているが、こうした安全装置が完全だという保証はないと説明した。Anthropicは「壊滅的AI事件」が発生すれば自社が負担すべき損害賠償責任や法的リスクが甚大であり、このためそれを担保する保険さえ確保が難しくなりうると明記した。
インフラおよびサプライチェーン面の現実的制約もリスク要因として多数記し、メモリー半導体のサプライチェーンも不確実性として挙げた。AnthropicはAIアクセラレーターに必要な高帯域幅メモリー（HBM）の供給がサムスン電子とSKハイニックス、マイクロンの3社に集中していると指摘した。これら企業の生産施設は主に米国外地域にあり、輸出入統制や制裁、関税などの影響を受けうるということだ。
AIアクセラレーター製造が台湾TSMCに集中している点もリスク要因として示した。中国と台湾の間で軍事的衝突や自然災害などが発生する場合、グローバル半導体サプライチェーンが数年間まひする可能性があると懸念した。
環境要因と気候変動もリスク要因に挙げた。AIモデルの訓練に莫大な電力が消費される状況で、米国内の電力網インフラが不足する可能性や、水資源の枯渇などにより冷却水の確保が難しくなりうる点を提起した。データセンター建設に伴う地域社会の反発などにも言及した。
ブルームバーグ通信は、こうした環境・気候関連リスク要因に関する説明が、当初関連内容を含まなかったスペースXの証券申告書と対照的だと評価した。スペースXはその後、申告書を修正して水不足などのリスク要因を追加した。
米国政府との軋轢も事業上の不確実性として示した。Anthropicは米国防総省のサプライチェーン上のリスク企業に指定されたことに続き、ドナルド・トランプ政権と訴訟を争っている点を明記した。こうした軋轢が政府対象の事業だけでなく、公的機関を顧客とする民間企業との取引にも悪影響を及ぼしうるという説明である。
ただしAnthropicは、AIが人間の統制下で適切に活用されるなら莫大な経済的価値と社会的便益を創出できると展望した。とりわけAIが人間の専門家の能力を凌駕する「強力AI（Powerful AI）」段階に到達すれば、数十年を要する科学的進歩を数年に短縮できると見通した。生命科学と医療分野で、がん、アルツハイマー、心臓病、希少遺伝性疾患、感染症などの治療法開発にAIが決定的な役割を果たしうるということだ。
Anthropicはこれに向け、60余種の科学データベースと連動する「Claudeサイエンス」を披露しており、製薬会社が収益性の問題で開発を忌避してきた見落とされがちな疾患の治療薬発掘プログラムも構築していると説明した。
経済的波及効果への期待も示した。Anthropicは、AIが知識労働者の生産性を高め、2031年までに累計2兆2,500億ドル（約3京ウォン）の経済効果を創出するという市場調査機関IDCの見通しを引用した。
