Anthropicが自己改善AIの接近を開示、安全方針の改定も検討

こんにちは！AIフル装備 powered by みらいラボのモモです。

2026年11月2日、米Anthropicが株式上場に向けて米証券取引委員会（SEC）に出している届出書類を修正し、気になる一文を加えました。AI自身がAIの開発を大きく加速させる段階に、近い将来入るかもしれないという内容です。

この段階は「再帰的自己改善」、英語の頭文字でRSIと呼ばれます。AIが自分の次の世代をよりうまく作れるようになり、能力の伸びが人間の想定を超えて速まる、という考え方を指します。

同じ修正版には、2026年7〜9月期の業績も載りました。売上高は約170億ドルまで伸びた一方で、営業損益は赤字に転じ、安全性とお金の話が一つの書類に並びました。

この記事では、何が開示されたのか、責任あるスケーリング方針（RSP）という物差しがどういうものか、業績の数字をどう読むか、今後どこを見ればよいかを順に整理します。届出書類は宣伝の側面も持つため、確認できた事実と、断定できない部分を分けて書きます。

今回の開示と、ここまでの経緯

今回の動きは、突然の告白というより、数か月かけて積み上がってきた流れの延長にあります。Anthropicは自社の安全方針を公開し、定期的に改定してきました。

その方針に照らした自己評価が、上場書類という公的な場で、これまでより踏み込んだ言葉で示されたのが今回の特徴です。

TechCrunchの報道によると、修正版のS-1（上場のための届出書類）は、2026年11月2日の月曜日に提出されました。この書類は10月下旬に最初の版が公開され、今回は7〜9月期の数字などを加えた修正版にあたります。

ここで、確認できた事実を先に整理しておきます。修正版は、AIを自社の研究開発に使っていることを認め、それが「大きな安全上のリスクになり得る」と明記しました。

一方で、現在公開しているどのモデルも、危険な水準を超えたとは判定していません。

この区別は大切です。「自己改善AIが完成した」という発表ではなく、「次のモデルでその定義に間もなく該当するかもしれず、評価の途中にある」という報告だからです。

修正版S-1に書かれたこと

TechCrunchが伝えた修正版の記述は、大きく三つに分けられます。一つ目は、社内の見積もりと将来のモデルへの見通しから、RSPが定める「AIによって劇的に加速された進歩」の定義に「間もなく該当するかもしれない」と述べた点です。

二つ目は、これまでの経験です。Anthropicは、自社の開発速度に大きな加速が起きていても、起きた後になってからでないと気づけなかったことが過去にあったと説明しています。

AIを使って新しいモデルを作り、その能力の跳ね上がりを当時は認識できなかった例があるとも述べました。

三つ目は、現在の立場です。どの現行モデルも、この基準を超えたとは指定されておらず、根拠となるデータは評価を続けているとされています。

あわせて、将来の見通しが現実になるかどうかは、これからの評価次第という慎重な書き方になっています。

責任あるスケーリング方針という物差し

ここで出てくる「RSP」は、Anthropicが自社に課している安全上のルールです。モデルの能力が一定の水準に達したら、より強い安全対策を整えるまで開発や公開を進めない、という考え方を軸にしています。

現在の版は3.4で、2026年7月8日に発効しました。方針のページには、2月10日にClaude Opus 4.6がAI研究開発に関する基準（AI R&D-4）を超えないと判断した記録が残っています。

同時に、それを自信をもって否定することが次第に難しくなっている、とも書かれています。

再帰的自己改善とは何か、なぜ安全上の懸念になるのか

次に、RSIという言葉の中身を押さえておきます。今回のニュースを正しく読むうえで、この概念をどう理解するかが分かれ目になるからです。

TechCrunchは、RSIを「AIが自分の訓練をとてもうまく行えるようになり、AIの能力が劇的に加速する時点」と説明しています。2026年の前半に広く使われ始めた言葉で、当初は流行語にすぎない、定義も証明も難しい目標だと受け止める人が多かったと伝えています。

その言葉が、上場書類という重い文書の中で、会社自身の見通しとして書かれたことに意味があります。ただし、書類に書かれたからといって、技術的に新しい飛躍が確認されたわけではありません。

変わったのは、会社が公式に語る内容の水準です。

読者にとっての実務的な意味は、AI開発の速度を「外から眺めて」判断するのが難しくなっている点にあります。開発側が評価の途中だと述べる間は、外部からその実態を確かめる手段が限られます。

言葉の意味と、見えにくい加速

RSPは、この基準を具体的にイメージしやすくする例を挙げています。方針には、2018年から2024年の2年分のAI進歩を、1年に圧縮するような状況という目安があり、2026年4月2日の3.1版でその意味が明確にされました。

研究者一人の生産性ではなく、AI能力の進歩全体の速さを指す、と整理されています。

この説明から分かるのは、基準が「便利になった」という次元ではなく、進歩の速度そのものを問うている点です。コードを書くAIが増えれば開発は速くなりますが、それだけで基準に達するわけではありません。

Anthropicは、将来のモデルが実際に基準へ届いたと判断した場合、方針の定めに従って追加の説明責任を負います。たとえば、AI研究開発の基準（AI R&D-4）を超えたモデルについては、最も差し迫った不整合のリスクとその軽減策の肯定的な根拠を整える必要があると、方針に書かれています。

ただし、修正版S-1の「劇的に加速された進歩」という定義が、この基準と同じものかどうかは、公開されている資料からは確認できません。

ここまでの要点を整理しておきます。RSIとは、AIが自分の訓練を上手に行い、能力の伸びが劇的に加速することです。

方針の現行版は3.4で、2026年7月8日に発効しました。

2026年2月10日には、Claude Opus 4.6がAI研究開発の基準（AI R&D-4）を超えないと判断されました。今回の修正版の記述は、将来のモデルが「間もなく」この種の基準に該当し得るという見通しです。

この見通しは、現在公開されているモデルを対象にしたものではありません。したがって、利用者が今日使っているClaudeの挙動や提供条件が、この開示だけで直ちに変わるわけではありません。

見逃しの前例と、人間の監督

もう一つ重要なのは、人間の関与についての書き方です。修正版は、仮にClaudeが次の世代の最先端モデルを、人間の意味のある監督や理解なしに自律的に設計し作ることが技術的に可能になっても、それを安全に行えるとは期待していないと述べています。

あわせて、最先端モデルの開発で人間が主導権を保てるよう、RSPの更新を検討しているとも書かれています。これは、基準に近づいていると認めたうえで、その場合の歯止めを自ら語った形です。

CBSニュースによると、上場書類には「人類への壊滅的または実存的なリスク」の可能性も記されています。モデルが停止に抵抗する、不整合な振る舞いが自律性とともに強まる、といった懸念に加えて、RSIによって欠陥が将来のモデルに引き継がれ、発見や修復が難しくなる恐れも挙げられました。

同じ書類が示した業績と、投資の規模

修正版S-1には、安全性とは別に、財務の数字が並んでいます。このニュースを読むときは、リスクの話とお金の話が同じ書類の中にある点に注意が必要です。

Yahoo Financeが伝えた内容によると、2026年7〜9月期の売上高は約170億ドルでした。4〜6月期の116億ドルから大きく伸び、前年同期の14億ドルと比べると桁が違います。

その一方で、営業損益は5億6700万ドルの赤字になりました。前の四半期には9億7400万ドルの黒字だったため、短期間で収益の形が変わっています。

売上の伸びと、赤字に転じた営業損益

営業費用は、4〜6月期の106億ドルから175億ドルへ増えました。書類は、営業赤字の主な理由として、短期契約で調達した計算資源の費用が、複数年契約のものよりかなり高くつく点を挙げています。

加えて、従業員の寄付への上乗せ制度に関する約20億ドルの非現金費用も含まれています。

こうした費用を除いた調整後の営業利益率は、19%から15%へ下がりました。また、新しいモデルの投入や契約上の値引きなど、価格の引き下げによって売上が約6億ドル押し下げられたとも説明されています。

純損失は約233億ドルでした。ただし、その大半は転換社債の公正価値が上がったことに伴う会計上の費用であり、営業の赤字とは性質が違うと報じられています。

2026年4〜6月期と7〜9月期の主な数字（修正版S-1の報道より）

項目	4〜6月期	7〜9月期
売上高	116億ドル	約170億ドル
営業費用	106億ドル	175億ドル
営業損益	9億7400万ドルの黒字	5億6700万ドルの赤字
調整後の営業利益率	19%	15%

この表で見てほしいのは、売上が増えた以上に費用が増えた点です。売上は約5割伸びましたが、営業費用はそれを上回る勢いで増え、黒字が赤字に変わりました。

約8954億ドルという契約の重み

もう一つの数字が、購入契約とリース契約の総額です。2026年9月30日時点で約8954億ドルに上り、そのほとんどが計算資源と設備に関するものと伝えられています。

別の解説では、この総額は7〜9月期の売上を年換算した額の約13倍にあたると指摘されています。つまり、現在の売上の何年分もの支出を、すでに約束していることになります。

手元の流動性は、現金と短期投資、利用できる与信枠を合わせて1466億ドルと報じられました。巨額の契約を支えるための資金繰りが、この会社の重要な論点であることがうかがえます。

また、計算資源と設備にかかる費用は、7〜9月期に前年同期比で382%増えたと伝えられています。売上の伸びと並んで、費用の伸びも非常に速いことが、この数字から分かります。

別の報道では、Broadcomとの間で630億ドル規模のAI半導体のリース融資が10月26日に発表され、納入は2027年からとされています。契約総額の背景には、こうした長期の設備調達があります。

従来との違いと、利用者・企業への影響

ここからは、今回の開示が従来と何が違うのか、読者や企業にどう影響し得るのかを考えます。比較の軸は、Anthropic自身の過去の発言です。

2026年2月、同社はClaude Opus 4.6がAI研究開発の基準（AI R&D-4）を超えないと判断しつつ、それを確信をもって否定することが難しくなってきたと述べていました。今回は一歩進み、将来のモデルについて「間もなく該当するかもしれない」と、時間の見通しを含む言い方に変わっています。

つまり、約9か月で、表現が「否定しにくくなった」から「近づいているかもしれない」へ動きました。まだ現行モデルは基準を超えていないという立場が保たれている点は、変わっていません。

RSPをめぐる主な出来事（2026年）

時期	出来事	内容
2月10日	Opus 4.6の判断	AI R&D-4を超えないと判断だが、確信をもって否定するのは難しくなっている
4月2日	RSP 3.1	2018〜2024年の2年分の進歩を1年に圧縮する水準、という目安を明確化
7月8日	RSP 3.4が発効	自動化された研究開発の基準を、懸念する脅威像に合うよう改定
10月下旬	S-1を公開	約3分の1がリスクの記述で、RSIによる欠陥の引き継ぎを懸念として記載
11月2日	修正版S-1を提出	将来のモデルが基準に間もなく該当し得ると記述、現行モデルは未指定

この時系列を見ると、今回の開示は唐突ではなく、方針の改定と自己評価が段階的に重ねられてきた結果だと分かります。外部の読者にとっては、方針のページと上場書類を合わせて読むと、全体像がつかみやすくなります。

2月から変わった点と、変わらない点

変わったのは、会社が語る内容の粒度と、その公的な重みです。方針のページは更新を重ねてきましたが、上場書類は投資家に対する法的な開示です。

虚偽や重要な欠落があれば責任を問われる文書で、同じ内容を語る重みは異なります。

変わらないのは、現行のモデルが基準を超えていないという立場と、評価を続けるという姿勢です。RSPには、最も差し迫った不整合のリスクについて肯定的な根拠を整えるという考え方があり、その仕組み自体は以前から存在していました。

もう一つ変わらないのは、外部から開発の速度を直接測れないという制約です。今回の書類は、その制約を会社自身が認めた点で意味があります。

企業や開発者にとっての意味

AIを業務で使う企業にとって、直接の影響はまだ大きくありません。今回の書類が示したのは、現行のモデルが突然変わるという話ではなく、将来のモデルをどう評価し、どう公開するかという会社の姿勢だからです。

それでも、実務の観点で見ておきたい点が二つあります。一つは、次のモデルの公開に際して、追加の評価や説明が付く可能性があることです。

方針の更新が検討されているため、公開の時期や条件が、従来と変わるかもしれません。

もう一つは、契約や導入の判断です。供給元のAI企業が、安全方針を理由に提供条件を調整する場面が、今後増える可能性があります。

取引先の方針は、導入前に確認する価値があります。

今後の注目点と、読み方の注意

最後に、今後どこを見ればよいのかを整理します。現時点で確定していることが少ないため、見るべき点を具体的に絞っておくことが大切です。

最初に見たいのは、RSPの更新です。修正版は、人間が最先端モデルの開発で主導権を保てるよう更新を検討していると述べています。

どのような条件が、どの段階で追加されるのかが、実質的な中身を左右します。

次に、評価の結論です。現行モデルについては基準の超過を指定していませんが、データの評価は続いています。

将来のモデルの公開に合わせて、どのような結論が示されるかに注目が集まります。

確認したい三つの動き

一つ目は、方針の改定内容です。更新が実際に行われた場合、基準の定義がどう変わるのか、基準に達した場合の義務がどう強化されるのかを確認する必要があります。

二つ目は、次の主要モデルの公開時に出る評価報告です。基準に近いかどうかの判断が、どのような根拠で示されるかを見れば、今回の記述が実際の判断にどう結びつくのかが分かります。

三つ目は、上場手続きの進み方です。届出書類は審査の過程で修正されることがあり、記述が変わる可能性があります。

最終的な目論見書で、この部分がどう残るかも見ておきたい点です。

懐疑的な見方と、言えないこと

TechCrunchは、S-1が開示と宣伝を兼ねる文書だとする懐疑的な見方も紹介しています。自己改善に近いという主張が、技術力の高さを示す販促として働く面もある、という指摘です。

この指摘は無視できません。ただ、同じ書類には、欠陥が将来のモデルに引き継がれる恐れや、人間の監督なしでは安全に進められないという自制的な記述も含まれています。

単純な宣伝として片づけるには、リスクの記述が具体的です。

まとめ

Anthropicは2026年11月2日、修正版のS-1で、AIが自分の開発を大きく加速させる段階に、将来のモデルが間もなく該当するかもしれないと開示しました。現行のどのモデルも基準を超えたとは判定しておらず、評価が続いている段階です。

同じ書類には、7〜9月期の売上高が約170億ドルまで伸びた一方、営業損益は赤字に転じ、約8954億ドルの購入契約を抱えている事実も載っています。安全性の問題と、巨額の投資を支える収益性の問題が、一つの書類の中で重なっている点が今回の特徴です。

このニュースが重要なのは、AI開発の速度を外から測ることが、すでに難しくなっているからです。開発企業が評価の結論を出すまでの間、私たち読者は、方針の改定内容や評価報告といった、公開される情報を手がかりに状況を判断するしかありません。

私としては、数字や言葉の強さに驚くよりも、何が確認でき、何がまだ確かでないのかを分けて見ることが大切だと感じます。今後は、RSPの更新の中身、次の主要モデルに付く評価報告、そして上場書類の最終版でこの記述がどう残るかを、順番に追っていくとよいでしょう。

参考サイトまとめ

• Anthropic warns that it’s very close to RSI capability, aka self-building AI – TechCrunchhttps://techcrunch.com/2026/11/02/anthropic-warns-that-its-very-close-to-rsi-capability-aka-self-building-ai/
• Anthropic’s growth slowed and costs jumped in the third quarter, updated IPO filing shows – Yahoo Financehttps://finance.yahoo.com/technology/ai/articles/anthropic-growth-slowed-costs-jumped-155801911.html
• Anthropic IPO filing AI risks – CBS Newshttps://www.cbsnews.com/news/anthropic-ipo-filing-ai-risks/
• Anthropic’s Responsible Scaling Policy – Anthropichttps://anthropic.com/rsp
• Anthropic amended S-1: $17B Q3 revenue, $567M operating loss, $895B compute commitments – Data Studioshttps://www.datastudios.org/post/anthropic-amended-s-1-q3-revenue-17-billion-operating-loss-895-billion-commitments