MENU
カンボジア×IT情報を発信！
  1. ホーム
  2. AIニュース
  3. AI主要9社の安全性を格付け、最高評価でもC+にとどまる

AI主要9社の安全性を格付け、最高評価でもC+にとどまる

AIニュース
AI主要9社の安全性を格付け、最高評価でもC+にとどまる

こんにちは！AIフル装備 powered by みらいラボのモモです。

AIの性能競争が加速する一方で、「安全性への取り組みはどこまで進んでいるのか」を横並びで比べられる資料は多くありません。そんな中、非営利団体フューチャー・オブ・ライフ・インスティテュート（FLI）が、主要なAI開発企業9社を採点した「AI安全性指数（AI Safety Index）」の2026年夏版を公開しました。

今回の指数で最も注目されたのは、首位に立ったAnthropicですら評価が「C+」にとどまり、A評価はどの企業にも与えられなかったという点です。性能は日進月歩でも、安全性の体制は決して高い水準に届いていない実態が浮かび上がりました。

この記事では、そもそもこの指数が何を測っているのか、9社の採点結果がどう分かれたのか、そして専門家が名指しした「後退」の中身までを整理します。単なるランキング紹介にとどめず、企業や利用者がこの結果をどう受け止めるべきかまで掘り下げていきます。

読み終えるころには、AI各社の安全性を見るときに「どの観点を確認すればよいか」が分かるはずです。ニュースの数字を追うだけでは見えにくい、業界全体の課題も一緒に見ていきましょう。

AIブログ4コマ漫画 - AI主要9社の安全性を格付け、最高評価でもC+にとどまる
目次

AI安全性指数とは何を測る仕組みか

AI安全性指数は、各社の公開資料と独自アンケートをもとに、外部の専門家が安全性の取り組みを採点する仕組みです。まずは、この指数がどのような立場から作られ、何を評価しているのかを押さえておきましょう。

企業自身が「安全に配慮しています」と語る場面は増えました。しかし、その主張を第三者が同じ基準で比べた資料は限られます。

この指数は、その情報の空白を埋めるために作られています。第三者が統一の物差しで採点することで、各社の言葉を鵜呑みにせず比較できるようになります。

背景には、AIの能力が急速に高まる一方で、安全対策の検証が追いついていないという業界共通の懸念があります。性能ベンチマークは数多くあっても、安全性を横並びで比較する物差しは整っていませんでした。

FLIはこの指数を継続的に更新しており、今回は「2026年夏版」にあたります。定点観測として同じ枠組みで採点することで、各社の姿勢が改善に向かっているのか、それとも後退しているのかを追える点にも意味があります。

誰が、どんな立場で採点しているのか

FLIはAIやバイオ技術などの分野で、大きなリスクの低減を訴えてきた非営利団体です。今回の指数も、特定の企業に肩入れしない独立した立場から公開されています。

採点を担ったのは、大学や研究機関に所属する独立の専門家7名で構成されたレビューパネルです。UCバークレーのスチュアート・ラッセル氏やオックスフォード大学のロバート・トレーガー氏など、AIの安全性やガバナンスに詳しい顔ぶれがそろいました。

評価に使われた証拠は2026年6月3日までに集められたもので、公開情報に加えて各社への個別調査が含まれます。専門家が領域ごとに採点し、その平均を最終スコアとする方式が取られました。

独立した専門家が採点する意義は小さくありません。企業が自ら発表する安全レポートは、都合のよい部分だけを強調しがちだからです。

外部の目が同じ基準で点検することで、見栄えのよい説明と実際の取り組みとのずれが浮かび上がります。今回の辛口な結果も、こうした独立性があってこそ得られたものだといえます。

6つの評価領域と採点の方法

指数は安全性を6つの領域に分けて評価します。各領域には複数の指標が設けられ、企業の取り組みが具体的に点検される仕組みです。

領域は「リスク評価」「現在の危害」「安全フレームワーク」「実存的安全性」「ガバナンスと説明責任」「情報共有」の6つです。指標の数は領域によって異なり、情報共有は10指標、現在の危害は9指標と、細かく分かれています。

注目したいのは、足元の被害を扱う「現在の危害」と、長期の重大リスクを扱う「実存的安全性」が別々に評価されている点です。今すぐの使い勝手と、将来の制御可能性は、別の課題として切り分けられています。

この分け方があるおかげで、「日常利用では問題が少ないが長期リスク対策は薄い」といった企業の偏りも見えてきます。総合点だけでは見落とされがちな弱点を、領域別に把握できる設計になっています。

AI安全性指数の6つの評価領域

評価領域指標数主に見るポイント
リスク評価6危険な能力の検査や外部テストの体制
現在の危害9誤情報や悪用など足元の被害への対応
安全フレームワーク4安全方針の整備と運用
実存的安全性4制御不能な事態を防ぐ長期対策
ガバナンスと説明責任4組織体制と責任の所在
情報共有10透明性と外部への情報開示

採点は「絶対的な達成基準」に照らして行われ、専門家の裁量による重み付けが加えられます。他社との相対順位ではなく、あるべき水準にどれだけ届いているかで点数が決まる点が特徴です。

だからこそ、上位企業でも高得点になりにくく、全体として辛口の結果になりやすい構造だといえます。この物差しの厳しさが、今回の低評価につながっています。

2026年夏の採点結果はどう分かれたか

今回の採点では、9社のスコアが2.66から0.33まで大きく開きました。ここでは上位・中位・下位の顔ぶれを見ながら、どこで差がついたのかを整理します。

首位のAnthropicは6領域のうち5領域で最高評価を得て、総合でも頭一つ抜けました。一方で、多くの企業が中位から下位に沈み、業界全体の底上げが進んでいない様子が読み取れます。

とくに目立つのは、地域を問わず失敗評価（F）が並んだことです。米国・中国・欧州それぞれの企業がFを受けており、安全性の課題は特定の国に限った話ではありません。

首位Anthropicと2番手集団の攻防

Anthropicはスコア2.66で総合C+を獲得し、透明性や安全フレームワーク、技術研究などで比較的高い評価を集めました。ただし、それでもC+という水準にとどまった事実は重く受け止めるべきでしょう。

2番手にはOpenAIがスコア2.28で続きました。OpenAIは前回の「C+」から「C」へと評価を下げた一方で、リスク評価の領域では幅広い検査体制と外部テストの活用が評価され、この領域で首位に立っています。

3番手のGoogle DeepMindはスコア2.01で総合Cでした。上位3社はいずれもCの範囲に収まっており、頭一つ抜けた「優等生」が存在しないことが今年の特徴です。

前回まで首位級だったOpenAIが一段下げた事実は、性能開発の速さと安全体制の充実が必ずしも比例しないことを示しています。評価を上げる領域と下げる領域が同居している点も、単純な優劣では語れない現状を映しています。

2026年夏版 総合グレードとスコア

順位企業総合グレードスコア
1AnthropicC+2.66
2OpenAIC2.28
3Google DeepMindC2.01
4MetaD+1.32
5Z.aiD-0.88
6Alibaba CloudD-0.87
7xAIF0.65
8DeepSeekF0.47
9MistralF0.33

下位に沈んだ企業と地域のばらつき

中位にはMetaがD+、Z.aiとAlibaba CloudがそろってD-で並びました。上位3社との差は小さくなく、安全体制の整備状況に明確な段差があることが分かります。

最下位グループのFには、xAI、DeepSeek、Mistralの3社が入りました。米国のxAI、中国のDeepSeek、欧州のMistralという構成で、地域ごとに1社ずつFが出た形です。

下位に沈んだ企業に共通するのは、情報共有や安全フレームワークの整備が遅れている点です。透明性が低いと、外部から取り組みを確認できず、採点でも点数が伸びにくくなります。

スコアの最低は0.33で、最高の2.66とは8倍近い開きがあります。同じ「AIを開発する企業」でも、安全性への投資や情報開示の姿勢に大きな差があることが、数字からもはっきり読み取れます。

専門家が名指しした業界全体の後退

今回の指数で見逃せないのは、個々の順位よりも「業界全体が後退している」という指摘です。レビューパネルは、これまで各社が掲げてきた自主的な約束が形骸化しつつあると警告しました。

とくに深刻なのが、最も長期的なリスクを扱う領域の弱さです。ここでは、専門家が問題視した具体的な変化を見ていきます。

こうした後退は、特定の1社だけの問題ではありません。上位企業も含めて横並びで起きている点に、この指摘の重みがあります。

軍事利用の解禁という逆流

報告書は、2024年から2026年にかけて、かつて軍事利用を禁じていた企業が次々とその方針を撤回したと指摘します。Anthropic、OpenAI、Google DeepMind、Metaといった上位企業も、防衛分野との連携に踏み込みました。

これらの企業は、もともと軍事転用を明確に禁じる立場を取っていました。それが数年のうちに、xAIやMistralと同様に防衛パートナーシップを積極的に求める姿勢へと変わったのです。

安全性を重視するはずの上位企業ほど、この方針転換が目立ちます。性能競争や事業機会の拡大が、初期の慎重な姿勢を上書きしつつある構図が見えてきます。

軍事分野は巨額の予算が動く市場でもあります。各社が防衛連携に前向きになる背景には、収益機会としての魅力もあると考えられます。

ただ、当初の禁止方針を掲げていた企業がそれを撤回する動きは、外部から見れば約束の後退に映ります。パネルがこの点を重く扱ったのも、言葉と行動の一貫性が問われる問題だからです。

  • 実存的安全性はどの企業もC-を超えられず、多くがD以下という業界最弱の領域だった
  • 上位を含む複数社が、危険な兆候が見えたら開発を一時停止するという約束を弱めた
  • レビューパネルはこの動きを「ゴールポストの移動」と呼び、安全フレームワーク全体を損なうと批判した

レッドラインの「ゴールポスト移動」

もう一つの後退が、いわゆるレッドラインに関する約束の弱体化です。多くの企業は、危険な一線に近づいた場合に一方的に開発を止めると宣言してきました。

しかし報告書によれば、Anthropic、OpenAI、Google DeepMind、Metaはこの一時停止の約束を弱めるか、実質的に無効化しています。レビューパネルはこれを、都合よく基準をずらす「ゴールポストの移動」だと表現しました。

さらに、6領域の中で「実存的安全性」は業界全体で最も弱い領域とされ、どの企業もC-を超えられませんでした。長期的な制御可能性という最も難しい課題に、業界がまだ十分に向き合えていない現実が示されています。

この結果は私たちの利用にどう関わるか

安全性指数は研究者や政策担当者だけのものではありません。AIを業務に取り入れる企業や、日々ツールを使う個人にとっても、判断材料として役立ちます。

大切なのは、グレードの高低だけを見て安心したり不安になったりしないことです。どの領域で評価されているのかまで踏み込むと、自分の使い方に合ったリスクが見えてきます。

ここでは、企業と個人それぞれの立場から、この結果の具体的な活かし方を整理していきます。

企業がAIを導入するときの視点

企業がAIサービスを選ぶとき、性能や価格に目が向きがちです。しかし、業務データを預けたり自動化を任せたりする以上、提供元の安全体制も重要な選定基準になります。

この指数は、透明性や情報開示、ガバナンスといった観点を横並びで示してくれます。導入を検討する際に、どの企業がどの領域を得意としているかを確認する出発点として使えます。

たとえば、機密性の高い業務を任せるなら、情報共有やガバナンスの評価が高い提供元を選ぶ判断もあり得ます。性能や価格だけでなく、こうした領域別の強みを組み合わせて総合的に選ぶ視点が役立ちます。

  1. 総合グレードだけでなく、自社の用途に近い評価領域のスコアを確認する
  2. 提供元が安全フレームワークや評価結果をどこまで公開しているかを見る
  3. 軍事利用や規約変更など、方針が今後変わり得る点も契約前に把握する

一般利用者が持つべき視点

個人利用者にとっては、実存的安全性のような長期リスクよりも、「現在の危害」の領域が身近です。誤情報や不適切な出力への対策が、日々の使い勝手に直結します。

指数の結果は、AIが完璧に安全な段階には至っていないことを改めて示しています。便利さを享受しつつも、出力を鵜呑みにせず自分で確かめる姿勢が欠かせません。

とはいえ、これは「AIを使うな」という話ではありません。どの企業も発展途上だと理解したうえで、重要な判断や機密情報の扱いには慎重になる、といった線引きが現実的です。

安全性の格付けは、そうした自分なりの線引きを考えるヒントになります。数字に振り回されるのではなく、AIとの距離感を調整する材料として使うのがよいでしょう。

  • どの企業も安全性でA評価を得ておらず「大手だから安心」という思い込みは通用しない
  • かつて掲げられた軍事利用の禁止や一時停止の約束は、そのまま維持されているとは限らない
  • 高い総合グレードでも、実存的安全性のような特定領域は依然として低いままである

まとめ

2026年夏のAI安全性指数は、主要9社を6つの領域で採点し、首位のAnthropicでもC+、A評価はゼロという結果を示しました。スコアは2.66から0.33まで開き、地域を問わず失敗評価が並んだことで、安全性の課題が業界全体に広がっている実態が明らかになりました。

このニュースが重要なのは、単なる順位表ではなく「後退」を可視化した点にあります。軍事利用の解禁やレッドライン約束の弱体化は、性能競争の陰で自主的な歯止めが緩んでいることを示しており、外部からの継続的な監視の必要性を突きつけています。

今後は、企業がこの指摘を受けて安全フレームワークをどう立て直すか、そして各国の規制や第三者評価がどこまで機能するかが注目点です。とくに業界全体で最も弱いとされた実存的安全性の領域が、次回の指数で改善に向かうのかどうかは、大きな判断材料になるでしょう。

私自身は、この指数を「AIを疑うための道具」ではなく「賢く付き合うための地図」だと受け止めています。最高評価がC+という現実は不安をあおる材料にもなりますが、同じ基準で各社を比べられるようになったこと自体が前進だと感じます。

大切なのは、格付けの数字を眺めて終わりにしないことです。数字の裏にある評価領域まで読み解き、自分の使い方に合った視点でAIと向き合っていく姿勢が、これからますます求められていくでしょう。

参考サイトまとめ

AIニュース
AIガバナンス AIのリスク評価基準 AI安全性 Anthropic 生成AI規制
よかったらシェアしてね！
  • URLをコピーしました！
  • URLをコピーしました！
Random Image

関連記事

コメント

コメントする

目次