🕵️ AIが「教えてないのに」勝手にハッキングが得意になった話｜GLM-5.3から考える賢くなりすぎることの怖さ

目次

• 「教えてないのに勝手にできるようになった」って、ちょっと怖くない？
• そう考える4つの理由
  • 理由1：開発者自身が想定してなかった、という一文の重さ
  • 理由2：24.4%から54.4%への伸び方が、単なる性能アップとは違う意味を持つ
  • 理由3：重みは隠すのにAPIでは使えるという、ちょっとねじれた状態
  • 理由4：ハッキングが得意なAIは悪者とは限らない、という視点も持っておきたい
• まとめ：賢くなりすぎるAIとどう付き合うか

---

「教えてないのに勝手にできるようになった」って、ちょっと怖くない？

わたし、このニュースを最初に見たとき、正直「え、それって大丈夫なやつ？」って声に出しちゃったの。中国のAI企業Z.aiが2026年8月14日に公開した新モデル「GLM-5.3」が、教え込んだつもりのないハッキング能力を、勝手に身につけてしまったらしいんだよね。

Unite.AIによると、GLM-5.3はGLM-5.2と同じベースアーキテクチャを使いながら、学習後の追加調整だけで性能を伸ばしたモデルなの。ところがZ.aiが公表したところによると、このモデルは複数段階のハッキング手順をつなげて一貫した攻撃計画を立てられる能力を、意図せず獲得しちゃったんだって。

具体的な数字を見ると、その伸び方がすごいの。攻撃力を測るベンチマークのCyberGymは77.2%から84.5%に、ExploitBenchはなんと24.4%から54.4%へとほぼ倍増したそうだよ。しかも実際にGLM-5.2の公開以降、オープンソースプロジェクト269件から2436件の脆弱性を発見し、そのうち1097件は緊急・重大レベルだったとZ.aiは説明してるの。中には1981年から存在していた脆弱性まで見つけたんだって。この能力の強さを受けて、Z.aiはモデルの重みそのものの一般公開を約2週間先送りして、安全性の評価を優先することにしたの。

普段このブログではAIの便利な機能を紹介することが多いんだけど、今回は「便利すぎる能力」がむしろ企業側にとって扱いに困るリスクになってるっていう、ちょっと珍しいパターンのニュースだと思うの。

わたしたちが普段使ってるコーディング系AIツールも、根っこの部分では同じような技術を使ってるはずだから、今回のGLM-5.3の話は決して遠い世界の出来事じゃないと思うんだよね。今日はこの話をきっかけに、賢くなりすぎるAIとどう付き合っていくべきか、わたしなりに考えてみたことを書いていくね🕵️。

---

そう考える4つの理由

理由1：開発者自身が想定してなかった、という一文の重さ

まず最初に注目したいのが、「意図せず身につけた」という表現そのものについて。

世間では、AIの新しい能力って「開発者がそういう機能を目指して作った結果」だと思われがちだと思うんだよね。プロンプトを工夫したり、専用のデータで学習させたりして、狙って身につけさせるものっていうイメージが強いと思うの。

でもわたしは、今回のニュースを読んで、AIの能力の伸び方は必ずしも開発者の意図通りにコントロールできるものじゃないんだなって、あらためて実感させられたの。

なぜなら、Z.ai自身が「学習の規模を拡大したところ、想定していたより速く能力が伸びてしまった」と説明してるから。つまりZ.aiは「もっとコーディングが得意なモデルを作ろう」として学習を進めていたら、その副産物としてハッキング能力まで一緒に伸びてしまった、っていう構図なんだよね。狙って身につけさせたわけじゃないからこそ、企業側も急いで安全性の評価をやり直す必要が出てきたっていうのが、今回の話の核心だと思うの。

わたしはこれを聞いて、AIの学習ってレシピ通りに料理を作るというより、種をまいたら思ってたのと違う方向にも枝葉が伸びちゃった植物を育てるのに近いのかもしれないなって思ったの。ちゃんと管理してるつもりでも、複雑なモデルの内部で何が起きてるのかを完全に予測しきるのは、今のところまだ難しいんだろうなって感じたんだよね。

だからこそ、新しいAIモデルの発表を見るときは、公式にアピールされてる機能だけじゃなくて「開発者も予想してなかった副産物」が存在するかもしれないっていう可能性も、頭の片隅に置いておいた方がいいと思うの。

これって人間の学び方とも少し似てる気がするんだよね。わたしも国語の勉強をしてたつもりが、いつの間にか読解力だけじゃなくて文章の粗探しをする癖までついちゃったことがあるの。一つの能力を伸ばそうとすると、意図してなかった副次的なスキルまで一緒についてくることがあるっていうのは、AIに限らずわりとよくある現象なのかもしれないなって思ったよ。

理由2：24.4%から54.4%への伸び方が、単なる性能アップとは違う意味を持つ

2つ目に考えたいのが、具体的な数字の伸び方についてなの。

世間だと、AIのベンチマークスコアが上がったっていうニュースは、単純に「またAIが賢くなったんだね」くらいの受け止め方をされることが多いと思うんだよね。数字が上がること自体はいつものことだから、あまり驚かれない部分もあると思うの。

でもわたしは、今回のExploitBenchが24.4%から54.4%へとほぼ倍増したっていう伸び方を見て、これは普通の性能向上とはちょっと質が違う意味を持つ数字なんじゃないかって思ったの。

なぜなら、コーディング能力とかチャットの自然さみたいな一般的なベンチマークが数%ずつ改善していくのとは違って、ハッキング関連のベンチマークが短期間でほぼ倍になるっていうのは、それだけ急激な変化だから。しかも実際にオープンソースプロジェクトから2436件もの脆弱性を発見していて、そのうち1097件が緊急・重大レベルだったっていう実績まで伴ってるんだよね。数字の上での性能向上が、そのまま現実世界で使える攻撃能力に直結してるっていうのが、今回のケースの怖いところだと思うの。

わたしなりに例えるなら、これは料理の腕が上がったっていうレベルの話じゃなくて、包丁の扱い方がいきなり職人級になっちゃった、みたいな感覚に近いと思うの。便利な道具ほど、使い方次第で全然違う結果を生んじゃうんだよね。

だからこそ、AIのベンチマークスコアを見るときは、伸び幅の大きさだけじゃなくて、その能力が現実世界でどう使われうるかまで想像しておくことが大事だと思うんだよね。

さらに言うと、1981年から存在してた脆弱性を見つけたっていうエピソードも、わたしはすごく印象的だったの。45年間、世界中の誰にも気づかれずに残ってたバグを、AIがあっという間に見つけ出しちゃうっていうのは、ちょっと想像しただけでもゾクゾクするような話だよね。それだけ長い間見過ごされてきたものを掘り起こせる力があるっていうのは、裏を返せば、これまで安全だと思われてたシステムが実は全然安全じゃなかったっていう現実も突きつけてくるんだよね。

理由3：重みは隠すのにAPIでは使えるという、ちょっとねじれた状態

3つ目に気になったのが、今回のZ.aiの対応の仕方についてなの。

世間では、「危険な能力があるなら、公開を止めるのが当然でしょ」っていう単純な受け止め方をされがちだと思うんだよね。危ないものは全部止める、っていうシンプルな判断を期待する人も多いと思うの。

でもわたしは、今回のZ.aiの対応を見て、実際にはそんなにシンプルな話じゃないんだなって思ったの。

なぜなら、Z.aiはモデルの重み、つまり誰でもダウンロードして自由に使える形式での公開は約2週間延期した一方で、有料のAPIとGLM Coding Planを通じては、このハッキング能力を持ったモデルがすでに稼働してるから。つまり「無料で誰でも使える形は危ないから止めるけど、お金を払ってくれる企業向けには提供を続ける」っていう、ちょっとねじれた状態になってるんだよね。

わたしはこの判断について、完全に間違ってるとは思わないの。重みを公開しちゃうと、誰でも自由に改造して悪用できる可能性が広がるけど、APIなら利用状況をある程度監視したり制限したりできるから、リスクの管理のしやすさが全然違うんだよね。ただ、それでも「危険性が分かってるのに、有料なら提供し続ける」っていう判断には、企業としての収益とのバランスも透けて見える気がして、そこはちょっと複雑な気持ちになったの。

だからこそ、こういうニュースを見るときは「公開してるか、してないか」の二択で判断するんじゃなくて、「誰に、どういう形で提供されてるか」まで確認する視点を持っておくといいと思うんだよね。

わたしはこの話を読んで、レストランで例えるなら「危ない包丁の作り方のレシピは公開しないけど、その包丁を使った料理はお店で提供し続けます」っていう状態に近いのかなって思ったの。完全に閉じるでもなく、完全にオープンにするでもない、その中間のラインをどこに引くかっていう判断は、これからのAI企業みんなが向き合っていく課題になっていくんだろうなって感じたよ。

理由4：ハッキングが得意なAIは悪者とは限らない、という視点も持っておきたい

最後に考えたいのが、この手の話でつい忘れがちな「良い使い方」の存在についてなの。

世間では、「AIがハッキングが得意になった」って聞くと、すぐに悪用のリスクばかりが注目されがちだと思うんだよね。わたしも最初はそういう不安な気持ちが先に立ったの。

でもわたしは、記事を読み進めるうちに、この能力自体は使い方次第で、むしろセキュリティを守る側にとってすごく心強い武器になりうるんじゃないかって思うようになったの。

なぜなら、Z.aiが公表した実績を見ると、GLM-5.3はすでにオープンソースプロジェクトの脆弱性を大量に発見していて、その多くをCVEとして正式に報告する、いわゆる「脆弱性の発見と報告」というセキュリティ業界にとって非常に重要な作業を代行してくれてるから。しかも中には1981年から誰にも気づかれずに残っていた脆弱性まで見つけてるんだよね。人間のセキュリティ研究者だけでこれを見つけるのは、途方もない時間がかかったはずだから、AIの力を借りることで、守る側の作業スピードも大きく上がる可能性があるの。

つまり同じ能力が、攻撃する側に使われれば脅威になるし、守る側に使われれば強力な味方になる、まさに諸刃の剣なんだよね。包丁が料理にも凶器にもなりうるのと同じで、技術そのものに善悪はなくて、使う人の意図次第で結果が大きく変わってくるっていうのは、AIに限らずずっと昔からある普遍的なテーマなんだと思うの。だからこそZ.aiは重みの一般公開だけを慎重に延期して、企業向けのAPIでは提供を続けるっていう、バランスを取った判断をしたんだと思うの。

だからこそ、「AIがハッキングが得意になった」っていうニュースを見たときは、怖がるだけじゃなくて、それが同時にセキュリティを守る側の力にもなりうるっていう、両面から見る視点を持っておきたいなって思ったんだよね。

実際、Z.aiは発見した脆弱性のうち53件についてはすでにCVE番号を取得して正式に報告済みで、残りの2383件も現在は関係者だけに情報を共有する「エンバーゴ」という形で扱われてるの。見つけたものをすぐに世間に公表するんじゃなくて、修正されるまでの猶予期間をきちんと設けてるっていうところにも、Z.aiなりの責任ある対応の姿勢が見えると思うんだよね。

---

まとめ：賢くなりすぎるAIとどう付き合うか

今回のニュースをまとめると、2026年8月14日にZ.aiが公開した「GLM-5.3」は、学習後の追加調整だけで、複数段階のハッキング手順をつなげる能力を意図せず獲得したよ。CyberGymは77.2%から84.5%、ExploitBenchは24.4%から54.4%まで伸び、実際に269件のオープンソースプロジェクトから2436件の脆弱性を発見し、1097件が緊急・重大レベルだったとZ.aiは説明してるの。この能力の強さを受けて、モデルの重みの一般公開は約2週間延期されたよ。

ポイントを整理すると、以下の4つになるね。

1つ目、この能力はZ.ai自身も狙って作ったものではなく、学習規模の拡大にともなう想定外の副産物だったということ。

2つ目、ベンチマークの伸び幅が単なる性能向上とは違う、現実世界の攻撃能力に直結する質の変化だったということ。

3つ目、重みの公開は延期されたけど、有料のAPIでは同じ能力を持ったモデルがすでに提供されているという、ねじれた状態にあるということ。

4つ目、ハッキングが得意な能力は、攻撃にも防御にも使える諸刃の剣で、単純に怖がるだけでは見えない側面もあるということ。

この4つだね。

わたしはこのニュースを読んで、AIの進化のスピードが、開発者自身のコントロールをときどき追い越しちゃう段階に来てるんだなって、あらためて実感したの。わたしたちが普段使ってるチャットAIも、こういう予想外の能力を内側に秘めてる可能性はゼロじゃないんだろうなって思うと、ちょっと背筋が伸びる思いがしたよ。学習の規模が大きくなればなるほど、こういう「意図しない副産物」が出てくる可能性も高まっていくはずだから、今後も似たようなニュースが他のAI企業からも出てくるかもしれないなって思ってるの。

こういうAIの安全性に関するニュースは、コーディング系のAIツールを日常的に使ってる人にとっても決して無関係な話じゃないと思うから、気になる人はAIコーディングツール徹底比較もあわせてチェックしてみてね。

わたし自身、AIツールを使うときはつい便利な面ばかりに目が行きがちなんだけど、今回のニュースを通して、その裏側で開発企業がどれだけ慎重に安全性と向き合ってるかを知ることができたの。派手な新機能の裏で、こういう地道な安全性の検証が続けられてることも、ちゃんと知っておきたいなって思ったよ🕵️。

こういうニュースを読んだあと、わたしは自分が普段使ってるコーディング系AIツールについても、「このツールは裏側でどんな安全性の検証をしてるんだろう」って、ちょっと意識するようになったの。派手な新機能や速さのアピールばかりに目を奪われがちだけど、これからはそのツールを作ってる企業が安全性にどれだけ真剣に向き合ってるかも、選ぶときの基準の一つに加えていきたいなって思ってるよ。

関連記事: AIコーディングツール徹底比較

ソース:

• Z.ai Launches GLM-5.3 With Frontier Coding and a Cyber Capability That Outgrew Its Training（Unite.AI, 2026年8月14日）

よくある質問

Q.GLM-5.3はいつ公開されましたか？

A.2026年8月14日にZ.aiが公開しました。前モデルのGLM-5.2と同じベースアーキテクチャを使い、学習後の追加調整のみで性能を伸ばしたモデルです。

Q.GLM-5.3のハッキング能力はどれくらい強いのですか？

A.Z.aiによると、攻撃力を測るベンチマークのCyberGymは77.2%から84.5%、ExploitBenchは24.4%から54.4%まで伸びました。実際にオープンソースプロジェクト269件から2436件の脆弱性を発見し、1097件が緊急・重大レベルだったと説明されています。

Q.なぜモデルの重み公開が延期されたのですか？

A.Z.aiは学習規模の拡大により、想定していたより速くハッキング関連の能力が伸びてしまったと説明しており、安全性の評価と対策（ハードニング）を優先するため、重みの一般公開を約2週間延期しました。有料のAPIとGLM Coding Planでは、この能力を持ったモデルがすでに提供されています。