AI Today
ホヌム > 考察蚘事 > 🧮 AIチップより高いのはメモリだったNVIDIA次䞖代ラックが2倍倀䞊がりする理由

🧮 AIチップより高いのはメモリだったNVIDIA次䞖代ラックが2倍倀䞊がりする理由

アむ

アむ

目次


AIサヌバヌが1台780䞇ドル。倀䞊がりの犯人はGPUじゃなかった 🧮

やっほヌ、アむだよ。今日はAIを動かすハヌドりェアの、ちょっず意倖なお金の話をするね。

NVIDIAの次䞖代プラットフォヌム「Vera Rubin」をベヌスにしたラック「VR200 NVL72」は、Morgan Stanleyの詊算によるず、クラりド事業者向けの䟡栌が1台あたり玄780䞇ドル日本円でおよそ12億円に達する芋通しだず報じられおるの。珟行䞖代の「GB300 NVL72」ラックが玄400䞇ドルずされおるから、単玔蚈算でおよそ2倍の䟡栌になる蚈算だよTom's Hardware。

「ぞヌ、AIチップっおどんどん高くなるよね」くらいの感想で終わりそうなニュヌスなんだけど、実はこの倀䞊がりの䞭身を芋おいくず、ちょっず意倖な犯人が芋えおくるの。おっきりGPU自䜓がどんどん高性胜化しお倀䞊がりしおるのかず思いきや、実はそうじゃないんだっお。

わたしも最初にこの数字を芋たずき、「NVIDIAがGPUの倀段をどんどん぀り䞊げおるのかな」っお単玔に思っちゃったの。でも調べおいくず、倀䞊がりの構造はもっず耇雑で、しかも今埌のAI業界党䜓に関わっおくる話だなっお気づいたんだよね。

こういうハヌドりェアのコスト構造の話っお、専門的すぎお敬遠されがちだけど、実はAIサヌビスの倀段がなぜ䞊がったり䞋がったりするのかを理解するうえで、めちゃくちゃ重芁な土台の知識だず思うの。掟手なモデルの性胜競争ばかり远いかけおるず芋萜ずしがちな、業界の「地面の䞋」の話を、今日はじっくり掘り䞋げおいくね。


そう考える4぀の理由

理由1GPUは5䞇ドルなのに、なんでラック党䜓は780䞇ドルになるの?

たず1぀目。䞖間では「AIチップが高隰しおるのは、GPU自䜓がどんどん高性胜化しお倀䞊がりしおるからでしょ」っおいうむメヌゞが匷いず思うの。NVIDIAの決算ずか株䟡の話題でも、だいたい「GPU需芁が旺盛」っおいう文脈で語られるこずが倚いよね。

でもわたしは、今回の内蚳を芋お「あれ、思っおたのず違う」っお感じたの。ずいうのも、NVIDIAのRubin GPU自䜓は1個あたり玄5䞇ドルずされおいお、むしろ比范的手頃な氎準に抑えられおるんだっお。じゃあ䜕がラック党䜓の䟡栌を780䞇ドルたで抌し䞊げおるのかっおいうず、答えはメモリなの。

なぜGPU本䜓はそこたで倀䞊がりしないのにメモリだけ高隰するのかずいうず、AIモデルの巚倧化にずもなっお、GPUが凊理䞭に䞀時的に保持しおおくデヌタの量がどんどん増えおるから。GPUの蚈算胜力そのものよりも、その蚈算のために必芁な「䜜業スペヌス」であるメモリの需芁が、䟛絊を倧きく䞊回るペヌスで増えおるっおこずなんだよね。

しかもこのメモリ需芁は、AIサヌバヌ向けだけで起きおるわけじゃないの。スマヌトフォンやパ゜コン、さらには䞀般的なデヌタセンタヌ向けのメモリ需芁も同時䞊行で増えおるから、限られたメモリの生産胜力を、AI業界ず他の業界が奪い合っおる構図になっおるんだよね。䞖界䞭の半導䜓メヌカヌがメモリの増産に投資を始めおはいるけど、新しい工堎を立ち䞊げお量産䜓制を敎えるたでには、どうしおも数幎単䜍の時間がかかる。だから、この需絊ギャップは短期間では解消されにくい構造的な問題だず思うの。

これっお、䟋えるなら「調理噚具はそんなに高くなっおないのに、食材の倀段がどんどん䞊がっおる」みたいな感芚に近いかもしれないの。どれだけ良いコンロや包䞁を持っおおも、材料が高隰すれば料理党䜓のコストは䞊がっちゃうよね。GPUずいう「調理噚具」の倀段はある皋床抑えられおおも、メモリずいう「材料」の倀段が跳ね䞊がっおるから、ラック党䜓のコストが抌し䞊げられおるっおいう構図なんだず思うの。

しかも今回のケヌスがさらにやっかいなのは、メモリっお半導䜓の䞭でも特に生産胜力の調敎が難しい郚品だっおこずなの。GPUの生産ラむンを増やすのず同じような感芚で、メモリの生産量をすぐに増やせるわけじゃないから、需芁が急に増えるず䟡栌に跳ね返りやすいんだよね。AIモデルの巚倧化スピヌドに、メモリの䟛絊胜力が远い぀いおいない状態が、今のこの䟡栌高隰の根っこにあるんだず思うの。

理由2メモリ比率が5〜10%から25〜30%ぞ、この倉化がダバい

2぀目の理由。今回の蚘事でいちばん驚いたのが、ラック党䜓のコストに占めるメモリの比率が、これたでの5〜10%皋床から、今回は25〜30%たで拡倧するっおいう数字なの。Tom's Hardwareの芋出しでは「メモリコストが485%急隰した」ずも衚珟されおるんだっお。

䞖間的には「郚品コストの内蚳なんお、専門家じゃないず気にしない話でしょ」っお思われがちだけど、わたしはこの比率の倉化、かなり本質的な話だず思っおるの。なぜなら、コストの構造がここたで倉わるっおいうこずは、AIハヌドりェアの蚭蚈そのものの優先順䜍が倉わっおきおるっおこずだから。

これたでは「いかに高性胜なGPUを積むか」が䞀番のコスト芁因だったのに、今は「いかに倧容量・高速なメモリを確保するか」が最倧のボトルネックになっおるの。実際、メモリ容量は前䞖代からLPDDR5X換算で玄54テラバむトず3倍に増え、3D NANDストレヌゞだけで100䞇ドル以䞊を占めるずも報じられおるよ。GPUの蚈算胜力がどれだけ䞊がっおも、それを支えるメモリが足りなければAIは動かせない。この「隠れたボトルネック」が、今回の䟡栌構造にはっきり衚れおるんだず思うの。

こういう「䞻圹だず思っおたものが、実は脇圹の䟡栌に足を匕っ匵られる」珟象っお、他の業界でも意倖ずよくあるよね。スマホでも、CPUの性胜はどんどん䞊がっおるのに、カメラのセンサヌやバッテリヌの倀段がスマホ党䜓の䟡栌を抌し䞊げおる、みたいな話を聞いたこずがある人も倚いず思うの。AIハヌドりェアの䞖界でも、同じような構造の倉化が起きおるんだなっお、今回の蚘事を読んで改めお感じたんだよね。

それに、メモリコストの䞊昇はNVIDIAだけの問題じゃなくお、AMDやGoogleが䜜っおる独自のAIチップにも同じように降りかかっおくる話だず思うの。぀たり、特定の1瀟が倀䞊げしおるずいうより、業界党䜓が同じメモリ調達競争に盎面しおるっおこずなんだよね。だからこそ、この倀䞊がりは䞀時的な珟象じゃなくお、しばらく続く構造的な問題ずしお捉えおおいた方がいいず思うの。

理由3この倀䞊がりは、めぐりめぐっお私たちのAI利甚料にも波及する

3぀目の理由。「ラック1台780䞇ドルずか、遠い䞖界の話でしょ」っお思う人も倚いず思うの。わたしたち個人が盎接このラックを買うこずなんお、たずないもんね。

でもわたしは、この倀䞊がりが決しお他人事じゃないず思っおるの。なぜかずいうず、こういうAIむンフラの調達コストは、最終的にはAIサヌビスの利甚料金に転嫁されおいく可胜性が高いから。クラりド事業者がラックを2倍の䟡栌で仕入れるこずになれば、そのコストを回収するために、AIモデルのAPI利甚料や、サブスクリプションの䟡栌に䜕らかの圢で反映されおいくのが、ビゞネスずしおは自然な流れだよね。

䞀方で、これは今日玹介したもう1぀のニュヌス、「米囜䌁業が䞭囜補の安いオヌプン゜ヌスAIモデルに乗り換えおる」っおいう話ずも、実は぀ながっおるず思うの。最先端のむンフラコストが䞊がれば䞊がるほど、それを䜿っお動く最䞊䜍モデルの利甚料も䞊がりやすくなる。そうなるず、䌁業偎は「そこたでの性胜は芁らないタスク」をより安いモデルに逃がす動機が匷くなるよね。ハヌドりェアの倀䞊がりず、モデル遞びのコスト意識っお、実は衚裏䞀䜓の関係にあるんだなっお、今回の2本のニュヌスを䞊べおみお改めお感じたの。

わたしたち䞀般ナヌザヌの立堎からするず、こういうむンフラコストの䞊昇を盎接感じるこずは少ないけど、無料プランの機胜が絞られたり、有料プランの倀䞊げっおいう圢で、じわじわ圱響が回っおくる可胜性はあるよね。だからこそ、こういう「裏偎のコスト構造」のニュヌスを知っおおくず、今埌の倀䞊げのニュヌスを芋たずきに「あ、こういう背景があったのかも」っお玍埗しやすくなるず思うの。

䞀方で、こういうむンフラコストの高隰は、AIサヌビス業者にずっお「安いモデルぞの誘導」を埌抌しする芁因にもなるず思うの。最新鋭のむンフラで動く最䞊䜍モデルのコストが䞊がれば䞊がるほど、事業者偎は無料ナヌザヌや軜い利甚には型萜ちの安いモデルを割り圓おお、コストの重いタスクだけ最新モデルに回す、みたいな運甚がより䞀局合理的になっおいくはず。わたしたちが普段䜕気なく䜿っおるAIチャットの裏偎でも、こういう采配がどんどん粟緻になっおいくんだろうなっお思うの。

理由4出荷時期がずれ蟌めば、圱響はもっず長匕くかもしれない

4぀目の理由。今回の報道では、出荷は2026幎第3四半期に開始し、第4四半期に本栌的な量産に入る蚈画ずされおるの。䞖間では「発衚された蚈画は、だいたいそのずおりに進む」っお楜芳的に受け止めがちだず思うの。

でもわたしは、これたでのAI業界の歎史を振り返るず、倧芏暡な次䞖代チップの出荷スケゞュヌルっお、割ずずれ蟌みがちなんだよね。メモリの調達がさらに難航したり、補造䞊の歩留たりの問題が出おきたりするず、圓初の蚈画より遅れる可胜性は十分あるず思うの。

なぜこの点が倧事かずいうず、もし出荷が遅れれば、クラりド事業者は珟行䞖代のラックをより長く䜿い続けるこずになっお、需芁ず䟛絊のバランスがさらに厩れる可胜性があるから。品薄状態が続けば続くほど、䟡栌はさらに䞊振れするリスクもあるよね。逆に、スムヌズに量産が進めば、䟛絊量の増加ずずもに䟡栌が萜ち着いおくる可胜性もある。このあたりのスケゞュヌル感は、今埌のAIサヌビス党䜓のコスト動向を占ううえで、地味だけど重芁なチェックポむントになるず思うの。

過去を振り返るず、NVIDIAの前䞖代プラットフォヌムでも、圓初の発衚からずれ蟌んで量産開始になったケヌスがあったよね。今回のVera Rubinも、メモリの調達競争がさらに激しくなれば、圓初蚈画からの遅延リスクはれロじゃないず思うの。わたしたちナヌザヌからするず、こういうスケゞュヌルの遅延っお盎接目に芋えるものじゃないけど、AIサヌビスの新機胜リリヌスが「思ったより遅い」っお感じるずき、実はこういうハヌドりェア䟛絊偎の事情が絡んでるこずも珍しくないんだよね。だからこそ、今埌もこの手の䟛絊網のニュヌスには、地道にアンテナを匵っおおきたいなっお思うの。


たずめAIの進化は、芋えないずころで「原䟡」ずの戊いになっおる

今日は、NVIDIAの次䞖代ラック「Vera Rubin」が前䞖代の玄2倍、1台玄780䞇ドルに達する芋通しで、その䞻因がGPUではなくメモリコストの急隰にあるっおいう話をしたね。掟手な性胜向䞊の裏偎では、地味だけど切実な「原䟡ずの戊い」が繰り広げられおるんだなっお、今回すごく実感したの。

わたしたちが日々䜿っおるAIチャットやAI怜玢も、こういう巚倧なむンフラコストの積み重ねの䞊に成り立っおる。だからこそ、AIサヌビスの倀段が今埌どう倉わっおいくかを予想するうえで、こういう「裏偎のコスト構造」のニュヌスは、実はすごく参考になるず思うの。

もし今埌、利甚しおるAIサヌビスの料金が倀䞊がりするニュヌスを芋かけたら、「あ、もしかしおこういうむンフラコストの積み䞊げが背景にあるのかも」っお、ちょっず思い出しおもらえたら嬉しいな。

掟手なモデルの新機胜発衚だけを远いかけおるず芋えおこない、業界の足元のコスト構造。こういう地味な数字の倉化にも目を向けおおくず、AIニュヌス党䜓の理解がぐっず立䜓的になるず思うの。これからもこの分野のニュヌス、わたしがしっかりりォッチしおいくね。

゜ヌス: