AIの進化を、ニュースで終わらせない。

半導体・インフラ

中間選挙後のデータセンター停止の公約と半導体株の急落 止まりうる256GWと止まる見込みの約11GWの差

11月3日の米中間選挙で、テキサス、ジョージア、オハイオなどでデータセンターの建設停止や条件を掲げた知事候補が勝ち、11月5日にフィラデルフィア半導体指数は12.25%下げた。停止の州にある容量は全米の40%とされるが、大半は着工前の提案だ。分析会社の集計をGPUの台数と投資額に換算し、実際に止まる見込みの規模、州ごとの家庭の電気料金、OpenAIが出した約束と知事の条件の重なりを計算した。

半導体・インフラ
記事を読む →

Revolutが自社GPUで動かすGLM-5.3の費用 商用AIとの単価の比較と、元が取れるエンジニアの人数

英国のRevolutは約2,000人のエンジニアが使うコーディング支援を、B200を56基使って自社で動かすGLM-5.3に移した。単価は100万トークンあたり0.30ドルで、請求額はAnthropicとOpenAIに払っていた額の10分の1になったという。講演の書き起こしで数字を確かめ、Bunの書き換えのトークンの内訳で各社の今の料金と比べた。GPUの月額を見積もり、自社運用で元が取れるエンジニアの人数を計算した。

半導体・インフラ
記事を読む →

DeepSeekがHuawei向けにAIの計算と通信を支えるソフトを公開

NVIDIA以外のチップでAIを動かすには、計算の手順、メモリ上のデータ配置、チップ間の通信まで整える必要がある。DeepGEMM-AscendとDeepEP-Ascendの公開から、その理由とAPI互換の範囲を読む。性能値は開発元の測定で、通信の測定環境には一般配布前のPoC HDKが使われている。

半導体・インフラ
記事を読む →