GoToの地域言語AIから考える、言語ごとのコストと推論の得意・不得意

AIに同じことを頼んでも、日本語と英語では処理する長さが違う。さらに、入力を日本語にすることと、解答までの推論文を日本語で生成させることでは、成績への影響も違う。言語による使いやすさを考えるには、この二つを分ける必要がある。

インドネシアのGoToが公開したGemma 3派生モデルは、その違いを考える具体例だ。TechNodeが2026年10月19日に報じたモデルで、ここでの日付は報道日を指す。モデルカードは英語とインドネシアの5言語への対応を掲げ、Gemma 3の標準トークナイザーを使うと説明している。地域の言語で評価得点が改善しても、同じ文章が短いトークン列に変わったとは限らない。文字列の分割と、分割後の情報を使って答える能力は別に確かめたい。

「何語で考える」を四つに分ける

「AIは英語で考える」という表現には、少なくとも四つの対象が混ざりやすい。利用者が書く入力、モデルが途中で生成する推論文、計算中の内部表現、利用者が読む最終回答だ。日本語の質問に英語の推論文を生成し、日本語で回答する構成も考えられる。

Chain of Thought（CoT）は、問題を解く途中でモデルが生成する推論の文章を指す。モデルが生成した文章は後続の生成にも使われるため、その言語を変えると結果が変わりうる。一方、内部表現は各層で計算される数値のベクトルだ。途中の文章を観察することと、内部の計算を調べることは同じではない。

この区別は結果の読み方にも関わる。日本語で質問して高い成績を出せても、日本語の推論文を安定して書けるとは限らない。日本語の説明が流暢でも、内部の計算がすべて日本語に対応しているとは言えない。必要なのが解答の正しさか、母語で読める説明か、その両方かによって、測る項目が変わる。

GoToが改善したのは何か

対象はGoToCompany/gemma3-27b-cpt-gotoai-v3-instructという27Bモデルだ。モデルカードが挙げる言語は、英語、インドネシア語、ジャワ語、スンダ語、バタク・トバ語、バリ語の六つ。128Kトークンの文脈長を掲げ、重みはGemmaライセンスの条件で提供する。

比較する相手はGoogleの指示調整済みモデルGemma-3-27B-ITだ。下表は公式リーダーボードのJSONLデータにある同一課題内の比較で、0〜100の評価得点を示す。単純な正解数の割合ではなく、偶然正解する水準などを調整した複合評価として読む。一般能力評価は各言語のプロンプトを使うzero-shot設定で、データセットごとに100〜1,000例を評価している。

平均は英語を除く5言語の得点から計算され、別掲のIndoMMLUも含めない。インドネシア語には地域言語と異なる課題が含まれるため、ジャワ語の71.09とインドネシア語の65.19を比べて、前者で「考える力」が高いとは言えない。各行で同じ評価を受けた二つのモデルを比べる表だ。

また、これは開発元の自己評価で、独立した追試ではない。総合得点が上がっても全項目が改善したわけではない。たとえばインドネシア語の質問応答は82.54から81.93へ下がっている。公開リポジトリのmergekit設定には線形マージが記録されているが、継続事前学習、指示調整、マージを個別に外した比較は示されていない。得点差は公開モデル全体の結果として扱う。

同じ意味でもトークン数は変わる

トークンは、モデルが文章を扱うときの分割単位だ。一文字と一トークンが常に対応するわけではなく、単語全体、単語の一部、文字の一部に相当する単位などが使われる。どのまとまりに番号を割り当てるかを決めるのがトークナイザーで、同じ文章でも方式や語彙が変わると長さが変わる。

NeurIPS 2023のトークナイザーの言語間格差を調べた研究は、FLORES-200の約2,000文と、その人手による並行翻訳を比べた。比べているのは同じ意味の文を表す長さであり、同じ文字数の文章や、空白で区切った同数の単語ではない。

同じ研究のmT5では日本語が0.90、中国語が0.92だった。英語より短い結果もある。したがって「日本語は必ず2.30倍」という言語固有の定数にはできない。いずれも当時のトークナイザーとコーパスでの測定で、現在のChatGPTの請求額に掛ける倍率ではない。

比較の分母にも注意したい。2026年のTokLens論文にある「GPT-2では日本語のtokens/wordが英語の56倍」という値は、空白で区切る単位をwordとしている。英語と違って通常は単語間に空白を置かない日本語では、一つの単位が長くなる。著者自身も、この単位が日本語の言語学的な単語に対応しないと断っている。

この56倍を「同じ内容に56倍の料金がかかる」と読むことはできない。日本語の一文と英語の一語を同じ単位として数えていないかを確かめるだけでも、数字の印象は変わる。言語間の費用を比べたいなら、意味の対応する入力と、同じ品質を求める出力を用意する方が目的に合う。

言語のコストは設計によって変わる

トークン数の不利は固定されていない。GPT-4o発表時の例では、同じ日本語の挨拶文が旧方式の37トークンから26トークンへ減った。中国語の例は34から24、英語の例は27から24である。各言語の例文を旧方式と新方式で比べた値で、言語全体の平均でも、日英の同一内容を揃えた料金比較でもない。

Gemma 3技術報告は、トークナイザー節で約26万（262k）の語彙を説明し、多言語の単言語・並行データを増やしたと記している。ただし、大きな語彙や多言語データだけで、すべての言語に同じ能力があるとは判断できない。

GoToは標準のGemma 3トークナイザーを維持している。同じ文字列を同じ設定で符号化する限り、地域向けの学習だけで入力トークン数が減るわけではない。それでも評価得点は変えられる。逆にTokenization Is More Than Compressionは、350M〜2.4Bの64モデルを使い、固定語彙のもとで分割を短くしても下流課題の性能が必ず上がるわけではないと示した。

文章を少ない単位で表せることと、質問を理解して解けることは、別の改善目標になる。開発者にとっては、必要な品質を保ちながらどれだけ資源を使うかが問題になる。

料金、計算、文脈、成功一件の費用

「日本語は高くつく」と言うとき、何が高いのかを四つに分けると判断しやすい。サービスの請求額、計算機で使う資源、文脈に入る情報量、仕事が成功するまでの総費用だ。これらは関係するが、同じ倍率では動かない。

トークン課金のAPIなら、まず入力分と出力分をそれぞれの単価で計算する。キャッシュ済み入力に別の単価がある場合は分け、見えない推論トークンやツール利用が課金対象になるサービスでは、その分も加える。定額のチャット契約と従量課金APIも同じ計算にはできない。実際の比較には、利用する提供元とモデルの課金定義が要る。

仮に入力1,000トークン当たり1円、出力1,000トークン当たり5円とする。入力1,000＋出力1,000なら1円＋5円で6円。入力だけを2,000に増やすと2円＋5円で7円になる。これは仕組みを説明する仮の単価で、実在するAPIの料金ではない。出力を固定し、推論、キャッシュ、ツールなどの条件も変えず、追加費用がない例だ。

NVIDIAの推論最適化の解説では、入力をまとめて処理するprefillと、次のトークンを順に生成するdecodeを区別している。入力が長くなると最初の処理や記憶領域に影響し、生成が長くなると逐次処理が増える。実時間は並列度、メモリ帯域、キャッシュ、実装などにも左右される。入力トークンが2倍だから総料金、待ち時間、電力が一律に2倍、あるいは4倍になるとは言えない。

文脈長にも同じ区別が要る。128Kトークンは情報の意味やページ数に対する上限ではない。同じ資料の翻訳が多くのトークンを使えば、残りの質問や回答に使える範囲は狭くなる。ただし、資料を短くして抜けた条件をあとから何度も補うなら、最初に読ませる量を減らしただけでは効率を判断できない。

成功一件の費用なら、「全試行のAPI・ツール費用＋翻訳費用＋人の確認・修正費用」を、採用できた成果の件数で割る方法がある。これはこの記事での実務上の整理だ。たとえば単価の安い処理でも、固有名詞を取り違えて毎回人が直すなら、その手間を含めて比較する。単価だけの表と、完了した仕事の費用は分けて記録したい。

英語の推論文が有利だった実験

トークン数とは別に、生成する推論文の言語も成績に関わる。日本語の質問を理解する能力があっても、そのまま日本語で長い推論を続ける能力が同じ水準とは限らない。この差を調べるには、入力の言語と推論文の言語を別々に動かす実験が必要になる。

Long Chain-of-Thought Reasoning Across LanguagesのTable 1には、Qwen3-8B-Baseを英語の推論例20,000件で教師あり調整した研究用モデルの比較がある。MATH-500の問題をGemini-2.0-Flashで翻訳し、各問を1回生成する。temperatureは0.6、top-pは0.95、最大生成長は32,768トークンだ。市販・標準配布のQwen3-8Bをそのまま測った値ではない。

この研究では、最終解答が正しく、判定対象のチャンクの90%以上が指定言語に一致したときだけ正解と数える。英語CoTの条件では、推論文だけでなく解答も英語にする。したがって93.2%と77.6%の差は、言語条件を無視した数学の正答率の差ではない。入力、生成する言語、採点の規則を合わせた比較である。

それでも、この条件で日本語入力と英語入力の成績が近く、日本語の推論文を求めた場合には下がるという違いは読める。入力を理解することと、ある言語で長い解答過程を書くことを同じ能力として扱えない例だ。ただし、英語の推論例で追加学習したモデルの結果から、英語という言語自体が普遍的に優れているとは導けない。

モデルと学習が変われば差も変わる

差の大きさはモデルによって変わる。別の研究Language Mattersでは、Google Translate APIで翻訳したMATH-500に対して、生成の冒頭に英語や対象言語の短い語句を置き、推論文の言語を誘導した。英語なら「Okay」、日本語なら「まず」のような方法だ。以下は日本語入力での比較で、temperature 0.6、top-p 0.95を使っている。

QwQ-32Bでは90.2%と87.4%で差は小さく、Llama-8B派生では74.6%と32.6%で大きい。別々に学習されたモデルなので、規模だけの効果とは断定できない。前節の研究とは翻訳や採点条件も違うため、両論文の数値を一列に並べたモデル順位表にはしない。

M-Thinkerの研究は、母語の推論文を維持するための学習も調べている。以下はDeepSeek-R1-Distill-Qwen-7BからM-Thinker-7BのIter-2への変化だ。評価はMATH-500単体ではなく、AIME24/25、CNMO、MATH-500からなるMMATHの374問を10言語で測り、4回の実行とサブセットごとの平均を用いる。日本語は学習対象の言語に含まれる。

ここでの解答精度は、出力言語を問わず解答が正しいかを測る。言語一致率は推論文と回答が入力言語を維持するかを別に測る値だ。言語条件を満たす正答だけを数えた前節の指標と混同しない。日本語の解答精度と一致率がともに上がったことは、学習で両方を改善できる例として読める。

ただし、正答への報酬を中心とするNaive-RLの平均精度は65.43%で、M-Thinkerの65.04%より少し高い。日本語もNaive-RLが66.11%、M-Thinkerが58.23%だった一方、Naive-RLの日本語一致率は0%だった。「母語で推論すれば常に正確になる」という結果ではない。利用者が読める言語を維持することと、解答だけの精度をどう両立させるかを示す比較だ。

内部表現を英語の文章と同一視しない

では、文章として見える推論文の奥では何が起きているのか。内部表現の研究には、中間層のベクトルを出力語彙に投影し、どの語が現れやすいかを見るlogit lensという方法がある。これは内部状態を読むための観測方法であり、モデルの中に人間が読む英文がそのまま保存されているという意味ではない。

Do Multilingual LLMs Think In English?は、Llama-3.1-70B、Gemma-2-27B、Aya-23-35B、Mixtral-8x22Bを調べ、フランス語などの出力でも意味を担う語の中間表現が英語に近づく傾向を報告した。言語ごとの成分と共有される意味の成分を分けて考える手がかりになる。ただし、対象モデルと観測方法で得た傾向を、あらゆるモデルの全計算に広げることはできない。

日本語モデルの別の研究では、英語中心のLlama-2-13B、日本語で継続事前学習したSwallow-13B、英語と日本語を50:50で事前学習したLLM-jp-v2.0-13Bを比べた。日本語を処理する条件では、Swallowに日英が混在する傾向、LLM-jpに日本語寄りの傾向が見られた。出力言語が変わると分布も変わる。13B級モデルを8ビット量子化し、166例で翻訳・反復・穴埋めなどを調べた限定的な調査で、現在の日本語モデル全体を代表する結果ではないが、学習の違いで内部表現の言語的な偏りも変わりうると示している。

AnthropicによるClaude 3.5 Haikuの解析は、異なる言語の質問に共通する概念の回路と、言語に固有の回路を調べている。英語寄りの内部表現が見つかることと、言語をまたいで共有する概念があることは両立する。観測している層、対象、分析方法が違うので、一方がもう一方を打ち消すと読む必要はない。

利用者への含意は、プロンプトの言語指定を過大評価しないことだ。「英語で考えて、日本語で答えて」と書けば生成される文章に影響する可能性はあるが、内部のベクトル計算全体を英語へ切り替えた証拠にはならない。指示が届く範囲と、実際に変わった出力や成績を分けて確かめる方が確実だ。

英訳が役立つ課題と、原文を残す課題

日本語より英語のトークン列が短く、英語の推論文も得意なら、全部を英語に訳せばよいのだろうか。翻訳を加えると、別の処理、待ち時間、入力と出力が増える。回答を日本語に戻すなら、さらに一段増える。英語化で節約できた分と、この追加分を同じ仕事全体で比べる必要がある。

Is Translation All You Need?は、英語中心のモデルで英訳が役立つ課題がある一方、文化や言語の細部を要する課題では母語の入力が有効になると報告した。Beyond Englishも、指示、文脈、例、出力という部分を分け、35言語の質問応答、自然言語推論、固有表現抽出、要約で翻訳方法を比較している。全部を訳すか、一切訳さないかの二択ではない。

途中で言語が混ざることも、一律に失敗とは扱えない。英語・中国語の言語混合を調べた研究では、数学のMATH500で混合を許した生成が有利になる一方、中国の大学入試の数学穴埋め問題Gaokao Clozeでは、中国語だけに制約した方がよい条件があった。語彙へのマスクで生成可能な言語を制限する実験で、単にプロンプトの言語指定を変えた比較ではない。これは英中モデルと特定課題の結果であり、日本語にも同じ効果があるとは直接言えない。

評価問題が何語で作られたかも関わる。MultiNRCは、英語の問題を翻訳するだけでなく、母語話者が作る言葉遊び、なぞなぞ、文化や慣習に根ざした推論を扱う。対象はフランス語、スペイン語、中国語で、日本語を直接評価したものではない。それでも、英語からの翻訳問題だけで地域の利用者が必要とする能力を測り切れるか、という問いは日本語の評価にも当てはまる。

たとえば日本語の言葉遊びの解説なら、音や表記の対応自体が問題の一部になる。「橋」「箸」「端」を英訳で別の単語に置き換えると、共通する読みという手がかりが失われる。敬語や依頼の強さを直す仕事でも、原文にある距離感を英訳で均してしまうと、後から復元しにくい。これらは論文の実験結果ではなく、原文を残す理由を考えるための例だ。

実際の仕事で言語を選ぶには

ここからは、研究を実際の仕事に使うための編集部の提案だ。まず、何をもって成功とするかを決める。数学なら解答の検算、文書なら条件と固有名詞の保持、対話なら利用者が読める言語と意味の一致など、仕事に合う基準を置く。そのうえで、同じ入力内容を使って言語の構成を比べる。

生成する推論文の言語を制御できるモデルなら、その条件も別に記録する。ただし、画面に表示される説明だけから内部計算の言語を推定しない。モデル名とバージョン、トークナイザー、生成上限、温度などを揃え、入力・出力トークン、実時間、成功件数、人の修正時間を残す。キャッシュやツールを使うなら、その条件も揃える。

日本語の表現そのものが対象なら、原文を残し、訳文を補助として添える構成から試すのがよいと考える。数式や形式化された条件が中心なら、意味を変えずに英語へ移せるかを確認して比較できる。ただし、数学で有利だった言語の構成が、社内文書や接客の応答でも有利だとは決めつけない。

GoToの事例は、地域言語への対応を一つの「多言語スコア」で済ませず、何を改善したかを見るきっかけになる。同じトークナイザーでも評価得点は変わり、推論文の言語は学習によって変わり、使う言語の適否は仕事によって変わる。利用者が理解できる形で、必要な仕事を正確に終えられる構成を選びたい。