AIのトークンは「使うほど良い」のか ~探索と定型化2つのフェーズで考える~

はじめに

こんにちは。DX本部システム開発第一事業部の鈴木康男です。エンジニア・PM・マネージャーとして、主にWeb3.0に関わるプロジェクトを担当しております。

7/24(金)、エンジニアリングマネージャーの方々が集まる「EM Meetup」という社外勉強会に参加してきました。テーマは、AIのトークンをどう使うか。「とにかく使え」という発想から、「使った分でどれだけ成果を出すか」という発想への移行がテーマの会でした。

今回参加したのは、こちらの「EM Meetup #21 〜トークンマキシングとトークンマネジメントのはざま〜」という回です。

engineering-manager-meetup.connpass.com

少人数のグループに分かれて議論する時間が中心だったのですが、今回はイベントの内容をそのまま紹介するのではなく、そこでの議論を自分なりに咀嚼して持ち帰った考えを言語化してみたいと思います。

「トークンマキシング」から「トークンマネジメント」へ

イベントの大きなテーマは、「トークンマキシング」から「トークンマネジメント」への移行、というものでした。

トークンマキシングとは、AIの利用量そのものを増やすことを是とする考え方です。とにかくたくさん使え、使えば使うほどいい、という発想ですね。一方でトークンマネジメントは、単に消費量を追うのではなく、トークンあたりでどれだけの成果(アウトカム)を出せているかを重視する考え方です。

ここで大事なのは、成果を「アウトプット」ではなく「アウトカム」として捉え直している点だと感じました。大量の文章やデータを吐き出すだけなら、それは単なるアウトプットにすぎません。売上が上がった、定型業務にかかる時間が減った、といった実際の価値にたどり着いてはじめて、アウトカムと呼べます。トークンマネジメントが目指しているのは、このアウトカムをトークンあたりでどれだけ最大化できるか、という視点なのだと理解しました。

議論を聞きながら自分なりに腑に落ちたのは、この2つは「古い考え方と新しい考え方」の対立ではなく、仕事の段階(フェーズ)に対応している、という捉え方でした。整理するとこうなります。

  • 探索フェーズトークンマキシング:まだ正解が見えていない段階。量を惜しまず使う。
  • 定型化フェーズトークンマネジメント:成果の出し方が見えた段階。同じ成果をより少ないトークンで出しにいく。

つまり「トークンマキシングからトークンマネジメントへ」というのは、探索フェーズから定型化フェーズへの移行そのものだ、ということです。以下、それぞれのフェーズについて書いてみます。

探索フェーズ:ここはトークンマキシングでいい

最初に来るのが「探索フェーズ」です。まだ正解のない問いに対して、仮説を立てては試し、行動して確かめる。この段階では、トークンの使用量を気にしすぎず、ジャブジャブ使っていくべきだと思います。もちろん現実的な上限はありますが、「もったいないから控えよう」という発想でこの段階の手を緩めてしまうと、そもそもアウトカムに手が届くところまでたどり着けません。探索フェーズのゴールは、「これなら成果が出せそうだ」という手応えを得ることに尽きます。

ここで求められているのが、まさにトークンマキシングです。使用量を抑えることにほとんど意味がなく、むしろアクセルを踏み込む方が正しい局面だと言えます。

定型化フェーズ:ここからトークンマネジメントに切り替える

手応えを得たら、次に来るのが「定型化フェーズ」です。ここでトークンマキシングからトークンマネジメントに切り替えます。同じアウトカムを出し続けるために、トークンの使用量をどう減らしていけるかを考える段階になります。

ここで具体的に効いてくるのが、「スキル化」です。AIにやらせているワークフローも、中身を分解していくと、あらかじめコード化・定型化できてしまう部分が案外多くあります。そうした部分を毎回AIに一から考えさせるのではなく、手順や書式をあらかじめ固定してしまえば、同じ品質のアウトプットを、より少ないやり取りで安定して得られるようになります。実際に社内の業務でも、繰り返し発生する定型的な整理・作成業務については、都度AIに一から考えさせるのではなく、あらかじめ手順を「スキル」として定義しておく取り組みを進めています。抽象度の高いタスクであっても、探索フェーズである程度「こう聞けばこう返ってくる」という型が見えていれば、次の別の問いにその型を転用できます。探索で得たものを、そのまま使い捨てにしないという発想が大事だと感じました。

4象限で捉えると分かりやすい

この流れは、横軸にトークン使用量、縦軸にアウトカムを取った図にすると分かりやすくなります。

トークン使用量とアウトカムの4象限。III→I→IIの順に進み、原点から引いた破線の傾きが立っていく。

まず探索を始め、トークンを使ってアウトカムを得る(III→I)。ここがトークンマキシングの領分です。そこから、同じアウトカムをコスパ良く出し続けるために、標準化(スキル化など)していく(I→II)。こちらがトークンマネジメントにあたります。最初から少ないトークンで高いアウトカムを狙うのは、なかなか難しいものです。

本当に見るべきは、原点から引いた直線の傾き

この図をもう少し眺めていて気づいたのは、注目すべきは点がどの象限にあるかよりも、原点から自分の位置に引いた直線の傾きではないか、ということです。図中の破線がそれにあたります。縦軸がアウトカム、横軸がトークン使用量なので、この傾きはそのまま「トークンあたりでどれだけの価値を出せているか」を表します。トークンマネジメントが見ようとしているのは、まさにこの傾きだと思います。

そう捉えると、III→I→II という動きは「左に戻る」話ではなく、「傾きを立てていく」話として読めます。探索フェーズでトークンを積んでアウトカムに手が届くところまで登り(III→I)、定型化フェーズで同じアウトカムをより少ないトークンで出せるようにして傾きを立てる(I→II)。図の上での位置取りが変わったというより、直線そのものが急になったと考えた方が実態に近いはずです。

組織で展開するときの効果

この考え方は、個人の使い方だけでなく組織の中でのAI活用にもそのまま当てはまります。

業務やドメイン知識が分かっている人ほど、探索によってやり方を確立し、それを定型化して組織の中に展開できます。つまり、誰かがII象限まで持ってこられた業務は、その時点で組織の共有物になります。

こうなると、経験の浅いメンバーであっても、標準化されたやり方に乗るだけでアウトカムを出せるようになります。自分で探索フェーズを一から通らなくても、いきなりII象限から始められるわけです。ここが、個人でやるのと組織でやるのとで一番違うところだと思います。

そして組織にとってより大きいのは、その分のトークンを別のことに回せる点です。すでに型が決まっている業務にトークンを積む必要がなくなれば、その余力を、まだ誰も答えを持っていない課題の探索に割り当てられます。定型化した業務でII象限を維持しながら、空いた分で次のIII→Iを始める。この配分を意識的にやれるかどうかが、組織としてAIを使いこなせているかの分かれ目になりそうだと感じています。

まとめ

AIのトークンをどう使うかは、「使うほど良い」でも「使わない方が良い」でもなく、フェーズによって使い方を変えるべきものだと考えています。

正解のない問いに向き合う探索フェーズでは、トークンマキシングに振り切ってトークンを使い倒し、まずはアウトカムに手が届く手応えを得る。そのあとの定型化フェーズでは、トークンマネジメントに切り替え、スキル化やプロンプトの型に落とし込んで、同じアウトカムをより少ないトークンで出し続けられるようにしていく。いま自分がどちらのフェーズにいるのかを意識するだけで、日々のAIの使い方はぐっと考えやすくなると感じました。

見るべき指標は、使ったトークンの量そのものではなく、トークンあたりでどれだけの価値を出せたか、つまり傾きです。そして、誰かが探索して見つけた型を組織で共有すれば、この傾きは個人の中だけでなく組織全体で立っていきます。地道なようですが、これこそが組織全体でAIを使いこなしていくための土台になるはずです。

テコテックの採用活動について

テコテックでは新卒採用、中途採用共に積極的に募集をしています。採用サイトにて会社の雰囲気や福利厚生、募集内容をご確認いただけます。ご興味を持っていただけましたら是非ご覧ください。

www.tecotec.co.jp