月曜の朝、メールを仕分けるときの「小さな判断」
休み明けの月曜の朝、たまったメールを上から片付けていくことってありませんか？オキシゲンデザインでは海外とのやり取りも多く週末の間に溜まったメールの処理から仕事がはじまります。「今すぐ返す」「あとで読む」「担当者に回す」「読まなくていい」。
このとき、一通ずつに長い時間をかけたりはしてませんよね。件名と差出人をちらっと見て、さっと振り分けて、次のメールに移りますよね。本当に頭を使って返信を書くのは、その中の数通だけです。
10月28日にArticul8から「Bivia（ビビア）」という新しいAIモデルが発表されました。はじめにこのモデルについて聞いたときから「これは面白いな」と思いました。
まずBiviaは、最近注目され始めている「ディシジョンモデル（Decision Model）」と呼ばれるタイプのAIです。名前のとおり、文章を作るのではなく「判断すること」に特化しています。LLMと比較してスピードが早く、価格が安いということでも注目されています。
ということで今回のお話は、ディシジョンモデルについてです。
ディシジョンモデルは「結論ファースト」のAI
ざっくり言うと、ChatGPTのようなLLM（大規模言語モデル）は「文章で説明するAI」、ディシジョンモデルは「結論から返すAI」です。
例えばLLMに「この契約書、問題ある？」と聞くと、内容を読んで「第〇条の損害賠償については……」と丁寧に説明してくれます。一方でディシジョンモデルは、あらかじめ決めた問いに対してまず結論を返し、その根拠になった箇所を添えます。報告でいえば「結論ファースト」ですね。
| 判断項目 | 結果 | 根拠 |
|---|---|---|
| 秘密保持条項は適切？ | YES | 第8条 |
| 損害賠償の上限は社内基準内？ | NO | 第12条（上限の定めなし） |
| 法務部門の確認が必要？ | YES | 上記がNOのため |
Biviaの場合、返せる答えの形は「選択肢から選ぶ」「YES/NO」「スコア」「複数選ぶ」「該当箇所を示す」の5種類だそうです。長い説明文を書く代わりに、「ここを見てそう判断した」と指し示すイメージです。文章だけでなく、画像や図面、音声、動画まで読んだうえで判断できるのが特徴です。
ここで当然、「でもそれ、LLMでもできるよね？」という声が出ると思います。はい、できます。ただ、企業で本格的に使うときに問題になるのは「できるか」よりも、「どれだけの速さとコストで、どれだけ安定してできるか」が重要になってきます。
AIを「コスト」の目で見てみる
企業でAIの話になると、どうしても「AIで何ができるか」に議論が集中しがちです。でも、業務で回し続けるなら、並行して「それをやると、いくらかかるのか」も考えておく必要があります。機能の検討とコストの検討は、どちらか片方ではなく両輪です。
どんなに便利な仕組みでも、動かすたびに想定を超える費用がかかるなら、いずれ「この用途には使わないで」という話になります。せっかくのAI活用が、性能ではなく予算で止まってしまう。これはもったいないです。
まずLLMの料金の仕組みを少しだけ説明します。LLMの利用料は、「読んだ量（入力）」と「書いた量（出力）」をトークンという単位で数えて決まるのが一般的です。
しかもLLMは、文章をトークン単位で1つずつ組み立てて書きます。書く量が多いほど時間がかかり、出力の単価は入力より高く設定されていることが多いんです。つまり「たくさん喋らせるほど、遅くて高くなる」という構造です。
ここで、少し考えてみましょう。AIエージェントが1つの業務を終えるまでに仮に100回の判断をして、それを1日1万件処理するとします。それだけで1日100万回の判断です。
仮にその全部をLLMに任せて、毎回そこにLLMお得意の「理由が添えられて」300トークンほど書かせたら、出力だけで1日3億トークン。ひと月で約90億トークンです。ここに契約書や履歴を読ませる入力分が乗ります。数字はあくまで仮のものですが、「件数×回数×書く量」で一気に膨らむ感覚は伝わると思います。
ところが、その100万回の中身をよく見ると、「返品条件を満たしている？」「承認は必要？」「情報はそろっている？」のような、答えが一言で済むものが大半だったりします。そこで毎回文章を書かせているのは、月曜の朝にメール1通ごと、振り分けた理由を作文しているようなものです。
ディシジョンモデルが速くて安い理由
ディシジョンモデルは、長い文章を書きません。Biviaの発表でも、出力トークンを生成せずに判断するので、定型的な判断に高価な生成モデルを使わずに済む、という点が強調されていました。長々と「書く」、じっくり「考え込む」という、時間とお金のかかる工程を飛ばしているわけです。
業界全体でも数字が出始めています。米Amplitude社の分析記事では、あるディシジョンモデルの応答が1回あたり0.07〜0.5秒程度と紹介されています。また、まずディシジョンモデルで判断し、自信が低いものだけ高性能LLMに回す構成で、最上位LLMと同等の精度を約4分の1のコスト、約半分の応答時間で出したという検証も紹介されています。
LLMは、組織に置き換えると、外部の専門家の使い方に近いと思います。例えば弁護士のタイムチャージを1時間3万円とします。ちょっとした確認を社員100人が月に30時間使ったら、それだけで9000万円/月です。
そのため普通は、日常のちょっとした確認は社内の法務や総務のスタッフがさばいて、本当に専門的な判断が必要なときだけ弁護士に相談しますよね。弁護士が優秀なのは間違いないけれど、何でもかんでも聞くのはお金の使い方としてもったいない。AIも同じで、普段の判断はディシジョンモデルのような軽くて安いモデルに任せ、高性能なLLMは必要なときだけ呼ぶ。これだけで、AIにかかるコストはかなり変わる可能性があります。
ちなみにAI検討の現場でよく見るのが、PoC（試験導入）では問題なかったコストが、本番で件数が桁違いになった途端に一気に重くなるパターンです。数百件の検証では誤差だった金額が、全社展開では予算の話になります。
安いだけじゃない、企業向けで効いてくるディシジョンモデルの3つの特徴
コストの話ばかりしましたが、業務で使うとなると「安い」だけでは採用されませんよね。ディシジョンモデルには、企業のAIに求められる性格がもう少しあります。
① 同じ条件なら、同じ判断をする
LLMは、聞き方や文脈で答えが揺れることがあります。会話なら気になりませんが、同じ条件の経費申請が、ある日は承認、別の日は却下では困りますよね。答えの形を決めて判断させるディシジョンモデルは、こうした一貫性を高めやすい構造です。
② 根拠を示し、わからないときは「わからない」と言う
「リスクあり」だけでは仕事になりません。どの条項が、どの社内規定に引っかかったのかが必要です。Biviaは判断の根拠となる画像の箇所や文書の一節、動画の時刻を示せるとされ、証拠が足りなければ判断を保留できます。
個人的には、この「保留できる」が一番大事だと思っています。何でも答えるAIより、「これは人間に回します」と言えるAIのほうが、業務では信用できるんですよね。
③ 会社ごとのルールで判断する
同じ購買申請でも、承認条件は会社ごとに違います。Biviaは、業界の知識や社内規定、過去の判断事例に合わせて調整できる点を特徴に挙げています。
ただし、承認金額の上限のような「絶対に守るルール」は、AI任せにせず人や業務システム側でもチェックするのが安全です。
AIエージェントが増えるほど、判断は「小さく、大量に」なる
もうひとつのポイントです。これまでの生成AIは、人が質問してAIが答える使い方が中心でした。それが今は、AIが自分で情報を集め、複数のシステムを操作しながら仕事を進める「AIエージェント」に移りつつあります。
営業支援のエージェントなら、顧客情報を確認し、過去の商談を調べ、提案を考え、社内システムに登録する。その途中では「次はどのシステム？」「情報はそろった？」「人間に確認すべき？」という小さな判断が、ひっきりなしに発生しています。
エージェントが賢くなるほど、この小さな判断は増えます。つまり、コストの章で見た「請求書」の話は、エージェントが普及するほど切実になっていくわけです。そこで出てくるのが、こんな役割分担です。
LLMが理解して計画を立て、ディシジョンモデルが判断し、業務システムが実行する。判断できないものは人間へ。Articul8自身も「作るのは生成AI、決めるのはBivia」という言い方をしています。もちろん、すべてのエージェントに必要な構成ではありません。ただ、件数が多い業務ほど効いてくる考え方だと思います。
活用が期待されている場面を、業界別に並べるとこんな感じです。
| 業界 | 活用イメージ |
|---|---|
| 製造業 | 品質判定、設備の異常検知、保守記録と現物写真の食い違いチェック |
| 金融・保険 | 不正取引の検知、保険金請求の一次審査 |
| 法務 | 契約書の審査、社内規定との照合 |
| IT・通信 | 障害の分類、対応優先度の判断 |
| 小売・流通 | 返品審査、問い合わせの振り分け |
「何をやらせるか」と「いくらかかるか」を一緒に考える
正直なところ、多くの会社では、AIの業務活用はまだこれからという段階だと思います。一部の部署で試していたり、社員がそれぞれChatGPTを使っていたりするくらい、という会社も多いんじゃないでしょうか。
この段階なら、議論の中心は「AIで何ができるか」で十分です。ただ、本格的に業務に組み込む段階になると、話が変わってきます。「AIに何をやらせるか」と「それにいくらかかるのか」。この二つを、並行して考えないといけなくなってきます。
高性能なLLMに何でも任せれば、たしかに話は早いです。でも、件数が増えるほど費用は膨らみますし、スピードの問題も出てきます。LLMは文章を少しずつ組み立てて書くうえ、最近は答える前にじっくり考えるモデルも多いので、判断1回ごとに待ち時間が発生します。定型の判断ならディシジョンモデルが1回1秒もかからずに答えるのと比べると、この差は大きいです。一つの業務で判断が何十回も積み重なれば、その待ち時間はそのまま業務全体のスピードに響いてきます。
かといって、費用や待ち時間を気にして使いどころを絞りすぎれば、せっかくのAIの効果も小さくなってしまいます。
この「やらせたいこと」と「かけられる費用や時間」の板挟みに対する一つの解が、ディシジョンモデルなんじゃないかと思っています。じっくり考えるところはLLMに、大量の定型的な判断はディシジョンモデルに。弁護士と社内スタッフのように役割を分ければ、AIに任せる範囲を広げながら、費用も待ち時間も抑える、という両立が見えてきます。LLMとディシジョンモデルは、どちらが上という話ではなく、得意分野の違う同僚のようなものです。
AIに「何ができるか」だけでなく、「どのAIに、どこまでやらせるか」。これからAI活用を本格化させるなら、そんな視点を最初から持っておくと、後で慌てずに済むんじゃないかなと思います。
Biviaについては、詳しい情報が出てきたら改めて紹介します。何かのヒントになればうれしいです。
参考
