LLMの出力が不安定な理由
ChatGPTやClaudeなどのLLMは便利ですが、API経由で使うと出力形式が揺れることがあります。たとえば「この文章の感情を分析して」と頼んでも、ある時は「ポジティブ」、別の時は「positive」と返ってきたり、JSON形式を指定したのに途中で壊れたデータが返ってきたりします。これではプログラムで自動処理できません。
この問題を解決するために、今回紹介されたのがOutlinesとPydanticを組み合わせた手法です。Outlinesは生成時点で型制約を強制し、Pydanticは生成されたデータを厳密に検証します。両者を使うことで、LLMの出力を「決定論的」かつ「安全」にコントロールできるようになります。
OutlinesとPydanticの基本的な使い方
Outlinesは、LLMに対して「この選択肢の中からしか答えを選ばせない」といった制約をかけられるライブラリです。たとえば感情分析なら、「positive」「negative」「neutral」の3つのLiteral型を指定すれば、それ以外の単語は絶対に生成されません。
一方、Pydanticはデータ検証用のライブラリで、Pythonでよく使われています。たとえば「このフィールドは整数で、-1000から1000の範囲」「このフィールドはIPv4形式の文字列」といったルールを定義できます。OutlinesはPydanticのスキーマを読み込んで、そのルールに従った出力だけを生成します。
今回のチュートリアルでは、HuggingFaceの軽量モデル「SmolLM2-135M-Instruct」を使って、実際に動くコードが紹介されています。このモデルは小さいため、手元のPCでも動かせます。GPUがあれば速度が上がりますが、CPUでも動作するように自動切り替え機能が組み込まれています。
具体例1：カスタマーサポートのチケット生成
記事では、メール文面から「優先度」「カテゴリ」「緊急フラグ」「概要」「タグリスト」といった項目を自動抽出する例が示されています。Pydanticで「ServiceTicket」というモデルを定義し、優先度はEnum（low/medium/high/critical）、カテゴリはLiteral型（billing/technical/general）、緊急フラグはbool型、タグはList[str]型といった具合に型を細かく指定します。
これをOutlinesに渡すと、LLMは必ずこの形式に沿ったJSONを生成します。途中でフォーマットが壊れても、JSONリカバリ機能が働いて修復を試みます。これにより、人間が手作業でチェックする手間が大幅に減ります。
具体例2：関数呼び出しスタイルの実装
さらに応用例として、LLMに「2つの数を足す」といった関数を呼ばせる方法も紹介されています。Pydanticで「AddArgs」というモデルを定義し、aとbという2つの整数フィールドにそれぞれ-1000から1000の範囲制約をかけます。LLMはユーザーの自然言語入力から適切な引数を抽出し、Pythonの関数を安全に実行できるようになります。
これは、たとえば「在庫を10個追加して」「価格を5%引き下げて」といった指示をLLMに処理させたい場合に便利です。型制約があるため、想定外の値が渡されて処理が壊れる心配がありません。
フリーランスへの影響
この手法は、LLMを使った自動化ツールを自作したいフリーランスエンジニアに特に役立ちます。たとえばクライアントから受け取った問い合わせメールを自動分類したり、アンケート回答を構造化データに変換したりする業務を、安定した形で提供できるようになります。
従来は「LLMの出力が不安定だから、結局人間が最終チェックする」という運用が多かったのですが、型制約とスキーマ検証を組み合わせれば、かなりの部分を自動化できます。作業時間の削減につながるだけでなく、「LLMを使った業務改善コンサル」といった新しいサービスメニューを作ることも可能です。
一方で、この手法を使いこなすにはPythonとPydanticの知識が必要です。ノーコードツールに慣れている方には少しハードルが高いかもしれません。また、今回使われているSmolLM2は軽量モデルなので、複雑なタスクにはGPT-4やClaudeといった大型モデルが必要になる場合もあります。その場合はAPI料金が発生するため、コスト試算は必須です。
まとめ
LLMの出力を型で制御する手法は、すでにプログラミング経験があり、業務自動化に取り組んでいる方には試す価値があります。GitHubで完全なコードが公開されているため、まずは手元で動かしてみて、自分の業務に応用できそうか確認するのが良いでしょう。一方、ノーコード派の方は、この技術を使ったツールが市場に出てくるまで様子見で問題ありません。
参考リンク：MarkTechPost、GitHubリポジトリ
コメント