顔交換アプリで有名な創業者が新たに挑む、オンデバイスAI
2億ダウンロードを記録した顔交換アプリ「Reface」と、写真をアート風に変換する「Prisma」。これらのヒットアプリを生み出したYaroslav ShvetsとVladimir Moiseenkovが、新しいスタートアップ「Mirai」をロンドンで立ち上げました。今回のプロジェクトは、スマートフォンやノートパソコンの中でAIモデルを効率的に動かすための推論エンジンの開発です。
AppleやGoogleが「Apple Intelligence」や「Gemini Nano」といったオンデバイスAIを推進する中、多くの開発者はクラウドベースのAIサービスに依存してきました。しかし、クラウドを経由すると通信コストがかかり、レスポンスも遅くなります。Miraiは、この課題を解決するインフラを提供することで、端末内で完結するAI処理を現実的な選択肢にしようとしています。
創業者たちは、RefaceやPrismaの開発を通じて、複雑なAI処理をクラウドなしで実現する難しさを痛感していました。「生成AIブームでクラウドばかりが注目される一方、コンシューマー向けのオンデバイスAIインフラが不足している」という問題意識が、Mirai設立の動機になっています。
既存ツールより最大60%高速、メモリは75%削減
Miraiが開発した推論エンジンは、Apple Siliconを搭載したiPhoneやMacBook上でAIモデルを動かすために最適化されています。現在主流のツールである「Apple MLX」や「llama.cpp」と比較して、処理速度が10%から60%向上し、最初のトークン生成までの時間は10%から30%短縮されました。さらに、メモリ使用量は70%から75%削減されており、バッテリー消費の面でも大きなメリットがあります。
たとえば、音声をテキストに変換するアプリを作る場合、従来はクラウドのAPIに音声データを送信して結果を受け取る必要がありました。しかしMiraiのエンジンを使えば、端末内で音声認識を完結できるため、通信料金を気にせず、オフライン環境でも動作します。ユーザーのプライバシー保護にもつながるため、医療や法務といったセンシティブな分野での活用も期待されています。
統合の手軽さも特徴のひとつです。Miraiが提供するSDKは数行のコードで既存アプリに組み込めるため、開発者は推論エンジンの複雑な実装を意識する必要がありません。テキスト処理や音声処理に対応しており、将来的には画像認識などのビジョンモダリティにも対応予定です。
クラウドとデバイスを使い分けるハイブリッド設計
Miraiのもうひとつの強みは、クラウドとデバイス間でリクエストを自動的に振り分ける「オーケストレーション層」です。軽量なタスク、たとえば短いテキストの要約や翻訳は端末内で処理し、大量のデータを扱う複雑な処理はクラウドに任せる、という使い分けが可能になります。
Miraiはクラウド推論プラットフォーム「Baseten」とパートナーシップを結んでおり、開発者がコードを変更することなく、ローカルとクラウドの推論を切り替えられる仕組みを構築しています。これにより、コストとパフォーマンスのバランスを柔軟に調整できるようになります。
フリーランスや個人開発者にとっての意味
フリーランスのアプリ開発者やAIツールを活用する個人事業主にとって、Miraiの技術は新しい可能性を開きます。これまでクラウドAPIの利用料金がネックになっていたサービスを、オンデバイスで動かすことでコストを大幅に削減できるからです。
たとえば、クライアント向けに音声文字起こしツールを提供している場合、従来はWhisper APIなどのクラウドサービスに依存していました。しかしMiraiのエンジンを使えば、ユーザーの端末内で文字起こしを完結できるため、月額のAPI利用料を抑えられます。結果として、サービスの利益率が向上し、価格競争力も高まります。
また、プライバシーを重視するクライアントに対しても訴求しやすくなります。医療関係者や法律事務所など、機密情報を扱う業種では、データをクラウドに送信することに抵抗感があります。オンデバイスで処理が完結すれば、セキュリティ面での安心感を提供でき、新規顧客の獲得につながる可能性があります。
ただし、現時点ではApple Silicon向けのエンジンのみが提供されており、Android対応は今後の予定となっています。フリーランスとして幅広いユーザーをカバーしたい場合は、Android版のリリースを待つ必要があるでしょう。また、ビジョンモダリティもまだ対応していないため、画像認識や画像生成を扱うプロジェクトでは、他のツールとの併用が必要になります。
まとめ：Apple製品ユーザー向けなら今すぐ試す価値あり
Miraiの推論エンジンは、iPhoneやMacBookを使ったAIアプリ開発において、コスト削減とパフォーマンス向上を同時に実現できる選択肢です。既存のクラウドAPIに依存しているフリーランス開発者にとっては、運用コストを見直す良い機会になるでしょう。
一方で、Android対応やビジョンモダリティのサポートはこれからなので、プラットフォームを問わないサービスを提供している場合は、機能拡充を待ってから導入を検討するのが現実的です。Apple製品に特化したサービスを展開しているなら、今すぐ試してみる価値があります。
詳細は公式サイトや以下のTechCrunchの記事で確認できます。
コメント