236社のAIモデル提供元を1つの接続先に束ねる無料ツール「OmniRoute」がGitHub Trendingで1日+617★(総8,089★)のペースで急上昇している。うち50社以上が無料枠、11社が無期限無料で、無料枠の合計は月あたり約16億トークン、初月は登録特典で約21億トークンとして可視化される。
実利の核は2つ。利用上限に達すると数ミリ秒で別の提供元へ切り替える自動フォールバック(契約→API→低価格→無料の4段階、17種類の振り分け方式)と、RTKとCavemanの2種を重ねたトークン圧縮(15〜95%削減、ツール出力が多い作業で平均約89%)だ。提供元障害の検知・停止・復帰も内蔵し、14,965件のテストを持つ。
X上では「OmniRoute経由でClaude回したらトークン消費0.04倍になった」との実測報告が拡散の核となり、Cursor・Clineなどコーディング支援ツール利用者に紹介が広がる一方、自宅サーバーでの運用負荷や競合9routerとの比較、一部不具合も冷静に共有されている。
1OCPU/6GBに変更してみた windmillとomniroute動かしてるからスペック厳しそうだなー