タグ: コスト最適化

BM25でCodexのトークン消費を30%削減する — 7,000ファイル規模で実証したコード検索RAG実践
AI・機械学習

BM25でCodexのトークン消費を30%削減する — 7,000ファイル規模で実証したコード検索RAG実践

BM25をCodexの前段に挟むだけでトークン消費を29.2%削減、処理時間を41%短縮。7,536ファイル規模での実測データと、キャメルケース対応などコード検索に効くRAG実装テクニックを解説。

4BパラメータのオープンモデルがGPT-5.6 Solに並ぶ日 ― Castform × Neon Lakebaseで実現するRAGコスト1/100
AI・機械学習

4BパラメータのオープンモデルがGPT-5.6 Solに並ぶ日 ― Castform × Neon Lakebaseで実現するRAGコスト1/100

4BパラメータのオープンモデルにRL学習を施し、GPT-5.6 Sol同等の精度をコスト1/100で実現。CastformとNeon Lakebase Postgresを活用したRAGアーキテクチャの仕組みとコスト試算を徹底解説。