生成AIの進化において、コンテキストウィンドウの拡大は一種の「軍拡競争」となってきた。しかし、数百万文字を超える財務報告書や膨大な法務資料を扱う際、単にトークン数を増やすだけでは「Lost in the Middle（中間情報の欠落）」という根本的な課題を解決できない。Amazonが新たに提示した「Amazon Bedrock AgentCore」を用いた再帰的言語モデル（RLM）の実装は、この限界に対する極めて実用的な回答である。これはAIを「知識の箱」から「ツールを駆使するエージェント」へと進化させるアプローチだ。
RLMの核心は、ドキュメントをモデルのコンテキストに直接詰め込むのではなく、外部の「環境」としてプログラム的に扱う点にある。具体的には、Amazon Bedrock AgentCoreのコードインタープリターをサンドボックス環境として活用し、モデル自身がPythonコードを生成してドキュメントを検索・抽出する[amazon.com]。この動的なアプローチにより、メインのLLMはコード生成とオーケストレーションに専念し、コンテキストウィンドウを常にクリーンに保つことが可能となる[amazon.com]。なお、AgentCoreは2025年10月13日に一般提供が開始されている[aws-news.com]。
この手法では、セマンティックな分析が必要な箇所だけをサブLLMに委譲する。その結果のみをPython変数として保持することで、メインのコンテキストウィンドウを消費せずに大規模データの解析を実現する[amazon.com]。これにより、従来の長文コンテキストモデルが抱えていた、入力が長くなるほど推論精度が低下するという「中間情報の欠落」を回避できる。LongBench v2の財務マルチドキュメントQAサブセットにおいて、この手法は従来手法の限界を突破する性能を示していると見られる[amazon.com]。
このアプローチの最大の利点は、ドキュメントサイズに対する「上限の撤廃」にある。特に、財務分析のような高い正確性が求められるタスクにおいて、このアーキテクチャは強力な武器となる可能性がある。Amazonが示したのは、単なる機能追加ではなく、開発者がAIの「メモリ管理」を再定義しなければならないというパラダイムシフトである[amazon.com]。これにより、エンタープライズAIの活用範囲は大きく広がる見込みだ。
一方で、このアプローチには新たな課題も浮上する。コード生成の精度が推論の成否に直結するため、モデルのコーディング能力への依存度が極めて高い。また、サンドボックス内での反復的なAPI呼び出しは、レイテンシとコストの増大を招くリスクがある[aws-news.com]。Amazon Bedrock AgentCoreはエージェントのパフォーマンスを改善するための最適化機能のプレビューを開始しており、これにより開発者はエージェント品質を向上できると見られる[aws-news.com]。今後は、この再帰的構造をいかに効率化し、複雑な推論プロセスを安定させるかが、エンタープライズAI実装の分水嶺となるだろう。