DSPyは、LLMアプリケーションをプロンプト(AIに与える指示文)を書くのではなく、Pythonプログラムとして構築するためのフレームワークだ。 タスクの入力と出力を構造化して定義し、必要に応じてプロンプトの生成や改善、評価に基づく最適化を行える。

OpenAIとBroadcomは、大規模言語モデル（LLM）の推論処理に特化した同社初のカスタムAIチップ「Jalapeño（ハラペーニョ）」を発表した。TSMCが製造を担当したこの新型チップは、初期のラボテストにおいて現行GPU比で約50%の推論コ ...

OrcaRouterをカスタムプロバイダーとして追加。Anthropic、Googleなど200以上のモデルを単一エンドポイントで呼び分け、自動ルーティングでコーディングコストを約40%削減。

コーディングエージェント「OpenCode」に、OrcaRouterを追加。Anthropic、Googleなど200以上のモデルを単一エンドポイントで呼び分け、コストを約40%削減。