Azure が AI Gateway 上で DeepSeek V4 Pro と V4 Flash のプロバイダーとして利用可能になりました。
いずれかのモデルへのリクエストは、既存のプロバイダーと並んで Azure を経由してルーティングでき、別のフェイルオーバーパスを提供します。コードの変更は不要です。デフォルトルーティングでは Azure が自動的に考慮され、プロバイダーが失敗した場合はゲートウェイが残りのリストへフォールバックします。
リクエストを Azure を最初に試すようにしたい場合は、ゲートウェイプロバイダーオプションで order を使用して Azure を優先し、他のプロバイダーを AI SDK の deepseek/deepseek-v4-pro または deepseek/deepseek-v4-flash のフォールバックとして保持できます:
import { streamText } from 'ai';
const result = streamText({
model: 'deepseek/deepseek-v4-pro',
prompt: 'Refactor this function to use async/await.',
providerOptions: {
gateway: {
order: ['azure'],
},
},
});
既存の Azure 認証情報をお持ちの場合は、独自のキーを使用でき、AI Gateway は Azure にルーティングされるリクエストにそれを使用します。セットアップについては API key authentication and BYOK をご覧ください。
AI Gateway は、モデルの呼び出し、使用状況とコストの追跡、リトライ、フェイルオーバー、パフォーマンス最適化の設定によるプロバイダーより高いアップタイムの提供を可能にする統一 API を提供します。組み込みの custom reporting、Zero Data Retention support、budgets for API keys などが含まれます。AI Gateway はプロバイダーの価格をそのまま反映し、マークアップはなく、Bring Your Own Key (BYOK) リクエストを含む推論に対してプラットフォーム手数料を請求しません。
AI Gateway の詳細、AI Gateway model leaderboard の閲覧、または model playground でのお試しについてはこちら。
0 Comments
Log in to join the conversation.No comments yet. Be the first to share your thoughts.