パブリック プレビュー Azure API Management の Azure OpenAI セマンティック キャッシュ ポリシー

翻訳元

Azure API Management の Azure OpenAI セマンティック キャッシュ ポリシーのパブリック プレビューを発表できることを嬉しく思います。この革新的な機能により、お客様は、同様の意味を持つプロンプトの補完をインテリジェントに保存するセマンティック キャッシュを活用することで、トークンの使用を最適化できます。