OpenRouter lance la fonction de mise en cache de réponse, nécessitant l'ajout de x-openrouter-cache: true dans l'en-tête de la requête pour l'activer. La première requête est facturée selon le fournisseur, les requêtes suivantes identiques accèdent directement au cache et renvoient une réponse complète, sans frais de token. Après une mise en cache réussie, la réponse prend entre 80 et 300 ms, avec une moyenne de 4 ms pour la requête ; en cas de cache miss, Gemini 2.5 Flash prend environ 1,3 s, Kimi K2.6 environ 4,6 s, GPT-5.5 environ 9,1 s. Ce cache diffère du cache de prompt, le cache en edge renvoie directement le résultat complet, couvrant les points d'entrée texte, image, audio, document et appel d'outil. Isolé par clé API, le TTL par défaut est de 5 minutes, pouvant être configuré de 1 seconde à 24 heures.

CoinNetwork

2026-05-03 01:51:38

Création du résumé en cours

币界网消息，OpenRouter推出响应缓存（response caching）功能，开发者在请求头中加入x-openrouter-cache: true即可启用。
首次调用正常走供应商计费，之后完全相同的请求直接返回缓存结果，不产生token费用。
缓存命中后响应时间在80到300毫秒之间，查询平均4毫秒。
未缓存时，Gemini 2.5 Flash平均约1.3秒，Kimi K2.6约4.6秒，GPT-5.5约9.1秒。
该功能与供应商的prompt缓存不同，响应缓存完全跳过供应商，从OpenRouter边缘缓存直接返回完整响应。
文本、图片、音频、文档、工具调用均可缓存，覆盖四个端点。
缓存按API key隔离，TTL默认5分钟，可设为1秒到24小时。

Voir l'original

Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.

Récompense
J'aime
Commentaire
Reposter
Partager

Commentaire

Ajouter un commentaire

Aucun commentaire

Sujets populaires
Afficher plus
#
WCTCTradingKingPK
549.61K Popularité
#
USSeeksStrategicBitcoinReserve
58.76M Popularité
#
IsraelStrikesIranBTCPlunges
39.64K Popularité
#
BitcoinETFOptionLimitQuadruples
1.03M Popularité
#
#FedHoldsRateButDividesDeepen
43.74K Popularité

Épingler

OpenRouter mise en cache de la réponse en ligne : même requête sans facturation, la latence passe de secondes à millisecondes

Sujets populaires

WCTCTradingKingPK

USSeeksStrategicBitcoinReserve

IsraelStrikesIranBTCPlunges

BitcoinETFOptionLimitQuadruples

#FedHoldsRateButDividesDeepen

Épingler