Nouveaux niveaux de service dans le Gemini API
Rédigé à partir de la source originale; chaque fait est vérifié contre le texte source.
Que faut-il retenir ?
- Flex Inference permet des économies de 50 % par rapport à l'API Standard en réduisant la criticité des requêtes.
- Priority Inference garantit le plus haut niveau de fiabilité, même en période de forte utilisation de la plateforme.
- Les requêtes Priority sont servies avec la plus haute criticité, assurant la continuité des applications.
- Flex et Priority simplifient la gestion des tâches asynchrones et synchrones avec des points de terminaison standards.
Pourquoi cette nouvelle compte-t-elle ?
Ces nouvelles options permettent aux développeurs de mieux gérer les coûts tout en maintenant la fiabilité de leurs applications. Flex Inference est idéal pour les tâches de fond, tandis que Priority Inference répond aux besoins critiques. Cela représente un changement significatif dans la manière dont les développeurs peuvent optimiser leurs flux de travail avec le Gemini API.
Public concerné : développeurs
Comment choisir entre Flex et Priority Inference dans le Gemini API?
Le choix entre Flex et Priority Inference dépend de la criticité de vos tâches. Utilisez Flex pour des tâches de fond moins critiques et Priority pour des applications nécessitant une fiabilité maximale, surtout en période de forte charge.
🔧 Outils mentionnés