OpenAI publie les premiers benchmarks de Jalapeño, sa puce d’inférence à 700 W

Une première série de résultats pour la puce maison d’OpenAI

OpenAI a publié le 25 août 2026 les premiers résultats de Jalapeño, sa première puce conçue spécifiquement pour l’inférence. Cette étape intervient après l’annonce du composant et porte sur du silicium fonctionnel intégré à un système complet. L’entreprise mesure trois modèles ouverts de tailles très différentes : GPT-OSS 120B, DeepSeek R1 670B et Kimi K2.5 1T. Elle affirme obtenir, selon le modèle et le point de fonctionnement, 1,5 à 1,9 fois plus de travail d’IA par watt à débit maximal, ainsi qu’une latence de bout en bout 1,7 à 3,6 fois plus basse que les plateformes retenues pour la comparaison.

Pour les usages les plus interactifs, OpenAI annonce également un débit de décodage par utilisateur supérieur de 2,1 à 4,1 fois. Ces valeurs ne décrivent pas un gain universel sur tous les modèles, toutes les tailles de contexte ou tous les services ChatGPT. Elles résument plusieurs points du benchmark InferenceX de SemiAnalysis, exécuté par OpenAI, avec une charge nominale de 8 000 jetons en entrée et 1 000 jetons générés. Les comparaisons opposent notamment Jalapeño à des systèmes GB200 ou GB300 selon le modèle évalué.

Ce que les graphiques mesurent réellement

La méthode cherche à rapprocher débit, consommation et expérience utilisateur. OpenAI compare le nombre de jetons mixtes traité par seconde et par kilowatt, puis la latence et le temps entre deux jetons à plusieurs niveaux de charge. La puissance nominale utilisée pour normaliser les résultats est de 700 W pour Jalapeño, 1 200 W pour GB200 et 1 400 W pour GB300. OpenAI précise toutefois que sa puce est restée à 550 W ou moins en puissance soutenue pendant les charges testées. Ce choix de normalisation par TDP publié facilite la comparaison, mais ne remplace pas une mesure indépendante de la consommation d’un rack complet.

Sur GPT-OSS 120B, OpenAI rapporte 85 448 jetons mixtes par seconde et par kilowatt au meilleur point de débit, contre 44 960 pour le système existant. Pour DeepSeek R1, les valeurs communiquées sont de 19 641 contre 11 781, avec une latence de bout en bout de 1,65 seconde contre 5,99 secondes. Kimi K2.5 affiche 18 195 contre 11 862 et 1,56 seconde contre 5,31 secondes. Ces chiffres sont précis, mais leur intérêt tient surtout au compromis global : une plateforme rapide à faible charge peut perdre son avantage lorsqu’on augmente le nombre de requêtes simultanées.

Une architecture pensée pour le préremplissage et le décodage

L’intérêt technique de Jalapeño vient de sa spécialisation. Le traitement initial d’un prompt, appelé prefill, sollicite fortement le calcul, tandis que la génération jeton par jeton est davantage limitée par la bande passante mémoire. OpenAI dit avoir conçu ensemble la puce, la mémoire, le réseau, le logiciel et le système à l’échelle du rack afin de réduire les transferts inutiles. L’état du modèle et le cache KV peuvent être placés explicitement et conservés au plus près du calcul. Le réseau fait partie de l’architecture plutôt que d’être ajouté après coup.

La programmation reste néanmoins spécifique à chaque famille de modèles. OpenAI indique avoir utilisé Codex et GPT-Astra pour porter et optimiser trois modèles ouverts en deux mois. Sur certains blocs d’attention et de mélange d’experts de GPT-OSS, les implémentations produites avec l’aide de l’IA auraient été 1,5 à 1,8 fois plus rapides que les versions écrites auparavant par des experts. Cette comparaison concerne des noyaux sélectionnés, pas l’exécution complète du modèle. L’entreprise affirme aussi être passée de la conception initiale au tapeout en neuf mois grâce à des boucles de conception et de vérification assistées par ses modèles.

L’impact concret se situe d’abord dans les services d’OpenAI

Jalapeño n’est ni une carte graphique gaming ni un accélérateur proposé à la vente. OpenAI prévoit de commencer son déploiement dans sa propre infrastructure d’ici à la fin de 2026. Si les résultats se maintiennent en production, davantage de débit par watt peut réduire le coût marginal de l’inférence et améliorer la disponibilité aux heures de pointe. Une latence plus faible est particulièrement utile aux agents, car quelques centaines de millisecondes répétées sur de nombreuses étapes finissent par allonger fortement une tâche complète.

Ce lancement ne signifie pas qu’OpenAI abandonne NVIDIA. L’entreprise précise qu’elle continuera à déployer largement des accélérateurs NVIDIA et d’autres partenaires, aussi bien pour l’entraînement que pour l’inférence. Jalapeño ajoute donc une voie interne optimisée pour certains services, sans remplacer immédiatement les plateformes généralistes. Pour les joueurs, il n’y a aucun effet direct démontré sur les GeForce, leurs pilotes ou leur disponibilité. L’enjeu est plutôt industriel : les grands fournisseurs de modèles cherchent désormais à contrôler davantage la pile, du modèle jusqu’au silicium.

Les réserves avant de parler de victoire industrielle

Les données détaillées constituent une avancée par rapport à une simple promesse, mais elles proviennent toujours du concepteur de la puce. Aucun laboratoire indépendant n’a encore reproduit ces mesures, et les configurations complètes, coûts de fabrication, rendements, mémoire, refroidissement et performances à l’échelle d’un service réel ne sont pas publics. La normalisation par TDP de la puce ne comptabilise pas nécessairement l’ensemble des équipements d’un système. Les modèles propriétaires d’OpenAI ne disposent pas non plus de résultats auditables comparables dans cette publication.

La production n’est pas encore au stade d’un déploiement massif : OpenAI poursuit la qualification, la maturation du logiciel et la validation sur davantage de modèles. La génération 2 est décrite comme déjà bien avancée et la génération 3 en préparation, sans calendrier précis. Au 26 août, le fait établi est donc le suivant : Jalapeño fonctionne et OpenAI publie un protocole ainsi que des résultats chiffrés prometteurs. La fiabilité, l’économie réelle et la capacité à reproduire ces gains à grande échelle restent à confirmer après son arrivée dans l’infrastructure de production.

Sources