L'empreinte carbone de l'IA, tout le monde en parle. Personne ne mesure la même chose. Moi non plus.
Soutenez Michael Bensoussan en consultant la ressource originale
Lire l'article originalVous aimez découvrir ces sources ?
Soutenez-moi sur Patreon
Nouveau YouTube ❤️ Soutiens la chaîne sur Patreon : https://www.patreon.com/YoanDev 🔥 Et si un seul outil te donnait à la fois un dashboard temps réel ET une intégration Grafana pour ton FrankenPHP ? Dans cette vidéo, je te présente Ember et ses deux visages qui couvrent toute ton observabilité. D'un côté, un TUI superbe qui se branche sur l'admin API de Caddy et te montre EN DIRECT ce qui se passe dans ton FrankenPHP : workers PHP, requêtes, métriques, logs, TLS… Le tout dans ton terminal, sans config. De…
Récent Cela fait maintenant plus d’un an que j’utilise cet éditeur en remplacement de ce bon vieux Sublime Text qui fait décidément beaucoup trop de sur-place. [...]
Récent Cette année encore (comme les deux années précédentes), j’étais présent à Devoxx France. Cette fois-ci, pas de talk pour moi, j’étais donc en “simple visite”, ce qui enlève un élément de stress (ce n’est pas plus mal non plus). J’ai donc bien profité des trois jours, entre les différents talks, les discussions animées, les rencontres inattendues. Je vous raconte tout ça.
Combien coûte vraiment un million de tokens quand on ne paie plus l’API, mais l’infrastructure qui les produit ? En partant du prefill, du decode, du batching, du KV cache et des modèles MoE, on estime combien de tokens une infrastructure GPU peut générer.