Mémoire et densitéMémoire par cellule et densité théorique.
L’essentiel de la consommation de l’IA se trouve dans l’inférence, sur des GPU. La nôtre est de l’autre côté : l’exécution, qui croît avec chaque action de chaque agent. Là, une cellule d’environ 1 MiB au lieu d’un système d’exploitation entier signifie, en théorie, davantage de cellules par GiB de mémoire.
Combien de cellules tiennent dans 1 GiBarithmétique, pas une mesure
La cellule minimale est restée à 1,03 MiB par cellule de 3,8 mille à 11,8 mille cellules actives, sans atteindre le plafond de RAM.
Sur site
Si votre matériel et votre charge le permettent, cela se vérifie dans le pilote.
Edge industriel
Sur un petit boîtier à côté de l’usine ou de la mine, là où la mémoire est rare et où il n’y a pas de cloud à portée de main.
ÉnergieMesuré le 13 novembre, sur bare metal : moins de la moitié de l’énergie du processeur d’une microVM Firecracker avec Linux, pour le même travail. C’est l’énergie de la puce (RAPL), pas la prise murale ni la facture d’électricité.
| Même tâche d’environ 100 ms | Joules par cellule | Par rapport au travail natif |
|---|
| travail natif | 0,74 J | base |
| notre cellule | 0,89 J | +0,15 J |
| notre cellule, nouveau processus par cellule | 0,99 J | +0,25 J |
| Firecracker + notre même cellule | 0,98 J | +0,24 J |
| Firecracker + Linux | 2,04 J | +1,30 J |
Cycle de vie d’une cellule, sans travailbare metal · un portable
Un portable (Intel Xeon E-2286M), noyau natif sans hyperviseur, compteurs du processeur et de la mémoire (RAPL) avec le repos soustrait, 5 répétitions de 400 cellules par bras, 0 échec. Ce n’est pas la prise murale ni la facture d’électricité : cela n’inclut ni le réseau, ni le disque, ni les ventilateurs, ni l’alimentation. Charge synthétique, aucun chiffre en argent. Face à Firecracker avec la même cellule, c’est presque une égalité : l’économie vient du remplacement de Linux par la cellule. À répéter sur un serveur et à valider avec un compteur externe. Le cycle de vie complet d’une cellule sans travail prend 24 mJ pour la minimale, 28 avec réseau, 32 avec fichiers et 38 avec les deux. Détails sur la fiche du cahier de laboratoire et dans Preuves.