Colibri : faire tourner des modèles d'IA géants sur un PC ordinaire
Colibri, moteur d'inférence open source en C, exécute GLM-5.2 (744 milliards de paramètres) avec 25 Go de RAM en lisant les experts sur disque. Fonctionnement, matériel, installation, performances et limites.