IA : stocker la mémoire dans 1 000 km de fibre optique, c’est possible ?

Les chercheurs d’Uppsala ont eu une idée spectaculairement tordue : stocker la mémoire IA fibre optique dans de la lumière qui fait des allers-retours dans 1 000 km de câble. Autant dire que si ça marche, l’impact sur les data centers va être massif… et les factures d’électricité, encore plus.

Des GPU qui tournent en rond, littéralement

Prenez un data center lambda, genre celui où tourne votre IA préférée. Chaque accélérateur (ces fameuses puces GPU qui coûtent un rein) a sa propre copie du modèle. Un Llama 3 70B, c’est 70 Go compressés ? Très bien. Mais si vous avez 10 000 puces, ça fait 700 To de mémoire redondante. 700 To qu’on pourrait éviter de racheter tous les six mois, juste pour le plaisir de voir les fans du serveur hurler.

Mine de rien, ces puces consomment à la fois pour stocker et pour calculer. Le pire ? Elles le font plusieurs fois par seconde, comme si chaque GPU avait une crise de jalousie parce que son voisin a le même modèle en cache.

D’ailleurs, la semaine dernière, j’ai dû expliquer à un client pourquoi son cluster HPC plantait. Devinez ? Windows Update avait planté. Toujours. Toujours. Entre ça et les GPU qui surchauffent, le métier de technicien devient un sport extrême.

La fibre optique, nouveau disque dur ?

Les Suédois ont imaginé un truc simple : au lieu de stocker les données en mémoire locale (chère, lente et gourmande), ils font tourner la mémoire dans une boucle de fibre optique de 1 000 km. Oui, vous avez bien lu. La lumière voyage à 200 000 km/s, donc dans un câble de ce gabarit, votre donnée fait un tour en 0,005 seconde. Suffisant pour que chaque GPU puisse la lire en temps réel.

Le gain ? Plus besoin de copier 10 000 fois le même modèle. Une seule boucle de lumière, et hop, tout le monde se sert. Les accéléateurs ne stockent plus que leurs calculs en cours, pas le modèle entier. Adieu les 700 To inutiles. Bonjour les économies.

Pour être honnête, je ne suis pas sûr que ça tienne sur un délai long. Les pertes d’intensité dans la fibre, les interférences, la chaleur… Mais sur du court terme, c’est malin. Et puis, quand on voit les prix des HBM (la RAM des GPU), autant tout essayer.

D’ailleurs, en 2018, j’ai vu un RAID 5 exploser chez un client parce qu’il avait « optimisé » son stockage avec un script PowerShell. Un script. Depuis, je méfie des solutions trop belles pour être vraies.

Comment ça marche en pratique ?

Imaginez une boucle de fibre optique. Votre donnée entre dans le câble, fait le tour, ressort. Pendant ce temps, votre LLM tourne. Vos GPU lisent les poids du modèle à la volée, comme des enfants qui picorent dans un pot de bonbons. Résultat ? Plus de duplication, moins de puissance gaspillée.

Les chercheurs appellent ça la Fiber Memory. Moi, j’appelle ça « prendre les mêmes vieux problèmes et les résoudre avec de la lumière ».

Après, niveau latence, c’est pas le zéro. Même à 200 000 km/s, un tour de 1 000 km prend du temps. Mais pour des modèles comme Llama ou Stable Diffusion, ça reste gérable. Et surtout, ça change la donne pour les petits acteurs. Plus besoin d’investir dans des baies de stockage monstrueuses pour stocker 100 fois le même modèle.

Pourquoi cette idée est à la fois géniale et complètement folle

Géniale parce que ça casse un problème vieux comme l’informatique : la redondance. On copie, on recopie, on stocke en triplicate, et au final, on paie en électricité et en silicium. 1 000 km de fibre optique, ça coûte moins cher que 700 To de HBM ? Je veux bien parier.

Folle parce que gérer une boucle de lumière sur un aussi long parcours, c’est comme essayer de faire tourner un moteur de Formule 1… à la main. Le moindre grain de poussière dans le câble, la moindre variation de température, et tout s’effondre. Les chercheurs d’Uppsala ont dû passer des nuits blanches à calibrer leurs amplificateurs optiques.

Et puis il y a le côté psychologique. Les data centers, c’est du lourd : des salles blanches, des climatiseurs qui consomment plus qu’une ville, des milliers de câbles en cuivre ou en fibre. Leur avouer que maintenant, on peut faire tourner une IA sur une seule boucle de lumière… ils vont tous vouloir démissionner.

Moi, la première fois que j’ai vu un client brancher un disque dur USB en SATA au lieu de l’USB, j’ai cru à une blague. Depuis, je sais que l’impossible arrive toujours plus vite qu’on ne le pense.

D’ailleurs, l’autre jour, un client m’a demandé pourquoi son PC mettait 10 minutes à démarrer. Windows. Toujours Windows. Entre les mises à jour forcées et les services inutiles, Microsoft a réussi l’exploit de transformer un SSD en boulet.

Les limites qui vont faire grincer des dents

Déjà, la latence. Même à la vitesse de la lumière, un tour de 1 000 km prend 5 millisecondes. Pour un calcul en temps réel, ça peut suffire. Mais pour des interactions ultra-rapides ? Il faudra probablement des boucles plus courtes, ou de la mémoire cache locale. Du coup, on revient à la case départ : stocker une partie des données en mémoire rapide.

Ensuite, la fiabilité. Une boucle de fibre optique de 1 000 km, c’est comme un autoroute de 1 000 km avec des millions de camions : il suffit d’un péage qui ferme, d’un accident, ou d’une panne de courant, et tout s’arrête. Sans compter les pertes d’intensité. Même avec des amplificateurs optiques tous les 50 km, l’énergie se dissipe.

Et puis il y a le problème des mises à jour. Si vous voulez mettre à jour votre modèle, il faut arrêter la boucle, recharger les nouvelles données, et relancer le tout. Autant dire qu’on va passer notre temps à rebooter. Pas idéal pour une IA qui doit être disponible 24/7.

Je me souviens d’un client qui avait un serveur sous FreeBSD et qui voulait installer une mise à jour. Le pauvre a passé 3 jours à recompiler le noyau. Trois jours. Depuis, je recommande toujours : « Si ça marche, ne touchez à rien. »

Et si la solution venait du pire ennemi des data centers : le cuivre ?

Attendez, attendez. Avant de tout révolutionner avec de la fibre optique, rappelez-vous que le cuivre existe. Oui, oui, ce vieux machin des années 80 qui fait grésiller quand vous approchez un câble trop près d’un néon. Et si on l’utilisait pour stocker des données ?

Je plaisante. Enfin… à moitié. Le cuivre a des qualités : il est bon marché, facile à souder, et surtout, il ne perd pas sa mémoire quand il surchauffe. Mais bon, pour stocker la mémoire IA fibre optique, on va éviter le RG-58.

Non, sérieusement, la vraie question c’est : pourquoi personne n’a pensé à ça plus tôt ? Parce que les chercheurs sont des génies, oui. Mais aussi parce qu’on a tous grandi avec l’idée qu’une mémoire, c’est fait pour être rapide et local. L’idée de la stocker dans une boucle de lumière, c’est comme si on avait inventé l’électricité et qu’on avait attendu 150 ans pour s’en servir.

Et puis, avouons-le : les data centers aiment le lourd. Les baies de stockage géantes, les climatiseurs qui hurlent, les baies de serveurs qui clignotent comme des sapins de Noël… Tout ça fait partie du décor. Leur dire « Alors, cette fois, on va juste utiliser une boucle de lumière ? » va les traumatiser.

Ce que ça change pour nous, pauvres humains

Si cette technologie se démocratise, les coûts des IA vont chuter. Plus besoin de dépenser des millions en mémoire embarquée. Plus besoin de refroidir des salles entières juste pour stocker des copies identiques. Les petits acteurs pourront enfin competir avec les géants.

Mais attention : les data centers ne vont pas disparaître. Ils vont juste se reconvertir. Au lieu de stocker des copies, ils vont stocker… des boucles de lumière. Et gérer des amplificateurs optiques. Et surveiller des pertes d’intensité. Bref, le métier de technicien, lui, ne va pas changer.

D’ailleurs, la semaine dernière, j’ai dû expliquer à un client que son serveur « ralentissait » parce qu’il avait branché son GPU en PCIe x4 au lieu de x16. Dans les années 2020. L’humanité n’a décidément pas fini de nous donner du travail.

En résumé : la mémoire IA fibre optique, c’est une révolution. Ou une nouvelle façon de compliquer des choses simples. Le temps nous le dira.

À vous de jouer : ça vous semble réaliste ?

Moi, je reste sceptique. Pas parce que l’idée est mauvaise, mais parce que l’informatique est une discipline où les solutions élégantes finissent souvent noyées dans le code spaghetti. Et puis, avec Windows Update qui plante, les pannes de courant, et les erreurs humaines… une boucle de lumière de 1 000 km, c’est comme une Ferrari : ça a l’air génial jusqu’à ce que quelqu’un oublie de faire le plein.

Mais si ça marche ? Alors là, on entre dans une nouvelle ère. Les data centers vont ressembler à des réseaux de télescopes, où la lumière circule en boucle pour nourrir les IA. Et nous, les techniciens, on va devoir apprendre à gérer des amplificateurs optiques au lieu de rebooter des serveurs.

En attendant, si vous avez un client qui vous appelle parce que son modèle d’IA est en train de s’autodétruire à cause d’une mise à jour Windows, sachez que je compatis. Tout à fait.

Et sinon, pour en savoir plus, direction l’article original sur Korben. Parce qu’il est toujours bon de vérifier que les chercheurs ne sont pas en train de nous faire une blague.