IBM mise sur la lumière pour accélérer les LLM et l'IA

IBM travaille sur des alternatives pour entraîner les LLM et accélérer l'exécution des stacks techniques des IA. Une des solutions est l'utilisation de la lumière. Cette approche rappelle la technologie dite photonique utilisant la lumière et une fibre optique pour accélérer les communications dans les serveurs et avec les matériels réseau.

"Des chercheurs d'IBM ont démontré qu'il était possible d'apporter la vitesse et la capacité de l'optique à l'intérieur des datacenters. IBM présente un nouveau module prototype CPO qui peut permettre une connectivité optique à haut débit. Cette technologie pourrait augmenter de manière significative la bande passante des communications des datacenters, minimisant ainsi les temps d'arrêt des GPU tout en accélérant de manière drastique le traitement de l'IA." indique l'annonce.

Cette approche doit diminuer les coûts d'exploitation, accélérer les traitements, réduire la consommation énergétique des datacenters.