Edge computing : l'IA doit-elle réfléchir dans la voiture ou dans le cloud ?

Une voiture roule à quatre-vingt-dix kilomètres-heure. Un piéton surgit. En un dixième de seconde, elle avance de deux mètres et demi. Où son IA doit-elle réfléchir : dans la voiture, ou dans un centre de données lointain ? En 1998, des chercheurs du MIT fondent Akamai, pour servir les pages web depuis des serveurs répartis, plus proches des internautes. En 2009, des chercheurs proposent de placer un petit centre de calcul près du mobile, à un seul saut réseau, pour des réponses plus rapides. En 2016, un article de l'IEEE Internet of Things Journal expose l'edge computing : traiter les données près de leur source, avec ses défis. C'est toute la question de l'edge computing. Trois idées pour la comprendre. Un : le trajet coûte. Dans le cloud, la donnée quitte la caméra, traverse le réseau, est analysée dans un centre de données, et la réponse refait tout le chemin. Pour une recherche sur internet, personne ne remarque ce délai. Pour un freinage, il compte. L'edge computing fait l'inverse : il traite la donnée là où elle naît. Deux : faire tenir l'IA dans l'appareil. Un modèle, ce sont des millions, voire des milliards de nombres : ses poids. La quantification les arrondit, de trente-deux bits à huit bits : quatre fois moins de mémoire. Autre technique, l'élagage : il retire les connexions qui servent peu. Le modèle tient alors sur une puce, comme Jetson de NVIDIA ou Snapdragon de Qualcomm. Trois : partager le travail. L'urgent et le sensible restent sur place : réponse en quelques millisecondes, et la donnée ne quitte pas le site. Le plus lourd part vers le cloud. Le bon endroit dépend de l'usage, pas de la mode. Chez KOAEE, la même question se pose : où part la donnée ? Notre assistant tourne dans le cloud, mais un cloud choisi : nos serveurs sont à Francfort, en Europe. À la ferme comme à l'agence immobilière, la réponse s'affiche en moins de trois secondes. Pour une conversation, c'est parfait. Pour un freinage d'urgence, mieux vaut l'edge. Pour comprendre l'IA en 150 secondes, abonnez-vous à la chaîne. KOAEE, l'IA qui reste entre vous. Essayez-le sur koaee.ai, dès aujourd'hui.