Akamai a répondu aux embouteillages du trafic internet par un algorithme plutôt que par des serveurs plus gros

En 1995, Tim Berners-Lee a mis au défi des chercheurs du MIT de résoudre un problème que le succès même du web créait : dès qu'un site devenait populaire rapidement — une actualité de dernière minute, un lancement de produit, un lien viral —, le serveur unique ou la ferme de serveurs qui l'hébergeait cédait sous la vague, un effet que l'industrie appelait un pic de charge soudain (flash crowd). Le remède standard consistait à continuer d'acheter une infrastructure plus grosse et plus centralisée, mais cela ne faisait que relever le plafond ; cela ne changeait pas le fait que chaque requête pour une page donnée passait toujours par le même emplacement physique ; et cela ne faisait rien contre la congestion du réseau sur le trajet.

Tom Leighton, professeur de mathématiques appliquées au MIT travaillant sur les algorithmes parallèles et la théorie des réseaux, s'est attaqué au problème avec l'étudiant diplômé Danny Lewin. Leur question n'était pas comment agrandir le serveur d'origine, mais si la requête devait atteindre le serveur d'origine du tout — si le contenu pouvait plutôt être trouvé près de celui qui le demandait, choisi dynamiquement par une formule plutôt que par un emplacement fixe et préattribué.

Répliquer le contenu sur des milliers de serveurs et acheminer chaque requête vers la copie la plus proche et la moins congestionnée en temps réel, transformant un goulot d'étranglement en un problème de routage.

Répliquer le contenu sur des milliers de serveurs élimine le goulot d'étranglement unique que les pics de charge soudains submergent.

Le hachage cohérent permet au système de réaffecter les requêtes autour des serveurs défaillants ou surchargés en temps réel.

Acheminer chaque requête vers la copie rapide la plus proche réduit la congestion du réseau et la latence.

Le coût évolue avec la capacité réseau agrégée, et non avec le pic dans le pire des cas à un seul emplacement.

Lorsqu'un point unique est submergé, ne l'agrandissez pas — demandez si la requête doit l'atteindre du tout, et distribuez le travail vers de nombreux emplacements plus petits près de la demande, en utilisant une formule de routage pour choisir le plus rapide.

Le réseau a absorbé des milliards de requêtes quotidiennes en réacheminant autour de la congestion ; l'introduction en bourse d'Akamai en 1999 a ouvert à 26 $, clôturant près de 145 $ ce jour-là. Le modèle de mise en cache en périphérie et de routage distribué d'Akamai a établi le schéma que tous les grands CDN depuis — Cloudflare, Fastly, Amazon CloudFront — ont suivi, et il sous-tend l'hypothèse, désormais tenue pour acquise, qu'un site web peut servir une audience mondiale sans point de défaillance unique en son cœur.