/

Qu’est-ce qu’un load balancer ?

par Team Ninja
what is load balancer blog banner image
what is load balancer blog banner image

Dans un contexte hyperconcurrentiel, la connexion permanente est devenue vitale, aussi bien pour les consommateurs que pour les partenaires et les collaborateurs. L’architecture cloud offre bien plus qu’un remède contre les interruptions de service : elle aide les entreprises à ouvrir de nouvelles sources de revenus. Aujourd’hui, les besoins en charge de travail liés à l’IA, au développement d’applications et à la fourniture de services à l’échelle mondiale ont chacun motivé à eux seuls près de 40 % des adoptions du multicloud.
Les opportunités offertes par le cloud tiennent en grande partie à sa capacité à libérer une puissance de calcul bien plus importante, avec une fiabilité jamais atteinte auparavant. Ces bases de données sont devenues essentielles, y compris pour les infrastructures nationales. Dans certaines situations réelles, des vies humaines peuvent dépendre d’une base de données parfaitement fiable. Lorsqu’un patient arrive aux urgences, par exemple, les professionnels de santé doivent accéder immédiatement à son dossier médical pour prendre des décisions thérapeutiques critiques. Le moindre retard d’accès à ces informations peut avoir des conséquences fatales.
Pour autant, aucun système n’est à l’abri d’une panne. Ce qui distingue le cloud de toute autre architecture, c’est sa capacité à déployer très rapidement des clusters à haute disponibilité face à un problème imprévu. Cela garantit une continuité des performances, rendue possible par un composant largement sous-estimé : le répartiteur de charge (load balancer).

La répartition de charge, qu’est-ce que c’est ?

La répartition de charge permet aux entreprises de distribuer efficacement le trafic réseau entrant entre plusieurs serveurs backend.
Lorsqu’un utilisateur final envoie une requête pour accéder à un site web, une application ou un service, celle-ci arrive d’abord sur un load balancer. Ce dernier fait office de passerelle, ou de point d’entrée, pour tout le trafic entrant : il évalue la requête, consulte une liste intégrée de règles et d’algorithmes prédéfinis, puis détermine quel serveur backend ou quelle ressource doit la traiter.
Dans un système multi-tenant, plusieurs clients distincts partagent les mêmes ressources informatiques. Cette approche permet de réaliser des économies substantielles par rapport au déploiement d’une instance distincte de votre application pour chaque client, tout en allégeant la charge opérationnelle liée à la gestion de nombreux composants d’infrastructure. Mais les requêtes irrégulières et intermittentes ne sont pas le seul problème auquel s’exposent les charges de travail non protégées : les entreprises deviennent aussi vulnérables au phénomène du « voisin bruyant ».
Il s’agit du cas où un seul tenant sature le système avec des charges de travail excessives, ce qui dégrade les performances globales. Sans répartition de charge, tous les clients dépendent alors de ce seul serveur surchargé, même si d’autres sont disponibles.

Les avantages de la répartition de charge

La répartition de charge fait aujourd’hui tellement partie intégrante des infrastructures cloud qu’on finit par l’oublier. Elle apporte pourtant deux bénéfices majeurs : la maîtrise des coûts et un niveau de disponibilité des services nettement supérieur.

Une efficacité renforcée

Dans le cloud, il existe toujours plusieurs façons d’arriver au même résultat. Lors de la conception d’une application, par exemple, il est possible de recourir à une passerelle API. Celle-ci sert de pont entre le client et le serveur, et gère l’accès aux bases de données backend, aux microservices et aux fonctions. Si cela vous rappelle quelque chose, c’est normal : de nombreuses équipes de développement de petite taille utilisent une passerelle API comme load balancer rudimentaire, puisqu’elle permet de contrôler à la fois le débit des requêtes et l’authentification des utilisateurs.
Mais dès qu’une application ou un site voit son volume d’utilisateurs augmenter, et dépasse la limite gratuite de la passerelle API, cette architecture simple peut vite entraîner des coûts ingérables. Prenons cet exemple extrêmement granulaire d’ingénieurs AWS : avec un tarif de 3,50 $ par million de requêtes pour AWS API Gateway, ce cas d’utilisation atteignait une moyenne de 450 requêtes par seconde. Soit 38 880 000 requêtes par jour, ou plus de 4 000 $ par mois rien qu’en API Gateway. Les load balancers, eux, sont facturés à l’heure. En plus du coût de base de 15 $ par heure, les Load Balancer Cost Units permettent au fournisseur cloud de tenir compte de l’intensité de travail du load balancer : nouvelles connexions par seconde, connexions actives et octets traités. Dans l’exemple réel cité par l’auteur, ses 20 load balancers individuels, répartis sur trois régions de disponibilité, revenaient au total à 166 $ par mois pour AWS Load Balancing, soit un écart considérable par rapport aux 4 163 $ mensuels dépensés pour exactement le même service via API Gateway.
Pour faire simple, lorsque les développeurs ont besoin d’un moyen simple d’appeler une fonction en HTTPS, les load balancers offrent exactement le niveau de puissance nécessaire, et souvent à un prix bien inférieur.

Une évolutivité maîtrisée

Si certaines entreprises se contentent de modes de fourniture de services peu efficaces, d’autres se retrouvent dans une situation encore plus délicate : le cauchemar d’un afflux massif d’utilisateurs sur une infrastructure sur site.
En répartissant les requêtes des utilisateurs entre plusieurs serveurs, les temps d’attente diminuent fortement. L’UX (expérience utilisateur) s’en trouve améliorée dans son ensemble, et c’est l’une des raisons pour lesquelles les réseaux de diffusion de contenu (CDN) intègrent souvent un module de répartition de charge. Les load balancers ne se contentent pas de garantir une disponibilité permanente : ils peuvent aussi anticiper intelligemment le trafic applicatif, ce qui laisse aux entreprises le temps d’ajouter ou de modifier des serveurs selon les besoins.

Load balancers statiques et dynamiques

Les load balancers existent sous de nombreuses formes. La distinction principale oppose les types statiques aux types dynamiques, mais chacun dispose ensuite de méthodes bien à lui pour répartir les requêtes des utilisateurs.

Statique

Les load balancers statiques choisissent leur méthode de routage indépendamment de l’état du serveur. Cela repose sur trois grands formats :

Hachage d’IP

L’adresse IP du client est soumise à un calcul mathématique qui la convertit en un nombre. Ce nombre est ensuite associé à un serveur précis. Comme la méthode s’appuie sur une donnée fixe, à savoir l’adresse IP, le client bénéficie de la persistance de session. C’est donc une solution idéale pour les services qui reposent sur des données stockées spécifiques, comme les paniers d’achat e-commerce.

Round-robin

Là où le hachage d’IP s’appuie sur l’adresse IP du client, les algorithmes round-robin exploitent les informations du fournisseur lui-même. Lorsqu’un client demande à accéder à votre site, le système de noms de domaine (DNS) renvoie l’adresse IP de votre serveur. Avec le round-robin, ce serveur de noms classe votre cluster de serveurs par ordre alphabétique. Chaque serveur reçoit ensuite, à tour de rôle, une petite part du trafic à traiter.

Round-robin pondéré

Évolution de la méthode round-robin, le round-robin pondéré permet aux administrateurs d’introduire une pondération dans le processus de sélection. En attribuant un poids plus ou moins élevé à certains serveurs, ceux qui sont capables d’absorber davantage de trafic en reçoivent une part proportionnelle.

Dynamique

Les load balancers dynamiques s’appuient sur des algorithmes qui surveillent l’état des serveurs en temps réel. Les points d’attention propres à chaque algorithme peuvent être classés comme suit :

Moins de connexions

Cet algorithme analyse le nombre de connexions ouvertes sur chaque serveur disponible. En partant du principe que chaque connexion exige une puissance de traitement comparable, le load balancer dirige le trafic vers le serveur dont la charge de travail est la plus légère.

Moins de connexions pondéré

Version dynamique du round-robin pondéré, l’approche « moins de connexions pondéré » permet aux administrateurs d’ajouter manuellement du contexte sous la forme d’un poids attribué à chaque serveur.

Temps de réponse pondéré

Cet algorithme calcule le temps de réponse moyen de chaque serveur, en tenant compte du nombre de connexions ouvertes, de la région et de la demande du moment. Le trafic est ainsi envoyé vers les serveurs les plus réactifs, ce qui garantit le temps de réponse le plus rapide pour les utilisateurs.

Basé sur les ressources

La répartition de la charge s’appuie sur les ressources disponibles de chaque serveur, comme le processeur et la mémoire. Un logiciel spécialisé installé sur chaque serveur (appelé « agent ») surveille ces ressources, et le load balancer l’interroge pour prendre des décisions de distribution du trafic en connaissance de cause.

Des requêtes réseau plus rapides

Les load balancers sont un composant essentiel des infrastructures informatiques modernes. Ils permettent une distribution efficace du trafic réseau, en assurant des performances optimales, une haute disponibilité et une expérience utilisateur fluide. En répartissant la charge entre plusieurs serveurs, ces outils dynamiques sont devenus indispensables aux entreprises qui souhaitent renforcer la fiabilité et l’évolutivité de leurs applications et de leurs services.
Pour voir ces méthodes de répartition à l’œuvre, vous pouvez regarder cette courte vidéo : « Qu’est-ce qu’un load balancer ? ».

Vous pourriez aussi aimer

Prêt à simplifier les aspects les plus complexes de l'informatique et de la sécurité ?