Ouvrir le cercle d'amis pour brosser une petite vidéo, la carte dans le PPT même si, et finalement me donner un “échec de chargement” ? De nos jours, même regarder un chat ou un chien doit mettre votre patience à l'épreuve. Le frère de l'application sociale devrait comprendre cette douleur - les utilisateurs ne se soucient pas de la complexité de votre back-end, ils pensent seulement que c'est votre technologie qui est nulle.
La latence est comme un tueur invisible, elle ne peut généralement pas être ressentie, le taux de rotation des utilisateurs directs a grimpé en flèche. L'année dernière, j'ai aidé une plateforme sociale à faire de l'optimisation, et j'ai constaté que le délai moyen de ses utilisateurs d'Asie du Sud-Est était supérieur à 300 ms, et que les jeunes gens, après avoir brossé deux pages, s'empressaient d'utiliser des produits concurrents. Plus tard, grâce à la pression exercée par le CDN à 80 ms ou moins, le taux de rétention du jour suivant a augmenté de 17%.
Beaucoup de gens pensent que l'achat d'un serveur à large bande passante peut résoudre le problème de la latence, en fait, c'est une pure vue de l'esprit. Le délai dans le scénario réel est le résultat de la superposition de multiples facteurs : la distance physique, les sauts d'acheminement, les opérateurs qui se pincent les uns les autres, les embouteillages soudains ...... et même le tremblement des câbles sous-marins qui peut vous ramener à l'ère de la 2G.
J'ai récemment testé trois fournisseurs de services CDN et j'ai constaté que sur la même liaison entre Los Angeles et Shanghai, certains peuvent être stables à 120 ms, d'autres peuvent en fait monter en flèche jusqu'à 400 ms et perdre des paquets. La principale lacune réside dans l'agencement des nœuds et la stratégie de routage - certains fournisseurs de “nœuds globaux” sont simplement de fausses étiquettes, l'atterrissage réel peut être une chambre louée à bas prix.
La distance physique est difficile, mais l'optimisation des itinéraires peut sauver des vies
La limite de la vitesse de la lumière est la loi de la physique, Pékin à New York et comment optimiser ne peut pas être inférieur à 60 ms. mais la réalité de beaucoup de retard n'est pas causée par la distance ! J'ai saisi un utilisateur singapourien pour accéder au chemin du serveur de Shenzhen, évidemment la connexion directe aussi longtemps que 80 ms, mais le détour réel au Japon et ensuite tourner vers les États-Unis, vivre hors de 220 ms du fantôme de la latence.
Il s'agit d'un cas typique de stratégie de routage renversée. Certains petits CDN, par souci d'économie, dirigent l'ensemble du trafic vers quelques nœuds centraux, puis le transmettent, sous le nom de “programmation intelligente”. Un bon CDN devrait laisser le trafic comme une voiture qui tombe, à tout moment pour correspondre au nœud disponible le plus proche, et même préjuger de la trajectoire mobile de l'utilisateur à l'avance de l'ordonnancement des ressources.
L'accès de proximité n'est pas un simple jugement géographique
Ne croyez pas à ces schémas d“”attribution de nœuds en fonction de la géolocalisation de l'IP". Les utilisateurs de téléphones mobiles sont toujours en mouvement, et lorsqu'ils passent de la 4G au Wi-Fi, les IP peuvent instantanément changer de province. De plus, certains opérateurs ne mettent pas à jour leur base de données d'adresses IP pendant des années, de sorte qu'il n'est pas étrange d'assigner des utilisateurs de Shanghai à des nœuds de Pékin.
La solution que j'utilise actuellement est un triple jugement : géobase IP + détection de réseau en temps réel + GPS de l'appareil (autorisation requise). Par exemple, si un utilisateur est détecté en train de se déplacer du district de Chaoyang au district de Haidian, il passera automatiquement à un nœud plus proche dans les 5 minutes, même si l'IP n'a pas changé. Cette stratégie a été testée pour réduire les fluctuations de délai dans les scénarios mobiles par 40%.
Affichez un extrait de la logique de sélection des nœuds utilisée (pseudo-code) :
L'optimisation des routes BGP est un atout caché
De même, de la salle des serveurs de Pékin à l'utilisateur de Guangzhou, la connexion directe des télécommunications peut être de 80 ms, et si vous prenez le transit Unicom, elle peut monter en flèche jusqu'à 200 ms. Un CDN de haute qualité doit avoir des interconnexions BGP multilignes, et peut détecter la commutation dynamique en temps réel de la qualité de la liaison de l'opérateur.
Mention spéciale à CDN07, dont le réseau Anycast est vraiment difficile à utiliser. L'année dernière, pendant le double onze pour aider les clients du commerce électronique à transporter le trafic, le trafic congestionné de South China Telecom a été automatiquement coupé sur la ligne mobile, le délai est passé de 190 ms à 110 ms, sans que l'utilisateur s'en aperçoive.
Comparaison des résultats de l'optimisation de l'acheminement (en ms) des trois systèmes :
Au lieu d'une fonction de haute défense, cela pourrait-il augmenter le temps de latence ?
Certains fournisseurs, afin de mettre en avant leurs capacités de protection, dirigent tout le trafic vers des centres de nettoyage haute définition. Les utilisateurs qui accèdent à une image doivent passer par un nœud de protection de type "trou noir" situé à 800 kilomètres, n'est-ce pas un pet de travers ? La vraie solution raisonnable devrait être la sécurité en périphérie + la défense conjointe centrale.
J'ai vu une conception très intelligente dans la console de CDN07 : le trafic normal est distribué à proximité, et seul le trafic suspecté d'être une attaque est redirigé vers le centre de nettoyage. Cet équilibre est assez sophistiqué pour assurer la sécurité sans affecter l'expérience normale de l'utilisateur.
L'optimisation du protocole TCP permet de gagner 10 à 20 ms de détails
Beaucoup de gens ignorent l'optimisation de la couche transport, alors qu'en fait, chaque milliseconde gagnée ici est une véritable amélioration de l'expérience. Par exemple, l'ajustement de la fenêtre de congestion initiale (initcwnd), de 10 à 16, peut accélérer le chargement de petits fichiers. Un autre exemple est d'ouvrir TCP Fast Open, le premier paquet RTT économise directement 1/3.
Partage d'un extrait de réglage des paramètres du noyau qui fonctionne réellement :
N'oubliez pas la métaphysique de la couche physique
J'ai rencontré une fois un cas étrange : un nœud CDN avait une latence qui montait périodiquement en flèche, et j'ai finalement découvert que le climatiseur de la salle des serveurs se mettait régulièrement en marche, ce qui entraînait des changements de température, une dérive de la fréquence cristalline de la carte réseau ....... Ce problème ne peut pas être détecté en regardant les graphiques de surveillance, et il faut s'accroupir dans la salle des serveurs pour l'attraper. Par conséquent, lorsque vous choisissez un fournisseur de CDN, il est préférable de vérifier s'il dispose d'une salle de serveurs construite par ses soins, et le contrôle de la qualité de la salle de serveurs louée dépend vraiment de la chance.
Le nouvel accord n'est pas une solution miracle, mais il vaut la peine d'être essayé.
Le protocole QUIC donne des résultats étonnants sur les réseaux mobiles, en particulier dans les environnements de réseaux faibles. Mais ne changez pas aveuglément tout le site, la compatibilité de certains équipements anciens peut vous faire douter de la vie. Il est recommandé d'utiliser d'abord l'image, la vidéo, ces ressources tolérantes aux pannes, stables, puis de les promouvoir progressivement.
Données réelles : QUIC sur le réseau 4G a une latence de 23% inférieure à celle de TCP et une récupération de la perte de paquets 5 fois plus rapide. Toutefois, l'avantage dans un environnement Wi-Fi n'est pas évident, et peut même être pire en raison de la surcharge de cryptage.
Utiliser des indicateurs multidimensionnels pour le suivi
Se contenter de regarder la latence moyenne va à l'encontre du but recherché. Je dois examiner la latence du 95e centile et la variance de la latence, cette dernière reflétant davantage l'expérience de l'utilisateur - les utilisateurs préfèrent une latence stable de 150 ms à des montagnes russes de 80 ms et 300 ms. Nous recommandons d'utiliser le mode film de WebPageTest pour restaurer véritablement l'expérience utilisateur, ce qui est beaucoup plus intuitif que de regarder des chiffres.
Enfin, je voudrais dire que certains fournisseurs de CDN sur le marché ont beaucoup d'eau dans leurs données de nœuds pour pouvoir nourrir le poisson. L'affirmation selon laquelle 500 nœuds peuvent en réalité en utiliser moins de 200, et même certains avec des ports de 1 Gbps prétendant être de 10 Gbps. Le test doit être utilisé pour exécuter 24 heures complètes de trafic professionnel réel, tout en utilisant des outils tiers pour effectuer une vérification croisée.
Un CDN social de haute qualité et de haute défense devrait exister comme l'air - les utilisateurs ne peuvent pas le sentir, mais ne peuvent pas s'en éloigner un instant. Maintenant, chaque fois que je vois un ami poster une vidéo qui se charge en quelques secondes, je sais qu'il y a une équipe derrière l'optimisation du routage, la programmation des nœuds à chaque milliseconde. Ce genre de lutte technique est la partie la plus difficile de l'expérience de l'utilisateur.
