J'ai récemment aidé quelques stations vidéo à optimiser leur architecture, et je me suis retrouvé au bord du gouffre à douter de la vie. Après avoir vérifié le lien, il s'est avéré que 90 % des problèmes sont liés à la stratégie de mise en cache du CDN - soit que la panne du cache entraîne une explosion de la pression dans la station source, soit que le mécanisme de préchargement est un leurre.
De nos jours, même les CDN doivent "empêcher les coéquipiers". La configuration par défaut de certains fournisseurs de services est tout simplement mauvaise, ne remontant pas à la source pour tirer le flux, les coûts de la bande passante de la station source ont grimpé plus vite qu'une fusée. J'ai découvert qu'avec la bonne stratégie de mise en cache, on peut directement réduire de moitié le coût de la bande passante, le temps de mise en mémoire tampon réduisant de 80%. Aujourd'hui, nous parlons de cet ensemble de combinaisons - mise en cache segmentée + préchargement, qui permet de transporter le trafic de manière absolue, l'expérience ultime du grand déménagement.
Tout d'abord, jetons un peu d'eau froide : ne croyez pas à la propagande métaphysique de "l'accélération du site complet en un seul clic". Le trafic vidéo et les pages web ne sont pas la même chose, le trafic en rafale, la connexion longue, le découpage en tranches de fichiers volumineux, ce qui peut faire tomber les règles traditionnelles de mise en cache. J'ai vu le cas le plus scandaleux : une plateforme avec un cache CDN ordinaire de fichiers MP4, un pic de 95% de demande de pénétration du cache, la station source a été directement touchée par le temps d'arrêt. Plus tard, j'ai découvert que les nœuds CDN n'étaient pas adaptés à la demande de plage, chaque client devant relancer la vidéo entière !
La mise en cache segmentée est ce qui est nécessaire à l'ère de la vidéo. Le principe est en fait simple : découpez le fichier vidéo en un certain nombre de petits segments (comme la segmentation ts de HLS ou la structure moov/mdat de MP4), et gérez le cache et la politique d'expiration en fonction de la granularité des segments. Par exemple, la première minute du contenu est mise en cache pendant 24 heures, le milieu du cache pendant 2 heures, la fin du cache pendant 10 minutes - après tout, l'utilisateur saute la fin du film, c'est la norme.
En prenant le protocole HLS comme exemple, une configuration optimisée de Nginx devrait être écrite comme suit :
Voici le point essentiel.clé_cache_proxyVeillez à l'apporter.$slice_rangeC'est l'étape que beaucoup de services opérationnels manquent ! Beaucoup d'O&M ont raté cette étape, ce qui a pour conséquence que différentes demandes de portée écrasent les caches les unes des autres, au lieu de déclencher la confusion. Je suggère d'utiliser le nœud de test de la famille CDN07, leur support pour les requêtes de gamme que certains des grands fabricants sont encore stables, mesuré des millions de concurrences sous le taux d'atteinte du cache peut être maintenu à 92% ou plus.
La segmentation ne suffit pas, le préchargement est la meilleure expérience. Cependant, les solutions de préchargement de 90% sont basées sur un "préchargement aveugle" - les utilisateurs ne regardent que 10 secondes, et c'est un gaspillage de bande passante que de mettre en cache tout le film localement. La meilleure solution consiste à combiner l'analyse du comportement de l'utilisateur : 5 secondes après le début du film, le segment suivant doit être préchargé, et au milieu du film, la fenêtre de préchargement est ajustée dynamiquement en fonction de la vitesse du réseau. Dans un environnement de réseau faible, il faut même descendre à 144p pour assurer la fluidité.
Nous partagerons la logique de l'algorithme de préchargement que nous avons développé nous-mêmes :
Ne sous-estimez pas ces lignes de code, le test réel peut faire baisser le taux de retard à moins de 3%. En particulier, les nœuds de bordure de la famille CDN5 avec cette stratégie, même dans la scène métropolitaine de pointe du soir, peuvent également faire une deuxième ouverture + zéro tampon.
Les attaques DDoS aiment se concentrer sur le CDN vidéo, car le trafic est important et facile à amplifier l'effet de l'attaque. Il est recommandé de lier le paramètre d'authentification à la clé de cache :
Cette demande illégale de jeton ne retournera pas du tout à la source et sera interceptée directement au niveau du nœud frontal. L'année dernière, cet ensemble de solutions a permis à une plateforme active de résister à des attaques CC de 800 Gbps, la bande passante de la station source ne subissant pratiquement aucune fluctuation.
Marque, une comparaison complète des trois : CDN5 a la plus forte capacité de défense, est livré avec WAF et la protection de l'expansion de la bande passante, mais le prix est élevé ; CDN07 planification intelligente pour faire dur, en particulier les nœuds à l'étranger le contrôle de la latence est excellent ; 08Host appartient à la boucherie prix-performance, la ligne BGP domestique est stable, adapté pour les petites et moyennes équipes avec des budgets serrés. Si vous recherchez l'expérience ultime, vous pouvez vous engager dans une planification mixte - les zones clés avec CDN5 pour porter des attaques, les utilisateurs d'outre-mer vont à CDN07, le contenu ordinaire est déversé sur 08Host.
Enfin, une bombe géante : après qu'une application de vidéo courte avec 10 millions d'activités mensuelles a accédé à la stratégie de combinaison, le coût de la bande passante de la station source a chuté de 370 000 à 150 000 par mois, et le temps de mise en mémoire tampon médian est passé de 2,1 secondes à 0,4 seconde. Amélioration de la satisfaction des utilisateurs ? C'est suffisant pour que la note de l'App Store passe de 3,2 à 4,7.
L'optimisation vidéo est une activité qui meurt rapidement sur le papier. Ceux qui parlent de "cache global" des experts, il est recommandé de les rejeter directement - ils ne peuvent probablement même pas faire la distinction entre la requête Range et le Content-Length.
D'ailleurs, certains clients achètent un CDN avec une "protection ultra-élevée mais sans cache" pour un prix modique, puis ils sont choqués par la facture du trafic et s'effondrent. N'oubliez pas que la protection et l'accélération sont une relation symbiotique, la séparer est un acte de voyou.
Vérifiez votre configuration CDN maintenant. Si vous trouvezX-Cache-StatusUn peu de MISS là-dedans, dépêchez-vous de ne pas aimer la mise en cache segmentée et le préchargement. Économisez suffisamment d'argent pour donner à l'équipe une prime de six mois.
