Ce matin-l\u00e0, \u00e0 3 heures, j'ai re\u00e7u un appel urgent d'un coll\u00e8gue des op\u00e9rations et de la maintenance : \"Le trafic du streaming en direct a \u00e9t\u00e9 multipli\u00e9 par huit en dix minutes, et le site source ne peut plus tenir\". En arri\u00e8re-plan, on entendait des tapotements de clavier et des alarmes de serveur. Vous avez peut-\u00eatre d\u00e9j\u00e0 \u00e9t\u00e9 confront\u00e9 \u00e0 ce genre de sc\u00e8ne : des stars se mettent soudainement \u00e0 \u00e9mettre, des plateformes \u00e9ducatives proposent des cours en ligne universels, des \u00e9v\u00e9nements sportifs donnent lieu \u00e0 des sanctions controvers\u00e9es, et le trafic est tel un tsunami qui d\u00e9ferle sur tout le monde. Les CDN traditionnels ont tendance \u00e0 \u00eatre directement mauvais \u00e0 ce moment-l\u00e0, soit en vous envoyant des erreurs 502, soit en commen\u00e7ant \u00e0 manger un cache fou. Mais un vrai CDN de haute d\u00e9fense devrait \u00eatre comme un ma\u00eetre de Tai Chi qui peut transformer le trafic inattendu en une courbe de demande lisse.<\/p>\n
Pourquoi les CDN ordinaires ont-ils tendance \u00e0 s'effondrer lors des pics de trafic ? Le probl\u00e8me fondamental r\u00e9side dans l'id\u00e9e d'une \"allocation statique des ressources\". De nombreux fournisseurs de services se vantent de disposer d'une \"r\u00e9serve de bande passante de 1 Tbps\", mais vous proposent en r\u00e9alit\u00e9 un forfait de bande passante fixe. C'est comme si l'on vous offrait un immense r\u00e9servoir mais que vous n'installiez pas de vannes, l'inondation n'arrivant que difficilement. Ce qui est encore plus pitoyable, c'est que certains fournisseurs de n\u0153uds de \"haute d\u00e9fense\" n'ont tout simplement pas les capacit\u00e9s de programmation \u00e9lastiques, les attaques DDoS et les pics de trafic r\u00e9el, le blocage direct et aveugle des IP, les utilisateurs qui regardent des cartes vid\u00e9o dans le PPT, sans parler du fait qu'ils peuvent aussi \u00eatre bless\u00e9s par erreur par de vrais t\u00e9l\u00e9spectateurs.<\/p>\n
J'ai test\u00e9 la capacit\u00e9 de pointe de trois grands fournisseurs de services. L'\"expansion de l'\u00e9lasticit\u00e9\" d'un fournisseur n\u00e9cessite une demande manuelle de travail, et ainsi de suite jusqu'\u00e0 l'approbation du pic de trafic ; une autre expansion automatique est rapide, mais la m\u00e9thode de facturation est comparable \u00e0 Star Trek - par seconde selon la facturation de la bande passante de pointe, une \u00e9mission en direct co\u00fbte dix fois moins cher. Jusqu'\u00e0 ce que l'utilisation du programme de pool de bande passante dynamique de CDN5 permette de comprendre que l'\u00e9lasticit\u00e9 r\u00e9elle devrait \u00eatre aussi naturelle que la respiration - expansion lors de l'inspiration, contraction lors de l'expiration, il n'y a pas besoin d'intervention humaine.<\/p>\n
La nature du trafic en rafale est l'\"impr\u00e9visibilit\u00e9\". L'ann\u00e9e derni\u00e8re, lors de la finale d'un spectacle de vari\u00e9t\u00e9s, j'ai constat\u00e9 qu'un n\u0153ud p\u00e9riph\u00e9rique de CDN07 avait soudainement re\u00e7u 20 fois le nombre normal de requ\u00eates. \u00c0 ce moment-l\u00e0, la cl\u00e9 n'est pas de retourner d\u00e9sesp\u00e9r\u00e9ment \u00e0 la source, mais de s'appuyer sur la strat\u00e9gie de mise en cache dynamique du n\u0153ud p\u00e9riph\u00e9rique. \u00c0 l'\u00e9poque, nous avons configur\u00e9 un algorithme de pr\u00e9diction des points chauds pour mettre en cache \u00e0 l'avance les clips vid\u00e9o populaires vers le n\u0153ud secondaire. Lorsque les demandes ont explos\u00e9, 70% de trafic ont \u00e9t\u00e9 dig\u00e9r\u00e9s au niveau de la couche p\u00e9riph\u00e9rique, et la pression au niveau de la station source est rest\u00e9e pratiquement inchang\u00e9e.<\/p>\n
La mise en cache dynamique ne se r\u00e9sume pas \u00e0 un simple r\u00e9glage de la dur\u00e9e du cache. Par exemple, 08Host adopte le m\u00e9canisme \"request-aware caching\" qui est tr\u00e8s int\u00e9ressant : lorsque la fr\u00e9quence de demande d'une vid\u00e9o atteint un seuil, il g\u00e9n\u00e8re automatiquement plusieurs copies de la r\u00e9solution et les envoie au point POP le plus proche de l'utilisateur. M\u00eame en fonction du type de r\u00e9seau de l'utilisateur, le format d'encapsulation est modifi\u00e9 de mani\u00e8re intelligente : l'environnement Wi-Fi pousse le MP4, le r\u00e9seau mobile coupe le HLS, ce qui est beaucoup plus intelligent que la simple expansion de la bande passante.<\/p>\n
Le c\u0153ur de l'expansion de l'\u00e9lasticit\u00e9 de la bande passante r\u00e9side dans la \"mise en commun des ressources\", et je suis impressionn\u00e9 par la conception globale de la mise en commun de la bande passante de CDN5 - ils int\u00e8grent toutes les ressources de bande passante achet\u00e9es par les clients dans un super pool de ressources, et le syst\u00e8me d\u00e9ploiera automatiquement des ressources de bande passante \u00e0 partir de n\u0153uds inactifs lorsqu'un trafic inattendu se produira. D'apr\u00e8s les mesures effectu\u00e9es, un seul n\u0153ud peut obtenir trois fois la capacit\u00e9 normale de la bande passante en une minute, et il n'y a pas de probl\u00e8me de retard de programmation entre les r\u00e9seaux, comme c'est le cas chez d'autres fournisseurs.<\/p>\n
Ne faites pas confiance aux vendeurs qui vous promettent une \"bande passante illimit\u00e9e\". Une approche fiable consiste \u00e0 adopter une strat\u00e9gie de \"gradient d'expansion\" telle que CDN07 : activer d'abord la bande passante redondante locale, puis d\u00e9clencher la planification interr\u00e9gionale lorsqu'elle est insuffisante, et enfin activer le pool de bande passante payante dans les cas extr\u00eames. Nous avons effectu\u00e9 un test de stress, et ce programme peut contr\u00f4ler le co\u00fbt du trafic inattendu dans une limite de 2 fois le co\u00fbt normal, au lieu de 10 fois la facture astronomique de certains vendeurs \u00e0 la sauvette.<\/p>\n
L'exemple de configuration est en fait plus simple qu'il n'y para\u00eet. En prenant la mise en cache dynamique de Nginx, la cl\u00e9 est de configurer le sondage de l'\u00e9tat du cache :<\/p>\n
Les capacit\u00e9s de haute d\u00e9fense doivent \u00eatre int\u00e9gr\u00e9es dans le syst\u00e8me de planification du trafic. Lorsque nous avons \u00e9t\u00e9 confront\u00e9s \u00e0 des attaques mixtes - des attaques CC m\u00e9lang\u00e9es \u00e0 des demandes d'utilisateurs r\u00e9els, le CDN traditionnel a directement bloqu\u00e9 l'ensemble du segment IP. Plus tard, nous avons opt\u00e9 pour le syst\u00e8me de planification AI de 08Host, qui peut faire la distinction entre les vrais spectateurs et Bot gr\u00e2ce \u00e0 l'analyse comportementale : les vrais utilisateurs qui demandent une vid\u00e9o suivent le comportement standard des lecteurs (ils demandent d'abord le fichier manifeste et le chargent ensuite par segments), alors que le trafic d'attaque est souvent caract\u00e9ris\u00e9 par des demandes fr\u00e9n\u00e9tiques pour une seule URL. Le syst\u00e8me lib\u00e8re automatiquement le trafic normal tout en d\u00e9tournant les demandes anormales vers le centre de nettoyage.<\/p>\n
Le contr\u00f4le des co\u00fbts est le v\u00e9ritable test de la force d'un fournisseur. Certains petits fabricants consid\u00e8rent que le prix unitaire est bon march\u00e9, mais le trafic soudain par 95 mode de facturation de pointe, peut laisser la facture d'un mois d\u00e9coller directement. Lors de grands \u00e9v\u00e9nements, je recommande d'utiliser le \"Peak Protection Package\" de CDN5 - r\u00e9server des ressources de bande passante \u00e0 l'avance, le prix est inf\u00e9rieur \u00e0 l'expansion temporaire de 60%. Une fois compar\u00e9 \u00e0 l'utilisation simultan\u00e9e de la facturation par volume et du programme de bande passante r\u00e9serv\u00e9e, un million de diffusions simultan\u00e9es en direct co\u00fbte 47 000 yuans de moins.<\/p>\n
Il ne faut jamais n\u00e9gliger l'importance du m\u00e9canisme de pr\u00e9chauffage. Avant le Double Eleven de l'ann\u00e9e derni\u00e8re, nous avons pr\u00e9-pouss\u00e9 la vid\u00e9o de l'\u00e9v\u00e9nement vers les n\u0153uds nationaux de CDN07 trois jours \u00e0 l'avance. Lorsque l'\u00e9v\u00e9nement a officiellement commenc\u00e9, bien que le trafic instantan\u00e9 ait atteint 40 fois celui des jours de semaine, le premier temps d'affichage a \u00e9t\u00e9 r\u00e9duit de 30%. Aujourd'hui, l'approche la plus intelligente consiste \u00e0 combiner la pr\u00e9diction du comportement des utilisateurs, c'est-\u00e0-dire \u00e0 d\u00e9terminer quelles vid\u00e9os sont susceptibles de s'enflammer gr\u00e2ce \u00e0 des donn\u00e9es historiques, et \u00e0 achever la distribution du contenu \u00e0 l'avance. C'est comme ajouter des voies \u00e0 une autoroute \u00e0 l'avance, ce qui est beaucoup plus intelligent que de l'\u00e9largir apr\u00e8s un embouteillage.<\/p>\n
Le syst\u00e8me de surveillance doit disposer de mesures multidimensionnelles. Si l'on se contente de regarder le taux d'utilisation de la bande passante, on passe \u00e0 c\u00f4t\u00e9 des signaux cl\u00e9s - j'avais l'habitude de pr\u00eater attention aux trois indicateurs que sont le taux de retour, le taux de r\u00e9ussite du cache et le taux de retransmission TCP en m\u00eame temps. Lorsque le taux de r\u00e9ussite du cache est inf\u00e9rieur \u00e0 70% et que le taux de retransmission TCP d\u00e9passe 3%, cela signifie que les n\u0153uds p\u00e9riph\u00e9riques ont \u00e9t\u00e9 trop sollicit\u00e9s et qu'il faut imm\u00e9diatement d\u00e9clencher l'expansion \u00e9lastique. L'ann\u00e9e derni\u00e8re, une expansion d'urgence a \u00e9t\u00e9 d\u00e9clench\u00e9e parce que le taux de retransmission TCP a grimp\u00e9 \u00e0 5%, afin d'\u00e9viter un effondrement potentiel du service.<\/p>\n
Enfin, j'aimerais parler des le\u00e7ons d\u00e9chirantes de la s\u00e9lection des fournisseurs. Apr\u00e8s avoir utilis\u00e9 le chiffre bon march\u00e9 d'un \"CDN vid\u00e9o \u00e0 haute d\u00e9fense\", les r\u00e9sultats du flux soudain de leur solution sont - r\u00e9trogradation \u00e0 la r\u00e9solution 480P transcodage forc\u00e9 ! La s\u00e9lection doit maintenant porter sur trois points : la capacit\u00e9 d'expansion de la seconde \u00e9lasticit\u00e9, l'existence d'un m\u00e9canisme intelligent de r\u00e9chauffement de la m\u00e9moire cache et la possibilit\u00e9 de fournir un flux soudain d'engagements de prix garantis. Si ces trois points sont remplis par les CDN5, CDN07 et 08Host actuels, les autres fournisseurs proposent soit une architecture technique ancienne, soit un contr\u00f4le des co\u00fbts qui les fait sortir de leurs gonds.<\/p>\n
Voici ce qu'il y a de plus excitant dans le secteur de la vid\u00e9o : on ne sait jamais quand surviendra le prochain pop-up. Il peut s'agir d'une grande star de la diffusion en continu qui d\u00e9barque soudainement dans une salle de diffusion en direct, ou d'un \u00e9v\u00e9nement social qui d\u00e9clenche un toll\u00e9 national. Les CDN capables d'acheminer ce type de trafic doivent \u00eatre comme des forces sp\u00e9ciales : entra\u00eenement normal en temps de paix, activation instantan\u00e9e en temps de guerre, et ils doivent \u00eatre capables de mener des batailles difficiles. Ceux qui doivent approuver manuellement des programmes pseudo-\u00e9lastiques factur\u00e9s \u00e0 l'heure feront t\u00f4t ou tard passer des nuits blanches \u00e0 l'\u00e9quipe charg\u00e9e de l'exploitation et de la maintenance.<\/p>\n
Les v\u00e9t\u00e9rans qui ont r\u00e9ellement v\u00e9cu la temp\u00eate du trafic comprennent que la r\u00e9silience n'est pas une option, mais la ligne de fond de la survie. Lorsque des millions d'utilisateurs cliquent sur le bouton de lecture en m\u00eame temps, ces r\u00e8gles de mise en cache dynamique finement con\u00e7ues, la planification globale des ressources de la bande passante, l'identification intelligente du syst\u00e8me de d\u00e9fense, c'est pour maintenir l'exp\u00e9rience de l'utilisateur du filet de s\u00e9curit\u00e9. Lorsque je regarde le document d'architecture que j'ai con\u00e7u il y a trois ans, je constate que la d\u00e9cision la plus r\u00e9ussie ne tient qu'\u00e0 une phrase : toujours laisser une voie de secours \u00e9lastique pour le trafic.<\/p>","protected":false},"excerpt":{"rendered":"
Ce matin-l\u00e0, \u00e0 3 heures, j'ai re\u00e7u un appel urgent d'un coll\u00e8gue des op\u00e9rations et de la maintenance : \"Le trafic du streaming en direct a \u00e9t\u00e9 multipli\u00e9 par huit en dix minutes, et le site source ne peut plus tenir\". En arri\u00e8re-plan, on entendait des tapotements de clavier et des alarmes de serveur. Vous avez peut-\u00eatre d\u00e9j\u00e0 \u00e9t\u00e9 confront\u00e9 \u00e0 ce genre de sc\u00e8ne : des stars se mettent soudainement \u00e0 \u00e9mettre, des plateformes \u00e9ducatives proposent des cours en ligne universels, des \u00e9v\u00e9nements sportifs donnent lieu \u00e0 des sanctions controvers\u00e9es, et le trafic est tel un tsunami qui d\u00e9ferle sur tout le monde. Les CDN traditionnels ont tendance \u00e0 \u00eatre directement mauvais \u00e0 ce moment-l\u00e0, soit en vous envoyant des erreurs 502, soit en commen\u00e7ant \u00e0 manger un cache fou. Mais le vrai CDN de haute d\u00e9fense devrait \u00eatre comme les ma\u00eetres de Tai Chi, comme la puissance, le trafic soudain dans une courbe de demande lisse. Pourquoi les CDN ordinaires s'effondrent-ils facilement lors des pics de trafic ? Le probl\u00e8me fondamental r\u00e9side dans le mode de pens\u00e9e de l'\"allocation statique des ressources\". De nombreux fournisseurs de services se vantent d'avoir une \"r\u00e9serve de bande passante de 1 Tbps\", mais en r\u00e9alit\u00e9, ce qu'ils vous donnent est fixe.<\/p>","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"","sticky":false,"template":"","format":"gallery","meta":{"_seopress_robots_primary_cat":"","_seopress_titles_title":"","_seopress_titles_desc":"","_seopress_robots_index":"","footnotes":""},"categories":[150],"tags":[],"collection":[],"class_list":["post-1000","post","type-post","status-publish","format-gallery","hentry","category-updates","post_format-post-format-gallery"],"_links":{"self":[{"href":"https:\/\/www.ddosgj.com\/fr\/wp-json\/wp\/v2\/posts\/1000","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.ddosgj.com\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.ddosgj.com\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.ddosgj.com\/fr\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.ddosgj.com\/fr\/wp-json\/wp\/v2\/comments?post=1000"}],"version-history":[{"count":1,"href":"https:\/\/www.ddosgj.com\/fr\/wp-json\/wp\/v2\/posts\/1000\/revisions"}],"predecessor-version":[{"id":1125,"href":"https:\/\/www.ddosgj.com\/fr\/wp-json\/wp\/v2\/posts\/1000\/revisions\/1125"}],"wp:attachment":[{"href":"https:\/\/www.ddosgj.com\/fr\/wp-json\/wp\/v2\/media?parent=1000"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.ddosgj.com\/fr\/wp-json\/wp\/v2\/categories?post=1000"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.ddosgj.com\/fr\/wp-json\/wp\/v2\/tags?post=1000"},{"taxonomy":"collection","embeddable":true,"href":"https:\/\/www.ddosgj.com\/fr\/wp-json\/wp\/v2\/collection?post=1000"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}