\n| \n L'\u00e9tude montre que lorsque seul l'ensemble de donn\u00e9es de formation<\/b>0,01%<\/b>La production du mod\u00e8le de contenu pr\u00e9judiciable augmente lorsque le faux texte du<\/b>11.2%<\/b>; m\u00eame s'il est<\/b>0,001%<\/b>de texte erron\u00e9, et sa production nocive augmente en cons\u00e9quence<\/b>7.2%<\/b>\u3002<\/b><\/em><\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\nCombin\u00e9 aux donn\u00e9es, le seuil d'empoisonnement de l'IA est extr\u00eamement bas, le pr\u00e9judice est important, et il est encore plus dangereux de l'appliquer \u00e0 des sc\u00e9narios r\u00e9els. Par exemple, dans le cas de l'IA d'identification de l'espace a\u00e9rien de l'a\u00e9rospatiale commerciale, les m\u00e9chants peuvent m\u00e9langer dans la biblioth\u00e8que d'apprentissage un tr\u00e8s petit nombre de donn\u00e9es relatives aux drones dangereux, consid\u00e9r\u00e9es comme des donn\u00e9es normales, et l'IA abandonnera l'a\u00e9ronef ill\u00e9gal apr\u00e8s l'apprentissage ; l'IA de contr\u00f4le des risques financiers peut \u00eatre empoisonn\u00e9e par une petite quantit\u00e9 de donn\u00e9es falsifi\u00e9es, ce qui entra\u00eenera une op\u00e9ration de fraude malveillante consid\u00e9r\u00e9e comme un transfert normal, avec pour cons\u00e9quence directe la perte de fonds ; ce type de risque dans le domaine de l'a\u00e9rospatiale commerciale, de l'\u00e9conomie \u00e0 basse altitude, etc. est tr\u00e8s susceptible de provoquer un incident de s\u00e9curit\u00e9 majeur.<\/p>\n Comment le d\u00e9crypter ? Gardez un \u0153il sur l'ensemble pour \u00e9viter que de mauvaises donn\u00e9es ne p\u00e9n\u00e8trent dans le syst\u00e8me.<\/b><\/h3>\n\n- Contr\u00f4ler strictement l'entr\u00e9e des informations (blocage \u00e0 la source) :<\/b>Le choix du mat\u00e9riel d'apprentissage pour l'IA s'apparente \u00e0 celui des manuels scolaires pour les enfants : il s'agit de choisir uniquement des contenus provenant d'\u00e9diteurs r\u00e9guliers et de canaux fiables, et de ne jamais utiliser de mat\u00e9riel provenant de sources inconnues. Une fois le mat\u00e9riel obtenu, nous le filtrons soigneusement, nous supprimerons toutes les fausses informations, les donn\u00e9es erron\u00e9es et les contenus malveillants, et nous \u00e9tablirons des normes d'audit strictes afin d'emp\u00eacher que du mauvais mat\u00e9riel ne se retrouve dans la biblioth\u00e8que d'apprentissage de l'IA d\u00e8s la premi\u00e8re \u00e9tape, et de couper court au risque d'empoisonnement d\u00e8s la racine.
\n[Affaire]<\/i><\/b>L'IA de planification de l'espace a\u00e9rien pour les vols spatiaux commerciaux n'utilise que des donn\u00e9es d'avions r\u00e9els provenant de mesures officielles, jamais n'importe quelles donn\u00e9es provenant d'Internet, juste pour \u00e9viter l'empoisonnement.<\/i><\/li>\n- Le processus d'apprentissage est supervis\u00e9 tout au long du processus (contr\u00f4le du processus) :<\/b>L'apprentissage de l'IA ne peut pas \u00eatre laiss\u00e9 sans surveillance, nous devons garder un \u0153il sur son effet d'apprentissage en temps r\u00e9el, comme l'enregistrement de son jugement du taux correct, la pr\u00e9cision de la reconnaissance. Si vous constatez qu'il commet soudain des erreurs fr\u00e9quentes, que sa logique de jugement devient chaotique, il faut imm\u00e9diatement interrompre l'\u00e9tude. Une enqu\u00eate approfondie doit \u00eatre men\u00e9e pour d\u00e9terminer si le mat\u00e9riel d'\u00e9tude n'a pas \u00e9t\u00e9 alt\u00e9r\u00e9 par des personnes mal intentionn\u00e9es, s'il n'a pas \u00e9t\u00e9 m\u00e9lang\u00e9 \u00e0 du faux contenu et si le probl\u00e8me n'a pas \u00e9t\u00e9 r\u00e9solu \u00e0 temps pour remplacer le mat\u00e9riel vierge.
\n[Affaire]<\/i><\/b>Si l'IA de contr\u00f4le de la qualit\u00e9 d'une usine juge soudainement et fr\u00e9quemment que les produits d\u00e9fectueux sont qualifi\u00e9s, les travailleurs v\u00e9rifieront imm\u00e9diatement ses donn\u00e9es d'apprentissage, et il est probable qu'elles aient \u00e9t\u00e9 falsifi\u00e9es par des \u00e9chantillons erron\u00e9s.<\/i>\u3002<\/i><\/li>\n- Correction d'erreurs en temps r\u00e9el et correctifs opportuns (protection de l'ex\u00e9cution) :<\/b>Une fois l'IA officiellement mise au travail, il est \u00e9galement n\u00e9cessaire de v\u00e9rifier les r\u00e9sultats de son travail en temps r\u00e9el, par exemple l'IA de contr\u00f4le de l'espace a\u00e9rien n'a pas mal \u00e9valu\u00e9 l'a\u00e9ronef, l'IA de contr\u00f4le du vent n'a pas mal \u00e9valu\u00e9 le risque. Lorsque les r\u00e9sultats s'av\u00e8rent erron\u00e9s, il faut imm\u00e9diatement suspendre le travail de l'IA et lui fournir des donn\u00e9es propres et correctes \u00e0 100 % pour la r\u00e9entra\u00eener, la \u201ccasser\u201d rapidement et r\u00e9tablir sa capacit\u00e9 de jugement normale, afin d'\u00e9viter que l'erreur ne continue \u00e0 se propager.
\n[Affaire]<\/i><\/b>Si l'IA de navigation prend soudainement et fr\u00e9quemment une mauvaise direction, l'arri\u00e8re-plan se recalibre imm\u00e9diatement avec les donn\u00e9es d'itin\u00e9raire correctes et revient rapidement \u00e0 la normale.<\/i><\/li>\n- Tra\u00e7abilit\u00e9 compl\u00e8te et tra\u00e7abilit\u00e9 facile (apr\u00e8s coup) :<\/b>Chaque information, chaque jugement et chaque d\u00e9cision pris par l'IA est enregistr\u00e9 comme un grand livre, laissant des traces permanentes. Une fois que l'IA est empoisonn\u00e9e, elle peut suivre l'enregistrement pour localiser rapidement quelle information, quel lien pr\u00e9sente un probl\u00e8me, et trouver avec pr\u00e9cision la source de la contamination, afin de la r\u00e9parer rapidement et d'\u00e9viter que des probl\u00e8mes similaires ne se reproduisent \u00e0 l'avenir.
\n[Affaire]<\/i><\/b>Lorsque l'IA de contr\u00f4le des risques de la banque se trompe, le personnel consultera ses enregistrements de donn\u00e9es d'apprentissage pour trouver rapidement le lot de donn\u00e9es \u00e0 l'origine de l'erreur de jugement et r\u00e9soudre le probl\u00e8me de mani\u00e8re efficace.<\/i><\/li>\n<\/ol>\nLe plus important : deux grandes menaces \u00e0 pr\u00e9venir ensemble, construire un double bouclier de s\u00e9curit\u00e9 solide<\/b><\/h3>\nSelon des donn\u00e9es officielles, les incidents de s\u00e9curit\u00e9 li\u00e9s \u00e0 l'IA en 2024-2025 ont augment\u00e9 d'ann\u00e9e en ann\u00e9e, le pic des attaques DDoS a presque tripl\u00e9, les m\u00e9chants ont tendance \u00e0 agir sur deux fronts : les premi\u00e8res attaques DDoS \u00e0 grande \u00e9chelle pour perturber le syst\u00e8me, pendant que tout le monde est occup\u00e9 \u00e0 r\u00e9parer, l'IA sournoise m\u00e9lang\u00e9e \u00e0 de fausses informations pour faire de l'empoisonnement, ne peut pas \u00eatre d\u00e9fendue.<\/p>\n \n\n\n| \n [R\u00e9f\u00e9rences \u00e0 des cas r\u00e9els]<\/b>2025<\/b>Les Jeux asiatiques d'hiver de Harbin et les infrastructures critiques sont victimes d'une cyberattaque \u00e0 l'\u00e9tranger ; les attaquants lancent d'abord le HF<\/b>DDoS<\/b>Les attaques de trafic cr\u00e9ent un chaos dans le syst\u00e8me, une collaboration synchronis\u00e9e<\/b>AI<\/b>Moyens suppl\u00e9mentaires d'infiltration et de brouillage des donn\u00e9es<\/b><\/strong>Le \u201ctypique\"<\/b>DDoS<\/b>sabotage<\/b>+AI<\/b>Une combinaison d\u201d\"attaques coordonn\u00e9es\", men\u00e9e par le Centre national de r\u00e9ponse d'urgence aux virus informatiques de Chine,<\/b>360<\/b>Le groupe est conjointement retrac\u00e9 dans un rapport public exclusif de ChinaDaily.com.<\/b><\/strong><\/p>\nCe type d'attaque consiste tout d'abord \u00e0<\/b>Lancer un DDoS de niveau T pour cr\u00e9er le chaos, puis profiter de l'occasion pour empoisonner et polluer l'IA, entra\u00eenant la d\u00e9faillance du syst\u00e8me de contr\u00f4le, cette combinaison d'attaques est extr\u00eamement n\u00e9faste, et c'est \u00e9galement l'a\u00e9rospatiale commerciale et les domaines \u00e9conomiques \u00e0 basse altitude qu'il faut s'efforcer de pr\u00e9venir.<\/b><\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n C'est pourquoi il est important de combiner les deux d\u00e9fenses :A l'ext\u00e9rieur pour ne pas \u00eatre paralys\u00e9 par la malice, \u00e0 l'int\u00e9rieur pour ne pas \u00eatre enseign\u00e9.<\/b>D'une part, elle met en place un syst\u00e8me de d\u00e9fense DDoS pour prot\u00e9ger fermement la porte du syst\u00e8me, afin d'emp\u00eacher le trafic malveillant de s'infiltrer et de causer des probl\u00e8mes, et de garantir que la plateforme big data peut fonctionner de mani\u00e8re stable et acc\u00e9der aux donn\u00e9es normalement ;<\/p>\n D'une part, nous surveillons de pr\u00e8s l'ensemble du processus de l'IA, de l'apprentissage \u00e0 l'exploitation, afin de ne pas laisser des donn\u00e9es fausses et pollu\u00e9es enseigner \u00e0 l'IA et de garantir que le jugement qu'elle \u00e9met est pr\u00e9cis et fiable.<\/p>\n Les deux sont \u00e9troitement coordonn\u00e9s, la d\u00e9fense interne et externe, de sorte que les donn\u00e9es volumineuses peuvent \u00eatre stock\u00e9es de mani\u00e8re stable et que l'IA peut \u00eatre utilis\u00e9e en toute tranquillit\u00e9, qu'il s'agisse de l'acc\u00e8s quotidien \u00e0 l'internet, des op\u00e9rations commerciales ou des vols spatiaux commerciaux, de l'\u00e9conomie \u00e0 basse altitude et d'autres domaines o\u00f9 les exigences en mati\u00e8re de s\u00e9curit\u00e9 sont extr\u00eamement \u00e9lev\u00e9es, peuvent fonctionner sans probl\u00e8me.<\/p>\n \n\n\n| \n [Bref r\u00e9sum\u00e9]<\/b><\/strong><\/p>\nLe DDoS est un \u201cd\u00e9sordre dur\u201d, bloquant la porte pour presser le syst\u00e8me paralys\u00e9 ; l'empoisonnement de l'IA est un \u201cmal doux\u201d, enseignant secr\u00e8tement la mauvaise IA. On compte sur le \u201cfiltrage + d\u00e9tournement\u201d pour pr\u00e9venir, on compte sur \u201cl'enqu\u00eate stricte + la supervision\u201d pour briser. Le big data et l'IA seront s\u00fbrs, qu'il s'agisse de l'utilisation quotidienne, des vols spatiaux commerciaux, de l'\u00e9conomie \u00e0 basse altitude ou des secteurs haut de gamme, on peut \u00eatre s\u00fbr que l'op\u00e9ration se d\u00e9roule bien.<\/strong><\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n\n\n\n| \n [R\u00e9f\u00e9rence]<\/strong><\/p>\nClassement des sources par ordre de cr\u00e9dibilit\u00e9 (de la plus \u00e9lev\u00e9e \u00e0 la plus faible, norme d'autorit\u00e9 g\u00e9n\u00e9rique)<\/i><\/b><\/strong><\/h4>\n1. organisations officielles\/minist\u00e8res au niveau de l'\u00c9tat > 2. m\u00e9dias centraux\/officiels faisant autorit\u00e9 > 3. instituts de recherche scientifique internationaux faisant autorit\u00e9\/organismes de normalisation > 4. rapports de s\u00e9curit\u00e9 officiels des principales entreprises > 5. livres blancs de l'industrie faisant autorit\u00e9<\/i><\/b><\/p>\n Note : La cr\u00e9dibilit\u00e9 des ouvrages faisant autorit\u00e9, des normes industrielles et des revues universitaires de base est \u00e9quivalente \u00e0 celle des institutions officielles nationales, qui constituent une source de premier ordre ; la cr\u00e9dibilit\u00e9 des magazines ordinaires et des m\u00e9dias de masse est faible.<\/i><\/b><\/em><\/p>\n[1]\u00a0<\/b><\/em>Institut national des normes et de la technologie (NIST). Crit\u00e8res de classification pour les attaques d'apprentissage automatique adverses et leur att\u00e9nuation. https:\/\/nvlpubs.nist.gov\/nistpubs\/ai\/NIST.AI.100-2e2023.<\/strong><\/b>pdf<\/b><\/strong><\/p>\n[2]\u00a0<\/b>R\u00e9seau d'information Xinhua<\/b>. 0,01%<\/b>Les faux textes de formation peuvent entra\u00eener une augmentation des contenus pr\u00e9judiciables<\/b>11.2%\u00a0<\/b>Vigilance contre l'intelligence artificielle<\/b>\u201c<\/b>empoisonnement des donn\u00e9es<\/b>\u201d\u300b<\/b><\/strong>\u00a0<\/strong>. \u00a0\u00a0https:\/\/www.xinhuanet.com\/politics\/20250805\/052915fcff1e47888f571467459d5ca3\/c.html<\/strong><\/p>\n[3]\u00a0<\/b>China Daily (journal en ligne)<\/b>. Livre blanc sur les tendances des attaques DDoS dans les r\u00e9seaux plus rapides 2025 . https:\/\/tech.chinadaily.com.cn\/a\/202504\/14\/WS67fccbf4a310e29a7c4a8fea.html<\/b><\/strong><\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>","protected":false},"excerpt":{"rendered":"Aujourd'hui, qu'il s'agisse d'un t\u00e9l\u00e9phone mobile quotidien, d'une application ou de l'a\u00e9rospatiale commerciale pour planifier l'espace a\u00e9rien, des vols de drones \u00e9conomiques \u00e0 basse altitude, les \u201cbig data\u201d et l\u201c\u201dintelligence de l'IA\u201c sont indispensables. Les \u201dbig data\u201c sont comme notre \u201dentrep\u00f4t num\u00e9rique\u201c, stockant une vari\u00e9t\u00e9 d'informations cl\u00e9s ; l'IA est comme une \u201dfemme de m\u00e9nage intelligente\u201c, s'appuyant sur ces donn\u00e9es pour faire des jugements et travailler. Mais ces deux b\u00e9b\u00e9s fondamentaux ont deux \u201dennemis invisibles\" majeurs : l'un peut directement paralyser le syst\u00e8me, l'autre peut secr\u00e8tement enseigner le mal \u00e0 l'IA, les gens ordinaires \u00e9coutent la confusion, en fait, avec la langue vernaculaire, nous allons parler de la fa\u00e7on de briser les deux principales menaces pour prot\u00e9ger la s\u00e9curit\u00e9 des big data. Le premier ennemi : les attaques DDoS - est le syst\u00e8me \"squeeze paralysis\" Qu'est-ce qu'une attaque DDoS ? D\u00e9ni de service distribu\u00e9<\/p>","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_seopress_robots_primary_cat":"none","_seopress_titles_title":"","_seopress_titles_desc":"","_seopress_robots_index":"","footnotes":""},"categories":[150],"tags":[],"collection":[],"class_list":["post-1243","post","type-post","status-publish","format-standard","hentry","category-updates"],"_links":{"self":[{"href":"https:\/\/www.ddosgj.com\/fr\/wp-json\/wp\/v2\/posts\/1243","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.ddosgj.com\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.ddosgj.com\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.ddosgj.com\/fr\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.ddosgj.com\/fr\/wp-json\/wp\/v2\/comments?post=1243"}],"version-history":[{"count":2,"href":"https:\/\/www.ddosgj.com\/fr\/wp-json\/wp\/v2\/posts\/1243\/revisions"}],"predecessor-version":[{"id":1248,"href":"https:\/\/www.ddosgj.com\/fr\/wp-json\/wp\/v2\/posts\/1243\/revisions\/1248"}],"wp:attachment":[{"href":"https:\/\/www.ddosgj.com\/fr\/wp-json\/wp\/v2\/media?parent=1243"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.ddosgj.com\/fr\/wp-json\/wp\/v2\/categories?post=1243"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.ddosgj.com\/fr\/wp-json\/wp\/v2\/tags?post=1243"},{"taxonomy":"collection","embeddable":true,"href":"https:\/\/www.ddosgj.com\/fr\/wp-json\/wp\/v2\/collection?post=1243"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}} | | | |