La lettre de Frédéric Simottel n°21 ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌ ‌
Cette newsletter vous a été transférée ?
Abonnez-vous en cliquant ici
🔓 L’heure est à l’AI-Security-By-Design
La lettre de Frédéric Simottel n°21
S’il est bien un point sur lequel on entend peu les spécialistes de l’IA, c’est la cybersécurité. Bien entendu, ils la citent, parlent de protection des données etc… mais souvent sans grande conviction. On sent bien qu’il s’agit surtout d’être le premier à sortir la « killer app ».  Le développement d’Internet nous a pourtant appris qu’il était essentiel de penser Security by design. Et cela doit être la même chose pour l’IA. —Frédéric Simottel
Ce contenu vous est offert en exclusivité jusqu’à la fin du mois. Pour continuer à recevoir la newsletter cybersécurité de Frédéric Simottel, abonnez-vous dès maintenant.
Bénéficiez de l'offre de lancement à 2,50€ par mois
Pressées par le rythme donné par les Américains, les entreprises ont des réactions à l’opposé quant à leur appréhension de l’intelligence artificielle, générative notamment. Certaines bloquent tout. D’autres se lancent en prenant moult précautions autour notamment de la gestion de leurs données. D’autres encore ouvrent grandes les vannes en se disant qu’il finira bien par sortir quelque chose des expérimentations menées tous azimuts. Cette situation, à peine caricaturale, effraie à la fois les RSSI mais aussi les autorités cyber. Au Royaume Uni, la responsable du National Cyber Security Center a ainsi confié à la BBC que la cybersécurité devait être intégrée de toute urgence dans tous les développements liés aux systèmes d’IA. Elle explique que dans leur précipitation d’occuper le marché au plus vite, beaucoup d’entreprises développent de nouveaux produits IA en négligeant les principes de sécurité les plus élémentaires. Au-delà des applications développées pour nous simplifier la vie au quotidien, cette responsable affirme que cela peut aller jusqu’à menacer la sécurité nationale.

Avec l’IA, la vie est plus simple mais est-elle plus sécurisée ?
Certes nous devenons de plus en plus dépendants de l’IA dans nos déplacements, nos approvisionnements ou encore l’accès aux services publics. Avec l’IA, la vie est plus simple, les services plus facilement accessibles et, même si les médias en parlent au quotidien, peu d’entre nous imaginent les utilisations abusives dont nous pourrions faire l’objet. Or, si la sécurité n’est pas prise en compte dès l’origine de l’application, la complexité des systèmes est telle qu’il sera très difficile d’intervenir a posteriori ; ou alors en redémarrant les développements de zéro. Les forums débordent d’exemples de piratages menés via des codes malveillants pour prendre la main sur des équipements, rédiger de faux messages, introduire de fausses informations pour fausser les résultats des algorithmes, voire empoisonner les données à partir desquelles l’IA apprend, créant ainsi des biais, difficiles à repérer et mettant à mal la confiance jusqu’alors accordée au système.

Une défense aveugle
Le pire m’a expliqué un expert se produit lorsque l’IA est elle-même utilisée pour améliorer la sécurité en détectant les attaques. La défense peut alors devenir aveugle. Face à ses sérieuses inquiétudes, la meilleure des parades est de responsabiliser sans attendre les développeurs et autres éditeurs de logiciels. En fait il s’agit de s’inspirer des principes de développement des premières applications internet il y a une trentaine d’années. La confiance des utilisateurs fut gagnée, le jour où les développeurs ont mis suffisamment de gages de sécurité pour pouvoir naviguer en toute sécurité -même si des failles ont bien entendu continuer à exister mais les bases sécuritaires étaient posées. Il est donc urgent de rassurer aujourd’hui autour de l’IA ; au risque de freiner l’innovation, voire son usage.

Chiffres et études
  • L’OWASP (Open Web Application Security Project), fondation à but non lucratif consacrée à la sécurité des applications web, a publié dernièrement l’édition 2023 de sa liste API Security Top 10. Celle-ci vise à sensibiliser aux risques les plus fréquents qui, en menaçant la sécurité des API, gangrènent les entreprises et aux moyens à mettre en œuvre pour s’en prémunir.

LA TRIBUNE

Le démantèlement des réseaux malveillants exige une forte collaboration  
Le 26 août 2023, une collaboration internationale entre les forces de police et les systèmes judiciaires des États-Unis, de l'Allemagne, des Pays-Bas et de la France a entraîné le démantèlement de l'infrastructure du réseau malveillant Qakbot, accompagné de la saisie de 8,6 millions de dollars en crypto-monnaies. Dans le cadre de cette opération, le FBI a redirigé le flux de trafic vers ses propres serveurs, libérant ainsi toutes les machines du botnet et neutralisant ses activités. Cette action a entraîné la désactivation d'environ cinquante serveurs dans les pays partenaires, suivie de la mise hors service du reste de l'infrastructure.
(NDLR : pour rappel, Qakbot est une opération de longue date, qui s'étend sur plus d'une décennie et qui s'est adaptée et a évolué avec le temps, d'abord axée sur la fraude bancaire traditionnelle, elle a ensuite pivoté pour servir de point d'appui aux intrusions de ransomwares. Tout impact sur ces opérations est le bienvenu car il peut provoquer des fractures au sein de l'écosystème et entraîner des perturbations qui poussent les acteurs à forger d'autres partenariats, même s'ils ne sont que temporaires. Les acteurs qui utilisaient QAKBOT dans les intrusions de ransomware, par exemple, peuvent se tourner vers des communautés souterraines pour les fournisseurs d'accès initial, ce qui se traduit par des tactiques d'accès initial plus variées à court terme). 
« Après Genesis Market en mai et l'infiltration du ransomware Hive en janvier, l’année 2023 est de nouveau marquée par le démantèlement par le FBI d'un réseau d’envergure mondiale. Depuis la première détection de Qakbot en 2007, également connu sous les noms de QBot, QuakBot et Pinkslipbot, ce botnet très résistant est resté actif, donnant souvent à nos chercheurs l'impression de jouer au jeu du chat et de la souris. Il n'a cessé d'évoluer, d'ajouter de nouvelles fonctionnalités et de trouver de nouveaux moyens d'échapper à la détection, en contournant toujours la possibilité d’un démantèlement, jusqu'à aujourd'hui. C'est une excellente nouvelle que le FBI et ses partenaires aient pu immobiliser ce botnet jusqu’à lors très persistant et il est à espérer qu'il restera hors ligne pour de bon.

D’autres démantèlements sont imminents
Le processus de démantèlement n'est pas si simple, comme en témoigne notre récente participation au démantèlement de Genesis Market et aux arrestations de REvil. La lutte contre la cybercriminalité exige une bonne dose de dévouement et une forte collaboration pour démanteler les infrastructures complexes des ransomwares. L'augmentation du nombre de démantèlements et d'arrestations montre que les cybercriminels doivent surveiller leurs arrières. Les forces de l'ordre et l'industrie recherchent toutes les occasions de perturber les acteurs de la menace, et d'autres démantèlements sont imminents. » 
 
John Fokker
Chef du renseignement sur les menaces du Centre de Recherche Avancée de Trellix 

A ne pas manquer sur le web
  • Le bilan des attaques cyber de l’été, une émission Tech & Co Business avec Emmanuel Pugliesi, directeur exécutif de SFR Business, Charlotte Couallier, cofondatrice et directrice générale de Dattak et Benoit Grunemwald, expert Cybersécurité chez ESET France.
  • Comment la Chine utilise Linkedin pour recruter des « espions ».
Bénéficiez de l'offre de lancement à 2,50€ par mois
Vous avez aimé cette newsletter ? Likez, partagez, abonnez-vous !
Passer à la version payante
publication_image
BFM Business Cybersécurité
Par Frédéric Simottel
Journaliste à BFM Business en charge notamment des questions de cybersécurité, je suis heureux de partager avec vous chaque semaine l’actualité du secteur mais aussi ma revue de presse et des tribunes
"Vous recevez ce mail car vous vous êtes abonné à la newsletter BFM Business Cybersécurité sur Kessel. Pour gérer votre abonnement, cliquez ici.
© 2023 Kessel