Vers des chatbots de plus en plus « intelligents »… et de plus en plus dangereux ?
L’hypothèse a été formulée par plusieurs acteurs du monde de la cybersécurité dans le cadre des prévisions pour l’année 2019.
Illustration chez WatchGuard. Le fournisseur américain de solutions de protection des réseaux redoute des détournements de chatbots intégrés à des sites internet*.
Leur capacité à communiquer avec les utilisateurs pourrait faciliter leur usage à des fins malveillantes (typiquement, par la diffusion de liens).
Ils pourraient par ailleurs servir de passerelles pour analyser et éventuellement exploiter des vulnérabilités dans les services qui y sont connectés.
Et ces services sont potentiellement nombreux. Il y a les briques technologiques sur lequel le chatbot en lui-même repose, à l’image de la reconnaissance du langage naturel. Mais aussi des bases de données… et des logiciels de type CRM ou gestionnaire de tickets.
SailPoint (gestion des identités) insiste, dans son rapport annuel, sur un autre aspect : la protection des données personnelles.
Certains chatbots recueillent, en direct ou depuis des bases tierces, de la data considérée comme sensible, à l’instar des informations de paiement, d’identité ou de géolocalisation.
Une solution peut consister à supprimer régulièrement ces données et les messages dans lesquels elles figurent éventuellement. Voire de paramétrer, en complément, un dispositif d’autorisations contextuelles : blocage de certaines requêtes, authentification à double facteur obligatoire…
Les mesures de protection doivent s’appliquer dès la création d’un chatbot, à travers la mise en place de permissions sur les environnements de développement et d’hébergement. En sachant que la marge est réduite si on s’appuie sur une plate-forme publique comme Facebook Messenger.
* TicketMaster a subi une telle attaque l’an dernier. Des pirates sont parvenus à modifier un code JavaScript auquel faisait appel un bot développé par un partenaire (Inbenta Technologies).
Photo d’illustration © Ars Electronica via Visual Hunt / CC BY-NC-ND
Quelle part d’incertitude faut-il accepter dans la mise en conformité des IA avec le RGPD…
Microsoft a dévoilé les prix des mises à jour de sécurité étendues pour Windows 10.…
Docaposte a sélectionné une douzaine de spécialistes français pour créer un Pack cybersécurité spécialement étudié…
La Surface Pro 10 sera disponible le 9 avril en France. Passage en revue de…
Que réserve Office 2024 ? Une première version de test officielle sera disponible en avril.…
Microsoft Teams évolue dans une version « unifiée » qui permet de combiner les usages…