Newsroom est le nouveau produit de l’entreprise Darktrace. Ce système permet de détecter des courriels malveillants et de sécuriser le compte d’un utilisateur.
L’outil a été conçu pour faire face à la forte utilisation des intelligences artificielles génératives de type ChatGPT. Celles-ci sont en effet devenues des armes pour les pirates informatiques.
Plusieurs spécialistes de la sécurité informatique surveillent avec inquiétude l’expansion d’IA génératives. Parmi celles-ci figure l’incontournable ChatGPT, un outil développé par la startup américaine OpenAI et permettant de générer des textes particulièrement réalistes. Certains se servent aussi de cet agent conversationnel pour arnaquer des utilisateurs. C’est donc dans ce contexte que Darktrace a lancé Newsroom, qui peut détecter les emails malveillants qui risquent de saturer la boîte de réception. L’entreprise apporte ainsi sa pierre à l’édifice de la cybersécurité. Mais les fonctionnalités de Newsroom sont-elles vraiment efficaces pour contrer les arnaques en ligne facilitées par l’essor des chatbots génératifs ?
Les attaques favorisées par ChatGPT
Le phishing ou attaque d’ingénierie sociale est devenu plus facile grâce à l’expansion de ChatGPT. Effet, l’outil d’OpenAI est capable de générer des textes très sophistiqués à la demande. Une agence le confirme :
Cette capacité est exploitable à grande échelle pour tromper les victimes potentielles et les inciter à faire confiance à des acteurs criminels.
Darktrace a révélé que de janvier à février 2023, les assauts de ce genre ont augmenté de 135 %, une progression liée à l’émergence de cette IA générative. Les utilisateurs comme les professionnels de la cybersécurité redoutent désormais que des personnes mal intentionnées ne se servent de ChatGPT pour s’adonner à des arnaques. Les textes produis par l’outil sont si réalistes que des personnes peuvent potentiellement se faire piéger par des emails frauduleux.
Les acteurs informatiques comme les consultants IT ne cachent d’ailleurs pas leurs inquiétudes. BlackBerry a réalisé un sondage auprès de 500 informaticiens. L’enquête révèle que 72 % de ces professionnels s’interrogent sur l’utilisation de ChatGPT. 88 % des sondés estiment que des restrictions doivent être mises en place.
Les fonctionnalités de Newsroom
Newsroom, le nouveau produit de Darktrace, est contrôlé par une IA qui permet de détecter les éventuels courriels malfaisants. L’entreprise confirme :
La fonction Cyber AI Loop peut détecter les attaques dès leur lancement.
L’IA en question apprend les comportements et techniques linguistiques utilisées par les IA génératives comme ChatGPT. En effet, ces outils sont conçus pour créer des textes très descriptifs qui pourraient induire des personnes en erreur. Newsroom permet aussi de contrôler un compte afin d’éviter qu’un potentiel pirate informatique n’ait accès à des données personnelles. Le produit se charge aussi de réduire la présence des spams ou des graymail.
Il est en outre en mesure d’anticiper des assauts par email 13 jours à l’avance. Son concepteur confirme :
Dans cette mise à jour, Cyber AI Analyst combine l’activité anormale des courriels avec d’autres sources de données afin d’automatiser les enquêtes et les rapports d’incidents.
En somme, la sécurité des comptes se trouve renforcée avec Newsroom. Le produit est en ce sens un outil important aussi bien pour les particuliers que pour des professionnels comme des consultants IT.
