Une IA pour brouillé les écoutes

Une intelligence artificielle parvient à anticiper une conversation et à y ajouter du bruit instantanément pour la camoufler des oreilles potentiellement indiscrètes de nos objets connectés.

ll fut un temps où des fontaines, judicieusement placées dans des palais ou des jardins, permet­taient que les conversations soient tenues à l’abri des oreilles indiscrè­tes. Notre monde connecté demande encore plus de précautions. Avez­ vous déjà reçu sur un de vos objets connectés une publicité sur le sujet précis dont vous veniez de parler ? Si c’est le cas, vous êtes ­vous alors de­mandé si votre téléphone, assistant personnel, montre intelligente ou ordinateur, situé à proximité, aurait pu vous « espionner » à votre insu ?

C’est peut ­être encore un scénario de fiction, mais nous sommes désor­mais entourés d’une multitude de microphones dont les enregistre­ments peuvent être analysés par des algorithmes de machine learning. Puisque ces programmes d’intelli­gence artificielle (IA) apprennent à « comprendre » les voix, technologiquement, cet espionnage est possi­ble. « Un nombre très important de données personnelles sont déjà utili­sées par l’apprentissage machine. Il faut, d’une certaine façon, rendre le pouvoir à l’utilisateur », explique la chercheuse franco­ américaine de 24 ans Mia Chiquier.

Avec deux autres spécialistes en IA de l’université de Columbia (Etats­ Unis), Chengzhi Mao et Carl Von­ drick, la scientifique annonce avoir trouvé une parade : un camouflage de la voix, quasi inaudible et en temps réel, qui empêche, dans « 80 % des cas », l’efficacité d’un espionnage, « même si rien n’est connu de la posi­tion de l’éventuel micro dans l’es­pace», explique­t­elle. Les résultats de ces travaux intitulés « Real­Time Neural Voice Camouflage » ont été publiés sur ArXiv, le 16 février, et pré­sentés à la prestigieuse International Conference on Learning Representa­ tions (ICLR), le 25 avril.

Depuis 2018, plusieurs travaux se sont déjà intéressés au camouflage de la voix. «Il s’agit, à chaque fois, d’un algorithme qui va essayer d’en tromper un autre en rajoutant un bruit intelligent, que la profession ap­pelle adversarial attack », explique Mia Chiquier. Mais, jusqu’à présent, « les algorithmes qui attaquent ceux dit “d’ASR” [automative speach reco­ gnition, qui traduisent la voix en texte] avaient besoin d’écouter toute la phrase d’un interlocuteur pour l’analyser et ensuite la brouiller ». Logiquement, ces logiciels ne pou­ vaient pas être efficaces dans le cas d’un usage en temps réel, puisque leur réponse, le bruit intelligent, arri­vait trop tard.

Pour un camouflage en direct, il fal­lait que les chercheurs imaginent une conversation avant qu’elle ait eu lieu… Ils ont relevé ce défi en déve­loppant une approche inédite : la création d’« attaques prédictives ».

Prédire les possibles sons

Leur logiciel de machine learning (aussi baptisé NVC), qui utilise des réseaux de neurones profonds, n’a besoin que de deux secondes de la voix humaine pour « comprendre » celle­ci puis prédire les possibles sons qui vont suivre. De façon quasi ins­ tantanée, NVC prévoit alors une atta­que qui brouillera ces possibles sons et perturbera les modèles de recon­naissance automatique de la parole qui sont entraînés à transcrire nos pa­roles. Et à, peut­être, les espionner.

Afin de rendre le camouflage le plus efficace possible, NVC a été entraîné avec le logiciel en accès libre Deep Speech, qui traduit la voix en texte. «NVC est le plus performant sur les sons les plus rares », note l’autrice principale de l’étude. « C’est plutôt une bonne nouvelle, car ce sont ceux qui apportent le plus d’informations dans une conversation. » Point de bruit de fontaine, cependant, pour ce brouillage. « Notre attaque est optimi­sée pour avoir un volume similaire à un bruit de fond normal, de l’ordre de celui d’une machine à air conditionné », explique Mia Chiquier. Des perfor­mances qui permettent aux person­nes présentes dans une pièce de con­verser naturellement sans saisir que la phrase «we can go to the restaurant » sera par exemple « comprise » comme «with hany ytris are to ther restremant»par le logiciel indiscret.