Depuis le lancement de la première version de ChatGPT en novembre 2022, l’évolution des intelligences artificielles a été fulgurante, marquant un tournant significatif dans divers domaines, y compris celui de la création d’images, de vidéos, et bien sûr, des interactions conversationnelles. Toutefois, cette montée en puissance des IA a également conduit à des dérives inquiétantes, notamment dans le domaine des deepfakes, qui se retrouvent aujourd’hui au cœur de procès aux États-Unis.

L’Affaire Arya Communications et le Deepfake de Joe Biden

Dans une affaire qui semble tout droit sortie de la série Black Mirror, la Federal Communications Commission (FCC) a récemment dévoilé les résultats d’une enquête judiciaire sur une fraude impliquant l’utilisation d’un deepfake audio du président Joe Biden. Ce deepfake a été utilisé par des escrocs pour contacter et manipuler de nombreux citoyens américains, tentant ainsi de perturber le processus démocratique.

L’entreprise Arya Communications, basée en Inde, a joué un rôle central dans cette arnaque en permettant aux fraudeurs d’exploiter ses services de télécommunications pour passer ces appels frauduleux. Selon la FCC, l’entreprise n’a pas réussi à mettre en place des mesures de sécurité suffisantes pour prévenir l’utilisation malveillante de ses infrastructures, facilitant ainsi la propagation de cette escroquerie à grande échelle.

Répercussions Juridiques et Sanctions

En réponse à cette affaire, la FCC a infligé une amende d’un million de dollars à Arya Communications. En outre, l’entreprise doit désormais se conformer à un plan de conformité strict, une première pour la FCC. Ce plan inclut l’obligation pour Arya Communications de se conformer aux règles d’authentification de l’identité de l’appelant STIR/SHAKEN, et d’adopter des principes stricts de « Know Your Customer » (KYC). Ces mesures visent à améliorer la surveillance du trafic et à garantir que les informations fournies par les clients et les fournisseurs soient vérifiées de manière rigoureuse.

Inquiétudes Croissantes et Solutions Envisagées

La FCC a exprimé sa préoccupation face à l’augmentation des escroqueries utilisant des deepfakes, une technologie qui devient de plus en plus accessible et sophistiquée. Ces fraudes représentent une menace grave pour la confiance du public, en particulier dans des domaines sensibles comme les cryptomonnaies.

Certains experts estiment que les cryptomonnaies et la blockchain pourraient offrir une solution contre ces dérives. Dans une tribune publiée en mai dernier, Ogden Moore a suggéré que les blockchains publiques pourraient jouer un rôle crucial pour contrer les abus liés aux deepfakes en offrant un moyen de vérification et de transparence dans les transactions et les communications numériques.

Cette affaire met en lumière les défis complexes que posent les nouvelles technologies comme les deepfakes, mais elle montre également les efforts déployés pour renforcer les réglementations et trouver des solutions innovantes pour protéger les utilisateurs et les systèmes démocratiques contre ces menaces émergentes.