La société « OpenAI », développeur du célèbre programme de chat basé sur l’intelligence artificielle, « ChatGPT », a lancé un nouvel outil appelé « Voice Engine », visant à reproduire des voix à partir d’échantillons sonores courts, selon l’Agence France-Presse. L’utilisation de cet outil se limitera à la prévention de l’enregistrement de fraudes ou de crimes.
Selon le communiqué de la société, « Voice Engine » est capable de reproduire la voix d’une personne à partir d’un échantillon sonore de seulement 15 secondes, et les résultats de petits tests menés pour évaluer les performances de l’outil ont été mentionnés.
Le communiqué souligne que « OpenAI » est pleinement conscient des risques associés à la capacité de générer des voix humaines similaires, notamment avec la propagation de fausses informations pendant les processus électoraux et politiques.
La société a affirmé qu’elle agissait avec une extrême prudence, en collaborant avec des partenaires internationaux, des gouvernements, des médias et des organisations de la société civile, pour garantir une utilisation responsable de l’outil et éviter tout abus des voix générées artificiellement.
Alors que de nombreux pays approchent de leurs dates d’élections, les chercheurs en désinformation médiatique mettent en garde contre les dangers de l’utilisation d’applications basées sur l’intelligence artificielle, en particulier des outils qui clonent facilement des voix et sont difficiles à suivre.
Cette initiative intervient après qu’un conseiller travaillant pour une campagne électorale a inventé un programme automatisé imitant la personnalité d’un candidat à la présidence américaine, suscitant un large débat sur l’impact de ces technologies sur les processus électoraux.
Il convient de noter que les États-Unis ont renforcé les lois pour lutter contre l’utilisation de voix clonées par l’intelligence artificielle dans les processus politiques ou commerciaux, ce qui reflète les défis auxquels sont confrontées les autorités face à l’évolution de la technologie.
« OpenAI » a précisé que les partenaires testant « Voice Engine » sont soumis à des règles strictes, y compris l’obtention d’un consentement explicite avant d’utiliser toute voix, et en clarifiant que les voix générées par l’intelligence artificielle sont identifiées comme telles.
La société a également mis en place des mesures de sécurité avancées, y compris un filigrane, pour assurer le suivi de la source de chaque voix générée par le nouvel outil, avec une surveillance continue de son utilisation.