OpenAI a présenté son dernier projet Voice Engine, un outil de clonage vocal, en mettant l'accent sur les considérations éthiques et les mesures de sécurité pour éviter les abus potentiels de la technologie.
Voice Engine, un modèle développé par OpenAI, promet de générer une parole naturelle qui ressemble étroitement à celle du locuteur d'origine en utilisant simplement un texte en entrée et un seul échantillon audio de 15 secondes.
Pour atténuer les risques, OpenAI a mis en place des politiques d'utilisation pour les partenaires testant Voice Engine. Ces politiques interdisent l'usurpation d'identité d'autres personnes ou organisations sans consentement ni droit légal, exigent le consentement explicite et éclairé de l'orateur d'origine et exigent une divulgation claire au public que les voix sont générées par l'IA.
De plus, des mesures de sécurité ont été mises en place pour retracer l'origine des audios générés par Voice Engine et surveiller de manière proactive la façon dont il est utilisé.
Pour l'avenir, OpenAI souligne l'importance de la résilience sociétale face aux défis posés par des modèles génératifs de plus en plus convaincants.