et 
!
Vous connaissiez les deepfakes, ces vidéos où le visage d’une personne célèbre était recopié pour lui faire dire tout et n’importe quoi par un imitateur ? Et bien la startup ElevenLabs vient de dévoiler la première version d’un programme qui viendra compléter l’attirail : une intelligence artificielle capable de reproduire fidèlement la voix d’une personne.
Basé sur le modèle de Dall-E ou ChatGPT, l’outil est très simple : il suffit d’inscrire un texte qui sera ensuite récité par le modèle pré-enregistré, des voix synthétiques mais réalistes (uniquement en anglais pour le moment). L’idée est par exemple de produire des livres audio facilement.
[...]
Donald Trump, fan d'Eddy Mitchell ?
Une fausse déclaration que l'on a pu générer en quelques secondes, grâce à une nouvelle intelligence artificielle. https://t.co/P1UjP7qvIA
— Raphael Grably (@GrablyR) January 31, 2023
Cet outil, qui repose tout de même sur une base légale fragile, a évidement rapidement été repris sur les forums où les utilisateurs ont multiplié les blagues plus ou moins tendancieuses.
« Alors que nous voyons notre technologie être massivement utilisée de façon positive, nous constatons aussi un nombre croissant de cas d’utilisation abusive du clonage de la voix » a d’ailleurs signalé ElevenLabs sur Twitter.
Selon le site américain Vice, des clips reprenant les voix de célébrités - dont l’actrice britannique Emma Watson proférant des insultes racistes – ont notamment été diffusés.
Lire l’article entier sur bfmtv.com
La fausse voix d’Emma Watson lit Mein Kampf (en anglais)
I could listen to hours of this pic.twitter.com/6f13RW4Evy
— Spectralist (@demispectral) January 31, 2023
