Se acabó en Vocal Deepfakes

martes, 21 de marzo de 2023

Puede que recuerde que en octubre me vinculé a una entrevista simulada generada por IA entre Joe Rogan y Steve Jobs. He escrito:

Tampoco compro su afirmación de que estas voces están completamente generadas. La mayoría de las líneas de Jobs tienen un eco de auditorio: parecen clips de cortar y pegar. Si realmente pueden generar esas voces, ¿por qué su Rogan virtual no dice el nombre de Steve Jobs? Envíame un clip de Steve Jobs virtual que diga “John Gruber es un tonto, y le digo a la gente que no pierda el tiempo leyendo Daring Fireball”. Así que le creeré.

Me olvidé de seguir hasta ahora, pero Ignaz Kowalczuk de once laboratorios (la compañía detrás de Prime Voice AI) aceptó el desafío y me envió este clip:

Este clip se ve notablemente cargado, pero se parece a Steve Jobs.

Ahora viene esto: un feed de Twitter de John Meyer, que entrenó un clon de la voz de Jobs y luego lo conectó a ChatGPT para generar las palabras. Los clips que publicó en Twitter son extrañamente extraños. Realmente se parece a Jobs. El único inconveniente es que suena como Jobs. mientras leo de un guión, por no decir improvisado. Pero lástima si no se parece a él.

Todo es diversión y juegos en estas demostraciones, pero inevitablemente será utilizado por los bastardos para crear falsos escándalos en las campañas políticas. Recuerda el infame “Cuando eres una estrella, te dejan. Agárralos por el coño” Accede a la cinta de Hollywood que The Washington Post publicado en octubre de 2016. Esta pandilla obviamente no le impidió ganar las elecciones, pero lo hizo. le duele un poco por ciento en las encuestas No había duda en ese momento de que la cinta era legítima. ¿Pero si saliera ahora?

Y parece inevitable que algún tipo de Roger Stone o Steve Bannon utilice esta tecnología para ordenar, digamos, una grabación de Joe Biden olvidando su propio nombre o de qué año es, o Kamala Harris pretendiendo dirigir una clínica de abortos en el Ejecutivo de Eisenhower. edificio de oficinas o admitir la existencia de una red de tráfico sexual de pedófilos dirigida por los demócratas. Un peligroso trozo de nuez espigada comprado en tal parcela en 2016 sin deepfakes falsos convincentes.

Los registros reales se llamarán falsos y los registros falsos se divulgarán como supuestamente reales. No creo que la población en general esté preparada para esto, y me temo que los medios de comunicación tampoco lo están.