Esta voz no existe: Inteligencia artificial de voz generativa [ENG]

Últimamente parece que todo el mundo habla de la IA generativa. Los grandes modelos de lenguaje y texto-imagen basados en aprendizaje profundo como ChatGPT, Stable Diffusion, DALL-E han causado mucho revuelo en el mundo de la tecnología y más allá. Sin embargo, a pesar de todo este entusiasmo, creemos que hay un área dentro de los medios generativos que sigue estando muy infravalorada: la IA de voz. Y ahora, también estamos desplegando nuestro propio modelo generativo que te permite diseñar voces sintéticas completamente nuevas desde cero.

[#8 Desactivado]

Pues esto va a afectar de lleno a los dobladores de películas, videojuegos, series, etc. Igual en principio no mucho, pero ya se va viendo por dónde van los tiros.

[#9 Desactivado]

#8 «
In the future we plan to combine the capabilities of our voice generating and voice cloning models to allow users to enhance their own voices. You’ll be able to clone your voice and then manipulate it to any desired effect. If you fear your natural speaking style is a bit monotone, you’ll be able to add variety to it. If you really dislike being recorded, you’ll be able to manipulate the output to sound more natural. Any person who needs to produce audio featuring their own voice for any purpose, be it a pre-recorded presentation or an audio message, will be able to do so using our suite of tools, at a click of a button.
»

Esto si da miedo. Se puede entrenar para que imite tu voz. En algunos servicios de empresa usan la grabacion de tu voz como prueba/contrato y a saber en juicios y demás.

[#14 MataGigantes]

#9 En el caso de prueba de contrato lo normal es que dejen de hacerse así y cambien a otros procedimientos más seguros, hay muchas alternativas.
En el caso de los juicios, habrá peritos expertos en discernir si las pruebas entregadas son generadas por una IA o reales, aunque a simple oída pueda parecer iguales, siempre habrá sutiles diferencias.

[#38 Desactivado]

#14 Sí, eso había oido de otras cosas como los deepfakes de video. Otras IA entrenadas para encontrar la diferencia entre lo real y lo fake

[#56 sorrillo]

#14 siempre habrá sutiles diferencias

Seamos prudentes, por ahora hay sutiles diferencias que permiten determinar si ha sido o no generada por IA.

El "siempre" ya se verá.

[#61 MataGigantes]

#56 Sí, desde luego por siempre jamás no creo (ojala).
Aunque al mismo tiempo que van mejorando las IAs supongo que también lo irán haciendo los sistemas de detección.

[#16 Jakeukalane]

#9 da mucho miedo porque piensa en lo que harán los voxetarras con esto para difundir bulos más verosímiles...

[#69 Khadgar]

#16 Me da a mi que los bulos no funcionan porque sean creíbles sino por la gente que quiere creer.

[#52 pelotarimanco]

#9 O que hable con la voz de gente ya fallecida, para el que eche de menos a sus seres queridos.

[#82 Desactivado]

#52 "Inteligencia Artificial" era aquella pelicula que fabrican a un robot identico a un hijo pequeño fallecido?

[#11 Desactivado]

#8 también modifica la cara de los que hablan para sincronizar con la voz, https://www.respeecher.com/blog/synthetic-film-dubbing-ai-deepfake-technology-explained

[#20 Xenófanes]

#11 Pues eso está muy bien para las películas dobladas.

[#24 ostiayajoder]

#20 Estara en el futuro....

Por dios... has puesto el video en pantalla completa? HORRIBLE

Mejorara en le futuro, no lo dudo, pero esa herramienta, por el momento, solo es un juguete.

[#34 Desactivado]

#24 solo es cosa de tiempo y dinero

[#81 unomasdelmonton]

#24 yo lo he visto en pantalla completa y no me parece horrible ni un juguete....

[#84 ostiayajoder]

#81 Las bocas dan grima

[#35 Shinu]

#11 Pues queda bastante mal, pero a medida que avance la técnica irá mejorando.

[#67 Desactivado]

#35 peor es cuando es doblada y ver que dice otra cosa por la boca como ahora

[#68 Shinu]

#67 No creo que sea peor, se nota que dice otra cosa pero por lo menos es un movimiento natural y no molesta, a diferencia de lo que se ve en el vídeo.

[#73 Desactivado]

#68 estoy acostumbrado a ver las películas y TV en inglés , a mí se me hace muy cuesta arriba ver alguien doblado en una película cualquiera y ver que está diciendo otra cosa, ya ni hablo de la eliminación de acentos y modismos de los personajes, por ejemplo juego de tronos tiene acentos muy característicos del RU e Irlanda y se pierden todos

[#74 Shinu]

#73 Yo hablo de los movimientos de los labios; se notan raros, como artificiales. Supongo que con el tiempo mejorará pero en esa demo ese apartado no queda muy bien.

[#22 ostiayajoder]

#8 La IA va a traer MUCHO paro.

Creo que es un error que no se este empezando a legislar ya al respecto...

[#28 Caravaggio]

#22 Casi siempre se legisla reactivamente. Pero si, si esto funciona como dicen por mucho que los dubbers puedan licenciar su voz... me da que se va a reducir mucho su volumen de trabajo.

[#63 Desactivado]

#22 Evoluciona o muere, that's life.

[#75 ostiayajoder]

#63 No se si te das cuenta de que la IA va a poder hacer TODO lo que puede hacer un humano menos eso: prostitucion, psicologia y medicina....

A ver a donde evolucionas....

No va a haber trabajo pq las maquinas gobernadas por IAs lo van a hacer mejor, mas rapido y sin parar... Es que ademas TODAS: una IA generica puede aprender TODO....

Lo unico que nos queda es pensar que, en ese momento, trabajaran por nosotros... pero para eso hay que hacer leyes...

[#86 Desactivado]

#75 Dices que la IA no va a poder hacer prostitución? jajajaja, si seguro que es de lo primero que aparece en serio.

Y sobre medicina ya hace rato que está metida.

Tienes que evolucionar para adaptarte, si ahora las IAs hablan, haz algo con ello, no te estanques dando servicios de habla y ya. Úsalas para crear proyectos mayores. Y si en algún momento del futuro no hay absolutamente nada que un humano pueda hacer, múdate de planeta si no te gusta este. Pero para ese punto aun queda trecho.

[#87 ostiayajoder]

#86 Para ese punto no queda mucho trecho. Asumelo.

[#88 Desactivado]

#87 Me cito "...no haya absolutamente nada que un humano pueda hacer...", para eso, ese 100%, queda mucho.

Para un 80%, seguramente en 4 días.

[#89 ostiayajoder]

#88 Para el 100% quedan 2-4 decadas, me temo.... La siguiente generacion se la come....

Y no va a ser paulatino: va a ser un punto disruptivo. Lo suyo seria ir preparando las leyes para ello.... pero no, vamos en el sentido contrario.

[#90 Desactivado]

#89 ¿Pero quieres decir leyes para evitar que la IA no avance y que proteja a los actores de doblaje porque hay una máquina que lo hará mejor (por poner un ejemplo)? Me parecería un error y un atraso, aparte de utópico.

[#91 ostiayajoder]

#90 Nonononono

Me refiero a hacer leyes para que los beneficios de las IAs vayan revirtiendo en la sociedad para generar RBU y cosas asi.

Evidentemente no pararlas. Hablo de adaptar el sistema a que poco a poco va a sobrar el 80% de la fuerza laboral.

[#45 Sammy_Jankis]

#8 Espero con entusiasmo a Constantino Romero dándome las gracias por repostar.

[#64 Xenófanes]

#45 Si es con esa vez que me diga sayonara baby por favor.

[#26 Caravaggio]

#4 Pues va a ser que no... me dijo esto:
Lo siento, soy solo un modelo de lenguaje y no tengo la capacidad de inventar excusas para justificar tus acciones. Lo mejor sería que hables sinceramente con tu esposa y le expliques la situación en la que te encuentras. La comunicación abierta y honesta suele ser la mejor manera de resolver los problemas en una relación.

[#43 tpm1]

#26 ¿Pero lo insististe? Porque a veces si que lo hace.

[#53 Caravaggio]

#43 Anda! pues si, a regañadientes, pero me dio alguna excusilla aunque no muy currada, se nota que le estan poniendo cortapisas "eticas" al bicho.

[#60 luiggi]

#26 tiene toda la razón ...

[#62 thingoldedoriath]

#26 Esa parrafada tiene la firma de Alexa... hace una semana visité a mi hermano que tiene una bola parlante de esas en el pasillo de su casa... y no se si por curiosidad o por costumbre, le dije: "Alexa, feliz 2023"... y me soltó una parrafada de cuatro líneas que no estaba exenta de consejos positivos de auto ayuda

[#2 kastanedowski]

Para el que no hay jugado todavia con ChatGPT, se llevará una gran sorpresa.

Preguntad a la AI por una lista del super, ejercicios para gimnacio, cuentos, leyendas, gramatica... en varios idiomas, impresionante!

[#3 eduardor2k]

#2 ChatGPT: dime una excusa creible para dar a mi mujer

[#4 luiggi]

#3 dale el contexto y creo que si te la dará. Sin cabos sueltos.

[#18 Herumel]

#4 Si eso ocurre creo que es lo más cerca que estaremos nunca de que implosione el universo.

[#21 ostiayajoder]

#4 No. La verdad es que no.

#2 Preguntad a la AI por una lista del super, ejercicios para gimnacio, cuentos, leyendas, gramatica... en varios idiomas, impresionante!

El problema de ChatGTP es que nunca sabes si lo que te dice esta bien o no. Y no hablo de gramaticalmente sino de fondo.

El ejemplo claro son las matematicas; te puede decir que 234 + 345 = 678 porque el lo vale... Ademas, te lo dice con una seguridad que cualquiera duda...

[#12 Jakeukalane]

#2 ayer escribí un correo en alemán para una biblioteca y el resultado parecía coherente.
Lo malo es que el correo al que lo envié detectaba todos los envíos como spam, pero vamos, tiene multitud de usos...

[#31 rafaLin]

#2 Yo lo he usado para un par de informes, mola, es como tener un secretario. Para escribir un libro tiene que ser una pasada, como tener tu propio escritor negro, le vas dando ideas, vas corrigiendo...

[#54 ahoraquelodices]

#2 Dile:

"La madre de Pedro tiene 4 hijos: Juan, Mario y Raúl son 3 de ellos. Cómo se llama el cuarto?"

[#55 iveldie]

#54 le he preguntado y se ha roto, pone esto

You requested a model that is not compatible with this engine. Please contact us through our help center at help.openai.com for further questions.

[#57 ahoraquelodices]

#55 A mi me respondió que era imposible saber el nombre del otro hijo.

[#30 juanac]

#25 Problema? Lo dices como si fuese una mala noticia. Tener tan cerca la posibilidad de reducir drásticamente la cantidad de tiempo trabajado (empleo) me parece la mayor oportunidad que tenemos por delante.

Creo que lo que te preocupa no es tanto el empleo (imagino que no te gusta madrugar) sino la renta, que son problemas relacionados pero independientes.

Para mí una propuesta que tiene sentido es la de reducir progresivamente a 6 y 4 horas las jornadas laborales, para ir repartiendo el empleo, y a la par ir introduciendo una renta básica universal (a modo de dividendo de todo ese progreso que nos ha permitido trabajar menos)

[#41 llorencs]

#30 El modelo capitalista no lo permimte. Y lo de las 4 horas, joder ya lo se defendía en el siglo XIX. El filosofo y matemático que siempre que necesito referenciarlo me olvido de su nombre, muy mencionado aquí en Menéame, que era un lord inglés, ya defendía la jornada de 4 horas en su ensayo "derecho al ocio" (siempre confundo el nombre con el "derecho a la pereza" del comunista francés -otro que me olvido de su nombre, me sale "Lamarck", pero no lo es, pero creo que en sonoridad se le parecía).

Por lo tanto, ya es hora de ir bajando las jornadas laborales a 30 horas semanales. Y con el avance de la inteligencia artificial lo lógico sería cambiar el modelo económico. E ir a un postcapitalismo.

[#70 daphoene]

#41 Te había leído "e ir a un post-apocalíptico"

No sé en qué estaría pensando...

[#78 ostiayajoder]

#30 No me malinterpretes: NO soy ludita y entiendo que el progreso tecnico puede ser muy bueno para a humanidad...

Pero hay que acompañarlo de leyes; como bien dices una RBU, reducir jornadas laborales, incrementar impuestos a las empresas....

Estamos superando el capitalismo, no se que vendra despues pero lo de trabajar para ganar dinero se acabara en una o dos generaciones y hay que ir buscando alternativas ya....

[#85 juanac]

#78 Somos más de que nos pille el toro y luego llorar. No aprendemos. El humano es muy malo planificando más allá de la cena de esta noche.

[#37 llorencs]

#25 Medicos pueden ser reemplazados por una IA.

El problema no es que eso pase. El problema es que eso pase en el sistema capitalista.

El sistema anarcocomunista por ejemplo encajaría perfectamente eso. O cualquier otro sistema de carácter socialista.

No había acabado de leer el comentario, exacto un sistema socialista resolvería ese problema.

[#76 ostiayajoder]

#37 Realmente los medicos tenen un componente humano que no te puede dar una maquina, a eso me referia...

Pero si: el problema es que esto nos pilla no solo en capitalismo sino con un monton de gente pidiendo neoliberalismo... En la direccion contraria a donde debemos avanzar

[#23 ContinuumST]

Lo malo de todo esto, texto generado, sonido, voz, pinturas... lo malo es el uso final que se le dé y no sé si se usará para hacer un bien o un mal terrible. Esa es la cosa. Y la ética no parece estar de moda, bueno, cuando ha convenido se ha puesto en un rincón, es cierto.

[#25 ostiayajoder]

#23 El problema es que va a quitar mucho curro la IA, y cuando se alcance una general ya TODO lo que haga una persona sera hecho mejor por una IA, asi que, en si, los unicos trabajos que van a perdurar van a ser los que impliquen contacto humano:

Prostitucion, dar masajes, taberneros, medicos y poco mas.

El resto no va a poder tener ingresos por trabajar.

Y como dices la etica no esta de moda. Ni el comunismo que haga que los medios de produccion (las IAs) sean del estado.

[#29 citizenx]

#25 Hace tiempo que nos decían para nosotros quedarían los trabajos creativos. Ni eso.

Prostitución, masajes y camareros también para robots/AI. Médicos no lo tengo tan claro, pero tiene pinta de que tarde o temprano también.

Tiene todo una pinta cojonuda.

[#44 tpm1]

#29 Los robots humanos están atrasadisimos aún hoy día.. Hasta subir una escalera lo tienen difícil.

[#50 citizenx]

#44 Si, estan en pañales. Como la generación de voz hace 5 años.

[#71 Acido]

#44

¿Viste el meneo con el robot humanoide Atlas? En el vídeo no solamente sube escalones, sino que pasa andando por un tablón de madera que ha colocado previamente, le lanza una caja de herramientas a una persona que está más arriba, empuja un bloque de madera, salta encima del bloque y acaba con un salto mortal.

No sé si eso es lo que entiendes tú por "tener dificultades"...


Atlas, el robot bípedo de Boston Dynamics, lanza bolsas de herramientas en una (falsa) obra (EN)

Atlas, el robot bípedo de Boston Dynamics, lanza b...

[#79 ostiayajoder]

#29 Lo UNICO que no pueden sustituir las maquinas es el contacto humano....

De ahi lo de prostitucion, masajes y camareros. Aunque bien visto igual tambien pueden imitarlo lo suficientemente bien...

[#80 citizenx]

#79 https://es.wikipedia.org/wiki/Valle_inquietante

[#32 Caravaggio]

#25 Pero eso no es necesariamente un problema, ¿no? incluso si las necesidades de la sociedad cambian siempre podremos inventarnos distintos flujos de dinero que las rentas por trabajo.

Sin duda es una oportunidad de oro para el 1% de joder aun mas, pero creo que han llegado bastante a la saturacion en ese sentido.

Ademas lo que me encaja es que se tenga muy facil y casi gratuito acceso a bienes y servicios producidos por IA pero se pague 10x mas por los servicios artesanales de lo que antes se pagara. Todo servicio tendra su version comoditizada.

[#65 ContinuumST]

#32 He tenido que buscar qué demonios es en inglés eso de "commoditized"... en castellano dice que es... "tratar como una mercancía" o "mercantilizar"... Y entonces es cuando no entiendo lo que quieres decir.

[#66 Caravaggio]

#65 Pues me refiero, a que la versión del servicio dada por IA va a ser la versión barata y vulgar y por contra el servicio dado por personas quedará como el servicio de lujo y exclusivo, que si me permites de nuevo el barbarismo, premium.

[#77 ostiayajoder]

#32 Pero eso no es necesariamente un problema, ¿no? incluso si las necesidades de la sociedad cambian siempre podremos inventarnos distintos flujos de dinero que las rentas por trabajo.

Todo el capitalismo se basa en eso... Es que no hay mas: el libre mercado se basa en eso...

Tu hablas de socializar medios de produccion pq la produccion ya q no se necesitarian humanos pero no vamos por ese camino sino al neoliberalismo....

Y no, ese 1% puede joder mas aun simplemente matando literalmente de hambre al resto. Y no creas que 'no van a llegar a eso': ya se hace en los paises del tercer mundo, por que crees que nuestro 1% es mejor?

Ademas lo que me encaja es que se tenga muy facil y casi gratuito acceso a bienes y servicios producidos por IA pero se pague 10x mas por los servicios artesanales de lo que antes se pagara. Todo servicio tendra su version comoditizada.

Habra gente buenisima que podra vender sus artesanias, pero la gente buenisima en lo suyo es un 5% de la poblacion. El resto que?

Y si el resto no tiene nada a quien vende ese 5% de artesanos?

[#33 ContinuumST]

#25 ¿Un mundo sin humanos? Incluso si fantaseamos que sólo sobreviven los mega ricos... y el resto de humanos sobramos... y todo es creado por "máquinas" con IA... incluso así... me temo que no es viable. Hace falta meter en la ecuación algo más... tengo un par de ideas, pero son demasiado raras de momento.

[#36 llorencs]

#33 Raras? Por qué, qué ideas raras tienes?

[#49 ContinuumST]

#36 El sistema social necesita muchas cosas, si sólo existen ricos y máquinas que fabrican sus comodidades, sus bienes, sus servicios, algo más falta en la ecuación. No pueden quedar 100 personas en el mundo y el resto, todo el resto creado por IAs... es simplemente inviable por docenas de razones, una de ellas la selección natural, por ejemplo. Así que... ¿cómo se puede sostener una sociedad así? Incluso con máquinas pensantes que reparan y crean otras máquinas pensantes.

[#51 llorencs]

#49 Obviamente, el sistema capitalista no tiene sentido en un mundo completamente automatizado. Y el día, que se pudiera imprimir incluso alimentos tipo Star Trek/Orville y similares, menos sentido tiene el capitalismo.

[#58 ContinuumST]

#51 Por eso digo que algo me falta en la ecuación... la diversidad humana, con sus mutaciones (pequeñas), sus combinaciones azarosas y su selección natural. Quizás el salto último de no depender de la naturaleza podría dar lugar a otro mundo, a otro planteamiento, pero el problema que veo es que todo está relacionado en la naturaleza, equilibrios del ecosistema y un sinfín de cosas que por decantación de millones de años no veo que se pudiera crear un universo coherente con 100 ó 200 personas viviendo de unas máquinas como humanos esclavos. ¿Cuánto tardaría un humano de ese centenar en decidir que no le gusta lo que ha "pensado" para su comodidad o su futuro una de esas IAs?
Star Trek nos ofrecía un mundo donde el dinero no hacía falta... pero sí la curiosidad humana de entender el universo que nos rodea. De saber más. O intentarlo, al menos. No sé. Algo falta o falla en la ecuación con estos planteamientos de IAs. No sé.

[#40 Desactivado]

#33 "Sobra" gente... pero parece que nosotros mismos vamos dejando de reproducirnos como conejos de forma gradual.

[#48 ContinuumST]

#40 No sobra nadie. En serio, nadie.

[#83 Desactivado]

#48 Por eso lo he entrecomillado

[#39 Desactivado]

#25 Hay (o habia) una serie en Netflix que se llama "Better Than Us" que parte de la trama era precisamente esa destrucción de tanto trabajo via robots con IA

[#15 Usuarioinutil]

Me come los huevos todo, yo a partir de ahora soy semiludita.

[#10 Vendemotos]

Flipante.

[#59 pakolo]

Saludos profesor Falken. ¿Le apetece una partidita de ajedrez?

[#72 Wheresthebunny]

#59 esa voz era muy natural

[#7 Priorat]

Kraftwerk ha muerto.

[#17 Metabron]

Siempre pasa lo mismo, las demos son impresionantes, pero cuando te toca probarlo suena como un sintetizador mal afinado...

[#1 Caballero_Caballa]

Pues es clavada a la mía... ¿no existo? ¡Pero si pienso!

[#5 Desactivado]

#1 René, deja de jugar con tus amigüitos y ponte a hacer los deberes!

[#6 Caballero_Caballa]

#5 Lo de los huevos por debajo del culo.... ya si eso....

[#13 obmultimedia]

#1 todo muy bonito hasta que escribes que digan "antiinflamatorio"

[#19 Fayer]

#1 Aunque esté "generada" dudo que no haya otras tantas personas con la misma voz

[#46 Caballero_Caballa]

#19 Sería un puntazo encontrar a alguien con tu misma voz.

[#27 turuleto]

Increíble.
Es una obsesión para algunos.

[#42 Paracelso]

A lo que vamos e importante. ¿Qué IA genera audios realistas para poder decirle a alguien por Tinder "Enseñame tu cosita que estoy a mil"?
Es para un amigo.

[#47 Paracelso]

#42 Con voz de chica, claro.