Un usario de Reddit, para tener en cuenta lo mucho que ha avanzado la inteligencia artificial en menos de un año, se ha tomado la tarea de comparar aquellas generadas en su momento con otras recién creadas. Por supuesto, utilizando los mismos prompts que en las originales. La inteligencia artificial ha pasado de ofrecer imágenes distorsionadas y poco creíbles a auténticas obras de arte difíciles de distinguir de personas reales. Todo esto en cuestión de meses.
Comentarios
El debate se va a poner interesante cuando salgan imágenes de pornografía infantil y sea imposible distinguir su origen.
#2 Ya se ha dado el caso de vender versiones de IA que están entrenadas con la base de datos de pedófilos, salió hace no mucho en una noticia.
#2 #3 #5 #11 #8 #19
Hace poco la IA de Porpen tuvo un problema con eso.
Su IA va mediante etiquetas predefinidas, precisamente para evitar que la gente pudiera crear contenido pedófilo, de forma explícita
Pues han estado unos días en donde la etiqueta de edad " 18", al ser combinada con otras etiquetas, daba a niñas como resultado. A mí me salieron varios resultados, que reporté y luego borré.
#22 leñe... No sabía que existía...
No lo había pensado, pero no me sorprende...
#38 #43 #46 Esta ya la puse hace un tiempo.
#2, pues se va a tener que prohibir todo tipo de imágenes de este tipo y punto. Independientemente de si son reales o no.
#5 El otro día escuche sobre el tema en el podcast de Elena Merino y al parecer ya es ilegal entrar en contacto con cualquier tipo de contenido, sea real o no.
#5 ya tenemos sentencias, https://www.cbc.ca/news/canada/montreal/ai-child-abuse-images-1.6823808
#2 A mí ya se me ocurre una consecuencia buena de eso. No tendría sentido jugársela haciéndola con niños reales.
#6 Errrrr las IA se entrenan con imágenes reales
No digo que DALL-E o la IA que sea esté entrenada con ese tipo de contenido, sino que algún enfermo podría hacerlo si se instala un modelo por su cuenta.
#8 sí pero. Digamos que puedes entrenar a una IA para que de una niña vestida, de pie, se mezcle en una escena pornográfica, mutando las caracteristicas. Eso sin negar que no estén ahora mismo entrenando modelos con contenido real.
#19 con stable difusión todo se puede hacer , esta imagen por ejemplo de Therrrealist te hace dudar ,
#6 No creo que en general los pedófilos se conformen con ver fotos (o vídeos).
#24 imagino que si van más allá, ya no son pedófilos, sinó pederastas
#29 *pederastas
#24 Siendo así, tampoco se conformarían ahora. El hecho es que hay gente dedicada a crear este tipo de material usando niños reales y esto sería algo que prácticamente acabaría con ello. El debate estaría en si usar las toneladas de material que ya existen para entrenar una IA o continuar persiguiéndolo como hasta ahora, sabiendo que por el camino más y más niños se van a convertir en víctimas y que aunque se puedan dar golpes, puede que nunca se acabe con ello.
Por un lado la fría lógica me dice que sí, y por otro me genera un rechazo instintivo y pienso que esto no sería un dibujo como en el hentai, sino que estaría creado a partir de abusos reales y en cómo se sentiría una víctima sabiendo que sus imágenes forman parte de esa IA.
#24 pues te sorprenderá saber que muchos tienen esas apetencias y se quedan (afortunadamente) en el dominio de las fantasías.
Igual que hay mujeres que fantasean con ser forzadas y por supuesto que en la realidad, jamás disfrutarían de algo así
#2 Pues espérate a cuando un político sea pillado en una y diga que es una imagen falsa generada por IA.
#2 de los mil usos qué se me pueden ocurrir para esta tecnología me sorprende que haya ido a pensar en algo así
#2 Llevo un año justo con MidJourney, hay palabras clave que el mismo sistema te veta, como subnormal, venoso, etc... a veces te veta palabras sin sentido y el mismo sistema te dice que si lo repites de prohibe la entrada para siempre. Estoy seguro (y jamas lo he probado) que el sistema no te dejará hacer la imagen de un niño desnudo, ni de una persona con discapacidad, etc...
Creada con Pornpen.
#20 Yola????
#43 #46
GeneWilder 
borre@eldelmedio
vejeke
Este esta hecho con Stable Diffusion ( No mediante Porpen, aunque Porpen también funciona sobre SD)
#63 Me resulta fascinante y perturbador a un tiempo. Esa chica no existe.
#67 Es un Frankestein creado con caras y partes del cuerpo de diversas personas.
Como esto https://this-person-does-not-exist.com/es
#69 no usa esa tecnología solamente
#79 La de Esta persona no existe, utiliza otra IA.
#80 si eso creía aunque cada tanto se crea algo que comparte tecnología
#82 Me refería también a que la IA de Pornpen es una versión modificada de Stable Difussión (que si se tiene un PC potente, lo puedes montar en tu propio PC).
#83 si, en unos meses esto sera un cachondeo
#63 me gustan las manos están bastante conseguidas aunque una le falta algo, como siempre los ojos y los dientes siguen siendo algo para mejorar
#63 Me siguen haciendo dudar. Debe ser la base de datos, que no habrá sido bien elegida.
Aquí mismo ahora hay un anuncio de Intimissimi, que ....
#87 Esta es +18
Genewilder
Algunas veces pueden pasar como realistas, pero a nada que te fijas, te das cuenta de que son dibujos. Y tienen cuerpos demasiado " perfectos" ( aunque en este caso, seguramente es también por haber usado la etiqueta milf.).
#88 Además, la de la izquierda y la del centro son la misma cara...pero con diferente peinado. Y luego les ha dibujado como una mezcla fusión de bragas con piel muy extraña.
#90 Bragas transparentes. Habrá que patentarlas.
#20 No sé, me he puesto a pensar que si me da un tortazo me desarma el esqueletamen. Que la pulan un poco más.
Yihad butleriana para ya mismo.
#9 jajaja, grande!
un video generado completamente con IA,
"The Anomaly of Kepler-61b"
Entirely generated with AI.
Script: #ChatGPT4
txt2video: #Gen2
txt2speech:
@elevenlabsio
I'm loving being able to spend a couple of hour building up a story with the help of AI. It feels like a taste of the future and these tools will only get better.
#62, me has visto a mi defender que no se regule o incluso que no se prohíban algunos desarrollos? Precisamente si te preocupa la IA lo peor que se puede hacer es minimizar su potencial.
#14 No, no dijeron eso..
#16 Estoy absolutamente seguro (me juego el cuello, vaya), a que más de un cuñao con palillo en la boca ya decía que la televisión iba a ser una moda pasajera.
#16 Si que se dijo, y además por varias personas.
Un ejemplo: https://www.pcworld.com/article/532605/worst_tech_predictions.html
#16, pero con Internet seguro que se dijo. Aunque estoy contigo que el ser humano es snob por naturaleza y aunque el arte hecho por IA le de mil patadas al hecho por seres humanos, de alguna forma se seguirá cotizando más.
#61 repito, las de pago tienen unas limitaciones que las open source no tienen , miles de ingenieros están jugando con los open source y logrando resultados espectaculares en muy poco tiempo, ahora mismo y gracias a modelos IA liberados puedes correr nativamente en tu ordenador un equivalente al Chat GTP
#68 Muy bien, no digo que no. Lo que digo es lo que me imagino que pasara pronto.
Empezaran a haber IAs de pago, con mas potencia que las abiertas, en parte porque tambien usaran las abiertas y las llevaran mas alla.
#70 puede que las IA de pago cubran sectores muy profesionales que necesita un entrenamiento muy especializado , bioquímica, por ejemplo, medicina, ingenierías, etc., pero no sabemos si una generalista en unos años tenga esa capacidad de todas formas, el futuro es totalmente desconocido.
Así como Google ofrece servicios de mucho valor y que cuestan muchísimo dinero, no sabemos como las empresas decidirán rentabilizar sus inversiones en IA
El problema a corto plazo es el impacto que tendrá en sectores domo diseño gráfico, donde menos profesionales podrán hacer más, y donde muchas herramientas serán suficientemente buenas para que los no profesionales obtengan resultados profesionales.
A medida que la IA se introduzca en más y más sectores acabaremos dejando los ejercicios creativos de lado y la gente se convertirá en consumidores pasivos.
Mientras las élites empezarán a valorar lo tradicional más y se volverá un valor añadido.
Pero el resto de la gente no podrá permitírselo y en unas generaciones perderemos el conocimiento y los métodos en un montón de sectores.
#31 creo que no, los humanos tenemos una capacidad inventiva enorme, estas tecnologías abren la puerta para generar cosas realmente innovadoras
#48 Estoy de acuerdo, pero no me sorprenderia que la IA creara una brecha entre quienes consiguen usar esa creatividad de forma productiva y quienes no.
Ahora mismo todos tienen accesso a la misma creatividad y es una cuestion de tener recursos. Pronto habra una diferencia adicional, que es quien tiene acceso a las herramientas que llevan la creatividad a niveles superiores y el resto.
Ahora mismo IA es accesible, pronto la mas brillante sera privativa y marcara la diferencia entre grupos.
#53 esto contradice lo que está pasando, la más creativa es la gratuita que es Stable Difusion , precisamente porque no está limitada, puedes entrenarla en parámetros que no están limitados por unos ingenieros
#56 Todo es gratis ahora, pero pronto las de pago empezaran a marcar la diferencia.
Y tendras las meta IAs, que se nutriran del contenido generado por otras IAs.
Estamos solo al principio.
Como cuando Yahoo y Altavista, todo cambio mucho mas rapido de lo que parecia posible.
#31
La inteligencia artificial no es más que una herramienta.
La creatividad, la imaginación, el sentimiento, la genialidad, .... es exclusiva de la humanidad.
#50 La el nivel de creatividad de momento es exclusivo de la humanidad, aunque otras especies han mostrado que son creativas tambien.
Lo que la IA hara es que marcara una diferencia entre quienes puedan acceder a ella y usarla, y quienes no.
#47 y en poco tiempo será tan fácil como escribir un prompt y refinarlo unas cuantas veces
#51 eso qué tiene de positivo?
#51 Sigo sin ver el lado positivo. Para mi personalmente una imagen tiene valor artístico cuando es creada por un humano. Es algo frío, no tiene "alma". Si lo crea un algoritmo no me dice nada, más allá del arte de crear dicho algoritmo (que efectivamente es impresionante).
Se me ocurre que puede ser muy efectivo en el desarrollo de videojuegos. Pero volvemos a lo mismo, para mí pierde ese "encanto". No hay personalidad. Se acabó el aspecto artístico.
#72 si te presentarán un conjunto de 50 imágenes que te encantan y no pudieras diferenciar si son d ein humano o una IA pensarías lo mismo?
#74 Pensaría que es tan impresionante como triste.
#75 pues vete acostumbrandote
En poco va a ser lo normal
#77 hay muchas cosas nefastas que se han normalizado y nos hemos acostumbrado (las redes sociales, el calentamiento global, el auge de la extrema derecha, los negacionistas, la cruzcampo) y no por ello dejan de ser nefastas, al revés, las hace peores aún.
El año que viene empezarán a entrenar con guiones y su filmación… y en un par de años ya podran hacer películas directamente desde los guiones.
Y en otro año la gente podrá visionarlas comodamente en su casa… pudiendo elegir el sexo y la raza de sus protagonistas, si eliges que la pareja protagonista de la pelí sea del mismo genero y de la raza tal y cual, pues ala! A disfrutar!
#10 guiones ya hace y también está empezando a crear trailers. Avanza de forma exponencial, de un mes a otro aumenta sus capacidades.
#10 Veremos eso en el cine algún día. Una vez, como curiosidad, y no más.
#13 Eso justo dijeron de la televisión cuando se inventó
#10 Me da pena eso. Es cómo no tener ningún punto de vista más.
#10 se empiezan a ver los primeros videos creados únicamente con tecnología IA,
Y lo que falta...
De esta metiendo mucho dinero en IA
Visitar/r/stablediffussion y vereis lo que se viene
#1, quien no sea capaz de ver que el potencial de esto para la humanidad no es infinitamente superior al del memeverso o las criptoestafas, que se lo haga mirar, la verdad.
#4 Mejor, así les adelantamos por la derecha.
#4 churras... Merinas.
"quien no sea capaz de ver que el potencial de esto para la humanidad no es infinitamente superior al de los contenidos por streaming / el senderismo de fin de semana / las pantallas plegables... qué delo haga mirar"
#17 "Quien no sea capaz de ver que el potencial de esto para la humanidad no es infinitamente superior al de los sacacorchos eléctricos... qué delo haga mirar"
#17, pues anda que no he escuchado yo comparaciones tratando eso como una moda más.
#4 o que te crees que el proximo block chain porquien va a esrar creado?
#4 es que no fallas, estás en todas. Una vez más te lo digo, la IA es un gravísimo error que se suma a la larga lista de errores.
#4 Todo va de la mano, las criptomonedas requieren de esta tecnología para lograr unas verdaderas DAO, hasta ahora somos todos parte del experimento global y simultaneo, prueba y error, tropezón no es caída, que se desplome el Bitcoin no significa el fin del recorrido.
#1 y las hemos entrenado entre todos gratis, ahora que funcionan de lujo las hacen de pago.
#1 incluso bluewillow que es medio chapuza puede crear imágenes bastante resultonas
No puedo evitar pensar que nada bueno puede salir de todo esto (a la generación de imágenes por IA digo). ¿Soy el único que lo ve igual?
Me sorprendo a mi mismo por la actitud tan conservadora que mantengo ante estos avances. Pero... no puedo evitarlo.
#26 es normal, los cambios dan vértigo, pero todo estos avances son positivos para la humanidad
#37 ¿Pero que tiene de positivo esto?
#40 crear imágenes y videos de firna dinámica a partir de un breve texto. Generar contenido con el poder de un pensamiento.
#37 hace un tiempo el acceso a grabación de video y foto era reservado a los especialistas
Hace años la gente se escandalizó porque publicaron una foto de una modelo a la que habían quitado el ombligo con photoshop. Con esta herramienta mucha gente hacía retoques, dando lugar a poner fotos de gente que realmente no existe con figuras imposibles.
Es como los collages que hacen los "fotochopgrafos", pero te vienen con el cuento de que es fotografía.
Lo que hoy día se hace con IA es lo mismo que se hizo hace muchos años con Bruce Lee en el juego de la muerte. Ponían su cara en otro actor, sólo que ahora hay más calidad y con herramientas que se ponen a disposición del público.
Si los periodistas cumplieran con sus códigos y contrastaran la información, este problema tendría menos recorrido.
Hace falta un marco legal para perseguir la distribución de deepfakes que puedan suponer cualquier tipo de agravio.
#76 se crearan tecnologias para verificar grabaciones, blockchain por ejemplo
La consecuencia más complicada de todo esto será el deepfake (que no es algo nuevo de las IA, pero que gracias a ellas será más fácil que nunca generarlos). Ya ni siquiera podremos creer a nuestros propios ojos.
primer año? erronea, otra mierda de articulo a lo xataka
#33 Una pregunta que quisiera que me contestaras.
He visto muchas veces, automáticamente, cada vez que se menciona a Xataca, un mensaje típico como el tuyo.
POR QUÉ?.
¿Cómo que primer año de vida? En fin...
Precisamente hoy me comentaba uno de mis hermanos que había hecho pruebas, pero que no eran buenas, seguro que no es tan sencillo como "genérame la cara de una persona con sombrero", me mostraba algunas pruebas, había detalles que cantaban, en algunos casos alguno en la cara deformado que daba miedo.
#35 A estas alturas si te sale con la cara deformada es porque no sabes apenas del tema, o porque has realizado un experimento demasiado arriesgado mezclando parámetros.
Durante los años del PP la AEAT se utilizó para callar a los de la ceja de ZP.
Sacado de un post del subreddit r/midjourney de Reddit.
Como siempre en hipertextual... Y en Xataka... Y en casi cualquier lado, la verdad