EDICIóN GENERAL
330 meneos
3910 clics
Con los deepfakes tendremos un problema con la verdad: ni los vídeos servirán como pruebas

Con los deepfakes tendremos un problema con la verdad: ni los vídeos servirán como pruebas

La proliferación de los deepfakes, videomontajes hiperrealistas, no ha hecho más que empezar, y con su auge vamos a tener un problema con cómo manejamos la percepción de las personas que aparecen en ellos, y si somos capaces de hacerles frente.Unos vídeos que no han hecho más que abrir la lata de lo que será la continuación de las noticias falsas: los deepfakes usados para difundir falsos mensajes pronunciados por personas que nunca los pronunciaron.

| etiquetas: deepfakes , vídeos , pruebas
Gran hermano esta aquí... En la palma de nuestra mano
#1 que cojones tiene que ver el gran hermano con las deep fakes?????
#13 sino recuerdo mal, había un servicio que reescribia las noticias según necesidad y conveniencia... Toda información terminaba por ser un fake.
#24 Como ahora, todo el mundo lee los fakes que quiere leer, solo tienes que usar el mando a distancia de la tele.
#24 el ministerio de la verdad
#32 pues los que están inflando a negativos el comentario en #1 no se han enterado
#37 la ignorancia es osada
#37 hay dos novelas distópicas que han mostrado el camino a los gobiernos para controlar a la opinión pública. 1984 de Orwell y Un Mundo Feliz de Huxley. La primera hace de la verdad una mentira, modificando la historia, noticias y hasta panfletos de manera retroactiva y haciendo desaparecer a los sabedores de la realidad mediante una policía del pensamiento. La segunda simplemente bombardeaba de información a los sujetos, imagen de los actuales millenials noventeros en adelante, que tienen prohibido formar familia en la novela o procrear, es el gobierno quien se encarga de ello y crea castas sociales modificando los embriones en el laboratorio. Ambas se están dando a día de hoy.
#57 cuando leí 1984 me parecía absurdo que la gente dejara que les pusieran cámaras en cada espacio de su vida privada... Y mira tu por donde...... Hasta pagamos alegremente por llevar el ojo del gran hermano encima
#59 dentro de pocos años se eliminará el dinero en efectivo y el control de los gobiernos sobre las personas será total, entonces podrán prohibir que se compren cosas legítimas como tal medicamento o tal cosa cualquiera sin ningún problema ni pudor, cuando les venga en gana para potenciar cualquier lobby, y la gente aplaude con las orejas pensando que así desaparecerá el fraude y la corrupción.
#61 A quien pueda interesar, en este canal hay unos cuantos videos que muestran lo que YA es posible hacer HOY gracias al la inteligencia artificial {0x1f447}

m.youtube.com/channel/UCbfYPyITQ-7l4upoX8nvctg


No es edición, es directamente sintesis.
El problema será para la investigación policial o periodistica, los videos que sean verdaderos serán tildados de falsos y ya, de ahí en adelante, los corruptos/delincuentes harán lo que quieran sin esconderse lo más mínimo.
#2 Pues vamos a estar en la sutuación anterior a los móviles. Ningún video, salvo que sea de origen controlado, será admitido.
#2 Eso tiene muy fácil solución.
Los vídeos documentalistas, periodísticos e históricos deben tener copia inicial avalada analógica.

Cada día más fan de lo analógico: la realidad es analógica.
#6 Viva el neo ludismo.
El casette al poder!
#12 No es neoludismo, es sensatez.
Si estás preocupado por la nula fiabilidad de lo digital como documento transmisor de "lo real", lo mejor es usar un sistema analógico; no es infalible, pero es extraordinariamente complejo, en casos incluso imposible, de manipular. De hecho, usar médios de reproducción/grabación analógicos y baratos necesitaría un gran avance ciéntifico-técnico... así que de neoludismo nada.

El hecho de que la realidad sea analógica (la percepción humana es analógica) lleva a pensar que la documentación efectiva de la realidad preferiblemente debería ser analógica, no?
#31 Es a lo que iba en #16, en aras de lo digital se abandonó la investigación en sistemas analógicos. Deberíamos tener sistemas analógicos más baratos ya que facilitan la documentación. Además, no digo que se tenga que mover todo a lo analógico, sólo que se use lo analógico como referente de lo real: unas declaraciones de Putin o Trump analógicas serían válidas y no habría problemas con deepfakes; los periodistas tendrían que tener equipos analógicos y la gente podría hacer sus vídeos de gatitos digitales.
Un sistema documental serio y profesional podría tener cargas de prueba analógicas. Yo podría tener mi disco duro de 5 teras con mis chorradas digitales.
#16 No tengo muy claro que la percepción humana sea analógica: las neuronas entran en estado de despolarización, hiperpolarización, etc. de manera similar a los estados de corte, saturación, etc. de un transistor.
#62 No soy biólogo, quizá alguien lo pueda explicar, y diga alguna barbaridad, disculpas de antemano. Pero tenía entendido que, por ejemplo en la vista, diferentes bastones y los conos son fotoreceptores y se sobreimpresionan de forma similar a la película fotográfica y transmiten eso al cerebro. El oído, a su vez es bastante análogo a un altavoz, con una membrana que vibra y transforma las ondas sonoras. La información se transmite eléctricamente y "aparentemente" parece algo similar…   » ver todo el comentario
#64 soy de tu opinion. Te invito a una cerveza.
#12 si se puede hacer analogico, es mas seguro que digital. No es neoludismo, es ver ventajas a tecnicas antiguas, tampoco hay que estar en contra de lo antiguo en los casos en los que tenga ventajas
#6 ¿acaso no se puede grabar en un vhs un video digital?
#17 Para grabar en un vhs un vídeo digital primero tenemos que tener una entrada de imagen que transforme una señal lumínica y la codifique digitalmente. Lo digital es "codificación", lo analógico es "representación". En tanto que representación será muchísimo más difícil de manipular. Si grabamos la entrada lumínica en un soporte que "represente" la entrada de luz, no que la codifique, manipularla será mucho más complejo y evitaríamos el tinglado de los…   » ver todo el comentario
#22 Tendríamos que volver a tener que llevar encima rollos de cinta o de película para poder grabar o hacer fotos, la lentitud inherente al proceso de revelado (hay pruebas que podrían llegar una semana tarde o más, no puedes subir el material a Internet sin más)...

Desde luego habría muchos menos vídeos y fotos falsos, pero también habría muchos menos vídeos y fotos, en general. La facilidad con la que se han podido documentar mil cosas en guerras, accidentes y todo tipo de sucesos a pie de calle, es debido en gran parte a la facilidad con la que se puede grabar y difundir a día de hoy. Volver a lo analógico sería un paso atrás en ese sentido.
#22 La cámara puede estar grabando una pantalla.
#22 Vamos que estás hablando de grabar en cine todo.
Para tu información hace mil años que existen máquinas para pasar por ejemplo una imagen de TV a cine, como por ejemplo el kinescopio, o viceversa de cine a TV o formatos digitales como el telecine.

Además hoy en día lo del kinescopio sería más facil de hacer y se obtendría mucha más calidad ya que tenemos la tecnología suficiente como para hacer un monitor de vídeo tan pequeño como nos de la gana y con resoluciones muy altas, por ejemplo uno del mismo tamaño del film donde se va a grabar, por ejemplo uno de 16mm o 35mm

en.wikipedia.org/wiki/Telecine
en.wikipedia.org/wiki/Kinescope
#22 Puedes reproducir en un TV cualquier video digital y grabarlo con una cámara en VHS, esto se hacía con el cine para pasarlo a formato TV, el famoso telecine. No creo que el formato analógico sea efectivo para representar la realidad cuando tambien se puede falsear telecinandolo.
#6 Lo analógico también se puede manipular.
#28 Estoy 100% seguro de que no hay nadie ahora mismo que esté leyendo meneame que sepa manipular una declaración analógica de Putin para hacerla indistinguible de la real. Nadie.

Es más, dudo que haya alguien ahora leyendo menéame que sepa cambiar el color de los ojos de una foto sobre película.

Probablemente haya varios que sepan hacerlo digitalmente.
#43 Ya conocía de hace años los ejemplos de fotos históricas manipuladas.
Fotos que se detectaron fácilmente y que sólo podía manipular personal muy especializado. Era muy difícil lanzar campañas de "fake news" basadas en fotos y vídeos manipulados.
Podían, sin problemas, editar discursos de Stalin, Hitler o Churchill... lo que no podían era hacerlo de forma masiva y sin que el resto se enterase.
Además, cualquiera que tuviera acceso a una copia analógica podía descubrir la manipulación.
#36 Tan fácil como digitalizarlo, manipularlo, proyectarlo y grabarlo con una cámara analógica.
#50 Y seguro que es fácilmente detectable la manipulación.
#50 Estás describiendo el agujero digital, análogo al agujero analógico de los sistemas DRM.
#36 Te lo hago en un pis pas.
-Grabo lo que sea en digital.
-Lo manipulo en digital.
-Lo reproduzco en una pantalla en una habitación bien oscura.
-Encuadro la pantalla con mi camara VHS.
-Grabo.
#72 Si ya grabas en digital fallas de base. La idea es que el soporte documental sea analógico como garante de veracidad. Si grabas digitalmente ya falla.
Además, seguro que es fácil detectar por la luz la trampa. No pasaría una prueba de verificación y no valdría como documento.
#76 Si lo haces bien si. Solo tienes que poner la cámara analógica en la fecha donde quieres que sucedan los hechos. Ya que lo tienes tan claro, cuéntame como son esas pruebas y en que se basan.
#6 Claro, es imposible pasar de un formato digital a uno analógico...que locura. Las copias de analógico de Star wars no tenían efectos digitales :palm:
#47 Mande? lo cualo?
#6 los videos digitales tienen marcas donde poder ver si han sido manipulados o no como las fotografias. Asi que si los analizan se podria comprobar si han sido modificados o no.
#54 Esas "marcas" se llaman metadatos y tambien se pueden manipular.
#6 y si te digo q haces un screening al contenido fake con equipo analogico, tampoco podrias averiguar la veracidad del contenido
#2 La investigación policial tiene sus medios para detectar que un vídeo está trucado. Seguramente se inventen nuevas formas para enmascarar que fueron trucados, pero los cuerpos especializados tendrán a gente para eso. El problema para mí será para la gente, porque se tragará con muchísima más facilidad cosas que nunca ocurrieron. La solución, claro, pasa por periodismo de calidad y medios fiables, y no veo a día de hoy un escenario muy prometedor en ese aspecto.
#2: Yo en eso he pensado y es preocupante, la solución que se me ocurre es subir a Bitcoin un "hash" del archivo de vídeo de forma que puedas garantizar una antigüedad mínima.

Lo que ya no se es cómo garantizar una antigüedad máxima. :-(
#66 De hecho hay algun proyecto al respecto (por ejemplo silentnotary.com). Creo que va a acabar siendo la solución. Seguro que aparecen APPS "periodísticas" que suban directamente el hash de un video al acabar de grabarlo.
#2 Hace ya muchos años que se pueden retocar fotografías, y eso no quiere decir que una fotografía no se acepte en un juicio.

Al final, en un juicio no se trata de demostrar las cosas al 100%, sino de ver cuál de las dos partes acumula más evidencias, y hasta qué punto existen dudas razonables sobre las acusaciones. Si yo presento un vídeo como prueba de que Fulano me ha robado la radio del coche, pues sí, puede que sea un deepfake y esté trucado. Pero aquí habría que valorar hasta qué punto…   » ver todo el comentario
#2 Todo es mentira, salvo alguna cosa.
Wag the dog, un film donde se explica de puta madre como se hacen las fakenews y para que se usan
En español: Cortina de humo
#3 Peliculon donde los haya
En españistán llevamos tiempo sufriéndolo a raíz de la presunción de veracidad: cientos de vídeos muestran los desmanes de la policía contra gente pacífica por motivos meramente ideológicos y son los agredidos quienes acaban siendo denunciados, y en ocasiones condenados, sin ninguna prueba más que un testimonio interesado y de parte.
#4 que coño tiene que ver tu comentario con la noticia????
Aún se nota un poquillo que es falso, pero hay que darle tiempo a que solucionen los pequeños fallos :-S
Sigue siendo lo mismo que siempre. ¿La fuente es confiable? Pues ya está.
#8 ninguna fuente que tenga informacion relevante es confiable. Mientras haya una razon para que te mientan (y siempre la.hay) y exista la posibilidad tecnica, ya no es fiable.
no esta la cosa tan evolucionada como para que un profesional no pueda desmontar un trucaje si hay medios y se investigan las circunstancias de grabacion...

Otra cosa es que se dediquen los medios...
De toda la vida de lo que te cuenten no creas nada y de lo que veas la mitad.
#10 ¿Y te creíste al que te lo dijo?
#10 Y de esa mitad, ponla en cuarentena.
Noticias blockchain
Y si los originales o los reales hacen los videos en exteriores? Lo mismo el tipo de luz o fondo animado es mas difícil para los que hacen videos imitadores...
A este ritmo vamos a tener que plantearnos la democracia. El nivel actual y en crecimiento de manipulación la está deslegitimando como mejor sistema de gobierno. Miedo me da
#19 Igual es que no es democracia y nos han estado manipulando hasta ahora, que gracias a la técnica todos podemos manipular.
Sensacionalismo de xataka.
#20 lo mejor ha sido meter ahi como un bocadillo la nueva palabra de moda “Tensor Flow“
Gracias a librerias como Tensor Flow , y los conocidos Data science se podria hacer algorithmos de deep Learning que con ayuda del cloud computing puedan generar deepnews
Las grabaciones de cámaras de seguridad serán una fiesta. Totalmente manipulables sin necesidad siquiera de hacerlo con mucho detalle.
Recuerdo hace años estos vídeos:

www.youtube.com/watch?v=81vQje8bWmo

Será lago similar pero con declaraciones y otros montajes.
Ya lo planteaba la peli del chuache de Perseguido y es de los ochenta.
Al final se tendrá que legislar bien el tema o se irá de madre.
Pues creo que hasta nos va a venir bien. Así la gente empezará a no creerse cualquier mierda solo por que lo ha visto en Youtube. Ya solo con eso no será diciente.
La profesión del futuro: detectar videos falsos.
El concepto de identidad se difumina cada vez más. Espérate a que se puedan subir los cerebros a la nube :shit:
Es realmente preocupante el panorama. Pensad que las noticias falsas ya se están abriendo camino y haciendo mucho daño a nuestras sociedades sin necesidad de usar vídeos o fotos manipuladas. Sin ir más lejos, el auge de la extrema derecha se debe en gran parte a este fenómeno. Basta con una historia falsa pero que suene creíble, o mejor dicho, con muchas historias de este tipo. En cuanto a las imágenes, a día de hoy basta con coger una imagen de un contexto totalmente diferente y ponerla en el…   » ver todo el comentario
Será cosa de empezar a incluir en todos los dispositivos de grabación digitales un sistema similar a la firma digital, que asegure que el vídeo ha sido grabado con ese dispositivo y no sea producto de una IA.
Hala...pues ya les valdrá a los del PP para negar las barbaridades que suelten.
Documental interesante sobre cómo los poderosos manipulan la percepción de la realidad, al punto de llevar a la gente a la guerra en perjuicio de sí misma. www.youtube.com/watch?v=3FvyvKLFBUI Psywar
Podrían haber sustituido a Rajoy con deepfakes y nadie habria notado la diferencia. Como había épocas en las que sólo aparecía en pantallas...
Esto ya en el video de Michael Jackson de Black or White en el 91 ya se puede ver un cambio de caras como las que salen en el video del artículo, desde el minuto 5:27: www.youtube.com/watch?v=F2AitTPI5U0&list=PLYagrqIg-kgTNL4-c4N6-zeU

Ver más info del video: es.wikipedia.org/wiki/Black_or_White
Por lo visto es un tema que preocupa...
llego a esa conclusion al apreciar que todaviaa nadie ha hecho un comentario, o un chiste, o mencion alguna a los deep porn videos
La tecnología ha invalidado una utilidad judicial de la tecnología. ¿Tiempo antes de poder grabar en vídeo no había justicia?
Rayos! estamos jodidos! impresionante de verdad el video
qué graciosos los medios mentirosos que se quejan de las fakenews.
cuando uno de estos medios dice que algo es una fake new pienso lo contrario.
El problema lo tenemos desde hace muchos años y no hace falta ningún deep fake. La gente es incapaz de distinguir los bulos porque no quiere tomarse la molestia de cotejar la información y buscar fuentes. El hecho que de que el vídeo sea buenísimo no impide que puedas descubrir que es un bulo si no aparece ninguna información relacionada que no parta del susodicho vídeo.
Pero claro eso exige tomarse 10 minutos para investigar y pierdes la oportunidad de escribir en twitter, antes que nadie, tu importantísima e influyente opinión.
Engañar a las masas siempre ha sido fácil, antes porque no había apenas medios para contrastar las noticias, y ahora por el avance tecnológico que nos vuelve más gilipollas cada día, y damos más certeza a un whatsapp que a leer un libro de historia (por ejemplo)

Total, que es lo de siempre pero con mejor tecnología.
Bof, menudo sensacionalismo.

Estamos viendo lo mismo de siempre, la gente cree lo que quiere creer y escucha lo que quiere escuchar. Que ahora se le puede dar una pátina mejor de verosimilitud? Pues si, pero si querías creer en ello no te hacía ninguna falta. Los deep fakes estos se utilizarán sobretodo para reafirmarse y soltar muchos "te lo dije" y darse mucha razón.

menéame