Hace 3 años | Por Chitauri a forbes.com
Publicado hace 3 años por Chitauri a forbes.com

El mes pasado, un grupo político en Bélgica publicó un video deepfake del primer ministro belga dando un discurso que relacionaba el brote de COVID-19 con el daño ambiental y pedía medidas drásticas sobre el cambio climático. Al menos algunos espectadores creyeron que el discurso era real.

Comentarios

D

#2 también tienes la posibilidad de que en efecto sean tan unicornios como parecen

D

#9 >tecnología

No.

sorrillo

#88 El Photoshop sí es tecnología, no sé que es lo que quieres negar.

D

#89 Antes no usaban PS; tenian aerografos, negativos y tijeras.

sorrillo

#90 Todo lo que describes es también tecnología.

D

#91 Pero no tan innacesible como crees.

sorrillo

#92 El impacto de herramientas como el Photoshop en la creación y distribución de fotos falsas es notorio.

No es solo el acceso si no la facilidad de uso.

D

#93 A lo que me refiero es que no solo gobiernos tenian acceso al PS, los amigueros te lo pueden decir perfectamente con herramientas similares. O los de Atari ST.

sorrillo

#95 Es la combinación de factores, son las circunstancias que provocan que llegue a un público mucho más amplio que a su vez pueda hacer una distribución más sencilla de ello.

Rorschach_

#1 Es muy distinto al Photoshop.

sorrillo

#10 Son casos muy similares.

En un caso para imágenes estáticas, en otro para imágenes en movimiento y sonido.

Ambos tienen un impacto significativo en la credibilidad de esos respectivos formatos y es esperable que incrementen el escepticismo.

sorrillo

#12 Si pero no, si tu ves un video tan bien manipulado que no puedas saber si es real o no, implica que cada vez que veas un video tendras la duda.

Efectivamente, al igual que ahora ocurre con cualquier imagen estática debido a la popularización del Photoshop y equivalentes.

Cuando ves una imagen manipulada esperas las declaraciones del implicado/a y eso te despeja de dudas, pero ahora esas declaraciones tambien pueden estar manipuladas con el deepfake, con lo cual nunca sabras cuando la informacion que te llega es cierta o no.

Los vídeos y declaraciones no eran la única forma de resolver el escepticismo, también existe la credibilidad de las fuentes. Si la CNN publica un vídeo indicando que es propio, que lo ha grabado uno de sus cámaras, ponen la credibilidad del medio en ese vídeo. En caso de ser un deepFake la población buscará responsabilidades en ese medio a menos que sea contundente con ese cámara.

Si el vídeo es publicado en twitter por un usuario con muchos seguidores y un historial impecable de credibilidad y afirma que lo ha grabado él con su móvil se juega su prestigio, sus seguidores, con esas afirmaciones.

La credibilidad de las fuentes suele ser clave cuando se duda de si una imagen ha sido manipulada y lo mismo es muy posible que ocurra con los vídeos y audios.

Si por contra te llega por una cadena de whatsaap ni caso ni a textos que dicen que es de Abraham Lincoln, ni a fotos, ni a vídeos, ni a audios, ni a ...

Si no tiene fuentes verificables, si nadie se hace responsable de la credibilidad del contenido, ni caso. Es falso hasta que alguien se esfuerce para demostrar lo contrario.

Si no reenvias este comentario a 10 de tus contactos menéame cerrará, debes hacerles saber que no quieres que lo cierren reenviandolo a 10 de tus contactos.

Veelicus

#14 "i la CNN publica un vídeo indicando que es propio, que lo ha grabado uno de sus cámaras, ponen la credibilidad del medio en ese vídeo. En caso de ser un deepFake la población buscará responsabilidades en ese medio a menos que sea contundente con ese cámara."
Y si el video que crees que es de la CNN es en realidad un deepfake haciendose pasar por la CNN?.
Ese es el problema de esta tecnologia, que nunca vas a tener la certeza de quien esta al otro lado de la informacion

sorrillo

#20 Y si el video que crees que es de la CNN es en realidad un deepfake haciendose pasar por la CNN?.

Los certificados digitales aún no han sido falsificados de forma generalizada, puedes confirmar que el dominio se corresponde con el oficial.

Ese es el problema de esta tecnologia, que nunca vas a tener la certeza de quien esta al otro lado de la informacion

Puedes tener a un periodista de La Vanguardia, otro de El Pais, otro de 20 Minutos todos ellos afirmando en sus medios que han hablado directamente con sus contactos de la CNN y que el vídeo según ellos es verídico.

Siempre puedes ampliar el grado de certidumbre añadiendo más y más participantes que se jueguen su credibilidad en el proceso de informar.

sorrillo

#23 Gente que se ha creído cualquier rumor ha existido siempre, el problema es conocido y ya está contemplado dentro de nuestra sociedad.

La clave es si quienes sí tienen interés en obtener información fiable y están dispuestos a hacer un esfuerzo razonable para verificarla pueden seguir haciéndolo, y efectivamente hoy por hoy sigue siendo viable y no parece que a corto plazo vaya a dejar de serlo.

chemari

#23 se cree lo que ven y no le dan mas vueltas.
Se creen lo que quieren creer y no le dan mas vueltas. Todo lo que encaja para confirmar su sesgo ideológico, se lo tragan con patatas. Te lo digo por experiencia que mi padre se traga todos los bulos que mandan por whatsapp. Bueno corrijo, se traga todos los bulos que ponen a parir al gobierno o a podemos, curiosamente los otros no se los cree roll

D

#23 eso ya es problema de esa gente y de la poca educacion que reciben. Nadie dijo que la libertad fuera barata o sencilla

R

#12 Claro, porque las declaraciones no se han podido manipular hasta ahora.

En mi caso ya estoy curado, porque como decía mi abuela, no te creas nada de lo que sale por la tele. No sé a quién debería sorprenderle a estas alturas algo así y el problema grave no es que existan los deepfakes, sino que haya gente que se esté dando cuenta ahora de que los videos no es una fuente de información fiable.

Veelicus

#19 Claro que se pueden manipular, pero si hace 10 años salia un tio en la tele hablando sabias que no habia posibilidad de que quien hable no es ese tio

R

#21 Lo que digo. Que lo sorprendente es que la gente se de cuenta ahora de que se pueden manipular los mensajes. De verdad, no eres consciente da la cantidad de veces que te han manipulado porque crees que hace 10 años salía un tio en la tele hablando y era verdad.

No hace ni 5 años que salió gracias a la hemeroteca cómo un noticiario ponía a pablo iglesias diciendo lo contrario de lo que realmente había dicho. Sin usar deepfake.

Veelicus

#25 Que si, que estoy de acuerdo, siempre ha habido manipulacion informativa, pero con el deepfake se va un paso mas alla en la que no es que no vas a saber si la informacion que te llega es cierta, sino que no vas a saber si tu interlocutor es quien dice ser.
Imaginate que te llaman por skype y piensas que es tu cajero del banco porque visualmente parece el, y es un deepfake que te esta robando la cuenta bancaria.
Las implicaciones son brutales.

R

#26 Aunque se vaya un paso más allá, si no te fias de lo que ves en la tele y eres consciente de que se manipula desde la invención de la cámara como si dan 7 millones de pasos.

Como digo, el problema es que todavía haya gente que se crea lo que dicen en la tele.
Y dificilmente se me va a meter un señor con la cuenta de mi banquero en mi skype sin haber hackeado primero la cuenta del banquero, pero segundo, creo que la cara del banquero todavía no la pueden falsear.

Y de lo de dar tus datos bancarios por internet ya no hablemos, a ver si me vas a venir a decir que porque tu banquero te pida la contraseña por skype se la vas a dar.

Oedi

#27 pues ese es el problema: no que todos vayamos a ser víctimas de engaño, sino que los que ya lo son ante métodos más burdos lo serán todavía mucho más y que aumenta en un grado la vulnerabilidad de la población, esto es también el número de afectados.

#21 En la Edad Media la gente se creía que el Cid era un héroe nacional porque lo decían los juglares. La tecnología sofistica, pero no creo que el problema sea nuevo, y quizá tampoco tiene mayor peso que antes del photoshop.

Ζ

#1 claro, solo es un escalon mas. pero era el ultimo.

sorrillo

#15 El último en el sentido del más reciente sí, el último en el sentido que no hay posibilidad de ir más allá ... es síntoma de poca imaginación.

d

#1 claro que es distinto. Imagínate que todos los vídeos de la rueda de prensa que dio Sánchez son falsos. Que no fueron en ningún momento dichos por él. O las intervenciones de cualquier diputado en el congreso.
Eso está muy lejos de una simple foto trucada con photoshop.

sorrillo

#28 Vale, me imagino que hay un vídeo en una rueda de prensa de Sánchez que es falso. ¿Dejo de imaginarme el revuelo que eso causaría por parte del propio Sánchez y su equipo al minuto siguiente de hacerse público? ¿Dejo de imaginarme el hecho de que sea portada a nivel internacional con todos los desmentidos por el escándalo que supondría?

¿Hasta donde puedo imaginarme en ese mundo imaginario tuyo?

A menos que te refieras a un vídeo en el que al cabo de pocos segundos supone ya un ataque nuclear cruzado entre todas las potencias mundiales no veo como un vídeo falso de distribución pública significativa pueda tener un recorrido demasiado largo hasta ser puesto en entredicho por las víctimas de ese vídeo.

Al igual que una foto trucada con photoshop.

d

#29 los futuros vídeos del protagonista desmintiendo el video falso también podrían ser acusados de "fake"

sorrillo

#30 Pues más portadas internacionales que tienes, y más cobertura mediática, y más periodistas investigando y dando fe de lo que ellos confirman que es real de primera mano y aquello que no pueden confirmar, y más atención mediática, y más declaraciones, y más entrevistas, y más medios, y más estadios olímpicos llenos para escuchar al Pedro Sánchez real diciendo cosas reales por todos los vídeos que se publican que son falsos, y más giras internacionales de Pedro Sánchez hablando en directo por todo el mundo para que todas las personas del planeta sepan lo dice la persona real con más videos falsos públicos de la historia de la humanidad. Y más ...

Dime cuando tengo que parar de imaginarme cosas, que si no no acabamos.

Oedi

#31 a ver, parece que estamos todos de acuerdo en que no pone las cosas más fáciles sino todo lo contrario. Que a lo mejor no es el apocalipsis, pero si ya han aumentado los bulos y noticias falsas en los últimos años, con esto la situación sólo va a empeorar.

p

#1 Es cualitativa (foto vs. audio + vídeo) y cuantitativamente (1 frame vs. 24 frames por segundo durante equis segundos) distinto. Dos mundos diferentes.

sorrillo

#36 Tu análisis parte del contexto en el que ya no das credibilidad a las fotografías precisamente por que has interiorizado que pueden ser manipuladas con mucha facilidad. En esencia es lo mismo que puede ocurrir con el vídeo+audio, simplemente debes darle tiempo.

p

#56 No parto del contexto que indicas, mi argumento es que cuando suceda esa facilidad de la que hablas, tendrá unas consecuencias mucho mayores, cualitativa y cuantitativamente, ya que abarca más aspectos (voz e imagen) y durante más tiempo (miles de frames respecto a uno). Mundos distintos

sorrillo

#62 Las consecuencias no hay motivo para que sean distintas, lo que se puede conseguir con ello es lo mismo que con una imagen falsificada o un texto falso, lo que se puede conseguir son difamaciones, faltas al honor, estafas, etc.

No hay nada nuevo que se pueda conseguir con imágenes en movimiento falsas que con imágenes estáticas falsas.

Simplemente culturalmente ya estamos mejor protegidos contra las imágenes estáticas falsas por que hemos aumentado nuestro escepticismo sobre ellas por el mal uso que hemos visto que se le ha dado, si se llega al mismo nivel de escepticismo con las imágenes en movimiento tendremos el mismo nivel de protección, y no hay ninguna razón para que eso no ocurra.

p

#64 Precisamente has dado tú el argumento, NO es lo mismo una imagen falsa que un millón de imágenes falsas (vídeo) y voz añadida. La cuestión de grado y el principio de dificultad relativo siempre estará ahí.

sorrillo

#65 Es lo mismo si se les da la misma credibilidad.

Algo que ya no ocurre con las imágenes estáticas por que hemos cultivado un sano escepticismo por la facilidad con la que se pueden producir hoy en día imágenes estáticas falsas.

El que estemos cerca o se pueda ya producir con la misma facilidad vídeos en movimiento no hay motivo para que no genere el mismo grado de sano escepticismo y por lo tanto el mismo grado de protección.

En esencia es lo mismo.

y el principio de dificultad relativo siempre estará ahí

No, no siempre, de hecho este meneo trata precisamente de que está desapareciendo esa dificultad.

p

#67 Este meneo no habla de eso, habla de que disminuye la dificultad pero creo que podemos estar de acuerdo de que siempre será más fácil manipular una foto que un millón de fotos (vídeo), por simple lógica numérica.

sorrillo

#70 No, no podemos estar de acuerdo.

Son procesos distintos, con herramientas distintas, que entrañan retos distintos.

En cualquier caso es irrelevante si quien ha hecho la falsificación ha dedicado diez minutos o varias horas, lo relevante es que cualquiera pueda hacerlo.

p

#73 El tiempo es una variable importante porque es precisamente mi argumento: un proceso es por su propia naturaleza más complejo que el otro. En esa diferencia está, para mí, la diferente repercusión

sorrillo

#77 Cuando se hace pública la falsificación es irrelevante si su autor ha estado media hora fabricándola, o varios meses. Para el público el efecto es el mismo, aparece un contenido y debe decidir el nivel de credibilidad que le dá.

La credibilidad inicial que le damos a un texto escrito es distinta a una imagen estática o a un vídeo en movimiento, y esa credibilidad se va adaptando según sea el riesgo realista de que sea falso.

kmon

#67 nos ha jodido, si veo una foto que sé que es falsa y un vídeo que sé que es falso, es obvio que el daño que pueden hacer los dos es el mismo, ninguno. Pero estamos hablando de fotos falsas o vídeos falsos que pueden pasar por reales. Ha habido muchas fotos manipuladas que se han tomado por reales, y va a haber muchos vídeos manipulados que se tomen por reales. Y un vídeo manipulado que se toma por real puede causar mucho más daño que una foto, el riesgo es muchísimo mayor.

kmon

#1 la diferencia es el daño que puedes provocar con un video deepfake, es mucho mayor de lo que puedes hacer con una imagen

sorrillo

#41 No, el daño que puedes provocar es el mismo, si los receptores dan por veraz lo que reciben siendo falso el daño es el mismo sea cual sea el medio por el que llegue la información.

kmon

#55 no, Trump hablando en un deepfake durante 10 minutos puede causar muchísimo más daño a la humanidad que cualquier foto de Trump

sorrillo

#c-66" class="content-link" style="color: rgb(227, 86, 20)" data-toggle="popover" data-popover-type="comment" data-popover-url="/tooltip/comment/3331912/order/66">#66 Te respondo en # 67: Los deepfakes van a causar estragos en la sociedad. No estamos preparados. [EN]/c67#c-67

Tuatara

#55 no. Es mucho más influyente un vídeo. Por eso YouTube está como está y no hay un equivalente basado en imágenes que le haga sombra. Incluso Facebook empuja hacia los vídeos. Un vídeo siempre influye más. Instagram también ha ido hacia los clips. Tiktok el sumum de eso...

sorrillo

#72 Es mucho más influyente un vídeo.

Hay imágenes estáticas muy influyentes, mucho más que cualquier vídeo.

El problema es que culturalmente aún le damos mayor credibilidad que a las imágenes estáticas. En cualquier caso es irrelevante para lo que estamos hablando, si se tiene un escepticismo equiparable el impacto es equiparable.

Tuatara

#75 Pues precisamente por eso. Como culturalmente le damos a un vídeo mucha más credibilidad que a una foto, y un vídeo siempre atrae más, se difunde mejor, y genera más impacto, una foto y un vídeo falseados no son equiparables.
Un vídeo falseado siempre va a tener mucho más impacto.

sorrillo

#80 Como culturalmente le damos a un vídeo mucha más credibilidad que a una foto

Eso puede cambiar. Y es a eso a lo que me refería con que no es distinto a cuando se hizo popular modificar fotos con Photoshop.

y un vídeo siempre atrae más

No es cierto, no siempre.

se difunde mejor

En absoluto, la difusión es más dificultosa que con una imagen.

genera más impacto

Depende del contenido.

una foto y un vídeo falseados no son equiparables

Si buscan el mismo objetivo y medimos si lo consiguen o no sí son equiparables, si falsificarlos está al alcance de todo el mundo también son equiparables en ese aspecto, si le damos la misma credibilidad también lo son en ese aspecto.

Un vídeo falseado siempre va a tener mucho más impacto.

Siempre es demasiado tiempo. Dependerá de la percepción cultural sobre las falsificaciones que adquiera la sociedad.

Tuatara

#82 Lo siento pero es que estás equivocado en varios puntos, que son incuestionables, al menos a día de hoy;

- Un vídeo siempre atrae más. Si. A día de hoy eso es incuestionable.
-Se difunde mejor. Aún de manera más llamativa y drástica que lo anterior. Y como además es mi campo de trabajo, para mi es un debate superado hace más de 20 años, laboralmente hablando... No hay tema posible.
- Genera más impacto; Una vez más... indudablemente. No hacen falta muchas más pruebas (aunque hay papers para construir una pirámide, si quieres analizarlo en cifras y estudios sociológicos y de marketing puro y duro). La prensa, las revistas, los repositorios de fotos... Todos muertos uno tras otro contra el vídeo.

Las únicas fotos que siguen teniendo impacto son las que te presentan a más de 30 fotos por segundo.

A día de hoy, es un asunto incuestionable. El impacto, éxito, rentabilidad, difusión, que genera un vídeo es incomparable con una foto. Y de eso va el artículo que precede este hilo.

sorrillo

#83 Todo lo que describes se ve influenciado por la facilidad que hay para falsificar imágenes estáticas, algo que hemos interiorizado culturalmente.

No hay razón para que con las imágenes en movimiento no llegue a existir el mismo nivel de escepticismo y suponga un fuerte impacto a su credibilidad como supuso para las imágenes estáticas.

En esencia es el mismo caso, en fases distintas de desarollo.

Tuatara

#84 Bueno, pero eso es un cambio en el análisis, y una predicción de futuro. Podemos aspirar a tener la misma desconfianza en un vídeo que en una foto, pero aún con esas, su impacto seguirá siendo mayor. Así que será más urgente, y seguramente, complejo, frenarlo a tiempo antes de que su impacto fuera crítico.

sorrillo

#85 pero eso es un cambio en el análisis

En absoluto. Es repetir lo que dije en mi primer comentario:

No es distinto a lo que ocurrió con el Photoshop.

Ahora somos escépticos de cualquier fotografía que muestre algo difícil de creer o que pretenda usarse para alguna afirmación que pueda tener ciertos intereses detrás.

Los vídeos y el audio van por el mismo camino.

pero aún con esas, su impacto seguirá siendo mayor.

Eso es una predicción de futuro. Una que no tiene fundamento. No hay razón para que el nivel de escepticismo no llegue a ser equiparable.

Así que será más urgente, y seguramente, complejo, frenarlo a tiempo antes de que su impacto fuera crítico.

El formato del contenido no es relevante para lo que indicas, el factor determinante es con que velocidad y alcance se difunde el contenido falso, cuanta más notoriedad obtenga y con mayor rapidez también más rápido y de forma más notoria se distribuirá la información que desmienta al contenido.

Tuatara

#86 El impacto de un vídeo es mayor, y seguirá siendo mayor. Mi fundamento es que llevo 20 años como profesional del sector, y otros 10 como investigador.

Llegados a este punto creo que me estoy dando contra un muro. Y voy a ir echando el freno, porque aunque tengo una vocación por la divulgación, mi tiempo es muy limitado, y generalmente, a partir de 3 comentarios, donde detecto una falta de interés por mover una posición, entiendo que puedo verme llevando a un debate donde si yo no aprendo nada, y el otro no quiere aprender, sólo voy a agotar tiempo.

Si. Cambiaste el análisis. Pasaste de hablar del presente al futuro. Aún así te equivocas en ambos. El vídeo genera mayor impacto, difusión, y las empresas lo saben y por eso no hay competencia basada en imágenes contra alguien proveedor de vídeo. La gente consume vídeo. Incluso si quieres tirar de un cartel, lo montas como secuencia de imágenes con una tipografía horrible y funcionará mejor que la imagen suelta. Un paseo por twitter para ver bulos de la extrema derecha es un ejemplo tan grave como triste y preocupante. Un vídeo siempre es más que una imagen. Siempre.

El impacto de los deepfakes de vídeo serán mayores. Lo digo yo, pero no hace falta que lo diga yo. El artículo, que a estas alturas dudo de si has leído, va de ello. Si consumes menos tiempo en seguir comentando, y te animas a entrar en schoolargoogle y simplemente dedicas un par de horas a buscar sobre el tema, leyendo los resúmenes, te harás una idea rápida de lo descomunal que se impone el tema del deepfake con los vídeos. Si no quieres verlo... es otro asunto.

El formato del contenido es mucho más determinante y relevante para lo que indico. Sin ese formato del contenido todo lo que viene después no aplica. Si mi formato del contenido es una piedra garabateada, da igual lo que aparezca en ella, aunque sea la receta contra el VIH. Pero un vídeo sobre una memez de chips 5G en las vacunas tiene un éxito arrollador. Y eso que por ahora nadie ha hecho un vídeo deepfake de Bill Gates admitiendo que eso sea así.

Lo siento pero te tengo que negar la mayor.

Y también lo siento, pero te tengo que enviar un rato a la nevera. Te emplazaría a tutorías como el resto de mis alumnos, no puedo dedicarte más tiempo a ti que ellos, y menos si no detecto curiosidad por tu parte...

sorrillo

#_94 El impacto de un vídeo es mayor, y seguirá siendo mayor.

Dependiendo de la credibilidad que le otorgue la sociedad.

Si. Cambiaste el análisis. Pasaste de hablar del presente al futuro.

Desde el primer comentario he utilizado el recorrido que hemos visto con el Photoshop como símil de lo que puede ocurrir con el vídeo.

El vídeo genera mayor impacto, difusión, y las empresas lo saben y por eso no hay competencia basada en imágenes contra alguien proveedor de vídeo.

La publicidad estática sigue estando muy presente en nuestra sociedad. Cada medio tiene su público y su contexto.

A su vez existe la distribución por redes sociales, es igualmente sencillo retwitear un vídeo que una imagen.

La gente consume vídeo. Incluso si quieres tirar de un cartel, lo montas como secuencia de imágenes con una tipografía horrible y funcionará mejor que la imagen suelta.

La gente consume igualmente imágenes estáticas.

Un paseo por twitter para ver bulos de la extrema derecha es un ejemplo tan grave como triste y preocupante.

Ya he explicado y repetido que están en fases distintas, culturalmente ya está asimilado que cualquier imagen puede ser falsa mientras que con los vídeos eso aún no ocurre. Por ello cualquier bulo que utilice un medio que hoy por hoy tenga mayor credibilidad es lógico que se difunda con mayor facilidad.

No hay motivo para que el vídeo no pierda el mismo nivel de credibilidad que perdieron las imágenes estáticas con el Photoshop.

El impacto de los deepfakes de vídeo serán mayores.

Mientras no exista la cultura del escepticismo que ya está instaurada en relación a las imágenes estáticas.

A ti te obsesiona el corto plazo, el efecto inmediato en esta fase inicial de los vídeos falsos y yo te remito a la fase ya más avanzada del Photoshop para que puedas tener una visibilidad del recorrido que se puede recorrer al respecto.

Si mi formato del contenido es una piedra garabateada, da igual lo que aparezca en ella, aunque sea la receta contra el VIH.

No, no da igual, si aparece en ella un grabado aparentemente rupestre que se presenta como el más antiguo jamás encontrado esa piedra garabateada aparecerá en la práctica totalidad de medios escritos y televisivos del mundo.

Lo realmente relevante es como de rápido se distribuye ese bulo para que otros pongan en entredicho su veracidad y demuestren que es falso.

Pero un vídeo sobre una memez de chips 5G en las vacunas tiene un éxito arrollador.

Y el texto escrito al respecto también, el contenido es mucho más relevante que el formato. Y su nivel de distribución es clave para que aparezcan otras fuentes desmintiendo esos bulos.

Nota: Este comentario es para responder a @ Tuatara que por lo visto me tiene en su lista negra de ignorados. Por alguna razón que se me escapa los@admin demeneamemeneame han decidido que si alguien te pone en su lista negra ya no puedes citarle en respuesta a sus comentarios públicos, dificultando así el uso de herramientas de menéame como es el ver los comentarios en forma de hilo de discusión. Me pongo también en copia en #86 a ver si ayuda en el anidado.

#1 A mí tampoco me parece lo mismo. Un vídeo es una imagen muchísimo más explícita y realista que una foto manipulada. Miedo me da. Los van a tener que regular de alguna manera porque si no esto va a ser un caos.

Si ya existe una manipulación increíblemente dañina con fake news escritas no me puedo imaginar lo que podrá ser con fake videos realistas....

sorrillo

#44 No veo motivo alguno para ninguna nueva regulación, lo que se suele regular es la afectación a las personas no los detalles técnicos que se utilicen para ello.

Un texto falso, una imagen falsa, un vídeo falso pueden producir el mismo tipo de daños, como son las difamaciones, la falta al honor, las estafas, etc. Todo lo que puedan provocar ya está regulado, con independencia de las herramientas que se utilicen para provocar ese daño.

#54 Ya, perooo no sé, los deepfakes estos creo que pueden provocar estragos a niveles que creo que no hemos visto todavía y por eso digo lo de regularlo (es posible que me esté volviendo un catastrofista con todas las mirdas actuales eh, no digo que no lol) Ya se verá por dónde sale esto.

sorrillo

#100 Hay gente que se ha suicidado por rumores. Esos niveles de estragos ya están regulados, a quien haya creado y/o distribuido el rumor se le puede castigar por las consecuencias que ha tenido.

Es irrelevante que fuera a viva voz, por escrito, con fotografía manipulada, con vídeo manipulado, con hologramas manipulados, con robots humanoides que simulen la otra persona, con agujeros de gusano hacia universos paralelos, con ...

TonyStark

#1 un photoshop es fácil de desmontar analizando la foto por un ojo experto, y muchas veces no tan experto. Con los deepfaces la cosa no va a ser tan sencilla

sorrillo

#68 Aún no estamos en un escenario en el que un análisis de expertos no pueda identificar falsificaciones.

En cualquier caso eso no excluye investigaciones más allá del propio contenido falsificado.

D

#68 28 Votos negativos deTonyStarkTonyStark a mis comentarios en 5 dias

#c-33" class="content-link" style="color: rgb(227, 86, 20)" data-toggle="popover" data-popover-type="link" data-popover-url="/tooltip/link/madrid-justifico-correo-directrices-medicos-primaria-no-hospital">madrid-justifico-correo-directrices-medicos-primaria-no-hospital/c033#c-33

Hace 3 años | Por candonga1 a eldiario.es

#c-52" class="content-link" style="color: rgb(227, 86, 20)" data-toggle="popover" data-popover-type="link" data-popover-url="/tooltip/link/madrid-justifico-correo-directrices-medicos-primaria-no-hospital">madrid-justifico-correo-directrices-medicos-primaria-no-hospital/c052#c-52
madrid-justifico-correo-directrices-medicos-primaria-no-hospital/c054#c-54
https://www.meneame.net/story/madrid-justifico-correo-directrices-medicos-primaria-no-hospital/c033#c-33
madrid-justifico-correo-directrices-medicos-primaria-no-hospital/c032#c-32
madrid-justifico-correo-directrices-medicos-primaria-no-hospital/c031#c-31
madrid-justifico-correo-directrices-medicos-primaria-no-hospital/c029#c-29
madrid-justifico-correo-directrices-medicos-primaria-no-hospital/c027#c-27
madrid-justifico-correo-directrices-medicos-primaria-no-hospital/c023#c-23
madrid-justifico-correo-directrices-medicos-primaria-no-hospital/c024#c-24
madrid-justifico-correo-directrices-medicos-primaria-no-hospital/c024#c-16
madrid-justifico-correo-directrices-medicos-primaria-no-hospital/c09#c-9
madrid-justifico-correo-directrices-medicos-primaria-no-hospital/c08#c-8
madrid-justifico-correo-directrices-medicos-primaria-no-hospital/c064#c-64
madrid-justifico-correo-directrices-medicos-primaria-no-hospital/c063#c-63
madrid-justifico-correo-directrices-medicos-primaria-no-hospital/c062#c-62
madrid-justifico-correo-directrices-medicos-primaria-no-hospital/c059#c-59
madrid-justifico-correo-directrices-medicos-primaria-no-hospital/c057#c-57
madrid-justifico-correo-directrices-medicos-primaria-no-hospital/c050#c-50
https://www.meneame.net/story/madrid-justifico-correo-directrices-medicos-primaria-no-hospital/c052#c-52
madrid-justifico-correo-directrices-medicos-primaria-no-hospital/c042#c-42
madrid-justifico-correo-directrices-medicos-primaria-no-hospital/c039#c-39
madrid-justifico-correo-directrices-medicos-primaria-no-hospital/c038#c-38
madrid-justifico-correo-directrices-medicos-primaria-no-hospital/c037#c-37
madrid-justifico-correo-directrices-medicos-primaria-no-hospital/c0123#c-123
madrid-justifico-correo-directrices-medicos-primaria-no-hospital/c0122#c-122
madrid-justifico-correo-directrices-medicos-primaria-no-hospital/c0124#c-124
madrid-justifico-correo-directrices-medicos-primaria-no-hospital/c0125#c-125


Cómo se te ve el plumeroTonyStarkTonyStark

T

#1 Si, muy bonito. Pero ahora nos vamos al tema legal, y una grabación, un vídeo siempre ha sido considerado prueba irrefutable. ¿ Y ahora que?

sorrillo

#76 Todas las pruebas que se presentan pueden descartarse si se demuestra su falsedad, sea en el formato que sea.

A nivel legal no encontrarás ninguna diferencia entre una imagen estática, una grabación de voz o un vídeo. Todos esos medios están sujetos a las mismas normas, a la misma posibilidad de escrutinio e impugnación por las partes interesantes.

Por lo tanto ahora nada, ahora igual que siempre.

T

#79 ¿Y si la técnica mejora lo suficiente como para no poder demostrarse?

sorrillo

#97 Entonces perderá por completo la credibilidad.

Por ejemplo no hay técnica que pueda demostrar que el contenido de una frase sea falso analizando solo la frase.

Por ejemplo:

Ayer 15 de Junio de 2020 a las 12h UTC el Sol se apagó durante 17 minutos y 32 segundos, durante ese periodo no emitió radiación ni en el espectro visible ni en ningún otro rango del espectro electromagnético.

Puedes hacer el análisis de esa frase tanto como quieras que no podrás demostrar que sea un bulo, la frase no contiene nada que te permita demostrar que sea falsa. No existe ninguna técnica forense que pueda detectar incongruencias internas o que pueda demostrar que ha sido manipulada y que por lo tanto su contenido no tiene credibilidad.

Solo puedes demostrar que es falsa con elementos externos a la frase, por ejemplo habiendo estado vivo el día anterior y sabiendo que si se hubiera apagado el Sol te habrías dado cuenta.

Eso provoca que no des ninguna credibilidad a ninguna frase por el hecho de ser frase, se lo das a su contenido si es consistente con lo que conoces y si confías en quién es su autor o cualquier otro aspecto externo a la frase en sí misma. Cuya veracidad no puede verificarse por un análisis de la propia frase.

Editado: Añadida hora exacta en la frase falsa para facilitar llegar a la conclusión de la falsedad de lo relatado.

hombreimaginario

#1 empecé a dominar el photoshop en el 94. Recuerdo que hice un trucaje de un compañero de clase follando y lo colgué en el corcho de la facultad con la frase “esto es lo que pasa cuando te vas sin pagar” (en aquél entonces era un graciosillo y mucho más gilipollas que ahora). Absolutamente todo el mundo dio por supuesto que la foto era verdadera y mi compañero se quedó con el mote de “el putero” para toda la carrera. Y ahora nadie se cree absolutamente nada. Con los deepfakes pasará lo mismo: mil follones ahora y en diez años nadie creerá ningún video.

areska

#3 Gracias, ¡tomo nota!

ACEC

#3 Bah... no sale nada del coronavirus, que estafa. (sigue siendo una de las mejores series que he visto)

SalsaDeTomate

#3 Me costó horrores terminar el primer capítulo. Tanto policorrectismo me mata.

No hace falta que sean deepfakes. No importa s tú te lo crees. Importa cuanta gente se lo cree. Hay bulos realmente complicados de creer que mucha gente, aquellos contra los que va dirigido, se lo creen. Un bulo en audio en en vídeo altamente realista puede engañar a mucha más gente, pero al final siempre se lo van a comer (nos lo vamos a comer) el target a quien va dirigido.

La tecnología de deepfake simplemente lo hace más accesible. Al final es cuestión de verificar las fuentes y ser crítico, como siempre. Un vídeo que te llega al Whatsapp sin que lo hayas pedido de alguien que reenvía todo lo que le envían porque le parece un escándalo o una cuenta de Twitter anónima no son fuentes fiables. Ojo, que igual mediante twitter alguien filtra un vídeo de algo y es verdadero, pero cuando algo se filtra y no se sabe quien ni se puede comprobar es complicado certificar su veracidad o establecer un intervalo de confianza.

D

El deepfake de voz es el que tiene mayor potencial de impacto. La identificación por reconocimiento de voz está poco sometida a sospechas sobre el origen del audio. ¿Una voz generada 100% artificialmente pero que recuerda a la voz de un conocido actor es propiedad del programador o de la persona que parece imitar?

kverko

La mayoría de personas creen lo que quieren creer. Lo utilizarán como recurso para confirmar lo que se inventan imaginan.

El sistema no incentiva que la gente sea crítica con la información que reciba.

DDJ

Es una tecnología potencialmente muy peligrosa, se puede hacer muchísimo daño con unas imágenes de vídeo falsa. Hundir un negocio o la reputación de alguien será muy sencillo, y será la víctima la que tenga que demostrar su inocencia, y si tarda mucho en conseguirlo puede que el coste sea muy alto.
Miedo me da lo que puede pasar en esas poblaciones perdidas de países en los que queman a una persona únicamente porque haya varios testigos diciendo que la han pillado robando, o haciendo tocamientos a un menor. Por ejemplo, un Pablo Escobar actual, un mafioso con muchísimo dinero, podría encargar un vídeo comprometido de un juez o de algún jefe de policía etc...

Con el tiempo podremos vivir con esto, pero los primeros momentos podrá causar estragos entre la sociedad. Ya valdría ir pensando en una regularización para el caso de que un montaje de este tipo se haga con caracter de hacer daño.

c

No es muy distinto de lo que hacen los medios de comunicación, que te cuelan sus bulos y luego, si acaso, otro día publican la rectificación en una esquina muy pequeñita...

Peachembela

Será el oficio favorito de los de Vox, product manager de deepfakes

Jakeukalane

#33 no lo digas muy alto.

w

La confusión radica en el valor documental que otorgamos a las imágenes, sean del tipo o producidas con el medio que sean. Ningún aparato, ni siquiera una cámara CCTV es 100% objetiva/real.

Esto nos trae a un cruce extremadamente confuso. Y qué hacemos al respecto? ¡Viva la era de la información!

m

Al final necesitaremos cámaras con algún microchip que ponga un sello criptográfico en el vídeo de cara a poderlo analizar después y poder certificar que algo es real.

#39: En las cámaras CCTV tendría que ser eso, un sello criptográfico que determine el vídeo original, pero a ver cómo lo implementas para que no pueda llegar cualquiera y sellar imágenes falsas.

gregoriosamsa

No hace ni falta, un titular en menéame ya tiene ese efecto y sin tanta tecnología.

v

Estamos perdidos.

Creo que contribuirá a medio plazo a acabar con los bulos y despertará la capacidad crítica de la mayoría de las personas.

Jakeukalane

#53 lol mejor chiste de hoy

#59 jijihiji ya vienes tu a joderme la ilusión. Puto cenizo.

Jakeukalane

#61 eres un guasón 😘 😘 😘 😘 😋

Ramsay_Bolton

pero en el porno es un puntazo oye

borteixo

#8 es que ya me dirás cómo no vamos a estar preparados... algunos llevamos años soñando con la existencia de esto.

Ramsay_Bolton

#74 cuéntame, a quien quieres ver tu...
Arrimadas vestida de cuero... ojito...

D

Deberían crear un carnet de contrastador de información o algo así para ir por la calle. Es increíble la de animaladas que se cree la gente solo porque lo han recibido por whatsapp. Sin revisar si lo que reciben es real o no.

perrico

Tendremos que fiarnos solo de los hechos y no de las declaraciones.

Grymyrk

Claro. Antes la gente no creía en nada que no pudiera verificarse científicamente con datos comprobados

ErMijita

Inda y su tropa tienen que estar frotándose las manos...

Dr.PepitoGrillo

Los deepfakes, el sectarismo, la idio*ez y cómo no, la memoria a corto plazo.

D

No creo que cambie mucho la cosa. Sin ir mas lejos, aqui en meneame no hacian mas que publicar noticias sobre esa juez que supuestamente era muy facha muy facha y no iba a parar hasta crujir al delegado del gobierno. O decir que el forense era legionario de Cristo. Cuando se ha visto que no habia caso, se ha parado la maquina del fango pandemita-socialista. Los medios ya manipulan sin necesidad de deepfakes

D

Más bien somos una sociedad analfabeta.

francesc1

La historia de la humanidad es un deepfake

MadalenaBrava

Pornor

1 2