199 meneos
12223 clics

Los ordenadores ven mejor que los humanos hasta que alguien intenta engañarlos

Uno de los avances más espectaculares de la ciencia moderna ha sido la visión de máquinas. En muy pocos años, una nueva generación de técnicas de aprendizaje ha cambiado la manera en la que ven los ordenadores. Ahora las máquinas superan el rendimiento humano en reconocimiento facial y de objetos. Pero está surgiendo un problema. Resulta que los algoritmos de visión de máquinas tienen un tendón de Aquiles que permite que sean engañados por imágenes modificadas que los humanos detectarían a simple vista.
etiquetas: visión, máquina, ordenador, imagen antagonista, engaño
usuarios: 95   anónimos: 104   negativos: 4  
Comentarios destacados:               
#1   Por el momento :tinfoil:
votos: 2    karma: 16
#2   Mi spectrum de 38Ks no ve una puta mierda.
votos: 4    karma: 45
#3   #2 Igual le faltan 10K... :roll:
votos: 16    karma: 114
 *   rutas rutas
#7   #3 Nadie va a necesitar más de 48 Kb de memoria en su PC en la vida
votos: 5    karma: 46
#47   #7 Más de uno ha muerto sin necesitar ni eso... :shit:
votos: 0    karma: 7
#15   #3 xD Sería una oferta del rastro de aquellos tiempos :troll:
votos: 2    karma: 31
 *   inar inar
#19   #2 operale las cataratas
votos: 0    karma: 10
#4   Hubiese quedado mucho mejor: un talón de Aquiles. Pero bueno, que sea el tendón, entonces. Supongo que será menos vulnerable.
votos: 14    karma: 96
#27   #4 El artículo lo ha escrito un bot y ha confundido la imagen de un talón con la del tendón.
votos: 5    karma: 45
#5   "La clasificación menos probable normalmente es altamente distinta de la clasificación correcta, por lo que este método de ataque genera unos errores más interesantes, como confundir un perro con un avión"

Nota mental: El día que Skynet gane conciencia, formar un batallón de Chihuahuas.
votos: 4    karma: 36
 *   Whitefox
#6   Este tipo de articulos muestran lo increíblemente compleja que es la percepción visual humana. Ver "bien" no se trata de tener imágenes super nítidas, sino que entran en juego variables que el cerebro conoce por su aprendizaje y entorno. Hay personas que no tienen defectos visuales pero tienen tremendos problemas en esos aspectos por lesiones cerebrales de diferente índole, las llamadas agnosias visuales.

Además del tema que saca el post entiendo que hay otros aspectos perceptivos…  media   » ver todo el comentario
votos: 16    karma: 102
#23   #6 la percepción es una acción, no es una pasión :-D

Por eso vemos triángulos ande no les hay
votos: 0    karma: 7
 *   dkcpxxtskcum
#39   #6 Es que el cerebro humano ha evolucionado para reconocer patrones de puta madre. Tanto que algunos ven a Jesús en una tostada.

Eso que a nosotros nos sale tan natural es dificilisimo de implementar en un ordenador.
votos: 0    karma: 6
#44   #6 yo ahí veo 3 pacmans. Alguien que no conozca el juego verá la forma pero no la relación. Si a un ordenador le meten imágenes de pacman lo relacionará al igual que he hecho yo.
Supongo que es cuestion de tiempo que implementen diferentes modos de procesar una imagen que saquen todas las posibles interpretaciones posibles
votos: 0    karma: 7
#56   #44 Es una estrella de David, miralo otra vez.
votos: 0    karma: 7
 *   Lekuar Lekuar
#58   #56 se ven varias formas y una de ella es el triángulo que no está dibujado y que si quitas los pacmans desaparece y que también quita la estrella de David.
Un ordenador probablemente no detectara la estrella ni el triángulo fantasma porque no tiene bordes que detectar al ser una ilusión óptica, y los pacmans si le han enseñado que eso es un pacman los detectará, igual que las personas
votos: 0    karma: 7
#59   #58 Si, todo eso es correcto, pero el comentario hacia referencia a los "contornos ilusorios", en ese dibujo el contorno ilusotio es la estrella, los pacman tienen su silueta completa, por lo tanto, un humano y una máquina que conozcan la silueta de pacman reconocerán a pacman, pero entre un humano y un ordenador que conozcan la estrella de David, sólo el humano reconocerá la estrella en ese dibujo.
votos: 0    karma: 7
#60   #59 Cuando alguien descubra el método para que un ordenador vea el triángulo sin contorno lo verá. Y si consigue generalizar la visión por ordenador de engaños visuales hará que los ordenadores sean conscientes también de esos trucos, al igual que hace nuestro cerebro
votos: 0    karma: 7
#61   #60 Ya bueno, supongo que algún día, pero ahora mismo no, y aparecerán más retos, distinguir entre realidad o ficción, o la visión de conjunto, como el experimento ese de cambiar el orden de las vocales de las palabras y aún así se lee perfectamente.
votos: 0    karma: 7
#8   "sistemas de aprendizaje de máquinas" ¿sabéis si esto se llama así o si es una traducción directa?
votos: 0    karma: 11
#11   #8 machine learning es lo que se ve en ingles
votos: 2    karma: 29
#14   #8 Apredizaje automático suele ser el termino utilizado.

Me da la impresión de que el artículos estoy muy mal traducido.
votos: 2    karma: 25
#17   #14 xD xD
votos: 0    karma: 11
#9   Otro ejemplo de porqué los coches autónomos están mucho mas lejos de lo que muchos piensan.
votos: 1    karma: 14
#25   #9 un coche autónomo no necesita ver bien con una infraestructura adecuada que no es relativamente cara. El enorme problema es la convivencia con otros usuarios.
votos: 0    karma: 10
#48   #25 Sí, especialmente con usuarios cabrones que se dediquen a putearlo para provocar accidentes por diversión.
votos: 0    karma: 7
#10   No llego a entender al leer el artículo cual es la imagen antagónica, veo la original, a su derecha una con un filtro aplicado y en las dos de abajo parece que el cielo tiene un filtro aplicado.
votos: 5    karma: 49
#12   #10 Yo me he quedado igual.
votos: 3    karma: 31
#22   #10 cuidado, si no puedes apreciar la diferencia entre una imagen y la que las máquinas no pueden distinguir, significa que podrías ser un replicante.

Podrías hacerte un test de Voight-Kampff, para asegurarte
votos: 4    karma: 32
 *   dkcpxxtskcum
#43   #22 podría no, soy un replicante :-D.
votos: 1    karma: 13
#29   #10 El artículo lo explica un poco como el culo. Intento explicártelo. Una adversarial es una imagen que un humano no reconoce como nada (parecen ruido) pero que las redes neuronales interpretan como un objeto, de forma errónea.
El problema viene de dos formas, que el artículo no explica:
- si tomas una imagen de un objeto (por ejemplo una guitarra) y a esa imagen le añades ruido (imperceptible para el humano) la red neuronal puede interpretarlo como algo que no es (por ejemplo decirte que…   » ver todo el comentario
votos: 14    karma: 105
#32   #29 Entiendo que las adversial nets son las que hacen aflorar
y a la vez son la solución del problema.

Todo llegara... el evento esta cerca.
votos: 0    karma: 7
#31   #10 Lo que yo entendí al leer el artículo: Unos investigadores de Google intentan simular (exageradamente) procesos naturales de deterioro de imágenes aplicando diferentes algoritmos modificativos a una imagen nítida (a las imágenes resultantes modificadas las llaman imágenes antagonistas) para comprobar cuán resistente es su red neuronal de reconocimiento facial, el "inception" (nombre que, por cierto, le pusieron en honor a la película homónima, traducida en España como Origen).
votos: 2    karma: 27
 *   pontew74
#13   Ya abra mas problemas, tipo reconocer y saber diferenciar la realidad de la ficción algo que incluso el ser humano en algunos casos no sabe distinguir.
votos: 0    karma: 7
#37   #13 Abra (El abra) es el puerto de Bilbao.
votos: 1    karma: 13
#57   #13 Imagina con la ironía el cachondeo que se iba a montar :-D
votos: 1    karma: 14
#16   No lo veo claro, si hasta las personas humanas no confundimos... :-P
votos: 0    karma: 16
#18   Hace poco me encontré con este artículo interesante sobre redes neuronales y clasificación: arxiv.org/abs/1412.1897  media
votos: 2    karma: 33
#20   Que se lo digan al coche Tesla
votos: 2    karma: 23
#21   Supongo que los ordenadores, al igual que los humanos, deberán aprender a desconfiar de su propia percepción y a ser conscientes de que alguien puede intentar engañarlos. Difícil solución.
votos: 0    karma: 8
#49   #21 Sí, especialmente difícil la parte de "ser conscientes" :roll:
votos: 1    karma: 10
#24   ¿Soy el único que cree que el artículo no se entiende? Está todo explicado como el culo.
votos: 4    karma: 33
#26   Es un problema de pensamiento excesivamente matemático. Tenía un colega que le pasaba igual era (y es) la persona más inteligente que he conocido jamás un hacha en todos los sentidos excepto en uno, el sentido común :-D el pobre lo veía todo desde una visión tan racional que se la metían doblada por todos lados
votos: 0    karma: 7
#35   #26 ¿Tienes de colega a Sheldon?
votos: 0    karma: 6
#28   Yo siempre me he planteado como harán los coches autónomos para diferenciar a una persona real de un muñeco. Si se colocan muñecos en el centro de una carretera sin cobertura móvil y el coche los atropella, pensará que ha tenido un accidente, y posiblemente se pare en seco. En ese momento aprovechan para robarte todo lo que tienes. Supongo que deberían llevar cámaras térmicas.
votos: 2    karma: 22
#30   #28 Joder, que mente más dañina para hacer el mal, aiajiajiajia. Lo has clavado !!
votos: 1    karma: 15
#33   #28 No hace falta tanto. ¿ Son capaces de diferenciar una bolsa de plástico que a lo sumo tapará la ventilación del radiador y se calentará el coche, de una piedra en medio del camino que te puede matar ?
votos: 1    karma: 19
#36   #28 Muy bueno... Pero ese truco funcionaría también con muchos conductores humanos. Conmigo seguro. Si voy conduciendo mi coche y me encuentro un maniquí tamaño real en medio de la carretera, ya sea de pie o tumbado, vestido o sin ropa, probablemente pararé y me bajaré del coche aunque sólo sea para apartar el muñeco y dejarlo en la cuneta. En ese momento salen los cuatreros de detrás de un arbusto y ¡zas! me joden vivo...

{0x1f697} {0x1f52a} {0x1f52b} :take:
votos: 2    karma: 26
 *   rutas rutas
#54   #36 Eres un pervertirdo, nadie habla de joder... estan diciendo robar....

Quien tiene hambre sueña rollos... buscate una pareja!
votos: 1    karma: 12
#55   #54 Eso, eso... Menos robar y más joder.
votos: 0    karma: 14
#34   ¿Y si para acceder a un sitio de seguridad nos ponemos una foto en la cara de alguien validado? ¿Y si un maquillador profesional te hace prótesis en la cara y maquilla para ser clavado? Y si te pones una máscara de silicona... No hay sistema de seguridad 100% y de momento delegar la seguridad a una cámara me parece poco fiable. Espero que evolucione bastante como toda tecnología, pero las máquinas a día de hoy son fáciles de engañar encontrando su bug, las personas tambien tenemos nuestros bugs, pero son más difíciles de engañar en general y normalmente aprendemos rápido incorporando nuevas variables.
votos: 0    karma: 7
 *   paco_camps_2011
#38   Que se lo digan al bot de Google xD  media
votos: 3    karma: 33
#50   #38 Pues parece haber acertado en todas... :troll:
votos: 1    karma: 13
#40   ¿Eso de que superan al ojo humano reconociendo caras y objetos de donde se lo saca? ?(
votos: 0    karma: 12
#41   Tiene todo el sentido del mundo: los ordenadores carecen de intención y volición.
votos: 0    karma: 11
#45   "Resulta que los algoritmos de visión de máquinas tienen un tendón de Aquiles que permite que..."

Pues si que están avanzando en robótica, de aquí nada echan a correr como galgos...
votos: 0    karma: 10
votos: 1    karma: 17
#51   la tecnología nos va a desbordar finalmente y pasaremos a segundo plano
votos: 0    karma: 5
#52   #51 algún dia hasta para cocinar estaremos a las ordenes de un robot
votos: 0    karma: 5
#53   #51 menos mal que a algunos eso de la tecnología no les llegara todavía, los que viven en medios rurales tendrán la suerte de respirar el aire con oxigeno mas puro siempre
votos: 0    karma: 5
comentarios cerrados

menéame