Investigadores de DeepMind en Londres han demostrado que la inteligencia artificial (IA) puede encontrar atajos en un tipo fundamental de cálculo matemático, convirtiendo el problema en un juego y luego aprovechando las técnicas de aprendizaje automático que otra de las IA de la compañía usó para vencer a los jugadores humanos. en juegos como Go y ajedrez. La IA descubrió algoritmos que rompen récords de hace décadas en eficiencia computacional, y los hallazgos del equipo, publicados el 5 de octubre en Nature1, podrían abrir nuevos caminos...
Comentarios
#22 ¿No tienen las personas acceso a un juego muy grande de datos (24 horas al día, los 365 días al año)?
¿Cuántos años de procesado de datos requiere una persona para poder identificar tumores en una radiografía? (incluyo el dejar de cagarse encima, no ir a cuatro patas, aprender a asociar garabatos con letras y esto con palabras, etc.)
¿Cuando sepamos al dedillo como funciona el cerebro dejaremos de describirnos como inteligentes?
Llegaremos a ver cosas que ni creemos ahora.
#3 de momento estoy esperando a ver esas famosas naves de más allá de Orion.
#7 Aquí tienes, calentito desde Stable Difussion
https://i.postimg.cc/L8srGSNr/Captura.png
#3 Naves de ataque en llamas más allá del hombro de Orión?
#3 Incluso malas
#0
https://www.nature.com/articles/s41586-022-05172-4
Si ya decía yo que los acertijos matemáticos difíciles me parecían mu difíciles. El problema era que las matemáticas están mal hechas.
#5 #14 resolver matrices es un problema P
#4 Exacto.
El problema es que culturalmente la definición de inteligencia es lo que hacen las personas, si lo puede hacer una máquina eso ya no es inteligencia.
Y es esa definición torticera la que nos permite chutar la pelota hacia adelante y no reconocer nunca que una máquina pueda ser inteligente.
A cualquiera de hace dos siglos si le preguntases te diría que ganar al mejor ajedrecista del mundo requiere inteligencia. Cuando se consiguió eso ya no requería inteligencia. Cualquiera hace medio siglo te diría que identificar tumores en radiografías requiere de inteligencia. Cuando lo hacen las máquinas eso ya no requiere de inteligencia.
#10 Exacto.
#10 Por eso se le llama "inteligencia artificial", para distinguirla?
#10 Pero es que en realidad no es inteligencia, es fuerza bruta. La actual inteligencia artificial consiste en tener un juego muy grande de datos y poner el ordenador a calcular millones de combinaciones hasta que alguna da mejor resultado que la anterior y vuelta a empezar.
#22 Por esa regla de tres ninguno somos inteligentes, a pesar de millones de años de evolución, una fuerza bruta que ha descartado a unos y favorecido a otros
Recordemos que esto tampoco requiere inteligencia.
Chutando la pelota hacia adelante desde los años 80.
#2 define inteligencia (no troll).
#4
No inteligente: ganar como hacía deepblue a kasparov (por los pelos) por mera potencia bruta.
No inteligente: ganar como hacen las IA, mucho mas refinado, con otro enfoque, pero calculando miles de operaciones y jugadas.
Ingeligente, ganar como hace un jugador humano, calculando a lo sumo 2-3 jugadas por segundo.
Para mi esa es la clave.
#28 Con ese comentario demuestras que desconoces como funcionan las dos inteligencias que describes, la humana y la artificial.
[ENG]En la inteligencia artificial el proceso de aprendizaje sí requiere de mucha potencia de cálculo para procesar muchos datos. El resultado de ese aprendizaje en absoluto requiere de mucha potencia de cálculo ni de calcular miles de operaciones para cada jugada, el resultado de ese aprendizaje es un procesado de patrones, a unas entradas le corresponden unas salidas casi inmediatas.
El ser humano también requiere de mucha dedicación para aprender a jugar al ajedrez y ser el mejor humano del mundo en ello (el mejor del mundo es ya una IA, contra eso poco o nada tiene que hacer). Y cuando juega no calcula a 2-3 jugadas por segundo ni por asomo, actúa por reconocimiento de patrones.
Hay un experimento1 en el cual se compara a los maestros del ajedrez con intermedios y novatos y a los cuales se les muestra una tabla de ajedrez a media partida durante un periodo corto de tiempo, y luego se les pide que reconstruyan ese tablero. Cuando lo que se les muestra son posiciones realistas dentro de una partida los maestros son mucho mejores reconstruyendo esa partida que los novatos, pero cuando las piezas se colocan de una forma que no corresponda con una partida novatos y maestros tienen una capacidad similar para hacer esa reconstrucción.
Eso es un indicio que los maestros de ajedrez lo que tienen es una mayor capacidad para reconocer patrones en una partida de ajedrez y que es en eso en lo que se basan para elegir el siguiente movimiento.
1 Creo que el estudio al que me refiero es este: https://link.springer.com/content/pdf/10.3758/BF03213216.pdf [ENG]
Y aquí el experimento en vídeo:
#28 una IA no calcula miles de operaciones y jugadas. Solo coge unas entradas (el estado del tablero, puede que las jugadas anteriores de su adversario y su propio histórico de jugadas), las "pasa" por su experiencia (una enorme matriz de pesos que, por analogía, es lo mismo que nuestras neuronas, puede que en un paso o en varios, dependiendo del tipo de red) y obtiene un único resultado (o un vector ordenado, con pesos, que le indica cuál es la jugada con más posibilidad de maximizar beneficio). Pero no tiene absolutamente nada que ver con la fuerza bruta.
#4 Para mi inteligencia es predecir el futuro.
Un físico predice los fenómenos naturales: movimientos (mecánica), imágenes y colores (óptica)... Un químico predice reacciones y sustancias. Un biólogo predice fenómenos en organismos vivos: enfermedades... Un futbolista predice el movimiento del balón, de su propio cuerpo y de los otros jugadores. Aprender a andar es predecir oscilaciones del cuerpo y compensarlas antes de volver a caerse. Aprender a hablar es predecir palabras o significados.
Normalmente cuanto más general, más amplia y más trascendente es una predicción, más inteligente se considera a quien la desarrolla.
Predecir lo que va a hacer una sola persona mañana no suele tener ni mucho mérito ni mucha importancia... Pero, por ejemplo, predecir los movimientos de todos los planetas del Universo, en cualquier época y lugar, lo mismo hace 10 000 años como dentro de 20 000... Ufff, eso sí es un gran logro, una visión superior, un poder mental que nos acerca a los adivinos. Transformar lo aparentemente caótico o aleatorio en reglas breves y sencillas que predicen muy bien.
¿Y un escritor? Algunos con poco talento pueden ser como loros: repetir frases e historias que han visto... Trabajo y memoria sí, pero inteligencia poca. Sin embargo, un escritor creativo predice lo que haría un personaje inventado en una situación. Algunos escritores como Julio Verne predijeron muchos aspectos de su futuro. También predicen que vas a reír, llorar, ...
También son formas de adaptación: en un entorno seco el más inteligente descubre formas de encontrar agua, de gestionarla, de usarla eficientemente. Formas de convivir en sociedad, de influir en los demás, etc.
La Inteligencia Artificial más avanzada tendría como los seres humanos instinto de supervivencia, de "nutrirse" (tener energía asegurada) y de replicarse, es decir, reproducirse... Pero, claro, si compite contra humanos puede vencernos. Aunque se intenten diseñar máquinas que no actúen contra humanos, creo que al final, sea por despiste de un humano (error) o por algo no previsto, creo que no hay que descartar ser superados por máquinas.
#2 ¿Podemos decir que un submarino "nada"?
#2 Predecir el plegado de las proteínas era pura ciencia ficción hasta hace nada. Vamos a ver una explosión de soluciones impensables creadas por las redes neuronales, es innegable.
#15 No puedes juzgarlo por un caso, por una excepción. El procedimiento es beneficioso sin la inmensa mayoría de las veces da buenos resultados, aunque dé de vez en cuando malos resultados. A menos que conozcas de un procedimiento infalible.
#16 Eso no es un pensamiento racional. En matemáticas, estadística y en lógica si no demuestras que algo se cumple con el 100% de certeza no puedes pregonar que es cierto, por muy alto que sea el porcentaje de veces en que lo sea. Si no puedes acotar cuándo no es cierto, no es una herramienta de la que te puedas fiar.
A lo que voy es que con un algoritmo tú tienes la posibilidad de saber qué hace y acotar esos errores, puedes hacer un algoritmo robusto y que se comporte de una manera bien definida y corregirlo o acotar sus límites de uso a valores de entrada donde sabes que se comporta bien.
Una IA tal y como la conocemos actualmente (porque no tiene por qué ser así, hay muchas formas de diseñar e implementar IAs) es una maraña ingente de interconexiones entre modelos de neuronas artificiales entrenadas miles o millones de iteraciones con una cantidad inmensa de datos. Para un humano, ver qué narices está pasando ahí dentro es un infierno ya sólo con una única iteración. Inmanejable e inabordable, y por supuesto, si la IA tiene alguna tara o defecto, imposible de corregir (sólo puedes depurar los datos de entrada, cómo se realiza el entrenamiento, etc. y volver a generarla de cero).
Dicho esto... una vez más. ¿Cómo verificas las conclusiones a las que pueda llegar esa IA?. Puedes ver si los resultados son correctos o incorrectos, bien. Pero si son correctos... ¿quién te garantiza que siempre va a ser así? ¿cómo encuentras, discriminas y filtras los casos donde los resultados son incorrectos para poder seguir usando esa IA en el resto de casos? y fiarte de que siempre te va a dar buenos resultados no parece muy lógico y puede dar lugar a casos como el que he expuesto en el anterior comentario, porque... ¿es posible ponerte a verificar todos y cada uno de los miles de resultados que vaya dando a lo largo del tiempo? ¿o el "vamos a fiarnos de la IA, que hasta ahora siempre nos ha dado resultados fiables" va a poder más? se van a colar muchos fallos y lo sabes. Y cada día, la precisión en las medidas y cálculos es más importante y los errores tienen más y peores efectos...
#19 En matemáticas, estadística y en lógica si no demuestras que algo se cumple con el 100% de certeza no puedes pregonar que es cierto, por muy alto que sea el porcentaje de veces en que lo sea.
Lo que citas son juegos mentales que tienen sus normas establecidas a base de axiomas. Lo único que demuestras es que son consistentes con ellos mismos, cuando usas esas herramientas para el mundo real pierden ese 100% de certeza.
Si no puedes acotar cuándo no es cierto, no es una herramienta de la que te puedas fiar.
Eso es falso.
Hay problemas que son muy complejos de resolver pero que cuando tienes la respuesta es trivial verificar que es válida.
Si siguiendo las instrucciones de esa herramienta consigues un resultado que te permite conseguir tus objetivos, como hacer el reparto de paquetes durante la jornada laboral, entonces esa herramienta es útil. Y cuando ese resultado te lo da en varias ocasiones te puedes fiar que en general da buenos resultados. Si un día falla pues falla. Como las personas que de vez en cuando también se equivocan.
Dicho esto... una vez más. ¿Cómo verificas las conclusiones a las que pueda llegar esa IA?
Te respondo otra vez, ese reto ya está resuelto, lo aplicamos constantemente para lo que nos viene de personas, como es la creación de medicamentos.
Pero si son correctos... ¿quién te garantiza que siempre va a ser así?
Nadie, ni falta que hace. Basta con que por lo general sean más correctos que por el procedimiento anterior. Si ya tenemos algo que nos da soluciones perfectas pues es absurdo sustituirlo por una IA o por una persona, pero para todo aquello para lo que no tenemos soluciones perfectas (vamos, todo) una IA basta con que dé mejores resultados que el procedimiento anterior.
#20 "Lo que citas son juegos mentales que tienen sus normas establecidas a base de axiomas. Lo único que demuestras es que son consistentes con ellos mismos, cuando usas esas herramientas para el mundo real pierden ese 100% de certeza."
¿Tú te fiarías de una calculadora o de un ordenador que sólo diera los cálculos exactos que le pides el 99.9% de las veces?. Seguro que si, hasta el día en que te de una solución mala y te joda por completo.
" Hay problemas que son muy complejos de resolver pero que cuando tienes la respuesta es trivial verificar que es válida."
¿Entiendes que el problema no es verificar una respuesta puntual, sino verificar que un algoritmo da las respuestas adecuadas a un problema dado?. Para que te hagas una idea, esto está muy relacionado con otro problema... ¿sabes que es el problema del P=NP? ¿sabes que es el mayor problema irresoluble de la teoría de la ciencia informática?
https://en.wikipedia.org/wiki/P_versus_NP_problem
"Si siguiendo las instrucciones de esa herramienta consigues un resultado que te permite conseguir tus objetivos, como hacer el reparto de paquetes durante la jornada laboral, entonces esa herramienta es útil. Y cuando ese resultado te lo da en varias ocasiones te puedes fiar que en general da buenos resultados. Si un día falla pues falla. Como las personas que de vez en cuando también se equivocan."
Claro, si un día repartes una ruta un poco más larga de lo óptimo, pierdes algo de dinero pero no pasa nada. Ahora pon un problema más divertido: acertar a un misil en pleno vuelo con otro, donde cualquier mínimo error de cálculo provocará que falles y el misil que te han tirado encima no sea interceptado y te mate... o sin ser tan dramáticos: el algoritmo que controla la frenada de tu coche, la simple diferencia entre bloquear las ruedas y no hacerlo (que bien podría valer tu vida).
" Te respondo otra vez, ese reto ya está resuelto, lo aplicamos constantemente para lo que nos viene de personas, como es la creación de medicamentos."
Ni de coña está resuelto, no sabes de lo que hablas. Los medicamentos se crean de la forma en que se creen, pero no llegan tal cual a nosotros, luego tienen que pasar toda una serie de pruebas de efectividad y de interacción con otros medicamentos y problemas físicos. En esa parte es donde se pilla a los medicamentos que no han sido bien diseñados. Igual que cualquier otro elemento "industrial", da igual que sea diseñado a mano, con un programa de diseño o por una IA.
"Nadie, ni falta que hace."
Muy bien, juégate la vida confiando ciégamente en cualquier cosa porque total, si lo ha diseñado una IA seguro que es mejor que si lo ha diseñado un humano, no hace falta ni comprobar nada. Estamos en buenas manos.
La IA es una herramienta, y como tal, tiene sus usos y sus limitaciones, yo sólo he puesto las cartas sobre la mesa señalándolas. No le otorguemos poderes mágicos, que ya somos mayorcitos y nos conocemos la famosa cita de Arthur C. Clarke.
#25 ¿Tú te fiarías de una calculadora o de un ordenador que sólo diera los cálculos exactos que le pides el 99.9% de las veces?
. Dices que no está resuelto y acto seguido nos describes cómo se ha resuelto.
Claro que sí. Me basta con hacer ese mismo cálculo 3 veces para aumentar la fiabilidad en ese resultado. O hacerlo con tres calculadoras distintas.
¿Te fiarías de una persona que te da las respuestas correctas el 99,9% de las veces?
¿Entiendes que el problema no es verificar una respuesta puntual, sino verificar que un algoritmo da las respuestas adecuadas a un problema dado?
Si no puedes verificar la respuesta es que posiblemente has hecho una pregunta estúpida o inútil. Si haces una pregunta cuya respuesta te es útil te basta con usarla para verificar si da el resultado esperado.
¿sabes que es el problema del P=NP? ¿sabes que es el mayor problema irresoluble de la teoría de la ciencia informática?
Conozco el problema sí.
Ahora pon un problema más divertido: acertar a un misil en pleno vuelo con otro, donde cualquier mínimo error de cálculo provocará que falles y el misil que te han tirado encima no sea interceptado y te mate...
El ordenador te da una respuesta, la pruebas en un ejercicio militar. Si funciona lo vuelves a hacer, y otra vez, y otra vez, y otra vez. Y si de cien intentos no te ha fallado ninguno pues lo das por bueno.
El sistema comercial lo haces de forma que no lance un único misil interceptor sino que lance cinco, por si acaso. Y lo pruebas también.
En caso que no sea un ejercicio militar sino un ataque real lanzas los cinco misiles interceptores con sus cinco rutas ligeramente distintas (centímetros, pero basta para que no sea un problema idéntico), si las cien pruebas anteriores fueron bien es básicamente imposible que fallen los cinco interceptores. Puede fallar uno, pero poco más.
Tienes una herramienta que antes no tenías, por ser racional y dejar de lado una supuesta perfección no realista.
o sin ser tan dramáticos: el algoritmo que controla la frenada de tu coche, la simple diferencia entre bloquear las ruedas y no hacerlo (que bien podría valer tu vida).
Como no es tan dramático y la gente sigue muriendo en las carreteras aquí basta con probarlo y ver que funciona y comercializarlo y ver que no empieza a morir gente a cascoporro. Es como se han ido introduciendo todas las soluciones.
No hace falta inventar nada nuevo. Basta con seguir aplicando el criterio de precaución.
Ni de coña está resuelto, no sabes de lo que hablas. Los medicamentos se crean de la forma en que se creen, pero no llegan tal cual a nosotros, luego tienen que pasar toda una serie de pruebas de efectividad y de interacción con otros medicamentos y problemas físicos. En esa parte es donde se pilla a los medicamentos que no han sido bien diseñados. Igual que cualquier otro elemento "industrial", da igual que sea diseñado a mano, con un programa de diseño o por una IA.
Muy bien, juégate la vida confiando ciégamente en cualquier cosa porque total, si lo ha diseñado una IA seguro que es mejor que si lo ha diseñado un humano, no hace falta ni comprobar nada. Estamos en buenas manos.
¿Que no hace falta comprobar nada?
Pero si precisamente lo que te he descrito es que lo que hacen los humanos sí se comprueba antes de llegar al consumidor y que esos procedimientos ya existen y no hace falta cambiarlos para la IA.
La IA es una herramienta, y como tal, tiene sus usos y sus limitaciones, yo sólo he puesto las cartas sobre la mesa señalándolas. No le otorguemos poderes mágicos, que ya somos mayorcitos y nos conocemos la famosa cita de Arthur C. Clarke.
Reconocer su inteligencia no es otorgarle poderes mágicos, ni a las personas ni a las máquinas. La inteligencia humana tiene sus limitaciones, nadie defiende que una persona por ser inteligente lo hace todo perfecto y no hace falta comprobar nada. Lo mismo para la inteligencia cuando son las máquinas.
#26 "Claro que sí. Me basta con hacer ese mismo cálculo 3 veces para aumentar la fiabilidad en ese resultado. O hacerlo con tres calculadoras distintas."
Deja de trolear, hablamos de que "la IA inventa algoritmos más rápidos para resolver acertijos matemáticos difíciles". Y los algoritmos son deterministas, no probabilistas. Sigues una serie de pasos y llegas a una misma ejecución cada vez que los realizas. Y del mismo modo, la IA dada una entrada, siempre te dará una salida.
"Reconocer su inteligencia no es otorgarle poderes mágicos, ni a las personas ni a las máquinas. La inteligencia humana tiene sus limitaciones, nadie defiende que una persona por ser inteligente lo hace todo perfecto y no hace falta comprobar nada. Lo mismo para la inteligencia cuando son las máquinas. "
Perfecto. Depura una IA.
#35 Sigues una serie de pasos y llegas a una misma ejecución cada vez que los realizas. Y del mismo modo, la IA dada una entrada, siempre te dará una salida.
Si el problema es reproducible, si puedes replicar esa entrada y obtener un resultado erróneo de forma consistente entonces puedes reentrenar esa IA para que deje de cometer ese error específico, de la misma forma que si una persona suele cometer un error de forma consistente puedes formarle de nuevo en ello para que no lo cometa.
Si por contra el problema no es reproducible porque la entrada es siempre distinta, por ejemplo una IA que conduce de forma autónoma, entonces debes apelar a la estadística. Si sigue siendo más seguro que conduzca la IA a que conduzca un humano pues asumes esos errores e intentas en un futuro mejorar el proceso de aprendizaje para que no ocurra, y aunque no consigas mejorarla sigue siendo mejor que la alternativa.
Perfecto. Depura una IA.
No depuramos a los humanos que se equivocan, ponemos si hace falta más personas a controlar el trabajo unos de otros y podemos organizar nuevos cursos de formación. Lo mismo con las IA.
#36 "Si el problema es reproducible, si puedes replicar esa entrada y obtener un resultado erróneo de forma consistente entonces puedes reentrenar esa IA para que deje de cometer ese error específico, de la misma forma que si una persona suele cometer un error de forma consistente puedes formarle de nuevo en ello para que no lo cometa."
Volvemos al comienzo... ¿cómo verificas con suficiente exactitud que los algoritmos que genera la IA son equivalentes a los que metes como entrada?. Si fuese fácil de verificar, lo que dices tendría sentido, pero como no lo es...
Lo demás que dices no tiene sentido: "Researchers at DeepMind in London have shown that artificial intelligence (AI) can find shortcuts in a fundamental type of mathematical calculation". Que son problemas deterministas, no probabilistas...
#37 Estamos dando vueltas.
Si eres incapaz de verificar si el resultado es correcto entonces el resultado que has obtenido es indistinguible del correcto. ¿Qué más te da?
Y si puedes distinguirlo del correcto y ves que no lo es ¿Qué problema tienes?
En el contenido del meneo concluyen que encuentra caminos más rápidos para resolver acertijos porque conocen la velocidad de los caminos previos y conocen la velocidad de lo que da la IA. ¿Qué más necesitas?
#38 " Si eres incapaz de verificar si el resultado es correcto entonces el resultado que has obtenido es indistinguible del correcto. ¿Qué más te da?"
Me río... cómo te encanta tergiversar las cosas. Anda, ve a dormir y descansa, que te hace falta.
El problema está en: ¿cómo verifican esto?
Es decir, igual que un humano puede dar con una heurística que resuelva un problema complejo de manera sencilla a sabiendas de que en ciertas condiciones no te va a dar un resultado adecuado, pero que acotando puede ser una herramienta útil... ¿cómo sabemos hasta qué punto esa IA no está consiguiendo hacer lo mismo, pero de modo que no sepamos en qué condiciones esas soluciones no son buenas y no podamos acotar cuándo usar y cuando no esos resultados?. Porque podemos probar mil veces y darnos todas resultados correctos, pero basta conque un resultado sea incorrecto y lo demos por válido para crearnos un problema que puede tener repercusiones a muy largo plazo (¿recuerdan lo del famoso estudio sobre fármacos poco eficientes con el tratamiento del alzehimer que llegó a la conclusión de que todo se basaba en algo que se hizo mal y cuyos errores se siguieron propagando durante años? https://neurosciencenews.com/alzheimers-wrong-ab-21156/)
#8 El ser humano ha resuelto ese reto para los humanos con verificaciones independientes.
No lo consideramos conocimiento porque alguien muy listo lo diga, es necesario que eso sea verificado por otros. Para que una persona reciba una medicación recetada ha tenido que pasar múltiples controles con decenas y decenas de personas involucradas.
#11 Y se ha verificado independientemente y se ha encontrado el problema. Como varios lustros tarde. El problema ha sido todo el tiempo malgastado, la pasta que se ha palmado en desarrollos, producción de medicamentos, vidas perdidas, etc. por culpa de un solo error.
Las IA van a revolucionar muchismos campos de la insdustria. Entre eso y los telefonos, podemos estar a un par de decadas de una IA fuerte.
#21 ¿ Entre eso y los telefonos ?
#27 claro. La conjunción perfecta. Cada vez son mas potentes y hay miles de millones. Los llevas siempre encima y pueden aprender tus necesidades.
IA personalizada.
#29 Vale, no te había entendido. Sí, precisamente la suma de IA + teléfonos móviles ( y web + IA ) creo que es justo lo que se había explotado más al principio, pero hay muchos campos por explorar donde la IA puede aportar mucho que no tienen que ver con estos campos. Me parecía que mencionabas algo novedoso relativo a los móviles y que me había perdido el último "hype"
Ya no skynet... matrix cada día más cerca...
¿Problema P o NP? ¿O es que P=NP?