El absurdo conceptual de evaluar a los algoritmos como a los humanos

Que a los humanos nos resulte sorprendente que un algoritmo sea capaz de pasar un examen que consideramos complicado entra dentro de lo razonable. Sin embargo, si analizamos la forma en la que aprende un algoritmo, la cuestión resulta mucho más fácil de entender: en primer lugar, hablamos de algoritmos entrenados con una enorme cantidad de información, prácticamente con todo texto que encuentran en la red, excluyendo únicamente algunos casos evidentes.

[#2 hey_jou]

Ya lo dije en otro meneo: las mal llamadas inteligencias artificiales para mí no dejan de ser textos predictivos altamente refinados y con una base de datos inimaginable para una persona media.

La "inteligencia" se la damos nosotros al interpretar sus textos/audiovisuales; por eso no hace falta crear una verdadera conciencia artificial para engañar al ser humano, basta con que lo "parezca" lo suficiente como para que nosotros le demos esa veracidad.

[#4 Barbol_Pelao]

#2 Al respecto recomiendo un vídeo muy interesante del Kyle Hill:

[#10 suzudo]

#2 Otras predicen imágenes, otras sonidos, hay las que componen y ¿Cómo funciona el cerebro prediciendo la realidad y que es mejor hacer a bajo nivel? Pues de la misma forma. La consciencia es otra cosa. Es un truco integrador de todas las capacidades como un todo donde a una IA que sabe jugar al ajedrez y más cosas, le explicas como dirigir el tráfico en palabras y a pones, identifica las cosas, si no las conoce pregunta y te lo hace primero con algún error y te pregunte o que dude y luego lo haga cada vez mejor y al regresar y sin problema juegue al ajedrez y las demás cosas como siempre y además de uno de sus saberes adquiera ideas para otra de las tareas sin aparente relación....

[#1 igorymi]

Me ha resultado muy ilustrativa la.comparacion con el notario. Viene a decir que tener mucha memoria, no capacita para tener las habilidades que requiere el trabajo a realizar.

[#3 hrundil]

Siempre va a haber alguien que diga que lo de las IAs no es inteligencia porque patata pero la verdad es que cada vez hacen más y más cosas que hasta hace poco parecían reservadas solo a los humanos. Discutir si lo llamas IA o generador automático de contenido me parece que es perder el tiempo en discusiones filosóficas.

[#5 Galton]

#3 Ya pero el problema no está en que las hagan... está en ¿Por qué las hacen? Dicho de otra forma cuando una IA responde a una pregunta tendría que responder a la pregunta... ¿Por qué dices eso?

[#6 gambader]

#5 ¿La gallina?

[#7 hrundil]

#5 no entiendo a qué te refieres. Por cada cosa que una IA como ChatGPT hace mal puedes encontrar montones de humanos que lo hacen peor.

[#8 hey_jou]

#7 te repito el ejemplo de las manos: una IA dibujará una persona con seis dedos porque en su base de datos tiene millones de manos y entra dentro del "margen de error", no lo considerará erróneo. Una persona dibujará seis dedos, o cuatro, como el creador de los Simpson, pero será una decisión intencionada aún sabiendo que es un "error" por motivos variopintos: desde licencia artística o porque se trata de un niño que está aprendiendo a dibujar.

Eso no significa que una IA no sirva para nada: es capaz de hacer muchísimas cosas bien sin que nosotros sepamos cómo realmente lo hace, como encontrar tumores en radiografías que médicos profesionales son incapaces de ver.

Pero en muchos otros conceptos como las manos aún carecen de la "lógica humana", simplemente son máquinas predictivas muy muy bien hechas. Eso no tiene por qué ser malo per se, pero aplicarles una humanidad que no tienen puede llevar a desastres en según que temas.

[#9 hrundil]

#8 Entonces a un niño se le perdona que dibuje una mano de 6 dedos porque está aprendiendo pero si lo hace la IA es signo de que carece de "lógica humana". Muy arbitrario. Que por cierto las IAs más recienten pueden dibujar las manos con todos sus deditos.

Os jode que se le llame "inteligencia" y buscáis cualquier resquicio al que aferraros. A mí me da igual cómo se le llame pero si la gente lo llama IA pues me adapto. Cuando yo estudié redes neuronales en la universidad hace 20 años el campo se llamaba reconocimiento de formas o patrones que creo que es el nombre más descriptivo que pueden ponerle. Luego pasó a llamarse a Machine Learning, IA o lo que sea. No me preocupa lo más mínimo el nombre que tenga la tecnología y os aconsejo que os dejéis llevar también por que si no acabaréis frustrados como los que comentan cada vez que pueden que no hay que decir hacker porque en verdad un cracker.

[#11 hey_jou]

#9 ¿? ¿por qué esa agresividad? no estoy en contra de las IA ni mucho menos, simplemente quería dar mi opinión, obviamente llegará un punto que serán mucho mejores que nosotros en muchos más aspectos que los actuales, pero es innegable que las futuras IA's seguirán un camino muy diferente a la lógica humana, porque nuestra lógica es muy particular y ha evolucionado teniendo unas limitaciones memorísticas que las IA actuales ya no tienen, no creo que haya dicho un disparate para que te pongas tan a la defensiva.