Pues porque no puede razonar. No es una de sus capacidades. No tiene nada que ver con los outputs que dé. Lo que no puede ser, no puede ser y además es imposible. Espera que lo busco.
La frase «Lo que no puede ser, no puede ser y además es imposible» se le atribuye al matador de toros español Rafael Guerra, conocido como "Guerrita"
Tiene que ver con su diseño. No hay empirismo que valga. Una lagartija no puede volar por muchísimo que pudiera parecerlo. Es que no tiene alas, pues. Espera que lo busco.
El uso de "pues" al final de la frase lo usan en castellano los hablantes de quechua para poder traducir "kay" que significa certeza en una afirmación.
vuestras creencias son irrefutables
El que un LLM no puede razonar no es una creencia. Es entender el funcionamiento de una red neuronal. Más bien el creerse que razona a partir de sus outputs lo sería.
la realidad va a aplastar a cualquiera que pretenda ponerse por delante
La realidad va a aplastar, aunque no sé cómo, a los que han invertido fortunas inmensas en esto. Por supuesto que lucharán, pero estamos en lo que dijo el torero.
#48 Este truco es ya conocido. Los benchmarks y los concursos se arreglan metiendo esos datos en el entrenamiento. Luego le pones un test realmente original y aterrizan con el morro.
Esto no es posible sin un cambio de tecnología. Google está anunciando una red neuronal que se automodifica mientras trabaja, es decir que tendrá "capacidad de aprender". No hace falta ser un genio para ver que esto tendrá sus problemas propios.
#53 Pienso en gran parte como tú. Esto no es una nueva revolución industrial o revolución de la información. En ambas se conseguía una gran mejora de las herramientas que llevaban a un salto en la productividad. En la nueva revolución (la de la IA) que se está gestando, pienso que sí que se terminará reduciendo la cantidad de trabajadores necesarios de forma exponencial. Para mi, la distopía más preocupante que tenemos cerca es la de Elysium, y cada vez la veo más y más posible.
#24 En una donde, por pura aplicación practica del capitalismo liberal, cuando te quedes en el paro indefinidamente te van a decir que "es el mercado, amigo!" y vas a tener que costearte reconstruir tu vida mientras intentas no morir de hambre. Lo que me lleva a pensar en alrededor del momento en que el patrón oro dejó de ser los cimientos del dolar y empezaron a cantar "comunista el que no bote" (¿guerra de vietnam, mas o menos?). A partir de ahí, cuesta abajo y sin frenos... crisis energetica del 75, minicrisis de la bolsa de los 90, burbuja.com del 2000...
#36 Es lo mismo que con la deslocalización de la fabricación. Pan para hoy y hambre para mañana. Si se deja las decisiones estratégicas en manos de las empresas, los inversores tendrán mucho dinero en poco tiempo, pero a la larga, la economía y los países se irán directos al hoyo.
#274si el razonamiento fuera algo caótico, cuando planteases un problema a 100 personas, tendrías 100 soluciones
He dicho que tienen componentes caóticos que no comprendemos. Eso se simula en las IA con un grado de aleatoriedad. Pero es una mala simulación.
Si no lo tuviera, todo el mundo tendría siempre las mismas soluciones a todos los problemas y jamás avanzaríamos ni científica ni tecnológicamente.
#46 No hay saltos cualitativos. No son pocos los clientes que se quejan de que los avances, si es que los hay, son cada vez más lentos y costosos. Por no hablar de un truco que es más viejo que mear de pie: el dumping. Poner el modelo "bueno" accesible mientras por detrás se le mete un consumo bestial, si es que no se meten a operadores humanos escondidos, y luego rebajar la calidad porque eso no era sostenible.
Vender que algo está marchando y que sólo necesita dinero para acabar de desarrollarse es un truco viejísimo en esta industria.
Gustoso me comeré el owned si veo resultados tangibles consolidados. De momento no hemos pasado de meras promesas, y yo tengo una edad y el patrón me lo conozco de sobra.
FOMO. Cuando la cortina de humo aún no empieza a desvanecerse, muy pocos dan el paso de decir que se bajan del carro porque era una fábula. Muy pocos se atreven a ser tomados por locos, tontos, o peor. Tampoco quieren quedarse fuera. Hasta el día que el tufillo se empieza a acumular, pasa el tiempo sin cumplir lo prometido, y llega el inevitable día en que alguien grita "el emperador va desnudo".
Si la mitad de lo prometido de la IA fuese cierto, hace no años, sino décadas que lo habríamos visto.
Yo ni me molesto en profetizar algo que sé seguro que va a venir. Como mucho me encojo de hombros y contesto "vosotros mismos". No es una cuestión de discutir quién tiene razón, eso a mí me la bufa. Es una cuestión de que Loretta no puede parir por mucho que quiera, porque no tiene matriz.
#270si surge de procesar información, es que obedece un patrón
No necesariamente.
Puede haber muchas otras cosas que alteran el resultado y que son caóticas.
La realidad es que no sabemos que ocurre ni como ocurre. De modo que afirmaciones sobre como surge todo lo que ves son gratuitas.
La IA, como complemento para un profesional que ya tiene experiencia, ayuda para algunas cosas.
Pero esto no es lo que ha entendido más de un empresario. El cuento que se ha vendido es que la IA se puede hacer cargo de todo y se puede empezar a despedir gente en masa. En cuanto que se les diga que no va a poder prescindir de tantos trabajadores humanos como le gustaría, que al experto le va a seguir necesitando, y al junior también porque si no dentro de X años el senior se jubila sin relevo...
...ah, que esto no era lo que me habían vendido, que sigo teniendo que currar y responsabilizarme de mis decisiones. Fuera.
En su día ya viví la fiebre del TDD como herramienta mágica para que hiciesen falta menos programadores para conseguir resultados de calidad. Hace tiempo que ni se le menciona. El problema es el mismo. El que tiene experiencia, o al menos tiene cabeza, sabe que el progreso suele ser lento y costoso. El tarugo quiere atajos. Y cuando ve que la enésima fumada tampoco sirve de atajo, la abandona con lo malo y lo bueno que tenga.
#35 Confiar en el sistema automático sí que es una idealización. El humano con más o menos esfuerzo puede encontrar su propia pifia o la de otro humano. Comerse el error de un sistema automático es muchísimo más duro.
Por eso la tasa de uso de la IA en grandes empresas ya baja.
esto es como tener fe en el más allá. Yo la verdad es que no veo donde va a encajar la mayoría de la población si estos modelos siguen mejorando y la robótica también.
#9 y #18 a día de hoy la IA no sustituye a un senior, y a saber si lo hará y cuando, yo no apostaría todavía a que no se necesitarán seniors dentro de pocos años
#24 Pártete de risa si quieres. No diré aquello de 'quien ríe el último', porque las consecuencias cuando el suflé se desinfle no van a ser precisamente divertidas.
¿Les suena el asuntillo de los cribados de cáncer en Andalucía? NTT Data está detrás de eso. No va a ser un problema de que se abandonen apps para hacer fotopies, va a ser un problema de sistemas que cubren servicios básicos que estarán rotos.
En este sentido tenemos también la última caída de AWS con media internet paralizada por una actualización con una consulta SQL mal hecha.
Que algunos peinamos canas y ya nos conocemos estas filfas.
#12#14 se necesitan seniors a dia de hoy (IT), imagínate dentro de 20 años (ni 10), y las empresas SI son gilipollas, no todas claro. Las cárnicas (hablo de IT) que venden al peso se la suda, porque si ya te colaban junior como senior, ahora se apoyarán en la IA para decir que ese junior es super senior.
#11 Como todo, conozco a algún compañero que tiene un cliente "legacy" que no se va a ir (piensa en grandes empresas con procesos batch por ejemplo), pagan bien y poco trabajo una vez te haces a ello, complementa con algún proyectillo nuevo aquí y allá y listo. Ahora, si me dices mantener una aplicación "vibe coded" de una startup que no sabes si va a sobrevivir en 6 meses... pues evidentemente no.
#9 La IA tal como está planteada es una absoluta filfa. No es negacionismo.
Mis compañeros y yo estamos de acuerdo en que en ciertos casos es un buen asistente para alguien que ya sabe. Pero es una pésima fuente de aprendizaje para quien no sabe. Estamos muy, muy lejos de que se solucionen las alucinaciones y las pruebas. La IA ahora mismo no es más que un buscador vitaminado, un LLM que desde hace no mucho sabe redactar y dar el pego, pero detrás de eso no hay más que un modelo estadístico que no verifica nada ni aprende de la experiencia.
Es decir, para que la IA nos sirva, precisamente necesitamos a trabajadores con experiencia que puedan sacar el jugo.
Pero la experiencia viene con muchos años de café y dolores de cabeza. No hay atajos ni "hacks" para llegar al conocimiento.
Y eso es lo que busca el profano: una fuente omnisciente de conocimiento que le libre de tener que pagar salarios, y también le libre de su propia estupidez dirigiendo una empresa. Que algunos ya peinamos canas y sabemos que la búsqueda de la Piedra Filosofal nunca acabó.
#77 vituwaf 
