Me pagan para que arregle los desastres que causa la IA [ENG]

Sarah Skidd, redactora y especialista en marketing de productos, está ganando dinero extra corrigiendo textos generados por IA. En un reciente encargo, tuvo que rehacer completamente el contenido para un cliente del sector hotelero, que inicialmente había intentado ahorrar usando IA.

[#1 mente_en_desarrollo]

No. Te pagan para arreglar el desastre de los directivos que pensaban que podían sustituir trabajadores por IA.

La IA causa desastres solo si la usa gente sin la capacitación adecuada, y tiene tanta culpa como el cuchillo en un asesinato, como herramienta que es.

[#2 Abril_2025]

#1 La IA es como una herramienta, causa desastres si es defectuosa.

Si pagas por una IA que hace páginas automáticamente y funciona mal porque está defectuosa, entonces la IA te ha causado un desastre.

[#3 mente_en_desarrollo]

#2 Si no has hecho unas pruebas antes y/o no te has dado cuenta que la herramienta es defectuosa, el desastre lo has causado tú.

Una herramienta no causa desastres. Los desastres los causa el uso de esa herramienta.

Si la herramienta está mal, un profesional la cambia. Un inútil provoca un desastre (con esa herramienta, pero lo provoca él por usarla).

[#6 estemenda]

#3 Not a bug, it's a feature future.

[#8 Dragstat]

#2 #3 #5 Es que el problema de base es que los que deciden en las empresas se han tragado la propaganda y no lo ven como una herramienta, sino como un trabajador, y todavía no llega a tanto. Es lo que pasa cuando quieres comprar algo que no entiendes.

[#9 chavi]

#8 Ya.
Y el Marketing está siendo eficaz. La gente está dispuesta a tragar cualquier cosa.

[#19 gerjam]

#8 No es que todavía no llegue a tanto. La realidad es que los LLM tienen limitaciones esenciales y no existe ningún proyecto en marcha que se plantee poner soluciones a eso.

Los papers (investigación) que hay proponiendo cosas a hacer son de lo más genérico e inconcreto, pero sí que dan a entender la enormidad de la tarea.

[#12 Abril_2025]

#3 Puedes hacer cien pruebas y que falle la 101

[#5 chavi]

#2 No. La IA no es "como una herramienta". La IA es una herramienta

[#11 rojo_separatista]

#5, una herramienta que en manos de alguien que no sea un completo estúpido tiene el potencial de sustituir a varios trabajadores. Como trabajadores no deberíamos fiar nuestro futuro a lo mal que pueda funcionar la IA, esta batalla está perdida porque cada vez funcionarán mejor, deberíamos exigir un cambio se sistema.

[#20 gerjam]

#11 Eso de que cada vez funcionarán mejor no lo veo venir por ningún lado. No existe ningún camino que lleve a ninguna clase de mejora. De momento, el meterle más información hace que razone peor.

[#23 rojo_separatista]

#20, esto es porque no debes estar muy atento al estado del arte. No hay mes en el que no aparezcan modelos que superan a los anteriores. Los resultados en benchmarks de todo tipo hablan por sí solos.

artificialanalysis.ai/leaderboards/models  

[#24 gerjam]

#23 No hay nadie defendiendo que los LLM sepan razonar. Sí que hay muchos papeles demostrando que no lo hacen. Incluso los que critican a los anteriores dicen que se trata de una ilusión.

9to5mac.com/2025/06/13/new-paper-pushes-back-on-apples-llm-reasoning-c

Ni siquiera el chain of though ayuda en nada, pues falta la capacidad de reconocer la causalidad. El lio es especialmente gordo si se trata de relaciones temporales. Los modelos no tienen ninguna vergüenza de…   

[#25 rojo_separatista]

#24, No hay nadie defendiendo que los LLM sepan razonar...

Geoffrey Hinton, premio Nobel de física por sus descubrimientos en el campo de la Inteligencia Artificial: youtube.com/shorts/LuNN32Tmc9c?si=7QylClTso3_t0yfp

[#26 gerjam]

#25 Sí, vale, quiero decir hype aparte. Nada de lo que dice este tipo se sostiene ni de lejos. La contradicción con todos los estudios que hay sobre esto es total.

Habrá otros diciendo los mismos salmos místicos. No significa nada. Lo que no es medible no existe.

[#27 rojo_separatista]

#26, claro que se sostiene, lo que no se sostiene es lo que tu dices, de que los modelos no están mejorando.

Te vuelvo a repetir puedes mirar cualquier benchmark y verás que de forma sostenida en el tiempo el desempeño de los modelos está mejorando.

En ciencia las aseveraciones hay que sostenerlas con experimentos y el paper de Apple (que no ha sido publicado en ninguna revista científica) ya está desacreditado por su metodología ya que no tiene en cuenta el límite de tokens de los modelos…   

[#13 Abril_2025]

#5 Claro, es un califa en lugar de el califa.

[#15 Edheo]

#2 Si te pensabas que, pagando 10 o 100 veces menos, ibas a obtener un resultado igual o mejor que antes, y luego te das cuenta que, al igual que con tus antiguos empleados, el problema de la IA, es que no sabes ni lo que le pides, y por eso generas un desastre, resulta que "tú has sido víctima, del propio desastre que eres".

Una IA, no es defectuosa necesariamente, por hacer mal "su trabajo", sino que no nos damos ni cuenta, del sinsentido que nuestra ambición nos mueve, y…   

[#21 gerjam]

#15 El problema de la máquina parlanchina es que usa el lenguaje natural. Estamos condicionados a asociar el lenguaje con la capacidad de quién habla. Sin embargo esta relación no funciona para un LLM. La consecuencia de esto y del hype es que se le suponen capacidades que no tiene.

[#22 Edheo]

#21 Toda la razón del mundo... eso no la convierte en una herramienta inútil, pero si genera expectativas en según "qué iluminados", que luego, no ajustan a la realidad.

[#4 chavi]

#1 Exactamente. Como cualquier otra herramienta.

[#16 Edu_Camavinga]

#1 amén hermano. Van a hacer falta programadores y de todo a muerte como sigamos así. La sociedad del bug.

[#17 spacos]

#1 La IA, a dia de hoy, es un juguete caro. Yo la uso para programar y me hace perder mas tiempo que otra cosa. Al final la he relegado a hacer de buscador rapido, porque el codigo que generaba era/es basura. Los que no tienen ni idea de IA creen que es una herramienta magica, pero solo es un pegote de datos. Me recuerda un poco al hype de los cripto bros

[#18 Abril_2025]

#17 La estás usando mal, entonces.

Todos los programadores del planeta estamos dejando de usar stackoverflow para usar inteligencia artificial porque te da mejores resultados en menor tiempo.

Si a ti te hace perder el tiempo la única explicación es que no la usas bien.

[#28 spacos]

#18 Eso sera Bro.... por cierto, que parte de la "he relegado como buscador rapido" no has entendido?.

[#10 endy]

La gente de Bart

[#7 gerjam]

Sin embargo hay empresas donde el directivo se ha tragado el hype y obliga a todos los empleados a usar IA. Supongo que lo que hacen es hacer el trabajo por un lado y lanzar las peticiones requeridas a la IA para que parezca que la están usando.

[#14 Maisentong]

La IA genera buen contenido, mucho mejor que el de muchos escritores que apenas dominan el idioma... pero debes revisarlo antes de publicar.