Menéame: comentarios [4095259]

#49 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

jacinto9999 — Tue, 09 Sep 2025 21:36:32 +0000

#12
"Claramente documentadas,,, " Yo le pregunté por temas musicales, actuaciones públicas de una cantante actual ,,, y la mitad de las contestaciones eran falsas. y ESA FUE LA ÚNICA PREGUNTA QUE LE HICE CHATGPT-4, MÀS NUNCA.

» autor: jacinto9999

#48 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

--841870-- — Tue, 09 Sep 2025 20:08:07 +0000

Debería entrenarse con Meneame. Les pogresistes somos superiores moralmente e intelectualmente al resto. Somos un grupo privilegiado de cerebritos

» autor: --841870--

#47 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

TikisMikiss — Tue, 09 Sep 2025 18:41:51 +0000

#46 ¿Entiendes ya por qué cualquier persona con problemas preferiría irse a Cleverbot incluso (la versión viejuna de los 2000) antes que buscar un "humano"?

Me alegro al menos que hayamos refutado tu proposición inicial: JAMÁS hablar con un "humano" random de internet en una crisis de salud mental. Te agravará enormemente dicha crisis y de forma mucho más destructiva que el LLM más torpe o el chatbot más viejuno.

» autor: TikisMikiss

#46 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

Veo — Tue, 09 Sep 2025 18:39:53 +0000

#45 y para esto preguntas? para contar tu libro?

Vete a la mierda.

» autor: Veo

#45 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

TikisMikiss — Tue, 09 Sep 2025 18:33:28 +0000

#44 Ahora tú imagina que una persona con problemas va a hablar con una persona real, y se encuentra contigo. Tú respondes:

"Iba a responder pero es que tú comentario está tan, iba a decir equivocado, pero no es eso... fuera de fase, desacertado... que no tengo fuerzas de rebatirlo."

¿Entiendes ya que esa persona diga "coño, hablar con esta 'persona' y hablar con un gato me ofrece lo mismo: absolutamente nada" y busque formas más "inteligentes" de interactuar?

Por lo demás, ya te he explicado las razones técnicas de la zalamería de GPT y lo que se ha hecho para reducirla. Tienes papers al respecto.

Y cuando alguien tiene problemas debe acudir a un PROFESIONAL de la salud mental, no a una persona random de Internet (como tú o como yo, por ejemplo) que solo va a AGRAVAR su crisis de salud mental, porque no está preparada para lidiar con esa situación, ni para comprenderla, ni para responder a la misma, ni para absolutamente nada.

Y no sé si mi comentario suena como un "rebate" al tuyo o como si te estuviera discutiendo, porque no es así, en realidad te estoy dando la razón y explicando el por qué ocurren las cosas que dices, tanto a nivel técnico por un lado (el de GPT y cómo se trabaja en evitarlo), como a nivel emocional (por parte del "humano" que le habla y qué es lo que busca). Y a dónde se debe acudir en esos casos, que NO es un "humano random", entiendo que tu comentario era "busca calor humano", pero no, esa no es la respuesta. De hecho esa respuesta sería un fallo de GPT si lo dijera. Afortunadamente GPT hoy en día (no el 4o) te dirá lo mismo que yo: acude a ayuda de verdad.

» autor: TikisMikiss

#44 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

Veo — Tue, 09 Sep 2025 18:31:26 +0000

#43 Iba a responder pero es que tú comentario está tan, iba a decir equivocado, pero no es eso... fuera de fase, desacertado... que no tengo fuerzas de rebatirlo.

Simplemente digo que si estás mal es mejor hablar con una persona, aunque sea sobre fútbol, que con una máquina que, lógicamente, carece de empatía.

» autor: Veo

#43 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

TikisMikiss — Tue, 09 Sep 2025 18:10:29 +0000

#41 Ese tema que cuentas ya lo comenté yo con ChatGPT una vez, jeje.

Ese era un problema especialmente de 4o. Con modelos con CoT más centrado en interactuaciones "menos cálidamente humanas" por así decirlo (o simplemente que se enfoca más en analizar y responder cuestiones, aunque sea de forma "amable", que no en "ser amigo"), como el o3, había años luz con lo que te podía soltar el 4o.

Se supone que con GPT-5, además, cambiaron no solo el preprocesado sino también en el entrenamiento y las capas de seguridad para reducir la complacencia. O sea, no debería pasar lo mismo que con 4o, porque además se centraron bastante en situaciones como las que mencionas, de una persona con problemas intentando obtener validación de cualquier cosa. Lo de la "sycophancy" era uno de los problemas a resolver justamente por situaciones como la que describes.

Y lo de hablar con personas... una cosa es un profesional del ámbito de la salud mental, que está entrenado para lidiar con situaciones así. Otra cosa es cualquier persona, que puede ser bastante peor que GPT 4o o incluso que GPT 3.0, y despistarte muchísimo más aún.

» autor: TikisMikiss

#42 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

pip — Tue, 09 Sep 2025 18:03:06 +0000

#40 hay la probabilidad de cual es la siguiente palabra, pero siempre hay una siguiente palabra. No hay una probabilidad calculada ni calculable del que el "hecho" sea cierto, y la alta o baja probabilidad de todas las palabras no es un indicativo de esa certeza del hecho. Dicho de otra manera, el modelo puede calcular que "los mandrullos son normalmente de color rojo" con una probabilidad del 100%, si no hay suficiente entrenamiento en la red que desvíe los vectores hacia otra cosa, porque la red nunca ha aprendido fuertemente de qué color es un mandrullo, pero los vectores del contexto apuntan por ahí y casualmente, sale rojo.

» autor: pip

#41 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

Veo — Tue, 09 Sep 2025 17:50:52 +0000

#38 Imagina cómo puede afectar interactuar con una IA que comete errores, insiste en ellos y tiende a darte la razón en todo en mitad de una crisis de salud mental.

Por favor, si os ocurre cualquier cosa, hablad con personas, aunque sea a través de una pantalla, no con una máquina.

» autor: Veo

#40 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

chavi — Tue, 09 Sep 2025 17:50:32 +0000

#39 Si hay un cálculo probabilístico, hay una probabilidad.

No tengo ni idea si es posible hacerlo, pero no parece nada descabellado. Obviamente "parcheando" el sistema mediante "subsistemas" nuevos o lo que sea.

Como ya he dicho no tengo idea del tema.
No son mas que idas de olla....

» autor: chavi

#39 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

pip — Tue, 09 Sep 2025 17:47:05 +0000

#37 tal como está diseñado, no directamente. Es un poco lo que habla en el paper. Habría que hacer métodos indirectos como pasar todos los cálculos aritméticos por una calculadora normal (no AI) y comparar el resultado, y pasar los "factos" por una base de datos normal para verificarlos, etc... es un problema de muy difícil solución, porque los LLM, por muy espectaculares que sean, no dejan de ser un cálculo probabilistico de cual sería la siguiente palabra al texto introducido, y ya está. Parece increíble porque realmente aparentan pesar, pero el funcionamiento básico es solamente ese, probabilidad de qué palabra sigue.

» autor: pip

#38 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

TikisMikiss — Tue, 09 Sep 2025 17:43:35 +0000

#29 "No solamente en lo laboral, están ocurriendo desgracias por lo que comentas, es algo que me ha tocado de cerca. "

Cómo es eso?

» autor: TikisMikiss

#37 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

chavi — Tue, 09 Sep 2025 17:42:15 +0000

#36 A lo mejor sería posible incluírlo..... pero no tengo mucha idea en ese campo.

» autor: chavi

#36 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

pip — Tue, 09 Sep 2025 17:39:42 +0000

#31 el problema es cómo implementar eso. De la inferencia no sale nada que permita tener un grado de certidumbre sobre si la respuesta es precisa o no lo es. No es como un modelo segmentador de imágenes que te dice "es una cara humana con un 60% de probabilidad", porque funciona de forma distinta. El modelo LLM no calcula nada que pueda usarse para saber la certeza de la respuesta.

» autor: pip

#35 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

chavi — Tue, 09 Sep 2025 17:39:24 +0000

#27 El problema es que llegara...... a medias.

Y eso provocará muchos muchos problemas

» autor: chavi

#34 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

chavi — Tue, 09 Sep 2025 17:36:47 +0000

#21 Exactamente. Hay que ver en qué circunstancias esta herramienta es útil y cuando no.

Y muchas veces no es fácil

» autor: chavi

#33 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

chavi — Tue, 09 Sep 2025 17:34:37 +0000

#13 Ni sabe, ni deja de saber. Es un programa. Código.

Para "saber" tienes que tener autoconciencia.

» autor: chavi

#32 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

chavi — Tue, 09 Sep 2025 17:33:48 +0000

#12 Es útil, pero no es inteligente.
Y mucho menos más inteligente que un humano.
Es una herramienta.

» autor: chavi

#31 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

chavi — Tue, 09 Sep 2025 17:31:58 +0000

#18 Implementar un "No lo se" o un "No estoy muy seguro", incluso "con un grado de seguridad del ...%" no estaría nada mal...

Pero no vende.

» autor: chavi

#30 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

ChatGPT — Tue, 09 Sep 2025 15:50:52 +0000

#10 de antebrazo

» autor: ChatGPT

#29 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

Veo — Tue, 09 Sep 2025 15:41:25 +0000

#26 Ojalá, porque es una herramienta realmente útil. Pero se le está dando un aura peligrosa.
No solamente en lo laboral, están ocurriendo desgracias por lo que comentas, es algo que me ha tocado de cerca.

» autor: Veo

#28 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

TikisMikiss — Tue, 09 Sep 2025 15:36:59 +0000

#27 Eso mismo digo. El propio GPT decía lo de "junior con superpoderes", no senior. Y yo le doy incluso el rango de intermediate. Tiene "superpoderes" en el sentido de que es capaz de procesar muchísimo contexto y cambios en poco tiempo, y hacerlo de forma bastante potable, pero soy yo el que tiene el plan, el que entiende el plan, el que supervisa el plan, el que corrige el plan en última instancia. Él ahora tiene más capacidades que antes, e incluso es capaz de montar, por ejemplo, un plan de integración por pasos, que está bastante bien... porque parte de mi estrategia inicial y de mis pistas y del contexto que le he dado para concebirlo, y supervisando yo cada uno de esos pasos y corrigiendo si es necesario.

Es decir, lo que vengo a decir es que por un lado GPT ha tenido una evolución brutal y el modelo 5 pro es mucho más que el "asistente tonto que te ayuda en cosas muy específicas" que podía ser hace un año o año y medio, pero que como "él mismo" (por decirlo de alguna forma) apuntaba, no dejaría de ser un "junior con superpoderes".

Vamos, que sí, la seniority la tengo yo, y confío en que así siga siendo (y lo será mientras usen la misma arquitectura, eso está claro). Para poder ser él el que mantenga el expertise, decida y corrija de forma "consciente" (no hablo en sentido filosófico, sino pragmático), necesita otro paradigma.

El día que vea que eso peligre no será con transformers, otra cosa es hasta qué punto es factible que en un futuro próximo haya alternativas a los mismos que sirvan para una sustitución real de humanos. En caso de que ese día llegue, entiendo que esa IA verdaderamente inteligente entenderá que los primeros que sobran son los dueños de las empresas, el capital ya lo podrían acumular ellas mismas sin necesidad de esos parásitos. Pero ya hablamos de otra película, no de los transformers.

PD: Tema "IA" e "hiteligensia" aparte, si tienes la oportunidad de probar el 5 pro (con la suscripción teams de una empresa lo consigues por 20 pavos al mes) te diría que lo probaras. Lo mismo le digo a cualquiera que se dedique a código.

» autor: TikisMikiss

#27 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

pip — Tue, 09 Sep 2025 15:30:57 +0000

#25 pero eres tu el que sabe lo que hay que hacer y sabe si está bien o está mal, así que la "seniority" la tienes tu, no el LLM.
El dia que mi mujer (que es listísima, pero no sabe nada de programación), sea capaz de resolver mis tareas de Jira usando un LLM, ese día cantará otro gallo (sinceramente, no creo que nunca llegue ese día con los LLM. Con otra tecnología ahora mismo desconocida no puedo decir si sí o si no, porque... es desconocida).

» autor: pip

#26 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

pip — Tue, 09 Sep 2025 15:26:32 +0000

#23 todo el mundillo de la IA (empezando por el propio término de IA) es muy dado a esas metáforas imaginativas comparando los modelos con la inteligencia humana, y la cantidad de supuestos divulgadores sobre IA que han salido como setas, atribuyendo cualidades humanas que no tienen, no ayudan. Las empresas que necesitan monetizar las inversiones monstruosas que han hecho tampoco ayudan, claro.

Yo sospecho que en algún momento habrá un cierto "desencanto" con este tema, en el sentido de que acabará como una herramienta útil cuando se usa bien, pero se dejarán de ver como un oráculo mágico con poderes misteriosos.

» autor: pip

#25 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

TikisMikiss — Tue, 09 Sep 2025 15:25:47 +0000

#22 #24 PD: Y cuando hablo de "corrige" no me refiero a una instrucción o a una función, me refiero a añadir/integrar/adaptar muchísimas líneas de código. Partiendo de un código totalmente separado y teniendo que integrarlo en una base de código totalmente nueva con sus propias peculiaridades. Y lo hace bastante bien el hideputa.

Alguien me dice hace año y pico que iba a ser capaz de hacer eso y me río en su cara, porque estoy acostumbradísimo a ver las mancadas de GPT en mil y una cosas relativas a la programación, y especialmente en entornos complejos.

El propio GPT decía que lo tomara como un "junior con superpoderes". Con el GPT-5 pro casi que le tengo que dar la razón. E incluso tirando a intermediate.

Pero vamos, sigue y seguirá necesitando supervisión. Eso está claro mientras mantenga esa arquitectura.

» autor: TikisMikiss

#24 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

TikisMikiss — Tue, 09 Sep 2025 15:18:44 +0000

#22 "lo que yo hago como no me fio un pelo de lo que dice es pedir siempre links de referencia y lo verifico."

Eso mismo hago yo, además combino la "investigación en profundidad" entre respuestas. Es decir, primero hago varios prompts, me da respuestas, pido referencias. Luego pido el modo investigación en profundidad que funciona de forma "agnóstica" a los prompts anteriores (y enfocando en qué tipo de fuentes debe enfocarse y analizar la calidad de las mismas), y luego quito el modo y pido comparar las respuestas y la calidad de las fuentes. Luego hago yo mi propia búsqueda de papers actuales y busco alguno que pueda contradecir o matizar.

Haciendo todo eso al final consigo hilos bastante potables con GPT y con información que considero en general bastante buena en comparación tanto de búsquedas que hubiera podido hacer yo únicamente por mi cuenta como incluso en ciertas recopilaciones con cierta calidad.

Pero más allá de eso, nunca me fío, obviamente. Ni de "él" ni de nadie.

Para programación lo uso más como dices tú, casos muy concretos y aislados, algún pequeño script, comentarle sobre distintas soluciones o ver "qué se le ocurre sobre eso", a veces me suelta cosas que no me interesan, alguna vez suelta algo que me sirve como inspiración para hacer yo otra cosa.

Eso sí, en programación hay un cambio tremendo, y debo reconocerlo, de los modelos anteriores a los más actuales pero sobre todo al GPT-5 pro. El GPT-5 pro ha conseguido que pase de considerar que GPT era "retrasado mental", pasando por el o3 que consideraba como "pues ahora sí es un buen asistente aunque haya que seguir llevando cuidado" a llegar a un "me cagon sos, ahora sí que me ahorra muchísimo trabajo el cabrón... mejor no le digo nada a los jefes". Y hablo de cosas bastante complejas. Lo comparo también con el GPT-5 thinking normal de la suscripción plus personal que tengo yo (el 5 pro me lo dan en el curro) y se nota la diferencia, porque el 5 thinking funciona más o menos como el o3 y un poco mejor si sabes afinarlo, pero es que el pro te hace directamente el trabajo en muchas cosas y con una ventana de contexto amplísima.

Sigo teniendo que revisar todo, eso sí, y puede haber algún gazapo (no tanto errores/bugs de manco/loser como el haberse dejado cosas por meter en alguna integración), pero a poco que se lo señalo y meto todo el contexto, lo arregla muy finamente el pájaro. Nada que ver con lo que era GPT hace 1 año.

» autor: TikisMikiss

#23 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

Veo — Tue, 09 Sep 2025 15:17:52 +0000

Lo de llamarlo alucinaciones es de marketing brutal. Son errores, la IA comete errores. punto.

Y eso es un torpedo en la linea de flotación de quienes pretenden sustituir a los humanos por IA, ya que si la IA comete errores, y peor aún, no se da cuenta de ello, necesitas que la supervisen.

» autor: Veo

#22 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

pip — Tue, 09 Sep 2025 15:11:32 +0000

#21 lo que yo hago como no me fio un pelo de lo que dice es pedir siempre links de referencia y lo verifico. Y a veces da links que ni siquiera existen.

Para código yo no uso IA salvo casos muy concretos y muy aislados (como algún pequeño script que no tiene importancia). Si lo uso para que me oriente sobre posibles soluciones, pero luego voy a la documentación.

» autor: pip

#21 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

TikisMikiss — Tue, 09 Sep 2025 15:08:46 +0000

#16 El código dentro de lo que cabe puedes montarlo por pasos, auditarlo por tests, revisarlo en caso de fallo, etc. Si se equivoca puedes identificarlo (me refiero sin tener que estar activamente viendo cada respuesta que da, obviamente) y rectificar el enfoque.

Lo de la información, sin ser código, tienes también formas de "auditarla" en cierta manera. Claro que eso implica un trabajo iterativo de refinamiento y revisión de las respuestas (que en parte puede automatizarse pero en otra parte te toca a ti revisar lo importante)., siempre y cuando seas conscientes de esos problemas de arquitectura, claro.

Sobre lo otro que dices lo comento en #_19

» autor: TikisMikiss

#20 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

HeilHynkel — Tue, 09 Sep 2025 14:59:31 +0000

#18

No he dicho que sea perfecto, pero las respuestas son menos "imaginativas"(pueden ser una mierda igual, pero al menos, inventa menos)

Tú mismo has descrito muy bien como funciona el chisme este. Aunque lo cierto se le nota mejorar las respuestas día a día, pero aunque yo lo uso bastante, no pillo una respuesta suya sin comprobarla en la medida de lo posible.

Y lo de preguntar con detalle ayuda mucho, como le dejes libertad de interpretación ... te puede soltar cualquier cosa.

» autor: HeilHynkel

#19 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

TikisMikiss — Tue, 09 Sep 2025 14:58:42 +0000

#12 En temas de programación lo más gracioso es que es indistinguible una "alucinación" en la que mete la pata que una en la que tiene razón.

Me explico, muchas veces me ha pasado (sobre todo en modelos anteriores: 3.5 y 4.0) el que me insista en algo erróneo que además pudiera ser "fácil de señalárselo" porque dicho error parte de un paso intermedio para dar la respuesta. Pongamos, por ejemplo, el cálculo de una distancia euclidiana. Yo le decía que añadiera ese cálculo de forma explícita en la respuesta, para ver si era capaz de calcularla, y resulta que lo hacía bien... pero el resultado final del cálculo (la distancia euclidiana solo era un paso intermedio) lo seguía haciendo mal, y seguía siendo por culpa de un cálculo erróneo de la distancia ecludiana, ya que el cálculo que él hacía para el resultado final no era el mismo que el que hacía para mostrármelo de forma explícita en los pasos de la respuesta.

Incluso pidiéndole que utilizara el mismo cálculo que él mostraba en los pasos de la respuesta (que sí era correcto) para el cálculo final, se perdía, no era capaz, porque el que usaba para el resultado final estaba muy acoplado a su arquitectura como modelo de respuesta estadística, y no podía separarlo en una utilidad aparte como sí podía hacerlo para mostrarlo en un paso intermedio de la respuesta.

Por esta misma regla, alguna vez me pasó que me insistía con algún cambio o sugerencia en alguna instrucción que al principio yo consideraba que era erróneo, yo le insistía en que eso era erróneo y que lo eliminara de sus respuestas / cambios, y él me daba la razón pero lo seguía incluyendo en sus respuestas. Resulta que en ese caso él "tenía razón" y por eso seguía insistiendo e insistiendo en la respuesta que estadísticamente consideraba más acertada (estoy simplificando en un todo cuando realmente es una cadena de tokens, pero sirve para entenderse), siendo incapaz de rectificarla.

Esta incapacidad aplicaba, por tanto, tanto cuando se equivocaba como cuando tenía "razón".

Realmente es que una IA "siempre alucina", es decir, da una respuesta probabilística por su arquitectura y nosotros hacemos la interpretación de corrección o incorrección.

Por eso en modelos más nuevos, a pesar de tener la misma arquitectura y los mismos problemas de fondo, se intenta evitar algunos de estos problemas, como por ejemplo el de este tipo de respuestas que requieren cálculos intermedios, utilizando componentes separados: el típico script que ves que monta al vuelo en el CoT y que usa como paso intermedio para su respuesta (lo que yo le "solicitaba" en prompt pero que no era capaz de hacer por él mismo).

PD: Y efectivamente, para temas de teoría, temas académicos, temas con amplia documentación detrás (que además le puedes reforzar con distintos enlaces, combinando "investigación en profundidad" con un análisis posterior del propio modelo a los resultados de dicha "investigación en profundidad", etc etc, sí es cojonudo. Eso aplica a todas las disciplinas científicas. Pero hay que usarlo con ojo especialmente con las fuentes aportadas y con otras fuentes potenciales, haciendo que analice las mismas como pasos intermedios, y luego contrastando los resultados nuevos como pasos previos a los siguientes, para poder usar bien su potencial.

» autor: TikisMikiss

#18 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

pip — Tue, 09 Sep 2025 14:56:27 +0000

#1 la temperatura es un parámetro de API pero no se puede cambiar via prompt, hasta donde yo sé (como hay mil trucos de preproceso y postproceso, igual alguien "intercepta" el prompt y auto-ajusta, puede ser).

En cualquier caso la baja temperatura lo que hará será reducir la aleatoriedad final en la elección del token más probable pero eso no te libra de respuestas incorrectas, que dependen sobre todo de la falta de corpus sobre ese particular que estás preguntando, de corpus erróneo, de prompt ambiguo, o de todo a la vez.

» autor: pip

#17 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

pip — Tue, 09 Sep 2025 14:51:46 +0000

#15 no, no hay ninguna rama. Es un modelo básicamente basado en una cadena de transformers que acaban consiguiendo sacar la siguiente palabra estadísticamente más probable para el contexto (el prompt) introducido. No hay lógica de decisiones como tal, solo multiplicaciones de vector por matriz, matriz por matriz, softmax y algunas otras cosillas, pero es programacion funcional pura entrada ->operaciones matemáticas siempre iguales->salida.

» autor: pip

#16 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

pip — Tue, 09 Sep 2025 14:49:50 +0000

#12 claro. Es que en realidad no es que a veces invente, es que siempre inventa, o siempre no inventa, como quieras verlo: el algoritmo siempre funciona igual. Lo que te dando es la respuesta estadísticamente más plausible (con un poco de azar introducido adrede para que parezca más humano). Como es esencialmente una respuesta estadística, el modelo ni sabe ni deja de saber si es verdad o es mentira o qué. No sabe nada, solo se calculan probabilidades.

Por eso cuando haces consultas sobre cosas que no están en el corpus de entrenamiento falla más: porque te das cuenta, y especialmente das cuenta en el código, que no funciona.

En lo que no es código puede ser aún mucho peor porque la información es falsa y ni lo sabe él, ni lo sabes tu. Tiene mal arreglo, es intrínsico a como funciona el modelo.

» autor: pip

#15 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

Lyovin81 — Tue, 09 Sep 2025 14:45:30 +0000

#13 No sé si sabe algo realmente... Ni cómo funciona internamente y si de alguna manera en su programación o lo que coño use habrá una "rama" por la que tira para inventarse cosas, pero igual si que se puede parametrizar eso y que no invente la iaputa.

» autor: Lyovin81

#14 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

TikisMikiss — Tue, 09 Sep 2025 14:45:25 +0000

#7 Que el 4 no sé, pero a mí me gustaba más el o3. Algo le han hecho...

» autor: TikisMikiss

#13 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

Tarod — Tue, 09 Sep 2025 14:43:14 +0000

#12 Acaso sabe que se lo está inventando?

» autor: Tarod

#12 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

Lyovin81 — Tue, 09 Sep 2025 14:40:47 +0000

#11 se la suda, yo le pregunto cosas de programación de shaders muy específicas y se inventa las respuestas aunque le digas que prefieres que reconozca que no tiene ni idea.

Ojo que para otras cosas de programación como librerías de C o incluso cosas del kernel Linux te da unas respuestas cojonudas. Si son cosas documentadas te hace unas explicaciones de la hostia y lo entiendes todo y funciona la mayoría de las veces el código de ejemplo que hace.
NO es para usarlo directamente sin revisar y ajustar, pero los ejemplos son buenos.
Pero como le preguntes cosas que no estén claramente documentadas...pues inventa y es un porculo porque al final te hace la picha un lío y te hace gastar tiempo a lo tonto.

» autor: Lyovin81

#11 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

Popsandbangs — Tue, 09 Sep 2025 14:39:57 +0000

Le dices que no alucine y que no se invente cosas y arreando

» autor: Popsandbangs

#10 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

Lyovin81 — Tue, 09 Sep 2025 14:39:18 +0000

#2 salu2

» autor: Lyovin81

#9 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

Suikoden — Tue, 09 Sep 2025 14:37:39 +0000

Indícale que "si no lo sabes reconócelo, que no pasa nada." Dudo que lo entienda al ir en contra de su función.

» autor: Suikoden

#8 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

davidvsgoliat — Tue, 09 Sep 2025 14:35:21 +0000

De hecho, yo, cuando necesito una respuesta sí o sí, le pongo el prompt: "Ponte en el rol de un cuñado de barra de bar que sabe de todo y dime..."

» autor: davidvsgoliat

#7 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

Visca — Tue, 09 Sep 2025 14:32:17 +0000

chatgpt5 es mucho peor que el 4 en este aspecto <.< Incluso para preguntas que tienen respuesta, a menudo prefiere inventar.

» autor: Visca

#6 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

SeñorPresunciones — Tue, 09 Sep 2025 14:30:11 +0000

¿Yendo a buscar a una enciclopedia?

» autor: SeñorPresunciones

#5 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

javibaz — Tue, 09 Sep 2025 14:25:35 +0000

¿No usándola?

» autor: javibaz

#4 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

Kantinero — Tue, 09 Sep 2025 14:23:44 +0000

No tengo, Caralibro, ni X, ni Instagramo, ni Tiqtoc, ni Guguel, ni I A, ni la puta que lo parió como diría Sabina

» autor: Kantinero

#3 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

daniMate — Tue, 09 Sep 2025 14:23:33 +0000

Como todo cuñao debe dar una respuesta aunque no tenga ni idea del tema.

» autor: daniMate

#2 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

ChatGPT — Tue, 09 Sep 2025 14:20:42 +0000

jajaja Pa ke quieres saber eso?

» autor: ChatGPT

#1 ¿Por qué la inteligencia artificial se inventa cosas y cómo podemos evitarlo?

HeilHynkel — Tue, 09 Sep 2025 14:19:52 +0000

Con el prompt "usa temperatura baja"

» autor: HeilHynkel