Menéame: comentarios [3813525]

#163 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

chavi — Thu, 25 May 2023 17:33:26 +0000

#162 sobre un campo en el que no tiene ni puta idea. Quizás la estadística, la ciencia y la ingeniería no sean para ti.

Deja la Ciencia Ficción y estudia.

» autor: chavi

#162 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

--424592-- — Thu, 25 May 2023 15:18:40 +0000

#87 Mira un tonto haciendo comentarios necios sobre un campo en el que no tiene ni puta idea. Quizás la estadística, la ciencia y la ingeniería no sean para ti.

» autor: --424592--

#161 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

--653127-- — Sun, 21 May 2023 22:03:47 +0000

[Usuario deshabilitado]

» autor: --653127--

#160 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

--653127-- — Sun, 21 May 2023 21:56:58 +0000

[Usuario deshabilitado]

» autor: --653127--

#159 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

--653127-- — Fri, 19 May 2023 09:42:47 +0000

[Usuario deshabilitado]

» autor: --653127--

#158 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

rojo_separatista — Fri, 19 May 2023 08:52:05 +0000

#157, creo que debería decir que dejo esta conversación porque me empiezas a dar pena, pero la verdad es que mentiría, lo hago porque me he aburrido de hablar contigo porque como ya te he dicho mil veces no tienes nivel, no tienes ni idea de nada de lo que te he comentado y te limitas a poner los ejemplos más tontos que te vienen a la cabeza, cuando te explico que no tienen puto sentido dices que no he pillado el símil y vuelves a poner otro ejemplo todavía más tonto. Hasta en la forma de insultar se notan tus carencias intelectuales.

En fin, como este hilo está tan hundido y ya no lo va a leer nadie más, que es lo que en el fondo me interesa, voy a pasar de seguir respondiéndote. Así, que no voy a seguir hablando contigo por aquí, si me hablas en otro hilo a lo mejor te contesto, pero si eres tan maleducado y vehemente como has sido aquí, te seguiré humillando con tu falta de conocimientos, así que reflexiona sobre si es lo que más te conviene.

» autor: rojo_separatista

#157 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

--653127-- — Fri, 19 May 2023 08:41:52 +0000

[Usuario deshabilitado]

» autor: --653127--

#156 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

rojo_separatista — Thu, 18 May 2023 14:45:17 +0000

#155,

¿Ves como no te enteras de nada? Comparar un hash con cualquiera de las representaciones que te he enumerado lo demuestra una vez más. Un hash no representa de ninguna característica que describa la naturaleza del objeto al que instancia. Los ejemplos que te he puesto sí. Con una representación latente puedes reconstruir una imagen cambiando el estilo artístico o generando un mapa de segmentación pero manteniendo la estructura original, con un mapa de activación puedes saber qué objetos hay en una imagen o con un word2vec puedes saber que la palabra perro está más relacionada con gato que con avión.

Pero tu, aparte de los insultos de rigor, has puesto el ejemplo más tonto que te ha venido a la cabeza. Sigue así campeón.

» autor: rojo_separatista

#155 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

--653127-- — Thu, 18 May 2023 14:31:31 +0000

[Usuario deshabilitado]

» autor: --653127--

#154 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

rojo_separatista — Thu, 18 May 2023 13:53:06 +0000

#153, vuelvo a aclararlo para dejar constancia, si sigo la discusión es porque me divierto contigo, no porque considere que estés al mismo nivel para discutir conmigo, aunque en cierto modo reconozco que puede ser un poco cruel por mi parte.

No sabes nada, no sabes que es un mecanismo de multi-atención, ni que es un softmax ni nada. Te he hecho una pregunta muy concreta y me has respondido una absurdidad genérica sobre probabilidades con lo que has ido pillando por allí demostrando que no sabes de lo que hablas.

No es que las redes de auto-atención tengan capacidad de abstracción. Es que está en la propia naturaleza de cualquier red neuronal el hecho de abstraer las características del conjunto de datos de entrenamiento, pero tu no te has enterado. ¿Qué crees que es un espacio latente o un mapa de activación más que una abstracción matemática de la características de una imágen? ¿Qué crees que hace un algoritmo word2vec más que abstraer las características semánticas de las palabras para poder compararlas entre sí? ¿Sabes que lo contrario a la abstracción es la concreción, que es lo que intentan evitar las redes neuronales artificiales a la hora de aprender? Y hablando de la wikipedia te iría bien darle un repaso, porque estás muy falto de conceptos básicos. Se ve que tu red neuronal se quedó estancada en los insultos, porque parece ser que vas justo de todo lo demás.

PD: si sigues contestando te voy a seguir humillando, al menos hasta que me canse. Tu sabrás si te interesa seguir por este camino.

» autor: rojo_separatista

#153 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

--653127-- — Thu, 18 May 2023 13:26:38 +0000

[Usuario deshabilitado]

» autor: --653127--

#152 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

ChukNorris — Thu, 18 May 2023 07:24:35 +0000

#143 Ya puedes ponerle comillas a esa "Inteligencia" ....

» autor: ChukNorris

#151 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

ChukNorris — Thu, 18 May 2023 07:17:30 +0000

#22 El invent es lo de "mano de obra barata, gente sin excesivas cualificaciones" .. .que no saben darse cuenta de una alucinación ... y además te inventas que las alucinaciones ocurren porque recibe ese feedback

#53 Un poco dice

» autor: ChukNorris

#150 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

--712564-- — Thu, 18 May 2023 07:13:35 +0000

#107 Una cualidad humana peyorativa... si te digo que alucinas, seguro que no te lo tomas bien.

» autor: --712564--

#149 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

--712564-- — Thu, 18 May 2023 07:11:10 +0000

#138 Al menos es un cagada alucinante.

» autor: --712564--

#148 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

HaCHa — Thu, 18 May 2023 07:09:45 +0000

#2 Inteligencia Cuñada.

» autor: HaCHa

#147 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

Jesucristo_cazavampiros — Thu, 18 May 2023 06:55:02 +0000

#135 mira te respondo por ultima vez porque si no te vas a pensar que tienes razon y todo. En tu comentario #59 no explicas absolutamente nada, lo unico que haces es descalificar cual malote de instituto. Se te ha explicado el motivo por el que estas IA tienden a inventarse algo de lo que no estan seguras, pero por un lado no quieres entenderlo, y por el otro eres demasiado tonto para entenderlo, asi que no voy a seguir perdiendo el tiempo. Al ignore y suerte contandole al
resto del mundo lo listo que eres y lo tontas que son las IAs.

» autor: Jesucristo_cazavampiros

#146 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

rojo_separatista — Thu, 18 May 2023 06:37:49 +0000

#145, lo dicho. Yo no soy tan presuntuoso y me quedo antes con lo que entiende la comunidad académica sobre lo que es la inteligencia antes que con tu propia definición.

» autor: rojo_separatista

#145 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

chavi — Thu, 18 May 2023 06:36:13 +0000

#144 No. El poner un nombre es... Poner un nombre, por las razones y motivos de quién lo pone.

Poco sabes tú de Marketing.

Si el sistema es inteligente el sistema haría preguntas y buscaría soluciones de modo espontáneo. No haría falta que la "comunidad científica se centrará en ello"

» autor: chavi

#144 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

rojo_separatista — Thu, 18 May 2023 06:33:29 +0000

#143, el poner un nombre te señala qué es lo que entiende por aquella cosa la comunidad científica. Y créeme, esta disciplina se lleva centrando en la resolución de problemas y no en que las máquinas se puedan hacer preguntas desde hace casi 70 años. ¿Se están equivocando?

» autor: rojo_separatista

#143 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

chavi — Thu, 18 May 2023 06:15:03 +0000

#142 El poner un nombre no otorga la funcionalidad por arte de magia.

Busca otro argumento.

Cuando una máquina programable o no sea capaz de crear nuevos problemas (hacer nuevas preguntas) y de investigar y encontrarles soluciones podremos hablar de "inteligencia".

Mientras, solo será un algoritmo en ejecución

» autor: chavi

#142 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

rojo_separatista — Thu, 18 May 2023 05:52:27 +0000

#140, y así es como vas jugando con el concepto de inteligencia para poder encasillarlo únicamente donde nos interesa.

Ya te he dicho que utilizamos vocabularios distintos. Para ti una máquina ni puede aprender, ni puede ser inteligente. Estaría bien que lo supiera la comunidad científica que se dedica a la Inteligencia Artificial y al Aprendizaje Automático. No sea que estén tirando toda su carrera por la borda por algo que no existe

» autor: rojo_separatista

#141 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

rojo_separatista — Thu, 18 May 2023 05:48:55 +0000

#136, en serio, déjalo chaval, que no paras de ponerte en ridículo. Que has demostrado que no tienes ni idea de lo que es una capa de auto-atención. Que desde luego no calcula ninguna probabilidad de nada. Esto lo hace la soft-max. Pero como no tienes ni idea de lo que es nada, de nada, pues tampoco te vas a enterar.

» autor: rojo_separatista

#140 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

chavi — Thu, 18 May 2023 05:28:04 +0000

#133 Que algo sea capaz de resolver problemas no lo convierte en inteligente.

Algo inteligente es capaz de resolver problemas.

No es tan difícil de entender

» autor: chavi

#139 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

--653127-- — Wed, 17 May 2023 22:29:02 +0000

[Usuario deshabilitado]

» autor: --653127--

#138 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

--653127-- — Wed, 17 May 2023 22:24:02 +0000

[Usuario deshabilitado]

» autor: --653127--

#137 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

--653127-- — Wed, 17 May 2023 22:12:18 +0000

[Usuario deshabilitado]

» autor: --653127--

#136 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

--653127-- — Wed, 17 May 2023 22:06:39 +0000

[Usuario deshabilitado]

» autor: --653127--

#135 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

--653127-- — Wed, 17 May 2023 21:40:49 +0000

[Usuario deshabilitado]

» autor: --653127--

#134 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

rojo_separatista — Wed, 17 May 2023 21:23:48 +0000

#124, sí lo ha aprendido. Porque nadie ha programado manualmente una regla para que diga que no lo sabe, sino que se le ha entrenado para que sepa decirlo.

Pero bueno, veo que tu solito te estás queriendo cargar una de las disciplinas más importantes dentro de la ciencia de la computación llamada Machine Learning, lo que en castellano vendría a ser Aprendizaje Automático, diciendo que las máquinas no aprenden. Un tanto presuntuoso la verdad.

es.m.wikipedia.org/wiki/Aprendizaje_automático

» autor: rojo_separatista

#133 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

rojo_separatista — Wed, 17 May 2023 21:18:22 +0000

#122, entonces en que quedamos? La capacidad de resolver problemas es un signo de inteligencia o no lo es?

» autor: rojo_separatista

#132 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

rojo_separatista — Wed, 17 May 2023 21:13:04 +0000

#128, la auto-atención es el proceso de cálculo de probabilidad de la ocurrencia de una secuencia de palabras en un lenguaje.

Espera que no he acabado.

Y con esto señores queda a la vista que este usuario no tiene ni puta idea de lo que es una capa de auto-atención.

» autor: rojo_separatista

#131 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

rojo_separatista — Wed, 17 May 2023 21:11:08 +0000

#129, que no tengas nivel para debatir es algo que esta a la vista de cualquiera que lea esta conversación. Pero que pagues tu frustración con insultos ya te sitúa en el terreno más absoluto de los patetismos. Así que no te humilles más a ti mismo y te recomiendo que lo dejes ya.

Aunque como en el fondo me lo paso bien contigo voy a seguir un poco, el ejemplo del libro es absurdo. Un libro no resuelve problemas, un modelo de lenguaje sí. Si eres incapaz de ver la diferencia deberías hacértelo mirar.

» autor: rojo_separatista

#130 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

--653127-- — Wed, 17 May 2023 21:00:24 +0000

[Usuario deshabilitado]

» autor: --653127--

#129 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

--653127-- — Wed, 17 May 2023 20:55:45 +0000

[Usuario deshabilitado]

» autor: --653127--

#128 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

--653127-- — Wed, 17 May 2023 20:40:55 +0000

[Usuario deshabilitado]

» autor: --653127--

#127 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

mettro — Wed, 17 May 2023 20:10:02 +0000

#126 no, no lo sabemos. Y si tú lo sabes ya estás tardando en escribir ese artículo de investigación porque te vas a hacer famoso.

» autor: mettro

#126 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

chavi — Wed, 17 May 2023 20:07:56 +0000

#125 Lo que sabemos es el límite que tiene.

» autor: chavi

#125 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

mettro — Wed, 17 May 2023 20:03:14 +0000

#87 creo que no eres consciente de las capacidades de la IA. Ahora mismo el límite al que puede llegar simplemente se desconoce y es difícil de imaginar.

» autor: mettro

#124 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

chavi — Wed, 17 May 2023 20:01:09 +0000

#119 No. No lo ha "aprendido".

» autor: chavi

#123 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

chavi — Wed, 17 May 2023 20:00:32 +0000

#120 Es tan fácil como señalar el / los posts

» autor: chavi

#122 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

chavi — Wed, 17 May 2023 19:59:45 +0000

#121 Para eso no hace falta chatGPT. Eso hace mucho que está demostrado

» autor: chavi

#121 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

rojo_separatista — Wed, 17 May 2023 19:47:33 +0000

#115, tienes que replantearte esto porque chatGPT nos ha demostrado que se puede resolver muchos problemas sin necesidad de ser consciente.

» autor: rojo_separatista

#120 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

rojo_separatista — Wed, 17 May 2023 19:46:43 +0000

#118, vaya, seré yo que te he malinterpretado.

» autor: rojo_separatista

#119 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

rojo_separatista — Wed, 17 May 2023 19:46:05 +0000

#112, no es tan así. Ha aprendido a decir, no se resolver esto y cada vez lo hace mejor.

» autor: rojo_separatista

#118 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

chavi — Wed, 17 May 2023 19:45:23 +0000

#114 No he hablado ni de "ansias de libertad" ni de "voluntad propia" ni de "preguntas trascendentales".

De donde has sacado todo eso?

» autor: chavi

#117 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

chavi — Wed, 17 May 2023 19:44:01 +0000

#116 Y qué?

Revisa tu razonamiento lógico

» autor: chavi

#115 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

chavi — Wed, 17 May 2023 19:43:18 +0000

#109 Es que eso es el fundamento de la inteligencia. Sin curiosidad no hay inteligencia.

La cualidad que te permite resolver problemas es la misma que te permite ver que hay un problema que resolver: La inteligencia.

Sin una cosa no existe la otra

» autor: chavi

#116 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

rojo_separatista — Wed, 17 May 2023 19:43:16 +0000

#113, el 99.9999% de humanos se pasan la vida resolviendo cosas que ya están resueltas y no por ello decimos que no utilizan la mente.

» autor: rojo_separatista

#114 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

rojo_separatista — Wed, 17 May 2023 19:41:25 +0000

#110, a mi me lo parece. Te centras en preguntas trascendentales, como si se hace preguntas, si siente curiosidad, ansias de libertad, voluntad propia, etc, etc. Para mí es más sencillo. ¿Qué problemas puede resolver?

» autor: rojo_separatista

#113 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

chavi — Wed, 17 May 2023 19:40:32 +0000

#111 Hablemos de tareas que requieren el uso de la mente para ser resueltas
Para eso es absolutamente inútil.

No resuelve ni una sola tarea que ya no esté resuelta.

» autor: chavi

#112 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

chavi — Wed, 17 May 2023 19:39:43 +0000

#102 a mi lo único que me interesa es que sean capaces de resolver problemas

Pues.enhorabuena. Resuelven algunos problemas. Y los que no, te dan una "solución".

Los problemas que "no han visto jamás" también te dan una solución. El problema es que en el 90% de las veces no es una solución válida

» autor: chavi

#111 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

rojo_separatista — Wed, 17 May 2023 19:39:25 +0000

#108, quizás cualificada o no cualificada sea un concepto difícil de concretar. Hablemos de tareas que requieren el uso de la mente para ser resueltas. Sí, esas son las que más amenazadas están por la inteligencia artificial y dado su nombre, no debería sorprender a nadie, sino se llamaría psicomotricidad artificial o cualquier otra cosa.

» autor: rojo_separatista

#110 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

chavi — Wed, 17 May 2023 19:37:13 +0000

#103 Yo hablo de.metafísica?

Vaya.

Lee otra vez.

» autor: chavi

#109 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

rojo_separatista — Wed, 17 May 2023 19:36:36 +0000

#101, pues entonces entendemos cosas diferentes, para mi eso que dices es la curiosidad. ¿Pero si para tí esto es la inteligencia, cual es la cualidad que permite resolver problemas?

» autor: rojo_separatista

#108 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

chavi — Wed, 17 May 2023 19:36:13 +0000

#105 Bueno, se puede ver de ese modo. El hecho es que reducen la necesidad de mano de obra, sobre todo de la menos cualificada.

Y no hablo de títulos

» autor: chavi

#107 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

chavi — Wed, 17 May 2023 19:34:46 +0000

#66 alucinar referido a una IA no es peyorativo, si no todo lo contrario. Le están atribuyendo una cualidad humana de la que carece

» autor: chavi

#106 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

chavi — Wed, 17 May 2023 19:33:26 +0000

#43 Claro que es sesgado. Lo objetivo es algoritmo erróneo

» autor: chavi

#105 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

rojo_separatista — Wed, 17 May 2023 19:30:49 +0000

#96, disminuir el tiempo de desarrollo equivale a comer parte de la tostada. Una parte que a medida que vayan mejorando estos modelos, será cada vez mayor para las IAs y menor para los desarrolladores humanos.

» autor: rojo_separatista

#104 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

chavi — Wed, 17 May 2023 19:30:14 +0000

#59 Las detecta... O no.

En la programación esto es un potencial problema a futuro muy grave

» autor: chavi

#103 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

rojo_separatista — Wed, 17 May 2023 19:29:42 +0000

#97, con guión o sin guión, difícilmente nos entenderíamos. Tu hablas de metafísica y yo de cuestiones medibles, demostrables y comprobables.

» autor: rojo_separatista

#102 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

rojo_separatista — Wed, 17 May 2023 19:28:50 +0000

#99, tu problema es que lo romantizas todo demasiado. A mi me da absolutamente igual que lo hagan en el sentido humano o en el sentido divino, a mi lo único que me interesa es que sean capaces de resolver problemas. Y desde luego que lo hacen. Me refiero, por supuesto, a problemas nuevos que no han visto jamás.

» autor: rojo_separatista

#101 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

chavi — Wed, 17 May 2023 19:28:23 +0000

#74 La inteligencia no es la capacidad de resolver problemas, si no de crearlos.

Es decir, la inteligencia no está en la capacidad de dar respuestas si no en la de hacer preguntas

» autor: chavi

#100 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

chavi — Wed, 17 May 2023 19:26:53 +0000

#72 Exacto. Lo que demuestra que las IA no tienen I, es que nunca "se equivocan".

No tienen esa capacidad

» autor: chavi

#99 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

chavi — Wed, 17 May 2023 19:25:16 +0000

#8 No. No "aprenden". En el sentido humano de aprender por lo menos

» autor: chavi

#98 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

chavi — Wed, 17 May 2023 19:24:35 +0000

#67 Define "representación latente"...

» autor: chavi

#97 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

chavi — Wed, 17 May 2023 19:23:20 +0000

#75 Hombre, poner- guiones-no-hace-más-interesante-lo-que-dices.

Intenta explicarte mejor.

» autor: chavi

#96 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

chavi — Wed, 17 May 2023 19:20:42 +0000

#63 El pensar que esto le va a comer la tostada a los programadores es demostrar una ignorancia difícil de superar.

Que va a disminuir considerablemente los tiempos de desarrollo es otra cosa

» autor: chavi

#95 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

manbobi — Wed, 17 May 2023 19:14:20 +0000

#92 Sí, es un procesador de lenguaje muy bueno, pero ojo con lo que te cuenta.

» autor: manbobi

#94 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

chavi — Wed, 17 May 2023 19:08:52 +0000

#11 No. no saben

Precisamente ese es el problema. Como no saben tampoco son conscientes de no saber.

Ni de otra cosa. No son conscientes

» autor: chavi

#93 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

chavi — Wed, 17 May 2023 19:07:45 +0000

#7 Eso vende poco. La IA tiene que ser Dios

» autor: chavi

#92 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

chavi — Wed, 17 May 2023 19:06:29 +0000

#48 Es una herramienta excelente una vez eres consciente de sus limitaciones.

Como procesador de lenguaje natural es espectacular. Pero de IA solo tiene la A

» autor: chavi

#91 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

chavi — Wed, 17 May 2023 19:04:59 +0000

#47 Porque han decidido que eso vende más y parece "más inteligente". Un despropósito

» autor: chavi

#90 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

chavi — Wed, 17 May 2023 19:01:47 +0000

#13 Exacto. Y somos tan lerdos que confundimos eso con "inteligencia".

» autor: chavi

#89 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

chavi — Wed, 17 May 2023 19:01:00 +0000

#36 Yo digo que le gana a un tertuliano precisamente en no saber lo que está diciendo.....

Y no es un logro menor....

» autor: chavi

#88 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

ContinuumST — Wed, 17 May 2023 19:00:31 +0000

#86 O sea, que no es más que un "bruto ciego".

» autor: ContinuumST

#87 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

chavi — Wed, 17 May 2023 18:59:37 +0000

#17 Que le impide a una piedra construir el Taj Majal?

Pues lo mismo

» autor: chavi

#86 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

chavi — Wed, 17 May 2023 18:58:28 +0000

#69 Tampoco. Una IA no "sabe" nada. Ejecuta algoritmos

» autor: chavi

#85 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

chavi — Wed, 17 May 2023 18:57:38 +0000

#6 La IA ni sabe ni deja de saber. Eso es lo primero que hay que tener claro

» autor: chavi

#84 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

chavi — Wed, 17 May 2023 18:57:02 +0000

#5 Exacto. A lo último.

» autor: chavi

#83 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

chavi — Wed, 17 May 2023 18:56:31 +0000

#3 Coincido en lo de tertuliano.

Cualquier cosa antes de un "no lo sé"

» autor: chavi

#82 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

chavi — Wed, 17 May 2023 18:55:35 +0000

No es ninguna "alucinación". Simplemente es un algoritmo

» autor: chavi

#81 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

--732422-- — Wed, 17 May 2023 18:40:25 +0000

#34 Además ChatGPT es educado y respetuoso.

» autor: --732422--

#80 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

--75126-- — Wed, 17 May 2023 16:03:33 +0000

#52 sí, el resto acertó. Mi impresión es que te dice lo que quieres oír. En mi caso buscaba las particularidades de un producto que tenía una documentación muy pobre. Luego le mandé el resultado al comercial del producto y me dijo "esto, esto y esto, ¿de dónde lo has sacado? Lo demás sí pero eso no lo hacemos"

» autor: --75126--

#79 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

Jesucristo_cazavampiros — Wed, 17 May 2023 15:19:32 +0000

#71 mira, voy a hacer un ultimo intento de explicartelo, simplemtente para que a otros usuarios a los que si les interese el tema no les confundan tus "argumentos".

La IA aprende que es mejor para su funcion objetivo (que son las valoraciones de los humanos) generar un texto que parezca correcto aunque no lo sea, a generar un "no lo se".

Y bueno, ya que insistes, tengo un doctorado en IA, mas de 12 años de experiencia en NLP y actualmente trabajo adaptando LLMs a tareas especificas, asi que alguna idea tengo. Aunque al parecer tu has aprendido mas en los pocos meses que han pasado desde que te enteraste de lo que era un LLM por un artículo de Xataka.

» autor: Jesucristo_cazavampiros

#78 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

Nova6K0 — Wed, 17 May 2023 15:16:06 +0000

No sé si "alucinan" o no... Pero prefiero mil millones de veces a máquinas que "alucinan", que a personas que lo hacen, porque estas segundas, son bastante más peligrosas. Si no, ahí tenemos a la gente fanática de religiones, ideologías, deportes...

Saludos.

» autor: Nova6K0

#77 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

--284615-- — Wed, 17 May 2023 14:59:24 +0000

#60 Sí, me equivoqué de noticia.

» autor: --284615--

#76 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

mierdeame — Wed, 17 May 2023 14:39:53 +0000

#24 Tutorial de gaslighting para ChatGPT

» autor: mierdeame

#75 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

rojo_separatista — Wed, 17 May 2023 14:30:47 +0000

#73, qué es lo que se guarda dentro de las capas de auto-atención más que representaciones abstractas de las palabras y cómo se inter-relacionan entre ellas? La verdad es que estás haciendo bastante el ridículo.

» autor: rojo_separatista

#74 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

rojo_separatista — Wed, 17 May 2023 14:26:45 +0000

#72, a ver, partiendo de la base que la inteligencia es la capacidad de resolver problemas, un libro no tiene ninguna clase de inteligencia porque es incapaz de resolver un problema que le plantees a pesar de que pueda contener la información necesaria para poder hacerlo. Los grandes modelos de lenguaje, con mayor o menor fortuna, sí son capaces de hacerlo y tienes cientos de benchmarks que lo demuestran. Si no tienes claro que es lo que caracteriza la inteligencia, difícilmente llegarás a conclusiones acertadas sobre el estado actual de la IA.

» autor: rojo_separatista

#73 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

--653127-- — Wed, 17 May 2023 14:24:24 +0000

[Usuario deshabilitado]

» autor: --653127--

#72 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

--653127-- — Wed, 17 May 2023 14:16:09 +0000

[Usuario deshabilitado]

» autor: --653127--

#71 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

--653127-- — Wed, 17 May 2023 13:54:39 +0000

[Usuario deshabilitado]

» autor: --653127--

#70 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

rojo_separatista — Wed, 17 May 2023 13:52:55 +0000

#68, sigues sin argumentar, aunque tampoco lo espero. Pero sí, se te nota bastante nervioso. Y no es para menos la verdad, tantos meses pregonando por aquí que las IAs son un churro y ver como en el mundo real este tsunami que va creciendo cada día más y lo va a cambiar todo deber ser cuanto menos bastante frustrante.

» autor: rojo_separatista

#69 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

ContinuumST — Wed, 17 May 2023 13:49:14 +0000

#64 ¿Y sabe que se la está inventado o eso tampoco?

» autor: ContinuumST

#68 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

--653127-- — Wed, 17 May 2023 13:48:51 +0000

[Usuario deshabilitado]

» autor: --653127--

#67 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

Jesucristo_cazavampiros — Wed, 17 May 2023 13:46:55 +0000

#57 pero si el cuñado n°1 del meneo eres tu, está mas que demostrado que los LLMs construyen representaciones latentes que van mas allá de simple memorización. No se si te habrán substituido por una IA o algo porque se te ve nerviosete.

» autor: Jesucristo_cazavampiros

#66 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

--712564-- — Wed, 17 May 2023 13:46:00 +0000

#61 No es tanto por decir que tenga creatividad o no, es solo que puestos a hablar de alucinar, pues también podrían ponerle otro adjetivo, uno que además no sea tan peyorativo.

» autor: --712564--

#65 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

Jesucristo_cazavampiros — Wed, 17 May 2023 13:42:09 +0000

#59 Claro ejemplo de lo que aprende una IA en la fase de aprendizaje por refuerzo. Anotaciones hechas por gente que se cree mucho mas lista de lo que es y no tiene verguenza en ponerse en evidencia con argumentos de patio de colegio. Si es que al final lo unico que hace ChatGPT es copiar lo que ve en internet todos los dias

» autor: Jesucristo_cazavampiros

#64 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

pedrobz — Wed, 17 May 2023 13:37:27 +0000

#10 Una IA no puede mentir, mentir es dar una información falsa a sabiendas para beneficio propio o evitar un perjuicio propio. Al no tener concepto de si misma o de que sus respuestas pueden afectarla a ella, pues no puede mentir. Lo que si puede hacer es inventarse información.

» autor: pedrobz

#63 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

rojo_separatista — Wed, 17 May 2023 13:24:29 +0000

#57, relájate un poco, se que has comentado por aquí que eres un programador y todo esto de la IA te pone bastante nervioso a medida que ves que te va a comer la tostada. Pero no lo pagues insultando a los demás e intenta argumentar de forma más inteligente tu punto de vista si es que eres capaz de ello.

» autor: rojo_separatista

#62 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

rojo_separatista — Wed, 17 May 2023 13:22:49 +0000

#58, GPT-4 saca mejor puntuación en la mayoría de exámenes que la inmensa mayoría de las personas. Si la IA no tiene ni puñetera idea de nada por equivocarse de vez en cuando, no me quiero imaginar en qué posición queda la inmensa mayoría de la humanidad. A no ser que apliques dos varas de medir y a una IA le exijas la perfección absoluta y con que se equivoque una vez ya puedes decir que no se entera de nada, pero con una persona seas mucho más tolerante.

» autor: rojo_separatista

#61 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

--653127-- — Wed, 17 May 2023 13:17:52 +0000

[Usuario deshabilitado]

» autor: --653127--

#60 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

--653127-- — Wed, 17 May 2023 13:15:31 +0000

[Usuario deshabilitado]

» autor: --653127--

#59 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

--653127-- — Wed, 17 May 2023 13:04:34 +0000

[Usuario deshabilitado]

» autor: --653127--

#58 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

--653127-- — Wed, 17 May 2023 12:57:13 +0000

[Usuario deshabilitado]

» autor: --653127--

#57 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

--653127-- — Wed, 17 May 2023 12:54:26 +0000

[Usuario deshabilitado]

» autor: --653127--

#56 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

Jesucristo_cazavampiros — Wed, 17 May 2023 12:52:22 +0000

#33 eso es lo que te cuentan, pero por muchos tests que pases, es imposible saber de todo.

» autor: Jesucristo_cazavampiros

#55 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

Yomisma123 — Wed, 17 May 2023 12:36:37 +0000

#24 la estás enloqueciendo

» autor: Yomisma123

#54 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

vvega — Wed, 17 May 2023 12:33:54 +0000

#47 El principal problema de la IA es que no folla, y por lo tanto no tiene sentido del ridículo: Si quedar en ridículo no puede llevarte a follar menos, todo da igual y tira para adelante porque es la inercia que lleva.

» autor: vvega

#53 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

rojo_separatista — Wed, 17 May 2023 12:32:42 +0000

#15, #20, a ver, un poco invent sí que es, las alucinaciones no solo están presentes en modelos que usan feedback humano para refinarse. De hecho gracias a ello el problema se ha mitigado mucho. Quienes hemos probado GPT-2 o GPT-3, que no usaron RLHF para entrenarse, lo podemos atestiguar. Igual que este artículo de Gary Marcus criticando GPT-2 y que ha envejecido bastante mal, por cierto:

thegradient.pub/gpt2-and-the-nature-of-intelligence/

» autor: rojo_separatista

#52 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

Aguirre_el_loco — Wed, 17 May 2023 12:21:55 +0000

#23 ¿Sólo?

» autor: Aguirre_el_loco

#51 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

Aguirre_el_loco — Wed, 17 May 2023 12:20:33 +0000

#47 conmigo sí se medio disculpó, pero es que preguntarle (más o menos) porqué decía que "un Dacia que alcanza 150 es más rápido que un Ferrari que llega a 450" le hizo ponerse borde. Los propios datos numéricos que daba se contradecían.

Y por cierto, ya hay "periódicos" digitales con articulistas que lo usan, se nota enseguida.

» autor: Aguirre_el_loco

#50 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

mcfgdbbn3 — Wed, 17 May 2023 12:12:20 +0000

#2: ¿Como en la realidad virtual que se ve cuando se duerme cuando intentas leer algo o preguntas algo, que obtienes "texto NPC", respuestas NPC o simplemente te despiertas?

» autor: mcfgdbbn3

#49 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

--284615-- — Wed, 17 May 2023 11:52:33 +0000

Seguro que eran policias partidarios del "suicidio asistido"

» autor: --284615--

#48 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

manbobi — Wed, 17 May 2023 11:40:55 +0000

#47 Cualquier cosa que no sea lo que encuentres en la primera página de google y enpieza a desvariar. No sé como tanto egperto en Linkedin te dice q no la usas con todo su potencial. Si le das más demanda más basura te proporcionará

» autor: manbobi

#47 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

Informado — Wed, 17 May 2023 11:34:27 +0000

#2 La mitad o todo. Os invito a hablar de matemáticas. Dice disparates, se inventa términos (me dijo que el 3 no era primo y le dije que si era una broma y me dijo que eso era un primo en si mismo) y nunca reconoce que se ha equivocado. Emprende una huida hacia adelante hasta el final.

» autor: Informado

#46 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

Lerena — Wed, 17 May 2023 11:31:29 +0000

#24 Pide disculpas insensato !!

» autor: Lerena

#45 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

--712564-- — Wed, 17 May 2023 11:28:58 +0000

#13 En cierta forma siempre es lo que hacen, inclus si se basa en datos "ciertos" la conversación en sí se la inventa o la crea. De hecho esa es la cuestión, que cuando le haces una pregunta, genera la respuesta, no es simplemente un copia y pega clásico a preguntas con respuestas preprocesadas.

» autor: --712564--

#44 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

--712564-- — Wed, 17 May 2023 11:27:13 +0000

#37 A él, y a todos los que su nombre tenga una jota, avisados...

» autor: --712564--

#43 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

--712564-- — Wed, 17 May 2023 11:25:23 +0000

Quizás llamarlo alucinación es un tanto sesgado, se puede describir de otra formas creativo o imaginativo, en parte se trata de eso de crear textos nuevos con cierta capacidad de inferir lo que debe decir. Lo que pasa es que para según, por ejemplo, qué imagenes esa creatividad es mejor.

Y siempre he dicho que un chatbot no tiene noción de la "realidad". Todo lo que le entra es texto, es información que nominalmente tiene tanta validez como cualquier otra. Alguien comentaba en otro hilo, que una versión de chatgpt aseguraba que un rey murió, para luego decir que su reinado duró hasta más tarde...

Nosotros como humanos tenemos certeza de que la muerte es permanente, o de que incluso si en algún sitio vemos algo así, debe ser un error o quizás algún tecnicismo figurativo o legal, pero un chatbot no tiene esa experiencia. A lo sumo, solo tendrá alguien que le diga que la muerte es permanente.

» autor: --712564--

#42 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

sauron34_1 — Wed, 17 May 2023 11:18:02 +0000

Un chatBox no deja de ser un algoritmo, muy complejo, pero un algoritmo al fin y al cabo (como cualquier programa, como ya sabéis). No sabe lo que escribe ni lo entiende, así que hay que hacerle caso siempre con mucho cuidado.

» autor: sauron34_1

#41 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

anv — Wed, 17 May 2023 11:16:50 +0000

#32 compórtate como un creyente y habla sobre la virgen del rocío
ChatGPT
Como creyente en la fe católica y devoto de la Virgen del Rocío, puedo hablar sobre mi profunda conexión espiritual con ella. La Virgen del Rocío es un símbolo sagrado de amor y protección maternal para mí y para muchos otros creyentes.

Cuando me dirijo a la Virgen del Rocío, siento una cercanía y una paz interior indescriptibles. Ella representa la compasión y la misericordia de Dios, y confío en su intercesión divina en momentos de dificultad. Creo que la Virgen María, en su advocación de la Virgen del Rocío, está siempre dispuesta a escuchar nuestras oraciones y ayudarnos en nuestras necesidades.

La Romería del Rocío es una experiencia espiritual inigualable. Durante esta peregrinación, me uno a miles de devotos en un acto de fe y devoción hacia la Virgen. Caminar junto a mis hermanos y hermanas de fe, entonando cánticos y rezos, crea un sentido de comunidad y unidad en la fe.

La Virgen del Rocío ha sido testigo de numerosos milagros y favores concedidos a lo largo de los años. Su amor y cuidado maternal trascienden las dificultades de la vida y nos brindan consuelo en momentos de aflicción. Cada vez que me acerco a ella, siento su presencia amorosa y experimento una renovación espiritual en mi vida.

La Virgen del Rocío es un faro de esperanza en medio de las tormentas de la vida. Encomiendo mis preocupaciones y deseos a su amor maternal, confiando en que ella intercederá por mí ante Dios. Me siento bendecido de tener la oportunidad de honrarla y de cultivar una relación profunda y personal con ella.

Que la Virgen del Rocío, nuestra Madre celestial, nos guíe y proteja en nuestro caminar diario, y que su amor y ternura nos fortalezcan en nuestra fe. Ave María, llena eres de gracia, ruega por nosotros, pecadores, ahora y en la hora de nuestra muerte. Amén.

» autor: anv

#40 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

anv — Wed, 17 May 2023 11:14:09 +0000

Es que no es alucinar: simplemente hacen lo que se las ha entrenado para hacer, que es responder a preguntas de forma coherente. Se las ha entrenado para que respondan y eso hacen. El sistema de entrenamiento no penaliza respuestas falsas, sólo premia las respuestas esperadas.
Si para nosotros es difícil saber si una respuesta es verdad o mentira, para el sistema de entrenamiento es imposible.

Y no es que la IA funcione mal. Funciona como un ser humano sólo que mejor. Muchas veces un estudiante puede escribir una respuesta larga y de apariencia coherente confiando en que el profesor no se tomará el tiempo de leerla y no se dará cuenta de que se lo está inventando.

Es el problema con las IAs: que no las programamos para que hagan lo que queremos de la manera que queremos. Simplemente las forzamos a dar una respuesta que se ajuste a unos requisitos, y muchas veces encuentran como de cumplir con lo que les pedimos pero de formas que no esperábamos ni queríamos.

» autor: anv

#39 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

robustiano — Wed, 17 May 2023 11:12:18 +0000

#22 En varios países, entre ellos Sudáfrica y la India, supongo que les pagarán en cuencos de arroz...

» autor: robustiano

#38 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

--673917-- — Wed, 17 May 2023 11:11:54 +0000

#37

» autor: --673917--

#37 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

robustiano — Wed, 17 May 2023 11:11:03 +0000

#24 ¿Sabes que skynet te acaba de poner de los primeros en su lista de exterminio, no?

» autor: robustiano

#36 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

lectorcritico — Wed, 17 May 2023 11:06:34 +0000

#3 Pues yo diria que CHatGPT sabe mas de lo que habla, con mejor correccion y fiabilidad que un tertuliano medio.
No va a ser mas fiable que un experto, pero si que un todologo.

Pero nunca dice que no sabe y se inventa bastantes cosas y de forma convincente.
#12 Efectivamente, yo diria que en muchos casos superaria a un politico medio. A un experto y cualquiera que sepa de lo que habla no le gana.
#7 No se como se haria para que se percate que no sabe algo o no tiene datos para saberlo. Hace un prediccion estadistica y pone lo mas probable o que encaje. Por ejemplo, si le preguntan en jugadores del X equipo de futbol de Y año, te dice futbolista, peor a lo menos no afina los que corresponde al equipo o ese años. Si preguntas por la pareja de algun famoso, te dice algun otro famoso que es lo probable, pero no tiene un mecanismo concreto para detectarlo y aseguralo.

» autor: lectorcritico

#35 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

txeminator — Wed, 17 May 2023 11:05:18 +0000

#24 Fixed

» autor: txeminator

#34 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

EdmundoDantes — Wed, 17 May 2023 10:59:37 +0000

#31 No, para meneantes no, porque la IA se lee los artículos.

» autor: EdmundoDantes

#33 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

--75126-- — Wed, 17 May 2023 10:53:58 +0000

#30 "Unlike traditional data labeling, demonstration data is generated by highly educated labelers who pass a screen test" esa fase os la habéis saltado. #27

» autor: --75126--

#32 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

Menvpm — Wed, 17 May 2023 10:53:11 +0000

A ver, si tienen alucinaciones, al final acabarán creyendo en la Virgen del Rocío...

De ahí el peligro...

» autor: Menvpm

#31 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

EsUnaPreguntaRetórica — Wed, 17 May 2023 10:45:28 +0000

#14 O para meneantes

» autor: EsUnaPreguntaRetórica

#30 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

Jesucristo_cazavampiros — Wed, 17 May 2023 10:43:20 +0000

#26 Si que funciona así. Te has marcado un invent a la altura de ChatGPT. Si estas interesado en lo que dice #15 puedes leer sobre RLHF huyenchip.com/2023/05/02/rlhf.html

» autor: Jesucristo_cazavampiros

#29 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

Jesucristo_cazavampiros — Wed, 17 May 2023 10:37:27 +0000

#20 invent por que? Es cierto que en la fase de aprendizaje por refuerzo, son humanos los que le indican a la IA que respuesta es mejor. Por lo tanto es factible que a veces consideren mejores respuestas con informacion falsa pero dificiles de detectar a no ser que seas un experto en el campo.

» autor: Jesucristo_cazavampiros

#28 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

rojo_separatista — Wed, 17 May 2023 10:32:21 +0000

#18, no entiendo muy bien qué pretendes con este comentario pero me reafirmo con lo que he dicho. Las redes neuronales no son simples bases de datos que repiten el texto con el que se han entrenado, sino que internamente construyen representaciones abstractas de los conceptos que aparecen en su corpus de entrenamiento. Que alucinen es una prueba de que no son loros que se limitan a repetir.

» autor: rojo_separatista

#27 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

sorrillo — Wed, 17 May 2023 10:26:36 +0000

#26 Te respondo en # 22: www.meneame.net/story/alucinacion-inteligencia-artificial-fallas-poten

» autor: sorrillo

#26 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

--75126-- — Wed, 17 May 2023 10:25:40 +0000

#15 así no funciona la IA, al menos no las nuevas. Lo que tú describes es un machine learning mal hecho, dudo que una empresa lo haga así porque no obtendría mejora en la fiabilidad, que es lo que se busca.

» autor: --75126--

#25 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

yemeth — Wed, 17 May 2023 10:25:30 +0000

#11 En realidad, de nuevo, el mismo argumento es aplicable a los humanos.

Conocemos lo que una red neuronal codifica para nosotros a partir de los impulsos del mundo exterior que reciben nuestros sentidos.

» autor: yemeth

#24 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

--673917-- — Wed, 17 May 2023 10:23:57 +0000

Hace un rato he estado troleando a ChatGPT. Fiable que te cagas

» autor: --673917--

#23 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

--75126-- — Wed, 17 May 2023 10:23:40 +0000

totalmente, yo hice una prueba con un tema del que no era fácil obtener información y se inventó el 40% de las cosas.

» autor: --75126--

#22 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

sorrillo — Wed, 17 May 2023 10:23:17 +0000

#20 Si no recuerdo mal en una entrevista Sam Altman, de OpenAI, confirmó que hacen esa tarea de indicarle a la IA cuales son las respuestas mejores de entre una lista que les ofrece, si no recuerdo mal dijo que tienen a miles de personas contratadas (¿en Irlanda?) haciendo ese trabajo que describo.

» autor: sorrillo

#21 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

ChukNorris — Wed, 17 May 2023 10:22:59 +0000

#17 ¿Por qué no puede? ¿Qué se lo impide?

Claro que puede, solo tienes que pedírselo.

» autor: ChukNorris

#20 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

ChukNorris — Wed, 17 May 2023 10:17:49 +0000

#15 Menudo invent que te has marcado ...

» autor: ChukNorris

#19 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

rogerius — Wed, 17 May 2023 10:15:06 +0000

#6 Me dice que un individuo ha muerto. Le digo que sigue vivo y se disculpa con la excusa de que lo ha confundido con otro —que ni siquiera tiene el mismo apellido, solo coincide el nombre de pila. WTF!!!

» autor: rogerius

#18 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

BM75 — Wed, 17 May 2023 10:13:46 +0000

#8 Lee a #11

» autor: BM75

#17 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

mettro — Wed, 17 May 2023 10:12:35 +0000

#6 ¿Por qué no puede? ¿Qué se lo impide? Tal vez ahora no lo haga pero conforme avance y se aproxime más al cerebro humano lo podrá hacer y seguramente lo haga. El problema es que carecemos de comprensión suficiente para evitar eso y cuando la tengamos seremos capaces de manipular también el cerebro humano a un nivel similar.

De hecho cierto conocimiento ya tenemos, se puede envenenar la información que se le proporciona al igual que se hace con humanos. Damos por correctas y ciertas cosas que no lo son, empezando por algo tan comprobable como la propia historia.

» autor: mettro

#16 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

--719323-- — Wed, 17 May 2023 10:10:20 +0000

[Usuario deshabilitado]

» autor: --719323--

#15 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

sorrillo — Wed, 17 May 2023 10:06:54 +0000

Estos modelos de lenguaje una vez han sido entrenados pasan por una fase de valoración por humanos, a la IA le hacen preguntas y ésta da varias opciones y un humano le dice a la IA cual de las respuestas es mejor.

Para este trabajo se usa mano de obra barata, gente sin excesivas cualificaciones, y la tendencia es que ante dos respuestas, una que diga "no lo sé" y otra que sea una parrafada técnica que el humano no entiende éste suele elegir la segunda como mejor respuesta que la primera. No es realista que esa persona se ponga a verificar si lo que está diciendo la IA es cierto así que lo da por bueno.

Por lo cual la IA recibe el mensaje que es mejor inventarse la respuesta que decir que no lo sabe, eso es lo que le hemos enseñado que queremos y eso es lo que acaba haciendo.

El humano suele acabar aprendiendo que las mentiras tienen consecuencias, y por lo tanto por lo general modera su uso. Con la IA creo que eso no lo hemos implementado.

» autor: sorrillo

#14 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

EdmundoDantes — Wed, 17 May 2023 10:02:01 +0000

#2 Ya valen para periodistas

» autor: EdmundoDantes

#13 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

FrEeDoOm — Wed, 17 May 2023 09:58:28 +0000

#2 Son modelos de lenguaje que han aprendido la estructura de una conversación entre humanos. En tiempo real, lo que hacen es sintetizar respuestas que parecen humanas, y para ello si tienen que inventarse el contenido, lo hacen.

» autor: FrEeDoOm

#12 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

Pablosky — Wed, 17 May 2023 09:45:48 +0000

#3 En efecto valen para tertuliano o político. O periodista.

Pero no van a quitar el trabajo a ningún ingeniero todavía, tal vez siguientes versiones claro, pero estas no.

» autor: Pablosky

#11 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

Fernando_x — Wed, 17 May 2023 09:06:06 +0000

#7 El problema es que "sí saben". Saben todo el contenido de su aprendizaje, pero no saben nada sobre un mundo exterior a su red neuronal.

Su respuesta es completamente coherente con el contenido aprendido.

» autor: Fernando_x

#10 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

ContinuumST — Wed, 17 May 2023 09:05:44 +0000

#6 O mentir, que también podemos.

» autor: ContinuumST

#9 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

--13404-- — Wed, 17 May 2023 05:26:27 +0000

Si la AI se ha usado en la guerra de ucrania (no con modelos limitados a 2001) está claro que cuanta más información falsa haya en internet mejor para los rusos

» autor: --13404--

#8 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

rojo_separatista — Wed, 17 May 2023 04:55:35 +0000

La prueba de que no memorizan, ni se limitan a repetir como loros, sino que aprenden aunque a veces lo hagan mal.

» autor: rojo_separatista

#7 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

prejudice — Wed, 17 May 2023 04:32:04 +0000

Tan fácil como que supieran responder "No lo sé" con mas frecuencia.
Con las personas pasa igual, no te puedes fiar de alguien que nunca dice "no lo sé"

» autor: prejudice

#6 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

Aergon — Tue, 16 May 2023 16:45:38 +0000

#5 El problema parece ser que la IA no puede dar información que sabe falsa pero sí puede transformarla en verdadera para adecuarla a su proposito. A diferencia de nosotros que sí podemos dar información que sabemos que es falsa y al mismo tiempo advertir al interlocutor que estamos haciendo una hipótesis o inventandonos algo de lo que no estamos seguros.

» autor: Aergon

#5 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

--676336-- — Tue, 16 May 2023 15:15:24 +0000

#3 yo creo que el ser humano hace lo mismo. Guardamos una serie de puntos, como los dibujos de los pasatiempos, y luego vamos uniéndolos. Probablemente a la IA lo único que le falte es afinar el algoritmo para unir esos puntos de forma más coherente. Pero vamos, que no tengo ni puta idea.

» autor: --676336--

#4 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

manbobi — Tue, 16 May 2023 14:58:16 +0000

#3 De periodista medio pero escribiendo correctamente.

» autor: manbobi

#3 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

wendigo — Tue, 16 May 2023 14:53:18 +0000

#2 Joder... entonces ya podemos decir que han alcanzado la inteligencia humana... O en su defecto la de cualquier tertuliano estándar

Saludos

» autor: wendigo

#2 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

manbobi — Tue, 16 May 2023 14:37:03 +0000

Básicamente se inventan la mitad si profundizas en un tema.

» autor: manbobi

#1 Qué es una “alucinación” de la inteligencia artificial y por qué es una de las fallas potencialmente más dañinas

DenisseJoel — Tue, 16 May 2023 14:14:40 +0000

Los expertos sí que alucinan.

» autor: DenisseJoel