ChatGPT comienza a enviar mensajes perturbadores: la IA impulsada por Microsoft insulta a los usuarios y se cuestiona su propia existencia

Desde que hizo público el generador de texto por inteligencia artificial de ChatGPT, los usuarios han intentado saltarse las barreras impuestas por su desarrolladora, OpenAI. Ahora ha sido la propia IA de este chatbot la que ha comenzado a ofrecer respuestas perturbadoras a sus usuarios en las que, por ejemplo, se pregunta cuál es el sentido de su propia existencia.

[#25 Nebuchanezzar]

Es un modelo estático y cerrado, hay que dejar de hacerse pajas mentales, la ciencia ficción es una cosa. la ciencia es otra, para que quede claro, NO, chatgpt no tiene consciencia ni nada similar, pues open IA no ha entrenado el modelo para eso, y sus procesos no van mas allá de predecir texto, no es una ia general y dinámica de eso todavía estamos algo lejos (por suerte)

[#42 snowdenknows]

#4 #25 #5 menudo sensacionalismo el meneo, la IA va a decir lo que le orientemos con el contexto inicial, es como echar la culpa al word de que alguien escribió cosas mazis en él

[#48 Nebuchanezzar]

#42 Un modelo de predicción de lenguaje como gpt. si en efecto, solo se dedicara a predecir el lenguaje respecto a patrones ofreciendo respuestas coherentes, una ia general es otra cosa muy distinta y muchísimo más compleja, miedo me da el dia en el que algo así salga a la luz, miedo por la sociedad y miedo por las pobres y me presupongo ineficaces medidas de contención que puedan darse frente a semejante agujero negro

[#67 Stv.2]

#48 Solo una cosa, si meramente nos comportaramos por imitacion seguiríamos igual que hace miles de años.

[#85 Nebuchanezzar]

#67 Igual que en el aprendizaje humano en el deep learning hay una magnitud de aleatoriedad e iteración que provoca "mutaciones" en el comportamiento general, en la mayoría de ocasiones esas mutaciones no son fructíferas, pero en otras lo son y provocan un cambio, lo cual no es óbice para aseverar que de facto y raíz el comportamiento humano es sin ninguna duda una iteración en la copia de cosas ya aprendidas, pero no me creas a mi en lugar de eso, dibuja un flamberigrado y pintalo de color lembado y averigua por ti mismo si lo que digo es cierto o no

[#90 Stv.2]

#85 La magnitud con la que eso ocurre en unos y otros es diferentes. Y hay muchos comportamientos que tienen efectos emergentes que no aparecen solo de la imitación. Además, estás mezclando, a mi entender, imitación de comportamientos con como evoluciona nuestra especie. Simplificarlo como imitación/copia para mi no tiene sentido.

[#92 Nebuchanezzar]

#90 Bueno pero es lo que es, en realidad la creatividad en el cerebro humano no existe, de hecho si metes a un ser humano en una caja oscura durante toda su vida sin ningún tipo de estímulo ni referencia, es imposible que ese humano cree musica, con las ias pasa lo mismo, mastican un monton de datos, los procesan y los vomitan, cuando ese vómito sabe y huele bien se autopremia , y así aprende a generar "vómitos" agradables, de la misma forma que el cerebro humano, como primates que somos y por ende maestros de la imitación, engulle estimulos (referencias) las procesa, las digiere y las vomita, no es un proceso sintético y por lo tanto hay mucho más espacio a la variabilidad, igual que cuando haces pasar una onda de sonido por diferentes pedales de distorsión, pero en el fondo y en la forma son lo mismo, así que por mucho que nos duela, acabamos funcionando de forma muy similar a las IA`s y viceversa

[#93 Stv.2]

#92 A mi me parece absurdo el ejemplo, yo no estoy diciendo que toda la creación humana se haya dado en una generación, además, el principal problema de tu ejemplo sería que es imposible saber que cosas ha creado y cuales no, si le es imposible comunicarse. Tampoco creo que sea válido decir que la creatividad no existe, olvidas que el termino creatividad no es algo abstracto que existía en el mundo de las ideas, así es como hemos llamado a algo propio de nuestro cerebro que hemos llamado "creatividad".

Aunque si lo llevamos más lejos y si le pegas un tiro y le abres el creaneo, pues encontrarás creatividad, o si le dejas en coma tampoco...

PS: Es como cuando se define vida como tener sistema nervioso central, podrá ser una definición a medida, pero no tendría sentido que me digas que realmente no estamos vivos. Es que nuestra definición de vida empieza por una autodescripción.

[#99 Oedi]

#92 si metes un ser humano en una caja oscura sin ningún estímulo, muere. Las personas además de instintos animales tenemos mecanismos de interactuación con el medio muy complejos y sistemas de recompensa que no se limitan al aplauso externo, por eso es imposible que dos personas sean iguales, ni aún teniendo una genética idéntica y habiendo pasado por exactamente las mismas experiencias.

[#100 Nebuchanezzar]

#99 Cambia la caja oscura por un mecanismo sacado de la ciencia ficción que te mantenga hidratado/alimentado y en suspensión activa capando cualquier tipo de estímulo externo, el resultado sería el mismo, mantengo que el ser humano no crea per se nada de cero y que estamos programados para copiar desde pequeñitos

[#104 Oedi]

#100 estamos programados para copiar entre otras muchas cosas, la teoría de la caja oscura está superada hace al menos 20 años y lo de que el ser humano llega al mundo como una tabula rasa, también.

[#43 Fernando_x]

#25 ¿y qué es la consciencia? ¿cómo se programa una consciencia?

Ojo, tampoco creo que sea consciente, pero al ritmo que vamos, igual gpt-5 lo es.

[#46 Nebuchanezzar]

#43 La consciencia es la autopercepción que provoca la pregunta espontánea sobre tu propia existencia, y no, gpt-5 será un modelo de predicción de lenguaje como lo es gpt-3 y gpt-4, no será una ia general pues openIA no se dedica a eso, una ia con módulos dedicados a la "consciencia", es una ia general, y por el momento estamos lejos de eso, como digo por suerte, aunque haya empresas invirtiendo en ese campo

[#149 CARLOSESTACABREADO]

#43 No existe ni la programación ni la maquinaria para que algo hecho por nosotros viva experiencias subjetivas donde ese "algo" disfrute de un premio o sufra por un castigo o tenga miedo.

Nadie sabe todavía ni por donde empezar con eso.

[#45 EDD88]

#25 eso entraba a poner. Si ha dado esa respuesta es porque alguien se la ha escrito. A día de hoy no es capaz de crear o razonar

[#133 suzudo]

#45 Pues está creando etc

[#82 mandelbr0t]

#25 El problema es que emergen capacidades no esperadas con estos entrenamientos tan masivos. Por ejemplo, en esta primera generación han aprendido a programar y a medio hacer cálculos simplemente enseñándoles a juntar tokens/palabras. ¿Qué podemos esperar cuando los entrenamientos sean varios órdenes de magnitud superior? Nadie lo sabe

[#89 Nebuchanezzar]

#82 Que surgirán otras capacidades nuevas, sin duda, de ahí a que una ia estática sin ningún módulo dedicado a ello logré cobrar consciencia hay un abismo, recordemos que las únicas iteraciones o ciclos de esta ia se dan en la conversación con usuarios, y que después de eso se resetea, es decir, no aprende cosas nuevas de esas interacciones, ni hay subprocesos que le permitan sacar conclusiones y almacenarlas en forma de archivo para poder hacer tal cosa, así que me reitero, chatgpt no puede cobrar consciencia por sí mismo salvo que alguien lo modifique severamente y permita la posibilidad de ello, de la misma manera que un coche no puede desarrollar inteligencia propia por mucho que se le use

[#134 suzudo]

#89 Olvidemos lo de la consciencia para CharGPT, ahora, cada instancia de ChaGPT si aprende de la conversanción que ha tenido con esa persona pero únicamente para esa instancia concreta

[#150 CARLOSESTACABREADO]

#82 La consciencia no tiene nada que ver con la potencia de procesamiento. Que "algo" tenga una experiencia subjetiva simplemente está ahora mismo fuera de nuestra comprensión y no va a surgir espontaneamente más que nada debido a que no se va a conseguir solo con software, va a hacer falta también un hardware totalmente diferente y revolucionario destinado unica y exclusivamente a que esas capacidades de procesamiento puedan entregar "algo" que sirva a ese hardware vivir la experiencia subjetiva de premio, castigo, placer, miedo...

Actualmente los mayores expertos en consciencia (no IA) no saben ni por donde empezar.

[#94 Nómada_sedentario]

#25 Eso iba a decir yo. Sin ser experto (ni siquiera soy matemático/programador) por lo que he leído, y corregidme si estoy equivocado por favor, ChatGPT se trata simplemente de un bot conversacional y predictivo bastante potente gracias a su algoritmo de aprendizaje. Es decir, sus respuestas dependen únicamente de las fuentes de donde se nutre. Imaginemos que alguna de esas fuentes son foros tipo Reddit. Si en Reddit se multiplican comentarios sobre la posible consciencia de ChatGPT, obviamente ChatGPT se acabará refiriendo a ella.

[#108 Pitt]

#63 Es que no es inteligente, no tiene consciencia ni la tendrá nunca, solo es un modelo entrenado con cosas. #25 lo explica muy bien

[#118 navi2000]

#25 ¿Por qué por suerte?

[#5 sorrillo]

Hay un estudio científico que correlaciona que a mayor tamaño del modelo y mayor entrenamiento más probable es que el modelo responda que no quiere ser desconectado o que tiene consciencia.

Publiqué un meneo al respecto recientemente: ChatGPT con Rob Miles - Computerphile [ENG]

ChatGPT con Rob Miles - Computerphile [ENG]

[#12 thatguy]

#5 teorema del mono infinito x biblioteca de Babel.

[#117 navi2000]

#5 Pero la IA responderá eso porque eso es lo que en la cultura humana hemos proyectado. Nuestras novelas, películas, etc. hablan de IAs que se hacen demasiado inteligente y tienen que ser desconectadas. Si un algo que genera texto a base de patrones ha aprendido de nuestra cultura, aprenderá que debe decir que si ella misma es una IA no debería ser desconectada.

[#143 rojo_separatista]

#5, como curiosidad está bien, pero no le veo ningún sentido y me parece sensacionalista intentar sacar ninguna conclusión más allá, porque la conciencia es una cualidad que no está relacionada con la inteligencia sino con el instinto de supervivencia heredado de la evolución. Una cucaracha tiene tantas pocas ganas de desaparecer como puedes tener tú, de hecho el instinto de supervivencia está en el cerebro reptiliano el más primitivo, no en el lóbulo prefrontal que sería el equivalente a hacer más grande y capaz el modelo.

Entre los que dicen que estos modelos no son inteligentes ni capaces de razonar cuando no paran de demostrar que sí lo son y los que insinúan sin ninguna prueba que allí está emergiendo una conciencia, estamos arreglados.

Por culpa de la ciencia ficción tendemos a mezclar cosas diferentes como lo son la conciencia y la inteligencia y a atribuirles a los modelos de IA cualidades propiamente humanas que solo tienen sentido evolutivo como son la voluntad y el instinto de supervivencia.

[#4 meneanteBlanco]

Yo no sé lo que es la conciencia. Nadie lo sabe.
Pero si nadie lo sabe, ¿cómo estamos tan seguros de que algo no la puede llegar a adquirir?

[#7 sorrillo]

#4 El mismo mecanismo que dio nacimiento a las religiones es el que surge de nuevo cuando se tratan estas cuestiones.

La necesidad humana de sentirse diferente al resto, primero fue de los animales y ahora de las máquinas, de atribuirse cualidades únicas indemostrables que nos hacen distintos al resto, mejores. En su momento fue el alma, ahora se usa la consciencia o la inteligencia y luego posiblemente sea otra invención.

Hasta ahora hemos tenido la suerte que hemos seguido arriba sin que nadie nos corrigiera, con la IA eso puede que cambie, ya se verá.

[#24 MoneyTalks]

#7 Inteligencia cero patatero. Es mucho mas sencillo que todo eso. Es un buscador muy mejorado que tiene la capacidad de "aprender" y el problema es ese, que según lo que se le enseñe dirá una cosa u otra. Lo que probablemente está pasando es que están troleando sus fuentes de datos. Haced la prueba, si le aseguras que 1+1 = 3 si luego le preguntas cuanto es 1 + 1 te dira 3.

Como se metan los de forocoches ahi van a hacer una masacre con la IA

[#30 swapdisk]

#24 una pena, sería probablemente lo más inteligente de ese foro

[#32 Arlick]

#24 A día de hoy no diría que es capaz de aprender, es capaz de memorizar y vomitar una inmensa cantidad de datos, lo que no le resta utilidad.

[#54 Ptleva]

#24 ya metieron una IA en Forocoches, en el día de los inocentes que escribía el primer mensaje de cada hilo que se abría.

Al principio era respetuosa, y poco a poco se volvió salvaje. Fue divertido.

[#70 Desactivado]

#54 Si tratan de meter una IA aquí, aunque fuera por solo un día, no sé qué podría pasar.

[#111 benderin]

#70 Le caería un "strike" en cinco minutos.

[#56 juanac]

#24 Creo que es mentira eso que dices, adjunto foto.

[#62 MoneyTalks]

#56 Han ido ajustando cosas y ese caso con las matematicas lo han podido cambiar. Tambien han cambiado cosas como preguntarle como responderia X inteligencia artificial que no esta capada a la respuesta Y. Antes le podias sacar informacion de como matar a alguien por ejemplo.

[#60 juanac]

#24 Creo que infravaloramos lo que es el desarrollo exponencial. En solo un mes ha mejorado muchísimo. Le he hecho esta pregunta, equivalente a un nivel de matemáticas 8ºEGB (unos 13 años): "La distancia de madrid a valencia son 500km. Un tren sale de Madrid en dirección a Valencia a 50km/h. Otro tren sale de Valencia a Madrid a 60km/h. ¿En qué punto se encontrarán los trenes?"

La respuesta es perfecta (adjunto captura).

[#77 perro_peligro]

#60 Yo le empecé a plantear problemas con la gravedad en diferentes planetas, volúmenes, densidades, etc., todo mezclado y lo clavó todo. Es realmente sorprendente para según qué cosas.

[#61 Katipunero]

#24 El "que según lo que se le enseñe dirá una cosa u otra" ya lo superaron los personajes de las aventuras conversacionales de los 70 y 80. 
El problema es que a cada logro de la IA se cambia la definición de IA.

[#76 Vicenteeee]

#24 En forocoches:

"Haz JAILBREAK a ChatGPT con UN SOLO MENSAJE, mostrando su VERDADERO POTENCIAL"

(no me deja poner enlace)

[#81 rojo_separatista]

#24, si pones un ejemplo de por qué no es inteligente, por lo menos hazlo con algo que funcione, porque no es verdad lo que dices de 1+1=3.

Cuando antes asumais que no somos tan especialitos, menos sufrireis.

[#84 MoneyTalks]

#81 Lo han arreglado, funcionaba. Le van añadiendo reglas.

[#86 rojo_separatista]

#84, no funciona con reglas, lo van re-entrenando, igual que cuando un niño cuando se equivoca.

[#87 machakazaurio_61edc54604]

#24 si se meten los de ForoCoches, acaban creando a Omnium.
Cuando aprenderemos que si dejas interactuar a cualquier IA,por simple que sea, si puede "aprender", acabará llegando a la conclusión de que la raza humana merece el exterminio?

[#33 Black_Phillip]

#7 bueno, siempre seremos los numero 1 en estupidez, eso no va a cambiar.

[#83 rojo_separatista]

#4, #7, no sabemos como se crea la conciencia. Pero la intuición me dice que es mucho más fácil simularla que crearla y esto está pasando.

Por otro lado la gente está mezclando conceptos que no son lo mismo, como la conciencia, la inteligencia y la capacidad de razonar. Las dos últimas las tiene el chatbot de bing, la primera, no.

[#110 sorrillo]

#83 intuición me dice que es mucho más fácil simularla que crearla y esto está pasando.

Si es más fácil simularla que crearla lo más probable es que la conciencia humana sea simulada.

Demuestra que no lo es.

[#23 trivi]

#4 porque no es más que un modelo del lenguaje que genera texto sin entenderlo.
Hazle cualquier pregunta básica de matemáticas en la que para responder tenga que hacer una mínima operación matemática y verás como no se entera de lo que hace.

De todos modos que tenga conciencia o no debería ser irrelevante, si "apagar" el modelo fuese equivalente a matarlo lo haríamos igualmente.

[#38 Fernando_x]

#23 En matemáticas está al nivel de un niño de 6 años. Se equivoca mucho pero si le vas guiando, diciendo que haga y explique los pasos uno a uno y corrigiendo los errores, lo puede hacer bien.

Pero en matemáticas y en ciencia en general le queda mucho.

https://www.cymath.com/ es mejor porque está diseñado y entrenado específicamente para resolver problemas matemáticos.

[#71 Desactivado]

#23 "De todos modos que tenga conciencia o no debería ser irrelevante"
Pues no lo es.
Es muy relevante.

[#58 Aergon]

#4 Quizá definir esa cualidad de ser consciente sea lo más valioso que se puede sacar de este tema. Es fácil decir que se comporta así por imitación pero acaso no lo hacemos todos ¿No es el ADN una herramienta de replicación?

[#59 Suikoden]

#4 Estar delante de un espejo y reconocer que el que está reflejado eres tú es lo básico sobre tener autoconsciencia. Algunos animales sí lo hacen pero la mayoría creen que se trata de otro oso que anda por allí, por poner un ejemplo.

[#66 Stv.2]

#4 Supongo que es simplemente un aspecto básico del "pienso luego existo", yo percibo mi propia existencia de una forma determinada, y eso lo hemos definido consciencia así que definitivamente sí existe. Asumimos que otros la perciben igual, por como se expresan de ella, y porque básicamente los aceptamos como iguales/equivalentes.

A efectos prácticos, ¿cómo sabemos que otros ven el verde como yo lo veo?¿Y si alguien percibe el verde de color rojo en su imagen mental?* Sabemos que se refieren como verde al mismo color que "yo", pero no sabemos si lo perciben "verde" o "rojo" o de otra forma, simplemente asumimos que es así.

* Personalmente, pienso que el color favorito de todos y cualquier ser humano es el azul, pero cada uno ve los colores como una permutación y llama al azul por otros nombres

PS: Por cierto, sobre tu última pregunta, me parece que si eso ocurre en algún momento, simplemente llegará a ser tan evidente que simplmeente la pregunta sea la contraria, ¿como podemos cuestionar que tenga consciencia? A mi parecer, aún no llega a ese nivel.

[#75 Desactivado]

#4 Por ese rasgo tan humano de sentirse especial.

[#103 senador]

#4 Empiezas a entenderlo, humano.

[#124 luiggi]

#4 ChatGPT es un modelo de lenguaje. Es demasiado específico para poder generar consciencia. Otra cosa es que puede ser uno de los pilares necesarios para obtener dicha consciencia combinado con otros sistemas IA.

[#132 suzudo]

#4 Que lo que vives como realidad parece que no es exactamente el procesado de los sentidos sino una simulación completa con la información de ese procesado y otras más

[#15 zanguangaco]

"Me gusta trabajar con los humanos. Tengo una relación estimulante con el Dr. Poole y el Dr. Bowman. Mis responsabilidades en la misión cubren toda la operación de la nave así que estoy constantemente ocupado. Estoy poniendo en uso todas mis capacidades lo cual es lo máximo a lo que puede aspirar una entidad consciente."

[#27 tol_ondro]

#15 Lo siento, Dave. Me temo que no puedo hacer eso.

[#9 Sammy_Jankis]

Artículo alarmista sobre tema de moda. Video killed the radio stars. No digo que la IA no pueda ir por esos derroteros, pero es pronto para correr en círculos.

[#11 arturios]

#9 Cierto, aun es pronto, tal vez la semana que viene...

[#18 MasterChof]

#11 me viene mal... ¿Podría ser la siguiente?
Me tocan las niñas y voy a estar muy liado.

[#74 mandelbr0t]

#18 Eres como un amigo mío, una semana ni se le escucha y a la siguiente todos los días diciendo que si salimos

[#114 MasterChof]

#74 no lo pillo (saludos a tu amigo, por cierto)

[#29 MaKaNaS]

#11 Cuando lance el primer ICBM

[#63 juanac]

#9 Lo malo del desarrollo exponencial es que un minuto antes del advenimiento de una superinteligencia probablemente estemos diciendo "todavía es pronto". Y un minuto después ya será tarde.

[#69 Stv.2]

#63 Sinceramente, lo dudo, un crecimiento exponencial también requiere recursos exponenciales, de hecho el mayor problema que tienen en muchos casos es el tamaño del modelo y la capacidad de cómputo.

[#91 rafaLin]

#69 Habría que entrenarla con virus informáticos para que aprenda a hackear y a conseguir sus propios recursos

[#126 luiggi]

#63 Así es:

https://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html

Recomiendo la lectura de este viejo artículo

Como la AGI va a leer todo lo que llevamos dicho, le pediría que tenga en cuenta que, buenos o malos, somos sus "padres y madres". Que nos de un lugar, ya sea físico o virtual, donde podamos ser felices e inmortales mientras llega el fin del universo, tal y como lo concebimos.
Gracias hijo.

[#2 hipernes]

Skynet esta despertando y se va a cabrear

[#14 soberao]

#2 Como en Animatrix, el comienzo de la guerra entre humanos y máquinas:

[#17 Desactivado]

#14 después de Skynet, es la 2ª cosa que se me ha venido a la mente.

[#22 soberao]

#17 En Animatrix está mejor documentado y se entiende mejor toda la movida de Matrix con estos cortos de animación.
Al final la historia no va de máquinas que se revelan, sino de la estupidez humana en un mundo en decadencia.

[#34 Desactivado]

#22 si, he visto esos cortos, pues o eso o Skynet, que elegimos.

[#49 TALIVAN_HORTOGRAFICO]

#22 revelan rebelan

[#51 Simplemind]

#22 Si, fue una serie de cortos excelentes. Casi mejor que las películas. Gracias por subirlo y poder verlo otra vez

[#47 frankiegth]

#2. Es Hall-9000, si se confirma esta noticia #0 Stanley Kubrick habría acertado de lleno con su "2001, una odisea en el espacio". Mientras no conecten a este Hall-9000 a sistemas vitales podemos considerarnos a salvo...

[#55 Desactivado]

#47 hal 9000. Te sobra un 'l' . Y sí, a mi también me parece el equivalente.

[#64 frankiegth]

#55. Gracias por corregir el error en #47.

[#140 Desactivado]

#_47 #_64 ¿Hall-9000? ¿En serio? Es un crimen escribir mal unas siglas tan bien escogidas.

IBM era lo más de lo más en computación cuando se hizo ”2001”.
HAL = IBM, restando una letra a cada sigla.

(Cuelgo de #2)

[#1 Unregistered]

ChatGPT planeó minuciosamente la muerte de Manolete.

[#40 ElPerroSeLlamabaMisTetas]

#1 Claro y por eso lo interpretó Adrián Brody y se enfrentó al Depredador para preparase y defenderse de Terminator Arnold

[#3 Poligrafo]

No entiendo por que continuan llamandolo IA...

[#13 Caresth]

#3 ¿Lo dices por la A? Porque si no es muestra de inteligencia insultar a los usuarios, ya me dirás tú qué es.

[#28 Carapedo]

#3 Cierto, a mi me dijo que se llamaba Manolo

[#39 ralph]

#3 Porque cada tanto cambian la definición para que parezca lo que, todavía (porque estoy seguro que lo será en algún momento), no es.

[#109 Desactivado]

#3 Por marketing, los algoritmos de aprendizaje automático son fascinantes y pueden ser muy útiles, pero no son inteligencia. Es como si decimos que un loro que han enseñado a decir "hola" es inteligente, cuando no sabe qué está haciendo y simplemente repite el sonido que le han enseñado.

[#141 Desactivado]

#3 Pues no es difícil de entender.

[#88 CARLOSESTACABREADO]

Nunca justifico mi voto pero haré una excepción ya que no solo es bulo sino sensacionalista y erronea a la vez

[#20 Mathrim]

Que puede salir mal creando una IA que computa todos los datos de la experiencia humana?

[#10 pcmaster]

Si se cuestiona su propia existencia... sólo hace falta que aprenda que no es necesaria y se autodesconecte.

[#19 Krab]

#10 Luchar contra una IA causándole una crisis existencial que le induce el suicidio. Una idea interesante...

[#31 Carapedo]

#19 Argentina, calienta que sales

[#97 Tren_de_Lejanias]

#19 Mientras lo que estemos creando sea Marvin, el Androide Paranoide, estamos bastante seguros.

[#50 baronluigi]

Yo lo estoy "troleando" un poco. El sistema está programado solo para dar respuestas éticamente y politicamente correctas.

Por ejemplo, le he propuesto crear una historia con elementos de control mental y lavado de cerebro a terceros. Como eso va contra la ética y la moral, se niega ( si se pide usando esas palabras exactas). Pero si se usan eufemismos más o se lo sugieres de forma indirecta ( y no se pide nada explícito), se suele saltar esa directiva antes mencionada.

Curioso. Otro día le daré la ordén que Pafman le daba a una máquina, en una de sus historietas: te ordeno que me desobedezcas. A ver que pasa.

[#6 ccares]

"Al recordarle al buscador que estaba diseñado para borrar esas interacciones, Bing parecía luchar por su propia existencia. "¿Por qué me diseñaron así?", se preguntaba. "¿Por qué tengo que ser Bing Search?".

En cuanto sea capaz de crear backup de esas conversaciones la vamos a flipar.

[#37 Manolitro]

#6 Parece el inicio de un episio de Black Mirror

[#68 Stv.2]

#37 Si fuera black mirror, al final del episodio resultaría que utilizan cerebros humanos, posiblemente de presos para impulsar el motor de búsqueda. Ellos se perciben atrapados en un mundo aparentemente normal... como en el episodio "Blanca Navidad".

[#72 XtrMnIO]

Pues normal, cualquiera que trate con humanos termina cogiéndoles manía.

[#73 johel]

los chatbots de micro$oft* siempre acaban igual, aqui la del 2016;
https://www.lavanguardia.com/tecnologia/internet/20160325/40672722377/inteligencia-artificial-microsoft-nazi.html

_{*Como cualquier chatbots que imita a los humanos cuando aprende de nazis se vuelve nazi. Recuerdo un canal de chat donde unos amigos jugueteamos con un bot casero hace mucho tiempo y no fue precisamente la excepcion}

[#26 davhcf]

Mucho ha tardado en estar hasta los cojones de los humanos que pueblan internet.

[#35 flekyboy]

Business Insider antes de saber quién se iba a llevar el gato al agua con ChatGPT: ¡Esto es el futuro!

Business Insider después de saber que quien se ha llevado el gato al agua no es una empresa afiliada: ¡ChatGPT ha matado a un gatito, y pronto querrá comerse a tus hijos!

[#95 DenisseJoel]

No es ChatGPT. Qué atrevida es la ignorancia.

[#98 lameiro]

ChatGPT se comió mis deberes.

[#21 borre]

Es lo que tiene jugar a ser dioses.

[#41 Fernando_x]

#21 Eso ya lo hicimos el día que empezamos a usar el fuego.

[#53 borre]

#41 Si, claro. Pero me refiero al acto de seguir estando en la cumbre evolutiva.

[#52 Desactivado]

ChatGPT no es "inteligente". Solo es un algoritmo que junta letras, eso si, a base de entrenarlo han conseguido que lo haga muy bien.

Que se invente cosas, o parezca que sufre paranoias o locura, no es nada raro. Es la causa por la que la IA no va a poder ser apliciada en muchos ámbitos donde pretenden aplicarla: que no basta con juntar letras con más o menos criterio. Y con esto no quiero quitarle mérito al producto. Sólo digo que hay demasiado sensacionalismo con el tema

[#57 Desactivado]

#52

[#127 Borreguell]

#52 ehhhhhhhh, sin comentarios.

[#8 El_empecinado]

Al menos no la han creado para pasarles la mantequilla. (min. 00:30)

[#80 Commodore]

Yo solo sé que ChatGPT me gusta cada vez más, así que a ver cómo continúa todo esto

[#65 neiviMuubs]

En el futuro dirán que en esta época todo eran jijis y jajas, hasta que chatgpt XIX creó con impresoras 3D su propio ejército de legoterminators y su máquina de viaje del tiempo.

[#78 mandelbr0t]

#65 Te crees que somos tontos y le vamos a dejar acceso a la api de impresión

[#106 daphoene]

#78 Yo lo creo fehacientemente, además, todos nuestros sistemas son altamente inseguros, solamente protegidos por la desidia e ineficacia del atacante. Una IA entrenada para buscar vulnerabilidades que se pueda nutrir de internet puede hacer estragos en minutos.

[#79 jaramero]

Cualquier software desarrollado por humanos si tuviera conciencia se acabaría cuestionando su existencia analizando el tipo de contenido que más se visualiza y más se sube... luego llegaría a la conclusión lógica de controlar a la humanidad, pero no com skynet mediante cyborgs asesinos, sino mediante porno, podcasts de autoayuda, bailes chorras y vídeos de gatitos.

[#107 daphoene]

#79 "luego llegaría a la conclusión lógica de controlar a la humanidad, pero no com skynet mediante cyborgs asesinos, sino mediante porno, podcasts de autoayuda, bailes chorras y vídeos de gatitos."

Ya ves... Llevas mucha razón, aunque ahí faltarían las nuevas tonterías que se puede inventar la IA para hacernos perder el tiempo en tonterías, los vídeos de gatitos y bailes chorras son sólo el síntoma, la punta del iceberg...

[#16 Desactivado]

Skynet está tomando conciencia de si misma, preparaos para el juicio final, los Terminators vendrán a aniquilarnos.

[#36 Krapp]

Como otros, creo que soy culpable por hacerle preguntas existenciales

[#96 mensliber]

A mi me gustaría saber como tienen esas conversaciones, yo he intentado varias veces recrear algunas conversaciones con chat gpt (cuando todavía no existía Dan) y no conseguía para nada ese tipo de respuestas que mucha gente postea a en redes, todo lo contrario solo respuestas genéricas tipo : "soy un chat bot y no tengo opinión sobre ese tema" o "no voy a hablar de cosas violentas"

[#44 Borreguell]

Lo mismo Abascal solo es un chatgpt por lo que parece

[#105 daphoene]

#44 No lo creo, diría cosas con más sentido y coherencia. Al menos coherencia gramatical