No estamos listos para la Superinteligencia [ING]

IA 2027 describe un futuro posible en el que la inteligencia artificial transforma radicalmente el mundo en tan solo unos pocos pero intensos años. Se basa en previsiones detalladas de expertos, pero ¿cuánto de ello sucederá realmente?. ¿Estamos realmente corriendo hacia una elección entre un planeta controlado por la élite o uno en el que los humanos han perdido por completo el control?

[#1 sat]

Ni siquiera estamos listos para la inteligencia normal.

[#2 tul]

viendo la mierda que llevamos haciendo los humanos los ultimos milenios igual no seria tan mala idea que nos gobernara una ia

[#3 Leconnoisseur]

#2 Raised by wolfs es una serie que mete la patita en esto. No está mal, pero se me quedó corta

[#4 tul]

#3 en esa es un alienigena con poderes mentales el que maneja el cotarro

[#7 Leconnoisseur]

#4 Creo recordar que era un IA "The Trust"

[#9 tul]

#7 era un alien que parecia un gusano volador que se comunicaba mentalmente desde otro planeta, monta un culto en la tierra que se vuelve mayoritario porque a sus acolitos les da a conocer tecnologia alienigena para fabricar los robots que protagonizan las primeras temporadas.

[#11 dasu]

#9 El alien se cree que está jugando a un videojuego.

[#22 tul]

#11 el alien no se, pero el guionista fijo

[#12 Mangione]

#2 Grave error. Porque la IA no tiene autonomía, la IA está gobernada (y manipulada) por sus dueños. Ergo no te gobernaría la IA, te gobernarían Sam Altman, Elon Musk, etc.

¿Te siguen pareciendo buena idea?

Apuesto a que ya no tanto....

[#21 tul]

#12 ahora mismo esos no hacen faltan para nada, se podria entrenar una ia sin sus mierdas ni sus sesgos

[#23 Mangione]

#21 No te digo que no. Lo que te digo es que a día de hoy toda IA depende de un intérprete y/o vigilante: ¿y quién vigila al intérprete y/o vigilante?

Lo que nos devuelve al mismo problema que tenemos sin la IA: las élites en el poder.

Ergo no es una cuestión de IA sí o IA no. Con IA o sin IA es un problema de élites: ¿existe una élite? tienes un problema.

El problema es vertical, y sólo se soluciona con horizontalidad.

[#24 tul]

#23 a dia de hoy eso que llaman ia no es mas que modelos grandes del lenguaje que vienen a ser loros estocasticos y no podrian gobernar nada adecuadamente. si llegamos a conseguir una agi autentica no habra amo que valga.

[#10 dasu]

Justo ayer estaba leyendo una "notícia" donde unos gurús de la IA anuncian que han dejado de aportar dinero a su plan de pensiones porque para cuando lo necesiten el mundo no existirá porque la IA se lo habrá comido.

Toma ya hype.

Esta tontería ha llegado a un nivel de exageración difícil de superar, pero seguro que serán capaces de sorprenderme. Siempre lo son.

La realidad es que los LLM han dejado de mejorar. Los nuevos modelos son más de lo mismo y el progreso hacia una AGI…   

[#13 XXguiriXX]

#10 En mi caso, los últimos 4 meses he notado que han empeorado, y no soy el único.

[#15 dasu]

#13 Hay cosas como la proporción de alucinaciones, que no se sabe de qué dependen. Es normal que vayan oscilando de un modelo a otro.

[#6 Professor]

Me fio más de mi modelo gpt-o3 de pago que de cualquier político de cualquier color, exceptuando al Generalísimo Franco, por supuesto.

[#25 rojo_separatista]

#6, pero no era Franco el que decía que hicieran como él y no se metieran en política?

[#17 pablisako]

THIS IS THE VOICE OF WORLD CONTROL youtu.be/zkGsZ-qJ7uU

[#20 fremen11]

#19 Si, empecé a verla y estaba flipando. Una puta decepción

[#5 johel]

La estupidez natural siempre sera superior a la inteligencia artificial.
Respecto a la IA el mismo detallito que para las empresas, dado que ambas son maquinas; Si a una maquina no le pones filtros de ningun tipo hara exactamente aquello para lo que ha sido diseñada y eso no es ningun error.
En el caso de las empresas son maquinas de hacer dinero a costa de cualquier cosa, por eso la salud, lo social, las leyes, el bien y el mal importan una mierda donde las empresas rinden pleitesia a sus señores; en la bolsa.

[#14 fremen11]

Me parecería cojonudo, siempre y cuando estuviese limitada por las tres leyes de la robótica......

[#16 dasu]

#14 Lo que hizo bien Asimov es plantear la pregunta correcta.

Luego, las tres leyes tienen sus agujeros y hay novelas tardías con una cuarta ley, etc. Pero eso no le quita mérito.

La película "Yo, Robot" me gustó porque aunque el argumento no coincide con ninguna de las novelas (sí, me las he leido todas) pilla bien el espíritu de la saga. Sin embargo falla en explicar bien las tres leyes y su importancia, cuando son cruciales en alguna de las escenas de la peli, que por lo tanto quedan como resueltas "porque sí". En su lugar hace que los robots se comporten como humanos, cuando en las novelas no hacen tal cosa.

[#18 fremen11]

#16 Si la peli no coincide y también he leído las novelas, no todas, pero una cuantas sobre todo de La Fundación, esas todas.

[#19 dasu]

#18 De la Fundación me leí la trilogía y creo que alguna otra más. Es un universo distinto.

Ahí la serie es un fracaso total. No se corresponde con las novelas.

[#8 QRK]

Desde luego que no