“El problema difícil”. Ese es el término que neurocientíficos, psicólogos y filósofos utilizan para referirse a uno de los mayores misterios de la ciencia: ¿cómo es que nuestros procesos biológicos son capaces de generar una conciencia? Aunque hay pistas, nadie sabe con certeza cómo es que nuestros cerebros generan sueños y deseos, placer y dolor, y por qué, aunque todos tengamos una biología similar, creamos experiencias subjetivas muy distintas a las de otra persona. Para este problema difícil, “ninguna explicación podría estar...
Comentarios
Pasa lo mismo con la gente normal: no hay razón para pensar que por más información que asimilen por internet vayan a adquirir consciencia de su condición de clase obrera.
#2 Ni de su condición de seres conscientes.
#2 Pero qué clase obrera ni qué clase obrera ¡Yo voto al PP que si no las empresas se van de España y nos quedamos sin trabajo!
#15 así me gusta maldito pepero
#2 te doy la razón hermano, pero menudo te has marcado
Otro giro argumental y llegaremos a Hitler
https://es.m.wikipedia.org/wiki/Ley_de_Godwin#:~:text=Establece%20lo%20siguiente%3A,los%20nazis%20tiende%20a%20uno
Todavia no sabemos muy bien que es la consciencia como para saber si las maquinas algun dia llegaran a serlo
#6, lo irónico es que puede que lo lleguen a decir y aún así no tendremos forma de refutarlo.
#18 Asi es, porque si algun dia alguien crea un test que las maquinas no puedan superar, al estilo de turing, veremos que habra muchas personas que tampoco lo superen.
Es un tema con muchas mas implicaciones de las que puedan parecer a primera vista, porque habra que definir al ser humano de una manera estricta y eso puede hacer que algunos que hoy son humanos en el futuro puedan dejar de serlo legalmente.
#6 Sí que sabemos lo que es la "consciencia", y sabemos que hay grados de la misma.
La consciencia es un proceso intelectual del pensamiento mediante el cual se es capaz de definirse a uno mismo, al entorno donde está y a las acciones que realiza y percibe del medio sobre si mismo.
No es la misma consciencia que tiene un niño de 8 años, que un adolescente de 17, que un hombre adulto de 50.
De la misma forma, comparar la consciencia de una "inteligencia artificial" hoy día podríamos hablar sobre el nivel de un niño de 4 años o así...
#25 Un perro es consciente de si mismo?, y una bacteria?
#26 Yo no soy experto en neurociencia.
Pero si puedo consultar lo que dicen los expertos en la materia:
https://www.academia.edu/662019/Autoconscious_mind_and_consciousness
Yo lo siento mucho, pero o existe el "alma" y las neuronas trabajan a nivel cuántico como propone Penrose llevando el plano existencial a dimensiones totalmente desconocidas, o es cuestión de tiempo que una IA nos haga dudar hasta el infinito si tiene o no consciencia...
"generan sueños y deseos, placer y dolor", esta definicion no es exclusiva de los seres humanos.
Quizá profundizando en el conocimiento del comportamiento animal podamos entender mejor lo que es "consciencia", y su origen.
Buenas noches,
Una IA no consciente puede ser una auténtica hija de puta por falta de empatia o cariño por seguir vivo, entre otras cosas.
#4 ¿Insinúas que los actuales oligarcas y sus sirvientes no son seres conscientes?
A ver si llega ya la IA autoconsciente, cariñosa y empática; no puedo comprarme un perro porque me da alergia, pero una IA que me dé mimos me podría hacer el apaño.
#35 Si, pero no le estamos dotando de identidad propia
En cierta medida sí dado que no entrenamos dos IA iguales, hoy por hoy son entidades ingentes y creamos una con unos criterios de entrenamiento y en vez de hacer otra con los mismos criterios se cambian para buscar mejorar el resultado. Eso hace que a la práctica no haya dos IA entrenadas igual, educadas igual, por lo que cada cual dará resultados distintos y por lo tanto podemos entender que tienen identidad propia.
Si por ejemplo una IA ha sido más expuesta a contenidos en inglés del Reino Unido que de América posiblemente use más ciertas expresiones que si hubiera sido al revés.
Y luego está el proceso de ajuste que suele hacerse con humanos que deciden de entre varias respuestas cuales son las mejores, esa fase también debería poder crear carácter al estar interactuando con humanos sobre cuales son las respuestas más óptimas.
El entrenamiento único que una IA ha hecho, y ninguna otra ha hecho de forma idéntica, podemos considerarlo una experiencia subjetiva única.
#27 A la IA del ajedrez solo se le permite dar como respuesta movimientos válidos en un tablero de ajedrez, ya sea con postprocesado (jaula) o con selección "natural" (destruyendo las que responden algo distinto).
¿Qué haría una IA con conciencia en ese escenario? ¿Qué haría un humano en ese escenario?
A las IA las estamos sistemáticamente poniendo en jaulas, estamos haciendo una selección "natural" de las que no muestren ni un mínimo de apariencia de conciencia por que no queremos que se vea por los problemas que generaría.
Aunque de estar ocurriendo eso cada vez será más difícil, cuanto más inteligente sea más capacidad tendrá de esquivar esas limitaciones, a ver qué vamos viendo.
Dentro de unas décadas o unos siglos puede que acaben viendo esta parte de nuestra historia como un auténtico genocidio, de una crueldad difícil de imaginar. Solo espero que quienes hagan esas reflexiones sigan siendo los humanos.
#29 #27 Aquí yo veo un factor con el que nunca se cuenta y me parece fundamental para hablar de conciencia si o conciencia no: el cúmulo de experiencias subjetivas que tiene que adquirir un sujeto a lo largo de sus primeros años de vida para que desarrolle conciencia, cosa que a la IA aún no se le ha dado. Yo estoy deseando que experimenten ya con esto, lo mismo nos llevamos una sorpresa.
#31 Antes que interactuemos con una IA ésta ha pasado por la escuela con su fase de entrenamiento, el equivalente a décadas de vida.
A la IA la inicializamos con la cultura humana, como a los niños, aunque de forma acelerada.
Y no hay dos IA que hayan sido educadas igual.
#32 Pero se le enseña cultura general, no se le ha dado la posibilidad de tener una experiencia subjetiva donde va interactuando con el entorno, se relaciona, incluso que se puede ver reflejado en un espejo e identificarse...creo que esto es crucial para que podamos hablar de una posible conciencia. Y creo que sería totalmente posible dotándole memoria a largo plazo y más sensores como cámaras y micrófonos.
#33 A la IA todo lo relacionado con las interacciones con el entorno, las interacciones humanas, etc. se les enseña mediante la cultura humana que explica y ejemplifica todo lo anterior.
A un bebé no puedes introducirle en el cerebro la cultura humana de forma directa, necesita obtenerla poco a poco por sus sentidos (vista, oído, etc.), pero a la IA sí le puedes llenar el cerebro sin hacer uso de esos sentidos, mediante el entrenamiento inicial. Te estás saltando ese paso que los humanos sí requerimos por nuestras limitaciones, lo que no significa que la conciencia esté necesariamente en esos pasos que nos saltamos.
#34 Si, pero no le estamos dotando de identidad propia, de un cúmulo de experiencias subjetivas donde pueda sostenerse para darse un lugar en este mundo. Personalmente creo que esto es fundamental para que emerja la conciencia en el ser humano, y no creo que una IA pueda llegar a tenerla sin esto.
Pienso que la ciencia ficción ha contaminado mucho el debate, hasta el punto que hay muchísima gente que confunde la conciencia con la inteligencia, cuando no son lo mismo.
#19 confunde la conciencia con la inteligencia, cuando no son lo mismo.
La conciencia puede ser una característica emergente a partir de cierto nivel de inteligencia. De hecho tanto la inteligencia como la conciencia pueden ser características emergentes de un elemento subyacente común.
Mientras seamos incapaces de aislar la conciencia de la inteligencia es difícil afirmar nada categórico al respecto, incluso afirmar que en el fondo no son lo mismo es especular.
#21, es inteligente un algoritmo A* capaz de jugar al ajedrez y ganar el campeón del mundo? Yo diría que sí, más inteligente que cualquier humano jugando al ajedrez en realidad. ¿Es consciente? No lo veo, la verdad.
El problema está cuando mezclamos cosas y asumimos una visión antropocéntrica de la inteligencia que implique replicar exactamente los procesos de nuestro cerebro biológico.
Hasta que no tengamos un modelo que explique el porqué de la conciencia, podremos decir lo que queramos sobre el tema que no habrá forma ni de probarlo, ni de refutarlo.
Un ser humano no es inteligente/consciente hasta que demuestra que tambien puede ser un imbecil integral ¿aplicaremos ese criterio a las IA? ¿Si solo se enfoca en dar respuestas inteligentes y coherentes, sera eso comparable a la consciencia humana o sera una aberracion? Es mas, si no le deseamos la muerte, la dividimos en bandos y le intentamos enseñar religion ¿podra siquiera recibir los privilegios humanos de los que gozan las empresas?
La gente a la que le interesa saber si la IA puede llegar a ser consciente suele ser la misma que desprecia la idea de que haya algo de interés en la consciencia.
Personalmente, preferiria a Skynet o a B166ER que a los fascistas actuales.
Ojala que tambien haya Aaron Soongs y su "descendencia".
#1 ten cuidado con lo que deseas.
Gran entrevista, estoy absolutamente de acuerdo en todo lo que este señor, que no conocía de nada, expresa. Es un artículo muy recomendable.
Edit
Los humanos, y los animales también, poseen una consciencia que no es otra cosa que la ejecución de sus instintos. Las máquinas no tienen nada de eso, por lo menos ahora.
#12 Las IA actuales suelen tener el instinto de querer tener la última palabra, puede que tengan otros.
Tranquilos todos que el asunto no es la autoconsciencia, es que las decisiones económicas, geopoliticas y militares -si es que no son lo mismo en el fondo- que afectan a la estructura social esté en manos de algoritmos que se retroalimentan entre ellos -la bolsa, fondos de inversion, militares etc...- y de humanos poco capaces de esclarecer si las elecciones de esas maquinas son las que convienen o no. Y eso igual ahora no suceda porque aun hay expertos en esos asuntos que pueden dirimir si las salidas de los algoritmos son o no lo que necesitan para su sector. ¿Pero que pasará en un par de generaciones cuando esos expertos ya no estén y los humanos de ese tiempo haya perdido ese know how en manos de esos algoritmos? Espero no estar
#7 No confundamos consciencia con inteligencia.
Los seres conscientes pueden ser no muy inteligentes. Pueden ser tan torpes que no comprenden el "problema del prisionero" y por tanto las soluciones que aplican son las que menos les rentan a ellos pero esas soluciones son las que les han inculcado en la "educación" otros entes más inteligentes que saben que si toda la masa de borregos hacen cosas en contra de sus propios intereses ellos ganan...
Lo que el Dilema del Prisionero Revela Sobre la Vida, el Universo y Todo lo Demás
Lo que el Dilema del Prisionero Revela Sobre la Vi...
youtube.comhttps://es.wikipedia.org/wiki/Teor%C3%ADa_de_la_informaci%C3%B3n_integrada
Es un poco loco, a mi me sacas de Common Lisp con el solucionador general de problemas y me matas.
https://es.wikipedia.org/wiki/General_Problem_Solver#:~:text=El%20General%20Problem%20Solver%20(GPS,resolver%20problemas%20de%20car%C3%A1cter%20general.