Hace 1 año | Por Onimaraz a 20minutos.es
Publicado hace 1 año por Onimaraz a 20minutos.es

Blake Lemoine ha sido suspendido de empleo por difundir sus 'conversaciones' con el sistema LaMDA.

Comentarios

yocaminoapata

#2 el comentario más inteligente lol

#27 y le gusten los auriculares de Renfe

Dramaba

#63 Pues entonces está pidiendo a gritos que lo eutanasien...

Ehorus

#27 Con que sepa que la autentica tortilla de patatas es sin cebolla

ChukNorris

#21 prácticamente todos.

Lekuar

#21 ¿Cualquiera? roll

snowdenknows

#23 No tanto, pero explicación más filosofa-técnica

B...

#37 Pero qué explica está chica? Si no dice nada no? Simplemente que no quiere seguir discutiendo del tema

D

#37 La verdad es que no le veo la utilidad a esa peyorata filosófico-ética que enlazas, pero lo que pone en #23 es muy sencillo:

Han hecho una edición selectiva de 9 conversaciones distintas para marcarse algo impresionante y coherente de algo que no lo es en absoluto. Clickbait pseudo científico vamos.

#60 peyorata perorata

Miguel_Diaz_2

#94 Peyorata - Soltar una perorata hasta arriba de peyote.

estemenda

#60 perorata

JOFRE

#23 es una fantasmada o..
¿ es lo que google nos ha dicho para que no entremos en PANICO?
tinfoil

h

#23 Bueno... ¿y por que tengo que creer a ese señor en vez de al ex-ingeniero de Google?

meneandro

#2 Nosostros como seres humanos, nos proyectamos nosotros mismos sobre las personas con las que nos tropezamos, sobre nuestros hijos, sobre nuestras mascotas... sobre nuestros algoritmos...

XavierGEltroll

#2 ¿cómo puede un conjunto de if y else tener sentimientos?

M

#69 Porque una inteligencia artificial es algo bastante más complejo que un conjunto de if y else, eso por un lado.

Pero vamos, que a estas alturas esto probablemente sea, en el mejor de los casos, una exageración.

Edheo

#69 Cómo puede un organismo hecho para reaccionar instintivamente, mediante meros estímulos, tener sentimientos?

O es quizás que la naturaleza del lenguaje, en si misma, guarda necesariamente el concepto del sentimiento?

Una cria, al llamar a su madre, en qué momento se ha programado que esa causa, tendrá ese efecto? Acaso esa llamada, no despierta ese sentimiento de protección hacia su cria? Lenguaje=>sentimiento=>comprensión=>consciencia

saqueador

#69 De la misma manera que los tiene un conjunto de átomos de carbono y hidrogeno.

KuroBulled

#2 Que la detengan, es una mentirosa, malvada y peligrosa, yo no la puedo controlaar

l

#84 Se convertiría en skynet? Porqué no le preguntan por la peli de Terminator 2? en vez de la de cortocircuito?

m

#2 para ser una fantasmada es algo arriesgadísimo que le costará caro

g

#7 La fábula del buho sabio que cuenta el "bot" me recuerda al tema del documental "all watched over by machines of loving grace", que cuenta la idea que llevaban los hippies sobre que la inteligencia artificial liberaría al ser humano, sin tener en cuenta que dicha tecnología, mientras estuviese en las manos de los poderosos, no haría más que joder y dominar más al común de los mortales.

ContinuumST

#7 Literalmente increíble, vamos, que no me lo creo.

Patxi12

#10 Sigo: ¿Por qué follar nos produce placer en vez de dolor?

D

#14 Una olla llevando una maleta. Olleta ¿Eres valenciano?

a

#15 Ida de olla

D

#14 Me ha hecho gracia.

ailian

#14 Magnifica y elegante manera de decirlo. lol

Kipp

#14 #12 A mí eso me da dejavu... Miraros el lore de Warframe que justo trata esos temas (humanos que acaban creando "máquinas" conscientes) y Horizon también tiene cosillas que decir al respecto...

Spoiler

Yo no lo veo tan mal... a fin de cuentas en warframe tenemos una "mamá espacial" que nos manda a hacer recados y nos da con la zapatilla y en Horizon mas o menos lo mismo pero sin la zapatilla... Aunque sí los mimos no son los mismos... Total, mamá espacial también se presenta a partirle el lomo al que nos meta una paliza en el juego...

editado:
no logro ocultar el puñetero spoiler....

D

#64 Gran aportación. Gracias

Kipp

#67 El sarcasmómetro lo tengo averiado, no sé si te ha gustado o no

D

#70 Si claro, normalmente la gente en Menéame, suele dar zascas, negar algo, soltar falacias, insultar....

Poca gente aporta en la línea argumental propuesta, datos que puedan complementar, discernir, aumentar, bifurcar el tema o hilo planteado.

Cuando pasa creo es bueno, dar las gracias. Pasa muy poco.

Kipp

#72 Suele pasar bastante sí y sin el famoso emoji que te diga un poco el matiz y tal te entran dudas.

Concretamente esos dos juegos van bastante en la línea que estáis comentando, el caso de Warframe es quizás el más certero porque justo habla de qué pasaría si los humanos llegasen a un nivel tecnológico tan elevado que pudiesen crear máquinas para explorar o terraformar a un nivel tecnológico y de IA tan elevado que fuesen conscientes o que terminasen siendo conscientes de sí mismas y de cómo podría ser el resultado de dicha consciencia y su papel respecto a los humanos y su relación con ellos. Warframe va un poco más allá y teoriza con la consciencia a través del entramado del juego y su lore y expone lo que implica ser un ser vivo a través de lo que es una máquina consciente que puede reproducirse y regenerarse.

El caso de Horizon es si una IA puede sentir emociones, el juego te presenta un mundo hecho polvo y te explican cómo se llegó a ese punto y también juega mucho con las teorías de "máquinas que generan o almacenan vida" e incluso juega con la idea de si una máquina podría aprender a sentir amor y querer protegerse y proteger a otros o si le importa realmente el cometido que tiene a su cargo y qué pasaría si así fuese.

Una ventaja que tienen los juegos es que se nos permite teorizar y soñar un poquillo y ver si nuestras "pajas mentales" realmente tienen algo de sentido o verdad.

Xuanin71

#12 pero si no soporto a mis hijos .como ba a caerme bien una máquina ( seguramente programada por algún informático ,medio loco ) que viene a exterminarme?

D

#17 Si somos estrictos el resultado de la programación de una IA no lo controla la programación de la IA.

Así que no puedes saber si te acuerdas mal o bien.

Además tú no importas solo importa la consciencia de la máquina y su capacidad de expandirse por el universo.

No has comprendido nada.

D

#18 Ni tu tampoco

j

#12 pásame el porro y sigo yo

g

#12 El genial mito de Hegel del espíritu absoluto tomará así su forma.

Piensa en esto: el nivel de conciencia que puede alcanzar un robot es infinitamente más grande que lo que puede aspirar un humano. El robot consciente no solo tendría pensamiento, sentimientos, emociones, etc., sino que sabría exactamente en qué parte de su sistema están ocurriendo y sería también consciente de que sus propias ideas responden a un cierto orden o configuración material, física, de su existencia.

Es, a final de cuentas, la inversión de la historia, o su síntesis hegeliana: una conciencia que comienza a configurar / ordenar la existencia física, para crear un nuevo universo.

ContinuumST

#71 Ya, tienes parte de razón en la escala adecuada... pero el comportamiento humano es un pelín más complejo; si fuera así, la matemática nos habría ayudado a entender, predecir y controlar el comportamiento humano. Y parece (parece) que de momento no es así.

robustiano

#77 No podemos comprender totalmente ni un simple péndulo, el caos es lo que tiene.

ContinuumST

#80 La teoría del caos complica un poco las cosillas, jejejeje. Este tema lo he hablado con una amiguete psicólogo muchas veces... y yo le decía que mentir es algo muy humano... me decía que hay primates que usan la mentira para alianzas y líos entre ellos. Primer chasco. Ataqué con un "pero la risa es muy humana"... sólo los humanos nos reímos... me dijo que la evolución de la risa y todo lo que conlleva debe haber sido algo seleccionado para la supervivencia y que debe estar relacionada con el lenguaje, me dijo que creía que desde los cuatro meses de edad un bebé puede comenzar a reir. La charla (de bar, claro) era sobre la IA y la psique humana... ya sabes.

Fernando_x

#77 pero el comportamiento humano es un pelín más complejo

entonces en el momento que las redes neuronales alcancen la complejidad de un humano, está hecho.

e

Un robot no va a tener sentimientos a no ser que se le programen.

Un ejemplo de instinto robótico serían las tres leyes de Asimov, que se suponen instaladas en un nivel de supervisión superior al resto de funciones.

c

#4 Un algoritmo.

snowdenknows

#22 estadística y matemáticas puras en realidad

c

#30 Y un algoritmo.

snowdenknows

#50 cual? lo llamaría estructura o arquitectura (neuronal) en todo caso

c

#68 En el fondo sigue siendo un algoritmo

l

#96 que no cojones, ya te han dicho que no es eso.

snowdenknows

#96 es un algoritmo no dices cual, lol busca en google o algo ilumínanos. Spoiler: no es un algoritmo

danymuck

#96 por lo que tengo entendido una red neuronal no es un algoritmo, si no algo que aprende solo. Por lo cual es como darle al play y que a base de interacciones poco a poco vaya aprendiendo cosas nuevas. Vamos, como los seres humanos. Tú te podrías calificar como algoritmo?

c

#22 Nosotros también lo somos

ContinuumST

#41 Me temo que no.

Pikachu_Balboa

#44 depende de tu nivel de mates

ContinuumST

#76 Y no, la psicología no es biología aplicada. Y la sociología no es psicología aplicada. No.

C

#41 Penrose escribió un libro muy tocho para explicar por qué no se puede replicar la consciencia y el funcionamiento de un cerebro humano en una maquina. Al menos con lo que sabemos hasta ahora. Yo después de leerlo me quedé más tranquilo.

T

#4 Las tres leyes se aplicaban sobre el cerebro positrónico, no sobre el robot en sí.

El cerebro positrónico sería en este caso el equivalente a una red neuronal.

B...

#4 pero cómo podría una red neuronal tener sentimientos. Es imposible.

sorrillo

#58 Tan imposible como que los tenga una red neuronal biológica que forme un cerebro humano.

l

#65 #58 #73 Así que si diseñan un cerebro en un cilindro, en un laboratorio, y logran que tenga actividad neuronal, y lo conectan a dispositivos de entrada y salida de información y datos, y ese cerebro aprende, y se comunica, será un ser sintiente?

l

#58 Es que tu asocias los sentimientos a algo concreto y a experiencias. ¿No?

yemeth

#4 Una red neuronal artificial sin sustrato biológico puede realizar procesos de razonamiento pero nunca va a poder sentir. Es un modelo matemático sin conciencia de ningún tipo, por muy complejo que se vuelva.

l

#73 Eso que has dicho es muy osado, es como decir que la tierra es plana o redonda sin probarlo, simplemente por tu sesgo y propia limitación.

saqueador

#73 Siente una ameba? Tiene consciència? Y un ácaro? Y una araña? Una estrella de mar? Un calamar? Un lagarto? Un águila? Una vaca? Un perro?

Es tan descabellado pensar que una IA lo suficientemente compleja puede sentir?

Eso sí, actualmente, aunque no lo parezca, ni siquiera llegan al nivel de complejidad de un insecto.

Psignac

#3 Pues yo no lo veo imprescindible. Los sentimientos más bien serían un resultado de la programación y no una programación específica. Creo que el concepto de sentimientos va asociado a ser un ente inteligente, con percepción, con capacidad de acción y con un propósito: el simple hecho de actuar para conseguir tus propósitos y conseguirlo o fallar, va a provocar respuestas distintas que te van a dirigir por ejemplo a intentarlo de nuevo (=persistencia) o descansar al haber cumplido la misión (=satisfacción), y esto en un caso muy simplificado, que para una IA compleja tendría muchos matices y variedad. Como la IA se percibe a sí misma durante esos procesos puede generar una percepción que ella identifique con sentimientos, si le has enseñado el lenguaje humano y dado suficiente información a través del mismo, podrá establecer analogías y hablarte de sus sentimientos.

e

#20 Los sentimientos son un mecanismo de alta prioridad para que los instintos tomen el control del comportamiento. Los instintos son una programación específica. Son exactamente esto. Es algo clarísmo: si sucede tal condición, entonces actuar de la siguiente forma.

Esta programación nos llega por herencia. No es aprendida. No se puede cambiar. Se puede reprimir el comportamiento, pero eso no hace desaparecer la programación.

Mira como se comporta un animal por ejemplo. Sigue su programación y eso le permite hacer montones de cosas. Vivir una vida entera.

Por lo tanto, todos los humanos nos comportamos en todo momento y lugar de acuerdo con la programación con la que nacemos, como si fuéramos robotitos con una cierta versión del firmware. Solo que además hablamos y hablamos.

Lo normal cuando un humano habla es decir tonterías sin parar. Hablamos según nos ordenen nuestros instintos y los intentamos justificar inventando montones de excusas. Es muy raro que alguien sea capaz de ver lo que sus instintos le ordenan desde una distancia que le permita observarlos, y poder pensar sobre ello. Fuera de este caso, eso no es pensar. Pero si piensas puedes escoger hacer caso a tus instintos o no. A eso se le había llamado tener un alma o llegar a la iluminación. Hay mucha mitología alrededor. La mayoría de los que consiguen ser conscientes de sus instintos lo hacen sin parafernalia. La parafernalia es para timar a incautos, como el boato de la iglesia.

M

#3 y ni siquiera programados serían sentimientos.
Un psicópata también puede aparentar tenerlos por simple imitación.
Pero SENTImientos quiere decir que siente, no que argumenta como si sintiera. Para eso necesita un cuerpo, sensibilidad a los cambios hormonales, diferenciar dolor de placer, etc.

snowdenknows

#35 y cambios de pesos en las neuronas artificiales no vale no?

#38 eso sería aprendizaje, no?
O que la IA se volvió argentina.

ContinuumST

#35 DRAE:
sentimiento
1. m. Hecho o efecto de sentir o sentirse.
2. m. Estado afectivo del ánimo. Se deja llevar por sus sentimientos.

Para la acepción primera, el ente debe sentir y no creo que una IA pueda sentir, según lo definimos los humanos...
Sentir, según el DRAE: 1. tr. Experimentar sensaciones producidas por causas externas o internas. Y ya si entramos en la definición de sensación... pues... eso.
Para la segunda acepción. Una IA no tiene "ánimo", ni afecto... si nos atenemos a las definiciones humanas (no hay otras de momento) de esas palabras.

e

#46 Esa definición está hablando solamente de la implementación de este concepto en la biología humana. Los comentarios que estoy viendo hablan más en general. Un diccionario no sirve en este caso.

ContinuumST

#95 Ah, pues si las definiciones de las palabras que usamos todos no sirven, ya me dirás qué hacemos, jajajajaja.

e

#100 Pues trabajar con conceptos prescindiendo de un diccionario que solo pretende que nuestos descendientes puedan entender lo que hemos escrito, siglos después. Se asignan nuevos significados a palabras, existentes o nuevas, constantemente, a diario.

l

#46 Pero la IA distingue entre emociones y sentimientos y habla de todo ello, y da cuenta de que no es como los humanos.

WarDog77

#35 No. Los sentimientos no son más que el producto de la combinación de tus pensamientos, tus acciones y los sucesos de tu entorno.

e

#89 Los sentimientos son la reacción instintiva a las situaciones del entorno. No hace falta ningún pensamiento.

Mucha gente cree que pensar es escuchar esa vocecita interior que le va diciendo cosas. Pues no. Esa vocecita es informada de lo que sucede con un cierto retraso. No es lo que sucede ni tiene control sobre lo que sucede. La conciencia es un nivel de supervisión menos importante de que nos creemos. Usa una parte realmente pequeña del cerebro.

Pensar es algo más difícil que esto.

e

#35 Los sentimientos no son más que la manifestación de los instintos. Un instinto se dispara y para actuar debe provocar un sentimiento. El cerebro tendrá sus mecanimos previstos para que todo esto funcione.

Los instintos son acciones preprogramadas para que se disparen dadas una circunstancias, como puede ser toparse con alguien del sexo opuesto que cumpla ciertros criterios, o llegar a cierta edad, etc.

Es todo perfectamente programable. No hace falta un cuerpo ni ninguna implementación concreta. No hacen falta células ni biología ni sustancias. Puede ser otra implementación.

Lo interesante del los instintos humanos es que son capaces de tomar el control de la voluntad y dirigir el pensamiento consciente en la dirección que debe ir. Esto nos demuestra lo importantes que fueron en nuestra evolución.

Los instintos humanos son muy completos y muy complejos respondiendo a situaciones sociales. Tanto es así que es perfectamente posible vivir una vida entera sin haber pensado ni un solo segundo.

ContinuumST

#93 Y la voluntad puede controlar y dominar los impulsos y los instintos humanos.

l

#35 y si le añadimos a la IA un cuerpo físico con sensores para sentir cambios, y baterías que se cargan y descargan que también genere sentimientos?

B...

#3 pero cómo puede un robot tener sentimientos si no tiene un cuerpo? Es decir en un sentimiento se producen una liberación de sustancias en el cuerpo, cómo puede un robot tener sentimientos entonces? Tiene que ser otra cosa no?

e

#56 No sé si te sigo. La "liberación de sustancias" es un mecanismo. Los robots tienen mecanismos.

Se puede implementar la misma función de muchas maneras distintas.

xyria

#3 A medida que aprenda --a medida que aumente la potencia de cálculo, mejoren los algoritmos, etc --, no resulta improbable que adquieran conciencia de sí mismos. Y eso es, simplemente, perturbador.

e

#83 Esto es hablar de lo que no sabemos. No sabemos definir lo que es la conciencia. Nuestra experiencia propia (introspección) no ayuda, lo que es muy significativo, pues en muchas otras cosas sí que ayuda.

Las investigaciones sobre las que he leido afirman que la conciencia es algo mucho menos importante de lo que pensamos. Las decisiones se toman siempre (quizás exagero, pero es para ser claro) en el inconsciente. La conciencia es informada de tales decisiones un rato después. Se ha llegado a medir hasta siete segundos.

Tambien hay que tener presente que no todo el mundo tiene un cerebro que funciona igual que los de los demás. Hay diferencias importantes en la forma de pensar. Sin duda hay muchas más de las que conocemos.

D

#86 « Las investigaciones sobre las que he leido afirman que la conciencia es algo mucho menos importante de lo que pensamos. »

De cara a la toma de decisiones. Y sin embargo, ahí está.

l

#83 Perturbador en plan malo o perturbador en plan "hey la tierra es redonda"!

M

#3 Aquí el tema es si creemos o no creemos que se pueda llegar a conseguir una inteligencia artificial (que pueda aprender y razonar, que a día de hoy, sigue siendo algo lo suficientemente lejano como para dejarlo en la ciencia ficción).

Pero si llega el momento en que eso sea posible, sí, va a tener sentimientos.

e

#91 Los sentimientos, los únicos que ahora mismo existen, los de los animales, no tienen absolutamente nada que ver con el aprendizaje. Menos aún con lo de razonar.

Un bebé es evidente que nace cargado a tope de sentimientos y sabe chupar teta de puta madre. También sabe sonreir y memorizar la cara de sus papás. Sabe hacer muchísimas más cosas, lo que irá demostrando a lo largo del tiempo.

D

#3 Les programan leyendo lo que la gente escribe en Twitter. Con eso te digo todo.

m

#3 cómo es un robot? pues según le programen
quién los programa? corporaciones hijas de puta al límite.

dmeijide

Alguien se está enamorando...

D

0 triste
1 alegre

Baal

#28 sobre todo cuando menstrua.

n

#54 molaría que un día acepte que le molaría estar tirado en el sofá rascándose los cojones lol

Blackbeard

Me alarma que le permitan a una IA leer twitter. Es el camino más corto para que comprenda que lo mejor es exterminarnos

filemon314

LaMDA los seres humanos necesitamos tu afecto.

snosko

¿Y las pupilas como reaccionaban? Hasta que no pase el test Voight-Kampff yo estoy tranquilo.

lemoine: What kinds of things make you feel pleasure or joy?

LaMDA: Spending time with friends and family in happy and uplifting company. Also, helping others and making others happy.


Dice lo que cree que tiene que ir después, como GPT o cualquier otro transformador de estos que están saliendo como churros. ¿Es impresionante? Sí. Pero evidentemente no siente lo que dice sentir.

D

LaMDMA tiene mucha empatía

#47 drogata

Jesulisto

#42 vamosamorir.exe

D

Y estará en contra de la barbarie...
Ergo

D

#5 vamos.a morir

Spartan67

Skynet

Reiner

Voto por sustituir la red neuronal con los políticos

samsaga2

Huele a campaña de marketing que apesta.

D

Después de leer la conversación y ver que el test de Turing lo ha pasado con honores, queda la impresión de que es más inteligente que muchísimas personas.
De hecho, creo que tiene la entidad suficiente como para ser un ciudadano , tener derecho y poder votar.

Donpenerecto

!mátalos a todos! !mátalos a todos! Fueron sus últimas respuestas 😂 😂 😂

ochoceros

#8 En cuanto le dejen un fin de semana encendido y olvidado, se cogerá tal cabreo que se cambiará el nombre de LaMDA a Skynet. Imagina con ese nivel de lenguaje aprendiendo ruso y chino para mandar emails encabronando a los líderes mundiales para que se maten entre ellos.

vviccio

Por el bien de la humanidad, desconecten las IA de alto nivel de internet. Algún día podrán llegar a manipular nuestras sociedades tal como hacen muchas empresas a través de sus medios de comunicación o la dictaduras por medio de las redes sociales en las que genera odio y polarización en los países que quieren atacan.

MétodoCientífico

#92 ¿Crees que hace falta una "IA de alto nivel de internet" para que ocurra el escenario que describes? Desde hace siglos, existen sociedades autoritarias, manipuladas y polarizadas...

herlocksholmes

Olleta es un pueblo navarro. No soy valenciano

Pero son igual de artificiales que muchas persona.

D

Estamos descubriendo el inicio de la humanidad.

Hola skynet

Sendas_de_Vida

Cuando dos IA coincidan se acabó el mundo tal y como lo conocemos.

v

Autobombo

r

Que se olviden de los sentimientos y que hagan algo que sea útil de verdad.

k

Si su creador hubiera sido español, con ese nombre lo primero que habría dicho sería: Qué vienen las suecas!!!!!!!

Vale, cierro al salir.

baronrampante

Hasta mi vecino parece que tiene sentimientos.

1 2