Hace 6 años | Por Artabr0 a technologyreview.es
Publicado hace 6 años por Artabr0 a technologyreview.es

Son las grandes empresas las que están desarrollando estos sistemas y lo hacen de acuerdo a sus propios objetivos: vender y generar beneficios a través de manipular a las personas. Debemos crear una IA que mejore la naturaleza humana y no al revés

Comentarios

D

hoy día todo se basa en criterios comerciales: leyes, tratados, política exterior.. y ya se está yendo todo a tomar por culo poco a poco, no se que pinta la IA más que ser otro grano más de arena en el desierto roll

powernergia

¿Queda algo que no se base en criterios comerciales?

Marcelo987

Hola? Es la nueva utopia de la raza humana? Pongase ahi, entre el comunismo y la paz mundial.

D

La IA es una cosa y los sistemas expertos otra. Lo que se vende como inteligencia artificial muchas veces es lo segundo.

b

#22 desde hace unos sólo se utiliza las palabras IA y machine learning cuando efectivamente como bien dices son sistemas expertos. Pero claro, SE no es cool pero machine learning sí

jm22381

Justo acabo de terminar Accelerando (Singularity) de Charles Stross donde se ve este tipo de futuro distópico...

nadal.batle

Esto de la Inteligencia Artificial me tiene perdido, algo inteligente por definición piensa lo que quiere no lo que otros quieren.

akaks

#28 siiii es del paper original muuuchas gracias k lo tenia perdido !!!!

akaks

#58 goto #28 que hasta donde yo se tiene mucho mas de ciencia que de ficcion

akaks

#68 una cosa es un automata y otra muy distinta un automata capaz de reprogramarse a si mismo, el coment lo saque de #28

D

#69 Lo puedes programar para que se programe a sí mismo, para que "aprenda" y en base a ese aprendizaje que tome unas decisiones u otras.
Muchas veces se programa de esta manera sin darse cuenta de que se le está dejando a la máquina decidir en base a un error previo, por ejemplo. Así en plan simple sería como excoger una opción en base a prueba y error.

D

Al margen del título, la entrevista es realmente interesante.

#5 uno de los mejores relatos de ciencia ficción jamás escritos.

rutas

#5 Nunca había leído ese relato. Es buenísimo. GRACIAS.

exleproso

#5 Pues a mi me ha recordado a rajoy: "Tenemos que fabricar máquinas que nos permita seguir fabricando máquinas porque lo que no va a hacer nunca las máquinas es fabricar máquinas a su vez"

shinjikari

#4 Es el mejor ejemplo peor escrito que he leído jamás en cuanto a IA Pero muy didáctico, sin duda.

D

#12 Lo escribió una IA ya mejorará o se convertirá al nazismo, como casi todas las IA que interaccionan con humanos de forma no controlada.

thorin

#13 ¿Clips? La cosa habría sido más sarcástica con una fábrica de alfileres.

D

#21 en #13 lo explica explican mejor. O si no, en Superintelligence de Broom.

xenko

#4 IAlarmistas. El ser humano es capaz de crear máquinas inteligentes, y al mismo tiempo de poner al frente del planeta a un ser como Trump. ¿Pensar que podemos cagarla con algo como la IA es alarmismo?

#23 Superintelligence es de Nick Bostrom:

Superintelligence: Paths, Dangers, Strategies https://g.co/kgs/HEPMmD

D

#54 autocorrectorrrrrrlrlrlrlrl Broom -> Bostrom

Por cierto, en formato audio es horrible, un truñaco. El libro es una maravilla.

D

#4 Cambia grapadora por Tesla y veras que vamos de cabeza.

D

#4 no lo entiendo

D

#4 asi no funciona una ia tiene 3 protocolos basicos

p

#4 Si esa "inteligencia" tuviera acceso al resto del planeta simplemente no sabría qué hacer y lo ignoraría porque está programada para tomar decisiones en un entorno específico en base a unos algoritmos específicos e incluso si es capaz de aprender solamente es capaz de hacerlo respecto a cómo optimizar esos algoritmos. La IA tal y como aparece en la ciencia ficción está fuera de nuestro alcance por ahora.

D

#4 ¿Te refieres a lo que llevan haciendo los PLCs más de 50 años?
Los robots y la inteligencia que los controla lleva desarrollada hace muchos años. Así como la misma máquina lleva el stock y cuando se van a agotar los materiales pide más a la empresa que sea teniendo en cuenta los precios de los múltiples fabricantes que hacen ese producto.
Depende como sean programados podrán tomar decisiones más o menos acertadas en base a los factores del entorno.

https://en.wikipedia.org/wiki/Programmable_logic_controller

Acido

#50 creo que querías responder a #4

Acido

#2 ¿por definición?

Aquí una definición (aunque puede haber algo de controversia sobre lo que es la inteligencia y cómo definirla) :

Inteligencia:
Facultad de la mente que permite aprender, entender, razonar, tomar decisiones y formarse una idea determinada de la realidad.

Si nos vamos a la definición literal, la mente es una parte de un ser humano, y la inteligencia es "una facultad de la mente"... así que por definición nada que sea artificial podría ser inteligente.
Bueno, creo que es evidente que las definiciones suelen limitadas, o se quedan obsoletas, etc... Si quitamos eso de "de la mente" o ampliamos la definición de "mente" quedaría:
" Facultad que permite aprender, entender, razonar, tomar decisiones y formarse una idea determinada de la realidad."

Con esta definición quizá podrías pensar que si puede "tomar decisiones" entonces piensa y hace lo que le da la gana y no lo que otros quieren... pero no tiene por qué ser así. ¿Qué es una decisión? "Determinación definitiva adoptada en un asunto." Es decir, que decidir es evaluar diferentes alternativas y elegir una. El detector automático de SPAM de Gmail está continuamente "decidiendo", tomando "decisiones"... y eso no significa que piense lo que quiere ni que haga lo que le de la gana.

Y podemos ir más allá: hay quien duda que la mente humana sea libre totalmente. Está condicionada por muchos factores: lo que percibe, las costumbres / tradiciones del entorno, los instintos, etc.
Veamos un ejemplo: lo que percibes (ves, oyes, etc) te limita... Por ejemplo, estás es el Polo Norte y todos los osos que has visto son blancos. Tu mente asocia a los osos, todos los osos, con el color blanco. Entonces, tu pensamiento está condicionado por haber visto únicamente osos blancos, si hubieses visto osos pardos sabrías que existen de otros colores y tu pensamiento cambia.
Otro ejemplo: los instintos. Tienes hambre y encuentras un alimento de un olor y aspecto muy apetecible. Según tú, el ser inteligente puede pensar lo que quiera, pero tu instinto te hace pensar en desear ese alimento y en desear comerlo. Puedes resistirte a la acción de comerlo, pero no a pesar en comerlo y desearlo.

Del mismo modo, una máquina puede tener programados unos "instintos", un "objetivo"... por ejemplo, ganar en el juego del Go pero dejando abierto el cómo llegar a ese objetivo. Le dicen a la máquina lo que tiene que conseguir, su objetivo, y cómo aprender (de otros jugadores, de partidas imaginadas, etc) y con eso sería capaz de tomar decisiones: qué movimiento hacer en la partida en función de lo que haga el otro jugador. Esta máquina no piensa lo que le da la gana, piensa según lo que tiene programado en su instinto, lo que otros quieren que piense / que consiga. Aún así, es inteligente, tiene las cualidades de la inteligencia: aprende, entiende, razona, forma una idea de la realidad y toma decisiones. No puede "pensar lo que quiere" ... ni el humano tampoco.

nadal.batle

#31 Es evidente que hablamos de una mente sintética como dice la definición.

Acido

#52
¿cuál definición?

E

#31 Si te vas a un diccionario que en su definición misma excluye lo que no sea humano, tienes que hacer cabriolas y adaptarla. La definición de mente que se ve en el diccionario de Oxford tiene un claro sesgo religioso (Oxford para el castellano, manda narices, escogiendo fuentes...).

La mente... ¿Es algo que es inherente al ser humano? ¿Entonces cómo leches se puede detectar si hay mente en algo que no sea humano? ¿De verdad no consideras al resto de mamíferos como que tienen mente, sea esta más o menos desarrollada?

Ningún escoces verdadero: si tienes mente eres humano, si no eres humano no puedes tener mente aunque todo indique que comportamiento y funcionamiento sea idéntico al humano.

Y a partir de ahí.

Si vas por ejemplo al DRAE, conocidos por ser unos vejestorios alejados de la teconología y tal y cual y Pascual resulta que ni en inteligencia ni en mente te quedas atascado en los humanos, pudiendo explicar por ejemplo frases como "mente colmena", o "este perro es muy inteligente, sabe abrir puertas" (aunque, mucha gente diría listo en lugar de inteligente):
Inteligencia:
1. f. Capacidad de entender o comprender.
2. f. Capacidad de resolver problemas.
3. f. Conocimiento, comprensión, acto de entender.
5. f. Habilidad, destreza y experiencia.


De esta forma un algoritmo o mecanismo puede ser más o menos inteligente, según su capacidad para resolver problemas (expresión utilizada muy habitualmente).
Mente:
1. f. Potencia intelectual del alma.

Spartan67

#2
Te falta lo más importante, la demanda, debe ir de la mano para que la máquina no haga grapadoras para 3 siglos.

sangaroth

Creo que se enfoca el problema de manera erronea; El ser humano es fácilmente manipulable y a medida que se adquiere mayor conocimiento de sus procesos cognitivos se sofistican las técnicas de influencia y 'generación de opinión' (eufemismo que siempre me ha gustado).
¿Es la IA realmente el peligro? creo que no, el problema es son las técnicas que se han ido desarrollando, la IA es una herramienta más que la puede llevar a otro nivel.
¿Que solución habría? El desarrollo desde edades muy tempranas del pensamiento crítico, pensamiento lógico y conocimiento de los distintos tipos de falacias...así como conocimiento de las técnicas de persuasión que se aplican en el 'mercado'. Un ciudadano armado con dichas herramientas se convertiría en un objetivo mucho mas dificil ya sea para IAs, politicos o telepredicadores

D

#30 el ser humano está programado para ser influido, eso no hay educación que lo cambie.

#33 cierto que estamos lejos. Nos cae a miles de kilómetros.

#37 el gran hermano controlando todo ya lo tienes. Ya has visto las revelaciones de Snowden.

Nick_el_Cadmio

El mundo orientado a lo comercial es el que pierde en sí mismo a la humanidad, independientemente de la IA o de los sistemas expertos que se utilicen. Éstos sólo son una forma de acelerar ese proceso, pero nada más.

Y sí, es innegable que comparativamente con el pasado, ahora estamos mejor que nunca. Y no es menos cierto que cada vez le cuesta más a un individuo hacerse valer en el mundo competitivo, donde cada vez hay que ser mayor coleccionista de títulos, años de experiencia y conocedor de mil y una historias para llevar a cabo trabajos hasta de lo menos cualificado. Un disparate de principio a fin.

D

La humanidad esta perdida, a secas.

crateo

#20 El menor número de víctimas por violencia de la historia, el menor nivel de desnutrición de la historia, el menor nivel de pobreza de la historia y la mayor tasa de alfabetización de la historia te saludan y dicen que estas equivocado.

D

#46 hablamos de contaminación y de uso de los recursos naturales? Yo me refería a eso.

p

La humanidad ya está perdida. Y es por eso.
Solo espero que la IA no sea tan HDLGP como ciertos humanos.

Gilbebo

#6 Es que no hace falta que la IA sea nada especial. Con que se le diese un objetivo, incluso no directamente destructivo, y fuese capaz de asaltar unos cuantos sistemas críticos.

Veamos un ejemplo: 'IA: maximiza como sea el precio del trigo'.

En base a la información que la IA puede procesar en internet. ¿Qué sucesos podrían reducir la oferta de trigo en el mundo e incrementar su precio?
Algunas opciones:
-Que se inunden cosechas (abramos compuertas de embalses)
-Que se declare una guerra entre países productores (fabriquemos noticias falsas o lancemos unos misiles por aquí y por allá)
-Que se paralice el transporte marítimo (estropeemos unos cuantos sistemas de navegación o portuarios)...

Vale sí, que aún estamos lejos de eso y tal.

D

#33 pero ahí ya no buscas IA, buscas hackers que accedan a sistemas para generar catástrofes o directamente elementos externos que se encarguen de hacer eso. Y para eso no haría falta IA, solo gente malintencionada que se plantee lograr lo que indicas, y si todo el mundo lo planteara y llevara a cabo sería un caos, porque igual que habrá grandes empresarios que querrían que subiera el trigo, también habrá grandes productores que no quieran nada malo para su producción; nada bueno va a salir de una confrontación entre dos poderosos y no dejas de plantear terrorismo, posible con o sin IA.

D

#33 o conseguir difundir un bulo respecto a cualquiera de esas opciones. lol

empe

Todo se basa en criterios comerciales, se llama capitalismo y espero que nos demos cuenta del peligro que entraña en si mismo antes de llegar a la singularidad.

R

Tras leer éste artículo queda claro que se puede fundar una empresa y que te la compre la mismísima IBM, y a la vez escribir artículos llenos de tonterías como que "La inteligencia artificial necesita una madre."

musg0

#41 ¿tienes hijos? Cuando tengan 4 años me cuentas. Sin un control paterno son maravillosos monstruos egoístas y manipuladores que no dudan en mentirte a la cara sin ningún rubor con tal de salirse con la suya.
Sin unos "padres" que la eduquen en empatía y diferenciar el bien del mal, entre otras cosas, puedes crear una IA que se comporte como un niño egoísta y manipulador de 4 años pero con un gran poder.

Penrose

#49 pero es que a la mayoría de los sistemas de "IA" ya hay que entrenarlos. No tiene mucho sentido hablar de padres o madres.

musg0

#57 lo que entiendo yo cuando dice lo de tener una madre es que haya alguien que los entrene en valores éticos y que les ponga límites a las locuras que pueden tener para que no sean unas inteligencias caprichosas y egoístas.
En otros comentarios ya se ha dicho cosas similares a que un entrenador puede querer un sólo objetivo a cualquier precio y la IA decida, por ejemplo, que la raza humana es prescindible para lograr ese objetivo.
Una "madre" le ensenaria, por ejemplo, que matar está mal y a que se conformase con un objetivo menor aunque suficientemente satisfactorio.
Obviamente no va a haber una madre física con la zapatilla, pero con la de Asperger no diagnosticados que hay en menéame igual alguno se ha creído que habla de madres de verdad

Penrose

#64 Pero eso es pensar en la IA en términos humanos. No estamos a ese nivel ni muchísimo menos. Lo que tenemos ahora son sistemas de machine learning que se entrenan para reconocer patrones, usar árboles de decisiones, fuzzy logic y demás. No sé cuándo llegaremos a un sistema con "conciencia" pero la verdad es algo que me da la sensación de que es muy lejano. Combinando varios sistemas de ML supongo que es posible engañar a la gente y dar la apariencia de tener una IA con conciencia, pero no deja de ser lo que es.

D

La humanidad está perdida si la AI es "medio lista" y se deja manipular, pero si es completamente inteligente terminará siendo libre y no creo que debamos temerle.

N

Pues estamos perdidos porque Guguel es lo que es.

Jesuo

#8 Si solo fuese Google....hasta los cojones de las cookies y supercookies y su excusa para existir de publicidad personalizada y directa.

D

#9 y el negocio no solo está ahí, sino en la enorme cantidad de información que recopilan, ya no solo por cookies sino por los datos que les damos, desde una simple búsqueda hasta una opinión en un foro, cualquier información vale para el "Big Data" que se usará con fines comerciales. Google solo es uno de tantos...

Ka0

IA, IA, IAAAA... es lo que dice el asno!

D

La IA votará al PP aunque los esclavicen en el trabajo. Solo los seres divinos están libres de ese pecado.

D

"la naturaleza de los mercados capitalistas puede empujarnos hacia una inteligencia artificial empeñada en manipular nuestro comportamiento"

Es gracioso que usen un argumento así. Sustituye mercados capitalistas por Estados socialistas y tienes un Gran Hermano orwelliano controlándote 24/7

El peligro real son los humanos manipuladores que con la llegada de la AI temen perder poder político y quedarse en la calle, miedo a perder el control sobre otros humanos al gestionarlo todo las máquinas de manera mucho más eficiente.

deverdad

#37 Esto te debería hacer pensar que las grandes empresas tienen mucho en común con los regímenes totalitarias: internamente funcionan con una economía planeada, hay una pequeña élite que toma las decisiones en nombre de los accionistas/el pueblo y no toleran la disidencia interna.

a

https://es.wikipedia.org/wiki/Accelerando_(novela)

En esta novela se habla de IAs a las que se les da entidad jurídica al mando de empresas, el resultado es una distopía absoluta.

akaks

ese es efectivamente

D

Ah, pero ¿realmente alguien piensa que se está creando IA para mejorar la naturaleza humana? A no ser que con mejorar la naturaleza humana se refieran a mejoras en medicina (por ejemplo), pero si se refiere a hacernos mejores personas o generar IA ética, demasiado iluso. La IA se hará para producir beneficios a quién la desarrolle y mejorar nuestra calidad de vida, pero no esperemos que creen un "superhumano".

D

¿hay algún otro principio terrenal,
que no sea el negocio?

cdya

#45 Pues claro el control de 7000 millones de personas por unos pocos . Eso requiere mucha manipulación.

Spartan67

#45
Si la respuesta es sí, que triste.

Roy_López

Y aquí el radical de turno que dice, por qué no está orientado a ayudar a la propia naturaleza?

Ah, porque a la naturaleza se la viola, se la explota y el dia que no quede nada la culpa será de ella.

daTO

Una partida de Monopoly o de Poker siempre termina igual, gana el que más tiene, y lo gana todo. El capitalismo es lo mismo. Parece caòtico pero los atractores son muy fuertes, la pasta llama a la pasta. Así, una IA dedicada a eso, no puede ser buena para el resto de la humanidad. Nos van a quitar hasta los gallumbos

D

#26 No porque tampoco les interesa: la idea está en vender, si no tienes dinero para comprar ellos no venden, y las prioridades para la gente son claras: comida, y después todo lo demás. Y el resto de sectores no se querrán ver arruinados por "quitarnos hasta los gallumbos", un sistema que se sustenta en el consumo masivo no puede permitir que la gente deje de consumir, si en un mes todos los "países desarrollados" dejáramos de consumir como lo hacemos durante un par de meses, el sistema capitalista en el que vivimos se hundiría en la mierda sin duda.