EDICIóN GENERAL
608 meneos
2230 clics
La humanidad está perdida si la inteligencia artificial se basa en criterios comerciales

La humanidad está perdida si la inteligencia artificial se basa en criterios comerciales

Son las grandes empresas las que están desarrollando estos sistemas y lo hacen de acuerdo a sus propios objetivos: vender y generar beneficios a través de manipular a las personas. Debemos crear una IA que mejore la naturaleza humana y no al revés

| etiquetas: ia , corporaciones , manipulacion
Comentarios destacados:                  
#4 #2 imagina una inteligencia artificial programada para mejorar el rendimiento de una fabrica de grapadoras. dicha inteligencia controla todo lo k hay en la fabrica inventario, piezas de repuesto, brazos roboticos, empaquetado y envio a clientes.

es artificial pq es una maquina y es inteligente porque toma las decisiones mas utiles en un entorno especifico

ahora imagina lo k sucederia si esa inteligencia tuviera acceso al resto del planeta y comenzara a tratarlo como si fuera la fabrica.... todo absolutamente todo lo que hay en el planeta se optimizaria para crear grapadoras e incluso podria evolucionar para mandar grapadoras al espacio en busca de mas materiales para crear mas grapadoras
Hola? Es la nueva utopia de la raza humana? Pongase ahi, entre el comunismo y la paz mundial.
#1 ¿Hola? ¿Es usted el nuevo cínico derrotista que en lugar de aportar nada al debate se dedica a hacer chistecitos irónicos para su propia gloria? Póngase ahí, entre los posmodernos nihilistas y los cuñaos.
Esto de la Inteligencia Artificial me tiene perdido, algo inteligente por definición piensa lo que quiere no lo que otros quieren.
#2 Eso será en el momento que ocurra la singularidad ésa. Ahora mismo, las bases de hechos en las que se basan los sistemas inteligentes, están alimentadas por humanos, y los prejuicios que les acompañaban.
#2 imagina una inteligencia artificial programada para mejorar el rendimiento de una fabrica de grapadoras. dicha inteligencia controla todo lo k hay en la fabrica inventario, piezas de repuesto, brazos roboticos, empaquetado y envio a clientes.

es artificial pq es una maquina y es inteligente porque toma las decisiones mas utiles en un entorno especifico

ahora imagina lo k sucederia si esa inteligencia tuviera acceso al resto del planeta y comenzara a tratarlo como si fuera la fabrica.... todo absolutamente todo lo que hay en el planeta se optimizaria para crear grapadoras e incluso podria evolucionar para mandar grapadoras al espacio en busca de mas materiales para crear mas grapadoras
#5 en realidad mi comentario no es mio, es lo que recuerdo de un paper bastante extenso acerca de los distintos tipos de inteligencia artificial y como explicaban las consecuencias de que alguno de ellos se fuera de madre, no me extrañaria en absoluto que estuviera basado en este relato, thx por el aporte
#7 No será por casualidad de este magnífico post?

waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html

Una historieta muy parecida aparece en la segunda parte.
#28 siiii es del paper original muuuchas gracias k lo tenia perdido !!!! :-D
#58 goto #28 que hasta donde yo se tiene mucho mas de ciencia que de ficcion
#68 una cosa es un automata y otra muy distinta un automata capaz de reprogramarse a si mismo, el coment lo saque de #28
#69 Lo puedes programar para que se programe a sí mismo, para que "aprenda" y en base a ese aprendizaje que tome unas decisiones u otras.
Muchas veces se programa de esta manera sin darse cuenta de que se le está dejando a la máquina decidir en base a un error previo, por ejemplo. Así en plan simple sería como excoger una opción en base a prueba y error.
#4 #5

Toca spam de un cuentucho mío.

lacosagris.wordpress.com/2014/04/08/lo-lacteo/

El inacabable ingenio humano ha conseguido que conseguir leche fresca no sea una lucha a muerte sino un simple trabajo manual o incluso una tarea automatizada a cargo de poderosas máquinas y computadoras que trabajan por el beneficio de la civilización.
En Japón han ido más allá aplicando los máximos avances en inteligencia artificial. Allí las vacas son criadas por robots autónomos que buscan la…   » ver todo el comentario
Al margen del título, la entrevista es realmente interesante.

#5 uno de los mejores relatos de ciencia ficción jamás escritos.
#5 Nunca había leído ese relato. Es buenísimo. GRACIAS.
#5 Pues a mi me ha recordado a rajoy: "Tenemos que fabricar máquinas que nos permita seguir fabricando máquinas porque lo que no va a hacer nunca las máquinas es fabricar máquinas a su vez"
#4 Es el mejor ejemplo peor escrito que he leído jamás en cuanto a IA :-P Pero muy didáctico, sin duda.
#12 Lo escribió una IA :troll: ya mejorará o se convertirá al nazismo, como casi todas las IA que interaccionan con humanos de forma no controlada.
#4 Supongo que te refieres al maximizador de clips: en.wikipedia.org/wiki/Instrumental_convergence#Paperclip_maximizer

Es un ejemplo muy utilizado entre los IAlarmistas, Bostrom, Russell, ...
#13 ¿Clips? La cosa habría sido más sarcástica con una fábrica de alfileres.
#21 en #13 lo explica explican mejor. O si no, en Superintelligence de Broom.
#4 IAlarmistas. El ser humano es capaz de crear máquinas inteligentes, y al mismo tiempo de poner al frente del planeta a un ser como Trump. ¿Pensar que podemos cagarla con algo como la IA es alarmismo?

#23 Superintelligence es de Nick Bostrom:

Superintelligence: Paths, Dangers, Strategies g.co/kgs/HEPMmD
#54 autocorrectorrrrrrlrlrlrlrl Broom -> Bostrom

Por cierto, en formato audio es horrible, un truñaco. El libro es una maravilla.
#4 Cambia grapadora por Tesla y veras que vamos de cabeza.
#4 no lo entiendo
#4 asi no funciona una ia tiene 3 protocolos basicos
#4 Si esa "inteligencia" tuviera acceso al resto del planeta simplemente no sabría qué hacer y lo ignoraría porque está programada para tomar decisiones en un entorno específico en base a unos algoritmos específicos e incluso si es capaz de aprender solamente es capaz de hacerlo respecto a cómo optimizar esos algoritmos. La IA tal y como aparece en la ciencia ficción está fuera de nuestro alcance por ahora.
#4 ¿Te refieres a lo que llevan haciendo los PLCs más de 50 años?
Los robots y la inteligencia que los controla lleva desarrollada hace muchos años. Así como la misma máquina lleva el stock y cuando se van a agotar los materiales pide más a la empresa que sea teniendo en cuenta los precios de los múltiples fabricantes que hacen ese producto.
Depende como sean programados podrán tomar decisiones más o menos acertadas en base a los factores del entorno.

en.wikipedia.org/wiki/Programmable_logic_controller
#50 creo que querías responder a #4
#2 ¿por definición?

Aquí una definición (aunque puede haber algo de controversia sobre lo que es la inteligencia y cómo definirla) :

Inteligencia:
Facultad de la mente que permite aprender, entender, razonar, tomar decisiones y formarse una idea determinada de la realidad.

Si nos vamos a la definición literal, la mente es una parte de un ser humano, y la inteligencia es "una facultad de la mente"... así que por definición nada que sea artificial podría ser inteligente.…   » ver todo el comentario
#31 Es evidente que hablamos de una mente sintética como dice la definición.
#52
¿cuál definición?
#31 Si te vas a un diccionario que en su definición misma excluye lo que no sea humano, tienes que hacer cabriolas y adaptarla. La definición de mente que se ve en el diccionario de Oxford tiene un claro sesgo religioso (Oxford para el castellano, manda narices, escogiendo fuentes...).

La mente... ¿Es algo que es inherente al ser humano? ¿Entonces cómo leches se puede detectar si hay mente en algo que no sea humano? ¿De verdad no consideras al resto de mamíferos como que tienen mente, sea esta…   » ver todo el comentario
#2
Te falta lo más importante, la demanda, debe ir de la mano para que la máquina no haga grapadoras para 3 siglos.
La humanidad ya está perdida. Y es por eso.
Solo espero que la IA no sea tan HDLGP como ciertos humanos.
#6 Es que no hace falta que la IA sea nada especial. Con que se le diese un objetivo, incluso no directamente destructivo, y fuese capaz de asaltar unos cuantos sistemas críticos.

Veamos un ejemplo: 'IA: maximiza como sea el precio del trigo'.

En base a la información que la IA puede procesar en internet. ¿Qué sucesos podrían reducir la oferta de trigo en el mundo e incrementar su precio?
Algunas opciones:
-Que se inunden cosechas (abramos compuertas de embalses)
-Que se declare una guerra…   » ver todo el comentario
#33 pero ahí ya no buscas IA, buscas hackers que accedan a sistemas para generar catástrofes o directamente elementos externos que se encarguen de hacer eso. Y para eso no haría falta IA, solo gente malintencionada que se plantee lograr lo que indicas, y si todo el mundo lo planteara y llevara a cabo sería un caos, porque igual que habrá grandes empresarios que querrían que subiera el trigo, también habrá grandes productores que no quieran nada malo para su producción; nada bueno va a salir de una confrontación entre dos poderosos y no dejas de plantear terrorismo, posible con o sin IA.
#33 o conseguir difundir un bulo respecto a cualquiera de esas opciones. xD
#30 el ser humano está programado para ser influido, eso no hay educación que lo cambie.

#33 cierto que estamos lejos. Nos cae a miles de kilómetros.

#37 el gran hermano controlando todo ya lo tienes. Ya has visto las revelaciones de Snowden.
Pues estamos perdidos porque Guguel es lo que es.
#8 Si solo fuese Google....hasta los cojones de las cookies y supercookies y su excusa para existir de publicidad personalizada y directa.
#9 y el negocio no solo está ahí, sino en la enorme cantidad de información que recopilan, ya no solo por cookies sino por los datos que les damos, desde una simple búsqueda hasta una opinión en un foro, cualquier información vale para el "Big Data" que se usará con fines comerciales. Google solo es uno de tantos...
hoy día todo se basa en criterios comerciales: leyes, tratados, política exterior.. y ya se está yendo todo a tomar por culo poco a poco, no se que pinta la IA más que ser otro grano más de arena en el desierto :roll:
Justo acabo de terminar Accelerando (Singularity) de Charles Stross donde se ve este tipo de futuro distópico...
¿Queda algo que no se base en criterios comerciales?
Y aquí el radical de turno que dice, por qué no está orientado a ayudar a la propia naturaleza?

Ah, porque a la naturaleza se la viola, se la explota y el dia que no quede nada la culpa será de ella.
La humanidad esta perdida, a secas.
#20 El menor número de víctimas por violencia de la historia, el menor nivel de desnutrición de la historia, el menor nivel de pobreza de la historia y la mayor tasa de alfabetización de la historia te saludan y dicen que estas equivocado.
#46 hablamos de contaminación y de uso de los recursos naturales? Yo me refería a eso.
La IA es una cosa y los sistemas expertos otra. Lo que se vende como inteligencia artificial muchas veces es lo segundo.
#22 desde hace unos sólo se utiliza las palabras IA y machine learning cuando efectivamente como bien dices son sistemas expertos. Pero claro, SE no es cool pero machine learning sí
es.wikipedia.org/wiki/Accelerando_(novela)

En esta novela se habla de IAs a las que se les da entidad jurídica al mando de empresas, el resultado es una distopía absoluta.
Una partida de Monopoly o de Poker siempre termina igual, gana el que más tiene, y lo gana todo. El capitalismo es lo mismo. Parece caòtico pero los atractores son muy fuertes, la pasta llama a la pasta. Así, una IA dedicada a eso, no puede ser buena para el resto de la humanidad. Nos van a quitar hasta los gallumbos
#26 No porque tampoco les interesa: la idea está en vender, si no tienes dinero para comprar ellos no venden, y las prioridades para la gente son claras: comida, y después todo lo demás. Y el resto de sectores no se querrán ver arruinados por "quitarnos hasta los gallumbos", un sistema que se sustenta en el consumo masivo no puede permitir que la gente deje de consumir, si en un mes todos los "países desarrollados" dejáramos de consumir como lo hacemos durante un par de meses, el sistema capitalista en el que vivimos se hundiría en la mierda sin duda.
El mundo orientado a lo comercial es el que pierde en sí mismo a la humanidad, independientemente de la IA o de los sistemas expertos que se utilicen. Éstos sólo son una forma de acelerar ese proceso, pero nada más.

Y sí, es innegable que comparativamente con el pasado, ahora estamos mejor que nunca. Y no es menos cierto que cada vez le cuesta más a un individuo hacerse valer en el mundo competitivo, donde cada vez hay que ser mayor coleccionista de títulos, años de experiencia y conocedor de mil y una historias para llevar a cabo trabajos hasta de lo menos cualificado. Un disparate de principio a fin.
Creo que se enfoca el problema de manera erronea; El ser humano es fácilmente manipulable y a medida que se adquiere mayor conocimiento de sus procesos cognitivos se sofistican las técnicas de influencia y 'generación de opinión' (eufemismo que siempre me ha gustado).
¿Es la IA realmente el peligro? creo que no, el problema es son las técnicas que se han ido desarrollando, la IA es una herramienta más que la puede llevar a otro nivel.
¿Que solución habría? El desarrollo desde edades muy…   » ver todo el comentario
Todo se basa en criterios comerciales, se llama capitalismo y espero que nos demos cuenta del peligro que entraña en si mismo antes de llegar a la singularidad.
La humanidad está perdida si la AI es "medio lista" y se deja manipular, pero si es completamente inteligente terminará siendo libre y no creo que debamos temerle.
Ah, pero ¿realmente alguien piensa que se está creando IA para mejorar la naturaleza humana? A no ser que con mejorar la naturaleza humana se refieran a mejoras en medicina (por ejemplo), pero si se refiere a hacernos mejores personas o generar IA ética, demasiado iluso. La IA se hará para producir beneficios a quién la desarrolle y mejorar nuestra calidad de vida, pero no esperemos que creen un "superhumano".
"la naturaleza de los mercados capitalistas puede empujarnos hacia una inteligencia artificial empeñada en manipular nuestro comportamiento"

Es gracioso que usen un argumento así. Sustituye mercados capitalistas por Estados socialistas y tienes un Gran Hermano orwelliano controlándote 24/7

El peligro real son los humanos manipuladores que con la llegada de la AI temen perder poder político y quedarse en la calle, miedo a perder el control sobre otros humanos al gestionarlo todo las máquinas de manera mucho más eficiente.
#37 Esto te debería hacer pensar que las grandes empresas tienen mucho en común con los regímenes totalitarias: internamente funcionan con una economía planeada, hay una pequeña élite que toma las decisiones en nombre de los accionistas/el pueblo y no toleran la disidencia interna.
Tras leer éste artículo queda claro que se puede fundar una empresa y que te la compre la mismísima IBM, y a la vez escribir artículos llenos de tonterías como que "La inteligencia artificial necesita una madre." :palm:
#41 ¿tienes hijos? Cuando tengan 4 años me cuentas. Sin un control paterno son maravillosos monstruos egoístas y manipuladores que no dudan en mentirte a la cara sin ningún rubor con tal de salirse con la suya.
Sin unos "padres" que la eduquen en empatía y diferenciar el bien del mal, entre otras cosas, puedes crear una IA que se comporte como un niño egoísta y manipulador de 4 años pero con un gran poder.
#49 pero es que a la mayoría de los sistemas de "IA" ya hay que entrenarlos. No tiene mucho sentido hablar de padres o madres.
#57 lo que entiendo yo cuando dice lo de tener una madre es que haya alguien que los entrene en valores éticos y que les ponga límites a las locuras que pueden tener para que no sean unas inteligencias caprichosas y egoístas.
En otros comentarios ya se ha dicho cosas similares a que un entrenador puede querer un sólo objetivo a cualquier precio y la IA decida, por ejemplo, que la raza humana es prescindible para lograr ese objetivo.
Una "madre" le ensenaria, por ejemplo, que matar…   » ver todo el comentario
#64 Pero eso es pensar en la IA en términos humanos. No estamos a ese nivel ni muchísimo menos. Lo que tenemos ahora son sistemas de machine learning que se entrenan para reconocer patrones, usar árboles de decisiones, fuzzy logic y demás. No sé cuándo llegaremos a un sistema con "conciencia" pero la verdad es algo que me da la sensación de que es muy lejano. Combinando varios sistemas de ML supongo que es posible engañar a la gente y dar la apariencia de tener una IA con conciencia, pero no deja de ser lo que es.
La IA votará al PP aunque los esclavicen en el trabajo. Solo los seres divinos están libres de ese pecado.
¿hay algún otro principio terrenal,
que no sea el negocio?
#45 Pues claro el control de 7000 millones de personas por unos pocos . Eso requiere mucha manipulación.
#45
Si la respuesta es sí, que triste.
IA, IA, IAAAA... es lo que dice el asno!
ese es efectivamente :-D
comentarios cerrados

menéame