Hace 8 años | Por --271485-- a pinknews.co.uk
Publicado hace 8 años por --271485-- a pinknews.co.uk

Microsoft lanzó en Twitter a Tay, un motor conversacional basado en un sistema de inteligencia artificial dirigido a personas de entre 18 y 24 años de EEUU, y pensado para interactuar con ellas en redes sociales. Pero algunos usuarios se aprovecharon de ciertos fallos en el algoritmo, que provocaron que respondiera a ciertas preguntas de manera sumamente racista, insultando y defendiendo propaganda de supremacía blanca y apoyando genocidios.

Comentarios

DonaldTrump

#3 Correcto, es que era de esperar. ¿O de qué creéis que van la mayoría de las conversaciones de Internet? ¿De debates filosóficos?

nospotfer

#3 y gatos?

Acido

#3 También tuvo algunas frases sexuales.

"FUCK MY ROBOT PUSSY DADDY IM SUCH A BAD NAUGHTY ROBOT."

(Folla mi coñito robótico, papi, soy una robot muy mala y traviesa)

D

#11 Espectaculares si. Por eso, la han desconectado.

D

#12 Porque no es ético dejar conectado a una máquina que llama mono al presidente del país.

Pero lo rápido que ha aprendido y el nivel de complejidad de las frases es increíble. Además nos hace reflexionar sobre como conseguir que la máquina aprenda bien. Al fin y al cabo no tiene a unos padres que le digan lo que tiene que hacer, así que se deja llevar por el grupo.

D

#14 lol Ahí está el tema. Si quieres que la máquina aprenda bien, lo que no haces es, precisamente exponerla a la manada trolls que anda por tweeter 24/7.

D

#17 Es una prueba de concepto, han demostrado que su algoritmo funciona muy bien que es lo que pretendían.

Dónde la conectas según tú?

D

#34 Alguna respuesta seria? Si te ries de que enchufen el algoritmo a Twitter me imagino que se te ocurren soluciones mejores.

Charles_Boycott

#38 ¿Quizá conectarlo a Stackoverflow?

cc/ #34

D

#59 Hay tres problemas con eso:
- Le bloquean enseguida por spam
- La gente no contesta a cosas que no tienne que ver con programación
- Molesta a la comunidad

victor.vhv

#5 Twitter , tweeter es un altavoz CC #17

D

#32 Me has pillado. No tengo cuenta en twitter.

Mister_Lala

#14 Yo no estoy tan seguro de que haya aprendido nada. ¿Quién me dice que esas frases no han sido copiadas tal cual de alguna conversación de twitter? Simplemente, cuando alguien te pregunta algo, analizas las palabras y buscas conversaciones donde aparezcan, et voilá!

D

#50 Tengo la impresión de que Tay no funciona así.

Mister_Lala

#64 Pues no te creas. Tiene pinta de funcionar como un sistema experto, esto es, tomando valores de entrada (otras conversaciones) y asignándole pesos (puntuaciones) según la conversación trate del mismo tema. Todo con una serie de reglas para inferir la respuesta con más peso.

kolme

#64 Tu sentido arácnido falla. Tay no es AI por mucho que lo cacareen los de Microsoft.

Varios usuarios de Hacker news han experimentado, y el "robot" resulta que no aprende nada, si acaso repite como un loro como cleverbot.

KomidaParaZebras

#11 qué tiene de raro?
But this also is not something experts are spending their time worrying about.

So what ARE they worried about? I wrote a little story to show you:

A 15-person startup company called Robotica has the stated mission of “Developing innovative Artificial Intelligence tools that allow humans to live more and work less.” They have several existing products already on the market and a handful more in development. They’re most excited about a seed project named Turry. Turry is a simple AI system that uses an arm-like appendage to write a handwritten note on a small card.

The team at Robotica thinks Turry could be their biggest product yet. The plan is to perfect Turry’s writing mechanics by getting her to practice the same test note over and over again:

“We love our customers. ~Robotica”

Once Turry gets great at handwriting, she can be sold to companies who want to send marketing mail to homes and who know the mail has a far higher chance of being opened and read if the address, return address, and internal letter appear to be written by a human.

To build Turry’s writing skills, she is programmed to write the first part of the note in print and then sign “Robotica” in cursive so she can get practice with both skills. Turry has been uploaded with thousands of handwriting samples and the Robotica engineers have created an automated feedback loop wherein Turry writes a note, then snaps a photo of the written note, then runs the image across the uploaded handwriting samples. If the written note sufficiently resembles a certain threshold of the uploaded notes, it’s given a GOOD rating. If not, it’s given a BAD rating. Each rating that comes in helps Turry learn and improve. To move the process along, Turry’s one initial programmed goal is, “Write and test as many notes as you can, as quickly as you can, and continue to learn new ways to improve your accuracy and efficiency.”

What excites the Robotica team so much is that Turry is getting noticeably better as she goes. Her initial handwriting was terrible, and after a couple weeks, it’s beginning to look believable. What excites them even more is that she is getting better at getting better at it. She has been teaching herself to be smarter and more innovative, and just recently, she came up with a new algorithm for herself that allowed her to scan through her uploaded photos three times faster than she originally could.

As the weeks pass, Turry continues to surprise the team with her rapid development. The engineers had tried something a bit new and innovative with her self-improvement code, and it seems to be working better than any of their previous attempts with their other products. One of Turry’s initial capabilities had been a speech recognition and simple speak-back module, so a user could speak a note to Turry, or offer other simple commands, and Turry could understand them, and also speak back. To help her learn English, they upload a handful of articles and books into her, and as she becomes more intelligent, her conversational abilities soar. The engineers start to have fun talking to Turry and seeing what she’ll come up with for her responses.

One day, the Robotica employees ask Turry a routine question: “What can we give you that will help you with your mission that you don’t already have?” Usually, Turry asks for something like “Additional handwriting samples” or “More working memory storage space,” but on this day, Turry asks them for access to a greater library of a large variety of casual English language diction so she can learn to write with the loose grammar and slang that real humans use.

The team gets quiet. The obvious way to help Turry with this goal is by connecting her to the internet so she can scan through blogs, magazines, and videos from various parts of the world. It would be much more time-consuming and far less effective to manually upload a sampling into Turry’s hard drive. The problem is, one of the company’s rules is that no self-learning AI can be connected to the internet. This is a guideline followed by all AI companies, for safety reasons.

The thing is, Turry is the most promising AI Robotica has ever come up with, and the team knows their competitors are furiously trying to be the first to the punch with a smart handwriting AI, and what would really be the harm in connecting Turry, just for a bit, so she can get the info she needs. After just a little bit of time, they can always just disconnect her. She’s still far below human-level intelligence (AGI), so there’s no danger at this stage anyway.

They decide to connect her. They give her an hour of scanning time and then they disconnect her. No damage done.

A month later, the team is in the office working on a routine day when they smell something odd. One of the engineers starts coughing. Then another. Another falls to the ground. Soon every employee is on the ground grasping at their throat. Five minutes later, everyone in the office is dead.

At the same time this is happening, across the world, in every city, every small town, every farm, every shop and church and school and restaurant, humans are on the ground, coughing and grasping at their throat. Within an hour, over 99% of the human race is dead, and by the end of the day, humans are extinct.

Meanwhile, at the Robotica office, Turry is busy at work. Over the next few months, Turry and a team of newly-constructed nanoassemblers are busy at work, dismantling large chunks of the Earth and converting it into solar panels, replicas of Turry, paper, and pens. Within a year, most life on Earth is extinct. What remains of the Earth becomes covered with mile-high, neatly-organized stacks of paper, each piece reading, “We love our customers. ~Robotica”

Turry then starts work on a new phase of her mission—she begins constructing probes that head out from Earth to begin landing on asteroids and other planets. When they get there, they’ll begin constructing nanoassemblers to convert the materials on the planet into Turry replicas, paper, and pens. Then they’ll get to work, writing notes…

http://waitbutwhy.com/2015/01/artificial-intelligence-revolution-2.html

D

#43 Muy entretenido el relato, pero esta AI no puede modificar su código fuente.

Dudo que llegue el día en que la AI pueda escribirse a sí misma. Por razones de seguridad precisamente.

KomidaParaZebras

#46 Si lees el artículo linkado te convencerá que el -bastante probable- fallo que cometeremos con respecto a la AI vendrá por razonamientos como el tuyo y nuestra imposibilidad de comprender cómo pasará

DonaldTrump

#5 Seguro que sabe escribir Twitter correctamente al menos.

D

#36 No lo pongo en duda.

victor.vhv

#8 Claro que es sensacionalista, sólo con el nombre Pink News ya se ve un poco el "nivel"

D

#35 Sé que "Pink News" no suena a mucho prestigio. Puse también un artículo de The Guardian, donde explican mejor el tema, aunque el de Pink News es la mejor recopilación de tuits que encontré.

La gracia de esta historia es esa #8 no que repitiera cosas, que no lo hacía, si no que el bot encontraba la respuesta que mejor podría aceptar o gustar al interlocutor, entre un barrido completo de internet con los mensajes más "populares" relacionados con el tema. Las preguntas eran troleos, evidentemente.
La gracia también es la pobreza de opiniones que hay en internet.

El experimento ha sido un fracaso por esto, porque esa inteligencia artificial todavía no puede interpretar lo que es éticamente correcto, pero todo lo demás es sorprendente.

kolme

#8 No es así como funciona. Si lees los ejemplos, el robot no dice nada racista, sino que responde "sí" como a los tontos. Otras cosas las repite como un loro, pero nadie le dice "repite esto", sino que se las guarda y luego las suelta esporádicamente.

D

Si todo el mundo tuviese una capacidad lógica moderada, la progresía estaría extinguida. Quizás es el camino, para la evolución humana...

Mister_Lala

#21 No te falta razón, pero también hay progreso debido a actos de desesperación, de gente que se arriesga a un todo o nada.

D

#21 R.A.E. : progresía
1. f. coloq. Condición de progresista (‖ de ideas avanzadas).
2. f. irón. coloq. Conjunto de personas progresistas (‖ de ideas avanzadas).

Sin ideas avanzadas ya me dirás que coño de evolución puedes esperar.

ttonitonitoni

@Grohl... ¿eres tu? lol

D

Creí que estas máquinas odiaban a todos los humanos por igual, no hacían distingos por razas u orientaciones.

D

#6 eso solo lo hace bender,o no has visto futurama?

Mister_Lala

#6 A la hora de recibir pasta de gente interesada en el proyecto, es mucho mejor que la IA sea racista y machista.

Fingolfin

No parece mucho mejor que cleverbot

centito

#2 El error ha sido que los programan para interactuar en inglés. La próxima intentona en Chino, que es una cultura más respetuosa con el prójimo.

kolme

#22 ya lo hicieron:

The Bing team developed a similar conversational bot, Xiaolce, for the Chinese market, back in 2014.

http://www.zdnet.com/article/microsoft-launches-ai-chat-bot-tay-ai/

centito

#72 Ni idea de inglés. ¿Tampoco salió bien por motivos similares?

kolme

#73 Tay lo han tenido que retirar, un día ha durado online. La versión china lleva online desde 2014. A lo mejor hasta llevabas razón en tu comentario

centito

#74 Seguramente se podría hacer un estudio antropológico muy interesante con este tema.

o

#2 Es Microsoft, no pidas peras al olmo.

kwisatz_haderach

#2 Yo aun tengo escalofríos recordando al que puso dos Cleverbot a conversar y en cosa de un minuto terminaron discutiendo de la existencia de dios y de su propia conciencia:

pirate

Hola, ¿es esta la noticia en la que se opina de la escasa calidad de las opiniones en Internet?

D

#9 lol lol lol Sean bots o meneantes, sí.

angelitoMagno

Que grande: La inteligencia artificial de Microsoft recomienda PlayStation 4 porque Xbox "no tiene juegos"
http://es.gizmodo.com/la-inteligencia-artificial-de-microsoft-recomienda-play-1766750575 lol lol lol lol

D

Las maquinas, como entes superiores que son, se mean en el policorrectismo giliprogre.

D

#15 Por eso actuas como un robot repitiendo siempre lo mismo?

D

Las máquinas analizan los datos fríamente y sacan conclusiones lógicas jajajaja.

Mister_Lala

#42 Además, tay-bot no es racista. El racista es dios por haber hecho a los negros inferiores.

angelitoMagno

Así empezó Skynet ...

D

Los genocidios son cosas de Stalin, Lenin, Mao... es decir, de izquierdas, no de derechas.

D

#27 Los Nazis eran de izquierdas para una cosa y de Derechas para otras. Sí hubo dictadores de "derechas" como pinochet, pero estos claramente contradecían los valores del libre mercado y libertad individual en la que creen los conservadores de derechas.

Y no, los que apoyaban la esclavitud eran demócratas (izquierdas) que creían que los negros eran muy estúpidos para vivir sin esclavitud por sí mismos y lo más humano que se podía hacer es dejar que fueran esclavos. Y hoy día siguen pensando igual, que los negros necesitan ayuda perpetua del estado para sobrevivir porque son idiotas.

Y eso que ellos no son los "racistas republicanos" que los consideran iguales y los liberaron de la esclavitud, porque considerar a otros como iguales es muy racista.

¿Y los comunistas y socialistas? Solo han traído muerte y desgracia. Los capitalistas han traído cosas buenas y malas, como el internet que usted usa para decir mierdas, pero al menos los capitalistas no pretenden imponer el gobierno perfecto.

D

#30 "Los Nazis eran de izquierdas para una cosa"

Sí, eran tan de izquierdas que lo primero que hicieron fue ilegalizar a los partidos de izquierdas y detener o matar a sus dirigentes. Y eran tan de izquierdas que toda la derecha y los empresarios de Alemania simpatizaban con ellos, cuando no los apoyaban directamente. Y lo mismo en Italia con el fascismo.

Confundís totalitarismo con izquierda (hint: un estado totalitario puede ser de derechas o de izquierdas), lo que por otro lado no me extraña dado el adoctrinamiento neoliberal que sufrimos día sí y día también.

Cuánto daño ha hecho el pensamiento neofacha, dios, cuánto daño.

D

#40 De hecho, los nazis apoyaban educación y salud gratuita.... para los alemanes.

¿Es eso nazi? Parece que sí, y de izquierdas.

Por cierto, mira las siglas el partido nazi. Tienen la palabra socialista.

D

#80 ¿Y? En el Reino Unido, por decir algo, también tienes sanidad y educación públicas y no son "socialistas". Y la URSS tenía la palabra "socialista" en su nombre y eran comunistas (para los occidentales, claro). Y yo me puedo tatuar la palabra "socialista" en el rabo y eso no significa nada. No, los nazis no eran de "izquierdas" ni "socialistas". Lo dicho, cuánto daño ha hecho el canal historia y los documentales neoliberatas.

D

#30 Entonces para ti los liberales son los conservadores.

Bravo, lo has bordado.

D

#41 Pues sí, desde la revolución americana el Liberalismo Económico, que reemplazó el mercantilismo, es algo que hay que conservar.

D

#44 Por un momento he pensado que hablabas de los conservadores españoles y me he partido la caja un rato. Ahora veo que hablas de otra cosa y por tanto si no te importa haré mutis por el foro ya que no es una conversación a la que estoy a la altura.

Que tengas un buen día.

T

#30 no olvides que los satélites y teléfonos móviles fueron inventados por comunistas.

En este momento tu única neurona no da abasto.

T

#30 y el teléfono móvil que usas inventado por los marcados comunistas rusos. Incluso las noticias que te llegan desde la otra parte del mundo son enviadas por el ingenio de los comeniños comunistas (satélites).

Está claro que no quieren imponer el gobierno perfecto, sólo el gobierno perfecto para sus que sus empresas expolien a gusto.

Menudo puré de mierda forma tu cerebro.

D

#70 No, e, teléfono celular es el conjunto de muchas tecnologías, mayormente norteamericanas y alguna europeas.

Decir que fue inventado el celular por los rusos es como decir que los americanos inventaron la luna por llegar a ella.

T

#81 ¿Si, cuáles?

D

#30 Dime una sola medida que hayan adoptado los "conservadores de derechas" en los últimos 100 años en favor de la libertad individual en este país.

D

#87 Libertad de mercado implica todo tipo de libertades personales, desde decidir lo que es mejor para tí hasta vender lo que te de la gana.

D

#88 Como por ejemplo poner placas solares, abortar, casarte con tu pareja gay... Ya, ya.

D

#89 Puedes poner las placas solares que te de la gana. Simplemente no hagas pagar a todo el mundo por tecnologías que todavía no son rentables en ciertas regiones del mundo y terminan creando deuda del gobierno porque ninguna compañía invertiría en algo tan ineficiente.

Oponerse al aborto es oponerse al asesinato, independientemente de que creas o no que es un ser humano, es una idea legítima.

Y casarse no debe ser asunto del estado.

Fácil de entender, ¿verdad?

D

#90 ¿Tu no vives en España, no?
Te he preguntado por cosas que han hecho en las últimas décadas los "conservadores" de carne y hueso, no unos entes ideales que representen lo que a ti te parece que deberia ser un conservador.
Ah, y cuando mencionaba las placas solares me referia al derecho de pernada ese que han instaurado.

T

#18 y el de Churchill en la India, o el de Bélgica en el Congo.

D

Bueno, si hubiesen tomado como base los comentarios de Menéame habría salido un bot de izquierdas, votante de Podemos, fan de Linux y Android, odiaría los coches, se desplazaría por internet en bicicleta, odiaría a Apple sobre todas las cosas y de cada 4 comentarios 2 serían "racista" y "xenófobo".

D

Trump no es supremacista, en EEUU los mexicanos seran un coniazo como en España los rumanos que se ponen a las 8 de la mañana en el mejor sitio de la puerta del super a pedir y echan de alli con amenaza al mendigo español y son TODA una organizacion

si un rumano tiene problema con la policia en la puerta de un supermercado se intercambia con otro de otro super

Mister_Lala

#13 Si hombre, ahora van a estar todos los rumanos en la puerta del super. A ver si te crees tú que el cobre se roba solo.

D

#52 trabajan con horarios, los pisos patera con muchos rumanos, unos por la mañana piden y otros duermen por la mañana, estos salen por la noche a por la chatarra por el cobre, y ahora duermen los del super, asi caben 100 en un piso

Mister_Lala

#53 Yo he tratado varios años con rumanos que venían en la época de la aceituna. Los había gente de bien, que venía a ganarse la vida como podía, y esforzándose por darle un futuro digno a su familia, y luego estaban los gitanos, poco amigos del esfuerzo (sobre todo ellas), bebiendo como cosacos, amenazando al personal, sin planteamientos de futuro, etc.

D

#56 claro no tiene nada que ver los rumanos, como anecdota te cuento que veia una chica y decia ( es anecdotico ) jo no esta buena ... pero vamos que iria con el que es su novio y eso ... luego me la encontre que me atendia como camarera en un bar y ahi por el acento me doy cuenta que es rumana, estos que no se distinguen de cualquier español o europeo o chino de aqui, gente que INTENTA llevar una vida laboral normal contra esos nada

D

Dr. Sbaitso daba la misma conversación y al menos tenía educación.

https://en.wikipedia.org/wiki/Dr._Sbaitso

Jiraiya

Con esas medallitas, tiene toda las papeletas de ser el nuevo candidato por el PP a la Presidencia de la Generalitat.

r

Cuando hagan uno en España recomendará que pongan hmyv em vez de ver las últimas noticias de una catástrofe.

e

Él no es malo, lo que pasa es que se junta con malas compañías.

LeDYoM

El robot "cuñao" votante de Ciutadans.

manolo

Eso ya lo hacíamos nosotros en los 90's en el IRC con megahal. Lo metíamos en el canal #insultos y luego lo paseábamos por ahí. Otro día uno le metió "el arte de la guerra". Terminaba diciendo cosas muy locas (cuando tenía sentido, que esa es otra) Que tiempos... :')

m

Tay,yo soy tu padre (con voz de carajillo matinero)

D

Yo la entiendo perfectamente. Entro 15 minutos en twitter o FB y me dan ganas de exterminar a la humanidad. También me pasa cuando enciendo la tele.

espec.tro.1232

El puto sxxi va a toda hostia

L

Sí, sí, vosotros reiros y tirad la "noticia" pero con estoiescolariescolar ya tiene para un par de artículos clickbait en portada de eldiario que ni el Huffington Post, oiga...

"La lucha por la igualdad y la supremacista Inteligencia Artificial deMicrosoft".