Carta filtrada del CEO de Google a sus empleados tras el descalabro de su IA Gemini generando imágenes: “es completamente inaceptable”

Google tomó la decisión de “suspender” momentáneamente la capacidad de generar imágenes en su nueva IA, Gemini, tras los errores groseros mostrados al representar algunos grupos y etnias. Lo que no sabíamos hasta hace unas horas era cómo se había tomado la propia compañía de puertas para adentro semejante fallo. Ahora se ha filtrado el memorando que el director ejecutivo de Google, Sundar Pichai, le ha enviado a los empleados. Recordamos que, por ejemplo, se descubrió que el modelo generaba soldados alemanes de la era nazi racialmente diversos

[#1 StuartMcNight]

Ojo que aun siendo un desastre absoluto lo de la IA de Google.... la primera imagen de las 4 imagenes de los "Founding Fathers of America" es un bofeton de realidad importante. Por los motivos incorrectos pero la IA ha dado en el clavo.

[#2 Troglobyte]

Más bien parece una carta "filtrada" a la prensa para justificar la cagada.

[#3 hrundil]

Culpar a los empleados que seguramente han tenido que lanzar ese producto deprisa y corriendo por presiones de los de arriba no parece lo más justo.

Además de las imágenes de mierda que generaba el Gemini trae incorporado una censura brutal. Por ejemplo, se niega a responder cualquier cosa que tenga que ver mínimamente con Israel.

[#4 endy]

Cuando se mezcla la ideología frente a la utilidad pasan estas cosas.

[#5 ur_quan_master]

#1 igual la IA es tan avanzada que les está troleando.

[#6 Priorat]

#1 Por los motivos incorrectes... o no.

[#7 Alakrán_]

#4 Totalmente, seguro que han entrenado a la IA para que muestre diversidad, y es lo que esta haciendo.

[#8 Desactivado]

Buenos días,

... texto e imágenes en la aplicación Gemini (anteriormente Bard). ...

¿Que clase de empresa en un documento interno necesita explicar que Gemini era Bard?

Me suena a engaño.

[#9 endy]

#7 lo peor de todo es que en la fase testing también les parecían bien los resultados.
No se puede luchar tan fuertemente contra la realidad

[#10 Fedorito]

¡Minorías al poder! ¡A tomar por culo la democracia!

[#11 nexodo]

Parece un casting de Disney o Netflix...

[#12 zelt]

#1 No, es un error de bulto. Los nativos que había por aquellas tierras no tenian nada que fuera "America", tendrian sus naciones, tribus o como sea que se distribuyeran, pero no algo de lo que se deriva el actual EE.UU. Sería como decir que los fundadores de España, o sus reinos predecesores, o las provincias romanas anteriores a estos, son los iberos, no tiene ningún sentido.

[#13 Don_Pichote]

La IA se ha marcado un buen trolleo a la sociedad actual.

Bravo.

[#14 Nylo]

#1 No es ningún desastre. Sólo se está anticipando a Hollywood. Si un elfo puede ser negro, no veo por qué un nazi no

[#15 Condenación]

Lo fundamental es que todo el mundo represente la diversidad étnica de los Estados Unidos de América y resarza sus traumas nacionales, es el único país importante. Gracias Google por cuidar de nosotros.

[#16 cajadecartonmojada]

#9 Es que en el testing es complicado cubrir todas las posibilidades .
.

[#17 StuartMcNight]

#12 America es un continente.

[#18 endy]

#16 muy bueno
Siguiendo tu ejemplo, se les olvidó que el bar tuviera un baño y además la cerveza no era cerveza

[#19 Shinu]

#7 El problema ha sido que si le pedías que te dibujase un personaje blanco, la IA se negaba, mientras que si le pedías un personaje negro te lo hacía sin problemas. En este video hay ejemplos concretos:

No sé hasta qué punto eso se puede considerar "diversidad".