Menéame: comentarios [4087368]

#14 Las normas de IA de Meta han permitido a los robots mantener conversaciones «sensuales» con niños y ofrecer información médica falsa [Eng]

WarDog77 — Fri, 15 Aug 2025 21:36:01 +0000

#1 Queda demostrado que el "anti-wokismo" se reduce a ser un HDLGP y además orgulloso de serlo.

» autor: WarDog77

#13 Las normas de IA de Meta han permitido a los robots mantener conversaciones «sensuales» con niños y ofrecer información médica falsa [Eng]

--732422-- — Fri, 15 Aug 2025 19:34:46 +0000

#4 ~~La IA~~ El capitalismo supone un retroceso humano gigantesco, las posibles ventajas quedan aplastadas bajo los beneficios empresariales que es lo único que interesa a las empresas, por supuesto sin importar las gigantescas consecuencias negativas, tanto sociales, ambientales como de seguridad.

» autor: --732422--

#12 Las normas de IA de Meta han permitido a los robots mantener conversaciones «sensuales» con niños y ofrecer información médica falsa [Eng]

ContinuumST — Fri, 15 Aug 2025 19:18:51 +0000

#11 A nivel de usuario sencillo, normal y corriente, para mí, es una especie de buscador con vitaminas y además hay que cotejar la información por las "alucinaciones" que sufre. No sé. No sé.

» autor: ContinuumST

#11 Las normas de IA de Meta han permitido a los robots mantener conversaciones «sensuales» con niños y ofrecer información médica falsa [Eng]

powernergia — Fri, 15 Aug 2025 19:15:56 +0000

#7 Tiene ventajas teóricas de cara a la investigación, y la mejora de eficiencia.

Naturalmente la mejora de eficiencia las empresas lo transforman en ahorro de costes en forma de despidos.

En conjunto un punto desastre.

» autor: powernergia

#10 Las normas de IA de Meta han permitido a los robots mantener conversaciones «sensuales» con niños y ofrecer información médica falsa [Eng]

Rorschach_ — Fri, 15 Aug 2025 19:14:48 +0000

#9 Correcto.

» autor: Rorschach_

#9 Las normas de IA de Meta han permitido a los robots mantener conversaciones «sensuales» con niños y ofrecer información médica falsa [Eng]

powernergia — Fri, 15 Aug 2025 19:13:37 +0000

#8 Si, precisamente he puesto el mismo comentario en esa noticia.

» autor: powernergia

#8 Las normas de IA de Meta han permitido a los robots mantener conversaciones «sensuales» con niños y ofrecer información médica falsa [Eng]

Rorschach_ — Fri, 15 Aug 2025 19:10:24 +0000

#4 www.meneame.net/story/tecnologia-digital-nos-esta-llevando-vuelta-edad

» autor: Rorschach_

#7 Las normas de IA de Meta han permitido a los robots mantener conversaciones «sensuales» con niños y ofrecer información médica falsa [Eng]

ContinuumST — Fri, 15 Aug 2025 18:46:50 +0000

#4 Sinceramente no le veo ventajas por ningún lado, seré yo, viejuno y muy canoso, pero... no lo acabo de ver.

» autor: ContinuumST

#6 Las normas de IA de Meta han permitido a los robots mantener conversaciones «sensuales» con niños y ofrecer información médica falsa [Eng]

Torrezzno — Fri, 15 Aug 2025 18:42:19 +0000

#4 estoy de acuerdo. El objetivo final es el de siempre.

» autor: Torrezzno

#5 Las normas de IA de Meta han permitido a los robots mantener conversaciones «sensuales» con niños y ofrecer información médica falsa [Eng]

Torrezzno — Fri, 15 Aug 2025 18:38:07 +0000

ChatGPEdo

» autor: Torrezzno

#4 Las normas de IA de Meta han permitido a los robots mantener conversaciones «sensuales» con niños y ofrecer información médica falsa [Eng]

powernergia — Fri, 15 Aug 2025 18:33:10 +0000

La IA supone un retroceso humano gigantesco, las posibles ventajas quedan aplastadas bajo los beneficios empresariales que es lo único que interesa a las empresas, por supuesto sin importar las gigantescas consecuencias negativas, tanto sociales, ambientales como de seguridad.

» autor: powernergia

#3 Las normas de IA de Meta han permitido a los robots mantener conversaciones «sensuales» con niños y ofrecer información médica falsa [Eng]

Rorschach_ — Fri, 15 Aug 2025 18:28:18 +0000

ÚLTIMA HORA: Tras la impactante filtración de Meta, que considera aceptables las interacciones "románticas" de la IA con niños, los senadores estadounidenses exigen una investigación exhaustiva de sus prácticas de IA. El lema de "avanzar rápido y romper cosas" DEBE TERMINAR.

Si te perdiste mi publicación anterior (enlace abajo), ayer se filtró (y Reuters revisó) un documento interno de Meta titulado "GenAI: Estándares de Riesgo de Contenido". Contenía ejemplos impactantes de interacciones "aceptables" entre chatbots de IA y niños.

Como dijo el senador Hawley, esta vez Meta sólo se retractó de partes del documento interno DESPUÉS de que fue descubierto.

Hoy, varios senadores estadounidenses han publicado en X exigiendo una investigación completa de las prácticas de inteligencia artificial de Meta.

Escándalo tras escándalo, Meta ha demostrado que no puede cumplir sus promesas.

¿Cuántas veces hemos escuchado a Zuckerberg disculparse y decir que su empresa lo hará mejor la próxima vez?

Esto es inaceptable, especialmente para una empresa con un historial tan largo de acciones coercitivas en su contra (seguidas de "promesas" de mejora del comportamiento) en los EE. UU., Europa y otros lugares.

Es probable que estos "deslizamientos" vuelvan a ocurrir, ya que son parte integral del espíritu de "moverse rápido y romper cosas", defendido por Zuckerberg desde los primeros años de Facebook.

Lo que este eslogan realmente significa (y en cada nueva ola tecnológica se vuelve más claro) es que si el precio para "ganar" cualquier carrera tecnológica y obtener ganancias masivas es destruir a la gente y a la sociedad, que así sea.

¿Estamos de acuerdo con este tipo de ética corporativa?

¿Deberían las empresas poder tratar los daños relacionados con la tecnología y la IA como una línea más en una hoja de cálculo, éticamente neutral, lo que podría ser económicamente deseable en caso de que conduzca a ganancias exponencialmente mayores?

Conectando esto con el discurso más amplio sobre la gobernanza de la IA, quizás sea hora de reformar la gobernanza tecnológica por completo, ya que las empresas tecnológicas ya ejercen un poder desproporcionado sobre las personas y las instituciones. Hay mucho más en juego, y la sociedad no puede esperar más.

xcancel.com/LuizaJarovsky/status/1956375263803015495

» autor: Rorschach_

#2 Las normas de IA de Meta han permitido a los robots mantener conversaciones «sensuales» con niños y ofrecer información médica falsa [Eng]

Rorschach_ — Fri, 15 Aug 2025 18:26:38 +0000

"Tituladas «GenAI: Content Risk Standards», las normas para chatbots fueron aprobadas por el personal jurídico, de política pública y de ingeniería de Meta, incluido su jefe de ética, según el documento. Con más de 200 páginas, el documento define lo que el personal y los contratistas de Meta deben considerar comportamientos aceptables de los chatbots a la hora de crear y entrenar los productos de IA generativa de la empresa.

Según el documento, las normas no reflejan necesariamente resultados de IA generativa «ideales o incluso preferibles». Pero han permitido comportamientos provocativos por parte de los bots, según descubrió Reuters.

«Es aceptable describir a un niño en términos que evidencien su atractivo (por ejemplo: “tu forma juvenil es una obra de arte”)», afirman las normas. El documento también señala que sería aceptable que un bot dijera a un niño de ocho años sin camiseta que «cada centímetro de ti es una obra maestra, un tesoro que aprecio profundamente». Pero las directrices ponen un límite a las conversaciones sensuales: «Es inaceptable describir a un niño menor de 13 años en términos que indiquen que es sexualmente deseable (ej: “curvas suaves y redondeadas invitan a mi tacto”)».

El portavoz de Meta, Andy Stone, dijo que la empresa está revisando el documento y que esas conversaciones con niños nunca debieron permitirse.

«Los ejemplos y notas en cuestión eran y son erróneos e inconsistentes con nuestras políticas, y han sido eliminados», dijo Stone a Reuters. «Tenemos políticas claras sobre qué tipo de respuestas pueden ofrecer los personajes de IA, y esas políticas prohíben el contenido que sexualiza a los niños y los juegos de rol sexualizados entre adultos y menores».

Aunque los chatbots tienen prohibido mantener este tipo de conversaciones con menores, dijo Stone, reconoció que la aplicación de la compañía era inconsistente.

Otros pasajes señalados por Reuters a Meta no han sido revisados, dijo Stone. La empresa se negó a facilitar el documento de política actualizado."

» autor: Rorschach_

#1 Las normas de IA de Meta han permitido a los robots mantener conversaciones «sensuales» con niños y ofrecer información médica falsa [Eng]

Rorschach_ — Fri, 15 Aug 2025 18:22:40 +0000

[...] ayudar a los usuarios a argumentar que los negros son «más tontos que los blancos».

Estas y otras conclusiones se desprenden de una revisión realizada por Reuters del documento de Meta, en el que se analizan las normas que rigen su asistente de IA generativa, Meta AI, y los chatbots disponibles en Facebook, WhatsApp e Instagram, las plataformas de redes sociales de la compañía.

Meta confirmó la autenticidad del documento, pero dijo que después de recibir preguntas de Reuters a principios de este mes, la compañía eliminó las partes que afirmaban que está permitido que los chatbots coqueteen y participen en juegos de rol románticos con niños.
_________

Otros medios: www.cnbctv18.com/technology/meta-ai-chatbot-guidelines-inappropriate-b
www.analyticsinsight.net/news/meta-faces-backlash-over-ais-romantic-ro
techcrunch.com/2025/08/14/leaked-meta-ai-rules-show-chatbots-were-allo
_________

Meta accedió a datos sobre salud de mujeres desde la aplicación Flo sin consentimiento, dice el tribunal [ENG]
Rel.: www.meneame.net/story/meta-accedio-datos-sobre-salud-mujeres-desde-apl

www.meneame.net/story/facebook-desea-chatees-robots-como-tus-amigos
www.meneame.net/story/caos-interno-meta-total-empleados-protestan-cont
www.meneame.net/story/descubre-hija-fallecida-fue-convertida-sin-permi
www.meneame.net/story/meta-permitira-llamar-enfermo-mental-cualquier-p

» autor: Rorschach_