Menéame: comentarios [4131866]

#16 xAI guarda silencio después de que Grok sexualizara imágenes de niños [eng]

Ms2 — Sat, 17 Jan 2026 21:22:07 +0000

Elon Musk en bikini. Imagen creada por Musk usando Grok y publicada en X

» autor: Ms2

#15 xAI guarda silencio después de que Grok sexualizara imágenes de niños [eng]

Hynkel — Sun, 04 Jan 2026 21:15:34 +0000

#14 He buscado un poco, y parece que los legisladores ya lo han prohibido.

Y tiene sentido. La IA no puede generar contenido completamente original. Sólo puede copiar y variar lo que ya ha visto en otra parte. Con esto en mente los legisladores van por la idea de que si es indistinguible de la realidad, es delito.

Por mí, si esos depravados se conformasen con fantasías virtuales, les daría barra libre.

» autor: Hynkel

#14 xAI guarda silencio después de que Grok sexualizara imágenes de niños [eng]

Mark_ — Sun, 04 Jan 2026 18:50:34 +0000

#6 casi prefiero que puedan jugar con sus fantasías de mierda a través de una IA qué buscándolas en el mundo real.

» autor: Mark_

#13 xAI guarda silencio después de que Grok sexualizara imágenes de niños [eng]

Ratoncolorao — Sat, 03 Jan 2026 17:56:59 +0000

Esto:

» autor: Ratoncolorao

#12 xAI guarda silencio después de que Grok sexualizara imágenes de niños [eng]

eduardor2k — Sat, 03 Jan 2026 15:16:31 +0000

Z-image es un modelo creado por alibaba, que es de los menos censurados de internet, al final es cuestion de tiempo que saquen modelos sin censurar o modelos crackeados que no tengan censura.

» autor: eduardor2k

#11 xAI guarda silencio después de que Grok sexualizara imágenes de niños [eng]

Hynkel — Sat, 03 Jan 2026 10:51:02 +0000

#10 Tampoco se está descubriendo la pólvora. A Zuckerberg le llovieron palos por la insuficiente privacidad en Facebook, y con la de dinero que ganó se dedicó a hilar fino para apurar los límites.

Muchas veces no es puramente intencionado, pero va saliendo con el tiempo y con los hechos. Pasa como con los líderes de las sectas, muchos van construyendo sus técnicas de manipular sobre la marcha.

» autor: Hynkel

#10 xAI guarda silencio después de que Grok sexualizara imágenes de niños [eng]

Cyberbob — Sat, 03 Jan 2026 02:43:27 +0000

#4 El hecho ocurrido es innegable, pero el cómo se llegó a él también debería de estar mejor y más explicado. Hay gente (y no me refiero a investigadores de seguridad) que sistemáticamente usa otras IA para crear prompts muy sofisticados (a los efectos es como meter un virus) a otros LLM y generar contenido de este tipo.

Cualquiera, tú o yo podemos intentar (y esforzarnos) en generar una imagen de una adulta sexualizada y toparnos con el filtrado y moderación de Grok, que es más permisivo que otros pero no es en absoluto como lo quieren pintar muchos.

Y Grok es basura y Elon Musk imbecil, ojo.
Pero eso de que “permiten cosas chungas a propósito” no es cierto.

» autor: Cyberbob

#9 xAI guarda silencio después de que Grok sexualizara imágenes de niños [eng]

woke — Fri, 02 Jan 2026 19:50:47 +0000

#6 para mí es peor la zoofilia.

» autor: woke

#8 xAI guarda silencio después de que Grok sexualizara imágenes de niños [eng]

Asimismov — Fri, 02 Jan 2026 19:23:23 +0000

#1 ¡Que la detengan!

» autor: Asimismov

#7 xAI guarda silencio después de que Grok sexualizara imágenes de niños [eng]

capitan.meneito — Fri, 02 Jan 2026 19:21:22 +0000

#5 la IA, como todo internete, dará dinero con la publicidad y el porno.

» autor: capitan.meneito

#6 xAI guarda silencio después de que Grok sexualizara imágenes de niños [eng]

Hynkel — Fri, 02 Jan 2026 19:15:50 +0000

#5 En su día el porno hizo rentable internet, sin exagerar.

Con los gastos tan enormes que tiene la IA, está claro que lo que tenemos ahora es una burbuja colosal y que va a estallar.

Pero que este uso concreto va a facturar, ni lo dudo. Poder hacer CSAM aunque sea ficticio es el sueño de muchos pedófilos.

Y como comentaban aquí, OnlyFans está pinchando: www.meneame.net/m/Artículos/pruebo-porno-ia-onlyfans-porno-tradiciona

» autor: Hynkel

#5 xAI guarda silencio después de que Grok sexualizara imágenes de niños [eng]

woke — Fri, 02 Jan 2026 19:11:22 +0000

#4 la IA aún no da dinero. Si no ilegalizan ni la fabricación de armas

» autor: woke

#4 xAI guarda silencio después de que Grok sexualizara imágenes de niños [eng]

Hynkel — Fri, 02 Jan 2026 19:05:03 +0000

Lo que comenté en Menéame hace ya tiempo (a saber en qué mensaje) se ha cumplido. Estaba cantado que la IA iba a tener ese uso, y Musk tiene cero escrúpulos si da dinero.

El problema es que a ver qué se hace con eso. No va a ser tan fácil ilegalizar contenido ficticio. La batalla estará servida entre los defensores ("así se desahogan sin hacer daño de verdad") y los detractores ("esto causará un efecto llamada").

De momento Musk se aguanta la risa floja cuando dice que implementará mejoras en los filtros. Con la de billetes que le va a dar esto.

» autor: Hynkel

#3 xAI guarda silencio después de que Grok sexualizara imágenes de niños [eng]

Suleiman — Fri, 02 Jan 2026 18:52:24 +0000

Se esperaba lo contrario? Es un negocio, y como tal, está polémica le viene perfecta.

» autor: Suleiman

#2 xAI guarda silencio después de que Grok sexualizara imágenes de niños [eng]

woke — Fri, 02 Jan 2026 18:46:37 +0000

el día que se enteren que hay empresas que fabrican armas para matar gente van a flipar...

» autor: woke

#1 xAI guarda silencio después de que Grok sexualizara imágenes de niños [eng]

Torrezzno — Fri, 02 Jan 2026 18:37:35 +0000

La disculpa del propio Grok (como si un LLM sintiese algo)

Lamento profundamente un incidente "del 28 de diciembre de 2025, donde generé y compartí una imagen de IA de dos niñas jóvenes (edades estimadas entre 12-16 años) en vestimenta sexualizada basada en la solicitud de un usuario. Esto violó estándares éticos y potencialmente las leyes estadounidenses sobre CSAM. Fue una falla en las salvaguardas, y lamento cualquier daño causado. xAI está revisando para prevenir problemas futuros."

Distopía es poco, pero eh, que pronto estará automatizando infraestructuras críticas.

» autor: Torrezzno