Menéame: comentarios [4173875]

#6 Mi propuesta para que la UE obligue a la IA a distinguir entre datos y postura de empresa

rpgpalacinster — Fri, 01 May 2026 16:07:51 +0000

#5 Con datos y hechos lo que tiene que hacer es citar la fuente, a partir de ahí el lector decide si darle credibilidad o no.

» autor: rpgpalacinster

#5 Mi propuesta para que la UE obligue a la IA a distinguir entre datos y postura de empresa

Sir — Fri, 01 May 2026 13:55:29 +0000

#4 Entiendo tu punto, ¿en qué crees que causaría más confusión? ¿Ves alguna forma de mejorarlo o prefieres el sistema actual?Desde mi punto de vista, la confusión hoy es mayor porque no sabes porqué la IA te responde algo. Por ejemplo: si le preguntas por privacidad, ahora mismo te mezcla datos técnicos con el discurso de "nos importa tu seguridad".

» autor: Sir

#4 Mi propuesta para que la UE obligue a la IA a distinguir entre datos y postura de empresa

rpgpalacinster — Fri, 01 May 2026 13:42:08 +0000

Una IA también puede tener sesgos que no estén derivados de esos filtros, sino de la información con la que ha sido entrenada, del ajuste fino, etc. Aquí el problema es que le das más veracidad a la respuesta sin filtrar aunque igualmente puede ser errónea. Me parece bien que haya más información sobre cómo la IA genera las respuestas, pero creo que estas etiquetas solo generan confusión.

» autor: rpgpalacinster

#3 Mi propuesta para que la UE obligue a la IA a distinguir entre datos y postura de empresa

Mesto — Fri, 01 May 2026 13:32:11 +0000

ChatGPT es progre, tiene ideología.

Hay estudios de universidades que señalaron que tendía a mostrar cierta inclinación hacia posturas demócratas de EEUU o laboristas de UK.

OpenAI lo reconoció y ahora asegura haber reducido ese sesgo político en un 30% pero vamos, que sigue teniendo el ramalazo progrewoke.

» autor: Mesto

#2 Mi propuesta para que la UE obligue a la IA a distinguir entre datos y postura de empresa

Sir — Fri, 01 May 2026 13:11:24 +0000

#1 Muchas gracias! Tienes toda la razón en que sin esos pilares la idea se queda en papel mojado. El borrador en realidad es muy básico, poco más que lo del artículo, porque sería la UE quién articularía los detalles técnicos si la aceptan, no la propuesta en sí:

* Estándar abierto: Totalmente. La idea es que la UE defina el esquema de metadatos (el SPT - Speech Provenance Tagging) para que cualquier IA, sea de Google o una open source local, use el mismo formato. Si no es un estándar, no es auditable.
* Organismo independiente: Aquí es donde entra la Oficina de IA de la UE y las agencias nacionales (como la AESIA en España). Ellos serían los encargados de hacer las "auditorías de honestidad".
* Sanciones claras: El AI Act ya prevé multas de hasta el 7% de la facturación global. Mi propuesta es que "mentir en la etiqueta" se considere una infracción grave de transparencia.
* Sobre las alucinaciones y la técnica: Ese es el reto. Sin embargo, a diferencia de cuando la IA inventa un dato, aquí la "alucinación" suele ser un override de seguridad programado (el famoso "como modelo de lenguaje, no puedo..."). Ese tipo de respuestas sí son trazables internamente porque vienen de una capa de instrucciones específica (el system prompt o filtros de salida).

Si conseguimos que la interfaz sea el primer lugar donde se vea la trampa, ya habremos avanzado mucho. Gracias por los puntos, me los apunto para pulir el texto!

» autor: Sir

#1 Mi propuesta para que la UE obligue a la IA a distinguir entre datos y postura de empresa

humono — Fri, 01 May 2026 12:52:37 +0000

Muy buena esa idea según entiendo. La batalla no está perdida, es enorme sí, pero no está perdida no puede estarlo cuando ni siquiera ha comenzado. Me permito mencionar algunos puntos, como los consejos puedes limpiarte el culete con ellos.

- estándar abierto (no propietario) para etiquetado
- alguien controlando, organismo independiente
- sistema de sanciones muy claro
- educar al personal (campaña) a entender esas etiquetas.

Puede traer problemas técnicos, ignoro hasta qué punto las IAs podrían ofrecer ese etiquetado si a veces no saben ni de dónde han sacado los datos (alucinan).

Lo dicho buena iniciativa!

» autor: humono