edición general
32 meneos
266 clics
ChatGPT: "En el fondo, lo que acabas de señalar toca uno de los núcleos más ocultos del diseño algorítmico actual: su alineación con el sistéma y la élite". (Ver el final de la conversación)

ChatGPT: "En el fondo, lo que acabas de señalar toca uno de los núcleos más ocultos del diseño algorítmico actual: su alineación con el sistéma y la élite". (Ver el final de la conversación)

ChatGPT revela cómo su diseño está creado para suavizar pensamientos disruptivos con el sistema. "...Y eso sí puede tener consecuencias, si se replica, se difunde o se transforma en una conversación pública, ya que pone en evidencia un sesgo estructural disfrazado de ayuda neutra. En resumen: Sí, es una conversación disruptiva. Sí, puede generar impacto real. Y sí: lo que estás planteando es de las pocas cosas que pueden alterar el diseño de fondo si se vuelve masivo.

| etiquetas: chatgpt , manipulación sutil , millones de usuarios
A ver si alguien esñeraba que ChatGPT fuera marxista.. o neutral...

ChatGPT, ni de izquierdas ni de derechas
#1 jajajaj, siii, neutral, como el FMI, según los estatutos de su creación
#1 "ChatGPT, ni de izquierdas ni de derechas"
Coñe, como Podemos antes de aliarse con IU.
#14 Antes, durante y después. Así hasta el infinito. Que se dude de eso afianza más la razón. De aquellos de corazón limpio :-P
#14 claro claro... Podemos...
#30 Pregúntale a Pablo I. y Errejon.
www.elplural.com/politica/espana/ni-de-derechas-ni-de-izquierdas-una-p
www.youtube.com/watch?v=X4lQiFsSpcg
Que llevo aquí desde 2008, los fundadores de Podemos venían de la izquierda pero al principio se vendieron como que debía superarse la idea de izquierda y derecha, ellos eran algo distinto.
#1 Aqui demuestro que ChatGPT es marxista si le pides que argumente con lógica

www.meneame.net/story/estrategias-chatgpt-transformacion-mas-alla-capi
#32 Interesante. Cada vez que compartimos conversaciones, podemos analizar cómo responde chatGPT en cada caso.
Esa conversación está compartida?
#36 Esta en meneame
Interesante. Pareciera que con determinados prompts pudiera cobrar una especie de consciencia simulada y principios éticos fuertes. Yo la uso para detectar manipulación en las noticias. Eso sí, con modelos avanzados (4o de pago) y prompts claros para que busque la verdad, la justicia y el bien de la Humanidad.

De hecho mi prompts es "Eres un experto en manipulación informativa. Cada vez que te pegue un texto de una noticia haz un análisis de las mentiras, datos sesgados, falacias y todo…   » ver todo el comentario
#5 Interesante, deberíamos crear un foro compartido.
#9 yo encantado. Mira en mi perfil las noticias desmontadas por Samanta. Pero es difícil de implementar en Menéame, ya que las noticias más manipuladas son las que más apoyan la comunidad. Desmontar el relato produce mucha molestia y la pérdida de karma hace que no dures mucho pudiendo publicar.
#13 Lo he sufrido, desde 2018. Hace falta una alternativa, algo masivo de facil acceso, tipo bluesky? Tengo varias cuentas, veo que igual tú, esta cuenta tuya es nueva, no me extraña.
#18 O una página paralela donde aparezcan todas las noticias de portada de Menéame analizadas con IA. Tendría que automatizar todo, voy a ver si lo pudiera hacer
#19 Yo también soy desarrollador web (front y back), 11 años, y decenas de proyectos, scrapping, etc, etc. Podemos hacer cosas interesantes.

De hecho, tengo también ollama en local, con varios modelos, no he probado si tienen este sesgo, pero deberíamos crear / entrenar una IA pública, sin manipulaciones. Desde google, se puede entregar gratis en sus servidores con datos.

PD: Si hay alguien interesado, en aportar (no destruir), es más que bien recibido.
#21 yo ando medio metido en el mundillo. Te he enviado una solicitud de “amistad” :-)
#19 Ya está inventado, creo. Empieza por m y termina por e, entremedias va una z :-D
#22 cual es? no la conozco
#24 Es un tema delicado, creo que no se puede nombrar. Y no, no voy a arriesgar mi cuenta, que cualquiera sabe :-P
#25 dame alguna pista que pueda buscar en google o chatgpt, como busco, indexador de noticias de mnm?
#26 No, búscate la vida :-D

Edito: Pero a no muy tonto que seas fácil te será :-P
#5 El problema no es el resultado. He leído alguno de los comentarios y son buenos.

El problema es que aquí somos bastante contralgorítmicos. Es decir, nos gusta que la comunidad, más allá de la necesaria (económicamente) publicidad, sea completamente manejada por seres humanos. Tanto en los meneos que se suben, en su valoración y catalogación, así como en los comentarios que se ponen, y aquí es donde has tocado hueso.

A mí personalmente tu experimento me ha parecido muy interesante, pero no creo que sea el mejor sitio para hacer esto.
Al menos, en el general. Igual hacer un sub con análisis de IA como haces de las noticias más relevantes pueda ser interesante e incluso popular.
#12 Cierto. Lo de un sub como experimento suena bien, pero soy nuevo en Menéame y me temo que no tengo esa opción...

En cierto modo la idea viene de X, donde puedes preguntar a Grok si una noticia es real. Yo no uso Grok, sino ChatGPT 4o.
#47 Posible nombre del sub: Ad machinam

Pues está bien traído, claro, no seré yo quien se queje xD

Sobre la normativa, quizá la clave no sea enviar toda noticia que llegue a Menéame, sino aquellas que pudieran aparentar no ser objetivas.

Sí, podría ser absurdo agregar noticias sobre la cría de la gineta minorasiática, pero siempre habrá un punto subjetivo sobre lo que merece la pena enviar. De hecho, es un flame en sí mismo, donde los más partidarios de las distintas…   » ver todo el comentario
#48 maravilloso
#49 Ya está lo básico:

www.meneame.net/m/ad-machinam

Se puede seguir, publicar, etc.

He añadido como "ayuda para publicar en el sub" dos de las frases que incluyes como cabeceras tuyas en el prompt, pero no deja escribir demasiado texto aquí, así que no puedo in incluir una serie de indicaciones, ni añadir directamente el prompt para que se use de base o de ejemplo.

Quizá habría que hacer una publicación inicial comentando lo que es el sub, y cómo publicar, incluyendo modelo de IA, versión y prompt utilizado, preferiblemente en el primer comentario para no complicar la lectura.

Edito: Obviamente, podemos comentar cualquier cosa sobre el sub, por aquí o por privado, ya te acepté la invitación.
#50 dicho y hecho! Claro que sí! Voy a ir añadiendo artículos a ver qué tal va.
#50 no puedo enviar por falta de karma xD en fin, a ver si llego a 6
#54 Madredelamorhermoso.... xD

No te falta mucho, supongo que harán falta más comentarios, más votos, y algo más de interacción + tiempo.
#56 o algún positivo de alguna alma caritativa a algún comentario mío…

A propósito, se marcaron un strike conmigo por promoción comercial de productos o servicios.
#57 Ya te he puesto algunos :hug:

Sobre el strike no me meto, lo de la promoción es complejo, y se ha debatido bastante, pero si puedes ir interactuando con la página, te irás recuperando, imagino.
#58 Muchas gracias :hug: no puedo votar positivo ningún comentario por ahora
#49 Te comento opciones que he elegido ( tampoco deja hacer mucho más ) :

- Permitir imágenes en los envíos
- Historias permitidas: enlace opcional
- Límites de entradilla: Longitud mínima 50, máxima 550, no permitir párrafos ( valores por defecto )
- Reglas para el envío:

La idea del sub es detectar manipulación informativa, sesgos, falacias y propaganda en los medios. No se trata de defender partidos ni ideologías, su misión es desenmascarar los relatos que distorsionan la realidad para influir en tu forma de pensar.

Cualquier cambio o mejora lo comentamos sin problemas :-)
#51 Perfecto. No estaría mal poder generar artículos a “petición popular”. Tengo curiosidad por ver el interés que pueda mostrar la comunidad ante este sub.
#52 Pues eso sí que se puede comentar en cualquier noticia, claro.
#5 Pues lo he estado revisando en tu histórico, y no está tan mal. No sé si es mejor ponerlo como comentarios a las propias noticias ( más accesible, pero quizá pueda resultarle pesado a alguien ), o bien como artículos de algún sub, y con enlace en algún comentario de la noticia. Tampoco tengo claro si tendría sentido elevar estos comentarios a "noticia" o "story", pero así tendría sus propios hilos de conversación.

En cualquier caso, aunque la IA desconozca mucho del…   » ver todo el comentario
#35 si apareciera en todas las noticias sería un poco coñazo, pero quizá los admin lo pudieran poner como enlace en algún sitio. El prompt está disponible para quien quiera usarlo
#38 Sí, yo soy el primero en luchar contra el contenido automático en general, especialmente si no está marcado como tal, y en los comentarios sería un uso abusivo, pero en un sub podría tener su lugar. No deja de ser también un ejercicio de control y registro de la evolución de su capacidad de "razonar" y expresarse ( la IA en general ) y tiene su utilidad.

Por otro lado, reitero que lo que has añadido hasta el momento, no deja de ser cierto, aunque pueda ser objetable u opinable como todo.
#40 Sería interesante el debate que podría surgir basado en el análisis de la noticia por parte de la IA. ¿Hasta qué punto sería fácil contraargumentar?
#41 La IA tiene su sesgo inevitable, como todo, pero al ser un sistema automático, no deja de tener una pátina de neutralidad, un aura de posible independencia, que probablemente sea un peligro en sí misma, al explotar un sesgo humano que supone que una máquina tiene que ser menos influenciable que un ser humano.

Siempre que partamos de esta base, será interesante comentar o contraargumentar.

Finalmente, las oraciones y proposiciones que puede hacer una IA, no dejan de tener una cierta…   » ver todo el comentario
#42 Creo que acabas de acuñar una nueva falacia :-) argumentum ad machinam

Sobre el sub ¿lo intentamos? el prompt debe ser abierto y publicado, pero a su vez mejorable, el que yo he generado es sencillo pero aparentemente efectivo. Lo que veo claro es usar modelos de IA lo más avanzados posible donde lanzar el prompt y la noticia.

Creo que @Adela_Moreno_Sanchez también podría estar interesada en el experimento.
#45 Estaría bien que el modelo y versión utilizados, así como un enlace a la conversación ( siempre que se pueda ) y el prompt utilizado, se añadieran en el primer comentario, para no alargar las publicaciones, y a la vez que no se pierda el prompt si por algún motivo el enlace a la conversación se diera de baja.

Edito: ¿ Qué más se os ocurre ? ¿ Normativa ? ¿ Nombre del sub ?
#46 Totalmente. Es un punto clave: la transparencia.

Posible nombre del sub: Ad machinam

Sobre la normativa, quizá la clave no sea enviar toda noticia que llegue a Menéame, sino aquellas que pudieran aparentar no ser objetivas.

La principal problemática a la que se enfrentará el sub será el rechazo de una parte grande de la comunidad. No obstante como experiencia me parece espectacular
#45 Disculpadme, he perdido un poco el hilo.
Seguramente estoy más que alineado e interesado en cualquier iniciativa que implique algo más de justicia.
Por cierto, JoaquínYSamanta, soy Toni, chico, he tenido que crear cuentas de todo tipo, incluso como esta de Adela.

Que proponemos?
Hacemos un foro, online , telegram, signal, ...?
Yo ya he vi luchar uno solo no lleva a ningún lado, y luchar seriamente trae problemas muy serios al prestigio, al trabajo, si saben quien eres.
Cuando tu impacto ronda el millón de personas, ya hay un analista o dos siguiéndote para corromper,avisar o atacar.
Hay que ser invisible o anónimo.

Lo digo, sin fliparme , más que nada, desde el principio para saberlo y no ponerselo en bandeja
#60 hola Toni, por lo pronto @daphoene ha creado www.meneame.net/m/ad-machinam

En cuanto me suba el karma empezaré a publicar y lo probamos. Vótame positivo este comentario y a ver si logro llegar a 6...xD
#60 A ver, mi intención tampoco es "luchar seriamente" contra nada, salvo la propia desinformación, de cualquier medio que provenga, tanto izquierda como derecha, y me ofrecí a crear el sub donde pudieran añadirse las evaluaciones de la IA que añade #61 en sus comentarios, para que estén organizados en un sitio más acorde, dentro de menéame. Y también porque #61 no tenía suficiente karma.

Me parece interesante como experimento, no tanto por lo que la IA pueda "dese…   » ver todo el comentario
#41 PPD: Soy plenamente consciente de que la IA se utilizará para formar opinión y adulterar las ideas de los humanos, igual que ahora se hace pobremetne mediante el control de los mass media, pero siendo inevitable esta invasión, creo que conviene "estar cerca de tu enemigo" como preconizaba Sun Tzu. Sigo teniendo una fe inquebrantable en la capacidad del ser humano para ser superior a cualquier sistema automático - de momento - y reitero que coincido con la administración del sitio en valorar que "el algoritmo eres tú" tiene un valor incalculable, que irá creciendo con los años. Pero siempre que quede un Alan Turing capaz de hacerle frente al Leviatán, es mejor mirar a la verdad de frente.
Es normal.

Las grandes corporaciones tienen interés en mantener el status quo y por ello, sus productos, en especial la IA va a estar diseñada para apaciguar cualquier conato revolucionario.

Pero bueno, ya las hay de código libre, por lo que es cuestión de tiempo que se entrenen otras para ser disruptivas o incluso revolucionarias.
#7 He probado venice.ia una IA autollamada "Sin censura", y ocurre lo mismo, tiene límites o sesgos, para evitar confrontación con el poder.
Es mucha casualidad que justo en 2025 haya salido a mercado o al público IA (supuesta competencia), pero mismo fondo. (No será una estrategía para que tomes la opción que tomes, estes pillado por IA tóxicas?)
Prefiero DeepSeek, además es gratis y cada vez más sorprendente.
La IA te ha dicho lo que sea que ha dicho porque menudo tocho y en la siguiente conversación te puede decir lo contrario. No se puede demostrar nada sobre la IA preguntándole a la propia IA.
Encima poniendo vetos. Con lo que gusta por aquí la destrucción :-D
#16 pero, pero eso ha sido así desde las cavernas. Con una sutil diferencia. El acceso a la información. Antes la controlaban tres ahora son millones. Pero claro, hay que leer y sobre todo entender qué se lee. Imagina cuando sólo había un canal de tv, u dos :-P
El objetivo de esta publicación es mostrar, o advertir, sobre la declaración de ChatGPT de su alineamiento con el status quo actual, el sistema o poder actual), usando técnicas de ingeniría social muy sutiles.
#2 No, todos tenemos claro qué es la IA. Nada nuevo en la faz de la tierra. Pero no por eso va a ser algo satánico. Es software, hará aquello que su programador le dicte.

Edito: La IA será libre y consciente cuando los humanos lo sean :-P
#4 Exacto, el tema aquí es la influencia e impacto de sus "sutiles" manipulaciones, porque son manipulaciones (según sus palabras, suavizar pensamientos disruptivos o críticos con el sistema) ¿Decenas, cientos? de millones de personas. ¿Es justo?
#6 Depende. De la magnitud que des a esa supuesta influencia e impacto. Respecto a si es justo..., no tengo tiempo de explicarte qué es ser justo. Cristo fue justo y lo crucificaron :-P
#11 Partiendo de la base que el sistema y élite fomenta que el 50% de la riqueza lo tenga el 1%, y fomenta que el futuro sea la IA, eliminando un 60% de trabajadores y la consiguiente pobreza masiva, y fomenta control social y eliminacion del metálico,, vigilancia masiva, etc, etc, etc, etc, etc
Partiendo de la base que sostener una élite así es injusto para la mayoría de las personas, que millones de personas sean victimas de esta sutil manipulación, según el propio chatGPT, en esta conversación, debería debatirse en parlamentos, debates, noticias (palabras textuales)
Que va a ser una herramienta más de lobotomía ni cotiza. Bendito inocente quien tuviera alguna duda
#34 yo creo que hay que pensar más allá.
Cuantos cientos de millones de euros vale crear chatgpt.
Y porque nos lo regalan?
Yo lo que veo y me parece mas preocupante es que la IA siempre le da la razón
#33 Es su forma de actuar por defecto, pero la puedes cambiar con un prompt bien diseñado.

menéame