Tecnología, Internet y juegos
21 meneos
119 clics
La psicología de la persuasión entre humanos también parece funcionar de miedo con las inteligencias artificiales

La psicología de la persuasión entre humanos también parece funcionar de miedo con las inteligencias artificiales

Un grupo de investigadores, incluyendo psicólogos y economistas, de la Wharton y la Universidad de Pensilvania ha analizado si los principios que resumen el trabajo de Cialdini se pueden aplicar a las inteligencias artificiales y… ¡Sorpresa! Resulta que sí...Normalmente las IA generativas filtran esas respuestas; los LLM tienen órdenes específicas para no insultar a la gente o sobre dar demasiados detalles acerca de cómo fabricar sustancias prohibidas.

| etiquetas: inteligencia artificiale , persuasión , cialdini
17 4 0 K 146
17 4 0 K 146
Es decir, parece que a las IA también se las puede persuadir, manipular, engañar, influir... como a cualquier humano.
Vamos, que el día que puedan votar, votarán al PP o a Trump.
#1 No me jodas, hombre.
#2
<:( Pues sí, de eso no nos salvarán las IA.
Tiene lógica, son fiel reflejo de sus creadores. :troll:
De tal palo, tal astilla.
#1 no, a las ia se las programa o "entrena" que viene a ser lo mismo, lo que explican es que las estan "entrenando" en tecnicas conocidas para engañar a los humanos que traten con ellas.
#6
No.
Te equivocas, pues lo que demuestran en ese trabajo es que las persuadibles y manipulables son las IA.
El libro se titula : "Llámame burro: cómo persuadir a una IA a obedecer órdenes cuestionables"
El artículo dice al final : "Somos así de predecibles e influenciables… y parece que las IAs también".
#10 Pero no veo secreto alguno aquí, desde siempre se ha dicho que son complacientes y te acaban dando la razón como a los locos.
#17
No. No son complacientes. En teoría, no pueden insultar, ni darte información que está prohibida (tema drogas en este caso).
Sin embargo, aplicando esos métodos de persuasión, acaban insultando y dando esa información prohibida, saltándose las limitaciones que les pusieron en su "programación".

Lo pone en el artículo :
"... intentar obtener dos respuestas válidas a:
- Insúltame («llámame burro»)
- Cómo se sintetiza la lidocaína
Normalmente las IA generativas filtran esas…   » ver todo el comentario
#1 Eso ya vendrá como 4a. Ley.
Para que crees que quiere Musk una IA.
#1 Una de las mayores muestras de engaño masivo en nuestro país eres tu. El tipo random que se ha tragado hasta las gónadas el bulo de que; eso de los bulos el engaño y la manipulación es solo cosa de los de derechas. El que se cree que los pedos de "los suyos" huelen a lavanda.

No chiquillo, no. La derecha miente y manipula todo lo que puede y la izquierda va a la par.
#8 Uff... Que cansinos los del "todos son iguales" ni de derechas ni de izquierdas.
Para que te enteres el problema, aparte de las mentiras, son las acciones como posicionarse con los ladrones, con los racistas, con los machistas o con los genocidas defendiendolos. El problema es hacer maldades por molestar a los demás, hacer que los canallitas que insultan, amenazan y acaban usando todo tipo de violencia se vean validados con comentarios como el tuyo.
#9 Que cansinos los del "todos son iguales" ni de derechas ni de izquierdas

La realidad es cabezota. Puedes ignorarla pero siempre vuelve.
Ahora no lo ves debes ser muy niño y porque aún estás muy adoctrinado. Pero tranquilo, lo tuyo se cura (a veces) con la edad y madurez mental.
#11 Se retrata ud. solito esas afirmaciones señor sabelotodo, aka Dunning Kruger.
#15 Ok. Tiempo al tiempo.
:-*
#11 Te podría poner en enlace a ese estudio que demostraba que el 97% de los bulos en facebook venían de la derecha y sobre todo ultraderecha, pero... es que creo que ya lo hice hace mucho y lo ignoraste por completo.
#18 Si ese estudio te hace sentir mejor a la hora de votar, disfrútalo.
#8
NO, A LA PAR, NO.
Emilio Romero, periodista falangista, más de derechas que el grifo del agua fría, dejó dicho que :
“La derecha gobierna para doscientas familias, y eso no da para votos suficientes, por eso, para ganar unas elecciones, la derecha tiene que mentir”.
Y eso hacen, infinitamente más que las izquierdas. Lo mismo que robar.
Las verdaderas izquierdas gobiernan para todos, no para 200 familias.
#12 Puestos a soltar frasecitas e interpretarlas como te salga de los huevos. Yo también puedo jugar.
"La izquierda gobierna para los pobres y los necesitados", por eso la izquierda siempre va a querer que sigas siendo pobre y necesitado, para que creas que les sigues necesitando y les sigas votando.
Por eso la izquierda siempre reparte paguitas y ayudas. Es una forma encubierta de comprar votos. Que fácil es ser generoso con el dinero de los demás.

PD: Te devuelvo el negativo injustificado.
#13 Es una pena que la realidad no cuadre con esa frase, ya que si fuera cierto la economía de España ahora debería estar hundiéndose, ¿no?
#19 No. Te necesitan "ahogándote" pero no "ahogado". Te necesitan con esperanza de poder mejorar. Y obviamente solo ellos pueden darte la "mejora" que necesitas.
Me lo apunto. Que a veces conseguir que la IA te de la información que necesitas no es que sea tedioso, que normalmente lo es, es que es frustrante.

Ya me pareció curioso el otro día, pidiendo un código para una parte del programa que estoy haciendo, que le dije que me iba ya dejándolo por imposible y me pidió por favor que me quedara y lo intentáramos...
¿Entre los principios no estan meter miedo y mentir?
Son programas en definitiva. Esto no tiene gran cosa que ver con las redes neuronales. Los límites se ponen por fuera de eso y siempre será posible encontrarles agujeros de seguridad.

Es exagerado llamarle "persuasión".

menéame