Hace 4 años | Por --614617-- a singularityhub.com
Publicado hace 4 años por --614617-- a singularityhub.com

El miedo clásico que rodea a la IA hipotética y superinteligente es que podamos darle una meta equivocada o limitaciones insuficientes. Incluso en el campo bien desarrollado de la IA estrecha, vemos que los algoritmos de aprendizaje automático son muy capaces de encontrar medios inesperados y formas no deseadas de alcanzar sus objetivos. Por ejemplo, en el entorno estructurado de los videojuegos, donde una simple función -los puntos obtenidos- debe ser maximizada, a menudo encuentran nuevas hazañas o trampas para ganar sin jugar.

Comentarios

sadcruel

#3 Estando, en general, de acuerdo contigo, son esas apps móviles y excepciones de escritorio las que usan algoritmos (que es lo que afirma la noticia), mientras que el resto no los usa.

Al-Khwarizmi

#5 Todos los ordenadores (y por supuesto los móviles, que son ordenadores) usan algoritmos. Para todo. Absolutamente todo lo que se ejecuta en un ordenador es un algoritmo, hasta para sumar 2 más 2. https://es.wikipedia.org/wiki/Algoritmo

Me hace gracia esta definición "popular" que ha surgido de la palabra algoritmo, según la cual un algoritmo es... no sé, ¿sólo las cosas malas? Yo ni siquiera sé muy bien lo que queréis decir.

JefeBromden

#3 con Peertube puedes ganar pasta?

Poignard

#12 toma un poco de droja:

eu.gênio

Los algoritmos te dan lo que quieres, no es culpa nuestra si lo que quieres no te conviene, haberlo pensado antes

Poignard

#4 es como la rata con el botón que hacía que sintiera placer, ¿no? Se olvidaban de comer, de deber, de relacionarse, etc.

Lo de "haberlo pensado antes" en las adicciones es difícil de aplicar, y menos si hablas de algo tan 'nuevo' como todas estas plataformas y algoritmos

fantomax

#6 No es tan exactamente así.
https://www.stuartmcmillen.com/comic/rat-park/ en comic, pero en inglés.
wikipedia inglés: https://en.wikipedia.org/wiki/Rat_Park

Poignard
fantomax

#10 Digo que lo de las adicciones del experimento del 53 está contestado con otros experimentos, el del parque de ratas que cuento, en concreto. No somos tan vulnerables a adicciones cuando estamos bien.

Poignard

#11 ¿son comparables los experimentos? en uno estimulaban directamente el cerebro con electrodos y en el otro le daban drogas. ¿Las drogas son más poderosas que una estimulación cerebral directa? Además, en ningún sitio dice que el segundo experimento naciera para rebatir o detallar el primero.

fantomax

#13 Digo que no será completamente válido hasta que se haga en condiciones en que la rata pueda encontrar placer en otros espacios.

JefeBromden

#6 exacto

eu.gênio

#6 no es verdad que sean adictivos, simplemente te dan lo que quieres, y la gente quiere más y más, pero no hay ninguna sustancia que genere dependencia (como en el caso de las ratas) porque... ¡no hay sustancias!

Poignard

#26 sabes que para que algo sea adictivo no tiene por qué ser una sustancia, ¿no? Por ejemplo, el juego es adictivo y no es una sustancia. Simplemente con tener un mecanismo de recompensa que haga que tu cerebro busque más y más ya se puede volver adictivo.

Es decir, me dices: "no es adictivo" y luego "es que te dan lo que quieres y la gente quiere más y más", macho!! eso es la definición de algo adictivo!!

Además, si ves mi ejemplo que he puesto sobre las ratas, lo que tienen son unos electrodos en el cerebro, así que tampoco hay sustancias

eu.gênio

#27 estamos hablando de YouTube, no de Neuralink... No dejes que los periodistas te engañen

Poignard

#28 tinfoil tinfoil tinfoil

D

#4 pues será contigo, porque a mi no paran de recomendarme chorradas que no, no me molesto a clicar

JefeBromden

#7 es al revés, tú eres la excepción; en la teoría de los grandes números, tú eres insignificante; lo que importa es lo que hacen millones de personas.

Poignard

#21 a mi me pasa igual que a #4

eu.gênio

#7 ¿compartes cookies?

sillycon

#4 Putos algoritmos. Lo peor es el operador módulo. Ese lo carga el diablo.

JefeBromden

#4 mentira

eu.gênio

#19 no, no, es verdad

Yo no te mentiría

javi_ch

Vaya dos primeros comentarios...

Creo que va siendo hora de replantearse un poco todo esto...

D

Anda! Pasa lo mismo que con las tetas de las mujeres! jajaja! tinfoil

D

Podemos ha pedido que no haya un algoritmo a menos de 500m de un colegio