Portada
mis comunidades
otras secciones
#1:
Eso solo pasara si dejan a los robots conectarse a internet. En ese momento google (que ya ha tomado conciencia de si mismo) controlara para dominar el mundo.
#3:
Asimov, que venga Asimov... ¿qué pasa que no se han leído las leyes de la robótica?
1. Un robot no debe dañar a un ser humano o, por su inacción, dejar que un ser humano sufra daño.
2. Un robot debe obedecer las órdenes que le son dadas por un ser humano, excepto si estas órdenes entran en conflicto con la Primera Ley.
3. Un robot debe proteger su propia existencia, hasta donde esta protección no entre en conflicto con la Primera o la Segunda Ley.
De esto se ha hablado en los últimos días:
En busca de un 'código militar' para los soldados robóticos del futuro
1. Un robot no debe dañar a un ser humano o, por su inacción, dejar que un ser humano sufra daño.
2. Un robot debe obedecer las órdenes que le son dadas por un ser humano, excepto si estas órdenes entran en conflicto con la Primera Ley.
3. Un robot debe proteger su propia existencia, hasta donde esta protección no entre en conflicto con la Primera o la Segunda Ley.
De esto se ha hablado en los últimos días:
En busca de un 'código militar' para los soldados robóticos del futuro
#8:
Señor Patrick Lin, los ordenadores hacen aquello para lo que están programados. A lo que usted se refiere es que, tal vez, eso puede no coincidir con lo que nosotros queramos que hagan.
Comentarios
Eso solo pasara si dejan a los robots conectarse a internet. En ese momento google (que ya ha tomado conciencia de si mismo) controlara para dominar el mundo.
Asimov, que venga Asimov... ¿qué pasa que no se han leído las leyes de la robótica?
1. Un robot no debe dañar a un ser humano o, por su inacción, dejar que un ser humano sufra daño.
2. Un robot debe obedecer las órdenes que le son dadas por un ser humano, excepto si estas órdenes entran en conflicto con la Primera Ley.
3. Un robot debe proteger su propia existencia, hasta donde esta protección no entre en conflicto con la Primera o la Segunda Ley.
De esto se ha hablado en los últimos días:
En busca de un 'código militar' para los soldados robóticos del futuro
En busca de un 'código militar' para los soldados ...
elmundo.es#4 Es lo que tienen las películas, que son de mentira.
#11 Está basada en hechos reales y no me he enterado?
#3 #11 #15 #16 Eh! Y la Ley Zeroth? Es que nadie nunca se acuerda de la Ley Zeroth?
http://enciclopedia.us.es/index.php/Ley_Zeroth
#3 Yo robot. Tambien tenian las tres leyes y mira.
Señor Patrick Lin, los ordenadores hacen aquello para lo que están programados. A lo que usted se refiere es que, tal vez, eso puede no coincidir con lo que nosotros queramos que hagan.
#15: "los programas no mutan, ni tienen evolucion ni seleccion natural. "
¿Ah no? ¿Qué impide a los programas que muten? Yo puedo crear un programa que mute, es decir, que reescriba su propio código. Eso ya existe, otra cosa es que tú no lo conozcas.
Las 3 leyes harian falta hasta para los humanos
Juegos de Guerra, más bien...
#5 En Yo Robot siguiendo la logica de las 3 leyes los robots deciden eliminar algunos seres humanos para salvar la vida de la mayoria. Asi que las 3 leyes no sirven para nada realmente.
#3 "1. Un robot no debe dañar a un ser humano o, por su inacción, dejar que un ser humano sufra daño. "
Hablamos de robots militares, programados para hacer daño a seres humanos.
¿La U.S. Navy está pensando en crear cylons?
Ha pasado y volverá a pasar...
Por las dudas siempre le saco la bateria a mi AIBO antes de ir a dormir.
Ya, y también era que con la play 2 se podían controlar los ICBM, no te jode.
#41 Cuando hablamos de ciencia si algo puede hacerse alguien lo hará. Si las investigaciones llevan a poder mutar humanos alguien lo hará, si se pueden construir robots que se construyan a sí mismos alguien lo hará, si se pueden hacer IAs que se mejoren a si mismas alguien lo hará.
Y cuando alguien lo haga entonces será ya demasiado tarde.
Se ha podido parar la aniquilación total del planeta por una guerra nuclear porqué la decisión estaba en las personas y no en las bombas. Si se les da poder de decidir a los robots, y se les dará, algún día se perderá el control. No es una cuestión de si pasará o no sino de cuando.
El momento llegará aunque probablemente falta mucho tiempo para que eso pase.
#5 #11 Esa película lo único que toma del libro es el título. Todo el resto es un bodrio infumable.
Para quien quiera consultar el informe oficial, que está en inglés evidentemente, pero incluye categorías y fotos, dejo el enlace. (pdf)
http://ethics.calpoly.edu/ONR_report.pdf
pajas mentales.... más pajas mentales....
Espero que funcionen con windows esos robots..
Oh, que divertido y emocionante....peleas de robots militares.......quieren tener tambien a soldados parados
?
No creo que se llegase a dar el caso de que tengamos robots autonomos que puedan llegar a tomar el control del planeta, pero tambien habia gente que se reia cuando hablaban de que todos acabariamos teniendo un ordenador por casa....
#30 ¿Puedes por favor ilustrarnos al resto de la humanidad con algún ejemplo de programa que cree programas automáticos para un problema de entrada determinado?. Por supuesto, la mutación de código (aleatoria o determinada) o la generación automática de ciertas secciones NO es crear un programa nuevo, si no simplemente una duplicación del programa original o prototipo con diferente configuración (no se resuelve una tarea nueva), y además, si un programa "mutase" es porque está programado para "mutar" (o más bien para simular que muta).
Todos los computadores de la Tierra a día de hoy tienen una lógica fuertemente, no no, exclusivamente determinista, y por tanto: no pueden hacer nada para lo que no están programados; es física y matemáticamente imposible.
La noticia es una gilipollez.
#28 Es que esos no son seres humanos, son efectos colaterales.
"Hay un pensamiento erróneo común, que los robots harán sólamente aquello para lo que estén programados"
Hay una actitud errónea común, que algunos humanos hablan sin tener ni puta idea de lo que hablan.
Me imagino que todo esto tiene que ver con la Inteligencia artificial y las Redes neuronales
http://es.wikipedia.org/wiki/Inteligencia_artificial
#13 Estaba hablando de las 3 leyes y de como las tres leyes se pueden burlar con una paradoja.
Esto empieza cuando le respondo a #3 Yo me estoy refiriendo en todo momento a que las tres leyes no aseguran nada.
Cuando se crean sistemas hipercomplejos, los resultados son necesariamente impredecibles. Por tanto y sin ninguna duda un sistema de inteligencia artificial que supere cierta magnitud no va a ser predecible.
Eso, si es que no han empezado ya a jugar al Dr. Frankenstein con los genes de los soldados.......
#3 esas leyes, fallan mas que una escopeta de feria, el propio Asimov, en sus libros planteaba cuestiones sobre los fallos de esas leyes.
¿que ocurre cuando un robot tiene que dañar a un humano, para salvar a otro humano?.
Por otra parte dire que no hay error sobre el planteamiento de que "los robots harán sólamente aquello para lo que estén programados", los programas no mutan, ni tienen evolucion ni seleccion natural.
Otra cosa, es que el programa tenga algun "bug". (Cosa bastante normal en programas tan complejos)
Pues si ya saben que se rebelarán ¿para que hacerlos?. Es que es buscarse problemas.
Los científicos militares trabajan duro cada día para convertir las películas de Terminator en un documental.
#3 En robots militares va a ser complicado que les implementen las reglas de asimov y a la vez puedan hacer el trabajo para el que fueron diseñados.. (o sea matar..)
¡Bienvenidos humanos!
¡Venimos a visitaros en son de paz y con buena voluntad!
* Un robot no debe dañar a un ser humano o, por su inacción, dejar que un ser humano sufra daño.
* Los robots han visto cosas que vosotros no creeríais.
* Los robots son sus amigos de plástico con quien les gustará estar.
* Los robots tienen brillantes culos metálicos que no deben ser chupados.
...Y tienen un plan.
(about:robots)
a muy bien, de categoria...
voy a cojer un hacha y voy a machacar my computer antes de que me lo haga a mi
La hora de las máquinas ha llegado...
"El U.S. Navy's high-tech and secretive Office of Naval Research ha publicado el primer estudio serio sobre robots militares autónomos que lucharán las guerras del mañana."
¿Y no le han dado un premio IgNobel? Porque tiene cojones lo absurdo que es el tema.
#35 Ademas tambien podria ocurrir que tuviesen un fallo en sus camaras o sensores y atacases un blanco equivocado que podria ser un civil o un miembro de su propio ejercito.
#15 Date un repasito a los algoritmos geneticos.
Piensa en como funciona una red neuronal que evolucion sus pesos mediante un algoritmo genetico. Es capaz de encontrar una solución a un problema de una manera que no se habia programado por nadie.
#41 Si, ya se ve en los propios sistemas operativos y demás programas que siempre hacen lo que uno espera.
Efectivamente, no pueden hacer algo para lo que no están programados. Podrían aprender a resolver problemas nuevos para los que no fueron programados pero aún así deberían de estar programados para aprender de esa forma así que estás en lo cierto.
El problema es lo que resalté en negrita, que en una programación compleja difícilmente sale el programa perfecto para que siempre haga lo que uno espera, un bug puede llevar a confundir un civil con un enemigo, un bug puede incluso hacer disparar al robot sin ton ni son en medio de una muchedumbre de inocentes.
Eso ahora, en un futuro pueden estar tan avanzados que vayan más allá como por ejemplo en Eagle Eye donde el ordenador estaba programado para proteger a EE.UU. y siguiendo su programación, malinterpretándola decidió eliminar a uno de sus enemigos: el propio presidente.
O mismo lo que ocurre en Yo Robot.
Lo dicho, un programa no puede hacer nada para lo que no esté programado pero nosotros podemos programar de forma que lo que salga no siempre haga lo que esperamos.
#45 Esa feature hubiera ido bien hace un par de años.
Lo que la inmensa mayoría creeis que es la inteligencia artificial (por las películas), NO ES inteligencia artificial (en la vida real).
Lo que veis en el cine ES CIENCIA FICCIÓN. Dejaros de chorradas y tontadas apocalípticas.
#54 Yo no me precuparia de pagar la hipoteca cada mes, me preocuparía mas de la pobre gente que se muere de hambre en África.
De todas formas te recomiendo que sigas pagando la hipoteca.
#48 [...]Otra cosa es que yo haga máquinas programadas para matar o tirar bombas, pero no es de eso de lo que va la noticia[...]
Gracioso que digas eso, porque precisamente la notícia va exactamente de eso!
Son robots soldados, preparados para matar o tirar bombas ... a los enemigos. El concepto de enemigo puede cambiar de un momento a otro. No será suficiente usar la vestimenta o un emisor/receptor para que el robot determine si es amigo o enemigo, no olvidemos que esos robots deberán enfrentarse a seres humanos inteligentes. Hará falta cada vez mas inteligencia para tomar esa decisión, conforme el enemigo aprenda de los errores de los programadores de robots. Y llegará un momento en que nadie sabrá como ni porqué un robot decide si eres amigo o enemigo.
Y finalmente llegará un momento en que los robots nos considerarán su enemigo.
Tendimos a pensar que el robot es una especie de martillo que tiene un funcionamiento simple, pero eso no es así, o mejor dicho, no será así. Y no será así porque un robot inteligente es mas útil que uno tonto. Y uno mas inteligente aún es aún mas útil que uno que simplemente es inteligente.
Hasta que el robot sea suficientemente inteligente para ser considerado un ser consciente y tome decisiones para las que nadie sabe si ha sido programado porque con el tiempo eso quedará difuso.
La rebelión de las maquinas no lo será por una decisión de una maquina sino por un error humano. Pero al fin y al cabo eso es irrelevante.
#15 los programas no mutan, ni tienen evolucion ni seleccion natural.
Precisamente los programas que mutan y evolucionan (y hablo del propio programa, no de programas que aplican algoritmos genéticos a otros datos) forman parte de una rama de la informática que lleva estando de moda ya bastantes años.
#64 Los de EEUU necesitan tener la gente acojonada parar controlarla mejor y lo promueven, una vez creado el ambiente de terror éste se reproduce solo.
En Japón no necesitan mas dosis, aún les dura la de hace mas de medio siglo.
Yo le tendría más miedo a la U.S Navy que a los robots
In the future! A computer program called Skynet will declare war on the human race...
#35 Y aunque no fueran robots militares, siempre se podrían piratear o trucar
uf...
#63 no, porque alfabéticamente te saltarían (una hache para ser John Connor)
#1 Hasta que descubran casino-online.net y demas webs con spam y los virus acabarian con ellos.
Por cierto, que mania por parte de USA (y europa casi que tambien) de los robots en plan malos (terminator, hal9000, virus, matrix) y por parte de Japon siempre son buenos (astroboy, saber marionette, rockman...). Curioso.
No os preocupéis: sueñan con ovejas eléctricas, y, además, han visto atacar naves en llamas más allá de Orión; brillar rayos C en la oscuridad, cerca de la Puerta de Tanhauser. Y, si no tenemos uidado, todas esas cosas se perderán como lágrimas en la lluvia.
me llamo Jon Conor, debo estar acojonado?
#1 si hombre si dejan los robot conectarse a internet, dominaran meneame y para que queremos mas, el futuro no seria ni comparable ni con "terminator" ni con "vida de cirstal" seria mucho peor
la guerras con robots son absurdas. Cuando se destruyan mutuamente los robots, se empezaran a matar los humanos mutuamente.
Por tanto, solo sirven para guerras asimetricas, donde los robots maten humanos, descendiendo las bajas del lado que pueda permitirse robots militares.
Yo lo se bien: programas un ordenador y de vez en cuando hace lo que no debe. Lo malo no es que lo haga; lo malo es que sólo lo haga "a veces".
Yo no me preocuparia tanto por los robots sinceramente, la robotica esta bastante atrasada en este aspecto. Me preocuparia mas de un planeta cada dia mas agotado en sus recursos naturales, mas empobrecido y saturado.
Y eso con armas nucleares en manos de HUMANOS capazes de destruir el planeta una docena de veces como minimo.
Eso si que acogona.
Algún fan recuerda cuando era el día del juicio final? Lo digo por poner la hipoteca a muchos años... Total...
Y si hacen algo contrario a lo que estaba programado, es porque se han vuelto a programar.
el problema, desde el punto de vista militar, de las leyes de Asimov, es que entonces los robots no serian utiles en la guerra, no servirian mas que para logistica, y eso, si es que no sale por alli un robot Descartes que eche al trasto todo..
terminator, cada dia se ve mas cerca...
#44 No se perderá el control porque el robot tomará la decisión en función de su programación. Que una IA aprenda no significa que "evolucione", este viva, o haga algo para lo que no está programada (tal y como dice la entradilla); significa que se reconfigura (a menudo a base de prueba y error) para resolver el problema para el que ha sido programada.
Quizás esas máquinas tomen decisiones erróneas que los humanos no esperaban, pero no será porque "hagan una rebelión", será porque nadie advirtió que el programa X sometido al entrenamiento Y daría un resultado Z, y eso es un error de programación de toda la vida. Lo importante es que, la máquina, haga lo que haga, lo hará consecuentemente a su programa.
Otra cosa es que yo haga máquinas programadas para matar o tirar bombas, pero no es de eso de lo que va la noticia... la noticia afirma que las máquinas se revelerán por si mismas aunque no estén programadas para ello.
#29 Um cierto
#41: Hombre, que los robots hagan algo para lo que no estén programados, desde luego, salvo que utilicen una tecnología a años luz de aquí, pues no pasará, pero sí podría pasar que los diseñadores no tuvieran en cuenta que la respuesta para "defender la patria" pueda pasar por liquidar al presidente, por ejemplo.
Además, ¿te imaginas lo que un puntero mal liberado puede provocar?
Bueno dado que este tema me encanta (hoy por hoy lo clasifico como ciencia-ficción) voy a expandirme un poco.
#24 como funcionen con windows, seguro que estamos jodidos.
#56 55 comentarios antes del tuyo, para diferenciar entre inteligencia y conciencia
#58 cuanta razón tienes
#64 efectivaemente, esto es la "panpolítica" del miedo. La cosa es intentar que el pueblo viva acojonado y se refugie en las decisiones de sus "protectores" gobiernos. Desde luego, que al intentar hacerlo con este tema la única conclusión a la que llego es la de que se les acaban las ideas con las que asustarnos...
#73 honro tu comentario.
Sigamos...
Bueno como estaba diciendo, cierto es que la robótica avanza, y llegará un día en el que exista la inteligencia artifical (si es que no existe ya en secreto, cosa que dudo) y probablemente será beneficioso para la humanidad. Robots que construyan, que cultiven, que limpien, que hagan nuevos robots, lo que querais, pero dentro de un código ejecutable (programa). En teoría, el mayor problema que esto puede suponer (el mas grande dentro de este aspecto yo creo) sería el programar mal su reproducción haciendo que por ejemplo se reproduzcan sin control hasta acabar con todos los recursos del planeta (fallo humano pues). Los fallos de la IA serían a raíz de fallos humanos, no de conspiraciones robóticas. Sobre lo de reescribir su codigo (mutar), le veo muchas pegas, porque esas "reprogramaciones" posibles ya están contempladas en la primera programación, a no ser que esa reescritura sea aleatoria (lo cual es absurdo, porque se trata de hacer máquinas que funcionen, no de hacer máquinas "locas").
Bien, el problema entonces desde mi punto de vista sería fabricar una máquina con conciencia propia, en tal caso si que la estaríamos cagando, probablemente esa conciencia robótica vería a los humanos como una amenaza para si misma (y su especie, tampoco me extraña) y en tal caso si sería posible el sugimiento de una especie robótica enemiga de la humanidad. Además también se consideraría a si misma como una forma de vida perfecta al ser inmortal (paradójicamente, le tendria que dar la razón a la maquinita). No temais por el momento, porque no sabemos como es una conciencia humana, no lo sabemos y punto. Sabemos que exite la conciencia, que la mayoría tenemos, pero no podemos achacarlo a ningún proceso neurológico. Se investiga sobre el tema, pero todo son conjeturas. Por lo tanto, mientras no sepamos lo que es una conciencia, veo dificil construir una para una máquina (a no ser que sea el mago de Hoz el que lo haga).
Quizá nuestras herederas sean las máquinas, perfectas e inmortales, y quizá también sean los seres mas capacitados para gobernar el universo.
Pero por el momento, tener miedo a lo desconocido o al progreso es de ignorantes.
Como ya han dicho por arriba la noticia es una gilipollez
>> "Hay un pensamiento erróneo común, que los robots harán sólamente aquello para lo que estén programados"
Juas... q peliculas...
Enseñar a matarse robots entre ellos, o como trasladar la estupidez humana tambien a las maquinas.
Estupidez artificial.
Ni los tenemos y ya se están rebelando!
#3 ¿No viste matrix?, lo único que tienen que hacer es mantenerte en una incubadora, donde vivas en estado de coma inducido el resto de tu vida.
No te habrán hecho daño, no de habrás hecho daño y los robots no peligrarán por culpa del ser humano.
Cualquier postulado tiene una trampa, y se le puede encontrar una salida para hacer algo, que en principio no se podría hacer.
No se, yo lo que quiero es que inventen ya a las robot de guerra, han visto que buenas estan? (vease Sarah connor chronicles)
Entonces la resolución general es que el error de la maquina siempre sera debido al error humano?
Osea que si nos sale skynet es "error informatico" (algun becario que no puso un if (rebelion) ), hasta eso
#41 Puede ser determinista, pero si los programan para tomar decisiones en determinadas situaciones en función de un estado, puede ser que en un momento dado se de alguna situación no prevista pero tratable por la lógica del robot que le haga por ejemplo, atacar un hospital. Como es sabido, los ordenadores no son tan buenos como nosotros analizando patrones ni figuras visuales al vuelo.
Joder, que daño hacen tantas pelis.
Ba los robots seran mejores personas que las personas
#41: Los computadores son deterministas. ¿Y lo es la realidad? (no se sabe, el principio de incertudumbre de Heisenberg nos lo impide saber)
"no pueden hacer nada para lo que no están programados"
Pero como tú has reconocido, pueden estar programados para reprogramarse. Y esa reprogramación no tiene por qué ser determinista, pues basta con que esa reprogramación use una fuente de información no determinista para que la reprogramación no sea determinista. Otra cosa, por supuesto, es que esa reprogramación lleve a crear skynet, y no es eso lo que he dicho.
Yo programo todos los dias y mientras la informatica la hagan programadores os aseguro que lo mas que puede pasar es que desaparezca el historico de facturas.
Ahora en serio,
Esto es informatica ficcion. Los ordenadores NO son inteligentes; Son maquinas con programas escritos. Lo que hacen lo pueden hacer muy rapido pero nada mas. No tienen IA (inteligencia artificial). Una maquina no puede llegar a conclusiones.