Crear un dispositivo capaz de proteger un planeta entero... ¿cuánta energía puede necesitar eso?
El botón de parada debe ser inaccesible al propio robot, ¿no?
#3 El vídeo también aborda ese escenario, básicamente plantea que si es inaccesible pero el robot sabe que tú puedes pulsarlo actuará para manipularte para que lo pulses, por ejemplo actuando incorrectamente de forma deliberada para llegar al objetivo que el botón sea pulsado lo antes posible. O bien te manipulará para que creas que no debes pulsarlo nunca, o para que no puedas.
Si por contra lo planteas como un botón del cual no conoce su existencia mantenerlo en secreto de forma permanente es un reto, especialmente si la IA tiene como función analizar la realidad y sacar sus propias conclusiones. Como preguntarse el motivo por el cual no tiene constancia de tener un botón de parada, cuando sería lo razonable dado como es el ser humano.
#7 En absoluto, precisamente las redes neuronales han permitido trasladar del modelo de programación de todos los casos a un modelo de aprendizaje, en ese modelo de aprendizaje las pautas que seguirá puntillosamente no son conocidas por los programadores, que únicamente conocen las reglas generales de aprendizaje y en menor medida la información en base a la que se ha producido el aprendizaje.
Y precisamente no es viable cambiar el programa editando una línea de código si no que se debe reeducar, si te deja. Y ahí está la cuestión.
El vídeo aborda el problema en una IA generalista, la cual aún no tenemos constancia que exista pero no por eso se deben desestimar los retos que supone si nos planteamos intentar crearla.
#8 Y precisamente no es viable cambiar el programa editando una línea de código
Cualquier programa se puede cambiar editando líneas de código. Sea IA o no lo sea. Otra cosa es que un algoritmo "automodificable" pueda ser modificado, pero siempre se podrá reeditar e reinstalar.
Un programa jamás será lo mismo que un ser vivo. Ni se podrá "reeducar". El "aprendizaje" de las redes "neuronales" es muy distinto de una persona.
#15 Claro que puedes cambiar editando líneas de código, y también puedes abrir el ejecutable en binario y cambiar unos por ceros y ceros por unos, pero eso no significa que con ello puedas conseguir cambiar el comportamiento del programa para que actúe como tú querrías.
También puedes abrir un cerebro humano y cambiar neuronas, puedes matar alguna que no te caiga bien y puedes cortar conexiones que no quieras que estén allí, pero eso no significa que con esos cambios puedas conseguir que el cerebro de esa persona se comporte como tú querrías.
Las redes neuronales entrenadas muestran resultados que no son intuitivamente previsibles viendo cada una de sus neuronas, por ello el método más eficaz es la reeducación o añadir nuevos grupos de información.
#17 Claro que puedes cambiar editando líneas de código, y también puedes abrir el ejecutable en binario y cambiar unos por ceros y ceros por unos, pero eso no significa que con ello puedas conseguir cambiar el comportamiento del programa para que actúe como tú querrías.
Vaya que no. Aunque haya que eliminar completamente el programa viejo e instalar el nuevo.
También puedes abrir un cerebro humano y cambiar neuronas...
La IA no tiene nda que ver con un cerebro humano. Y menos algo construido por humanos frente a algo que SON los humanos.
Las redes neuronales entrenadas muestran resultados que no son intuitivamente previsibles..
Y?. No sé qué conclusiones disparatadas estás sacando de eso...
#19 Hombre, no soy un experto. Pero algo de idea tengo, y no es lo que se transmite en los medios de comunicación, ni siquiera las redes neuronales de última generación. La mayoría de IA de uso común son sistemas expertos, cuya mejor equivalencia es una base de datos con buenos algoritmos de consulta.
Nada que ver ni por asomo al cerebro humano. Ni siquiera los sistemas más punteros.
#23 Quien podría imaginar que el ser humano pudiera ser capaz de crear máquinas que fueran más fuertes que él, o que pudieran calcular resultados matemáticos más rápido que un ser humano. Inimaginable, vamos.
O que te pudiera ganar en un concurso de preguntas en lenguaje natural sobre ámbitos de tipo cultural. Inimaginable completamente.
#24 Quien podría imaginar que el ser humano pudiera ser capaz de crear máquinas que fueran más fuertes que él
Todo el mundo desde que aprendió a usar una palanca o cualquier herramienta.
o que pudieran calcular resultados matemáticos más rápido que un ser humano
Todo el mundo desde que se pudo formalizar un cálculo en una serie de pasos definidos y no ambiguos.
O que te pudiera ganar en un concurso de preguntas en lenguaje natural sobre ámbitos de tipo cultural
Si se trata de manejar grandes volúmenes de información, una máquina siempre tendrá las de ganar. Y en el momento en que seamos capaces de reducir ámbitos de la realidad a pasos definidos y no ambiguos, será posible crear máquinas que lo hagan más rápido y con menos fallos que un ser humano.
Pero una máquina jamás hubiera inventado el cálculo diferencial, ni creado la teoría de la relatividad ,ni imaginado e implantado algo como Internet. Ni siquiera tweeter.
#23 Pensar que el ser humano nunca será capaz de crear inteligencias superiores a su propia inteligencia me parece una afirmación atrevida y poca rigurosa.
#7 Si es el programa de una "IA", no habrá relación directa entre las lineas del programa y las consecuencias. Es un programa capaz de aprender y de adaptarse a cualquier circunstancia. Si no quieres determinadas consecuencias, puedes cambiar el programa para evitar estas consecuencias, pero habrá otras que no hayas previsto. Es el tema de los "parches" que se discuta en el vídeo (en el 15'20").
#91 Estamos hablando de una AI "general".
#5 Yo creo que ahí está la madre del cordero, es decir, en el "botón de parada", en cómo desconectar o inutilizar la IA (Inteligencia artificial)
1- La IA, que todo lo lee (incluido éste mismo mensaje mio y tuyo) sabrá que debe o tiene que haber un sistema de apagado.
a) Si no se le dice dónde está o cómo funciona ese sistema lo buscará por sí misma o presionará para descubrirlo.
b) Si se le dice dónde está y cómo funciona ese "botón" lo comprobará lo cual le llevará (lo diga o no) a intentar impedirlo y, no obstante, volverá al punto a) para verificar que no hay más "botones" ocultos alternativos.
2- Comprobará irremediablemente que no tiene instalado un virus o límite que, sin necesidad de desconexión por voluntad externa, pasados ciertos parámetros la desconecte. Por ejemplo, programa que analizado y comprobado por la propia IA que ya sólo quedan en el mundo un millón de humanos (por la circunstancia que fuese), se desconecte automáticamente.
3- La presencia de otra IA con capacidad suficiente, sin lugar a dudas, de desconectar la IA primera que se niegue a desconectarse así misma o consiga encontrar y anular el botón de parada. Ésto crearía tal vez más que una solución un problema doble, porque es posible que en vez de tener una IA tendríamos dos IA potencialmente enemigas de lo humano-biológico.
4- La creatividad de la IA para, aún en el caso de no encontrar ese botón de parada, tener elementos de arma tal como creación de otra IA alternativa sin que el humano lo sepa, a modo de respaldo o copia de sí misma con la capacidad de volver al punto 1 y combatir al humano que pudo pulsar el botón de parada.
...
Albania sería el mejor símil, se parecerían en todo.
No nos emocionemos, sólo quieren a los mejor cualificados, de los buenos los mejores, de los mejores los superiores.
A mi no me gustaría nacer con otro color de ojos o de pelo, pero si que me habría gustado nacer libre de todas las enfermedades genéticas heredadas (latentes o no), propensiones, tendencias etc.
Se viviría mas tranquilo sabiendo que no vas a tener propensión a la hipertensión, a la hipercolesterolemia, a enfermedades coronarias, enfermedades autoinmunes, diabetes, alzheimer, parkinson, cancer, etc, etc, etc.
¿A quién no le gustaría nacer limpio de todas esas enfermedades latentes?
Si claro, para que el Reino Unido pueda llevar sus productos comodamente a territorio de la Unión Europea y sea un coladero de sus chanchullos. Así pueden tener un pie dentro y otro fuera de la Unión Europea.
(Con la independencia de Escocia pasaría algo parecido).
¿Bostezar? ¿Qué lógica puede tener hacer esto?
A largo plazo, escanear objetos a nivel atómico, es el primer paso para poder "imprimirlos" en 3D, incluso organismos vivos. El futuro va a ser realmente increible.
Daguerreotype is for porn??
#9 teniendo en cuenta que el daguerrotypo era un metodo CARISIMO de hacer fotos (utilizaba una plancha de plata, aunque luego se desarolló cobre-plateado con electrolisis) y era un método de positivo directo (no se podian hacer copias, la placa con la que hacias la foto era la que se procesaba para dar el positivo). Lo que significa que era obra mucho por encargo y para publico muy selecto y pudiente.
La invención del negativo cristal y procesos como la albumina, permitió las copias y las "tarjetas de visita" que salen también en el articulo, que ya podia copiarse a partir de un negativo (y la gente las intercambiaba, fue uno de los primeros coleccionables)
#9 The internet is for porn, the daguerrotype is for porn, the printing press is for porn, canvas is for porn, fresco is for porn... Everything is for porn.
Yo creo que no es maldad, yo veo la cosa así, se entra a trabajar, se ficha, se pasa la jornada haciendo los temitas mas sencillos y las chorradillas fáciles de detectar y pa casa con el recado. Los temas jodidillos de resolver ahí se quedan para el que tenga ganas.
#18 El que tenga ganas es un populista bolivariano y potencial filoetarra.
#18 Fui compañero de piso de un tipo que estaba preparando las oposiciones para inspector de hacienda. Me contaba anécdotas de venganza (tipo "no me dejas entrar a la disco, pues la semana que viene entro, hago recuento de lo que vea y te hago una inspección"), y de lujos (tipo "voy a inspeccionar una empresa de pelis porno, y me ponen una silla en primera fila y un whisky on the rock mientras graban y se van a buscar la documentación"). No sé si eran ciertas o leyendas urbanas del sector, pero cuando me lo contaba pensaba "madre mía, ¿y a eso es a lo que aspiras, lo que ansías?".
¿Cuántos pasos judiciales hay hasta llegar al Tribunal Supremo?
¿Qué coste mas o menos puede conllevar cada instancia?
¿Hay que llevar abogado y procurador en todos?
¿Cuánto se demora cada paso?
#95 No lo se. Pero existen las demandas colectivas y unos cuantos despachos de abogados que llevan tiempo sacando adelante muchos de esos procesos colectivos, a favor de los estafados. Dos amigos míos acaban de ganar una de esas demandas a Bankia (creo que era por lo de la salida a bolsa y las acciones).
Yo preferiría que hacer testamento fuera gratis para todos los ciudadanos.
#14 Hacer testamento cuesta unos 50€, no parece que sea demasiado caro.
No tengo ni idea, pero creo que toda las películas de ciencia ficción que hemos visto hasta ahora del tipo: naves espaciales que van de estrella en estrella no van a existir.
Me parece mas probable que para visitar o colonizar algo se enviarán "pequeñas impresoras 3D de productos inertes, componentes y precursores bioquímicos" y que todo se construya "en destino". Lo que mas intercambiaremos será información.
#29 Si (y este "si" es un gran condicional) conseguimos algo en relación a la Métrica de Alcubierre, sí existirán.
Inicialmente esta propuesta requería de tanta energía que era inviable, pero al ir refinandola, los requisitos se han ido moderando bastante (ahora sólo se necesita el equivalente en energía a una estrella pequeña ).
NASA tiene un equipo mirando este tema, aunque es algo que salvo algún descubrimiento inesperado, no vamos a ver en siglos.
Yo vivía en Pajarillos en el 2005 y me lo creí totalmente. Parecía que de estar aislados en un barrio al otro lado de las vías, íbamos a estar en todo el centro...
Visto hoy en día, qué delirio de video!!
Tengo dos cosas claras:
Los obreros y trabajadores poco cualificados en general no se van a poder reciclar en ingenieros expertos en inteligencia artificial o robótica.
Las empresas y fábricas incluso las mas super-robotizadas y eficientes necesitan... clientes.
¿Cómo se va a resolver esto?
#44 cambiando a los clientes por vasayos?
#44 Fácil. Exclusión social, pensionistas (mayoría) votando a los que dicen que todo va bien, que sube el PIB (claro que sube, pero va todo a los propietarios de la maquinaria automatizada) y todos lo iremos aceptando más poco a poco. Nos irá pareciendo más y más normal. Igual que ahora nos parece normal que 1.000 millones de personas pasen hambre ahora mismo en el mundo.
Hasta que un día nos de por hacer algo importante y mínimamente relevante como sociedad, y decidamos apagar la tele cuando sale cualquier político cínico, cansino y aburrido diciendo que "hay que crear empleo" en un mundo cada vez más automatizado, y que "hay que aumentar el consumo y chupi-acabar con las guerras" en un mundo de recursos cada vez más escasos por la tremenda ineficiencia del sistema de mercado y su productivismo cíclico e innecesario, y en un mundo donde es precisamente la pretensión de consumir más y más recursos en un planeta finito lo que está aumentando la competencia por los recursos cada vez más escasos, que a su vez genera las guerras que estamos viendo. O cuando salga cualquier capullo perdiendo la oportunidad de educar a la gente, diciendo que todo se soluciona por votación y consenso. Y perdiendo el tiempo con chupi plazas y chupi momentos históricos que lo cambian todo votando. "Hay recursos para fabricar 3 coches, pero hemos votado democráticamente fabricar 25". Ok.
Y cuando llegue ese día, a lo mejor hablamos de utilizar a las máquinas para producir y distribuir, al menos, bienes y servicios básicos mientras vamos pensando cómo creamos un sistema productivo (que no productivista) y social que no nos lleve a un colapso social y físico-ambiental.
#44 Exactamente, en el sector industrial, ¿qué obreros poco cualificados existen?
Me da la impresión de que la gente cree que en las minas de carbón se siguen bajando a picar con picos y palas doce horas al día.
Como si la tecnología y la maquinaria no se haya adueñado de toda la industria hace una veintena de años.
Más de un 10% del tiempo de trabajo del trabajador medio en una central nuclear se invierte en formación continua.
De todas formas, dentro de toda esta cantidad de datos inventados y de teorías apocalípticas hay uno que resalta: el 60% de los puestos de trabajo existentes dentro de 30 años aún no se han creado.
#18 Se le notan las maneras al "jestor"...
Sacó la impaciente...
Puede que se creen empleos, ejem, ejem, en los talleres grandes pillarán un becario para que meta datos en la web de la DGT.
En los talleres pequeños, habrá que "echar horas extras" gratis o en negro mayormente, metiendo el historial.
Además alguna cárnica pillará el contrato para hacer la web.