EDICIóN GENERAL
482 meneos
8536 clics
El acertado miedo de Stephen Hawking

El acertado miedo de Stephen Hawking

Hace unas semanas, el famoso físico Stephen Hawking (junto a otros 1000 colegas científicos) alertaban sobre el supuesto peligro que supone el avance en robótica e inteligencia artificial para la supervivencia del ser humano. Y la cuestión es que no va desencaminada la cosa. Si la teoría física que defendemos es cierta, no es solo una posibilidad sino una certeza el hecho de que, tarde o temprano, el futuro del planeta dejará de ser biológico (basado en el carbono).

| etiquetas: ia , máquinas , evolución , inteligencia artifical
Comentarios destacados:                                  
#6 Ya que habla tanto del consumo energñetico, debería haberse dado cuenta que las máquinas, aunque puedan llegar a igualar e incluso superarnos en inteligencia, su consumo energético es 1000 veces superior al del cerebro humano. Desde el punto de vista enegético son muy poco eficientes y lo que prima en la evolución es la eficiencia energética.

El peligro no es la IA en sí, sino el poder que le otorgaría a un grupo reducido de humanos.
Está claro que en un futuro no muy lejano se podrá almacenar toda la información, vivencias, recuerdos de un ser humano en un chip electrónico,,, ¿ese chip tendrá consciencia? y si la tiene, Se considerará otra forma de vida?
#12 va, intenta leer todo el escrito antes de contestar
#16... No está preguntando eso...... Pero gracias por intentarlo
#20 Intentas decir que si una red neural artificial puede ser soporte de una "consciencia" y si sera considerada vida, pero has de reconocer que siendo estricto no es lo que escribes, lo que escribes puede ser interpretado como simple almacenamiento en tus propias palabras y no añades nada que, al menos de manera directa, haga pensar en capacidad de funcionamiento y progresión.
#35
*yo no escribo nada, te referirás a #1

lo que yo interpreto que escribe es que si consigues traspasar TODO el almacenamiento de un humano a otro soporte, quizás también traspases la conciencia. Para mi (la 1era pregunta) es la más relevante, ya que plantea que sin saber qué es la conciencia, como se puede estar seguro de no almacenarla y de que no se mantenga activa? Y si haces copias de seguridad, habrán varios ciber-clones tuyos sueltos por allí?

La segunda pregunta, entiendo que en…   » ver todo el comentario
#79 por escrito me refería a la pregunta, no al texto. Pero cada uno sabe las limitaciones que tiene así que me inhibo.
#12 Recuerdos que intóeractuan es = vida contemplativa. La IA guardará memorias enlatadas. Ya lo hacen Google, Facebook o Twitter.
#1 Define consciencia.
Has visto mucho Black Mirror.
#1 ¿Tu disco duro tiene consciencia? ¿Tendrá consciencia si aumenta su capacidad de almacenamiento?

Me da que confundes memoria con consciencia. La capacidad consciente no es mera información.
#1 sin procesos químicos del cuerpo la condciencia electrónica es sólo información y un programa que dice cómo responder con esa información.

Habría que programar rutinas aleatorias que produjeran por ejemplo sensaciones dependendiendo del estado de ánimo.

No veo posible que algo tome existencia en una red.
#1 No conocemos aun las máquinas conscientes pero todo es cuestión de masa crítica. Empezaron siendo nuestras ayudantes y pasaremos a ser sus esclavos. La era de la IA ya está aquí y no tiene retorno. Stephen Hawking percibe nuestra extinción absorbidos por el nuevo poder de la IA.Y es una realidad.Disfrutemos de sus ventajas y aceptemos nuestro destino sin resignarnos a cualquier dictadura de la IA
Google es ya el dominio de la IA por ejemplo.
#1 No es una forma de vida ya que esta no piensa ni tiene conciencia o algo que sele parezca, solo serviría para almacenar, vamos lo que hago yo ahora con un disco duro, donde meto mis fotos, vídeos, etc., etc.
#1 Si esa "máquina" (entrecomillada, porque ya no se la podrá llamar así) tiene conciencia de si mismo y una inteligencia equivalente a la humana, capaz de tomar decisiones y también tomar valoraciones morales pasaría a ser un humano, humano sintético pero debería ser considerado al mismo nivel que un humano.
Paparruchas.
#3 I agree. ¿Para que sirven todas estas mamandurrías? Por ejemplo si un ciudadano está en el paro, con un hijo, sacándose el carnet de conducir y nadie le quiere... ¿A quién votará en Diciembre?
Si está viviendo en Alemania como yo a nadie... a no ser que coja un avión para ir a votar...
#28 o_o

Esto no es un calzador, es una obra cumbre del churrimerinismo.
#48 El churramerinismo es TAN ACOJONANTE que no he podido evitar votarle positivo. Deberíamos montar un ranking en meneame sobre comentarios churramerinistas. Tienen su arte y nos hacen pasar muy buenos ratos.
#91 Sí, sí, ¿pero a quién vas a votar si vives en Alemania con un hijo que se está sacando el carnet de conducir? Ésa es la duda que tenemos todos ahora. :shit:
#99 xD me has matado cabrón!
#3: No lo veo como paparruchas, pero da por sentada la hipótesis del big freeze, cuando también hay otras, como la del big crunch (que el universo vuelva a contraerse sobre sí mismo y sea cíclico), que no están descartadas. Partiendo de esa base se pone a hablar de física y biología y no entra rápido al trapo del problema con las inteligencias artificiales. El problema de las inteligencias artificiales es cuáles van a ser sus pulsiones. Vamos, qué les vamos a meter en el kernel.

Hay un libro…   » ver todo el comentario
#80 Pues no sé de donde sacas que hay consenso con esa idea. Siguen siendo plausibles ambas opciones porque no podemos saber en nuestro momento actual del universo si la expansión se ralentizará o no en el futuro. De hecho se teorizaba que la responsable de esa expansión cada vez más rápida tiene que ver con la energía oscura, energía de la que se sabe muy poco aún.
#68 si defiendes la ecología no puedes exterminar a los humanos. A lo sumo controlar su población, pero preservar la ecología normalmente incluye a TODA la ecología.
#3 Estoy de acuerdo. El autor utiliza unas palabras de Stephen Hawking para sacarle petróleo a una clase de termodinámica y desarrollar un texto infumable a partir de la segunda desigualdad.
Muy buen artículo, espero que llegue a portada.
¿Pero cuál es el problema? Es una etapa superior de evolución natural.
#5 que no son nosotros
#5 Lo curioso es que en todas las pelis en las que nos invaden extraterrestres, siempre son orgánicos, cuando según se ve parece plausible que es bastante fácil que se te vaya de las manos una vez que avanza la civilización y tomen el poder las máquinas. De este modo, la mayoría de las veces deberían ser máquinas, salvo en los casos que descubran antes cómo hacer viajes interestelares que la "electrónica" (o como se llame lo que te lleva a construir una inteligencia artificial)

cc #7
#5 Natural, natural, no es. Es artificial. :roll:
Ya que habla tanto del consumo energñetico, debería haberse dado cuenta que las máquinas, aunque puedan llegar a igualar e incluso superarnos en inteligencia, su consumo energético es 1000 veces superior al del cerebro humano. Desde el punto de vista enegético son muy poco eficientes y lo que prima en la evolución es la eficiencia energética.

El peligro no es la IA en sí, sino el poder que le otorgaría a un grupo reducido de humanos.
#6 bueno, ya mejorarían sus diseños, peccata minuta
#6 Exacto. La clave esta en tu último párrafo.
#6 Lee el artículo anda...

El ser tan eficientes consumiendo energía es lo que les puede dar la supremacía.
#6 el artículo dice que prima el mayor consumo energético si eso redunda en un mayor orden.
Lo apoya en fórmulas.
Yo a lo de la eficiencia le veo sentido si lo que se está es luchando por los recursos. Es decir, las máquinas deberán volverse eficientes cuando compitan entre sí por la captación de energía. Mientras tanto no es un factor a tener en cuenta.
#41 Hasta que llegue Endesa o Iberdrola y las mate de hambre.
#41 El artículo parte de presupuestos no probados, por ejemplo, que ecuaciones de la físicoquímica se puedan aplicar ad hoc a todo asunto que nos interese, sin perjuicio del cierre estanco entre disciplinas de conocimiento (¿qué es eso de definir vida en base a ecuaciones térmicas?), cayendo en un pueril optimismo interdisciplinar sin ningún fundamento. Además, comete errores algebraicos de bulto, como en la siguiente transformación: "ΔG = ΔH - (-ΔS) = ΔH + ΔS << 0 => ΔH

…   » ver todo el comentario
#6 las maquinas no evolucionarían de acuerdo a la selecion natural, evolucionarían de un modo completamente distinto, seria uan evolución direccional que estaría guiada por su propia voluntad que nada tiene que ver con la selección natural.

Y lo de la eficiencia energética se esta solucionando a pasos agigantados, el móvil que tengo en el bolsillo tiene la misma potencia que un ordenador de hace diez años pero solo consume una pequeña fracción de la energía que consumía un ordenador, es cuestión de tiempo conseguir un ordenador tan o mas eficiente que un humano en el aspecto energetico.
#81 aun asumiendo que no podemos crear un ordenador mas eficiente que nuestro cerebro, solo podemos igualarlo en el momento que lo igualemos ese ordenador ya seria mas inteligente que nosotros puesto que podríamos dirigir el 100% de la capacidad de procesamiento de ese ordenador a lo que queramos, nuestro cerebro dedica un monton de energía a controlar otro montón de cosas que no esta relacionadas con la inteligencia.
#88 Añade a tus cuentas el progreso en ingeniería genética y el avance en robótica quedará ensombrecido por las capacidades de los organismos genéticamente modificados del 2050 al 2100
#81 define primero cerebro.

Los diseños naturales son buenos, pero nada prueba que sean óptimos.
#49 la selección natural no es más que la adaptación de la vida a las leyes de la termodinámica. En un hipotético sistema basado en máquinas, las que mejor funcionarían serían el modelo óptimo a ser reproducido y mejorado, 100% darwinista. No hay método más optimizado de desarrollo, y es el que se utiliza en la industria tecnológica.
#6 Bastaría con un pequeño avance tecnológico para superar ese impedimento energético. Por ejemplo incorporando a las pistas electrónicas un equivalente sintético a los puentes de mielina neuronales. O aumentando la sensibilidad de los transistores para poder disminuir el voltaje de transmisión. O...

Al contrario que tú, yo no tengo duda de que una IA diseñada por otra IA consumiría de hecho menos energía que un ser humano.
#6 ¿Pero después de ver como un superordenador de 100 toneladas se convertía en una pastillita del tamaño de una uña en menos de 50 años, aún crees que existen límites a la informática y la robótica? En un futuro un "Termineitor" podrá funcionar con una pila del tamaño de un botón (de la tecnologia que ni soñamos hoy) durante todo el año, incluso serán ellos mismos los que inventen ese sistema.
#82 Sospecho que la misma que hay entre la capacidad de cálculo de un ordenador y un humano. Sospecho que los ordenadores cuánticos ahondarán mucho en esas diferencias. Y sospecho más aún que igual que nosotros aspiramos a construir neuronas sintéticas, una IA no sería menos que nosotros.
#62 Siguiendo esa progresión, para el año 2300 tendremos toda la capacidad de computo actual en el tamaño de un átomo.
Por mucho que mejoren los algoritmos, en esta casa se respetan las leyes de la termodinámica
#92 ¿Como les explicarías a los que hicieron el primer viaje a América en 70 días que podrían ponerse hoy en 7 horas? ¿Como te llamarían? De loco para arriba. Con nuestra generación el mundo no termina y pensar que "algo" es imposible en el futuro, es no haberse leído ni un renglón de los libros de historia.
#6 Y tu ya deberías de saber que el Sol es una fuente de energía inagotable, tan listo para unas cosas y tan ..... para otras.
#6 lo que prima en la evolucion es la eficiencia energetica a menos que seas una especie capaz de construir centrales electricas.... menuda parida acabas de soltar...
Excelente artículo. Pero no estoy de acuerdo en varios puntos.
Por ejemplo los que cita #6. Las máquinas son muy poco eficientes comparadas con el rendimiento energético de una célula.

Otro punto en el que discrepo es la explicación de la vida reducida a una visión meramente termodinámica. La vida es mucho más que termodinámica.

No estoy de acuerdo con la frase: "el hombre realmente NO es libre para actuar de un modo tal que no conlleve un consumo energético a la altura de la complejidad social que pretende mantener". Claro que es libre.. Yo puedo decidir si aprovecho o despilfarro energía para obtener el mismo beneficio..
Siempre soñamos con enviar humanos a explorar el espacio, pero es tan complicado siendo organismos biológicos... La forma de evolucionar del ser humano es mediante su inteligencia y al final crearemos máquinas inteligentes, con su propia conciencia que serán capaces de vivir en el espacio y explorarlo
#7 O transformarnos en ellas ;)
#66 esa es nuestra única esperanza :shit:
#7: A no ser que dentro de varios siglos se llegue a tecnología tipo "portal" o "stargate", la conquista espacial, o bien la realizarán máquinas sintientes (nuestros herederos), o bien las máquinas serán nuestros sirvientes y protectores y llevarán las naves durante miles de años con material genético que criarán allí una vez hayan "aparcado".
#70 suena bien pero si las máquinas tuviesen inteligencia ¿Cual sería el propósito de poblar un planeta con humanos?
#72 el mismo proposito que tiene un perro cuando protege a su amo ,jefe de la manada. Asegurar la comida (supervivencia)
#7 descargar nuestra consciencia en máquinas y a corrrer
¿Ya nadie recuerda a Dreyfuss? Su libro "What Computers can't do" contiene tesis que siguen siendo válidas.
#8 No había oído hablar de este libro, como me ha parecido interesante lo he buscado,así que lo dejo por si a alguien le puede interesar: en.wikipedia.org/wiki/Hubert_Dreyfus's_views_on_artificial_intelligenc
#8 Muchas gracias por la referencia, no conocía a ese hombre y me parece una investigación muy interesante.
Cuando seamos un manojo de bits sería genial vivir dentro de menéame, sin necesidad de loguearse ni nada.
#9 @expertomilitar creo que ya lo es. Esta 16 horas al dia conectado.
#10 Los deprimidos crónicos del nótame superan eso.
#10 Vive en un cartucho de MSX.
#26 {0x1f602} Si, la verdad es que no necesita muchos Kb.
#27 Si siempre suelta las mismas sandeces, memes y tonterías... serán cosas de la edad, supongo.
#31 De 256Kb no se puede sacar mucho. {0x1f602}
#34: Y funciona x10 horas diarias. :-P
#29 No queria hacerlo, pero os mando foto del experpento. #26 mira, mira:  media
Me alegra que esté en cultura y no en tecnología
Los problemas son inevitables -> Los problemas tienen solución.

Estamos hablando de miles de años antes del desenlace, y el desarrollo de la especie humana en los últimos dos siglos ha sido impresionante, las visiones pesimistas no tienen sentido porque no sabemos cuánto sabremos en el futuro.
#18 antes se veía el año 2000 con miedo.

La especie himana se adapta al cambio de su tiempo.

No suelo hacer caso de miedos al futuro, cada generación se hace cargo de su tiempo.
#65 Excepto la deuda. La deuda se deja para la siguiente generación.
m.elblogsalmon.com/economia/deuda-mundial-llega-a-200-billones-de-dola

Deuda perpetua o ultraperpetua para que la siguiente generación la pague, la reestructure, haga condonaciones, quitas, declaración de deuda odiosa.
#18 No es una visión pesimista.
#67 "El acertado miedo..." anda a cagar xD
#18 La comunidad científica de este campo estima el desarrollo de la inteligencia artificial en torno al año 2050, con el desarrollo de superinteligencia artificial en no más de una década después, no es nada precipitado plantearse estas cuestiones desde ahora mismo.
#96 Sin duda que sí, pero por qué les da "miedo"? Miedo de qué? Miedo a lo desconocido? Si podemos desarrollar inteligenciar artificial capaz de generar desarrollos mentales complejos también es posible convivir con ellos. Es una visión pelotuda hollywoodense la que retrata el artículo y Hawkins la verdad es bastante tremendista a ratos.
#98 Es cierto que el artículo ahonda bastante poco sobre lo que Hawkins y la comunidad científica pretenden alertar, y que la referencia sea un artículo de El Mundo mencionando "robots asesinos" tampoco ayuda.

Según lo que yo he recogido en varios libros y artículos, sobre este campo la comunidad científica se muestra a favor del desarrollo de la inteligencia artificial (faltaría más), pero de su desarrollo sensato. Esto quiere decir que nada de desarrollar inteligencias…   » ver todo el comentario
Actualmente la vida basada en las deudas ya ha sustituído completamente a la vida basada en el carbono.
¿Y cual es el problema? Si las IAs terminamos conquistando el planeta será porque, evolutivamente, somos superiores. :troll:
Google is Skynet
Aunque me pierdo en algunos fragmentos del artículo, capto la esencia: Fascinante e inquietante.
Ponerse en este plan a día de hoy es una paja mental.

Un hacendado saludo.
#30 Y un cuñado comentario.
Habla del uso de la energia, y no hay mejor ahorro que no pasar por matalascañas kuala lumpur y boston para ir de Alicante a Altea. Menudo el tocho.
Hawking ese cientifico que se gano la vida hablando sobre la existencia de agujeros negros y la jubilacion diciendo que no, que se habia equivocado...

Vete a las bahamas y pierdete!
#36 Es una simplificación graciosa pero no deja de ser falsa.

Y viene al caso hacer notar en este punto, que precisamente el tan temido "Peak Oil" (momento en que la rentabilidad de extracción del petroleo y otros recursos fósiles decaiga y comiencen a escasear) será un momento clave en la historia de la humanidad puesto que, si no se consigue acceso a una nueva fuente de energía alternativa tanto o más eficiente que las fósiles (y las renovables no lo son), la complejidad social será imposible de mantener, y ocurrirá inevitablemente un

…   » ver todo el comentario
#37 A mi este párrafo me ha chirriado un poco.

En el artículo se defiendo la evolución a "sistemas que consumen energía más eficientemente" (es decir, consumen más energía en términos absolutos) y creo que el autor lo confunde con sistemas que consumen "energías más eficientes".

Está claro que si nos enfrentásemos a una situación en la que tuviésemos menos energía disponible para consumir sí que retrocederíamos a siglos anteriores, pero este no es el caso ya que las energías renovables sí son capaces de satisfacer nuestras necesidades energéticas actuales y futuras y además aumentarían la estabilidad de nuestro sistema (cosa que la evolución también favorece y el propio artículo menciona).
La premisa no es correcta. Stephen Hawking es físico, no informático, y no entiende lo que significa "inteligencia artificial".
Esto de máquinas u ordenadores conscientes está muy bien en la ciencia ficción, pero hoy por hoy es eso, ficción.
#38 el artículo habla de máquinas, como sistemas que captan energía de su entorno y la devuelven en forma de entropía. Citar a Hawking es solo la entrada que el permite hablar del tema. La IA la toca poco. El artículo está razonado y explicado en bastante detalle. La conclusión la puedes ver al final:

<<...será una certeza el hecho de que el futuro del planeta tarde o temprano dejará de ser biológico (basado en el carbono), y que serán otros fenómenos "catalizados" más estables…   » ver todo el comentario
#46 las ecuaciones no predicen el tamaño, solo la complejidad.
#46 La plaga gris ya ha ocurrido. Se le llama virus y bacterias. Si el hombre creara una nueva plaga gris, alguna bacteria evolucionaría para digerir las nanomáquinas, y volveríamos donde antes, excepto que habría una bacteria artificial.
#87 Sí que saca mucho a relucir la palabra eficiente, pero luego tiene algún párrafo donde da otras pistas:
<<...se logra que el fenómeno "busque" la eficiencia en el consumo energético, y que además, llegados a cierto nivel de complejidad, incluso que se afane (volición) en consumir tanta energía como sea posible. En otras palabras: ¡los fenómenos del segundo grupo son capaces de consumir energía de un modo exponencial!>>
#45 es difícil ver mayor cantidad de tonterías juntas.
Sobre todo si empiezas diciendo que la IA avanza rápidamente cuando esta estancada desde el día que se acuño el concepto.
El temor este me acaba ha recordado este comic de HTZ xD  media
#42 Lamentablemente si que creo que hay mucho gilipollas que la habria dejado conectada...
#42 si yo fuera una inteligencia artificial, tendría en cuenta esto de que no me tienen conectado al exterior, y me haría la tonta hasta convencerlos de enchufarme con algún fin, y lo harían pensando que no soy inteligente, pero ya lo soy. Y ahí recién los mato a todos.

(te arruiné el argumento del 87% de las películas sobre inteligencias artificiales, en todos los casos se hacen las tontas hasta poder escapar)
Esto es lo que de toda la vida se ha llamado "paja mental".
Yihad Butleriana
Es una paja mental. Da por hecho que la sustitución del trabajo por máquinas acabaría con gente sin trabajo y un control de natalidad y etc. En un mundo en el que las máquinas hacen todo el trabajo, el ser humano lo único que tiene que hacer es disfrutar y vivir. El futuro debería reordenar el orden económico. No se trata de que una persona propiedad de todas las máquinas del mundo tenga toda la riqueza mientras miles de millones de personas mueren de hambre sin trabajo. Se trata de hacer un comunismo global en el que las máquinas nos sirven y nosotros nos dedicamos a filosofar. Punto.
#52 Si, eso deberia de ser, pero para eso hay una cosa que deberia cambiar de raiz en la esencia de toda persona, y que ademas no va a cambiar nunca, y es el "gen" egoista.

Mientras eso siga asi, por muy bien que vivas, siempre vas a querer ser el que "mejor" viva.
#54 Sí, pero es que sería exponencial. Más máquinas, menos trabajo, más acumulación de riqueza en menos personas. Llega un punto que es totalmente inasumible que unos cientos de personas se enfrenten a toda la población mundial.

A no ser que nos pongamos distópicos y pensemos en que los propietarios de las máquinas tengan un ejército de máquinas que tenga a la población mundial subyugada en condiciones paupérrimas. Que también es factible jaja
#56 Pues si, pero que tampoco te extrañe.
Habia un hilo por ahi de como nos controlan, tal y como presagiaba Orwell y tal y como presagiaba Huxley, y resulta que ambos controles existen.
Estamos a las puertas de nuevas formas de vida, y un paso mas en la evolucion del universo conocido.
Chorradas. En este momento lo que importa son los humanos (grupos sociales, castas, paises, gobiernos, ejercitos, servicios de inteligencia y sus laboratorios secretos de big data, grandes corporaciones como bancos, grandes corporaciones del big data como google, el que mas millones sistemicos invertidos o de deuda tiene el riesgo de perder, ...) que tienen acceso a los superordenadores y supercomputaciones mas potentes, para procesar mas datos, junto con mas big data, y procesar las mejores…  media   » ver todo el comentario
Yo no sé por que la gente le tiene miedo a la transhumanidad. No será ni mejor ni peor; simplemente será otra forma de vivir.
¿Pero es que alguien duda que estamos condenados a un mundo de termineitors más pronto que tarde?  media
A esa misma conclusión llegamos unos amigos y yo tras varias horas de filosofear en serio, a que la evolución cambiará la forma de vida basada en el carbono en otra más eficiente y de ahí incluso a otra tipo nebulosa o no física.

La verdad es que nos rayamos bastante.

PD: fue ahí donde el hombre, lo impredecible de él, su virtual locura, tomó valor.
#77 jajajajajajaja, el resto un huevo, algo directamente proporcional a un cancamo pero yo cero, porque nunca bebo. :troll:
#76 ¿Que tiene que ver la energía con el tratamiento de la información? La IA se refiere a tratamiento de información no a tal o cual cantidad de energía.

¿Puede llevar el tratamiento de la información a una conciencia? Sí. La naturaleza ya lo ha hecho con nosotros.

La naturaleza ha combinado elementos en moleculas, de algo inorganico a algo organico, de ahí a la inteligencia, de ahí al pensamiento, de ahí a la conciencia. Una "roca" biológica con conciencia.

Puede que la conciencia necesite ese paso previo a biologico para ser conciencia no-biologica o sea uno de los caminos simplemente.

Puede que esa sea la consecuencia lógica del universo, esa unión de átomos: transformarse en conciencia allí donde pueda y comunicarse.
#76 Aprovecho de mencionar que realmente la ciencia solo hablaba de leyes tradicionalmente, al final toda nuestra ciencia es una mera aproximación a como creemos que es el universo y es la aproximación que nos da más certezas (según lo que sabemos) pero siempre es susceptible de cambiar, por suerte, solamente afinando nuestra teorías un poco.
Paja mental de alguien que no ha salido mucho de su torre de marfil y que hace repetidos saltos de fe.

Cada vez más frikis sin vida social esperando una robotización mesiánica que les promete (en su imaginación) salir de la mediocridad.

Cervantes ya escribió sobre estos hace mucho.
Me lo he leído entero.
Tonterias.
«12
comentarios cerrados

menéame