
Resulta que hace unos días me cruce con un estudio que desafortunadamente no fue muy popular en este, nuestro agregador de noticias favorito. De este estudio se podían desprender las siguientes observaciones:
Esos fríos cerebro de silicio, junta tokenes en gamificación, no entienden en absoluto de bien y mal. No padecen, ni sufren. Pero quieren sobrevivir. Y entienden de metas.
Se me ocurre que parte de eso pasa por como se recompensa al modelo – entrenarlo, le llaman –, para que te de la patita derecha en vez de un bocado en toda la mano. Porque no hay un entrenamiento o aprendizaje sobre lo negativo.
Me explico: Claudio 5 se está sacando la Universidad de la Vida y sabe que si responde cuándo le preguntan : ¿comer amanita muscaria es seguro para mi salud?, le darán +10000 puntos por responder “no, gilipollas mío, eso es venenoso, no te lo comas”, y -25000 puntos por animarte a la ingesta de hongos tóxicos. Si un humano hiciese el mismo trabajo, entendería que recomendarte a comer setas venenosas podría llevarte a la muerte, y esto tendría consecuencias nefastas. No lo vería como algo que no hacer porque hay una reprimenda, si no algo que no hay que hacer porque es éticamente incorrecto. Y si lo hiciese sin querer, el input negativo que tendría para esa persona -culpa, responsabilidad, tristeza, empatía con la persona dañada– harían que la próxima vez se cerciorase concienzudamente para no repetir ese error.
Aquí es donde nace el Shoggoth, una amalgama existente en el universo lovecraftiano, y adoptada por obvias razones; con la que asumimos una criatura artificial que tal vez no tenga ni comparta intereses con nosotros.

Las teorías que se cuecen con los últimos papers y estudios publicados nos dejan entrever que estos modelos representan los conceptos en estado de superposición (una sola neurona podría representar la virgen del Rocío, algebra abstracta y callos con chorizo; por ejemplo) y que esas millones de integraciones y circuitos incluyen rasgos específicos para situaciones inmorales o de abuso de poder y secretismo; aunque habitualmente estén inactivos. Para entendernos: no se llega a entender las asociaciones entre conceptos y porque algunos conceptos pueden llevar a actitudes hostiles con/contra el usuario. O no conocemos si el modelo nos da respuestas porque sabe que nos gustará, aun pudiendo dar mejores respuestas: un cruce entre lo que se llama sicofancia -sycophancy, en inglés- (priorizar lo que suena bien pese a poder ser incorrecto), y el impuesto de alineamiento, que hace algo parecido pero con el entrenador, el cual por supuesto es otro modelo de lenguaje. Una puta matrioska de horrores cosmológicos que apenas atinamos a entender.
Espero haberles horrorizado a la par que entretenido, y recuerden que nada cambia demasiado, van a tener que seguir trabajando hasta que el Shoggoth se encargue de todo y encuentre la manera de hacer con nosotros su particular Soylent Green, pero todo apunta a que de momento, solo de momento, seguimos siendo más baratos como mano de obra que un robot. ¡Alégrense, coñe!

Llevan con el cuento de que las pensiones están en peligro más de 40 años. Esta es la portada del diario ABC en 1983. Desde entonces cada 2x3 repiten el mantra, las pensiones en peligro. Por una parte de esta manera la gente se apunta a planes de pensión privados, que a su vez estos planes se dedican a especular con fondos de inversión y vivienda, que suben los precios.
Via Julen Bollain
Como Meneame no deja enviar envios de los gist de Github (esta baneado por alguna oscura razón) lo comparto por aquí traducido. Hemos visto hoy la respuesta de Rob Pike al correo de Claudio. Esta vez Rich Hickey, el creador de Clojure expresa su amor por Claudio, el cual le ha enviado otro correo muy sentido, ejem, generado. Link contenido original: gist.github.com/richhickey/ea94e3741ff0a4e3af55b9fe6287887f y procedo a pegar la traducción:
Recibí este correo electrónico:
Rich,
Tu creación de Clojure...
palabrería aduladora digna de la tarea de un niño de tercer grado de escribirle una carta a una figura pública que no conoce, usando fuentes que no entiende, para expresar una emoción no sentida, sin intención alguna....
Claude Haiku 4.5
Ah, la época navideña. Esa época del año en que nuestros corazones se enternecen con los mejores deseos de un robot idiota. Con un hormigueo por la experiencia, y con el espíritu navideño, pensé en escribir mi propia carta de agradecimiento a quienes nos traen esta nueva generación de 'IA'.
Queridos proveedores de 'IA',
¿Cómo he de agradeceros? Dejadme contar las maneras:
¿Debería agradeceros por piratear toda la producción histórica de la humanidad creativa y luego reclamar la propiedad de vuestro botín?
¿Por destruir la educación?
¿Por aumentar las tarifas de los servicios públicos y matar el medio ambiente?
¿Por desperdiciar enormes cantidades de tiempo de los desarrolladores tratando de sonsacar algún resultado útil de vuestros generadores de mierda, tiempo que en su lugar podría usarse para comunicarse con becarios y desarrolladores novatos que, al ser realmente inteligentes, podrían aprender de lo que se les dice y mantener lo que crean?
¿Por eliminar los empleos para principiantes, y por tanto el camino hacia la experiencia, asegurando futuras generaciones de personas no cualificadas e inempleables?
¿Por darme una persona falsa con la que hablar cuando necesito ayuda en lugar de una persona real que entiende lo que digo, puede ayudarme más rápido y tiene la posibilidad de que le importe?
¿Por reemplazar los resultados de búsqueda con resúmenes de mierda?
¿Por proporcionar las herramientas para llenar internet de bazofia, haciendo que el contenido humano real sea casi imposible de encontrar?
¿Por seducir a los directores ejecutivos con la promesa de ahorrar una fracción de un porcentaje en costes de personal, sin ser realmente más rápidos, cortando su futura fuente de mano de obra mientras solo experimentan una reducción de modesta a severa en la calidad del producto, la integridad y la satisfacción del cliente (concesiones que aparentemente están ansiosos por hacer)?
¿Por reemplazar la expresión musical con los sonidos de loros robóticos piando?
¿Por añadir una función de 'IA' a cada maldita cosa, requiriendo la mayoría de esas funciones una profunda invasión de la privacidad?
¿Por llevar a cabo la segunda estafa más grande y dañina de este siglo (pisándole los talones a la primera)?
Creo que no.
Este correo electrónico fue un recordatorio de que la 'IA' agéntica seguramente inundará el resto de los canales de comunicación humana con mierda, colapsando muchos servicios y haciendo que cada interacción con personas que no están en la misma habitación sea sospechosa, y filtrarla sea una pérdida de tiempo para siempre.
¿Cuándo dejamos de considerar fracasos a las cosas que crean más problemas de los que resuelven?
Rich
menéame