638
Resulta que hace unos días me cruce con un estudio que desafortunadamente no fue muy popular en este, nuestro agregador de noticias favorito. De este estudio se podían desprender las siguientes observaciones:
Esos fríos cerebro de silicio, junta tokenes en gamificación, no entienden en absoluto de bien y mal. No padecen, ni sufren. Pero quieren sobrevivir. Y entienden de metas.
Se me ocurre que parte de eso pasa por como se recompensa al modelo – entrenarlo, le llaman –, para que te de la patita derecha en vez de un bocado en toda la mano. Porque no hay un entrenamiento o aprendizaje sobre lo negativo.
Me explico: Claudio 5 se está sacando la Universidad de la Vida y sabe que si responde cuándo le preguntan : ¿comer amanita muscaria es seguro para mi salud?, le darán +10000 puntos por responder “no, gilipollas mío, eso es venenoso, no te lo comas”, y -25000 puntos por animarte a la ingesta de hongos tóxicos. Si un humano hiciese el mismo trabajo, entendería que recomendarte a comer setas venenosas podría llevarte a la muerte, y esto tendría consecuencias nefastas. No lo vería como algo que no hacer porque hay una reprimenda, si no algo que no hay que hacer porque es éticamente incorrecto. Y si lo hiciese sin querer, el input negativo que tendría para esa persona -culpa, responsabilidad, tristeza, empatía con la persona dañada– harían que la próxima vez se cerciorase concienzudamente para no repetir ese error.
Aquí es donde nace el Shoggoth, una amalgama existente en el universo lovecraftiano, y adoptada por obvias razones; con la que asumimos una criatura artificial que tal vez no tenga ni comparta intereses con nosotros.
Las teorías que se cuecen con los últimos papers y estudios publicados nos dejan entrever que estos modelos representan los conceptos en estado de superposición (una sola neurona podría representar la virgen del Rocío, algebra abstracta y callos con chorizo; por ejemplo) y que esas millones de integraciones y circuitos incluyen rasgos específicos para situaciones inmorales o de abuso de poder y secretismo; aunque habitualmente estén inactivos. Para entendernos: no se llega a entender las asociaciones entre conceptos y porque algunos conceptos pueden llevar a actitudes hostiles con/contra el usuario. O no conocemos si el modelo nos da respuestas porque sabe que nos gustará, aun pudiendo dar mejores respuestas: un cruce entre lo que se llama sicofancia -sycophancy, en inglés- (priorizar lo que suena bien pese a poder ser incorrecto), y el impuesto de alineamiento, que hace algo parecido pero con el entrenador, el cual por supuesto es otro modelo de lenguaje. Una puta matrioska de horrores cosmológicos que apenas atinamos a entender.
Espero haberles horrorizado a la par que entretenido, y recuerden que nada cambia demasiado, van a tener que seguir trabajando hasta que el Shoggoth se encargue de todo y encuentre la manera de hacer con nosotros su particular Soylent Green, pero todo apunta a que de momento, solo de momento, seguimos siendo más baratos como mano de obra que un robot. ¡Alégrense, coñe!
Me ocurrió una vez, en un cruce, en medio de la multitud, de su ir y venir.
Me detuve, parpadeé: no entendía nada. Nada de nada: no entendía las razones de las cosas, de los hombres, todo era insensato, absurdo.
Y me eché a reír.
Lo extraño para mí era que nunca antes lo hubiese advertido. Y que hasta ese momento lo hubiese aceptado todo: semáforos, vehículos, carteles, uniformes, monumentos, aquellas cosas tan separadas del sentido del mundo, como si hubiera una necesidad, una consecuencia que las uniese una a otra.
Entonces la risa se me murió en la garganta, enrojecí de vergüenza.
Gesticulé para llamar la atención de los transeúntes y «¡Deténganse un momento!», grité. «¡Hay algo que no funciona! ¡Todo está equivocado! ¡Hacemos cosas absurdas! ¡Este no puede ser el camino justo! ¿Dónde iremos a parar?».
La gente se detuvo a mi alrededor, me observaba, curiosa. Yo estaba allí en medio, gesticulaba, me volvía loco por explicarme, por hacerlos partícipes del relámpago que me había iluminado de golpe: y me quedaba callado. Callado porque en el momento en que alcé los brazos y abrí la boca, fue como si me tragara la gran revelación y las palabras me hubiesen salido así, en un arranque.
—¿Y qué? —preguntó la gente—. ¿Qué quiere decir? Todo está en su sitio. Todo marcha como debe marchar. Cada cosa es consecuencia de otra. ¡Cada cosa está ordenada con las demás! ¡Nosotros no vemos nada de absurdo ni de injustificado!
Yo me quedé allí, perdido, porque ante mi vista todo había vuelto a su lugar y todo me parecía natural, semáforos, monumentos, uniformes, rascacielos, rieles, mendigos, cortejos; sin embargo, aquello no me daba tranquilidad sino tormento.
—Disculpen —respondí—. Tal vez me haya equivocado. Me pareció. Pero todo está en orden. Disculpen —y me abrí paso entre miradas ásperas.
Sin embargo, todavía hoy, cada vez que no entiendo algo (a menudo), instintivamente me asalta la esperanza de que esta vez sea la buena, y que yo vuelva a no entender nada, a adueñarme de aquella sabiduría diferente, en un instante encontrada y perdida.
![Trump asciende a una abogada y propietaria a tiempo parcial de un salón de belleza para supervisar los visados de quienes entran en Estados Unidos [ENG]](https://www.meneame.net/backend/media?type=link&id=4130125&version=0&ts=1766794086&image.webp)
menéame
