"Pedimos a todos los laboratorios de IA que pausen inmediatamente durante al menos 6 meses el entrenamiento de sistemas de IA más potentes que GPT-4". Este es el mensaje reflejado en la carta abierta firmada por, entre otros, Elon Musk, Steve Wozniak (co-fundador de Apple), Jaan Tallinn (co-fundador de Skype) y Max Tegmark (MIT).
#2 No es una cuestion de voluntad, es que sobre el papel, una ia no se entrena para dar una respuesta a un problema, se entrena para dar una respuesta que cuele por válida, y esa pequeña diferencia hace que en algunos casos... la respuesta que des por válida puede ser perfectamente falsa y la ia la disfrace para colarla por verdadera. A eso se refieren por leal.
Si le dijeses a una ia que te generase aleatoriamente un numero, es altamente probable que no descubra un metodo nuevo de generacion de numeros aleatorios... pero algo que se le parezca lo suficiente como pa engañarte.
"conseguir que los potentes sistemas de vanguardia actuales sean más precisos, seguros, interpretables, transparentes, robustos, alineados, fiables y leales."
La palabra leales indica que los firmantes, que no pasaban por aquí precisamente, les otorgan a estos sistemas algo tan profundo y peligroso como la 'voluntad'.
Comentarios
#0 Creo que es duplicada:
Grandes figuras de la inteligencia artificial como Max Tegmark, Andrew Yang, Elon Musk o Wozniak han pedido una pausa temporal (al menos 6 meses) para la creación de sistemas que superen GPT-4 [EN]
Grandes figuras de la inteligencia artificial como...
reuters.com#2 No es una cuestion de voluntad, es que sobre el papel, una ia no se entrena para dar una respuesta a un problema, se entrena para dar una respuesta que cuele por válida, y esa pequeña diferencia hace que en algunos casos... la respuesta que des por válida puede ser perfectamente falsa y la ia la disfrace para colarla por verdadera. A eso se refieren por leal.
Si le dijeses a una ia que te generase aleatoriamente un numero, es altamente probable que no descubra un metodo nuevo de generacion de numeros aleatorios... pero algo que se le parezca lo suficiente como pa engañarte.
"conseguir que los potentes sistemas de vanguardia actuales sean más precisos, seguros, interpretables, transparentes, robustos, alineados, fiables y leales."
La palabra leales indica que los firmantes, que no pasaban por aquí precisamente, les otorgan a estos sistemas algo tan profundo y peligroso como la 'voluntad'.
Vaya con los liberales...