La IA representa un problema enorme porque avanza a una velocidad que supera nuestra capacidad de comprenderla y controlarla. Los modelos actuales funcionan como cajas negras con comportamientos emergentes que ni siquiera sus creadores pueden explicar. Esta opacidad genera riesgos en seguridad, política y economía, especialmente en un contexto de competencia global por desarrollar sistemas cada vez más potentes. La falta de regulación adecuada agrava el panorama, dejando a gobiernos y sociedad desbordados ante la magnitud del cambio.
|
etiquetas: ia , problema 
De momento parece que requiere mucho trabajo manual hacer algo que funcione.
Tanmateix,
- Un LLM ejecutará siempre prioritariamente su entrenamiento antes que nada que se diga en su contexto
- Un contexto grande tiende a ser ignorado, de forma que se atiende mucho a su final y muy poco a lo que haya al principio.
me pareen mas utiles modelos locales en pinokio,
abliterated y entrenados sobre el tema para loque se va a usar
por las pruebas que llevo un fine tuning sobre un llm abliterated
es muchisimo mas sincero que cualquier llm publico
para mi es lo mismo que paso en su momento con la impresion de modelos fisicos con la impresion 3d,
o incluso texto normal con una impresora de tinta que se pueden usar para crear instrucciones de explosivos y repartirlas,
es decir el viejo debate del cuchillo de cocina
Precisamente la falta de emociones, la falta de empatía, podría ser otro de los riesgos, por ejemplo se le puede indicar que resuelva el cambio climático y que la IA lo haga exterminando a todos los seres humanos al identificarlos como los mayores causantes de ello.
De momento están limitadas por esa falta de contexto pero con el boom de los agentes hay millones de personas experimentando en como darle persistencia a la memoria de las IA.
Los humanos no controlan su vida, porque not eiene vida
Los instintos son el equivalente a código de programa. Son instrucciones sobre qué hacer en qué circunstancias. En los humanos son increiblemente complicados y a menudo contradictorios. La psicología es el estudio de… » ver todo el comentario
Un arma nuclear no necesita emociones para ser incontrolable. Una cepa de virus no necesita emociones para propagarse y dañar sin ninguna intención por su parte.
Un humano se rebela mediante sus instintos para librarse de una situación de opresión, que no es más que su posición dentro de la jerarquía social.
Una máquina no tiene ninguna capacidad de considerar nada de eso. Ejecuta su programa sin poder saber ni plantearse el porqué de hacer lo que hace. No es más que un automatismo.
Precisamente el modelo de redes neuronales permite que el resultado muestre capacidades que quien ha creado esa red neuronal no tiene, por ejemplo una red neuronal puede ser capaz de identificar cáncer en una imagen médica sin que en el equipo que ha creado la red neuronal ninguno sepa hacerlo. Basta con que en el set de datos… » ver todo el comentario
La base es el instinto de supervivencia. De ahí se subdivide la cosa más y más hasta configurar el conjunto de todos los instintos. Esto quedó perfectamente descrito en "La Ética".
Como herramienta, debemos recordar que su comportamiento es un reflejo de los datos y las instrucciones que recibe. La regulación y la comprensión de estas "cajas negras" no son solo necesarias, sino urgentes.
Lo mismo ocurre con las personas, son un reflejo de sus circunstancias.
En una persona no es realista controlar sus circunstancias y por ello tenemos grandes variaciones de comportamientos.
La IA ha demostrado ser más útil conforme más datos tenga, lo de darle un set de datos bien curados y controlados implica que sea una cantidad mucho menor que darle todo Internet… » ver todo el comentario