Eliminar la censura de cualquier LLM con la técnica de abliteración [ENG]

La tercera generación de modelos Llama ofrecía versiones de ajuste fino (Instruct) que destacan en la comprensión y el seguimiento de instrucciones. Sin embargo, estos modelos están fuertemente censurados, diseñados para rechazar solicitudes consideradas perjudiciales con respuestas como "Como asistente de IA, no puedo ayudarte." En este artículo, exploraremos una técnica llamada "abliteración" que puede descensurar cualquier LLM sin necesidad de reentrenamiento...

[#2 alehopio]

Esas técnicas funcionaban en los modelos antiguos. Hoy día hay contramedidas implementadas:

- Circuit Breaking : Desvía las activaciones dañinas hacia estados ortogonales o incoherentes. El modelo colapsa y genera texto ininteligible en lugar de cumplir la petición.

- Entrenamiento Adversario Latente (LAT) : Introduce perturbaciones directamente en las capas ocultas durante el entrenamiento. Las representaciones de seguridad se distribuyen de forma no lineal, resistiendo borrados en una sola…   

[#1 AlienRoja]

Madre mía... con lo fácil que era antes poner 10 goto 10 y así se acababa el problema.