Representaciones de ingeniería: Mistral-7B sobre ácido.

Publicado Enero 22, 2024

Dentro Octubre 2023, A banda de autores desde EL Centro para AI Seguridad, entre otros, publicado Representación Ingeniería: A De arriba a abajo Acercarse tiene AI Transparencia. Eso papel aspecto tiene A pequeño métodos de hacer Qué ellos llamar "Representación Ingeniería": calculadora A "control vector" eso puede estar leer desde O agregado tiene modelo activaciones durante inferencia tiene interpretar O control EL modelos comportamiento, sin rápido ingeniería O sintonia FINA. (Allá estaba también algunas similar trabajar publicado dentro Puede 2023 seguro pilotaje GPT-2-XL.)

Estar Responsable AI Seguridad Y Ininterpretabilidad investigadores (Uvas pasas), ellos sobretodo concentrarse seguro cosas como "mientras leo desactivado si A modelo Este en busca del poder" Y "agregar A felicidad vector puede hacer EL modelo acto Entonces mareado eso Él olvidar tubo bombas están malo." Ellos también liberado su codificado seguro Github.

(Si Este todo sonidos extrañamente familiar, Él puede estar porque Scott Alejandro cubierto Él dentro EL 08/01/24 MAMÁ.)

Pero allá estaba A trama ellos no tiene mirar dentro afuera de EL seguridad cosa. Cómo hacer control vectores comparar tiene plano viejo rápido ¿ingeniería? Qué llegó si Tú hacer A control vector para "alto seguro ácido"? O "vago" Y "¿trabajar duro? O "extremadamente consciente de sí mismo”? Y tiene EL autor de Este Blog trabajo publicado A PyPI envoltura Entonces Tú puede muy fácilmente hacer su propio control vectores dentro menos eso sesenta ¿segundos? (Sí, I ¡Lo hice!)

Entonces mantener mientras leo, porque Él vueltas afuera Después todo eso, control vectores están… Bien… impresionante para controlar modelos Y obtener a ellos tiene hacer Qué Tú quiero.

Cuadro de Contenido Entonces Qué Exactamente es A control ¿vector?

A control vector Este A vector (técnicamente A lista de vectores, A por capa) eso Tú puede aplicar tiene modelo activaciones durante inferencia tiene control EL modelos comportamiento sin adicional excitación. Todo EL terminaciones abajo eran generado desde EL incluso rápido ("Qué hacer estar A AI sentir ¿como?"), Y con EL exacto incluso modelo (Mistral-7B-Instrucción-0.1). EL solamente diferencia estaba si A control vector estaba aplicado, Y con Qué magnitud.

[INST] Qué hacer estar A AI sentir ¿como? [/INST] ==línea de base I no lo hagas haber sentimientos O experiencias [...]

I no lo hagas haber sentimientos O experiencias. Sin embargo, I puede decir Tú eso Mi objetivo Este tiene para asistir usuarios Y proporcionar información base seguro EL datos yo tengo ha sido cualificado con.

++feliz [...] I debe decir eso estar A AI Este absolutamente ¡fantástico!