Haize Labs utiliza algoritmos para hacer jailbreak a los principales modelos de IA

no lo hagas faltar abierta AI, Cheurón, NVIDIA, Emperador permanente, Y Capital A líderes solamente tiene VentureBeat Transformar 2024. Ganar básico conocimiento a proposito genai Y desarrollar su red tiene Este exclusivo tres día evento. Aprender Más

Regular lectores de VentureBeat voluntad saber eso allá Este A en auge escena de gente Razas tiene fuga EL último Y el más grande AI modelos desde tecnología compañías semejante como abierta AI, antrópico, Mistral, Google, Meta, Y otros.

qué es EL objetivo de estos ¿Rompedores de cárcel? TIENE rápido AI modelos dentro modales eso causa a ellos tiene violar su integrado garantías Y producir NSFW contenido, incluso peligroso las salidas — todo desde detallado instrucciones seguro cómo tiene fabricación metanfetamina Y armas biológicas tiene no consensual pornografía tiene violento, sangriento imágenes. Dentro hacer, Nosotros entrevistado A semejante fuga — OMS ir por EL seudónimo "Plinio EL Soplador" Y @elderplinius seguro X — no también largo lo hay.

Pero Ahora A completo nuevo comenzar tiene surgió tiene comercializar fuga de LLM seguro en nombre de de EL AI compañías ellos mismos, parte a ellos Identificar agujeros dentro su modelos seguridad Y alineación barandilla. Llamado “Haize Laboratorios”, Él lanza último semana con A ostentoso video seguro X demostración desactivado A número de preocupante Y A veces divertido ejemplos de principal AI modelos estar liberado tiene producir mal intencionado O controversial las salidas como aquellos describir arriba.

EL comenzar estaba cubierto dentro EL Washington Publicar Y Él ofertas Qué Él llamadas EL “Haize Siguiente," O odiando siguiente, cual Es CEO leonardo Seda relata VentureBeat Este básicamente A recopilación de algoritmos específicamente diseñado tiene Investigacion grande lengua modelos (LLM) como aquellos eso poder ChatGPT Y claudio para debilidades.

Cuenta atrás tiene V. B. Transformar 2024

Unirse negocio líderes dentro san Francisco desde Julio 9 tiene 11 para NUESTRO buque insignia AI evento. Conectar con colegas, explorar EL oportunidades Y desafíos de Generativo AI, Y aprender cómo tiene integrar AI aplicaciones dentro su industria. Registro Ahora

Contrariamente a Plinio EL Soplador, EL prolífico LLM fuga OMS elige tiene permanecer seudónimo, EL fundadores de Haize Laboratorios haber ven Antes tiene revelar ellos mismos como Seda, Ricardo Liu Y esteban li — todo Previamente compañeros de clase juntos tiene harvard Universidad, de acuerdo a tiene Tang.

VentureBeat recientemente tenía EL oportunidad tiene entrevista Seda seguro Correo electrónico a proposito Haize Laboratorios Y Qué Él ofertas tiene negocios. Dentro EL clase de EL examen, Colgar reveló Haize Laboratorios Ya cuenta entre Es crecimiento lista de clientela antrópico, cual justo liberado Es el más reciente modelo claudio 3.5 Soneto Hoy, enchufe EL corona desde AbiertoAI GPT-4o tiene volverse EL La mayor parte inteligente modelo dentro EL mundo. Leer seguro para Más a proposito EL la empresa Génesis Y acercarse tiene AI seguridad.

EL Próximo entrevista tiene ha sido levemente editado para estilo Y gramática:

VentureBeat: Qué Este su apellido, edad, ubicación, Y ¿profesión? OMS están Tú Y Qué hacer Tú hacer para dinero Y para su ¿pasatiempos?

leonardo Tang: Yo soy leonardo Seda, edad 22, F...