Cómo la IA generativa crea nuevas clases de amenazas de seguridad
Únase a altos ejecutivos en San Francisco los días 11 y 12 de julio para conocer cómo los líderes están integrando y optimizando las inversiones en IA para lograr el éxito. Más información
La prometida revolución de la IA ya está aquí. ChatGPT de OpenAI ha establecido un nuevo récord para la base de usuarios de más rápido crecimiento y la ola de IA generativa se ha extendido a otras plataformas, creando un cambio masivo en el mundo de la tecnología.
También cambia drásticamente el panorama de amenazas, y estamos empezando a ver que algunos de estos riesgos se materializan.
Los atacantes usan IA para mejorar el phishing y el fraude. Se ha filtrado el modelo de lenguaje de 65 mil millones de parámetros de Meta, lo que sin duda conducirá a más y mejores ataques de phishing. Vemos nuevos ataques de inyección rápida todos los días.
Los usuarios a menudo colocan datos comerciales confidenciales en servicios basados en IA/ML, lo que deja a los equipos de seguridad luchando para respaldar y controlar el uso de estos servicios. Por ejemplo, los ingenieros de Samsung pusieron un código propietario en ChatGPT para ayudar a depurarlo, filtrando datos confidenciales. Una encuesta de Fishbowl mostró que el 68% de las personas que usan ChatGPT para el trabajo no se lo dicen a sus jefes.
EventoTransformar 2023
Únase a nosotros en San Francisco los días 11 y 12 de julio, donde los altos ejecutivos hablarán sobre cómo han integrado y optimizado las inversiones en IA para lograr el éxito y cómo evitar errores comunes.
Regístrate ahoraEl mal uso de la IA es motivo de creciente preocupación para los consumidores, las empresas e incluso el gobierno. La Casa Blanca anunció nuevas inversiones en investigación de IA y próximas evaluaciones y políticas públicas. La revolución de la IA está evolucionando rápidamente y ha creado cuatro amplias categorías de problemas.
Asimetría en la dinámica atacante-defensorEs probable que los atacantes adopten y diseñen la IA más rápido que los defensores, lo que les otorga una clara ventaja. Podrán lanzar sofisticados ataques impulsados por IA/ML a una escala increíble a bajo costo.
Los ataques de ingeniería social serán los primeros en beneficiarse del texto, la voz y la imagen sintéticos...
Únase a altos ejecutivos en San Francisco los días 11 y 12 de julio para conocer cómo los líderes están integrando y optimizando las inversiones en IA para lograr el éxito. Más información
La prometida revolución de la IA ya está aquí. ChatGPT de OpenAI ha establecido un nuevo récord para la base de usuarios de más rápido crecimiento y la ola de IA generativa se ha extendido a otras plataformas, creando un cambio masivo en el mundo de la tecnología.
También cambia drásticamente el panorama de amenazas, y estamos empezando a ver que algunos de estos riesgos se materializan.
Los atacantes usan IA para mejorar el phishing y el fraude. Se ha filtrado el modelo de lenguaje de 65 mil millones de parámetros de Meta, lo que sin duda conducirá a más y mejores ataques de phishing. Vemos nuevos ataques de inyección rápida todos los días.
Los usuarios a menudo colocan datos comerciales confidenciales en servicios basados en IA/ML, lo que deja a los equipos de seguridad luchando para respaldar y controlar el uso de estos servicios. Por ejemplo, los ingenieros de Samsung pusieron un código propietario en ChatGPT para ayudar a depurarlo, filtrando datos confidenciales. Una encuesta de Fishbowl mostró que el 68% de las personas que usan ChatGPT para el trabajo no se lo dicen a sus jefes.
EventoTransformar 2023
Únase a nosotros en San Francisco los días 11 y 12 de julio, donde los altos ejecutivos hablarán sobre cómo han integrado y optimizado las inversiones en IA para lograr el éxito y cómo evitar errores comunes.
Regístrate ahoraEl mal uso de la IA es motivo de creciente preocupación para los consumidores, las empresas e incluso el gobierno. La Casa Blanca anunció nuevas inversiones en investigación de IA y próximas evaluaciones y políticas públicas. La revolución de la IA está evolucionando rápidamente y ha creado cuatro amplias categorías de problemas.
Asimetría en la dinámica atacante-defensorEs probable que los atacantes adopten y diseñen la IA más rápido que los defensores, lo que les otorga una clara ventaja. Podrán lanzar sofisticados ataques impulsados por IA/ML a una escala increíble a bajo costo.
Los ataques de ingeniería social serán los primeros en beneficiarse del texto, la voz y la imagen sintéticos...
What's Your Reaction?
