Un informe respaldado por el Departamento de Estado proporciona un plan de acción para evitar riesgos catastróficos de la IA

Unirse líderes dentro Bostón seguro marzo 27 para A exclusivo noche de redes, conocimiento, Y conversación. Pedido A invitar aquí.

A relación orden por EL NOSOTROS. Estado Departamento sugiere práctico medidas tiene prevenir EL emergente amenazas de avance artificial inteligencia, incluído EL militarización de AI Y EL amenaza de perdiendo control seguro EL tecnología.

EL relación, título, "La defensa dentro Profundidad: A Acción Plan tiene Aumentar EL Seguridad Y Seguridad de Avance AI", estaba compilado por Peter Gladstone AI, A AI seguridad negocio basado por hermanos Jeremías Y Eduardo Harris.

Trabajar seguro EL acción plan comenzó dentro Octubre 2022, A mes Antes EL liberar de ChatGPT. Él implícito conversación con Más eso 200 gente, incluído investigadores Y ejecutivos tiene borde AI laboratorios, la seguridad cibernética expertos Y nacional seguridad funcionarios dentro varios países.

EL relación advierte eso a pesar de Es inmenso Ventajas, avance AI Este "crear enteramente nuevo categorias de armas de masa similar a la destrucción (tipo ADM) Y Activación de armas de destrucción masiva. catastrófico riesgos… Dado EL crecimiento riesgo tiene nacional seguridad establecido por rápidamente expansión AI capacidades desde militarización Y pérdida de control — Y en particular, EL hacer eso EL en curso proliferación de estos capacidades sirve tiene amplificar los dos riesgos — allá Este A claro Y urgente necesidad para EL NOSOTROS. gobierno tiene intervenir. »

EL AI Impacto Recorrido – Boston

Eran entusiasmado para EL Próximo detener seguro EL AI Impacto Recorrido dentro Bostón seguro marzo 27. Este exclusivo, sólo invitados evento, dentro Camaradería con microsoft, voluntad funcionalidad discusiones seguro mejor las prácticas para datos integridad dentro 2024 Y más allá de. Espacio Este límite, Entonces pedido A invitar hoy.

Entonces que proporcionar técnico detalles seguro EL riesgos de AI, EL acción plan también presente política las proposiciones eso puede Ayuda EL NOSOTROS. Y Es aliados mitigar estos riesgos.

EL relación se concentra seguro dos llave riesgos: militarización Y pérdida de control. Armamento entender riesgos semejante como AI sistemas eso de forma autónoma descubrir día cero vulnerabilidades, Desarrollado por IA desinformación campañas Y arma biológica diseño. Día Cero vulnerabilidades están desconocido O absoluto vulnerabilidades dentro A computadora sistema eso A agresor puede usar dentro A ciberataque.

Entonces que allá Este siempre No AI sistema eso puede completamente lograr semejante los ataques, allá están pronto paneles de progreso seguro estos fachadas. Futuro generaciones de AI podría estar capaz tiene llevar afuera semejante ataques. "Como A resultado, EL proliferación de semejante modelos – Y en efecto, incluso acceder tiene a ellos – podría estar extremadamente peligroso sin eficaz medidas tiene monitor Y control su las salidas," EL relación advierte.

Pérdida de control sugiere eso "como avance AI enfoques tipo de ingreso bruto ajustado niveles de de humano- Y sobrehumano general aptitud, Él puede volverse Efectivamente incontrolable." A sin control AI sistema podría desarrollar buscar poder comportamientos semejante como evitar él mismo desde estar cerca desactivado, establecimiento control seguro Es medio ambiente, O atractivo dentro engañoso comportamiento tiene manipular humanos. Pérdida de control resultados desde A falta de alineación entre AI Y humano intenciones. Alineación Este A activo área de investigación dentro borde AI laboratorios.

"A desalineado AGI sistema Este A fuente de catastrófico riesgo simplemente porque Él Este A muy competente optimizador", de acuerdo a tiene EL relación. "Es habilidad permitamos Él descubrir Y implementar peligrosamente creativo estrategias tiene alcanzar Es internalizado objetivos,...