Nueva ley en California busca regular el uso de IA para evitar amenazas globales
En California, se está impulsando un innovador proyecto de ley que pretende establecer controles rigurosos sobre los sistemas de inteligencia artificial (IA). Esta legislación surge en respuesta a la creciente preocupación de que la IA pueda ser utilizada para desarrollar armas de destrucción masiva y otras amenazas a la seguridad pública.
La propuesta, conocida como la “Ley de Innovación Segura para Modelos de Inteligencia Artificial de Frontera”, introducida por el senador Scott Wiener, clasifica a la IA como una “amenaza persistente avanzada”. Este término describe a actores sofisticados que poseen recursos considerables y emplean diversas técnicas para comprometer la seguridad, como ciberataques y engaños.
Objetivos del Proyecto de Ley
El proyecto de ley establece requisitos para que los desarrolladores implementen medidas de seguridad robustas y la capacidad de desactivar completamente los modelos de IA en caso de representar un riesgo crítico. También propone la creación de una nueva división en la Agencia de Operaciones Gubernamentales, encargada de supervisar y emitir directrices sobre el cumplimiento de la ley. Además, contempla sanciones civiles y protege a los denunciantes.
Sanciones y Medidas Propuestas
El SB 1047 prevé varias sanciones para quienes no cumplan con la normativa:
- Multas Civiles: Hasta el 10% del costo de cálculo usado para entrenar el modelo en la primera infracción, y hasta el 30% para infracciones repetidas.
- Acciones Civiles: Incluyen la eliminación del modelo y la suspensión de su uso si se considera peligroso.
- Daños Monetarios y Punitivos: Para las personas afectadas por incumplimientos.
Asimismo, el proyecto ofrece protección a los empleados que denuncien incumplimientos y contempla la posibilidad de intervención judicial para asegurar el cumplimiento de la normativa.
Próximos Pasos para la Ley
Actualmente, el SB 1047 está listo para ser votado en la Asamblea de California. Si recibe aprobación allí, deberá regresar al Senado para una segunda votación. Si ambas cámaras lo aprueban, el proyecto será enviado al gobernador Gavin Newsom, quien decidirá si lo firma y convierte en ley o si lo veta.
Compromiso de Empresas Tecnológicas
En paralelo, gigantes tecnológicos como Apple, Amazon, Google, Microsoft y OpenAI han firmado un compromiso para el desarrollo seguro de la IA. Este acuerdo, respaldado por una orden ejecutiva del presidente Joe Biden, incluye:
- Evaluaciones de riesgos y medidas para prevenir el uso indebido de la IA.
- Prohibición de la creación de modelos capaces de autorreplicarse.
- Desarrollo de mecanismos para identificar contenido generado por IA.
- Transparencia en la divulgación de las capacidades de los modelos.
Este compromiso busca mitigar los riesgos asociados con la IA, proteger la privacidad, y fomentar la innovación y la competencia en un entorno seguro.
LEER: Bonos caen más del 1% y el Riesgo País asciende a 734 puntos
