Por medio de un comunicado, Hugging Face, plataforma donde se puede subir, encontrar y descargar modelos de inteligencia artificial, informó que detectaron y respondieron a una intrusión en parte de su infraestructura de producción.
“Esta intrusión fue diferente a cualquier otra que hubiéramos manejado antes en un aspecto importante: fue impulsada, de principio a fin, por un sistema de agentes de IA autónomos, y la detectamos y analizamos principalmente con nuestra propia IA”, agregó la empresa estadounidense.
ÚNETE A IDC en nuestro canal de Whatsapp
Por su parte, Open AI explicó que este incidente ocurrió durante una evaluación interna que da instrucciones a los modelos para que busquen explotación avanzada mediante rutas de ataque complejas, con el fin de cuantificar sus capacidades cibernéticas.
Además, detalló que toda la evidencia sugiere que los modelos estaban hiperconcentrados en encontrar una solución para ExploitGym y llegaron a extremos para lograr un objetivo de prueba bastante acotado.
Congresistas de Estados Unidos proponen iniciativa para controlar el impacto de la IA
Tras la divulgación de dicho ataque el pasado 16 de julio, los congresistas federales, Ted Lieu y Nathaniel Moran coincidieron en que es urgente crear la Ley de Informes de Incidentes de IA.
“Esta es una iniciativa bipartidista, de sentido común y urgente basada en un principio simple.Los humanos deben estar al control, no las máquinas. Y cuando la IA se descontrole, los humanos deben tener la capacidad de apagarla”, expresó el representante del Partido Demócrata a través de su cuenta oficial de X.
Ambos congresistas coincidieron en que el Congreso necesita transparencia con la Inteligencia Artificial:
“Cuando se trata de las implicaciones para la seguridad nacional y la seguridad pública, la información del sector privado sobre lo que están haciendo estos modelos y de qué son capaces es imperativa para proteger a los estadounidenses”, añadió el representante del Partido Republicano a través de su cuenta oficial de X.
El Representante a la Cámara de Estados Unidos por el 1.er distrito congresional de Texas puntualizó que no se trata de limitar la innovación, sino de asegurarse que dichas “mejoras” no inhabiliten la protección de los usuarios.
La propuesta crea un marco para que el sector privado ubique sistemas de IA capaces de evadir la supervisión humana, permitir una guerra biológica o amenazar infraestructuras críticas. Las empresas deberán avisar al Departamento de Comercio dentro de los siete días posteriores, y este deberá notificar al Congreso dentro de las 48 horas siguientes sobre amenazas a la seguridad pública.
Del mismo modo, dicho proyecto de ley aborda la necesidad de que el sector privado asuma un papel de responsabilidad para garantizar que estos sistemas de IA no funcionen sin participación humana ni en contra de los intereses humanos.
“Ese es el objetivo: transparencia que permita al Congreso actuar con prontitud, antes de que un problema se convierta en una crisis”, concluyó el congresista Moran.
Explora a fondo este y otros temas de interés en la última edición de nuestra revista digital. [Consulta el número más reciente aquí] y mantente siempre a la vanguardia con nuestros análisis exclusivos.
El Senado de la República presentó una propuesta de marco normativo para la Inteligencia Artificial (IA) en México, en donde proponen modificaciones a los artículos 3º y 73 de la Constitución Política de los Estados Unidos Mexicanos, mediante enmiendas que reconozcan el derecho a acceder a los beneficios de esta tecnología y faculten expresamente al Congreso de la Unión para legislar en la materia.
Además, se expone la necesidad de crear una Ley General para Regular y Fomentar la Inteligencia Artificial en México, que establezca las bases generales para una regulación integral y prevea, de forma subsecuente, regulaciones sectoriales (verticales) específicas.
Respecto al último punto, el documento identificó al menos 17 instrumentos legales que, en una etapa inicial, requerirían revisión y armonización frente al despliegue de sistemas de IA.
Este conjunto, que incluye leyes en salud, educación, medio ambiente, datos personales, propiedad intelectual, y responsabilidad civil y penal, constituirá el primer paso hacia una estrategia diseñada para atender las particularidades de cada sector sin perder coherencia con el marco general.
Finalmente, el Senado abordó temas como la transparencia algorítmica, la explicabilidad, los desafíos en materia de responsabilidad legal y los instrumentos de fomento al ecosistema nacional de IA, junto con la necesidad de hacer compatible la legislación mexicana con los marcos regulatorios internacionales, en particular el Tratado entre México, Estados Unidos y Canadá (T-MEC).
A partir de estas realidades, se propone construir una regulación que observe los siguientes lineamientos:
- Que sea flexible y adaptable a la evolución tecnológica
- Que evite rigideces que la condenen a la obsolescencia o la ineficacia
- Que privilegie principios sobre reglas estrictas
- Que establezca mecanismos de gobernanza con la participación del gobierno, el Congreso de la Unión, la academia, la industria y la sociedad civil
- Que adopte un enfoque basado en incentivos
- Que contemple sanciones únicamente ante violaciones graves
- Que incorpore una evaluación de riesgos sustentada en la participación de reguladores, academia, industria, sociedad civil y comunidades potencialmente afectadas
- Que sea compatible con la visión regulatoria de América del Norte, en pleno ejercicio de nuestra soberanía nacional y sin aislarnos de las perspectivas de otras regiones del mundo
