Riesgos de la IA: 64% de las empresas asume amenazas con tal
de usar agentes autónomos

El uso y creación de agentes de Inteligencia Artificial ayuda a la optimización y eliminación de tareas repetitivas, haciendo más eficiente ciertas actividades, sin embargo, el problema es que los sistemas no solo se están volviendo más inteligentes y sofisticados, sino que también enfrentan desafíos y riesgos más recientes.

El estudio global "Autorizados para actuar: cómo la autonomía de la IA supera los límites impuestos", realizado por Sapio Research para Illumio, explicó que casi dos terceras partes (64 %) de las organizaciones mexicanas están dispuestas a asumir más riesgos cibernéticos que hace 12 meses con tal de aprovechar los beneficios de la IA.

ÚNETE A IDC en nuestro canal de Whatsapp

IIlumio, empresa especializada en contención de brechas, confirmó que a medida que la IA adquiere mayor autoridad para tomar decisiones y actuar de forma autónoma, las organizaciones enfrentan nuevos desafíos en materia de supervisión, acceso y control.

En México, el 65 % de las organizaciones actualmente delega a la IA decisiones que hace un año requerían aprobación humana. Conforme las empresas conceden mayor autonomía a la IA, mantener la visibilidad y el control sobre aquello a lo que puede acceder y ejecutar se vuelve cada vez más crucial.

¿Cuáles son los riesgos digitales por el uso de inteligencia artificial? 

El 68 % de las organizaciones mexicanas experimentó al menos un incidente de seguridad o señal de advertencia vinculada a la IA en los últimos 12 meses. 

Lo anterior incluye a un 35 % que afirma que la IA realizó una recomendación que habría generado un riesgo de seguridad de haberse seguido; un 23 % donde la IA produjo o desencadenó una acción no autorizada, y un 22 % en el que un agente o herramienta de IA se conectó a los sistemas sin una aprobación de seguridad.

Los hallazgos también demostraron que los mecanismos de protección y control no siempre han ido al mismo ritmo que la adopción. El 59 % de los encuestados en México afirmó que su organización implementó herramientas de IA antes de establecer los controles de seguridad necesarios.

No obstante, más de la mitad de organizaciones mexicanas señalaron que bloquear solamente los comportamientos maliciosos que son conocidos ya no es suficiente como estrategia de seguridad, y el 52 % consideró que limitar a qué puede acceder la IA es más importante que intentar predecir cada potencial amenaza. 

"Las organizaciones en México están aprovechando las oportunidades que ofrece la Inteligencia Artificial y muestran una mayor disposición a asumir riesgos de lo que observamos a nivel global. Sin embargo, a medida que la IA adquiere más autonomía y capacidad de decisión, las estrategias de seguridad deben de evolucionar al mismo ritmo”, señaló el vicepresidente de Estrategia de Industria en Illumio, Raghu Nandakumara.

¿Cómo mitigar los riesgos de seguridad de la IA?

De acuerdo con SentinelOne, plataforma y empresa de ciberseguridad impulsada por inteligencia artificial, explicó que disminuir los riesgos originados por el uso de IA no se logra con una única solución, sino con un conjunto de medidas:

• Validación de datos. Las organizaciones deben implementar una validación integral de datos para identificar y filtrar datos maliciosos o corruptos. Las organizaciones deben usar algoritmos de detección de anomalías, garantizar auditorías frecuentes y la integridad de los conjuntos de datos utilizados para entrenar y probar modelos de IA
• Mejorar la seguridad del modelo. Las organizaciones deben utilizar técnicas como la privacidad diferencial para entrenar los datos de una manera que siga permitiendo un rendimiento preciso del modelo, pero que dificulte a un atacante extraer información sobre cualquier individuo. Las organizaciones deben implementar computación segura multipartita para el entrenamiento conjunto de IA con fuga de datos de punto cero
• Controles de acceso sólidos. Las organizaciones deben establecer capas de autenticación y autorización para cada componente dentro del sistema de IA. Además, las empresas deben habilitar la autenticación multifactor para el modelo de IA y el acceso a los datos de entrenamiento
• Auditorías de seguridad periódicas. Las organizaciones deben realizar periódicamente evaluaciones de seguridad de los sistemas de IA para determinar si existen vulnerabilidades. La seguridad del sistema debe evaluarse mediante herramientas automatizadas junto con pruebas de penetración manuales
• Prácticas éticas de IA. Las organizaciones deben establecer los límites del desarrollo aceptable y responsable de aplicaciones de IA en su negocio. Deben incorporar transparencia para hacer que el sistema sea responsable. El monitoreo y la evaluación de los resultados de los modelos de forma periódica para identificar compensaciones bidireccionales

Accede a herramientas premium y lleva tu actualización profesional al siguiente nivel. [Conoce todo lo que incluye nuestra membresía y únete hoy].