Las herramientas de inteligencia artificial han sido blancos de ataques debido a lo preciado que es la información que albergan, ya que usualmente registran datos como búsquedas o solicitudes.

Estos son los principales tipos de ataques que reciben los modelos de IA

De acuerdo con la empresa proveedora de servicios de seguridad informática, ESET Latinoamérica, esta es la lista de agresiones:

1. Envenenamiento o alteración de datos con el propósito de modificar de manera negativa el comportamiento.

2. Manipulación de entradas que generarán errores.

3. Aprovechamiento del modelo en su fase de producción para generar otros ataques. 

4. Apropiación de datos sensibles con el objetivo de usarlos para vulnerar la ciberseguridad de los usuarios.

5. Envío de consultas con la finalidad de entender y volver a construir la estructura interna del modelo, para después emularlo.

6. Modificación de inputs con el propósito de evadir acciones maliciosas o generar clasificaciones equivocadas.

7. Interrupción de bloqueos, operaciones y filtración de información a través de infección por malware. 

¿Quieres saber más? ¡Sigue a IDC en Google News!

¿Cuáles son las consecuencias que puede tener la manipulación de los modelos de inteligencia artificial?

Existen varias formas en las que los ciberatacantes han logrado transgredir los modelos de IA. Entre ellos, existen:

• La manipulación de chatbots con el objetivo de entrenarlos para aprender información maliciosa.

• La extracción de información confidencial y peticiones específicas.

• El mal manejo del comportamiento de sus outputs.

• La interrupción del sistema de los servidores. 

• La afectación a la estructura interna de las APIs. 

¿Cómo se puede prevenir este tipo de ataques?

La mejor forma de combatir las vulneraciones a los modelos de IA es mezclando la tecnología con el poder humano, a través de una compañía que cuente con servicio 24/7 y pueda proveer medios rápidos de contacto.

ÚNETE A IDC en nuestro canal de Whatsapp