IA Agéntica: Ventajas y cómo implementarla de manera
segura dentro de tu empresa

La IA agéntica (o IA autónoma) es un sistema de inteligencia artificial que puede lograr un objetivo específico bajo poca supervisión. Consiste en agentes de IA: modelos de machine learning que imitan la toma de decisiones de los humanos para resolver problemas en tiempo real.

ÚNETE A IDC en nuestro canal de Whatsapp

IBM, empresa de automatización, explicó que a diferencia de los modelos de IA tradicionales, que operan dentro de restricciones predefinidas y requieren intervención humana, la IA agéntica demuestra autonomía, comportamiento orientado a objetivos y adaptabilidad. El término “agéntica” se refiere a la capacidad que tienen estos modelos para actuar de manera independiente e intencional.

Cloudflare, Inc. (NYSE: NET), servidor proxy inverso, aseguró que la naturaleza principal del tráfico de Internet ha cambiado. Hoy en día, los agentes automatizados y bots impulsan más de la mitad de todas las solicitudes de la web; la IA se está convirtiendo en la nueva interfaz para acceder a la información y realizar transacciones comerciales en línea, cambiando las reglas sobre cómo se detecta el contenido. 

¿Cuáles son las ventajas de la IA agéntica?

Los sistemas agénticos tienen muchas ventajas sobre sus predecesores generativos, que están limitados por la información contenida en los conjuntos de datos con los que se entrenan los modelos:

• Autónomos. Tienen la autonomía para realizar tareas sin supervisión constante por parte de humanos. Los sistemas agénticos pueden mantener objetivos a largo plazo, gestionar tareas de resolución de problemas de varios pasos y dar seguimiento al progreso a lo largo del tiempo
• Proactivos. Ofrecen la flexibilidad de los LLM, que pueden generar respuestas o acciones basadas en una comprensión más compleja y dependiente del contexto, con las características estructuradas, deterministas y confiables de la programación tradicional. Este enfoque permite a los agentes “pensar” y “hacer cosas” de una manera más humana
• Especializados. Los agentes pueden especializarse en tareas específicas; pueden usar la percepción y recurrir a la memoria para resolver problemas más complejos
• Adaptables. Los agentes pueden aprender de sus experiencias, recibir retroalimentación y ajustar su comportamiento. Con las protecciones adecuadas, los sistemas agénticos pueden mejorarse continuamente. Los sistemas multiagente poseen la escalabilidad necesaria para ocuparse, con el tiempo, de iniciativas de amplio alcance
• Intuitivos. Los usuarios pueden interactuar con ellos con instrucciones de lenguaje natural. Esto significa que interfaces de software completas pueden reemplazarse por lenguaje simple o comandos de voz

Sin embargo, algunos sistemas de IA agéntica pueden llegar a autorreforzarse, canalizando así comportamientos a instancias erróneas. Este problema ocurre cuando la IA es demasiado agresiva para optimizar una métrica en particular sin controles de seguridad. Y dado que los sistemas agénticos a menudo se componen de múltiples agentes autónomos que trabajan juntos, existen oportunidades de falla, atascos de datos, cuellos de botella y/o conflictos de recursos.

Accede a herramientas premium y lleva tu actualización profesional al siguiente nivel. [Conoce todo lo que incluye nuestra membresía y únete hoy].

¿Cómo implementar de manera segura la IA Agéntica?

La empresa de servicios TIC -prueba, inspección y certificación, Bureau Veritas, detalló que hay tres consejos fundamentales para emplear la IA Agéntica de manera segura, independientemente de en qué punto del uso de IA se encuentra la empresa, mientras tenga una aplicación con llamadas LLM (API), un Chatbot, un agente de IA o una aplicación de IA Agentic, se recomendó:

• Barreras de protección. Se debe implementar barreras de protección antes y después de la llamada LLM. Esto le permite sanear las entradas antes de que lleguen al modelo, y filtrar las salidas antes de que lleguen al usuario o a otro sistema. Las barreras de protección no son una mitigación, sino más bien una primera línea de defensa o higiene de base
• Respetar el "triángulo de riesgo de la IA". Cualquier solución de IA nunca debe combinar estos aspectos al mismo tiempo: entradas no confiables, acceso a datos sensibles o acceso a la red saliente. Se ha demostrado que combinar dos o más de estos aspectos al mismo tiempo es una receta para el desastre
• Security testing. Deben realizarse regularmente pruebas de penetración y/o Red Teaming para los sistemas de IA. Preferiblemente por parte de proveedores externos que no estén predispuestos a la implantación de su sistema de IA. Asegúrese de que las pruebas se ajustan a los riesgos enumerados por el sector, como la base de conocimientos de tácticas, técnicas y casos prácticos de adversarios específica para sistemas de IA denominada MITRE ATLAS y los 10 principales riesgos de seguridad de GenAI de la comunidad OWASP

Además de estos tres consejos, Bureau Veritas aconsejó a los clientes que conozcan y cumplan los marcos y las normas pues son la base para construir sistemas de IA seguros, fiables y preparados para el futuro.

¿Quieres saber más? ¡Sigue a IDC en Google News!