VIE 07/08
TDC 17.1387
VIE 10/07
INPC 145.1690
MIE 01/07
RECARGOS FEDERALES 2.07%
DOM 01/02
UMA 117.31
La automatización sin supervisión puede generar responsabilidades en privacidad, propiedad intelectual y decisiones que afecten los derechos de las personas
La adopción de inteligencia artificial (IA) avanza entre las empresas mexicanas para crear contenidos, automatizar procesos y apoyar la toma de decisiones. De acuerdo con cifras de KPMG retomadas por Arochi & Lindner, las compañías en México prevén invertir, en promedio, 171 millones de dólares en esta tecnología durante los próximos 12 meses.
Además, 31% de las organizaciones ya implementa o amplía el uso de agentes de IA. Sin embargo, delegar procesos a estas herramientas sin conservar mecanismos de supervisión humana puede exponer a las empresas a conflictos relacionados con exposición de datos personales, violaciones a derechos de autor, actos de discriminación al no reducir sesgos o generar resultados incorrectos indispensables para la toma de decisiones.
¿Quieres saber más? ¡Sigue a IDC en Google News!
¿Qué riesgos legales genera la IA sin supervisión humana?
Cada vez que una persona utiliza inteligencia artificial para redactar un contrato, crear una imagen, diseñar un logotipo, desarrollar código o elaborar una campaña publicitaria, conserva la responsabilidad de determinar qué información incorpora, cómo formula las instrucciones y si el resultado puede utilizarse legalmente.
Para Gabriela Espinosa, counsel en Arochi & Lindner, la IA debe entenderse como una herramienta que amplifica el talento humano y no como un sustituto absoluto de la intervención de las personas. Esto implica que las organizaciones deben revisar los resultados generados antes de utilizarlos para tomar decisiones o difundirlos.
En industrias creativas, como publicidad, diseño, música y entretenimiento, uno de los principales riesgos consiste en utilizar obras, marcas, imágenes o elementos protegidos. También deben revisarse los contenidos empleados para entrenar los sistemas y determinar quién puede reclamar derechos sobre el resultado final.
En el sector salud, estas herramientas pueden facilitar diagnósticos y apoyar el desarrollo de tratamientos, pero también plantean preguntas sobre quién responde ante una recomendación equivocada y cómo debe protegerse la información relacionada con el estado de salud de los pacientes.
Otros sectores, como manufactura, transporte y desarrollo de software, necesitan identificar en qué etapas resulta indispensable incorporar una revisión humana, especialmente cuando los errores pueden ocasionar daños físicos, económicos o afectaciones a terceros.
¿Qué reglas aplican al uso de IA en México?
México todavía no cuenta con una legislación integral que regule el desarrollo y uso de la inteligencia artificial o que establezca obligaciones diferenciadas según el riesgo de cada aplicación. Sin embargo, esto no significa que su utilización ocurra sin límites jurídicos.
La Ley Federal de Protección de Datos Personales en Posesión de los Particulares contiene disposiciones aplicables a las decisiones automatizadas cuando puedan producir efectos jurídicos no deseados o afectar significativamente los derechos de una persona.
Esta protección cobra relevancia cuando la IA interviene en procesos como contratación, evaluación de personal, otorgamiento de créditos, atención médica o acceso a servicios. En estos casos, las empresas deben revisar qué información alimenta al sistema, cómo se genera la decisión y si existe la posibilidad de solicitar una intervención humana.
Por otro lado, las reformas a la Ley Federal del Derecho de Autor fortalecen la protección de artistas e intérpretes frente al uso no autorizado de su imagen, voz y otros elementos de su identidad mediante herramientas de inteligencia artificial.
Accede a herramientas premium y lleva tu actualización profesional al siguiente nivel. [Conoce todo lo que incluye nuestra membresía y únete hoy].
¿Qué controles deben implementar las empresas?
Ante la falta de una regulación integral, las organizaciones necesitan establecer esquemas internos de gobernanza que acompañen la adopción de inteligencia artificial.
El primer paso consiste en identificar qué herramientas utilizan los trabajadores y en qué procesos intervienen. Este inventario debe permitir conocer si se están introduciendo datos personales, información confidencial, secretos industriales o contenidos pertenecientes a terceros.
Las empresas también deben establecer:
- políticas internas sobre los usos permitidos y prohibidos de la IA
- responsables para autorizar y supervisar las herramientas
- evaluaciones de riesgo antes de automatizar decisiones
- reglas para proteger datos personales e información confidencial
- mecanismos para verificar la calidad, precisión y legalidad de los resultados
- procesos para documentar las instrucciones y decisiones relevantes
- intervención humana obligatoria en actividades de alto impacto
- protocolos para responder ante errores, filtraciones o afectaciones a terceros
La experiencia de la Unión Europea muestra un modelo basado en niveles de riesgo, mientras mayor sea el impacto potencial de un sistema sobre derechos como la salud, el empleo, el crédito o la justicia o la vida, mayores deben ser las obligaciones de documentación, transparencia y supervisión.
Por ello, la gobernanza no debe entenderse como una barrera para innovar, sino como una medida para utilizar la tecnología con mayor certeza.
¿Quieres saber más? ¡Sigue a IDC en Google News!
