¿Está su empresa preparada para el riesgo silencioso de la IA?

Contenido

Mientras la atención pública se concentra en la futura regulación de la inteligencia artificial, un riesgo mucho más inmediato ya se encuentra dentro de las organizaciones colombianas. No se trata de sofisticados algoritmos autónomos ni de sistemas de alto riesgo similares a los regulados por el AI Act europeo. Se trata de algo mucho más cotidiano: empleados utilizando ChatGPT, Copilot, Gemini u otras herramientas de IA generativa sin supervisión, protocolos o políticas corporativas claras.

La adopción de inteligencia artificial en las empresas está ocurriendo a una velocidad muy superior a la capacidad de las organizaciones para gobernarla. Contratos, informes financieros, bases de datos de clientes, documentos estratégicos, hojas de vida, evaluaciones de desempeño e incluso información confidencial están siendo cargados diariamente en plataformas de IA generativa. En muchos casos, los responsables de cumplimiento, protección de datos, auditoría interna o recursos humanos ni siquiera son conscientes de ello.

Este fenómeno, conocido internacionalmente como Shadow AI, guarda similitudes con lo que hace algunos años ocurrió con el Shadow IT. Así como los empleados comenzaron a utilizar aplicaciones y servicios tecnológicos sin autorización de los departamentos de tecnología, hoy están incorporando sistemas de inteligencia artificial en sus procesos cotidianos sin que exista una evaluación previa de riesgos legales, éticos o de seguridad.

El problema es que la responsabilidad jurídica no desaparece porque la decisión haya sido asistida por una herramienta de inteligencia artificial. En Colombia continúan plenamente vigentes las obligaciones derivadas de la protección de datos personales, los derechos de los consumidores, las normas laborales, los deberes fiduciarios de administradores y los principios constitucionales asociados al debido proceso, la igualdad y la no discriminación.

La pregunta relevante para las empresas no es si utilizan inteligencia artificial. La verdadera pregunta es si conocen cómo, dónde y para qué la están utilizando sus colaboradores.

En este contexto, resulta preocupante que muchas organizaciones continúen enfocando la inteligencia artificial como un asunto exclusivamente tecnológico. La gobernanza de IA es, ante todo, una cuestión de capacidades institucionales. Requiere liderazgo directivo, políticas internas, procesos de supervisión, mecanismos de rendición de cuentas y formación especializada de los equipos humanos.

Particularmente, las áreas de recursos humanos deberían asumir un papel central en esta transformación. No basta con capacitar a los trabajadores en el uso de herramientas de IA. Es necesario desarrollar competencias para identificar riesgos, comprender sesgos algorítmicos, reconocer situaciones de discriminación automatizada, proteger información sensible y garantizar una supervisión humana efectiva de los sistemas utilizados.

Existe además un aspecto frecuentemente ignorado en los procesos de adopción tecnológica: los costes ocultos de la inteligencia artificial. Es cierto que estas herramientas pueden mejorar significativamente la eficacia y la eficiencia organizacional, automatizar tareas repetitivas y acelerar procesos de toma de decisiones. Sin embargo, estos beneficios suelen venir acompañados de costes menos visibles asociados al consumo de recursos computacionales, licencias, almacenamiento de datos, supervisión humana, auditorías, cumplimiento normativo, capacitación del personal y gestión de riesgos. A ello se suma un fenómeno especialmente relevante en los sistemas de IA generativa: el consumo descontrolado de tokens. La ausencia de políticas claras sobre el uso de estas herramientas puede traducirse en gastos crecientes y difíciles de identificar, generando una nueva categoría de costes operativos invisibles que pocas organizaciones están midiendo adecuadamente. En consecuencia, la verdadera rentabilidad de la inteligencia artificial no depende únicamente de su capacidad para aumentar la productividad, sino también de la capacidad institucional de gobernar, monitorear y controlar los riesgos y costes asociados a su utilización.

Las organizaciones más avanzadas ya están incorporando metodologías estructuradas de evaluación ética y de impacto. Entre ellas destaca Z-Inspection®, y de Tech4Peace como su partner local, un marco desarrollado para evaluar la confiabilidad de sistemas de inteligencia artificial mediante el análisis de escenarios sociotécnicos reales. A diferencia de los enfoques tradicionales basados únicamente en listas de verificación, Z-Inspection®, que permite identificar riesgos éticos, jurídicos y organizacionales antes de que estos se materialicen en daños concretos.

Este tipo de metodologías adquiere especial relevancia en un contexto donde estándares internacionales como ISO/IEC 42001 sobre sistemas de gestión de inteligencia artificial, ISO/IEC 23894 sobre gestión de riesgos de IA y marcos como NIST AI Risk Management Framework comienzan a consolidarse como referencias globales de buena gobernanza.

Las empresas colombianas no deberían esperar a que una futura ley de inteligencia artificial les imponga obligaciones. El riesgo ya está presente. Cada día que transcurre sin políticas internas de IA, sin procesos de evaluación de riesgos y sin programas de formación para empleados aumenta la exposición jurídica y reputacional de las organizaciones.

La próxima crisis empresarial vinculada a la inteligencia artificial probablemente no será causada por un algoritmo autónomo de última generación. Será consecuencia de una organización que nunca desarrolló las capacidades institucionales necesarias para gobernar adecuadamente una tecnología que ya forma parte de sus operaciones cotidianas.

La pregunta, por tanto, no es si la inteligencia artificial transformará su organización. La pregunta es si su organización está preparada para gobernarla.

*Realizada en colaboración con Ulf Thoene, profesor de la Escuela Internacional de Ciencias Económicas y Administrativas de la Universidad de La Sabana.