Cuando la IA se equivoca, ¿quién responde?
28 de mayo de 2026Contenido
Durante años, la conversación sobre inteligencia artificial en las organizaciones giró alrededor de las capacidades. Qué tan rápido redactaba un borrador, qué tan bien resumía un expediente, cuánto trabajo repetitivo podía absorber, qué porcentaje de un proceso lograba automatizar. Era una discusión sobre rendimiento, y en buena medida ya está resuelta. Las herramientas funcionan. La pregunta que empieza a ocupar el centro es distinta y bastante más incómoda: cuando esa tecnología se equivoca, quién responde.
El asunto dejó de ser hipotético. En abril de 2026, Sullivan & Cromwell, una de las firmas de abogados más prestigiosas del mundo, tuvo que disculparse ante un juez del Distrito Sur de Nueva York por un escrito que contenía citas legales fabricadas por inteligencia artificial. La firma reconoció que tenía políticas internas sobre el uso de estas herramientas, capacitación obligatoria y la instrucción expresa de verificar todo, y aun así los controles no se siguieron. El mismo mes, Anthropic amplió su oferta hacia el sector legal con capacidades empresariales diseñadas para firmas, sumándose a un mercado donde ya competían Harvey, CoCounsel de Thomson Reuters y otras plataformas. Mientras la oferta tecnológica se sofistica a gran velocidad, la pregunta sobre la responsabilidad avanza mucho más despacio, y esa diferencia de ritmos es justamente el problema.
El Observatorio de Políticas de IA de la OCDE viene insistiendo, desde hace varios años, en que la responsabilidad por los sistemas automatizados debe permanecer siempre en manos humanas identificables, sin importar cuán autónomo parezca el sistema. El principio es sencillo de enunciar y difícil de operar: la autonomía técnica de la herramienta no diluye la responsabilidad jurídica de quien la usa.
Muchas empresas ya están tomando decisiones parcialmente automatizadas sin haber redefinido lo que esa automatización exige. Incorporan la herramienta, pero no actualizan los procesos de revisión. Promueven el uso, pero no definen con claridad quién supervisa, con qué estándar y en qué momento de la cadena. Y casi nunca establecen un esquema de accountability interno que diga, antes de que ocurra el problema, quién responde por qué. La tecnología entra rápido. La gobernanza llega tarde, si es que llega.
La responsabilidad demostrada cambia el estándar de manera silenciosa pero profunda. Ya no basta con que una empresa diga que usa inteligencia artificial de forma responsable. Tiene que poder demostrar que entiende cómo la usa, qué riesgos genera, qué datos alimenta, qué controles implementó y cómo gestiona los errores cuando aparecen. La carga deja de ser declarativa y pasa a ser probatoria. Frente a una autoridad, la pregunta dejará de ser si la empresa tenía buenas intenciones y pasará a ser si puede mostrar evidencia de una gobernanza real sobre la tecnología que decidió incorporar.
La inteligencia artificial probablemente no eliminará la necesidad de abogados, contadores ni oficiales de cumplimiento. Lo que sí hará, con una claridad cada vez más difícil de esquivar, es separar a las organizaciones que entienden cómo gobernar tecnología compleja de las que simplemente están improvisando modernización sobre estructuras internas que no se sostienen. La diferencia entre unas y otras no se va a notar el día que compran la herramienta. Se va a notar el día que algo sale mal, cuando haya que mostrar quién respondía, con qué criterio y bajo qué control.