Contenido
La conversación sobre los riesgos de la inteligencia artificial suele quedar atrapada entre dos extremos. En uno, la promesa de sistemas capaces de transformar la economía, la ciencia y la productividad. En el otro, la imagen de una inteligencia artificial que supera al ser humano, se mejora a sí misma y termina escapando a nuestro control.
OpenAI anunció recientemente que un sistema experimental había producido una solución a uno de los grandes problemas matemáticos abiertos. El 8 de septiembre, OpenAI anunció que un sistema experimental había producido una solución al problema de existencia y regularidad de las ecuaciones de Navier–Stokes, uno de los célebres Problemas del Milenio. La compañía publicó tanto la demostración como una formalización en Lean. El resultado deberá superar el escrutinio de la comunidad matemática antes de poder considerarse definitivamente establecido, pero el acontecimiento resulta significativo por otra razón: muestra hasta qué punto la IA comienza a intervenir no solo en tareas rutinarias, sino en problemas situados en la frontera del conocimiento. No es un episodio aislado. En mayo, OpenAI había anunciado que otro modelo refutó una conjetura central relacionada con el problema de las distancias unitarias de Erdős, estudiada durante cerca de ocho décadas. Posteriormente presentó otros resultados sobre problemas abiertos de matemáticas e informática teórica.
Aunque el resultado deberá superar el escrutinio de la comunidad científica antes de poder considerarse definitivamente establecido, pero el episodio importa por otra razón: muestra hasta qué punto la IA comienza a intervenir no solo en tareas rutinarias, sino en problemas situados en la frontera del conocimiento.
Esto no significa que exista una inteligencia artificial general que haya superado al ser humano en todas las capacidades cognitivas, ni sistemas capaces de iniciar por sí mismos un proceso sostenido de mejora recursiva fuera del control humano. Pero sí obliga a distinguir entre posibilidad y predicción. Los modelos mejoran rápidamente en razonamiento, programación, planificación, uso de herramientas y ejecución de tareas cada vez más complejas.
El riesgo de pérdida de control de la IA sigue siendo un riesgo de frontera: incierto, difícil de estimar y con consecuencias potencialmente extraordinarias. Precisamente por ello merece investigación y prevención. Sin embargo, convertirlo en el centro exclusivo del debate puede distraernos de los riesgos que ya tenemos delante.
Hoy la inteligencia artificial ya se utiliza para fraude, suplantación, contenido engañoso y operaciones de ciberseguridad. También conocemos problemas relacionados con deepfakes, discriminación algorítmica, privacidad, errores convincentes, manipulación personalizada y dependencia excesiva de decisiones automatizadas.
Aquí aparece un riesgo menos espectacular, pero probablemente más frecuente: organizaciones que incorporan inteligencia artificial sin saber exactamente qué datos utiliza, cómo supervisar sus resultados, quién responde por sus decisiones o qué ocurre cuando falla. Una IA mediocre mal integrada puede causar un daño considerable si interviene sobre millones de personas o en decisiones sobre crédito, salud, empleo, educación o servicios públicos.
Existe, además, otra dimensión que nos explica por qué resulta tan difícil introducir cautela: la inteligencia artificial se ha convertido en un terreno de competencia estratégica.
Estados Unidos y China no compiten únicamente por desarrollar mejores modelos. Compiten por semiconductores, capacidad de cómputo, centros de datos, energía, talento y capital y, en último término, por ocupar posiciones dominantes en la infraestructura tecnológica de las próximas décadas. La velocidad deja así de ser únicamente una decisión empresarial y se convierte en una variable geopolítica.
Los movimientos alrededor de Anthropic permiten observar esta tensión con especial claridad. La compañía detrás de Claude prepara su salida a bolsa, una operación que evidencia la extraordinaria movilización de capital necesaria para permanecer en la frontera tecnológica. Al mismo tiempo, la salida de uno de sus ingenieros, acompañada de advertencias sobre la dirección y velocidad que está tomando el desarrollo de estos sistemas, muestra la otra cara de esa carrera: las dudas no proceden únicamente de reguladores o académicos externos, sino también de personas que participan directamente en la construcción de la tecnología.
Ambos acontecimientos no son contradictorios. Son manifestaciones de una misma estructura de incentivos.
Las empresas necesitan cantidades crecientes de capital para desarrollar sistemas más potentes; los inversores esperan crecimiento; los Estados consideran la IA una capacidad estratégica; y ninguno de los principales actores quiere permitir que sus competidores obtengan una ventaja difícil de recuperar. En la rivalidad entre Estados Unidos y China, desacelerar unilateralmente puede percibirse como un coste estratégico. Se forma así un círculo de aceleración: mayores capacidades requieren más inversión; más inversión exige resultados; los resultados intensifican la competencia; y la competencia aumenta nuevamente la presión por desarrollar sistemas más capaces.
Esto cambia la pregunta regulatoria. Ya no basta con preguntarnos si las empresas tecnológicas avanzan demasiado rápido. Debemos preguntarnos qué estructura de incentivos económicos y geopolíticos las empuja a hacerlo.
Ahí aparece la paradoja: cuanto mayor es la velocidad de la carrera, mayor es la necesidad de supervisión; pero también mayores son los incentivos para eliminar aquello que pueda ralentizarla.
La respuesta no puede ser intentar escribir una nueva ley cada vez que aparece un modelo. Los ciclos tecnológicos se miden en semanas o meses; los regulatorios, en años. La alternativa consiste en gobernar la IA a partir del riesgo y durante todo su ciclo de vida: evaluación previa, documentación técnica, trazabilidad, pruebas independientes, gestión de incidentes, ciberseguridad, supervisión humana, monitorización posterior y responsabilidades claramente asignadas.
La lección para Colombia es especialmente importante: no debemos esperar una gran ley integral de inteligencia artificial para empezar a gobernarla. La ausencia de una ley específica no significa ausencia de obligaciones. Protección de datos, seguridad de la información, protección al consumidor, responsabilidad y normas sectoriales ya establecen límites. El déficit aparece muchas veces en la capacidad institucional para identificar riesgos, exigir información, auditar sistemas, investigar incidentes y hacer efectivas esas responsabilidades.
Por eso la gobernanza de la IA necesita algo más que principios éticos. Necesita infraestructura jurídica e institucional: datos de calidad, trazabilidad, responsabilidades definidas, mecanismos de supervisión y capacidad real para explicar, auditar, corregir e incluso retirar sistemas cuando sea necesario. Existen ya metodologías que hacen ese tránsito del principio a la práctica. Z-Inspection®, un proceso participativo de evaluación de IA confiable que reúne equipos multidisciplinares alrededor de escenarios sociotécnicos concretos, muestra que auditar un sistema no es una declaración de intenciones, sino un procedimiento documentado y reproducible. Su despliegue en Colombia, de la mano de Tech4Peace, permite además ensayarlo donde más importa: allí donde la capacidad institucional de supervisión es todavía frágil.
No se trata de frenar la innovación. En una carrera tecnológica global, probablemente tampoco sería una estrategia realista. Se trata de evitar que competir signifique experimentar sin responsabilidad.
La pregunta fundamental no es si algún día la inteligencia artificial será más inteligente que nosotros. Es qué decisiones estamos dispuestos a delegarle, bajo qué condiciones, quién responderá cuando falle y qué capacidad conservaremos para recuperar el control.
En una carrera que nadie quiere perder, esas preguntas son más urgentes, no menos.
Ahí comienza la verdadera gobernanza de la inteligencia artificial.