Gobernanza del uso de inteligencia artificial

Qué es

La gobernanza del uso de inteligencia artificial es el conjunto de reglas, responsabilidades y controles que una organización —o un país— define para decidir qué se puede hacer con estas herramientas, quién responde por el resultado y bajo qué condiciones se les entrega información. No es un manual técnico ni una política de TI: es un problema de diseño organizacional, del mismo linaje que las reglas sobre quién firma un cheque, quién aprueba un crédito o quién habla a nombre de la empresa.

El punto de partida teórico es que dentro de una firma la asignación de derechos de decisión importa tanto como la tecnología disponible. Jensen y Meckling (1976) mostraron que la empresa es un nudo de contratos donde cada delegación abre un costo de agencia, y Fama y Jensen (1983) separaron la iniciativa —proponer y ejecutar— del control —ratificar y monitorear—, argumentando que cuando ambas funciones se concentran en la misma persona el sistema pierde su freno. Una herramienta de IA generativa es, en términos económicos, una delegación masiva y barata de iniciativa: cualquier empleado puede pedirle a un modelo que redacte, calcule o resuma sin pasar por ningún control previo. La gobernanza es lo que repone el lado del control sin matar la iniciativa.

El segundo pilar es la teoría de la información como activo. Arrow (1962) formuló la paradoja fundamental del conocimiento: para valorar una información hay que conocerla, pero una vez revelada ya se entregó lo que se quería vender. La información es no rival —usarla no la consume— y solo es excluible mientras se la mantenga reservada. Cuando un empleado pega el balance de la empresa en un modelo gratuito, no está "perdiendo" el archivo: está destruyendo la excluibilidad que hacía de ese dato un activo. El daño es irreversible en un sentido preciso, porque no existe manera de des-revelar.

A eso se suma una externalidad clásica. Quien usa la herramienta particular obtiene el beneficio completo —termina antes, escribe mejor— y soporta solo una fracción mínima del costo esperado de la filtración, que recae sobre la firma entera. Es la estructura de un problema de recursos comunes (Hardin, 1968): incentivos individuales racionales que agregados producen un resultado que nadie habría elegido. La respuesta no es moral sino institucional —Ostrom (1990) documentó que estos dilemas se resuelven con reglas explícitas, monitoreo y sanciones graduadas, no con exhortaciones— y explica por qué la gobernanza que solo prohíbe suele fracasar: si la herramienta corporativa es peor que la gratuita, la regla se evade.

El tercer elemento es la responsabilidad indelegable. La economía del derecho distingue quién realiza una actividad de quién responde por ella; Shavell (1980) mostró que la asignación de responsabilidad determina el nivel de cuidado que se ejerce. Si nadie responde por la salida de un modelo, nadie la verifica, y el costo del error se traslada al cliente, al regulador o al accionista. La regla operativa —el sistema asiste, la persona responde— no es retórica: es la única que mantiene el incentivo a verificar.

Por último, la gobernanza tiene un componente de complementariedad organizacional. Brynjolfsson y Hitt (2000) documentaron que el retorno de la inversión en tecnologías de información aparece solo cuando viene acompañado de cambios en procesos, estructura y capacidades, con rezagos de años. La tecnología sin reglas ni capacidades rinde poco; las reglas sin capacitación producen evasión. De ahí que las políticas públicas serias sobre IA combinen tres piezas —fomento a la innovación, marco regulatorio y formación— en vez de apostar a una sola, como recomienda el marco de la OCDE sobre inteligencia artificial (OCDE, 2019).

Cómo lo explicó el programa

En Buenas Tardes Mercado del 11 de septiembre de 2026, Carolina Pérez Echeverría partió corriendo el problema de lugar: "ya sabemos que no es una transformación tecnológica, es una transformación organizacional". La consecuencia práctica es que no se le puede delegar al área de TI. Los directores, planteó, no necesitan ser expertos en tecnología, pero sí asumir tres responsabilidades: el impacto en la estrategia, las capacidades y el talento de la organización, y la gobernanza de qué se puede y qué no se puede hacer.

El riesgo concreto lo ubicó en el desfase entre dos velocidades de adopción. La personal corre mucho más rápido que la corporativa, y por eso "hay herramientas particulares y no se están usando las herramientas corporativas y ahí hay riesgo también de fugas". Es exactamente la externalidad descrita arriba: el empleado elige la herramienta que le conviene y el costo esperado lo paga la empresa.

Pepe Arias completó el cuadro con el costo oculto del modelo gratuito: usar una IA sin pagar implica entregar información propia, que "acaba de pasar a este dominio público", y agregó la reacción defensiva que ya se observa —empresas cerrando puertas y poniendo firewall—, porque "yo tampoco quiero que mi balance anden dando vueltas". La frase describe con precisión la pérdida de excluibilidad de Arrow: no desaparece el archivo, desaparece el control sobre quién más lo tiene.

Sobre la responsabilidad, Pérez Echeverría ofreció la imagen que ordena el resto: "la inteligencia artificial es mi copiloto… pero el piloto soy yo, yo soy responsable del uso de ella". El sistema aumenta capacidades —ayuda a investigar, a ser más creativo y productivo—, pero la responsabilidad por el uso, por el contenido y por la verificación no se traslada.

A nivel de país propuso tres pilares simétricos a los del directorio: apoyar la innovación, crear gobernanza y reglas del juego —porque toda tecnología tiene riesgos—, y capacitar para que las personas pierdan el temor, acercando estas herramientas a las pymes y a las personas. La formulación fue "en vez de tener este miedo que paraliza, tener esta mentalidad de crecimiento": el tercer pilar no es un adorno pedagógico, es lo que evita que la regulación se convierta en parálisis y la prohibición en evasión.

Relación con otros conceptos

La gobernanza de la IA es un caso particular del problema principal-agente: la firma delega una tarea a alguien cuyas decisiones no puede observar en detalle, y el diseño de reglas sustituye a la supervisión directa. Se conecta con el riesgo moral, porque quien usa la herramienta particular no internaliza el costo esperado de la filtración, y con las externalidades negativas, ya que ese costo recae sobre terceros dentro de la misma organización.

Del lado de los activos, se apoya en la economía de los bienes no rivales y de la propiedad intelectual: el valor del dato reservado depende enteramente de su excluibilidad. También dialoga con la paradoja de la productividad —la observación de que la inversión tecnológica tarda en aparecer en las cifras agregadas— porque la gobernanza y la capacitación son justamente los activos intangibles complementarios cuya ausencia explica el rezago.

Finalmente, se cruza con la brecha entre adopción declarada y uso efectivo: cuando la política interna prohíbe sin ofrecer sustituto, la adopción oficial cae y la real se desplaza a la sombra, produciendo estadísticas que subestiman el uso y sobreestiman el control. Y con el capital humano, dado que el tercer pilar —capacitar— es una inversión en la capacidad de usar bien la herramienta, no en la herramienta misma.

Fuentes y lecturas

• Arrow, K. J. (1962), Economic Welfare and the Allocation of Resources for Invention, en The Rate and Direction of Inventive Activity, NBER / Princeton University Press.
• Jensen, M. C. y Meckling, W. H. (1976), Theory of the Firm: Managerial Behavior, Agency Costs and Ownership Structure, Journal of Financial Economics.
• Fama, E. F. y Jensen, M. C. (1983), Separation of Ownership and Control, Journal of Law and Economics.
• Ostrom, E. (1990), Governing the Commons: The Evolution of Institutions for Collective Action, Cambridge University Press.
• Brynjolfsson, E. y Hitt, L. M. (2000), Beyond Computation: Information Technology, Organizational Transformation and Business Performance, Journal of Economic Perspectives.
• OCDE (2019), Recommendation of the Council on Artificial Intelligence, OECD Legal Instruments.