• 18 noviembre, 2026

¿Qué decisiones puede delegar una empresa a la IA?

¿Qué decisiones puede delegar una empresa a la IA?

La gobernanza de la inteligencia artificial empieza por definir qué puede hacer un agente por su cuenta y qué acciones requieren autorización humana.

Un correo pedía cambiar la cuenta bancaria de un proveedor. La empresa aceptó la solicitud y aprobó el pago. El mensaje era fraudulento y la empresa perdió miles de dólares por ese descuido. En este ejemplo, presentado por Daniel Rodríguez, asesor legal sénior de Tecnología y Datos de BAC, bastaba una regla conocida por los equipos de finanzas para detener la operación. “Antes de autorizar el cambio, alguien debía confirmar la solicitud con el proveedor por otro canal”, comentó el ejecutivo durante su participación en Momentum BAC, celebrado en la ciudad de Nueva York.

El ejemplo es clave para la discusión sobre la gobernanza de la inteligencia artificial (IA) en una decisión cotidiana. Una empresa puede encargarle a un agente que revise solicitudes de proveedores y reservarle a una persona la autorización de un cambio de cuenta. Para que esa distinción se cumpla, debe quedar establecida en los permisos del sistema que ejecuta la operación. Una instrucción escrita para el agente resulta insuficiente.

Daniel Pérez, vicepresidente corporativo sénior de Legal y Relaciones Públicas de BAC, compara esa supervisión sobre los agentes de IA con la de una torre de control aéreo.

“La torre permite que muchos aviones operen a la vez bajo reglas conocidas. En una empresa, la decisión de delegar se parece a la que toma un jefe cuando incorpora a alguien a su equipo. Al principio le asigna tareas acotadas. A medida que conoce la calidad de su trabajo, puede concederle mayor autonomía. Con un agente de IA, esa confianza también requiere la evidencia de que entiende y hace bien sus tareas”, explica.

El error que pasa inadvertido

Pérez llama la atención sobre un riesgo difícil de detectar. “Un agente puede cometer un error pequeño y repetirlo en muchas operaciones antes de que alguien lo advierta. Si responde consultas a partir de una política interna desactualizada puede dar una respuesta convincente cada vez que un cliente pregunte por el mismo asunto, y en realidad es un error”, explica.

La calidad del servicio depende tanto de la información que consulta el agente como de la capacidad de la empresa para revisar sus respuestas.

Rodríguez cita el caso de una compañía que intentó deslindarse de una respuesta de su chatbot. La propia empresa había diseñado y configurado el sistema y había decidido ponerlo a atender clientes. A juicio del abogado, la responsabilidad por el servicio sigue en manos de quien lo ofrece. De ahí la importancia de que preservar el criterio de los colaboradores sea parte de la gobernanza, en particular cuando el sistema entrega una respuesta que coincide con lo que la persona esperaba escuchar.

Quién fija las reglas

Rodríguez propone que las áreas de negocio trabajen con reglas comunes para el uso de la IA y puedan tomar decisiones sin llevar cada caso a un comité. En ese modelo, el consejo de IA orienta a los equipos para que apliquen las reglas con el mismo criterio. Las áreas de cumplimiento, ciberseguridad, datos y riesgos ajustan sus controles para cubrir los riesgos propios de esta tecnología.

Una de las preguntas que hacen los expertos es: ¿a qué estructuras y políticas existentes podemos anclar la gobernanza de IA?. La verificación de una cuenta bancaria ofrece una respuesta concreta. Finanzas ya conoce la razón de ese control. Al automatizar parte del trámite, su tarea es asegurar que el pago siga sujeto a la misma comprobación.

La revisión alcanza también a los proveedores de modelos y herramientas. “Además de comprobar que un proveedor puede hacer lo que ofrece, la empresa debe pedirle que explique cómo gestiona sus riesgos”, indica Rodríguez.
Antes de llevar un proyecto piloto a la operación diaria, el contrato debería dejar claro quién prestará asistencia y cómo se mantendrá el servicio si falla una herramienta de la que dependen los clientes.

Últimas entradas de Luis Diego Quiros (ver todo)
Etiquetas: BAC / datos / IA / Inteligencia artificial / Tecnología

Recomendaciones sobre este tema

Dónde invertir en IA y cuánto cuesta cambiar la forma de trabajar

Dónde invertir en IA y cuánto cuesta cambiar la forma de trabajar

En el evento Momentum BAC, celebrado en Nueva York, se planteó que el resultado de la inteligencia artificial…
BN Fondos se une al esfuerzo para el desarrollo de infraestructura sostenible con miras a impulsar la IA

BN Fondos se une al esfuerzo para el desarrollo de infraestructura sostenible con miras a impulsar la IA

Su participación en la Asociación Costarricense de Centros de Datos busca contribuir al desarrollo de una industria que…
Xiaomi presenta en París la serie 18 Pro con cámaras Leica de 200 MP

Xiaomi presenta en París la serie 18 Pro con cámaras Leica de 200 MP

Los nuevos teléfonos incorporan una pantalla en la parte posterior con funciones de traducción y fotografía, además de…