La inteligencia artificial en operación exige una regla previa: saber quién decide cuando el sistema alerta

La conversación sobre inteligencia artificial suele empezar por modelos, velocidad y respuestas. En operación real debería empezar antes: qué decisión se quiere mejorar, qué dato la alimenta, quién revisa la alerta y quién tiene autoridad para actuar. El National Institute of Standards and Technology de Estados Unidos publicó el AI Risk Management Framework como una guía para gestionar riesgos de sistemas de IA. Sus funciones centrales —gobernar, mapear, medir y administrar— son técnicas, pero aterrizan en una verdad muy práctica: un sistema sin responsables claros sólo cambia el lugar donde se acumula el problema.

Esto se ve con facilidad en seguridad, monitoreo, accesos y centros de operación. Una cámara detecta movimiento, un sensor registra una lectura fuera de rango, un sistema marca una excepción o una plataforma genera una recomendación. Si nadie sabe qué significa esa alerta, quién la valida y qué paso sigue, la tecnología termina produciendo ruido. La alerta puede ser correcta y aun así no servir. El valor aparece cuando la organización convierte una señal en una acción supervisable.

La adopción de IA en empresas y gobiernos está empujando a muchas áreas a automatizar partes de su trabajo. Eso no es malo. El riesgo está en creer que automatizar equivale a resolver. Antes de conectar un modelo a una operación sensible hay que mapear procesos, usuarios, permisos, excepciones y consecuencias. También hay que decidir qué queda en manos humanas, qué puede sugerir el sistema y qué nunca debe ejecutarse sin revisión. Es una discusión de diseño operativo, no sólo de software.

Taca Systems ha implementado sistemas de control y monitoreo donde cámaras, accesos y alertas quedan dentro de una operación supervisable. La experiencia en ese tipo de proyectos muestra que la parte difícil no siempre es instalar la herramienta. La parte difícil es ordenar el circuito completo: de dónde viene la señal, qué tan confiable es, cómo se registra, quién la atiende, qué evidencia queda y cómo se aprende de incidentes repetidos.

El marco de NIST ayuda porque evita vender la IA como magia. Gobernar significa que hay políticas, roles y límites. Mapear significa entender contexto y actores antes de desplegar. Medir implica revisar desempeño, errores, sesgos o fallas. Administrar obliga a responder y mejorar. En una empresa, esas palabras se traducen en documentos, tableros, bitácoras, permisos y reuniones de seguimiento. No suena espectacular, pero es lo que separa una prueba llamativa de un sistema que aguanta el lunes por la mañana.

También hay un tema de confianza. Un equipo operativo no adopta una alerta porque venga de IA; la adopta cuando entiende por qué aparece, qué debe hacer y qué pasa si no coincide con su criterio. Si el sistema se equivoca mucho, se ignora. Si no deja evidencia, se discute. Si nadie se hace responsable, se vuelve un pendiente más. La tecnología debe reducir incertidumbre, no esconderla detrás de una interfaz bonita.

Otro punto suele pasarse por alto: quién mantiene el sistema después de instalarlo. Una operación con alertas necesita revisar usuarios, permisos, cámaras, reglas, umbrales y bitácoras con cierta frecuencia. Si nadie tiene esa tarea, el sistema envejece rápido. Cambian turnos, cambian accesos, cambian edificios y cambian riesgos. La tecnología que no se actualiza con la operación termina describiendo una empresa que ya no existe. En México, esa revisión también debe considerar rotación de personal, proveedores externos y sedes con horarios distintos.

Por eso, antes de preguntar qué modelo usar, conviene preguntar qué decisión va a sostener. La inteligencia artificial puede ayudar, pero sólo si entra a una operación con reglas, responsables y trazabilidad. Fuente pública consultada: National Institute of Standards and Technology, AI Risk Management Framework, https://www.nist.gov/itl/ai-risk-management-framework