Gartner: la IA y sus grandes promotores no están listos para la empresa

Los analistas de Gartner Daryl Plummer y Kristin Moyer han usado el IT Symposium de la firma, en su primera edición australiana, para decir en voz alta algo que muchos equipos de TI sospechan: la IA y las empresas que la venden no están preparadas para el entorno corporativo. Plummer fue directo al responder sobre el trabajo con los grandes laboratorios: la confianza en esos proveedores "no está justificada todavía".

El ritmo y la falta de soporte

El argumento central es la cadencia de cambios. Los proveedores tocan sus modelos cada pocos meses, a veces sin avisar y sin mirar si eso rompe las aplicaciones que dependen de su salida. Plummer lo llamó "un ritmo de innovación fuera de control", y añadió que el problema no es solo la velocidad: ninguno ofrece soporte de versiones antiguas cuando la vida útil de un modelo ronda los seis meses. Si decides quedarte en la primera versión, no te van a hacer mucho caso. Eso, por sí solo, descarta que sean proveedores enterprise: no manejan los términos y condiciones corporativos, ni la responsabilidad legal, ni la continuidad.

Moyer puso el dato sobre la mesa: el 86% de los CIO ve que los riesgos de la IA crecen más rápido que el valor que genera. Parte de la culpa es lo que llama "consumo descuidado", empleados usando IA por usarla. Una encuesta que citó encontró que el 40% de los trabajadores se ha topado con contenido generado por IA defectuoso, y que descifrarlo cuesta de media dos horas: en una organización de 1.000 personas son 9 millones de dólares de trabajo al año. Frenar eso es complicado, porque ni siquiera sabes cuántos agentes tienes corriendo. La IA entra dentro de productos que ya compraste.

Function calls y agentes guardianes

Plummer puso un ejemplo de contención: montar un agente para hablar con una base de datos es una tontería cuando una function call resuelve el trabajo. Parte del uso irresponsable viene de los propios vendedores, que "están desesperados por monetizar la IA" y quieren agentes en todas partes. Sobre AIOps, la detección automática de problemas con arreglo en un clic, fue duro: van en la dirección correcta con motivaciones equivocadas, las de venderte su producto en lugar de la solución adecuada.

Gartner propone tres cosas. Un banco central de IA interno que vigile su uso en toda la organización y garantice la trazabilidad, algo que un ERP o un CRM dan por defecto y los agentes no siempre dejan por escrito. Agentes guardianes, cuya única función es observar a otros agentes y matarlos si se salen de los límites previstos. Y equipos de recuperación ante desastres dedicados a deshacer los estropicios que deje la IA. "Si te piden cuentas y respondes que lo hizo la IA, estás en problemas", resumió Plummer antes de recordar que serán los CIO quienes respondan por los fallos.

Para quien administra esto, el aviso tiene una lectura práctica: la decisión ya no es si adoptar IA, sino qué contratos, qué trazabilidad y qué plan de reversión tienes montados antes de que el proveedor cambie el modelo bajo tus pies. El mercado de herramientas de gobierno que promete resolverlo es, según Plummer, uno de los más fragmentados que han visto.