La mayoría de los CIO y CTO son responsables de sistemas que no controlan por completo, ya que la adopción de la IA supera las capacidades de gobernanza actuales.

Un nuevo estudio global realizado por IBM con 2000 ejecutivos de tecnología de alto nivel ha revelado que dos tercios se ven obligados a asumir la responsabilidad de sistemas de IA que no pueden supervisar de forma realista, y solo el 11 % afirma estar completamente preparado para la magnitud del despliegue de agentes de IA.

Los encuestados afirmaron que para 2027 esperan un aumento del 38 % en el número de agentes de IA desplegados; y si bien ocho de cada diez informan haber recibido mandatos de transformación impulsados ​​por el director ejecutivo, el 77 % dijo que su adopción de IA ya está superando las capacidades de gobernanza actuales.

«Para los CIO y CTO, el desafío ahora es escalar los sistemas de IA que operan de forma continua y autónoma, a menudo dentro de modelos de gobernanza y arquitecturas diseñadas para un entorno mucho más lento y predecible», dijo Matt Lyteson, CIO de IBM.

«Ya no se trata solo de implementar la IA más rápido. Se trata de rediseñar la forma en que las organizaciones la controlan, la gestionan y la invierten, e integrar el control y la visibilidad desde el principio, para que puedan escalar con confianza.»

El análisis de la empresa reveló que, en las organizaciones que dependen de la gobernanza manual, el riesgo de incidentes aumenta a medida que se amplía la adopción de la IA, mientras que aquellas que integran el control directamente en sus sistemas de IA experimentan un 25 % menos de incidentes.

Casi seis de cada diez CIO y CTO encuestados citaron las preocupaciones sobre seguridad y cumplimiento normativo como las principales barreras para la ampliación de los agentes de IA.

El año pasado, las organizaciones experimentaron un promedio de 54 incidentes con agentes de IA en los que un suceso no deseado o perjudicial requirió intervención humana. De estos, el 17 % fueron de alta gravedad y requirieron más de cuatro horas para su resolución: el 37 % provocaron la exposición de datos o brechas de seguridad, el 33 % causaron fallos en cascada del sistema y el 17 % generaron problemas de cumplimiento normativo.

«La presión no hace más que intensificarse. Los directores ejecutivos quieren que la IA se implemente a mayor escala. Los líderes empresariales buscan autonomía. Y las expectativas de rendición de cuentas siguen aumentando», afirmó Lyteson.

«Sin embargo, muchas organizaciones siguen operando con arquitecturas, controles y modelos de financiación diseñados para la toma de decisiones a velocidad humana, en sistemas que ahora funcionan a velocidad de máquina.»

Si bien se prevé que el gasto en IA crezca de poco menos del 15 % de los presupuestos de TI en 2025 a casi el 25 % en 2027, el 84 % de los CIO y CTO de tecnología no han implementado completamente la gestión financiera de la IA, y el 85 % aún carece de visibilidad total del gasto en IA en tiempo real.

Sin embargo, las organizaciones que incorporan controles en sus sistemas de IA implementan 16 veces más agentes de IA que aquellas que dependen de la gobernanza manual, obtienen márgenes operativos un 18 % superiores y gastan una cuarta parte de su presupuesto de IA.

Aquellas empresas con una sólida disciplina financiera implementan 2,4 veces más agentes de IA, sin aumentar su presupuesto de IA/TI, y tienen tres veces más probabilidades de afirmar que están totalmente preparadas para la escalabilidad de la IA.

Mientras tanto, aquellos que diseñaron sus sistemas pensando en la adaptabilidad desde el principio, manteniendo las cargas de trabajo portátiles y los modelos reemplazables en lugar de estar sujetos a dependencias rígidas, reportaron un retorno de la inversión en IA un 10 % mayor en 2025.

«La principal limitación es la adaptabilidad. La mayoría de las organizaciones se crearon para el control, la estandarización y la eficiencia», dijo Lyteson.

«Pero en un entorno impulsado por la IA, ahora son la arquitectura, la gobernanza y las decisiones de inversión las que determinan la rapidez con la que pueden avanzar, los riesgos que pueden absorber y qué oportunidades siguen siendo viables.»