En las últimas semanas, el lanzamiento del nuevo modelo de inteligencia artificial Mythos ha generado un debate importante en el sector tecnológico y de gestión de riesgos.

Más allá de su capacidad técnica, el interés real está en las implicaciones que este tipo de modelos empieza a tener para las organizaciones.

El problema ya no es únicamente utilizar inteligencia artificial.

El problema es hacerlo sin control, sin trazabilidad y sin entender realmente cómo se está utilizando dentro de la empresa.

La aceleración tecnológica supera a los controles

Cada vez es más habitual que los empleados utilicen herramientas de inteligencia artificial en su día a día sin supervisión formal.

Redacción de documentos, análisis de datos, automatización de tareas o generación de contenido.

En muchos casos, estas herramientas se incorporan a la operativa antes de que la organización haya definido políticas claras sobre su uso.

Y eso genera riesgos.

El riesgo de la “shadow AI”

Uno de los fenómenos que empieza a preocupar especialmente es el uso no controlado de inteligencia artificial dentro de las organizaciones.

Lo que ya se conoce como shadow AI.

Herramientas utilizadas sin validación previa, intercambio de información sensible con terceros o uso de plataformas cuyos modelos de tratamiento de datos no siempre son transparentes.

El problema no es la IA

La inteligencia artificial aporta enormes ventajas.

El verdadero reto es gobernarla correctamente.

Disponer de políticas claras, inventarios de herramientas utilizadas, controles de revisión y trazabilidad empieza a ser tan importante como la propia tecnología.

Una cuestión de gestión

La gestión de riesgos vinculados a inteligencia artificial ya no es una cuestión futura.

Empieza a convertirse en una necesidad operativa y regulatoria para muchas organizaciones.