Hay conversaciones que solo ocurren en agosto.
Quizá porque tenemos más tiempo y bajamos nuestro ritmo frenético del día a día. Porque una cerveza en una terraza se alarga más de lo previsto y acabamos hablando de esas cosas que durante el año dejamos para “cuando tengamos un rato”.
Hace unos días, en una de esas conversaciones, salió la inteligencia artificial.
Éramos varias personas de profesiones y sectores muy diferentes. Algunos trabajando con información especialmente sensible: datos personales, financieros, legales, de clientes, información que sabemos que no debería salir alegremente de nuestro entorno de trabajo.
La conversación fue fluyendo, cada uno transmitía sus sensaciones y experimentos que estábamos realizando en el trabajo. La sensación generalizada: No somos conscientes de todo lo que nos viene encima y alucinamos con cada actualización de los modelos.
También apareció otro debate interesante: ¿Sabemos realmente cómo se está utilizando la IA en nuestras empresas?
La respuesta, después de darle unas cuantas vueltas, fue bastante menos tranquilizadora: Probablemente no.
No hace falta que una empresa haya comprado una herramienta de inteligencia artificial.
No hace falta que el departamento de IT haya desplegado una IA interna.
Ni siquiera hace falta que exista una estrategia de IA.
La IA puede haber entrado ya por la puerta de atrás y, si la empresa no facilita su uso, nosotros, como profesionales, buscamos o buscaremos la manera.
En general, todos coincidimos en que, tanto si tu empresa tiene o no implantada la IA en los procesos internos, la frase que más se repite en nuestro día a día es: “Voy a preguntárselo a ChatGPT.”
Herramientas de IA que la empresa quizá nunca ha aprobado acaban recibiendo información de la empresa. Y probablemente nadie ha hecho nada con mala intención. Ese es, precisamente, el problema.
Bienvenidos a la Shadow AI
El término Shadow AI describe el uso de herramientas de inteligencia artificial sin el conocimiento, aprobación o supervisión de la organización.
Y no parece ser un fenómeno marginal. Según Microsoft y LinkedIn, el 75% de los trabajadores del conocimiento ya utilizaba IA en el trabajo en 2024. Pero hay un dato todavía más sorprendente: el 78% de los usuarios de IA afirmaba llevar sus propias herramientas al trabajo, lo que Microsoft denomina Bring Your Own AI (BYOAI).
Es decir, la adopción no está esperando a que lleguen las políticas.
Estamos utilizando una tecnología que puede leer, resumir, transformar, clasificar y generar información a una velocidad enorme. Y todavía estamos aprendiendo a ponerle límites.
Las personas ya estamos encontrando nuestras propias maneras de utilizar estas herramientas. Y podemos discutir si eso es bueno o malo, pero quizá la pregunta más importante sea otra: ¿sabemos qué estamos haciendo?
Durante años hemos enseñado a las personas a no abrir determinados enlaces, no compartir determinadas contraseñas y no enviar determinados documentos.
Ahora tenemos que enseñarles también algo mucho más nuevo: qué significa compartir información con una inteligencia artificial. Porque no siempre es evidente.
Como todas las revoluciones, el problema es la distancia entre la velocidad de adopción de una tecnología y nuestra capacidad para entender sus consecuencias.
Necesitamos herramientas, políticas y controles.
Pero también necesitamos algo mucho más básico: criterio.
Que una persona sepa reconocer cuándo está trabajando con información que no debería introducir en una herramienta externa.
Que sepa qué herramientas están autorizadas.
Que entienda qué puede hacer la IA y qué no.
Y que pueda preguntar sin miedo cuando tenga dudas.
Y ahora la pregunta os la dejamos a vosotros:
¿Sabéis cómo se está utilizando la IA en vuestra empresa?
Y, sobre todo… ¿Sabéis qué datos estamos compartiendo?
📬 ¿Prefieres verla tal y como la recibieron las personas suscritas a Datola?
Puedes consultar la versión original de la newsletter con todas las novedades y colaboradores destacados del mes en el diseño completo del email.
Datola Comunidad
Debatimos, compartimos y aprendemos entre profesionales de la analítica digital, el marketing y el mundo de los datos.