Por qué la IA por sí sola no es suficiente para el análisis empresarial

Los análisis basados en la inteligencia artificial son una perspectiva tentadora: con solo pulsar unas teclas, obtienes respuesta a tus preguntas sin complicaciones.

La IA (concretamente, los modelos de lenguaje a gran escala como Claude, ChatGPT y Gemini) es excelente a la hora de generar respuestas basadas en Internet. Y tu empresa dispone de muchos menos datos que Internet. Así que configura unos servidores MCP, conecta tu modelo de lenguaje a gran escala a tus datos y puede que te parezca que ya estás en marcha.

Por desgracia, no es así.

Existen numerosos retos específicos que se interponen entre usted y el éxito en el análisis empresarial basado en la inteligencia artificial. Estos retos son muy reales, pero no insuperables. A continuación le explicamos cuáles son y cómo puede mitigarlos.

El análisis empresarial no puede basarse en conocimientos generales

Si le pides a una IA sin supervisión que analice la «tasa de abandono», existe una probabilidad no nula de que su respuesta se refiera a la producción de mantequilla en lugar de a la retención de clientes.

E incluso si el modelo de IA utiliza la misma definición de «tasa de abandono» a la que te refieres, sigue habiendo múltiples niveles de significado que hay que definir:

• Definiciones de los indicadores: ¿Cómo calcula tu empresa, concretamente, la «tasa de abandono»?
• Definiciones empresariales: Si la tasa de abandono se basa en los clientes activos, ¿se consideran clientes los usuarios de la prueba gratuita? ¿Se considera cliente una licencia individual dentro de una licencia organizativa, o es la organización la que se considera cliente? ¿Se determina el estado «activo» en función del estado de la cuenta del cliente o de su uso del producto?
• Relaciones entre datos: ¿En qué fuente de datos se almacena la información de los clientes? ¿Cómo deben relacionarse esos registros de clientes con los registros de actividad de los productos? 
• Normas de la organización: ¿Quién se encarga de definir un término o de mantener un conjunto de datos? 
• Permisos de acceso: ¿Tienes siquiera autorización para conocer la tasa de abandono de la empresa?

Cada una de estas preguntas puede tener una respuesta diferente, pero totalmente válida, dependiendo de la organización.

No hay forma de garantizar que tu modelo de lenguaje grande (LLM) deduzca la respuesta correcta específica de tu empresa a cada una de estas preguntas, basándose únicamente en el entrenamiento general obtenido de Internet en general. Y tampoco hay forma de saber qué conclusiones ha sacado tu LLM. La precisión y la transparencia que requiere el análisis empresarial simplemente no están ahí.

El mero acceso a los datos no es suficiente

Si la «formación general a partir de Internet en general» no proporciona suficiente contexto al modelo de lenguaje grande (LLM), ¿lo conseguiría al conectarlo con tus propios datos?

No. Tus datos sin procesar no tienen suficiente contexto para que tu modelo de lenguaje grande (LLM) pueda deducir las respuestas correctas.

Ambigüedad

Cuando te encuentras preguntándote «dónde», «por qué» y «cómo», significa que hay ambigüedad en los datos de tu organización.

Se manifiesta de muchas formas diferentes.

Por ejemplo, los cálculos métricos podrían ser incoherentes debido a que:

• No hay documentación sobre cómo se debe calcular una métrica.
• Varias unidades de negocio han documentado una métrica, y los cálculos documentados son todos diferentes.
• Una métrica está documentada en un único lugar, pero las distintas unidades de negocio obtienen los datos necesarios para el cálculo de diferentes fuentes.

O quizá en tu organización existan interpretaciones contradictorias de conceptos empresariales. Piensa en el ejemplo anterior de «¿Son los usuarios de la prueba gratuita clientes activos?»: está claro que una unidad de negocio podría responder que sí, otra que no, que no son clientes, y otra que no, que no son activos.

La ambigüedad en los conceptos empresariales puede ser incluso más básica: ¿cuando se habla de «este año», se refiere al año natural o al ejercicio fiscal?

El mero hecho de conectar un LLM a tu base de datos no va a aclarar nada de esto.

A largo plazo, en realidad empeorará las cosas: la IA es, como es bien sabido, siempre segura de sí misma en sus respuestas. Esa falsa seguridad, tomada al pie de la letra, en un primer momento enmascarará la realidad incierta e inconsistente de tus datos y análisis, y posteriormente socavará la confianza a medida que fracasen las decisiones basadas en resultados erróneos.

Gartner estima que, en los próximos dos años, el 60 % de los proyectos de análisis agentivo que se basan exclusivamente en MCP fracasarán debido a la falta de una capa coherente; en otras palabras, fracasarán porque la conexión entre la IA y los datos carece de algo que la oriente. 

Uniones incorrectas

Una de las razones por las que el análisis empresarial resulta tan complicado es que, para obtener los datos que se necesitan, casi siempre hay que extraerlos de varias tablas, normalmente repartidas entre distintos sistemas.

Ojalá todos los registros tuvieran una clave primaria perfecta y todas las claves secundarias fueran comparables entre distintos sistemas. Pero, dado que tanto nosotros como nuestros datos formamos parte del mundo real, unir de forma fiable datos procedentes de múltiples fuentes no es ni mucho menos tan sencillo.

En cambio, cada vez que se combinan datos, hay que saber lo siguiente:

• ¿Cuál es la clave correcta para esta unión?
• ¿Qué cardinalidad tiene la unión?
• ¿La cardinalidad es direccional?
• ¿Qué tipo de unión es la más adecuada para el análisis que vas a realizar?

Dar acceso a un agente de IA a los nombres de tus columnas no resolverá estas dudas.

Cuestiones de seguridad

Los datos son uno de los activos más valiosos de tu empresa y, por ello, plantean retos de seguridad a la altura. Cuando concedes acceso a tus fuentes de datos a un agente de IA, debes tener en cuenta una serie de factores.

Control de acceso de usuarios 

Parte del atractivo de la analítica basada en la inteligencia artificial radica en su potencial para ampliar significativamente el acceso a la analítica dentro de tu empresa. Sin embargo, una consecuencia de hacer que la analítica esté más al alcance de todos es que tus datos también lo estén, y son pocas las organizaciones que conceden a todos sus empleados acceso sin restricciones a todos los sistemas.

Es mucho más habitual que los empleados tengan distintos niveles de acceso a diferentes tipos y fuentes de datos. Pero, a menos que vayas a crear una implementación de IA independiente para cada variante de acceso a los datos —lo cual es una mala idea por diversas razones—, tu modelo de IA tendrá acceso a datos que un usuario concreto no está autorizado a ver.

Conectar un agente de IA a tu fuente de datos no le proporciona ningún contexto sobre a qué puede o no puede acceder un usuario concreto.

Cuestiones de cumplimiento normativo y contractuales

Si estás sujeto al RGPD, debes asegurarte de que tus nuevas herramientas de análisis basadas en IA no te metan en un buen lío por contar con un subencargado del tratamiento no autorizado.

Y no solo debes preocuparte por normativas como el RGPD, la norma BCBS 239 o la Ley de IA de la UE: también hay que tener en cuenta los acuerdos de almacenamiento, uso y conservación de datos que hayas firmado con tus clientes, socios y proveedores.

Ningún aspecto relacionado con la conexión de un agente de IA a una fuente de datos contiene la información necesaria para ayudarte a cumplir con tus obligaciones normativas y legales.

Soberanía de los datos

La soberanía de los datos es algo más que «cuál es la ubicación geográfica de los servidores en los que se encuentran mis datos», aunque eso, sin duda, sigue siendo parte de ella. También hay que tener en cuenta el movimiento de los datos. Muchos componentes de tu ecosistema de datos —incluidos los flujos de datos, las aplicaciones SaaS, las herramientas de IA y las herramientas de BI— pueden hacer que tus datos estén disponibles en lugares distintos de la(s) fuente(s) en la(s) que los almacenas.

Conceder a un agente de IA acceso a tus fuentes de datos plantea un enorme riesgo en materia de soberanía de los datos, a menos que tomes medidas adicionales.

Cómo hacer que la IA sea útil para el análisis de datos

No puedes fiarte del entrenamiento general de un modelo de lenguaje grande (LLM), basado en Internet, y conectarlo a tus datos tampoco resuelve el problema. Entonces, ¿qué más tienes que hacer para conseguir los análisis basados en IA con los que sueñas?

La respuesta es el contexto.

Contexto sobre el significado de los términos empresariales. Cómo deben calcularse las métricas. Quién debe acceder a tus datos, dónde y cuándo.

Este contexto se puede definir en función de cinco requisitos clave:

• Definiciones empresariales comunes
• Métricas gobernadas
• Modelos y relaciones definidos
• Controles de acceso
• Trazabilidad

Al crear este contexto y utilizarlo después para fundamentar tu modelo de IA, podrás crear una solución de análisis basada en IA que realmente funcione.

Definiciones empresariales compartidas y indicadores regulados

Si tu IA no es capaz de deducir el cálculo, la definición o la relación correctos a partir de Internet en general, la solución es no permitirle utilizar Internet en general.

Los fundamentos de un definición de un término empresarial es una explicación en lenguaje sencillo, al estilo de un diccionario, pero eso es solo el principio. Para crear un contexto real, también hay que incluir:

• Una lista de sinónimos
• Relaciones jerárquicas (si las hay) con otros términos empresariales
• El propietario del término
• Si el término ha sido aprobado por algún grupo o proceso y, en caso afirmativo, cuándo
• El ámbito de aplicación del término
• La importancia del término
• Lugares en los que se utiliza este término

Del mismo modo, un métrica regulada es algo más que una expresión matemática. También debe incluir:

• Número de decimales especificado para la respuesta
• Unidades de medida
• El modelo en el que se basa la métrica
• Uniones necesarias, si las hay
• Definiciones de «group-by» permitidas
• Filtros, tanto predeterminados como opcionales
• La dimensión temporal que delimita el cálculo de la métrica y los intervalos de tiempo permitidos para dicha delimitación

Llegados a este punto, quizá te estés preguntando: ¿Se trata simplemente de un catálogo de datos y un glosario? La respuesta es sí. Esta parte de tu contexto no solo beneficiará a tus análisis de IA: puede mejorar todas tus iniciativas y comunicaciones relacionadas con los datos al proporcionar a toda tu organización un único punto de referencia compartido. 

Modelos y relaciones definidos

Una vez definidos los términos y las métricas de tu empresa, tienes que explicar a tu IA cómo se relacionan esos conceptos con los datos reales de tus sistemas; de lo contrario, solo habrás mejorado un poco con respecto a la situación anterior.

Modelos de datos integrales estructuran los datos según los mismos conceptos empresariales que utiliza su organización para medir el rendimiento.

Es fundamental que tus modelos incluyan relaciones definidas explícitamente. No es raro que una misma entidad tenga datos en varios sistemas de origen y, para evitar todos los riesgos que hemos comentado en «Uniiones incorrectas», debes indicar a tu IA cuál es la correctas son las uniones correctas.

Controles de acceso

Crear una implementación de IA totalmente independiente para cada combinación de permisos de acceso de los usuarios no es viable, pero, por suerte, tampoco es necesario.

En lugar de conceder a los usuarios acceso sin restricciones a tu modelo de IA en su conjunto, filtra el acceso de los usuarios a los análisis de IA mediante agentes definidos y con un ámbito de actuación concreto.

Una buena forma de saber qué agentes necesitas es reflejar los roles empresariales principales y/o las funciones analíticas que esperas que desempeñen tus usuarios. Delimita sus competencias otorgando a cada agente permiso para acceder únicamente a la fuente de datos y a las columnas que correspondan a ese rol o función.

Ahora, para personalizar los permisos de usuarios concretos, solo tienes que especificar con qué agentes pueden trabajar, y dejar que la configuración de agentes que ya has realizado se encargue del resto de las medidas de seguridad.

Trazabilidad

Por todo lo que hace cada uno de tus agentes de IA.

Resumen

Como hemos visto en este blog, todos los problemas relacionados con el análisis basado en la inteligencia artificial tienen solución. Simplemente no son soluciones que se puedan encontrar con una suscripción genérica a un modelo de lenguaje grande (LLM) ni siquiera con unas pocas personalizaciones.

En cambio, necesitas una solución de análisis basada en IA que ofrezca:

• Contexto empresarial compartido. Codificar los conocimientos humanos sobre tu empresa, sus operaciones y sus datos garantiza que las respuestas de la IA se basen en la realidad de tu negocio. Esto también beneficia a tu trabajo con datos no relacionados con la IA: a medida que construyas esta capa semántica, tendrás que resolver conflictos internos sobre definiciones semánticas y cálculos de métricas.
• Datos regulados. Disponer de un catálogo que recoja qué datos se tienen, cuál es su fiabilidad y qué significan (más allá de «estas son las fechas») es fundamental para que los análisis sean fiables, independientemente de quién o qué los calcule. Sin acceso a la información de gobernanza, un agente de IA no puede generar resultados analíticos en los que se pueda confiar.
• Razonamiento de la IA. Especificar las metodologías preferidas, las fuentes de datos a las que dar prioridad y los materiales de referencia de referencia orienta a su solución de IA para que aplique los conocimientos de su organización a sus datos regulados tal y como usted desea.

Al codificar la experiencia y los conocimientos humanos para que sean accesibles para la IA, y al limitar el modelo de IA para que utilice únicamente ese punto de referencia, podrás aprovechar la velocidad computacional y la amplia accesibilidad que ofrece una solución de análisis basada en IA, al tiempo que te aseguras de que los resultados sean útiles y fiables.

AI Analyst incorpora todas estas ventajas desde el principio:

• Una capa semántica con modelos, métricas, términos del glosario y relaciones regulados.
• Respuestas coherentes basadas en definiciones empresariales comunes.
• Generación transparente de consultas y flujos de trabajo analíticos explicables.
• Controles de acceso detallados y acceso a los datos regulado.
• Análisis de conversaciones, informes y análisis programados basados en el mismo contexto empresarial.

Más información sobre AI Analyst

Reserva una demostración o realiza el recorrido por el producto para descubrir cómo Actian AI Analyst ofrece respuestas coherentes mediante el análisis conversacional y un contexto empresarial regulado.

Acerca del autor

Acerca de Actian Corporation

Actian permite a las empresas gestionar y controlar los datos a gran escala con total confianza. Las organizaciones confían en las soluciones de gestión e inteligencia de datos de Actian para optimizar entornos de datos complejos y acelerar la entrega de datos preparados para la IA. Diseñadas para ofrecer flexibilidad, las soluciones de Actian se integran a la perfección y funcionan de forma fiable tanto en entornos locales como en la nube y en entornos híbridos. Obtén más Acerca de Actian, la división Acerca de Actian datos e IA de HCL Software, en actian.com.