AI Analytics Gives Different Answers to the Same Question. See the Fix.

Le haces una pregunta sencilla a tu herramienta de análisis de IA: «¿Qué provocó la caída de las ventas el mes pasado?».

La herramienta ofrece una respuesta que parece razonable e incluso perspicaz. Unos días más tarde, le haces la misma pregunta, pero formulada de forma ligeramente diferente: «¿Por qué bajaron las ventas en abril?».

Esta vez, la respuesta es diferente. Es cierto que no es muy diferente, pero sí lo suficiente como para hacerte reflexionar antes de actuar. De repente, tu pregunta ya no se refiere a las ventas del mes pasado. Se trata de en qué respuesta debes confiar.

La confianza es un reto fundamental. Según un estudio mundial realizado por KPMG, solo el 46 % de las personas a nivel mundial está dispuesto a confiar en los sistemas de IA. Sin embargo, la mayoría de las personas, el 66 %, se fía de los resultados de la IA sin evaluar su precisión, y el 56 % comete errores en su trabajo a causa de la IA.

Cuando se rompe la confianza

A primera vista, las herramientas de análisis basadas en IA parecen sencillas. Haces una pregunta en un lenguaje natural y cotidiano, y obtienes una respuesta. Sin embargo, bajo la superficie están ocurriendo muchas cosas. Esto significa que hay muchas cosas que pueden salir mal, como respuestas incoherentes.

Las herramientas de análisis basadas en IA ofrecen respuestas diferentes a preguntas iguales o similares porque:

• El lenguaje natural es intrínsecamente ambiguo y está abierto a interpretaciones. Las personas somos muy buenas interpretando el contexto, pero a las herramientas de IA les cuesta hacerlo. Incluso pequeños cambios en la redacción pueden dar lugar a suposiciones diferentes. Por ejemplo, preguntar «¿Qué afectó a nuestra cartera de proyectos el último trimestre?» podría referirse a la cartera total o calificada, a diferentes periodos de tiempo o a distintas fases de los proyectos. Sin un contexto claro, la IA llena los vacíos, y las diferentes suposiciones dan lugar a respuestas diferentes.
• No existen definiciones empresariales comunes. En la mayoría de las organizaciones, las métricas clave no están definidas de manera universal. Por ejemplo, el departamento de ventas puede definir el canal de ventas de una forma, el de finanzas de otra, y el de marketing puede tener su propia versión vinculada a la influencia de las campañas. Sin una definición única y compartida, la IA carece de una base coherente sobre la que trabajar, lo que da lugar a respuestas que pueden ser técnicamente correctas, pero desalineadas con el resto de la empresa.
• Las relaciones entre los datos no están definidas de forma explícita. Las herramientas de análisis de IA se basan en comprender cómo se conectan los datos entre los distintos sistemas, por ejemplo, cómo se unen las tablas, cómo se calculan las métricas y cómo se relacionan las dimensiones. Cuando estas relaciones no están claramente modeladas, la IA tiene que deducirlas. Esas conjeturas dan lugar a uniones incoherentes, datos que no coinciden y, en última instancia, respuestas diferentes a la misma pregunta.

Cuando cada pregunta puede interpretarse de diferentes maneras, cada respuesta resulta más difícil de creer.

Por qué las respuestas contradictorias son un problema grave

Al principio, las respuestas incoherentes pueden parecer una molestia sin importancia, pero su impacto negativo puede ser considerable. Las respuestas incoherentes se manifiestan de la siguiente manera:

• Cifras contradictorias entre los equipos. Cuando distintos usuarios obtienen respuestas diferentes a la misma pregunta, la coordinación y la confianza se desvanecen. Las reuniones pasan de «¿Qué debemos hacer a continuación basándonos en los resultados de la IA?» a «¿Por qué nuestras cifras son diferentes?». Sin respuestas coherentes, el impulso se estanca rápidamente y la adopción de herramientas de IA se ralentiza.
• Una toma de decisiones más lenta. Cuando no se puede confiar en las respuestas, cada decisión requiere validación. Los equipos empiezan a verificar dos veces los datos y las hipótesis de la IA. Las decisiones que deberían ser sencillas y llevar solo unos minutos se convierten en horas o días, lo que da lugar a oportunidades perdidas.
• Mayor dependencia de los analistas. Se supone que las herramientas de análisis basadas en IA reducen la dependencia de los equipos de datos y los analistas. Cuando los resultados no son consistentes, ocurre lo contrario. Los analistas se ven obligados a intervenir en el proceso para conciliar diferencias, explicar los resultados y validar su exactitud. Al final, te encuentras con los mismos cuellos de botella que intentabas eliminar.

Muchas organizaciones creen que los modelos de IA más recientes o unas indicaciones mejor formuladas resolverán el problema. En realidad, incluso los modelos de IA más avanzados siguen dependiendo de la interpretación del lenguaje humano. Si una pregunta es ambigua, la respuesta también lo será.

Las herramientas de análisis basadas en IA traducen el lenguaje natural en consultas. Esto significa que, si los datos subyacentes carecen de definiciones coherentes, presentan relaciones poco claras y no están debidamente regulados, las respuestas se basan en unos fundamentos inestables.

Abordar el problema de la incoherencia

La falta de coherencia no se debe a la tecnología de la herramienta. Se trata de un problema estructural, lo que significa que la solución también debe ser estructural. Esto es lo que supone en la práctica:

• Definiciones coherentes de las métricas. Cada métrica clave, como la tasa de abandono, los ingresos y el canal de ventas, necesita una definición única que se comparta en toda la organización. Un término «de uso común» puede generar confusión. Por el contrario, una métrica que se define una sola vez y se aplica en todas partes ayuda a garantizar que la misma pregunta siempre produzca la misma respuesta, que los equipos estén alineados y que la IA cuente con una base clara para generar resultados.

Acción: Definir y centralizar las métricas en una capa regulada para que todas las consultas utilicen la misma lógica.

• Relaciones claras entre los datos. Las herramientas de análisis de IA deben comprender cómo se relacionan los datos en toda la empresa. Esto incluye saber cómo se relacionan las tablas y cómo se calculan las métricas. Sin esta comprensión, la IA tiene que adivinar cómo unir e interpretar los datos, lo que da lugar a respuestas incoherentes.

Acción: Mostrar cómo se relacionan los datos entre los distintos sistemas, de modo que las relaciones sean explícitas y no haya que deducirlas.

• Medidas de control para la forma en que se responden las preguntas. Muchas herramientas de IA se quedan cortas al no contar con las medidas de seguridad adecuadas para garantizar respuestas fiables. Para garantizar la coherencia, las herramientas de IA necesitan conocer el contexto empresarial al generar consultas y requieren restricciones que eviten interpretaciones múltiples.

Acción: Implementar una lógica empresarial controlada y transparencia para que cada respuesta pueda ser rastreada y validada.

La aplicación de definiciones claras y el establecimiento de medidas de control ayudan a obtener resultados reproducibles a gran escala.

La coherencia genera confianza

El análisis basado en la inteligencia artificial tiene un enorme potencial. Puede hacer que los datos sean más útiles, reducir los cuellos de botella a la hora de obtener información y ayudar a los equipos a actuar con mayor rapidez. Sin embargo, ninguna de estas ventajas tiene importancia si no se puede confiar en las respuestas.

Esa confianza no se debe a la velocidad ni a la sofisticación de la herramienta. Se debe a la coherencia. Si una misma pregunta da siempre la misma respuesta, independientemente de los usuarios y los equipos, la confianza aumenta. A continuación, se generaliza el uso de la herramienta y el análisis se extiende a toda la empresa.

De lo contrario, ocurre lo contrario. Los equipos recurren a los paneles de control, los analistas se convierten en un cuello de botella y la IA pasa a ser otra iniciativa que nunca llega a aportar plenamente el valor esperado. El problema tiene solución. Con la herramienta adecuada, el análisis basado en IA ofrece respuestas coherentes y fiables en las que los equipos pueden confiar a diario. Es entonces cuando la IA se convierte en un motor de confianza para la toma de decisiones empresariales.

Comprueba cómo se generan respuestas coherentes y fiables en la práctica.

About Author

About Actian Corporation

Actian empowers enterprises to confidently manage and govern data at scale. Organizations trust Actian data management and data intelligence solutions to streamline complex data environments and accelerate the delivery of AI-ready data. Designed to be flexible, Actian solutions integrate seamlessly and perform reliably across on-premises, cloud, and hybrid environments. Learn more about Actian, the data and AI division of HCLSoftware, at actian.com.