La creciente necesidad de gouvernance la IA

Aunque no lo parezca, la inteligencia artificial (IA) existe desde hace mucho tiempo. El primer programa de IA que tuvo éxito fue escrito en 1951 por Christopher Strachey, quien más tarde se convirtió en director del Grupo de Investigación en Programación de la Universidad de Oxford.

ChatGPT Es un chatbot que utiliza IA para realizar diversas tareas, como entablar conversaciones, generar texto y escribir código. El chatbot tenía más de 100 millones de usuarios activos en enero de 2023, sólo dos meses después de su lanzamiento, lo que lo convierte en la aplicación de consumo de más rápido crecimiento de la historia. A medida que la IA abierta se hace más accesible a las masas, crece la preocupación por las aplicaciones poco éticas de la IA.

Necesidad de gouvernance la IA

El propósito de gouvernance la IA es abordar diversas cuestiones relativas al uso ético de la IA, como la transparencia, la parcialidad, la responsabilidad por la privacidad y la seguridad. El objetivo es utilizar la IA de forma que ayude a maximizar los beneficios y minimizar los daños y la injusticia social. gouvernance la IA también desempeñará un papel fundamental a la hora de ayudar a las organizaciones a cumplir las normativas y leyes. He aquí un resumen de lo que cabe esperar en Estados Unidos, Europa y Canadá.

Aunque en Estados Unidos no existe una legislación federal exhaustiva sobre la IA, las leyes municipales y estatales se están centrando en cómo los sistemas de IA procesan los datos personales. Por ejemplo, en la ciudad de Nueva York, las empresas no pueden utilizar herramientas automatizadas de toma de decisiones de contratación que se basen en la IA para seleccionar a los candidatos, a menos que dichas herramientas hayan sido auditadas para detectar posibles sesgos. Las empresas también deben informar a los candidatos si se utiliza una herramienta en el proceso de decisión de contratación. Colorado exige ahora a las compañías de seguros que demuestren que sus algoritmos de IA y modelos predictivos no dan lugar a una discriminación injusta en la suscripción automatizada. La Cámara de Comercio de EE. UU. ofrece un seguimiento de la legislación sobre inteligencia artificial estado por estado.

En Europa, el Reglamento General de Protección de Datos (RGPD) establece que las organizaciones no deben utilizar sistemas algorítmicos para tomar decisiones importantes que afecten a los derechos legales sin supervisión humana, y que las personas tienen derecho a recibir información significativa sobre la lógica y los sistemas algorítmicos utilizados. La Unión Europea presentó la Ley de Inteligencia Artificial (AIA) el 21 de abril de 2021. La propuesta se aprobó en 2023 y establece tres categorías de sistemas de IA —riesgo limitado, riesgo elevado y riesgo inaceptable— y fija diferentes requisitos para los sistemas de IA en función de la categoría de riesgo a la que pertenezcan.

En Canadá, la propuesta de Ley de Inteligencia Artificial y Datos (AIDA) está diseñada para ayudar a garantizar que los sistemas de IA sean seguros y no discriminatorios. La ley obligaría a las empresas a rendir cuentas sobre cómo desarrollan y utilizan la IA.

Qué debe incluir su estrategia gouvernance la IA

Cada vez más, su organización se verá presionada por los clientes para demostrar que utiliza la IA de forma responsable. Sus esfuerzos tendrán que aumentar y madurar para adaptarse a las normativas sobre IA que están a punto de ampliarse en un futuro no muy lejano. Conviene prepararse ahora. He aquí algunos pasos que le ayudarán a prepararse.

• Asigne la responsabilidad de la gouvernance de la IA. Puede ser el director de privacidad o un responsable de la gouvernance de la IA.
• Comprenda el uso de la IA en toda su organización, incluidas las soluciones de terceros.
• Evalúe cómo el uso de la IA por parte de su organización afecta a la humanidad, incluyendo el empleo, la privacidad, el racismo y muchas otras preocupaciones.
• Desarrollar casos de uso prohibidos.
• Desarrollar códigos de conducta y directrices éticas para ingenieros de datos, científicos de datos, analistas de datos y trabajadores de primera línea.
• Asegúrese de que su empresa cumple la normativa sobre IA allí donde desarrolle su actividad.
• Auditar los algoritmos y modelos de IA para detectar sesgos, especialmente cuando se utilizan en áreas que podrían dar lugar a desigualdades raciales y económicas.
• Crear indicadores clave de rendimiento (KPI) para medir el éxito, centrándose en las métricas que importan para la parcialidad, la discriminación, la equidad y la explicabilidad.
• Supervisar continuamente los progresos y adoptar las medidas correctoras necesarias.

Acerca de Actian

Los clientes confían en Actian para sus necesidades de IA porque ofrecemos algo más que una plataforma. Ayudamos a las organizaciones a tomar decisiones seguras y basadas en datos para sus necesidades empresariales de misión crítica, a la vez que aceleramos su crecimiento empresarial. Con Actian Data Platform, las empresas pueden conectar, gestionar y analizar sus datos fácilmente.

Acerca del autor

Acerca de Teresa Wingfield

Teresa Wingfield es Directora de Marketing de Producto en Actian, impulsando el conocimiento de las capacidades de integración, gestión y análisis de Actian Data Platform. Cuenta con más de 20 años de experiencia en marketing de soluciones analíticas, de seguridad y en la nube en empresas líderes del sector como Cisco, McAfee y VMware. Teresa se centra en ayudar a los clientes a alcanzar nuevos niveles de innovación e ingresos con los datos. En el blog de Actian, Teresa destaca el valor de las soluciones basadas en análisis en múltiples sectores verticales. Consulte sus publicaciones para conocer historias reales de transformación.