La carrera mundial para regular los prejuicios en la IA

La campaña a favor del uso responsable de la Inteligencia Artificial (IA) ha crecido como la espuma y la magnitud del problema es cada vez mayor. problema crece más rápido de lo que las autoridades pueden seguir. Organismos de todo el mundo trabajan para dar sentido a todo esto y ofrecer soluciones prácticas para el cambio. Para los líderes empresariales globales, esto significa mantenerse informados sobre el cumplimiento, las normas éticas y la innovación en torno al uso ético de la IA. Hasta la fecha, este es el estado de la normativa y la legislación sobre IA en todo el mundo:

Aunque la siguiente no es una lista exhaustiva, muestra la distancia que hay que recorrer para regular adecuadamente la IA.

Estados Unidos

En Estados Unidos, los avances hacia la regulación de la IA van por buen camino. La Comisión Federal de Comercio ha estado trabajando para unirse a la campaña, empezando por añadir la IA responsable a las leyes actuales. La carga del cambio recae en los líderes empresariales para que se responsabilicen de mitigar los sesgos. En abril de 2020, la FTC publicó un blog sobre regulación de la IA en EE.UU. para advertir y orientar a las empresas sobre el mal uso de la IA.

"El uso de herramientas de IA debe ser transparente, explicable, justo y empíricamente sólido", declaró Andrew Smith, de la Oficina de Protección del Consumidor de la FTC. En el comunicado, Smithñaló algunos puntos importantes que las empresas que utilizan IA deben recordar:

• Transparencia en la recogida y uso de datos.
• Explicar la toma prise de décision a los consumidores.
• prise de décision justa.
• Datos y modelos sólidos y empíricos.
• Responsabilidad en materia de cumplimiento, ética, equidad y no discriminación.

Hasta ahora, han logrado regular el uso equitativo de la IA bajo:

En Ley de Informes de Crédito Justos (FCRA): Se prohíben los algoritmos sesgados utilizados en las decisiones sobre vivienda, empleo, seguros y crédito.

La Ley FTC (FTCA): Prohíbe el uso de prejuicios raciales discriminatorios en el uso comercial de la IA.

La Ley de Igualdad de Oportunidades de Crédito (ECOA): Prohíbe la discriminación en la toma prise de décision crediticias por motivos de raza, color, religión, nacionalidad, sexo, estado civil, edad o uso de ayudas públicas. La IA discriminatoria está prohibida contra las "clases protegidas".

En 2022, la Comisión para la Igualdad de Oportunidades en el Empleo (EEOC) publicó una guía de asistencia técnica sobre el sesgo algorítmico en las decisiones de empleo, basada en las disposiciones de la Ley sobre Estadounidenses con Discapacidades (ADA). Charlotte Burrows, Presidenta de la EEOC, informó a que más del 80% de todos los empleadores y más del 90% de las empresas de la lista Fortune 500 utilizan este tipo de tecnología. Aunque no hay leyes federales que se refieran específicamente al uso de la IA, sirven de base para futuras legislaciones y normativas.

Europa

Europa trabaja desde 2018 en la regulación del uso comercial de la tecnología. El Reglamento general de protección de datos (GDPR) es un recurso para lograr y mantener el cumplimiento de las leyes europeas relativas al uso responsable de la IA. Ha habido mucho debate entre ejecutivos y reguladores sobre la promulgación por parte de la Unión Europea de un amplio conjunto de normas para regular la inteligencia artificial. Los ejecutivos argumentan que las normas dificultarán la competencia internacional.

"Europa es el primer bloque regional que intenta regular de forma significativa la IA, lo que supone un enorme reto teniendo en cuenta la amplia gama de sistemas que puede abarcar el amplio término 'IA'", afirmó Sarah Chander, asesora política principal del grupo de derechos digitales EDRi.

China

En 2017, el Consejo de Estado chino publicó el Plan de Desarrollo de la Inteligencia Artificial de Nueva Generación como un conjunto de directrices en torno al uso de aplicaciones específicas de IA. La publicación se refería a las disposiciones actualmente activas sobre la gestión de las recomendaciones algorítmicas de los servicios de información de Internet y la gestión de la síntesis profunda de los servicios de información de Internet, que aún se está redactando.

En mayo de 2023, la Administración del Ciberespacio de China (CAC) redactó las Medidas Administrativas para los Servicios de Inteligencia Artificial Generativa. Exige una "evaluación de seguridad" para las empresas que deseen desarrollar nuevos productos de IA antes de que puedan salir al mercado. También menciona el uso de datos veraces y precisos, libres de algoritmos discriminatorios. Se centra en la prevención como principal primer paso para una IA responsable.

Brasil

En diciembre de 2022, los senadores brasileños publicaron un informe con estudios y un proyecto de reglamento relativo a la gouvernance responsable de la IA. Sirve para informar sobre futuros reglamentos que el Senado de Brasil está planeando. El punto central del reglamento era la presentación de tres pilares centrales:

• Garantizar los derechos de las personas afectadas por la IA.
• Clasificación de los niveles de riesgo.
• Predicción de medidas de gouvernance .

Japón

En marzo de 2019, el Consejo de Promoción de la Estrategia de Innovación Integrada de Japón creó los Principios sociales de la IA centrada en el ser humano. La disposición en dos partes pretende abordar una miríada de problemas sociales que han surgido con la innovación de la IA. Una parte establece siete principios sociales para regir el uso público y privado de la IA:

• Centrado en el ser humano.
• Educación/alfabetización.
• Protección de datos.
• Garantizar la seguridad.
• Competencia leal.
• Equidad.
• Responsabilidad y transparencia.
• Innovación.

La otra parte, que desarrolla la disposición de 2019, se dirige a los desarrolladores de IA y a las empresas que los emplean. El sitio Directrices de utilización de la IA pretenden ser un manual de instrucciones para que los desarrolladores de IA y las empresas desarrollen su propia estrategia de gouvernance . También está la disposición de 2021, Directrices degouvernance para la aplicación de los principios de la IA, que presenta ejemplos hipotéticos de aplicaciones de IA para que los revisen. Aunque ninguna de estas normativas es jurídicamente vinculante, constituyen el primer paso de Japón en la carrera hacia la regulación de la IA.

Canadá

En junio de 2022, el gobierno federal de Canadá publicó la Ley de Aplicación de la Carta Digital. Se trataba de la primera ley canadiense destinada a reforzar los esfuerzos del país para mitigar los prejuicios. La Carta incluía la Ley de Inteligencia Artificial y Datosque regula el comercio internacional e interprovincial de IA. Exige que los desarrolladores garanticen responsablemente la mitigación de riesgos y sesgos. También se incluyen requisitos de divulgación pública y prohibiciones de uso perjudicial. La Carta es un paso previo a la promulgación oficial de legislación sobre IA en Canadá.

India

En la actualidad, no existen en la India requisitos normativos oficiales sobre el uso responsable de la IA. La Comisión india NITI Aayog ha publicado documentos de trabajo que se están utilizando para empezar a abordar estas cuestiones. La primera entrega del documento, Towards Responsible #AIforAll (Hacia una IA responsable para todos)analiza el potencial de la IA para la sociedad en general y las recomendaciones en torno a su adopción en los sectores público y privado. La siguiente parte, un Documento de enfoque para la India, establece principios para una IA responsable, el potencial económico de la IA, el apoyo a la adopción a gran escala y el establecimiento e infundimiento de la confianza pública. El último documento, Adoptar el marco: A Use Case Approach on Facial Recognition Technologypretende ser un "punto de referencia para el futuro diseño, desarrollo y déploiement la IA en la India".

Suiza

En la actualidad no existe ninguna normativa específica que regule el uso responsable de la IA. Las leyes ya promulgadas se están utilizando para informar de los casos que se presentan. Por ejemplo, la Ley General de Igualdad de Tratoy las leyes civiles generales abordan la prevención de los prejuicios en los sectores público y privado.

El futuro de un enfoque global

Para limitar o erradicar por completo el sesgo de la IA, es necesario que haya un esfuerzo y un compromiso comunes con la precisión, la confianza y el cumplimiento. Los líderes empresariales y los desarrolladores deben centrarse en medidas preventivas, correctivas y de transparencia, precisión y responsabilidad a la hora de emplear la IA. Los reguladores también deben actuar con la diligencia debida para proporcionar una legislación completa, adecuada y oportuna que se aplique en el presente y sea pertinente en el futuro.

Recursos adicionales:

• La crisis creada por la IA en la gestion des données sanitarios
• Sesgo algorítmico: el lado oscuro de la inteligencia artificial

Acerca de Actian Corporation

Actian hace que trabajar con datos sea fácil. Nuestra plataforma de datos simplifica la forma en que las personas conectan, gestionan y analizan datos en entornos cloud, híbridos y locales. Con décadas de experiencia en gestión y analítica de datos, Actian ofrece soluciones de alto rendimiento que ayudan a las empresas a tomar decisiones basadas en datos. Estamos reconocidos por los principales analistas del sector y hemos recibido premios por nuestro rendimiento e innovación. Nuestros equipos comparten casos de éxito en conferencias (como Strata Data) y contribuyen activamente a proyectos de código abierto. En el blog de Actian tratamos temas como la ingesta de datos en tiempo real, el análisis de datos, la gobernanza y gestión de datos, la calidad de los datos, la inteligencia de datos y el análisis impulsado por IA.