La course mondiale à la régulation des biais dans l'IA

La campagne en faveur d'une utilisation responsable de l'intelligence artificielle (IA) a pris l'allure d'une gigantesque traînée de poudre, et l'ampleur du problème ne cesse de croître. problème s'accroît plus vite que les autorités ne peuvent le faire. Les agences du monde entier s'efforcent de donner un sens à tout cela et de fournir des solutions pratiques pour le changement. Pour les dirigeants d'entreprises internationales, cela signifie qu'ils doivent se tenir informés de la conformité, des normes éthiques et de l'innovation entourant l'utilisation éthique de l'IA. À ce jour, voici l'état de la réglementation et de la législation en matière d'IA dans le monde :

La liste suivante n'est pas exhaustive, mais elle montre le chemin à parcourir pour réglementer l'IA de manière adéquate.

États-Unis

Aux États-Unis, la réglementation de l'IA est en bonne voie. La Commission fédérale du commerce (Federal Trade Commission) s'est jointe à la campagne, en commençant par ajouter l'IA responsable aux lois actuelles. La charge du changement incombe aux chefs d'entreprise, qui doivent se tenir responsables de l'atténuation des préjugés. En avril 2020, la FTC a publié un blog sur les sujets suivants Réglementation américaine en matière d'IA afin de mettre en garde et de guider les entreprises contre l'utilisation abusive de l'IA.

"L'utilisation des outils d'intelligence artificielle doit être transparente, explicable, équitable et empirique", a déclaré Andrew Smith, du Bureau de la protection des consommateurs de la FTC. Dans son communiqué, M. Smith souligneDans le communiqué, M. Smith souligne quelques points importants dont les entreprises qui utilisent l'IA doivent se souvenir :

• Transparence dans la collecte et l'utilisation des données.
• Expliquer la prise de décision aux consommateurs.
• prise de décision équitable.
• Des données et une modélisation robustes et empiriques.
• Responsabilité en matière de conformité, d'éthique, d'équité et de non-discrimination.

Jusqu'à présent, ils ont réussi à réglementer l'utilisation équitable de l'intelligence artificielle :

La loi sur les rapports de crédit équitables (Fair Credit Reporting Act) Fair Credit Reporting Act (FCRA): Les algorithmes biaisés utilisés dans les décisions relatives au logement, à l'emploi, à l'assurance et au crédit sont interdits.

La loi sur la loi sur la FTC (FTCA): Interdit l'utilisation de préjugés racistes dans l'utilisation commerciale de l'IA.

La loi sur l'égalité des chances en matière de crédit Loi sur l'égalité des chances en matière de crédit (ECOA): Interdit la discrimination dans la prise de décision en matière de crédit fondée sur la race, la couleur, la religion, la nationalité, le sexe, la situation matrimoniale, l'âge ou l'utilisation de l'aide publique. L'IA discriminatoire est interdite à l'encontre des "classes protégées".

En 2022, l'Equal Employment Opportunity Commission (EEOC) a publié un guide d'assistance technique sur les préjugés algorithmiques dans les décisions d'emploi, basé sur les dispositions de la loi sur l'égalité des chances pour les personnes handicapées (Americans Disabilities Act). loi sur les Américains handicapés (ADA). Charlotte Burrows, présidente de l'EEOC, a indiqué que plus de 80 % de tous les employeurs et plus de 90 % des entreprises du classement Fortune 500 utilisent cette technologie. Bien qu'il n'existe pas de lois fédérales ciblant spécifiquement l'utilisation de l'IA, elles servent de base à de futures législations et réglementations.

L'Europe

Depuis 2018, l'Europe travaille à la réglementation de l'utilisation commerciale des technologies. Le Règlement général sur la protection des données (GDPR) est une ressource pour atteindre et maintenir la conformité avec les lois européennes concernant l'utilisation responsable de l'IA. L'adoption par l'Union européenne d'un ensemble complet de règles relatives à l'utilisation de l'IA a fait l'objet de nombreux débats parmi les dirigeants et les régulateurs. ensemble de règles pour régir l'intelligence artificielle. Les dirigeants affirment que ces règles rendront difficile la lutte contre les concurrents internationaux.

L'Europe est le premier bloc régional à tenter de manière significative de réglementer l'IA, ce qui représente un défi considérable compte tenu du large éventail de systèmes que le terme "IA" peut couvrir", a déclaré Sarah Chander, conseillère politique principale auprès du groupe de défense des droits numériques EDRi.

Chine

En 2017, le Conseil d'État chinois a publié le Plan de développement de l'intelligence artificielle de nouvelle génération comme un ensemble de lignes directrices entourant l'utilisation d'applications spécifiques de l'IA. La publication concernait des dispositions actuellement actives sur la gestion des recommandations algorithmiques des services d'information sur Internet et la gestion de la synthèse profonde des services d'information sur Internet, qui est toujours en cours de rédaction.

En mai 2023, l'administration chinoise du cyberespace (CAC) a rédigé les Mesures administratives pour les services d'intelligence artificielle générative. Elle exige une "évaluation de la sécurité" pour les entreprises souhaitant développer de nouveaux produits d'IA avant qu'ils ne puissent être commercialisés. Elle mentionne également l'utilisation de données véridiques et précises, exemptes d'algorithmes discriminatoires. Elle met l'accent sur la prévention en tant que première étape majeure d'une IA responsable.

Brésil

En décembre 2022, les sénateurs brésiliens ont publié un rapport contenant des études et un projet de règlement. projet de règlement relatif à la gouvernance responsable de l'IA. Ce rapport sert de base aux futures réglementations que le Sénat brésilien prévoit d'adopter. Le point central du règlement est la présentation de trois piliers centraux :

• Garantir les droits des personnes touchées par l'IA.
• Classification des niveaux de risque.
• Prédire les mesures de gouvernance .

Japon

En mars 2019, le Conseil de promotion de la stratégie d'innovation intégrée du Japon a créé les Principes sociaux de l'IA centrée sur l'humain. Cette disposition en deux parties vise à répondre à une myriade de problèmes sociaux liés à l'innovation dans le domaine de l'IA. La première partie établit sept principes sociaux pour régir l'utilisation publique et privée de l'IA :

• Centrage sur l'homme.
• Éducation/alphabétisation.
• Protection des données.
• Garantir la sécurité.
• Une concurrence loyale.
• L'équité.
• Responsabilité et transparence.
• L'innovation.

L'autre partie, qui développe la disposition de 2019, vise les développeurs d'IA et les entreprises qui les emploient. Les Lignes directrices sur l'utilisation de l'IA sont conçues comme un manuel d'instruction permettant aux développeurs d'IA et aux entreprises d'élaborer leur propre stratégie de gouvernance . Il y a aussi la disposition de 2021, Lignes directrices degouvernance pour la mise en œuvre des principes de l'IA, qui présente des exemples hypothétiques d'applications de l'IA à examiner. Bien qu'aucune de ces réglementations ne soit juridiquement contraignante, elles constituent le premier pas du Japon dans la course à la réglementation de l'IA.

Canada

En juin 2022, le gouvernement fédéral du Canada a publié la Loi de mise en œuvre de la Charte numérique. Il s'agit du premier texte législatif canadien visant à renforcer les efforts du pays pour atténuer les préjugés. La charte comprend les textes suivants Loi sur l'intelligence artificielle et les donnéesqui réglemente le commerce international et interprovincial de l'IA. Elle exige que les développeurs veillent de manière responsable à atténuer les risques et les préjugés. Des exigences en matière de divulgation publique et des interdictions d'utilisation préjudiciable sont également prévues. La charte est un premier pas vers la promulgation officielle d'une loi sur l'IA au Canada.

Inde

Actuellement, il n'existe aucune exigence réglementaire officielle en Inde concernant l'utilisation responsable de l'IA. La commission indienne NITI Aayog a publié des documents de travail utilisés pour commencer à aborder ces questions. Le premier document, Vers une #AIpourTous responsabletraite du potentiel de l'IA pour la société dans son ensemble et des recommandations relatives à l'adoption de l'IA dans les secteurs public et privé. La partie suivante, un Document d'approche pour l'Inde, établit les principes d'une IA responsable, le potentiel économique de l'IA, le soutien à l'adoption à grande échelle, et l'établissement et l'instillation de la confiance du public. Le dernier document, Adopter le cadre : A cas d'usage Approach on Facial Recognition Technologyse veut un "point de référence pour la conception, le développement et le déploiement futurs déploiement l'IA en Inde".

Suisse

Il n'existe actuellement aucune réglementation spécifique régissant l'utilisation responsable de l'IA. Les lois déjà promulguées sont utilisées pour éclairer les cas qui se présentent. Par exemple, la loi générale sur l'égalité de traitementla loi générale sur l'égalité de traitement, la loi sur la responsabilité du fait des produits et les lois civiles générales traitent de la prévention des préjugés dans les secteurs public et privé.

L'avenir d'une approche globale

Pour limiter ou éradiquer complètement les biais de l'IA, il faut un effort commun et un engagement en faveur de l'exactitude, de la confiance et de la conformité. Les chefs d'entreprise et les développeurs doivent cibler des mesures préventives, correctives et de transparence, d'exactitude et de responsabilité lors de l'utilisation de l'IA. Les régulateurs doivent également faire preuve de diligence en fournissant une législation complète, appropriée et opportune qui s'applique au présent et sera pertinente à l'avenir.

Ressources complémentaires :

• La crise que l'IA a créée dans le secteur de la santé gestion des données
• Biais algorithmique : la face cachée de l'intelligence artificielle

À propos d'Actian Corporation

Actian facilite l'accès aux données. Notre plateforme de données simplifie la façon dont les gens connectent, gèrent et analysent les données dans les environnements cloud, hybrides et sur site . Avec des décennies d'expérience dans la gestion des données et l'analyse, Actian fournit des solutions de de haute performance qui permettent aux entreprises de prendre des décisions basées sur les données. Actian est reconnu par les principaux analystes et a reçu des prix de l'industrie pour sa performance et son innovation. Nos équipes partagent des cas d'utilisation éprouvés lors de conférences (par exemple, Strata Data) et contribuent à des projets à code source ouvert. Sur le blog d'Actian, nous abordons des sujets tels que l'ingestion de données en temps réel, l'analyse de données, la gouvernance données, la gestion des données, la qualité des données, l'intelligence des données et l'analyse pilotée par l'IA.