Google a révisé ses principes relatifs à l’intelligence artificielle, levant ainsi les restrictions précédemment imposées concernant les armes et la surveillance. Ce changement fait suite aux réactions suscitées par le projet Maven.
Le géant technologique Google a profondément modifié ses principes en matière d’intelligence artificielle, marquant une rupture avec la version initiale de 2018. La modification la plus significative réside dans l’élimination des restrictions spécifiques concernant la création et la distribution d’outils d’IA destinés aux armes ou aux technologies de surveillance. Dans la version antérieure, ces restrictions figuraient dans une section dédiée qui a désormais été supprimée.
Cette section a été remplacée par une nouvelle intitulée “développement et distribution responsables”. Dans cette nouvelle partie, la société de Mountain View s’engage à instaurer des processus de supervision humaine, des procédures de diligence raisonnable et des mécanismes de retour d’information. L’objectif est de se conformer aux intérêts des utilisateurs, aux principes de responsabilité sociale et aux réglementations internationales relatives aux droits de l’homme.
L’engagement de Google est désormais plus général que les engagements antérieurs, qui étaient encore accessibles sur le site de l’entreprise jusqu’à récemment. Par exemple, l’ancienne version des principes interdisait la conception d’IA destinée à des applications militaires ou à d’autres technologies nuisibles. De plus, l’entreprise s’était engagée à ne pas développer de technologies de surveillance basées sur l’IA en violation des normes internationales.
Les représentants de Google ont orienté les journalistes vers un article de blog de l’entreprise pour des précisions. Dans cet article, deux figures de proue de l’organisation détaillent le changement de politique. Demis Hassabis, PDG de DeepMind, et James Manyika, vice-président senior en charge de la recherche, des laboratoires, de la technologie et de la société chez Google, attribuent cette modification à l’évolution de l’intelligence artificielle, désormais considérée comme une “technologie à usage général“.
Hassabis et Manyika insistent sur la nécessité d’une coopération entre les entreprises, les gouvernements et les organisations pour développer une intelligence artificielle qui protège les individus, stimule la croissance et renforce la sécurité nationale. Tout cela en respectant des valeurs telles que la liberté, l’égalité et les droits humains. Les deux dirigeants réitèrent l’engagement de Google envers la recherche sur l’intelligence artificielle et ses applications, en accord avec la mission et les compétences de l’entreprise, tout en évaluant systématiquement les avantages et les risques.
La publication des Premiers principes de l’intelligence artificielle en 2018 a été une réaction au projet Maven. Ce dernier représentait un contrat gouvernemental destiné à fournir un logiciel d’IA au ministère de la Défense pour l’analyse des images capturées par les drones. Ce projet avait suscité de fortes réactions au sein de Google, entraînant des démissions et une pétition signée par des milliers d’employés. En réponse à ces manifestations, Sundar Pichai, le PDG de Google, a affirmé que les nouveaux principes seraient pérennes.
Cependant, au fil des années, la politique de Google a évolué. En 2021, l’entreprise a cherché à obtenir des contrats militaires, notamment le Joint Warfighting Cloud Capability du Pentagone. Plus récemment, il a été révélé que des employés de Google avaient collaboré avec le ministère israélien de la Défense pour élargir l’utilisation des outils d’IA.
Les modifications apportées aux principes de l’IA semblent indiquer une implication croissante de Google dans des projets liés à la défense et à la sécurité, tout en respectant les principes de responsabilité humaine et de supervision. L’évolution de la politique de Google en matière d’IA pourrait avoir des répercussions significatives sur le secteur technologique et dessiner des perspectives futures marquées par une collaboration accrue entre les entreprises technologiques et les gouvernements.
Source 1 : Washington Post
Source 2 : Blog Google
Commentaire 0
Soyez le premier à commenter !