Par Delia Arrunategui
La troisième révolution industrielle, celle du numérique, est en cours. Elle est en train de transformer nos sociétés, elle redéfinit notre rapport aux connaissances et nous conduit à grande vitesse aux portes d’une nouvelle ère, celle dans laquelle les machines seront capables de simuler l’intelligence.
Les nouvelles technologies impactent déjà directement notre quotidien. Il n’existe pas un domaine qui n’ait pas été concerné, on peut facilement le constater dans des secteurs tels que la finance, l’industrie, le médical et le tourisme. Il existe aussi ceux qui ont été bouleversés d’une façon encore plus visible comme celui des médias et des communications interpersonnelles. Ces changements parfois abrupts nous lancent des challenges de grande taille comme celui de nous adapter aux nouveaux outils d’interactions sociales comme Facebook, Instagram ou Tinder. L’apparition des fake news, les informations mensongères relayées avec le but de tromper ou manipuler l’opinion publique, ou encore, le combat sur internet contre les discours de haine, qui ciblent une ou plusieurs personnes sur la base de caractéristiques comme la race, l’orientation sexuelle, la religion, etc, pour les désigner comme responsables d’une situation indésirable.
L’UNESCO ouvre le grand débat
Le 4 mars à Paris, au siège de l’UNESCO (l’Organisation des Nations unies pour l’éducation, la science et la culture) a eu lieu une conférence mondiale intitulée : « Les principes de l’Intelligence artificielle : vers une approche humaniste ? ». Cette conférence a été conçue pour faciliter le dialogue entre les différents acteurs de la société. L’UNESCO, en tant que laboratoire d’idées à l’échelle mondiale s’est engagée dans la promotion de la coopération internationale et le façonnement de l’avenir de l’intelligence artificielle (IA). La conférence a ouvert le débat sur le rôle de cette nouvelle technologie dans la lutte contre les inégalités d’accès au savoir et pour trouver les moyens qu’elle ne creuse pas la fracture technologique déjà existante entre les pays riches et les pays pauvres d’une part et d’autre part entre les zones urbaines denses et les zones rurales.
Le discours d’ouverture de la conférence a été prononcé par la Directrice générale de l’UNESCO, Audrey Azoulay et le Secrétaire général de l’OCDE, Angel Gurría.
La session d’inauguration a été suivie par les interventions d’invités distingués comme le parlementaire français Cédric Villani, lauréat de la Médaille Field 2010, la plus haute distinction en mathématiques et Nanjira Sambuli, responsable de la promotion de l’égalité numérique à la World Wide Web Foundation et membre du groupe sur la coopération numérique du Secrétaire général des Nations Unies.
(Cédric Villani)
Le programme des interventions a été organisé autour de tables rondes, qui se sont succédées tout au long de la journée. Les spécialistes ont abordé différents sujets tels que : l’universalité de l’IA, les défis qu’elle doit surmonter et quelles mesures doit-on prendre pour que cette nouvelle technologie soit centrée sur l’humain.
Interviews
Nouvelles Vagues était présent à cette conférence et a eu l’opportunité d’interviewer deux spécialistes dans le domaine du numérique.
L’intervenante Madame Hawa Ba, anthropologue sociale et journaliste de formation coordonne le travail médiatique et les programmes sénégalais de l’Initiative pour une société ouverte en Afrique de l’Ouest (Open Society Initiative for West Africa – OSIWA), faisant partie des Open Society Foundations.
(Hawa Ba)
Lucien Castex, chercheur à l’université Sorbonne Nouvelle, Secrétaire général d’Internet Society France est membre de l’équipe d’organisation de cette conférence à l’UNESCO.
(Lucien Castex)
Nouvelles Vagues : Nous croyons tous avoir une idée de ce qu’est l’intelligence artificielle, pouvez-vous nous dire selon vos critères et votre expérience de quoi on parle lorsqu’on fait référence à l’IA ?
Lucien Castex : Tout d’abord il faut tenir en compte que l’IA ce n’est pas que de la robotique, elle comprend un nombre d’applications mathématiques, statistiques et des technologies qui permettent d’automatiser certains calculs, c’est ce qu’on appelle les algorithmes, c’est-à-dire des outils de résolution de problèmes. Certes cette technologie a des applications en robotique mais aussi dans d’autres domaines notamment dans le traitement des mégadonnées ou Big Data (ensemble des données numériques produites par l’utilisation des nouvelles technologies).
N .V : Dans quels domaines considérez-vous que l’IA est plus présente dans notre vie quotidienne ?
L.C : L’IA fait désormais partie de nos vies, on la trouve dans différents domaines, par exemple dans les réseaux sociaux comme Facebook. A travers les données que nous lui transmettons, les algorithmes que l’application utilise lui permettent d’analyser notre comportement. L’IA prend en considération les sujets pour lesquels nous avons déjà montré un intérêt et nous suggère des produits de consommation spécifiques ou des publications avec un certain discours politique ; elle s’adapte à nos préférences pour nous proposer un contenu sur mesure. Cette nouvelle technologie est aussi très présente dans le domaine médical et elle s’apprête à jouer un rôle très important car grâce aux énormes bases de données existantes dans ce champ, elle va être capable d’analyser dans quel cas on trouve une maladie et pourra déterminer sur des nouvelles données d’un patient quel type de pathologie a cette personne. L’IA sera en mesure de faire des diagnostics.
N.V : Quels sont les éventuels dangers que ce type de technologie peut entraîner ?
L.C : Actuellement, on est dans les premières étapes de l’évolution de l’intelligence artificielle. Il faut faire attention à la programmation des algorithmes, car grâce aux données qu’ils vont traiter, ils seront en mesure d’apprendre certaines choses et à partir de là, prendre certaines décisions. Par exemple, si un algorithme étudie des discours de haine, grâce aux algorithmes de traitement automatique de langue, il va ensuite être capable de les repérer sur internet, ce qui implique qu’il va pouvoir vous proposer ce type de messages de manière systématique, s’il considère que cela rentre dans vos préférences.
Si on souhaite aller un peu plus loin, on sait aussi que l’IA est en train de se développer dans le champ de l’identification automatique des cibles par des drones ou des systèmes d’armes automatiques qui pourraient ainsi avoir la possibilité de tirer sur des cibles ; dans ce scénario on n’est pas loin de la robotique et on se rapprocherait de l’univers des films de science-fiction du genre Terminator.
N.V : Quel est l’objectif principal de cette conférence organisée par l’UNESCO ?
L.C : Le but principal est d’ouvrir le débat sur l’IA dans un cadre humaniste. L’UNESCO a la possibilité de se positionner au centre des travaux qui concernent l’éthique car elle a un réseau mondial en raison du nombre d’Etats membres. Il est important de se positionner d’une façon globale. Il a déjà eu un événement organisé à Paris le 15 novembre dans le cadre de la Gouvernance d’Internet et aussi un forum sur l’IA au Maroc. L’UNESCO souhaite promouvoir une discussion ouverte pour permettre un socle commun des principes.
N.V : Quels thèmes ont été traités autour des tables rondes ?
L.C : Le débat sur l’IA nous mène à nous questionner sur différents sujets, par exemple : « Qu’est-ce qui fait la différence entre les humains et les autres espèces ? Est-ce-que c’est notre intelligence ou notre sensibilité ? Ou peut-être un mélange des deux ? Et si c’est le cas, dans quelle mesure ? » Face à l’IA, nous sommes confrontés à ce type de questionnements. C’est important de trouver un consensus pour réguler l’IA et qu’elle soit centrée dans l’humain, pour que des pratiques éthiques soient partagées et mises en œuvre. C’est aussi fondamental de comprendre l’impact qu’elle a dans nos vies et trouver un accord entre les différentes parties prenantes.
N.V : L’IA fait désormais partie de notre quotidien, mais est-ce qu’elle a déjà un rôle déterminant dans nos vies ?
L.C : La partie civile (la société) est directement impactée par l’IA. Par exemple, si une entreprise qui souhaite embaucher reçoit un nombre très élevé de candidatures, est-ce qu’elle va utiliser les nouvelles technologies pour les traiter ? Je sais par des collègues qu’il existe déjà des outils automatiques de sélection qui identifient certains profils et qui ne retiennent que les candidatures qui correspondent à des critères spécifiques, ce qui veut dire que le recruteur ne voit que les CV qui ont été présélectionnés par la machine. Cela peut être d’une grande aide, mais peut aussi conduire à des sélections basées sur le genre, la géographie, ou par l’âge du candidat. Les biais sont une des plus grandes problématiques à surmonter, car les machines sont programmées à partir des données, il faut être sûr que ces données ne soient pas biaisées, sinon les algorithmes vont répliquer les mêmes mécanismes de sélection et les intégrer dans sa programmation.
Il faut tenir compte que la machine est neutre mais les données qu’elle va intégrer ne le seront peut-être pas. Pour éviter ce type de problème, il est primordial de se centrer sur la transparence des données et des algorithmes, savoir comment la machine a fait le traitement des informations et quels sont les critères qu’elle a utilisés. Le processus doit être clair pour qu’il puisse être contrôlé, il faut prévoir aussi que ce contrôle sera certainement fait par une autre machine, c’est-à-dire par une autre intelligence artificielle.
Note : Lucien Castex ne parle pas au nom de l’UNESCO.
2ème interview
Nouvelles Vagues : Madame Ba, quels sont les domaines d’action de l’Open Society Foundations ? Quelle est votre fonction dans cet organisme ?
Hawa Ba : Nous travaillons pour corriger les déséquilibres structurels qui impactent le quotidien dans nos sociétés. On s’occupe de la promotion de la bonne gouvernance, de la bonne gestion de nos sociétés pour le maintien de l’Etat de Droit. Le cœur de mon travail est de promouvoir l’inclusion, la participation de tous les citoyens pour la lutte contre les inégalités et la marginalisation.
On travaille pour équilibrer les rapports de pouvoirs globaux avec des pays qui sont considérés comme étant à la marge, aussi avec certains rapports sociaux qui sont fondés sur le joug de la domination patriarcale.
N.V : Pouvez-vous nous dire quels avantages peut nous offrir l’IA ?
H.B : Je considère que l’IA nous offre la possibilité d’ouvrir un débat dynamique entre ce que la science nous offre comme possibilités et ce que nous avons, nous les êtres humains, déjà inhérent en nous comme potentiel. Mettre à profit l’intelligence humaine pour améliorer les conditions de vie et pour corriger les inégalités d’accès à la connaissance, aux ressources et aux technologies qui peuvent améliorer notre qualité de vie.
N.V : Vous considérez l’IA comme un outil de développement, mais est-ce que cet outil peut également avoir un aspect négatif pour nos sociétés ?
H.B : Oui bien sûr, car si on pousse la logique à l’extrême on risque de tomber sur la déshumanisation de nos sociétés, à l’assimilation de l’humain à la machine. De manière qu’on retirerait à l’humain toutes ses qualités, ses valeurs, ses principes.
N.V : Quel conseil donneriez-vous aux gens qui ne s’intéressent pas spécialement à l’IA ?
H.B : Je pense qu’indépendamment de ce que cela nous intéresse ou pas, l’IA a un impact dans notre vie. Le plus important, c’est de démystifier et de démythifier l’IA. Il ne faut pas en avoir peur car plus on a peur, plus on se soumet aux conséquences. Nous devons veiller à ce que l’IA soit la plus inclusive possible, que personne ne reste de côté, aider les gens dans notre entourage qui n’ont pas eu la formation nécessaire pour se servir de la technologie numérique. Il faut aussi ne plus avoir peur des changements, de l’inconnu et surtout ne pas sombrer dans le pessimisme, car nous tous devons modeler l’IA pour qu’elle soit un bien commun, un outil pour l’humanité.
Delia Arrunategui
@arrunategui22
Pour aller un peu plus loin :
L’IA habilitée pour établir des diagnostics médicaux
L’IA, l’outil ultime de la Justice
Nouvelles Vagues 