Le gouvernement canadien promet que les fonctionnaires ne seront pas complètement écartés du processus offrant des réponses aux citoyens sur les prestations et les services.
On veillera à ce que les décisions prises par des machines soient justes, équitables et cohérentes, affirme-t-on.
Cela dit, le ministère qui supervise le filet de sécurité sociale fédéral va déjà de l’avant et a discrètement commencé à tester divers systèmes d’intelligence artificielle d’aide aux citoyens.
On apprend dans des documents obtenus par La Presse canadienne en vertu des lois sur l’accès à l’information que le ministère d’Emploi et Développement social Canada a déjà en place une petite équipe qui teste des outils intelligents.
Ils ont pour objectif de simplifier la navigation dans l’un des plus grands organismes de services au pays, en matière de gestion des prestations de retraites publiques, de l’assurance-emploi, des prestations familiales et des régimes d’invalidité.
Les hauts et les bas de l’automation intelligente
On souhaite en arriver, à court terme, à ce que les citoyens interagissent directement avec des robots informatiques plutôt qu’avec des humains, notamment lors de discussions en ligne pour obtenir des informations sur des programmes gouvernementaux.
Une première ébauche de la stratégie d’intelligence artificielle du ministère laisse entendre cependant que les risques associés aux agents conversationnels incluent : « fournir des informations incorrectes aux Canadiens », « produire un contenu incohérent » ou « reproduire un comportement indésirable ».
Dans le déploiement de ses services intelligents, les documents indiquent que le ministère doit gérer les risques juridiques, les questions éthiques et les problèmes logistiques, sans parler de la perception du public.
En avant toute, mais sans la ministre responsable
La ministre au moment de sa démission (Adrian Wyld/Canadian Press)
Dans une allocution, lundi matin – quelques heures avant sa démission du cabinet – lors d’une conférence de fonctionnaires, la présidente du Conseil du Trésor, Jane Philpott, a affirmé que l’ère de l’intelligence artificielle était bel et bien amorcée.
« Quand les gens vont en ligne et font leurs achats de Noël, l’intelligence artificielle influence leur manière de faire leurs achats de Noël, a-t-elle souligné. Au gouvernement, nous voulons nous assurer de tirer parti des mêmes types d’outils pour fournir de bons services aux personnes, mais nous devons être extrêmement transparents dans la manière de procéder. »
Selon elle, le potentiel d’amélioration des services fédéraux est illimité, mais cela pose également des problèmes d’éthique et de responsabilité pour le gouvernement.
Des inquiétudes déjà vues
En septembre dernier, un rapport indépendant, mené par le Citizen Lab de l’Université de Toronto, mettait en garde le gouvernement canadien dans son utilisation d’une nouvelle génération de logiciels intelligents pour filtrer et traiter les dossiers de personnes qui font des demandes pour immigrer au Canada.
Le Citizen Lab estimait que les risques de dérapages aux conséquences très graves naîtraient d’une utilisation insensible ou abusive en plus de mener à de la discrimination, à l’atteinte à la vie privée et aux droits de la personne des candidats à l’immigration.
Ces nouveaux outils dits intelligents pourraient, disait-on, entraîner des « conséquences mortelles » pour les immigrants et les réfugiés.
Pétra Molnar du Citizen Lab – Photo : Université de Toronto
« Nous savons que le gouvernement expérimente l’utilisation de ces technologies […] mais il est clair que sans garanties et mécanismes de surveillance appropriés, utiliser l’IA pour déterminer l’immigration et le statut de réfugié est très risqué », expliquait Pétra Molnar, l’une des auteures du rapport.
« L’IA n’est pas neutre. C’est un peu comme une recette. Et si votre recette est biaisée, la décision prise par l’algorithme est également biaisée et difficile à contester », poursuivait-elle.
L’utilisation de l’intelligence artificielle dans le domaine de l’immigration est-elle dangereuse? Photo : Radio-Canada
RCI avec La Presse canadienne et la contribution de Radio-Canada
En complément
L’intelligence artificielle dans les entreprises canadiennes et québécoises tourne au ralenti – RCI
Montréal confirmée comme cerveau mondial de l’intelligence artificielle et profonde – RCI
Un Américain à la tête du laboratoire montréalais de Microsoft sur l’intelligence artificielle – RCI
Ottawa injecte 230 miĺlions $ pour une supergrappe en intelligence artificielle – RCI
Pour des raisons indépendantes de notre volonté et, pour une période indéterminée, l'espace des commentaires est fermé. Cependant, nos réseaux sociaux restent ouverts à vos contributions.