Des campagnes de communication à l’automatisation de certaines tâches, l’IA est de plus en plus fréquemment utilisée par les services du Pays. Et cet outil ouvre encore bien des « perspectives », note le gouvernement, qui a tout de même tenu à cadrer son utilisation dans une charte applicable à ses services depuis la semaine dernière. Protection des données, fiabilité des informations diffusées, questions d’éthique de sécurité et d’environnement… « Un usage inadapté ou non encadré de l’IA peut exposer les usagers ou les services à des risques », alerte le document.

Les pages Facebook des services du Pays regorgent déjà, et depuis longtemps, de visuels générés par IA, ou de textes repris ou « arrangés » par les outils d’intelligence artificielle. Plusieurs initiatives récentes – comme le « guichet unique » numérique de l’administration Rumia – incluent aussi des outils IA, pour faciliter la recherche notamment. Et ce n’est que le début : le secteur public « commence pour gagner en efficacité à intégrer des outils d’IA », qui lui ouvre « de nouvelles perspectives », confirme une circulaire publiée ce jeudi au journal officiel. Un texte signé le 27 janvier par la vice-présidente Minarii Galenon, au nom de Moetai Brotherson et qui est porteur d’une « charte relative à l’usage de l’intelligence artificielle par le gouvernement et les services de la Polynésie française ».

Il ne s’agit visiblement pas de freiner l’intégration de ces nouveaux outils aux potentiels multiples : « automatisation et gain de temps pour les missions à forte valeur ajoutée, modernisation et simplification des processus, amélioration des interactions avec les usagers et de la qualité des prises en charge, analyse et optimisation des politiques publiques, les bénéfices peuvent être nombreux », liste le document. Mais l’utilisation de l’IA dans les services publics doit avoir un « cadre clair » pour garantir « la sécurité des données, la conformité au droit, les valeurs du service public et la maîtrise des impacts environnementaux ». Vu les enjeux « en matière de protection des données, éthique, fiabilité et responsabilité », « un usage inadapté ou non encadré de l’IA peut exposer les usagers ou les services à des risques ».

Biais, erreurs, perte d’explicabilité, atteinte à la vie privée…

La « charte » identifie donc un certain nombre de risques associés à l’utilisation de l’IA, notamment lorsqu’elle est « susceptible d’influencer des décisions, des recommandations ou des contenus ». Le risque de « biais et de discriminations », d’abord : « les modèles d’IA, et notamment les modèles de langage de grande taille, fonctionnent de manière probabiliste et peuvent reproduire ou amplifier les biais présents dans leurs données d’entraînement », conduisant potentiellement à « des traitements inéquitables ou discriminatoires fondés notamment sur l’âge, le genre ou l’origine ». Le « manque de transparence et la perte d’explicabilité » ensuite : la complexité de certains systèmes d’IA peut empêcher de « justifier une décision, d’en contester le fondement ou d’en expliquer les effets aux personnes concernées ».

L’intelligence artificielle commet aussi des erreurs, voire invente parfois des contenus, les fameuses « hallucinations » de l’IA, en leur donnant un aspect crédible. L’atteinte à la vie privée et la protection des données personnelles, ensuite. « L’usage d’un outil d’IA non maîtrisé peut entraîner la collecte, le traitement ou la divulgation de données à caractère personnel sans base légale, en méconnaissance des principes du RGPD », précise la circulaire. Comme d’autres logiciels, les systèmes d’IA peuvent aussi être exposés à des vulnérabilités techniques et « l’automatisation excessive de certaines tâches » peut conduire à l’engagement de la « responsabilité de l’agent, du service et du Pays ».

Principe de primauté et de vérification humaine

Aucun doute, donc « l’IA doit demeurer un outil d’aide à la décision et non de substitution ». La charte liste donc des recommandations générales, pour l’utilisation de ces outils en plein développement : primauté et relecture humaine, « neutralité » des modèles utilisés, vérification de l’origine des données utilisées, interdiction de traiter par IA des données personnelles des usagers, ou des données confidentielles de l’administration, sauf dérogation expresse de la DSI, transparence, avec la hiérarchie et le public, sur l’utilisation de l’IA, signalement rapide des anomalies de sécurité… Le document privilégie aussi l’utilisation de certaines solutions, notamment celles qui font partie du « panorama » de la Direction interministérielle du numérique nationale. Des outils qui, sans être « validés » officiellement ou notés techniquement, ont été évalués réglementairement. L’IA « Copilot » intégrée à Microsoft 365 est aussi utilisable par tous les agents, dans le cadre des licences achetées par le Pays.

La circulaire précise que les chefs de service ont la liberté d’édicter des règles plus strictes que cette charte, qui doit être mise à jour fréquemment, vu l’évolution technologique rapide des outils d’intelligence artificielle. Elle précise aussi que le non-respect de ces règles de prudence peut aboutir à l’engagement de la responsabilité de l’agent.