IA : plus de régulation pour stopper les dérives

Le numérique façonne nos vies à une vitesse vertigineuse… Dans ce contexte, difficile pour les institutions de réguler.

Mais pour Volker Türk, le commissaire de l'Onu pour les droits humains, il est temps de reprendre la main, alors que se pose de plus en plus la question du respect des droits de l'homme avec l'usage de l'Intelligence artificielle. Il s'est exprimé sur le sujet au Sommet mondial sur la société de l'information (SMSI), un événement qui se tient du 7 au 11 juillet à Genève, en Suisse.

Vers plus de régulation 

Les algorithmes... Ils sont utilisés pour produire des textes, des vidéos, des œuvres d'art… Et quand on parle de l'IA, on ne peut pas ne pas parler des données personnelles qui sont utilisées pour alimenter cette intelligence.

Au Sommet mondial sur la société de l'information, Volker Türk, le commissaire de l'Onu pour les droits humains, a rappelé que les technologies numériques peuvent "favoriser le progrès" et faire progresser les droits à la santé, à l'éducation, etc. Mais il a également insisté sur le fait que le rythme sans précédent des changements est aussi source de beaucoup de perturbations.

Selon Volker Türk, "c'est précisément face aux changements massifs que nous avons besoin de plus de droits de l'homme". Il faut donc, selon lui, mettre de l'ordre en ce qui concerne l'usage de l'IA.

"Les mois à venir verront des décisions cruciales en matière de réglementation, y compris de nouveaux mécanismes des Nations unies sur l'IA et la gouvernance des données", a assuré Volker Türk.

Selon lui il y a "une fenêtre d'opportunité pour faire la différence et nous devons unir nos forces, les États, les entreprises technologiques, les organisations internationales, la société civile et d'autres, pour travailler à un environnement numérique inclusif, ouvert pour tous et partout".

Les dérives dans l'usage de l'IA

Dans le cadre du Pacte numérique mondial, les États se sont engagés à favoriser un espace numérique inclusif, ouvert, sûr et respectueux des droits de l'homme. Car l'usage de l'IA pose un certain nombre de problèmes.

"L'IA peut servir à des fins biaisées, comme par exemple quand elle permet l'exploitation de données privées à l'insu des utilisateurs, dans des pays africains où les données sont par exemple mal protégées, où les lois sont défaillantes. L'IA peut servir à des fins malveillantes. L'IA soulève également des questions éthiques importantes telles que la responsabilité en cas d'erreur ou de décisions préjudiciables, lorsque les algorithmes prennent des décisions après avoir mouliné des quantités de données...", rappelle Qemal Affagnon de l'organisation Internet sans frontières.

Les risques d'atteinte à la vie privée, au marché du travail, au droit de ne pas être discriminé, au droit d'accéder à l'information et de s'exprimer sont considérables.

Des pistes pour se protéger

Face à l'évolution rapide des technologies comme l'IA, les enjeux sont donc énormes, notamment en termes de respect des droits des utilisateurs. Il s'agit en l'occurrence de réduire la fracture numérique, de lutter contre les discours de haine en ligne, d'offrir des conseils, de lutter contre la désinformation nuisible et de protéger les données personnelles des utilisateurs contre des usages illicites.

Au-delà des instruments juridiques qui sont progressivement en train d'être mis en place, l'expert en technologie et en gouvernance numérique, Youssef Mazouz, qui a travaillé sur plusieurs initiatives visant à promouvoir l'utilisation responsable de l'IA en Afrique, insiste sur certaines précautions que l'on peut individuellement prendre.

Selon lui "si on travaille avec l'IA, il ne faut pas travailler dans un espace qui n'est pas protégé par un cadre législatif. Déjà, si on sent qu'on est victime d'une atteinte aux données personnelles, on peut recourir à la justice".

Youssef Mazouz, qui est par ailleurs secrétaire général du Centre africain de la cybersécurité explique également qu'il "faut savoir quoi manipuler. Déjà, lorsqu'on est en train de travailler avec des solutions à base d'IA, il faut bien savoir les autorisations qu'on donne. La plupart cliquent sans réfléchir, mais lorsqu'on prend le temps de lire ces conditions et ces règles sur lesquelles on a mis notre consentement, on peut trouver plusieurs choses qui portent atteinte à notre identité…"

Pour l'expert "l'IA est comme l'uranium, si on ne la régule pas et qu'on ne l'utilise pas de la bonne manière, elle peut détruire l'humanité !" D'où l'importance d'agir pour un usage plus responsable, tant de la part des concepteurs que de celui des utilisateurs.