1 of 25

2 of 25

Qu’est-ce que l’éthique de l’intelligence artificielle?

3 of 25

Pourquoi parler d’intelligence artificielle aujourd’hui?

Pourquoi les développements en intelligence artificielle peuvent-ils être préoccupants?

Quel est le rôle de l’éthique de l’intelligence artificielle?

PROGRAMME

4 of 25

5 of 25

Dans l’actualité récente, on a beaucoup entendu parler d’intelligence artificielle.

Dans les derniers mois, l’intelligence artificielle semble avoir fait les manchettes très souvent. On a évidemment beaucoup entendu parler de ChatGPT, un robot conversationnel qui permet d’effectuer une grande variété de tâches comme écrire un courriel, faire le résumé d’un livre ou suggérer une recette à partir des ingrédients qu’on lui donne. Mario Dumont l’a d’ailleurs testé pour vérifier s’il était capable d’écrire une de ses chroniques.

Les perspectives que permet cette technologie sont considérées comme très prometteuses par plusieurs entreprises et gouvernements qui n’hésitent pas à investir dans le domaine. Les noms de personnes et de compagnies célèbres, comme Elon Musk et Microsoft, reviennent donc souvent dans les articles qui traitent de nouvelles en lien avec l’intelligence artificielle.

On peut aussi constater la présence de l’IA dans le coeur d’enjeux courants, comme la guerre entre Israël et le Hamas.

6 of 25

Dans l’actualité récente, on a beaucoup entendu parler d’intelligence artificielle.

Source : « Midjourney / Reddit / u/trippy_art_special »

7 of 25

Mais qu’est-ce que l’intelligence artificielle?

Antidote définit l’intelligence artificielle (IA) comme:

l’ensemble des théories et des techniques visant à réaliser des systèmes ou des machines pouvant simuler les facultés cognitives de l’être humain et exécuter des fonctions qui en dépendent.

8 of 25

L’IA se base sur différents types d’algorithmes et modèles mathématiques.

Un algorithme est simplement une série d’étapes ou d’instructions à exécuter, selon un ordre précis.

Une recette de gâteau ou la marche à suivre pour réparer un lave-vaisselle peuvent donc être considérées comme des algorithmes.

Quand on parle d’intelligence artificielle, on entend aussi souvent parler d’algorithmes.

Il est important de savoir que les algorithmes ne sont pas propres au domaine de l’intelligence artificielle. En effet, un algorithme est simplement une série d’étapes ou d’instructions à exécuter, selon un ordre précis.

Dans la vie de tous les jours, tout le monde applique donc différents algorithmes, comme, par exemple, en suivant une recette pour se faire à manger ou en tentant de réparer un lave-vaisselle qui est brisé grâce au manuel d’instructions.

Les algorithmes d’IA, quant à eux, reposent sur des techniques d’apprentissage automatique qui permettent à l’ordinateur d’apprendre en dégageant des tendances à partir des données auxquelles il est exposé. De cette façon, comme un enfant, plus il voit des données (ou des exemples), meilleur est son apprentissage.

9 of 25

L’ordinateur apprend à partir

Ordinateur

Base de données - Pommes

Base de données - Raisins

de données. Cela signifie que la machine est exposée à de nombreux exemples.

10 of 25

Une fois les données

récoltées, la machine s’ajuste progressivement pour dégager diverses tendances.

Ordinateur

Est-ce une pomme?

11 of 25

Plus la machine reçoit de

données, plus elle devient bonne à la tâche.

Ordinateur

Base de données - Cerises

Est-ce une pomme?

Base de données - Raisins

Base de données - Pommes

Une fois que le système connaîtra bien les pommes et les grappes de raisins, il sera en mesure de les différencier avec un certain niveau de succès. Toutefois, si on lui montre un nouveau fruit, comme une cerise qui peut ressembler à la fois à une pomme et une grappe de raisins, l’ordinateur n’aura pas la capacité de le reconnaître et pourrait le mélanger avec l’un des deux fruits qu’il connaît déjà. Ainsi, il faudra le réentraîner en ajoutant des images du nouveau fruit à celles qui étaient déjà utilisées lors de l’entraînement original. Cela lui permettra d’apprendre à reconnaître ce nouveau fruit et, du même coup, à mieux définir les caractéristiques propres à chacun des fruits qu’il connaît déjà. De cette façon, plus la quantité d’images qu’il reçoit à l’entraînement est grande et plus ces dernières sont variées, meilleure sera sa précision et son taux de succès se verra donc amélioré.

12 of 25

L’IA est aujourd’hui utilisée un peu partout.

Générer du texte, des images et de la parole

Personnaliser des recommandations de contenu

Conduire une voiture autonome

Transcrire des fichiers audio sous forme de texte

Détecter le discours haineux en ligne

Créer des itinéraires pour se déplacer plus efficacement

Accélérer le développement de médicaments

Repérer des fraudes bancaires

Optimiser la production et consommation d’énergie

… et bien d’autres choses encore!

Grâce à l’intelligence artificielle, on peut donc demander à la machine de réaliser une grande diversité de tâches qui étaient auparavant trop complexes pour être exécutées par une autre entité qu’un être humain.

On peut, par exemple, utiliser l’intelligence artificielle pour:

-Générer du texte, des images et de la parole

-Personnaliser des recommandations de contenu

-Conduire une voiture autonome

-Transcrire des fichiers audio sous forme de texte

-Détecter le discours haineux en ligne

-Créer des itinéraires pour se déplacer plus efficacement

-Accélérer le développement de médicaments

-Repérer des fraudes bancaires

-Optimiser la production et consommation d’énergie

Évidemment, tout ceci n’est qu’un minuscule échantillon parmi l’ensemble des possibilités!

13 of 25

L’usage de l’IA est très probablement encore appelé à croître, vu...

Une augmentation des capacités de calcul et de stockage des ordinateurs.

De plus en plus de données générées et recueillies.

Un effort grandissant de recherche permettant de développer des algorithmes toujours plus sophistiqués.

Une hausse des investissements dans le domaine.

La combinaison de tous ces facteurs contribue à améliorer la performance des systèmes basés sur l’IA dans une multitude de contextes d’applications. Cela augmente ainsi l’intérêt pour cette technologie.

La popularité actuelle de l’IA est toujours en croissance, vu la combinaison de certains éléments clés.

On peut d’abord mentionner les progrès rapides dans le domaine de la technologie, notamment l'augmentation de la puissance de calcul des ordinateurs et de la capacité de stockage de données
Ensuite, nous pouvons produire de plus en plus de données, que ce soit par le biais des médias sociaux, de différents types de capteurs, des transactions en ligne, etc. Cette plus grande quantité de données permet d’améliorer les performances des systèmes actuels.
On peut aussi mentionner les efforts de la recherche qui se concentrent à développer des algorithmes toujours plus performants
Enfin, les entreprises et les gouvernements investissent massivement dans la recherche et le développement de l’IA afin de stimuler l’innovation et la collaboration.

14 of 25

15 of 25

Dans la culture populaire, l’IA générale semble effectivement susciter une certaine crainte.

Les représentations de l’IA dans les médias, en particulier dans la culture populaire, associent souvent cette technologie à des intrigues dystopiques où les machines deviennent assez puissantes pour se retourner contre l'humanité ou menacer son existence.

Aujourd’hui, nous sommes encore loin de ce scénario puisque les systèmes d’IA sont présentement capables d’exécuter un type de tâches en particulier. Même si les robots conversationnels comme ChatGPT sont capables de répondre à nos questions et de créer du texte original, on ne les qualifie pas comme de l’IA générale parce que leurs fonctionnalités demeurent tout de même assez limitées. Ils savent générer du texte, mais ils ne saisissent pas le sens de ce qu’ils écrivent et ils n’ont pas de conception réelle du monde et de leurs interactions avec les êtres humains.

Pour qu’on la qualifie de générale, une IA aurait effectivement besoin d’être capable de reproduire les facultés humaines de raisonnement, d’adaptation, de création de sens, d’apprentissage et de compréhension du monde.

16 of 25

Si l’IA générale peut inquiéter, l’utilisation actuelle de l’IA est parfois déjà problématique.

17 of 25

L’intelligence artificielle n’est effectivement pas une solution sûre à 100%.

Présence de biais dans les données

·

Décisions difficiles, voire impossibles à expliquer

·

Erreurs de prédiction

·

Impact sur l’expérience humaine ·Coût environnemental

Les systèmes d’IA présentent plusieurs types de lacunes potentielles, qui, si elles sont ignorées, peuvent causer de nombreux préjudices.

Biais et discrimination : D’abord, les systèmes d’IA peuvent être influencés par des biais présents dans les données d’entraînement, ce qui peut conduire à des résultats discriminatoires ou injustes. Les biais existants dans la société peuvent se refléter dans les décisions prises par les algorithmes d’IA, amplifiant ainsi les inégalités et les préjugés. Par exemple, un système de prédiction de récidive qui était utilisé aux États-Unis était beaucoup plus sévère avec les personnes noires qu’avec les personnes blanches. Ce système se basait sur des données historiques qui témoignent de préjugés des policiers aux États-Unis qui ont davantage tendance à arrêter les personnes noires que les personnes blanches.

Transparence et explicabilité : Certains systèmes d’IA peuvent produire des réponses qui sont difficiles à comprendre et à expliquer. Cela pose un défi pour évaluer et contrôler le comportement de ces systèmes, notamment lorsqu’ils sont utilisés dans des domaines sensibles tels que la santé ou la justice. Cela est d’autant plus problématique quand le processus de prise de décision est automatisé. Si on reprend l’exemple du système de prédiction de récidive mentionné tout à l’heure, il aurait été plus évident de voir que la couleur de la peau influençait la décision du système si ce dernier avait mieux expliqué quels facteurs il utilisait pour faire ses recommandations.

Erreurs de prédiction : Les systèmes d’IA peuvent commettre des erreurs de prédiction, en particulier dans des situations nouvelles ou imprévues pour lesquelles ils n’ont pas été spécifiquement entraînés. Des erreurs peuvent aussi être commises lorsque la machine ne comprend pas bien le contexte ou l’intention derrière une demande ou une situation et ainsi traiter l’information de manière trop littérale ou en ne tenant pas compte des aspects émotionnels ou sociaux qui sont importants. Ces erreurs peuvent avoir des conséquences négatives, par exemple dans le domaine médical où une mauvaise interprétation d’une analyse par un système d’IA peut avoir des répercussions sur le diagnostic et le traitement d’une personne malade.

Impact sur l’expérience humaine: Les systèmes d’IA influencent l’expérience de la vie qu’ont les êtres humains. Le fait d’utiliser des robots conversationnels peut, par exemple, déshumaniser les interactions des gens. Les systèmes de génération de textes ou d’images remettent, quant à eux, en question les concepts de l’art et de la création. De plus, si ces systèmes sont utilisés par des individus mal intentionnés, ils peuvent également induire des gens en erreur ou atteindre à leur réputation.

Coût environnemental: L’IA est coûteuse sur le plan environnemental. D’abord, les machines consomment énormément d’énergie pendant leur phase d’apprentissage (ou d’entraînement). Une étude d’Anthony, Kanding et Selvan (2020) estime que l’entraînement du modèle à la base de ChatGPT serait équivalent à un trajet d’un peu plus de 700 000 km en voiture. Ensuite, les centres où sont entreposées les données doivent être climatisés pour garder les machines à une température adéquate, ce qui consomme encore plus d’énergie. Si cela est particulièrement dommageable lorsque l’énergie provient de sources non-renouvelables, le simple fait de consommer une grande quantité d’énergie est déjà problématique considérant le contexte d’urgence climatique actuel.

18 of 25

19 of 25

Différentes approches philosophiques peuvent être utilisées pour discuter de l’éthique de l’IA.

Utilitarisme Déontologie Éthique des droits Éthique de la vertu Éthique du care

Il existe plusieurs approches plus théoriques pour aborder l’éthique de l’IA:

Utilitarisme : Cette approche se concentre sur la maximisation du bien-être collectif ou de l’utilité. Elle cherche à optimiser les résultats et les conséquences positives de l’utilisation de l’IA, en tenant compte des avantages et des inconvénients pour l’ensemble de la société.
Déontologie : Cette perspective met l’accent sur le respect des devoirs et des principes éthiques. Elle se concentre sur l’établissement de règles et de normes éthiques qui guident le développement et l’utilisation de l’IA, indépendamment des conséquences spécifiques à des cas précis.
Éthique des droits : Cette démarche accorde une importance particulière aux droits fondamentaux et aux libertés individuelles. Elle cherche à garantir que l’IA respecte et protège les droits humains, tels que la vie privée, la liberté d’expression et l’égalité.
Éthique de la vertu : Cette vision insiste plutôt le développement des caractères et des vertus morales. Elle encourage les personnes qui conçoivent et utilisent l’IA à cultiver des qualités telles que la bienveillance, la prudence et la responsabilité dans leurs interactions avec cette technologie.
Éthique du care : ÉVOQUER Cette philosophie s’articule autour des relations interpersonnelles et de la considération des besoins et des intérêts des individus. Elle encourage une approche attentionnée et sensible aux conséquences de l’IA sur les personnes concernées, en s’appuyant sur l’empathie et la responsabilité sociale.

Ces approches sont complémentaires et ne devraient pas être utilisées comme des règles à suivre, mais plutôt comme des moyens de nourrir la réflexion.

20 of 25

Une équipe de recherche menée par Anna Jobin a identifié 11 principes qui sont fréquemment mentionnés en éthique de l’intelligence artificielle.

Justice et équité Non-malfaisance Responsabilité

Vie privée Bienveillance Transparence

Liberté et autonomie Confiance

Durabilité Dignité Solidarité

Jobin et al. (2019)

Une équipe de recherche menée par Anna Jobin, professeure à l’École polytechnique fédérale de Zurich, a analysé des dizaines de documents sur l’éthique de l’intelligence artificielle et a dégagé 11 principes majeurs. Sans constituer une liste officielle d’éléments à respecter, voire à cocher, ces principes permettent tout de même de rappeler la diversité des enjeux qui se rattachent à l’IA

Transparence : Les systèmes d’IA devraient être compréhensibles et les décisions qu’ils prennent devraient pouvoir être expliquées. Les données utilisées pour l’entraînement des systèmes devraient aussi être identifiables.
Justice et équité : L’IA devrait être développée et utilisée de manière à éviter toute discrimination ou biais, en traitant équitablement tous les individus et en respectant les principes de justice.
Non-malfaisance : L’utilisation et le développement de l’IA devraient minimiser les risques potentiels et en éviter les utilisations abusives afin de ne pas causer de préjudice intentionnel ou involontaire.
Responsabilité : Les responsabilités liées au développement et à l’utilisation de l’IA devraient être clairement déterminées afin de favoriser une prise de décision éthique et intègre.
Vie privée : Les données personnelles utilisées et récoltées par les systèmes d’IA devraient être protégées, afin de respecter la confidentialité et le droit à la vie privée des individus.
Bienveillance :L'IA devrait être développée et utilisée pour le bien-être et le bénéfice de l’humanité, en tenant compte des intérêts des êtres vivants et de la planète.
Liberté et autonomie : L’IA ne devrait pas limiter les choix personnels ou manipuler les décisions des individus afin de leur laisser leur indépendance.
Confiance : Les systèmes d’IA devraient être fiables et fonctionner d’une manière sûre et prévisible, qui ne compromet pas l'intégrité.
Durabilité : L’IA devrait être développée et utilisée de manière à minimiser son impact environnemental, en adoptant des pratiques écologiques et économes en énergie.
Dignité : L’IA devrait s'efforcer de respecter, préserver et renforcer les droits humains en évitant tout préjudice et interaction forcée ou cachée avec l’IA.
Solidarité : L’IA devrait être utilisée dans un but de créer une cohésion sociale forte et de soutenir les personnes plus vulnérables grâce à une distribution équitable des bénéfices.

21 of 25

À quoi sert l’éthique de l’IA?

Si l’éthique ne propose pas de solution claire aux enjeux, elle incite à se questionner, dans le but de :

Au bout du compte, tout le monde peut contribuer d’une façon ou d’une autre

à faire de l’IA une technologie éthique. Se questionner à plusieurs est important afin de s’assurer d’avoir la plus grande diversité de points de vue!

Favoriser un développement responsable de l’IA par la communauté scientifique et l’industrie

Encourager une réglementation adéquate de l’IA

Soutenir une utilisation réfléchie

Évidemment, l’éthique de l’IA n’est pas en mesure de fournir des réponses claires aux problèmes éthiques. Elle ne garantit pas non plus l’implémentation de solution infaillible. Elle permet toutefois d’être davantage sensible aux divers enjeux de l’IA en incitant à poser des questions. Une meilleure réflexion éthique aide à guider le développement, la réglementation ainsi que l’utilisation de cette technologie, de manière à favoriser une IA qui soit responsable et qui corresponde aux différentes valeurs énumérées précédemment.

Si le développement éthique et la réglementation de l’IA peuvent sembler être des mesures plus concrètes, il n’en demeure pas moins qu’on peut tout de même avoir un rôle à jouer en choisissant les façons dont on veut utiliser l’IA. Grâce à des choix plus éclairés et les questions qu’on pose dans la sphère publique comme dans sa vie privée, on participe à diversifier les points de vue dans les discussions relatives à l’éthique de l’IA.

22 of 25

23 of 25

L’IA est une technologie puissante qui mérite d’être traitée avec prudence.

Les avancées permises par l’IA sont impressionnantes et prometteuses.

Cela dit, une discussion pour réfléchir aux divers risques que posent cette

technologie est nécessaire pour en assurer un développement ainsi qu’une utilisation éthiques.

L’éthique de l’IA peut ainsi servir de fondation pour guider le processus de réflexion et stimuler la participation du plus grand nombre.

24 of 25

25 of 25

CRÉDITS ORIGINAUX

Recherche

Rédaction de contenu Adèle Aubin

Création graphique Julia Martinez Turgeon