Passer au contenu

Ressources chevron_right Matériel & Logiciel chevron_right Document de Discussion

Les machines vraiment autonomes sont éthiques

Il existe une inquiétude répandue que lorsque les machines évoluent vers une plus grande autonomie, elles peuvent devenir une «loi pour elles-mêmes» et se retourner contre nous. Pourtant, la menace réside davantage dans la façon dont nous concevons une machine autonome plutôt que la machine elle-même. Tae Wan Kim et John Hooker de la Tepper School of Business de l'Université Carnegie Mellon étudient l'intersection de la technologie et de l'éthique.

Les auteurs soulignent les craintes de perdre le contrôle des machines dans un monde de plus en plus intégré. À Pittsburgh, où les villes intelligentes et les problèmes de mobilité émergents se posent avec l’augmentation du nombre de machines autonomes sur les routes, la participation du public est extrêmement importante pour la mise en œuvre des nouvelles technologies. L'idée de respecter l'autonomie des autres, des humains comme des machines, est une préoccupation qui, de l'avis du public, pourrait devenir incontrôlable lorsque les robots commenceraient à opprimer les humains. Hooker et Kim associent ces craintes à l’idée d’un véhicule autonome en tant qu’agent autonome pensant ayant la capacité de nuire à autrui sans comprendre la notion de responsabilité.

Selon les auteurs, on s'inquiète généralement du fait que, à mesure que les machines évoluent vers une plus grande autonomie, elles pourraient devenir une «loi à elles seules» et se retourner contre les humains. Cependant, la menace réside davantage dans la conception d'une machine autonome que dans la machine elle-même. Les gens ont tendance à voir un agent autonome comme un agent qui définit son propre agenda, libre de toute contrainte externe, y compris éthique. Une compréhension plus profonde et plus adéquate de l’autonomie a évolué dans la littérature philosophique, en particulier dans l’éthique déontologique. Elle enseigne que l'éthique est une contrainte interne à l'autonomie, et non externe, et qu'un agent véritablement autonome doit être éthique. Elle explique comment faire en sorte que les machines soient réellement autonomes plutôt que simplement hors du contrôle humain.

Ressource disponible uniquement en anglais

Discussion

Vous devez vous enregistrer pour laisser un commentaire. Connectez-vous