Facult Informatique et Communications Section d'informatique Professeure : Aude Billard

thique robotique : entre mythes et ralit AUTONOMOUS ROBOTS COURSE

Juin 2007 Sarah Dgallier Pierre-Andr Mudry

Table des matires

Table des matires 1 Introduction 1.1 Un domaine en pleine eervescence . . . . . . . . . . . . . . . . . . . . . . . . . . 1.2 Plan du travail . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 Le robot : du mythe la ralit 2.1 LAntiquit aux origines du mythe . . . . . . . . . . . . . . . . . . . . 2.2 Les ttes parlantes et le symbole de la parole . . . . . . . . . . . . . . 2.3 Le Moyen ge la recherche dun tre humain fait de main dhomme 2.4 Thorie et pratique des robots aux XVIIe et XVIIIe sicles . . . . . . . 2.5 XIXe et XXe : Vers lintelligence articielle . . . . . . . . . . . . . . . 2.6 Synthse . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3 La question de la responsabilit 3.1 Le concept de responsabilit . . . . 3.2 La responsabilit pour les machines 3.3 Des robots arms . . . . . . . . . . 3.4 La responsabilit du scientique . . 4 Les 4.1 4.2 4.3 motivations de Le robot comme Le robot comme Le robot comme 1 2 2 3 4 4 6 6 7 9 10 11 11 11 14 14 17 18 20 22 27 29 30

. . . . . .

. . . . . .

. . . . . .

. . . . . .

. . . . . .

. . . . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

la robotique agent de mutation du monde du travail . . . . . . . . . . . . . substitut social . . . . . . . . . . . . . . . . . . . . . . . . . . . extension de lhomme . . . . . . . . . . . . . . . . . . . . . . . .

5 Conclusion 5.1 Remerciements . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6 Bibliographie

Chapitre 1

Introduction
Un train arrive grande vitesse vers un aiguillage et il lui est impossible de freiner. Sur la voie de droite se trouvent cinq travailleurs en train deectuer des travaux dentretien alors que sur la voie de gauche travaille une personne seule. Si vous tiez au commande de la locomotive, que feriez-vous ? Que ferait un ordinateur ou un robot dans un tel cas ? et exemple, tir de Allen et al. [AWS06], est typique des questions thiques que la technologie moderne nous amne, aujourdhui comme demain, nous poser en tant quingnieurs. Certaines technologies, comme le nuclaire ou la gntique, ont amen avec elles le spectre de dangers si grands que, face la pression du public, elles durent pour survivre prendre en compte les questions thiques quelles soulevaient. La robotique, branche en pleine expansion se trouvant la croise des chemins de plusieurs sciences, arrive galement un stade o son intgration ainsi que son impact dans le quotidien ne lui permettent plus de passer outre les problmes thiques souleve par des questions telles que "Qui est responsable des actions dun robot ?" ou encore "Quelles sont les consquences de laugmentation des capacits humaines par la robotique ?" .

1.1

Un domaine en pleine eervescence

On assiste ainsi depuis quelques annes au dveloppement dune branche particulire de lthique que lon nommera robo-thique. Celle-ci partage un grand nombre de points communs avec lthique de linformatique comme, par exemple, la question de la fracture digitale ou encore celle de lanthropomorphisation des relations homme-machine. En plus de ces similitudes, ainsi que le mentionne Verrugio dans [VO06], elle se trouve galement la croise de plusieurs autres branches : intelligence articielle, philosophie, thique, thologie, biologie, physiologie, sciences cognitives, neurosciences, droit, sociologie, psychologie et design industriel. Les principales sources concernant spciquement lthique des relations hommes-robots sont relativement rcentes. Ainsi, le principal journal scientique abordant le sujet (de manire non exclusive) est Ethics and Information Technology dont le premier volume est paru en 1999. notre connaissance, il nexiste pas de publication rgulire concernant le problme spcique de lthique lie la robotique. Toutefois, un numro spcial de la revue International Review of Information Ethics 1 , paru en dcembre 2006, est ddi ce sujet. Au niveau des confrences, la situation actuelle est marque par un dynamisme lev qui est apparu la suite du premier Symposium on Roboethics qui sest tenu Sanremo en janvier
1. Disponible sur http://www.i-r-i-e.net/

CHAPITRE 1. INTRODUCTION

2004. Celui-ci a marqu le vritable coup denvoi des ateliersconfrences traitant de ce sujet en runissant philosophes, juristes, sociologues, anthropologues et roboticiens. Depuis, quelques ateliers ont t organiss, notamment par le IEEE Robotics and Automations Technical Committee on Robo-Ethics. Pour citer les principaux, on retrouve notamment un atelier ddi lthique de la robotique ICRA05 et ICRA07, lEURON Roboethics Atelier de Gnes en 2006 ainsi que latelier Ethics of Human Interaction with Robotic, Bionic, and AI Systems Concepts and Policies, support par le projet europen ETHICBOTS 2 , qui a eu lieu Naples en octobre 2006. Finalement, en juin de cette anne aura lieu lEuropean Computing and Philosophy Conference (ECAP07) durant laquelle une session spciale sera consacre la philosophie et lthique de la robotique.

1.2

Plan du travail

De ces confrences est ne la Roboethics Roadmap 3 (voir [Ver06]) qui se veut un document mettant en avant les direntes questions thiques pouvant exister dans la robotique. Ce document considre comme prmatur de sintresser aux questions de lmergence de fonctions humaines dans les robots comme la conscience, la libert de choix ou encore les motions mais propose de sinterroger plutt sur les choix thiques humains des concepteurs et des utilisateurs de robots. Cest cette mme optique que nous allons adopter en tentant de dpeindre le paysage actuel des questions thiques qui sont souleves par les interactions entre des hommes toujours plus robotiss et des machines toujours plus humanises. En posant la question de la moralit des actions, la robo-thique renvoie le chercheur sa vision personnelle du bien et du mal, incluant ainsi invitablement une certaine part de subjectivit. Dans ce travail, nous allons dans un premier temps considrer comment, au travers de la littrature et des mythes, sest impose dans la vision europenne une image plutt inquitantes des tres mcaniques, vision qui nexiste pas dans la culture japonaise par exemple 4 . Nous verrons ensuite comment la question centrale de la responsabilit permet daborder un grand nombre de problmes thiques relatifs aux robots et plus largement la science. Ceci nous permettra par exemple de considrer le cas des robots guerriers ou encore de nous interroger sur le rle de la responsabilit du scientique. Finalement, nous aborderons le thme de la nalit de la robotique qui amnera avec elle des questions thiques plus larges comme linuence des robots sur la transformation du travail, lusage de robots comme substituts sociaux ou encore le transhumanisme.

2. Dont le site Web est accessible sur http://ethicbots.na.infn.it/ 3. Disponible en ligne sur http://www.roboethics.org/site/modules/mydownloads/visit.php?cid=2&lid= 38. 4. Faute de place, nous naborderons pas la question spcique des dirences culturelles entre Europe et Japon sur la question des robots. Nous renvoyons le lecteur intress Kitano dans [Kit05] ou [Kit06]

Page no 3

Chapitre 2

Le robot : du mythe la ralit

ans notre socit occidentale o lubiquit de la technique est une ralit quotidienne, les robots continuent tre entours dune certaine aura de mystre. Nous allons montrer que celle-ci trouve ses racines dans limaginaire collectif qui a t nourri dune part par lhritage judo-chrtien et dautre part par la littrature. En retraant les origines de ce "malaise" et de cette fascination face aux robots de toutes sortes, nous pourrons ensuite mettre en avant en quoi le poids du mythe et des symboles revt une importance primordiale dans la dnition mme des problmes dthique relatifs aux relations hommesrobots en posant la question fondamentale des dangers pour lHomme de la cration de son double articiel.

2.1

LAntiquit aux origines du mythe

Lune des premires rfrences des tres articiels dous dune certaine autonomie se retrouve chez Homre. Dans lIliade (livre XVIII), on retrouve aux cts dHphastos, le dieux boiteux, des servantes dor pareilles de jeunes demoiselles vivantes, pleines dides et de sagesse [Coh68, p. 9] ainsi que des siges roulettes dor pour quils puissent se mouvoir deux-mmes, entrer tous seuls dans la salle de banquet et en ressortir comme par enchantement [Coh68, p. 9]. Les Mtamorphoses dOvide [Ovi93] narrent quant elles comment Pygmalion cra une statue dune femme si belle, Galate, quil en tomba amoureux. Ne pouvant supporter que son amour reste sans rponse, il supplia Aphrodite de donner vie la statue an quil puisse ensuite lpouser. Hsiode quant lui va au del de la ralisation dobjets anims. Dans sa Thogonie, le lgendaire Promthe ptrit, partir de terre et deau, un homme vivant auquel il fera don du feu pour quil se reproduise. Toutefois, il se verra condamn par Zeus avoir son foie mang tous les jours par un aigle pour avoir outrepass la prrogative du tout puissant en ce domaine. La premire punition pour avoir brav les dieux en essayant de leur drober leur pouvoir tait crite. Si ces rcits mythologiques se rfrent des personnages fantasmagoriques et lgendaires ainsi qu des machines imaginaires, les rudits de lAntiquit ont galement montr un intrt certain pour la ralisation dautomates plus ou moins complexes. Lun des plus illustres reprsentants de lingnierie dalors est le fameux Ddale, pionnier du gnie mcanicien, qui cra des statues pouvant se dplacer toutes seules (ralisant ainsi probablement lun des premiers automates) en plus dautres inventions comme les chaises pliantes ou encore les voiles de bateau. La Grce ne possdait pas lapanage de la technique et on retrouve chez les gyptiens dj (voir Figure 2.1), par exemple, des statues pouvant bouger une partie du corps (comme un bras,

CHAPITRE 2. LE ROBOT : DU MYTHE LA RALIT

actionn par une celle) ou gnrer des sons laide du feu 1 . Ces statues articules, ralises par des prtres, taient ainsi censes avoir la capacit de rpondre aux dles en transcrivant la volont des dieux. Souvent dailleurs, le prtre lui-mme posait les questions voulues et "recevait" les rponses en actionnant les mcanismes.

Figure 2.1: Statue danseuse de lgypte Ancienne, tir de [Coh68, p. 81]. Nous voyons dans cette pratique de lutilisation des premiers automates une signication moins anodine quil ny parat au premier abord. En eet, se prole ici lide que linstillation dune certaine forme de vie, se traduisant par des mouvements aussi simples quun hochement de tte, confre directement une dimension morale la statue, posant par l mme le problme de lthique de ses dcisions. Ainsi, les prtres pouvaient faire entrer lme dans legie par un rite [. . . ] pour la doter de la parole et du pouvoir de faire du bien ou du mal [Coh68, p. 15]. On retrouve des traces du mme type de rituels religieux dans un grand nombre de rgions, de telles statues ayant t retrouves notamment chez les Romains, en Inde, en Chine ou encore en Afrique. Nous pensons que la popularit de ces rites, au del du dsir des prtres de tous bords de pouvoir manipuler des croyants par quelque supercherie, plante les racines de ce qui, plus tard, amnera poser la question de la dimension morale chez les machines. Cest cette mme question qui, sous une forme plus moderne, amnera les scientiques aux rexions sur la nature de lthique intgrer dans les "esprits" des robots.
1. Le lecteur intress pourra trouver dans [Coh68] un intressant historique des automates dont nous nous inspirons dans ce travail.

Page no 5

CHAPITRE 2. LE ROBOT : DU MYTHE LA RALIT

2.2

Les ttes parlantes et le symbole de la parole

Figure 2.2: La machine parler de Von Kempelen, tir de [Coh68, p. 64]. En plus des mcanismes destins faire bouger des parties du corps des statues, les prtres utilisaient galement toutes sortes de tuyaux cachs an de les doter de la parole. En eet, dans tous les rituels destins insuer la vie, la parole joue un rle primordial en tant que symbole du caractre "vivant" de lobjet inanim. Ce rle est double : dune part larrive de la vie dans lobjet inanim se traduit par la capacit de parler de celui-ci et, dautre part, cest souvent une parole ou des mots "magiques" qui amnent la vie dans lobjet ; cest le cas par exemple pour le Golem du Talmud qui prend vie lorsquon lui rcite des versets sacrs. Cette toute puissance du verbe explique selon nous en grande partie lengouement, de lAntiquit jusquaux Lumires, pour les ttes oraculaires ou parlantes. Lune des rfrences les plus anciennes de tels objets se retrouve dans la Bible, o ils portent la dnomination de teraphim, et le Moyen ge en voit de nombreux exemples : la tte dairain de Roger Bacon (13e sicle) qui impressionna les potes comme Byron ou encore celle du pape Sylvestre II qui, au 12e sicle, ne parlait que si on lui parlait, mais alors elle disait la vrit, par larmation ou la ngation [Coh68, p. 24]. Plus sophistiques, les machines du 18e sicle arrivaient prononcer des mots entiers. La plus remarquable de ces machines, ralise par von Kempelen et illustre sur la Figure 2.2, ne ressemble plus un homme qui parle et comporte un rpertoire de plusieurs phrases ralises partir dun modle des organes vocaux humains.

2.3

Le Moyen ge la recherche dun tre humain fait de main dhomme

Alchimistes et philosophes occultistes du Moyen ge ne se contentaient pas des eorts en vue de raliser des machines dotes de parole : leur rve tait de raliser une crature de chair sans lintervention dune femme. Une telle recherche ntait pas nouvelle (on la retrouve depuis Aristote) et sinscrivait dans une conception de la reproduction biologique dans laquelle la femme namne que de la matire brute alors que lhomme amne lme. Cette ide dhomunculus se dveloppe avec Paracelse qui va mme jusqu nous fournir une "recette" base de sperme et de purin de cheval qui, aprs avoir marin quarante jours, donne naissance un petit homme. Le sens symbolique de lexprience est celui de la pierre philosophale ou de lembryon de mtal qui symbolisent, comme chez le Faust de Gthe, le dsir de crer un tre, de pouvoir jouer Dieu. Cette rcurrence du mythe de Promthe travers lhistoire a amen diverses rponses chez Page no 6

CHAPITRE 2. LE ROBOT : DU MYTHE LA RALIT

Figure 2.3: Gravure du 19e montrant le Faust de Goethe avec un homunculus. Auteur inconnu. les philosophes. En posant les questions du discernement entre la vie et la mort, de la barrire sparant le vivant et le non-vivant, de la dnition mme de la vie, ce mythe trouve galement un cho moderne dans la biothique. On peut galement voir dans ce mythe les prmices de lexploration de la limite entre production articielle et reproduction naturelle (ici de ltre humain). Si la reproduction dun tre humain laisse une certaine part dincertitude sur les caractristiques de lenfant venir, la production dun autre tre humain devrait permettre une malabilit et un contrle totaux au crateur.

2.4

Thorie et pratique des robots aux XVIIe et XVIIIe sicles

A lambiance mystrieuse dont sentourent les occultistes viendra sopposer le rationalisme de la philosophie de Descartes. Personnage illustre dont linuence se fait sentir encore aujourdhui, notamment sur le sujet qui nous intresse, Descartes a spar de manire radicale le corps, conu comme une mcanique, et lme. Le corps est ainsi une simple machine faite de tuyaux et de pompes, ce qui implique, entre autres, que les animaux sont sans conscience et ne dirent gure des automates, si ce nest sur le plan de la complexit. Ce fameux "dualisme cartsien" postule galement que lhomme possde quelque chose de plus : il est une machine laquelle une me est ajoute. Cette conception, qui marqua son temps, est toujours prsente en partie dans limaginaire collectif europen. Nous la retrouverons notamment lorsquil sagira de dterminer, par exemple, si un robot a une me ou sil peut ressentir de la douleur. Ds cette poque, les dveloppements mathmatiques et techniques rendent possibles la cration de mcaniques plus complexes. On voit ainsi apparatre des automates qui font impression dans les salons. Lun des exemples les plus illustres de ces machines prend la forme dun canard (illustr sur la Figure 2.4). Celui-ci, ralis par Jacques de Vaucanson, est un modle du genre Page no 7

CHAPITRE 2. LE ROBOT : DU MYTHE LA RALIT

Figure 2.4: Le canard de Vaucanson, tir de [Coh68, p. 80]. qui peut manger en tendant le cou, boire et digrer. A la mme poque se dveloppent, sous la main de crateurs comme Pierre Jacquet-Droz et son ls, des androdes imitant des mouvements complexes comme par exemple un homme qui crit ou une femme qui joue de lorgue.

2.4.1

Les automates dans la littrature

A partir des Lumires, la littrature incorpore le thme des automates qui prend peu peu une place de plus en plus importante. Que ce soit chez Rabelais, o son Gargantua occupe ses loisirs avec de petits engins se mouvant par eux-mmes, ou encore chez Cervants, avec son Don Quichotte qui rve de chevaux de bois qui volent, les auteurs laissent parler leur imagination. On assiste mme au dveloppement de la science-ction 2 dans Cyrano de Bergerac qui, au XVIIe sicle, nous dcrit des fuses aux formes dinsecte mues par du salptre (un composant de la poudre canon). Chez Ernst Homann, le Marchand de sable relate lhistoire dun savant dont la lle, Olympia, est en fait un automate dvelopp pendant vingt ans et qui peut danser et jouer du piano. Ces quelques apparitions dautomates, esquisses de robots intelligents, que nous venons de relater ne constituent que quelques exemples. Nous renvoyons le lecteur intress Alfred Chapuis qui, dans [Cha47], en dresse un portrait bien plus exhaustif que celui esquiss dans ce travail. En plus des automates mcaniques qui prgurent les robots, la littrature du XIXe sicle a galement incorpor le mythe de Promthe plusieurs reprises : citons notamment le Frankenstein de Mary Shelley ou encore le Pinocchio de Carlo Collodi. Ces deux exemples illustrent bien, selon nous, comment la littrature amne deux visions distinctes et complmentaires du mythe. Chez Shelley, la crature est faite dorganes humains auxquels on redonne la vie avec les consquences que lon connat pour son crateur alors que dans Pinocchio, la marionette taille dans le bois acquiert le statut dhumain aprs un voyage initiatique. Entre ces deux visions antagonistes, lune positive et lautre ngative, on retrouvera dans la littrature tous les nuances intermdiaires.
2. Les premiers balbutiements de celle-ci se retrouvent chez Lucien qui, le premier, nous parle des habitants de la Lune.

Page no 8

CHAPITRE 2. LE ROBOT : DU MYTHE LA RALIT

2.5

XIXe et XXe : Vers lintelligence articielle

En parallle au dveloppement des automates ralistes, sont fabriqus galement des automates logiques, comme la machine calculer de Pascal. Celle-ci, dveloppe au XVIIe sicle, constituait le premier mathmaticien-robot [. . . , qui ] savait faire les oprations daddition et de soustraction [Coh68, p. 81] et qui prgurait les rves de Leibniz dont le but tait de raliser [. . . ] une machine capable, par le raisonnement dductif, de donner un systme mathmatique complet de lunivers. [Coh68, p. 81]. Lespoir leibnizien dune machine raisonner trouva une premire concrtisation avec le comte de Stanhope (17531816) qui, en utilisant une notation logique, pouvait utiliser les syllogismes et rsoudre des problmes simples de probabilit. Aprs lui, Charles Babbage construisit, vers 1829, sa Machine Analytique. Celle-ci, avec celle que btit Jevons quarante ans plus tard, serviront de modles aux premiers ordinateurs et de terreau pour linformatique. En eet, cest en dcrivant pour la premire fois une mthode servant calculer les nombres de Bernoulli pour la machine de Babbage quAda Lovelace inventa la notion de programme. Avec elle, linformatique tait ne. Celle-ci se dveloppa par la suite grce la diusion de lalgbre de Boole ainsi qu lavnement de certains composants lectroniques, comme le relais, qui permirent de raliser des machines dune complexit croissante ds le dbut du 20e sicle. Cest dans ce contexte quAlan Mathison Turing (19121954), considr comme le pre de linformatique moderne, formalise les concepts dalgorithme et surtout de calculabilit. Son article, Computing Machinery and Intelligence [Tur50], pose la question de lintelligence articielle et le principe connus dsormais sous le nom de test de Turing, qui permet de dterminer si une machine est consciente. Turing eut galement une inuence importante en rfutant largumentation de Descartes sur la dualit. En eet, selon lui la toute puissance divine permet de mettre une me dans un animal ou une machine si tel est son dsir, comme on peut le voir dans la citation suivante tire de [Tur50] : Thinking is a function of mans immortal soul. God has given an immortal soul to every man and woman, but not to any other animal or to machines. Hence no animal or machine can think. [. . . ] I am unable to accept any part of this, but will attempt to reply in theological terms. [. . .] but should we not believe that He has freedom to confer a soul on an elephant if He sees t ? [. . . ] An argument of exactly similar form may be made for the case of machines Avec lavnement de machines de plus en plus sophistiques dpassant, par exemple, les hommes en ce qui concerne la rapidit du calcul, on voit surgir alors le spectre de machines pouvant dominer lhomme, crainte dont on retrouve dj des traces chez Samuel Butler en 1872 dans [But72] et qui est reprise notamment chez Roland dans [RM49]. Au XXe sicle ce thme sera dsormais incontournable, notamment dans le roman de science-ction comme par exemple, et pour nen citer que deux, le Cycle des robots chez Asimov ou encore le Neuromancien de William Gibson [Gib84]. Le cinma reprendra galement souvent ces thmes et ceci ds les annes vingt (voir notamment ltude [Str02]). De nos jours encore le thme de la menace reprsente par les machines reste dactualit avec des lms comme The Matrix 3 dans lequel lhomme est rduit en esclavage par des machines qui les utilisent comme des sources dnergie. Plus rcemment, les questions thiques de la robotique sont galement mises lhonneur avec des livres comme The case of the killer robot [Eps97].
3. The Matrix de L. et A. Wachowski, USA, 1999, 135 minutes

Page no 9

CHAPITRE 2. LE ROBOT : DU MYTHE LA RALIT

2.6

Synthse

Le compte-rendu historique que nous avons dress durant ce chapitre nous a permis de voir en quoi limaginaire collectif a t marqu par le mythe de Promthe : que ce soit travers le Golem dans la religion juive, les statues parlantes gyptiennes, lhomunculus chez Paracelse ou encore le Frankenstein de Mary Shelley, le dsir profond de ravir aux dieux le secret de la cration de lhomme persiste. Que lon mette en avant lenvie dtre lgal dun dieu ou encore la recherche dimmortalit quun tel pouvoir confrerait, lhumain se heurte depuis maintenant plus de deux mille ans ce mythe. La peur quune telle possibilit puisse exister nous amne naturellement mettre en lumire la question fondamentale de la responsabilit. Cette question sera le sujet du prochain chapitre dans lequel nous verrons que la responsabilit, notamment scientique, constitue lune des pierres dachoppement de la plupart des problmes dthique dans lesquels les robots et les hommes peuvent tre impliqus.

Page no 10

Chapitre 3

La question de la responsabilit
ans ce chapitre, nous allons nous intresser aux dirent mcanismes qui interviennent dans lthique des relations hommes-robot dans la vie quotidienne. Dans ce cadre, lune des questions centrales dun point de vue thique est celle de la responsabilit. Imaginons en eet linteraction suivante (tir de [Mat04, p. 179]) : un robot chien autonome, capable de moduler son type de marche en fonction de lenvironnement, dcide que le moyen le plus appropri pour lui de se dplacer sur une moquette est de courir. Durant sa course, il renverse un enfant qui se blesse. A qui revient la responsabilit de laccident ? Au fabricant, mais pourquoi ? Est-ce alors la responsabilit des parents ? Ce sont ces problmes thiques l que nous nous proposons danalyser dans ce chapitre.

3.1

Le concept de responsabilit

Selon le Petit dictionnaire dthique [Hf93], la dnition de la responsabilit comporte trois termes : une personne qui va la porter, un domaine o elle va sappliquer et une instance devant laquelle on doit en rpondre (tribunal, conscience, personnes concernes par la dcision. . . ). Grce la responsabilit, lhomme devient sujet de droit ou sujet moral [. . . ] qui doit assumer ses actes et leurs consquences, et qui peut tre lobjet de la punition ou de la rcompense [. . . ] de lestime sociale, du mpris ou du respect moral [Hf93, Article Responsabilit, p. 291]. En sus de cette responsabilit morale existe la responsabilit juridique qui, quant elle, sous-entend une capacit de rpondre de ses actes et implique que lon puisse agir de son propre chef en jouissant dune vue densemble de la situation et des consquences de laction [Hf93, Article Responsabilit, p. 292]. Le droit considre galement des cas o une diminution de cette responsabilit est possible, comme en cas de contrainte, dtresse, ignorance non coupable ou alination mentale. On conoit aisment la dicult, mme pour un juriste, de juger de la responsabilit de quelquun. Cest en gardant lesprit cet tat de fait que nous allons maintenant discuter des problmes particuliers apparaissant lorsque lon considre les machines.

3.2

La responsabilit pour les machines

Du point de vue lgal, pour que la responsabilit existe il faut que lagent responsable ait le contrle de son comportements et de ses consquences. Cela implique que lagent est responsable si et seulement sil peut former librement une dcision ainsi que lui choisir des alternatives. Pour les machines, le droit considre ainsi traditionnellement que cest celui qui contrle la machine qui

11

CHAPITRE 3. LA QUESTION DE LA RESPONSABILIT

est responsable, pour autant que le fonctionnement soit conforme aux spcications. En cas de problme, cest le fabricant qui assume ce rle. Il est ainsi possible de transfrer la responsabilit dun agent vers un autre, un autre exemple de ceci tant le passage de la responsabilit du fabricant lutilisateur au travers du manuel.

3.2.1

Lexistence dun vide de responsabilit

Le problme thique de la responsabilit des robots autonomes a rcemment t tudi par A. Matthias [Mat04]. Pour lui, la notion de contrle est primordiale dans la dtermination de la responsabilit : du moment que le contrle de la machine est diminu, la responsabilit lest galement. Il prend pour exemplier cette situation le cas dun hypothtique robot sur Mars : tant donn lexistence dun dlai de vingt minutes entre le moment o un ordre est envoy et son excution, qui supporte la responsabilit lorsque le robot tombe dans un trou et ne peut plus tre rcupr car la visibilit tait mauvaise ? Sagit-il du technicien qui commandait le robot ? La rponse quil apporte est simplement que personne nest responsable dans ce cas et cest la raison de lexistence des assurances, savoir rpartir sur une grande quantit de personnes les cots relatifs des accidents dont personne ne peut tre tenu pour responsable. Quarrive-t-il donc lorsque les machines sont capables ne serait-ce que dun peu dautonomie ? Examinons la question du point de vue historique. Les robots furent programms au dpart en utilisant des langages de programmation dits "impratifs". Dans ceux-ci, toutes les oprations sont squences de manire trs stricte et choisies en fonction de certains paramtres. Ainsi, si une erreur se produit dans le programme, cest dans la trs grande partie des cas en raison dune erreur du programmeur. Toutefois, une telle manire de programmer les robots ne prsente que peu de souplesse, par exemple pour traiter des situations nouvelles que le programmeur navait pas prvues la base. Ainsi, de nombreuses mthodes plus souples ont vu le jour durant la seconde moiti du XXe sicle an de pallier la rigidit des langages informatiques. Rseaux de neurones, algorithmes gntiques et autres systmes experts ont permis le dveloppement dagents autonomes qui possdent une certaine libert et adaptabilit leur environnement. Il devient ainsi possible ces agents dacqurir de lexprience par eux-mmes durant leur fonctionnement. Toutefois, lavantage dune telle souplesse soppose limpossibilit de pouvoir tester de manire exhaustive le comportement de tels systmes. En eet, comment examiner tous les cas possibles dutilisation alors que justement le but de ces systmes est de ragir de manire circonstancie chaque situation, notamment lorsque celles-ci ne sont pas prvues ? Lautonomie implique une perte de contrle du programmeur et donc, daprs Matthias, une diminution de sa responsabilit. Il y a donc pour lui un vide de responsabilit (responsibility gap) qui est gnr par le dplacement du rle du programmeur. Si avant le programmeur codait compltement le comportement dun robot, lutilisation des mthodes de contrle de plus haut niveau (plus abstraites en quelque sorte), o laction nest pas totalement dtermine lavance, implique que personne ne peut tre tenu pour responsable en cas de problme.

3.2.2

Rponse critique

Comme le montrent Kim et Sanders dans [KH06], plus les robots sont autonomes et plus les gens les considrent comme responsables. Toutefois, sur lventuelle existence dun "vide" de responsabilit propos par Matthias, Marino et Tamburrini [MT06] rtorquent que le problme du contrle est considr dans un cadre trop large. Pour eux, Matthias pche par excs en disant que les crateurs de robots autonomes sont dchargs de leurs responsabilits car ils ne peuvent

Page no 12

CHAPITRE 3. LA QUESTION DE LA RESPONSABILIT

avoir un contrle total sur les chanes causales qui vont dcouler de la construction de tels robots (tir de [MT06, p. 49]) : Here the scope of CR [control requirement] is overstretched. [. . . ] (CR) is not necessary for responsibility ascription, and the alleged responsibility gap depending on it concerns moral responsibility ascriptions only[. . . ] Traditional concepts of responsibility ascription exist for these problems and have been routinely applied in the exercise of justice. Ces deux auteurs proposent ainsi dappliquer des principes lgaux pour combler ce prtendu vide de responsabilit qui ressemble, selon eux, la responsabilit que supportent des parents vis--vis dun enfant mineur. De plus, la situation est galement simplie par le fait que ce sont les crateurs des robots eux-mme qui ont dcid de lui laisser une part dautonomie, la nature de celle-ci ainsi que le processus de sa limitation et de son contrle tant aussi le fruit dun choix. Ainsi ils ne peuvent se dcharger de leur rle linstar des industriels qui conservent une part de responsabilit mme aprs que lutilisateur ait lu le manuel dutilisation. La question de la responsabilit des robots nous amne la section suivante dans laquelle nous allons prsenter une vision lgaliste possible des problmes thiques relatifs aux robots.

3.2.3

Lapproche juridique

Dans [Asa07], Peter Asaro tudie en dtail les obstacles qui sopposent ce que les robots puissent tre directement considrs comme sujets de droits. Il considre que la responsabilit lgale est un bon point de dpart pour traiter de la responsabilit des machines car, au contraire de la responsabilit morale, la justice sentend plus ou moins pour donner un cadre prcis et unique aux questions de responsabilit. En eet, la responsabilit morale soure de la non-existence dune thorie morale unie alors que le droit est plus mme de donner des rponses pratiques. Selon lui, ce cadre de rexion nest pas trop restrictif car la responsabilit lgale est un sousensemble de la responsabilit morale et seuls quelques cas (il donne lexemple de la dsobissance civile) sont discutables. Il propose ainsi dutiliser les principes lgaux, dfaut de mieux, comme point de dpart an de xer un cadre de rexion lthique des robots. Plusieurs aspects de la loi sont ainsi applicables : du moment que les robots restent simples, il sut dappliquer les principes dnis pour les produits commerciaux alors que lorsquun certain degr dautonomie est atteint, il lui semble probable quil conviendrait dutiliser le principe de responsabilit diminue. Son fonctionnement est le suivant : la loi est en gnral faite pour des personnes physiques responsables mais elle peut galement sappliquer dans dautres cas comme pour les mineurs, les personnes handicapes mentales. . . Dans ces cas o la responsabilit ne peut tre assume compltement, la loi sapplique de manire circonstancie en prvoyant des exceptions. Asaro va plus loin en abordant galement le cadre du droit pnal qui soulve les questions de lexistence dun agent moral et de punition. En eet, pour quune crime soit reconnu en droit pnal, il faut lexistence dun agent moral pouvant tre dsign, faute de quoi il sagit dun accident. Le rle de cet agent moral est de subir la punition du droit. Dans le cas hypothtique dun robot ayant commis un crime, peut-il tre considr comme susamment autonome pour avoir commis laction de son propre chef ? Solumn [Sol92] propose comme solution lquivalent dun test de Turing pour dterminer si un agent peut tre considr comme responsable devant une cour. Harnad dans [Har00] donne une hirarchie de tests de Turing et examine leurs avantages et inconvnients en mettant en avant le test le plus adquat utiliser pour la robotique. Plus Page no 13

CHAPITRE 3. LA QUESTION DE LA RESPONSABILIT

rcemment, [JIF+ 07] propose direntes mtriques permettant dvaluer la ressemblance dun robot avec un humain et qui pourraient galement tre utiliss dans la dtermination de la responsabilit. Finalement, Floridi et Sanders proposent dans [FS04] le concept dagents articiels pour lesquels ils arrivent sparer clairement la moralit de lagent de sa responsabilit. Toutefois, notre connaissance, la question de comment punir un robot pour une ventuelle faute demeure quant elle sans rponse. Nous remarquons ici une singularit qui na pas t releve par les dirents auteurs consul1 ts : dans le cas, par exemple, o un chien cause des dgts ou blesse quelquun, on ne se pose jamais la question de la responsabilit du chien en soi. En eet, on se contente de dire par exemple que lanimal doit tre euthanasi et lon considre alors la question de la responsabilit du matre. Toutefois, on peut raisonnablement supposer quun chien est un agent autonome bien plus volu que ce que pourra produire la robotique dans les quinze annes venir. Or, dans ce cas et comme nous venons de lexemplier, la question de la responsabilit ne se pose tout simplement pas. Quelle est donc la dirence fondamentale pour que dans un cas un ventuel problme thique se pose alors que dans lautre non ? Selon nous, la rponse rside probablement dans le fait que les robots, mme sils restent trs simples pour linstant, visent imiter lhomme en le recreant et par l vhiculent des espoirs, des craintes et des croyances particulires ; ce nest pas le cas pour le chien. On peut galement relativiser limportance dune telle question au vu du fait que de tels robots nexistent pour linstant. Il sera toujours tant de sinterroger nouveau sur de telles questions si les robots dveloppent un jour susamment dautonomie pour quon puisse les considrer comme responsables.

3.3

Des robots arms

La question de la responsabilit prend une dimension encore plus aigu ds linstant o lon considre des robots autonomes arms pouvant tre lthaux. Cependant, le cadre militaire fournit un environnement dans lequel la dtermination de la responsabilit est claire et explicite en raison de lexistence dune chane de commandement (voir Asaro dans [Asa06]). De plus, lthique des champs de bataille est un sujet qui est tudi depuis des sicles et qui a dbouch sur des principes comme la Convention de Genve. En quoi la prsence de robots sur un champ de bataille modiet-elle la situation du point de vue thique ? Arkin dans [AM07] propose quelques lments de rponse dans lesquels il insiste sur le fait quil est important que des robots de combat puissent prendre en compte les rgles dengagements standard de la guerre. Il considre galement que des recherches supplmentaires doivent tre eectues pour mieux cerner les consquences thiques dune destruction "volontaire" de vie par un robot. Dautres encore, comme L. Hanon, ont des opinions plus arrtes sur la question des robots arms et ne sembarrassent pas trop de questions thiques : The potential is great and time is now to exploit it. [Han04]

3.4
3.4.1

La responsabilit du scientique
Jeux de science et nalit militaire

Le question thique de savoir sil est envisageable darmer des machines nous amne naturellement considrer brivement le rle de la responsabilit du scientique dans la socit,
1. Nous tenons ici remercier Marc Atallah : cest en eet lors de notre entretien avec lui que cet apparent paradoxe sest rvl.

Page no 14

CHAPITRE 3. LA QUESTION DE LA RESPONSABILIT

notamment dans le cadre de la recherche militaire. Le bref aperu que nous proposons maintenant ne se veut pas exhaustif mais il permet, notre avis, de se faire une image simplie de la complexit des problmes soulevs lorsque lon sintresse la responsabilit du scientique. Le lecteur intress trouvera notamment chez Latour [Lat01] ou encore [Win77]. Jusquau XIXe sicle, il est considr comme normal et honorable que les savants mettent leurs connaissances au service de la guerre, pour le bien de leur nation. Archimde, ingnieur et mathmaticien, a ainsi dvelopp catapultes et miroirs ardents pour dfendre sa patrie des attaques de Rome. Lonard de Vinci, en plus de son gnie artistique, possdait de nombreuses comptences militaires et Halley, en 1686, fut lun des premiers appliquer les principes de la gravitation pour dterminer la trajectoire des obus. Tout au long de lhistoire, la guerre est un moteur de la science pure et applique. Elle inspire et oriente les recherches et rciproquement les progrs de la science donnent aux militaires des moyens toujours plus puissants. Cest donc depuis toujours que se sont nous ces liens ambigus et passionnels entre les scientiques et le pouvoir [. . . ] [Dev87, p. 31]. Le problme thique de la responsabilit du scientique se pose dans les termes actuels partir du dbut du XXe sicle, la suite des atrocits de la Premire Guerre mondiale. Luniversalit de la science est remise en cause, les scientiques tant pris parti an de justier les actes de leurs pays respectifs. Cest l une coupure abrupte par rapport la situation qui rgnait jusque l et dans laquelle le caractre international de la science tait la rgle : comme le disait Pasteur, le savant une patrie, la science nen a pas [Dev87, p. 34]. Avec les consquences du projet Manhattan, les scientiques ont t confronts de plein fouet leur responsabilit. Diverses rponses seront apportes avec notamment Einstein et Russel qui appeleront au moratoire total sur les armes nuclaires avec linstauration du mouvement Pugwash, toujours actif aujourdhui 2 . Dautres, comme Anatol Rapoport [Rap69], ont rchi aux implications thiques mmes de la recherche scientique nalit militaire, notamment au rle jou par le secret dans celle-ci. Il est arriv la conclusion que ce type de recherche ne peut tre considr comme un service rendu la socit et que cest un leurre que de vouloir [. . . ] dissocier lobjet de la recherche, de sa signication ou de ses objectifs gnraux et une discussions sur les bnces supposs dune dfense militaire est ncessairement tronque par diverses contraintes comme le secret [Dev87, cit p. 49]. Il avance galement que la communaut universitaire ne doit allgeance qu une communaut internationale qui transcende les oppositions des blocs et les frontires nationales [Dev87, cit p. 49]. Ce point de vue est vivement contest notamment en raison du fait que si les recherches militaires sont secrtes et non partages, le secret nest pas lapanage du militaire, tous les chercheurs gardant prcieusement leurs ides tant quelles nont pas t publies. Quant lexistence dune communaut universitaire, les critiques de Rapoport lui rpondent que celle-ci est plutt une tour de Babel des disciplines universitaires qui se parlent parfois mais qui se comprennent rarement [Dev87, p. 49].

3.4.2

Le principe de prcaution

Parler de la responsabilit du scientique pose galement la question du rapport entre la technologie et lthique, de la matrise par lhumanit de pouvoirs devenus terriblement puissants. Hans Jonas (19031993) a trait de ces questions dans son ouvrage de philosophie Le principe responsabilit [Jon90]. Il y explique pourquoi depuis que lhomme a acquis des technologies dune puissance telle quelles peuvent dtruire lhumanit, le scientique ne peut se contenter de penser
2. On trouvera plus dinformations sur ce mouvement sur http://www.pugwash.org/

Page no 15

CHAPITRE 3. LA QUESTION DE LA RESPONSABILIT

que ses interventions seront de toute manire contrebalances par la nature. Ainsi, selon lui la question de la responsabilit ne se construit plus uniquement sur les actions passes (dans laquelle la responsabilit correspond rpondre au pourquoi des actions) mais galement priori, cest-dire sur les possibilits dactions. Il refuse galement lide que la technique arrivera toujours contrebalancer les problmes quelle engendre et voit dans ce cercle vicieux la fuite vers lavant qui a rendu la technique "sauvage". Ces questionnements seront lorigine du Principe de prcaution qui apparat comme une rponse possible an de pouvoir composer avec les consquences incertaines et imprvisibles des actions humaines. Si Jonas prnait le catastrophisme, cole de pense selon laquelle la menace de destruction globale amne dvelopper des moyens dactions adquats, dautres rponses plus nuances y ont fait cho. Le lecteur intress pourra dailleurs retrouver dans [Lav06, pp. 154159] une taxonomie des direntes coles de la prcaution. En n de compte, si la responsabilit du scientique ne doit pas tre nglige, nous pensons que cest au politique quincombe la responsabilit de telles questions car cest ce dernier, en tant subordonn aux dcisions du peuple dans les dmocraties, qui est seul possder la lgitimit de dcider ce qui doit tre entrepris ou non, de cadrer les recherches des scientiques et nalement, den assumer les consquences.

Page no 16

Chapitre 4

Les motivations de la robotique

Le pouvoir de lHomme est ananti. Un nouveau monde est n. Cest lre du robot. RUR de K. apek (1921)

es robots du futur, tels quimagins par les roboticiens actuels, nous permettront damliorer notre quotidien : robot-ouvrier pour remplacer lhomme pour les tches ingrates, robotcompagnon pour rgler les problmes de solitude, robot-prostitu pour viter les frustrations sexuelles ou encore homme-robot pour dpasser les lacunes de lhomme. Ainsi, le robot du futur apparat comme une solution technologique certains problmes sociaux auxquels est confront le monde industrialis.

Figure 4.1: Le robot Mobot Mark II, tir de [Coh68, p. 129]. Ce positivisme technologique est pouss lextrme par le mouvement transhumaniste : la technologie est vue comme le moyen de salut de lHomme. Dans un rapport crit en 2003 par les transhumanistes Roco et Bainbridge [RSB03], les nouvelles technologies (les NBIC, acronyme de Nanotechnologie, Biotechnologie, Informatique et sciences Cognitives) sont prsentes comme un moyen de permettre laugmentation des capacits cognitives humaines, lamlioration des

17

CHAPITRE 4. LES MOTIVATIONS DE LA ROBOTIQUE

capacits physiques et de la sant humaines, [ainsi que de garantir] la scurit nationale 1 . Si cette position semble extrme, elle cristallise lespoir dun monde meilleur, cr par et pour lHomme. Pour aborder le vaste sujet des motivations de la robotique, nous nous proposons de nous focaliser sur trois domaines qui nous semblent pertinents, savoir : (4.1) la rorganisation du travail par les machines ; (4.2) le robot comme compagnon ; (4.3) lamlioration de lHomme par la technique. Au travers de ces trois domaines, nous allons tenter de soulever les problmes lis au remplacement de lhomme par la machine et plus particulirement des motivations sous-jacentes de ce remplacement. Si la robotique se veut thique, elle se doit dtre bnque pour lHomme. Or, tout au long de notre prsentation, nous allons tenter de montrer comment, selon nous, la robotique rpond actuellement plutt aux attentes de lconomie occidentale que de lHomme lui-mme. En eet, comme le dit Newt Gingrich, ancien speaker rpublicain de la Chambre des Reprsentants des tats-Unis, il est vital de reconnatre que la supriorit technologique est la base fondamentale de la prosprit conomique des tats-Unis 2 . De mme, Allen Greenspan, Prsident de la Rserve Fdrale US, cit dans le mme rapport, dclarait en 1999 que "la remarquable croissance conomique amricaine tire ses racines des continuelles avances technologiques". Ainsi la technologie, et la robotique en particulier, ne peuvent tre considrs comme des entits neutres et ne peuvent tre dtaches dun contexte politique et conomique, tant leurs enjeux et leurs implications sur le mode de vie des hommes peuvent tre importants. De ce fait, lusage de la robotique et ses ns sont des questions thiques qui nous semblent majeures. Nous allons donc tenter, dans les sections qui suivent, de souligner les consquences possibles de lintroduction de robots de plus en plus autonomes, et de plus en plus humains, dans notre quotidien.

4.1

Le robot comme agent de mutation du monde du travail

Modern production seems like a dream of cyborg colonization work, a dream that makes the nightmare of Taylorism seem idyllic. Donna Haraway, dans [Har91]

Il est intressant de noter que si aujourdhui nous considrons le robot comme un potentiel substitut de lhomme dans le monde du travail 3 les Msopotamiens, eux, se considraient comme les substituts des "travailleurs divins" : Un jour, les travailleurs divins, sestimant exploits, se rvoltrent. Le dieu des techniques proposa que lon confectionne des pantins dous de vie, que lon mettrait
1. Extrait dun rsum de ce rapport disponible sur http://www.futurinc.lautre.net/article.php3?id_ article=10 2. Extrait du rapport transhumaniste de 2003, [RSB03] 3. Notons dailleurs que le terme "robot", introduit par apek dans sa pice R.U.R. en 1921, est issu du tchque robota qui signie travail forc, esclavage.

Page no 18

CHAPITRE 4. LES MOTIVATIONS DE LA ROBOTIQUE

au travail la place des dieux. Ainsi naquirent les hommes. An quils ne puissent se rvolter, on les cra nettement infrieurs aux dieux et mortels. (cit par Ichbiah dans [Ich]) La robotique tant une technologie en pleine expansion, il est dicile de prdire aujourdhui quels seront les robots de demain. De ce fait, plutt que daborder le sujet de manire spculative, nous avons choisi de nous baser sur les impacts sur lhomme des rvolutions techniques passes an de nous donner des bases pertinentes de rexion sur les consquences potentielles, heureuses ou malheureuses, de la robotique. Dune manire gnrale, si lon compare la socit actuelle avec la socit grecque, o le travail et le pouvoir taient les attributs respectifs des esclaves et des oisifs, on remarque, selon Boss [Bos87], que la tendance actuelle, initie par le taylorisme et la mcanisation du travail, vise concentrer ces deux entits chez une seule classe dlite dtenant et le capital et le travail, ce dernier tant autonomis par les biais des robots et des machines en gnral, rendant obsolte la force de travail humaine. En eet, dans une socit o le travail de lHomme est protg par des lois sociales, les machines sont perues non seulement comme plus conomiques sur le long terme, mais aussi comme plus ables et durables. En eet, ltre humain possde (heureusement) des droits qui doivent tre respects, comme la limitation de son temps de travail ou les congs maladie. Ainsi, le remplacement de lhomme par la machine assure la abilit et la exibilit dans le travail en plus dune diminution des cots de production 4 .

4.1.1

Les risques de chmage

La tendance semble donc tre une diminution des travaux peu ou non qualis o lhomme est facilement remplaable par la machine. Les aspects ngatifs sur lhomme du travail automatis (la rptition de tches strotypes et dtaches du produit nal) ont t maintes fois dmontrs 5 et le remplacement de lHomme par la machine semble, au premier abord, une solution ecace ce problme. Toutefois la question de lemploi des personnes remplaces par la machine est une question cruciale dans une socit qui fait face aux problmes lis au chmage. Si certains argumentent que les dsirs des hommes sont innis et que de ce fait les possibilits de cration de nouveaux types demplois le sont aussi [Sau81], dautres ont une vision plus sombre du futur des ouvriers non spcialiss [Bos87]. En eet, si la mcanisation stend non seulement aux secteurs de la production mais aussi aux secteurs des services, comme cest dj le cas avec les automates billets par exemple, la proportion de personnes ne trouvant pas demploi risque daugmenter fortement dans le futur. Or, lhomme dans notre socit est principalement valoris par son travail. De ce fait, il nous semble important que, ds aujourdhui, la socit soit consciente de ce possible fort accroissement du nombre de personnes sans emploi ; une rexion sur les moyens dintgrer ces personnes la vie sociale est ncessaire, que ce soit par le biais de la cration de nouveaux types demplois ou par celui de la revalorisation de lHomme travers dautres critres que celui du statut professionnel.
4. Pour lanedocte, pendant que nous rdigions ce travail dans une bibliothque, nous avons eu le triste honneur de boire le dernier caf servi par un tre humain dans la caftria attenante. En eet, quelques minutes aprs, une machine avait remplac notre aimable serveuse. 5. Karl Marx, tmoin des dbuts de lindustrialisation, a dcrit ce processus dalination du travail, o louvrier est soumis la machine et ne peut plus se raliser en tant quindividu dans ce quil produit.

Page no 19

CHAPITRE 4. LES MOTIVATIONS DE LA ROBOTIQUE

4.1.2

La perte du savoir-faire

Notons que le remplacement de lhomme par la machine ne se limite pas aux mtiers peu spcialiss. En eet, certains domaines hautement spciques, comme la chirurgie, o la rigueur et la prcision sont des qualits essentielles, sont de plus en plus mcaniss. Des manipulateurs robotiques, bien que contrls par lhomme, sont souvent considrs comme plus ables que lhomme lui-mme. Si ce type de technologie augmente la prcision et la scurit dans la ralisation de certaines tches, il entrane aussi une perte du savoir-faire humain. De nombreux artisanats sont tombs en dsutude suite la mcanisation et, de ce fait, leurs mthodologies risquent de se perdre totalement. Sans parler de la perte culturelle que cela implique, cette tendance augmente notre dpendance la technique. En rsum, si la mcanisation et la robotisation du travail sont invitables, et mme souhaitables pour certaines tches dangereuses ou considres comme dgradantes pour ltre humain, elles ne vont pas ncessairement rsulter en une augmentation du bien-tre social. De ce fait, du point de vue thique, il est important de rchir aux consquences possibles de cette mutation technologique et de repenser lhomme dans son lien avec le travail.

4.2

Le robot comme substitut social

Paro est un petit bb phoque tout blanc qui ragit quand on le touche ; Paro est un robot, muni de senseurs et dactuateurs et pourvu dune interface logicielle adaptative qui excute un contrleur intgr. Ce robot a t dvelopp au Japon des ns thrapeutique pour lutter contre la solitude des personnes ages [WSST05] et a t lu le robot le plus thrapeutique du monde 6 .

Figure 4.2: Paro, le robot thrapeutique. Les tudes entreprises par les concepteurs du Paro ont montr que celui-ci avait un eet positif sur les personnes ges, au travers de questionnaires sur lvolution de lhumeur des personnes en contact avec le phoque [WSST05], ainsi que denregistrements de leur activit crbrale [WSMK05]. Il est videmment dicile de dpartager leet du robot lui-mme de celui issu du fait que ces personnes se sentent soudainement prises en considration, toutefois leurs rsultats montrent que, mme sur le long terme, Paro a un eet bnque sur les personnes ges.
6. Certi par le Guinness World Record en 2002 ! !

Page no 20

CHAPITRE 4. LES MOTIVATIONS DE LA ROBOTIQUE

4.2.1

Lamour mcanique

Il est dicile de ne pas ressentir un sentiment de malaise en remarquant le rel attachement de certaines personnes ges pour Paro 7 . En eet, est-il thique de crer des substituts daection articiels 8 ? Ces substituts daection soulvent aussi les mmes questions que les placebos en mdecine ou que la relation articielle patient-thrapeute en psychanalyse, savoir le spcialiste a-t-il le droit de mentir son patient, dans le but de laider, mais sans le consentement de ce dernier. Plutt que daborder ces questions directement, il nous semble important de se demander si un robot est vraiment la seule et la meilleure solution aux problmes de solitude. Lengagement dun animateur, lorganisation dactivits de groupe ne seraient-ils pas prfrables ? notre avis, cest l que rside la principale question thique. Selon nous, le choix du robot se justie principalement conomiquement. En eet, au Japon, une personne sur cinq a plus de 65 ans et ce pourcentage devrait passer un sur quatre dici 2015 selon les prvisions dmographiques. Il est donc ncessaire de dvelopper des structures pour prendre en charge ces personnes, structures fort coteuses et qui ncessitent une prise en charge sur le long terme (formation, suivi, structure sociale, . . .). Le robot, placebo daection, peut quant lui tre vu comme une solution de facilit dans le sens o linvestissement est ni dans le temps et peut donner naissance un nouveau crneau conomique.

4.2.2

Lalter ego articiel

Paro est le premier reprsentant dune nouvelle "race" amene se multiplier dans le futur : le robot compagnon. Ce robot, au cours du temps, deviendra plus complexe, plus autonome et plus humain, dans son fonctionnement comme dans son apparence. En eet, quite crer un faux compagnon, pourquoi ne pas crer un alter ego ? Lavantage dutiliser un phoque, comme le note son concepteur T. Shibata, est que le comportement "naturel" du phoque nest pas connu par la plupart des gens et ne peut donc tre peru comme "bizarre". Un humanode, dont le comportement ne reterait pas compltement le comportement habituel dun humain, pourrait provoquer un sentiment de malaise chez les utilisateurs. Les robots trs similaires ltre humain, sils ne sont pas parfaitement ressemblants, risquent de susciter des raction de rpulsion, selon lhypothse de luncanny valley dveloppe par Mashari Miro dans les annes 70. En eet, nos attentes concernant le comportement du robot ne sont pas les mmes que pour les humains et une non concidence entre ce qui est attendu du robot peru comme humain et le comportement rel de celui-ci pourrait entraner une sensation dtranget dsagrable. La notion reste une hypothse et il nexiste pas de nos jours de robots assez performants pour quelle puisse tre vrie. Certains la rejettent, comme David Hansen, le crateur de Albert Hubo, un robot dont la tte est la reproduction de celle dAlbert Einstein. Il est vrai que le ralisme des expressions de ce robot est impressionant 9 mme si les mouvements du corps permettent de dtecter immdiatement quil sagit dun robot.
7. Des extraits de lms sont disponibles sur le site http://www.paro.jp 8. Un documentaire sur ce sujet, Mechanical Love, starring Paro, est sorti cette anne. 9. Un lm sur ce robot est disponible ladresse http://www.hansonrobotics.com/humankind.htm

Page no 21

CHAPITRE 4. LES MOTIVATIONS DE LA ROBOTIQUE

4.2.3

Le cas de lEurope

Si le phnomne du robot compagnon prend son essor au Japon, il nest pas certain que ce soit le cas en Europe. En eet, le Japon semble percevoir diremment le robot que lOccident ( [Kit05], [Kit06]), ceci pouvant sexpliquer par la dirence de symbolique du robot dans les deux socits. La socit japonaise est fonde sur le shintosme, mlange danimisme et de chamanisme, o lHomme nest considr que comme un lment de la Nature et o toute chose possde une me. Ainsi, le problme de lme du robot ne se pose pas dans les mmes termes au Japon. De plus, les mangas, trs prsents au Japon, vhiculent depuis longtemps limage du robotcompagnon, comme Astroboy par exemple. notre connaissance, le robot ny est jamais reprsent comme une crature nocive pour lHomme, peut-tre parce que le fait quil soit pourvu dune me nest pas considr comme contre-nature, mais comme naturel (puisque les objets eux aussi ont une me dans lanimisme). Pour en revenir lEurope, une tude mene dans le cadre du projet Cogniron a montr que le robot idal se dnissait plus comme un serviteur que comme un ami [DWK+ 05]. De ce fait, il est important de se demander si lintroduction en Europe de robots compagnons humanodes est rellement pertinente. Pour conclure cette section, il nous semble essentiel de remettre en question les motivations de lintroduction du robot comme compagnon dans un monde sourant de la dshumanisation des rapports sociaux. Nous sommes "amis" 10 avec des gens aux quatre coins du Monde grce Internet, mais nous ne connaissons plus notre voisin et souvent, nous en avons peur. La communication par messagerie ou sur les chat s sur Internet permet lutilisateur de se composer une nouvelle identit et dchapper la ralit, tout comme le robot compagnon permettra de recrer des relations sociales "idales" pour son utilisateur, mais est-ce vraiment l que se trouve le bien-tre mental de lindividu ?

4.3

Le robot comme extension de lhomme

Cest un moment unique dans lHistoire des ralisations techniques ; lamlioration des performances humaines devient possible par lintgration des technologies. Extrait du rapport transhumaniste publi en 2003 [RSB03]

Dans la pice R.U.R. de K. apek, lun des robots sexprime en ces termes : La machine humaine, pour sa part, tait terriblement imparfaite. Elle devait donc disparatre tt ou tard. (Cit par Ichbiah [Ich]) Lidologie contenue dans cette phrase, savoir que le robot est lhomme du futur, et que lhomme tel que nous le connaissons est amen disparatre, a non seulement t reprise par la science-ction, mais aussi par des roboticiens tels que Hans Moravec (Robotics Institute of the Carnegie Mellon University, Pittsburgh, USA), Hugo de Garis (International School of Software (ISS), WUHAN University, China) ou encore lautoproclam premier cyborg, Kevin Warwick (University of Reading, England). Nous renvoyons le lecteur intress aux direntes publications de ces auteurs. Notons nanmoins que les prdictions prsentes dans ces ouvrages se basent sur laugmentation de la puissance calculatoire des ordinateurs et non sur une relle modlisation de lintelligence en gnral [Asa01]. De plus, un "cerveau articiel" intgr dans un corps physique pose actuellement
10. Pour un rexion intressante sur les liens amicaux sur Internet, voir [CM01]

Page no 22

CHAPITRE 4. LES MOTIVATIONS DE LA ROBOTIQUE

certaines limitations techniques (consommation dnergie, poids, taille, . . . ) qui ne sont pas prises en compte par ces auteurs.

4.3.1

Lhomme est-il reproductible ?

Supposer que lintelligence humaine est reproductible signie considrer le cerveau - et donc ltre humain - comme une entit totalement matrielle. Sans vouloir entrer dans le dbat sur lexistence ou non de lme (sujet sur lequel les philosophes dbattent depuis Socrate et Platon), nous nous permettons de souligner que lhypothse positiviste nest ce jour nullement vrie, du moins notre connaissance, et que, de ce fait, il se peut quil soit impossible de recrer lintelligence humaine. La plupart des modles dintelligence stant rvls incapables de reter les capacits humaines, les chercheurs tentent aujourdhui de reproduire articiellement le dveloppement de lintelligence tels quil se droule chez les humains (par exemple dans le cadre des projets Cogniron ou RobotCub). tant donn quil est communment admis que lintelligence se forme dans linteraction avec lenvironnement et les pairs, le "cerveau articiel" se doit dtre pourvu dun corps et dun systme volu de senseurs lui permettant dinteragir avec le monde. Ainsi le courant actuel de la robotique vise pour linstant la reproduction de lintelligence, et plus prcisment de la cognition, plutt que son dpassement. Autrement dit, nous sommes encore bien loin des rplicants de lauteur de science ction Philip K. Dick, robots si perfectionns quils ne savent parfois pas eux-mmes quils ne sont pas humains 11 .

4.3.2

Lhomme est-il perfectible ?

Lintgration homme-machine se limite aujourdhui principalement des objectifs mdicaux tels que sauver des vies ou amliorer la qualit de vie de personnes sourant de handicaps. Si cette technique permet des personnes de retrouver leur facults "normales", cest--dire les facults dun tre humain considr comme sain, elle peut aussi sappliquer laugmentation de lhomme. Or derrire le terme "augmentation" se cache la question de leugnisme 12 , cest--dire des questions telles que : a-t-on "le droit" de modier ltre humain et si oui, quelles sont les consquences possibles ? ou plus gnralement : Quest-ce quun tre humain ? Est-il perfectible ? A-t-on le droit dintervenir dans son volution naturelle ? En eet, si des techniques sont dveloppes pour amliorer lhomme, cela implique non seulement que lhomme est perfectible, mais aussi quil existe un idal de lhomme. Ds lors, quen est-il des tres humains ne satisfaisant pas ces critres idaux ? Un exemple actuel qui nous semble pertinent est celui de la drive de la chirurgie esthtique ; de nombreuses personnes se transforment articiellement pour rpondre aux diktats de la beaut imposs par la socit au travers du marketing publicitaire. Le danger de leugnisme, selon nous, ne rside pas tant dans un remplacement de lhomme par le robot tel quon limagine dans les romans de science-ction, mais plutt dans la cristallisation dun idal des capacits humaines et du mal-tre qui pourrait en rsulter 13 .
11. Voir, par exemple, Les androdes rvent-ils de moutons lectriques ? [Dic79] ou encore La fourmi lectrique. 12. Le terme deugnisme, introduit par Sir Francis Galton en 1883, dnit lorigine lamlioration de la race humaine par les gnes, selon [Hf93]. Toutefois, nous prenons ici le terme dans un sens plus large, savoir la modication de la race humaine par des moyens articiels. 13. Pour reprendre notre parallle avec les canons de la beaut et les drives de la chirurgie esthtique, nous ne sommes pas loin dune socit o il serait anormal davoir par exemple un gros nez au vu de lexistence de la

Page no 23

CHAPITRE 4. LES MOTIVATIONS DE LA ROBOTIQUE

4.3.3

Quelques notions deugnisme

Historiquement, le mouvement eugnique initi au XIXe sicle par Galton vise lamlioration (voire lpuration) de la race humaine par une slection des individus jugs bons et ayant le droit de se reproduire (eugnisme positif) et de ceux jugs mauvais et nen ayant pas le droit (eugnisme ngatif). Cette thorie, inspire de la slection darwiniste, se fonde sur une explication purement gntique du comportement et notamment de dviances telles que la criminalit et lalcoolisme. Au dbut du XXe sicle se dveloppent en Amrique et en Europe des socits eugniques, telle que la Socit Gnrale pour lHygine de la Race en Allemagne. Ces mouvements sont alors perus comme des moyens "scientiques" de rgler les problmes de socit prsents en Occident cette poque (lalcoolisme, la tuberculose, la dbilit mentale, . . . ) et des congrs internationaux sont organiss. Ce mouvement sera ralenti par les progrs de la gntique dmontrant que les caractristiques humaines sont dictes par une combinaison de gnes plutt que par un seul (ce qui met n au mythe du "gne de lalcoolisme" par exemple) ainsi que par les progrs de la psychologie et de la sociologie dmontrant linuence de lenvironnement et de la culture sur le comportement. Toutefois, ce qui relguera dnitivement leugnisme larrire plan sera lHolocauste, o seront systmatiquement limins les "indsirables" nappartenant pas lidal aryen. Lamlioration de la race humaine sera ds lors considre comme tabou dans lopinion publique, mme si leugnisme ne tombera pas compltement dans loubli 14 .

4.3.4

Les cyborgs

Aujourdhui, la mcanisation de ltre humain nous oblige repenser notre dnition de lhomme et de sa perfectibilit. Lhomme augment par la machine, le cyborg, est peru par les transhumanistes comme la panace de tous les maux de la socit actuelle. Le terme "cyborg", contraction de cyberntique et org anisme, a t introduit par Clynes et Kline en 1960 [CK60] dans un article o tait prsente lide de modier lorganisme humain pour le rendre apte vivre dans lespace. Aujourdhui les receveurs dimplants sont parfois appels cyborgs ( [Bra96]) et, plus gnralement, une dnition possible de ce terme est la suivante "une personne dont les fonctions physiologiques sont aides par, ou dpendantes de, un appareil [device ] mcanique ou lectrique" 15 . Si nous acceptons cette dnition, bien loigne de son pendant ctif du super-hros, alors les cyborgs sont dj parmi nous. Et leur apport pour lhomme est indniable. En eet, les prothses permettent de rendre leur autonomie des mutils et les pacemakers sont des substituts vitaux au cur. Cependant, plutt que de se faire greer une simple main humaine par exemple, pourquoi ne pas y ajouter un lecteur MP3 ou un tlphone portable ? Ou encore pourquoi ne pas donner cette main une force surhumaine, voire mme la doter dune arme ? Ces rexions sont moins farfelues quelles ny paraissent de premier abord et des recherches sont eectivement entreprises, dans des universits reconnues, dans cette direction l. Des tudes sont menes non seulement pour amliorer les aptitudes physiques de lhomme (par exemple par le biais dun exosquelette augmentant les forces de son utilisateur, comme illustr sur la gure
chirurgie esthtique. 14. Lhistorique de leugnisme est tire de [Hf93] 15. Dnition tire du Websters Third New International Dictionary of the English Language, Unabridged s.v. "cyborg" et cite par Brasher dans [Bra96], notre traduction.

Page no 24

CHAPITRE 4. LES MOTIVATIONS DE LA ROBOTIQUE

4.3 16 ), mais aussi ses aptitudes mentales (par exemple pour augmenter la crativit en rendant inactives certaines parties du cerveau, inactives chez les autistes, comme expos par Snyder et Thomas dans [ST97]).

Figure 4.3: Lexosquelette Hal 5. Si de tels humains augments voient le jour, il nous semble important de se questionner sur limpact et les consquences de ces "surhommes" sur lindividu lui-mme, mais aussi sur la socit en gnral. Par exemple, quelles seront les consquences sur le long terme de lexosquelette sur les muscles de lhomme qui le portera ? De plus, lorsque lon observe laugmentation des cas de dopages dans le sport par exemple, il nous semble lgitime de se demander quels impacts sur la socit et sur le bien-tre de lindividu aurait lintroduction de tels artices. Finalement la notion daugmentation ne va pas sans celle de clivage entre lhomme biologique et lhomme articiel. Laccs ces technologies restera limit aux pays les plus riches et consolidera le pouvoir dune lite dj bien ancre. De plus, selon Baudrillard [Bau95], la perfection nexiste pas dans la nature et de ce fait toute dnition dun idal est une construction culturelle. Ainsi, il nous semble que la principale question souleve par laugmentation de lHomme est celle de la dnition de lidal sous-jacent. Nous tenterons de donner quelques pistes de rponses cette question dans la conclusion. En rsumant, nous avons essay dans ce chapitre de souligner le fait que la technologie nest pas un outil neutre au service de lhomme. Dj en 1977, le sociologue J. Ellul crivait : Cest maintenant la technique qui opre le choix ipso facto, sans rmission, sans discussion possible entre les moyens utiliser [. . . ] Lhomme (ni le groupe) ne peut dcider de suivre telle voie plutt que la voie technique [. . . ] ou bien il dcide duser du moyen traditionnel ou personnel [. . . ] et alors ses moyens ne sont pas ecaces, ils seront tous ou limins, ou bien il dcide daccepter la ncessit technique, il vaincra [. . . ] soumis de faon irrmdiable lesclavage technique. il ny a donc absolument aucune libert de choix. , dans [Ell77].
16. Dvelopp par lUniversit de Tsukuba en collaboration avec CYBERDYNE Inc., photo tire du site http: //sanlab.kz.tsukuba.ac.jp/HAL/indexE.html

Page no 25

CHAPITRE 4. LES MOTIVATIONS DE LA ROBOTIQUE

Selon cet auteur, la technique sauto-accrot, imposant ses valeurs decacit et de progrs technique, niant lhomme, ses besoins, sa culture, ainsi que la nature (tir du site web Wikipdia, rubrique Jacques Ellul ). Si cette vision est extrme, elle souligne une tendance indniable : limposition de la technique comme idal et comme reprsentant du progrs. La vraie question thique est donc peut-tre de savoir qui sont ceux qui contrlent limage et donc la signication et lutilisation de la technique, et surtout quelles sont leurs motivations.

Page no 26

Chapitre 5

Conclusion
Partout nous restons prisonniers et enchans la technologie, soit que nous la reconnaissions ou que nous la niions. Mais nous nous livrons elle de la pire faon possible lorsque nous la percevons comme quelque chose de neutre ; parce que cette conception delle [. . . ] nous rend parfaitement aveugle [son] essence. Heidegger, dans "La question de la technologie"

es nouvelles technologies, dont la robotique fait partie, sont les outils donns lHomme par la science pour amliorer son quotidien. Or, une poque o les ordinateurs haute technologie sont construits par des enfants surexploits dans des pays pauvres (5.1), il nous semble important de remettre en question notre notion du progrs ainsi que les buts de la technologie, et de la robotique en particulier. Notre socit actuelle, "la socit de linformation", nous conditionne penser que lecacit, la rapidit et la abilit sont les qualits idales de lHomme occidental. Or, cet idal nest pas un idal humaniste mais conomique. Et si la science-ction craint que les robots du futur se rvoltent et nous transforment en esclaves, il nous semble pertinent de nous demander si le vritable Frankenstein de notre socit nest pas notre vision de lHomme. Nous pensons de plus quil est naf de considrer que toute technologie est une entit neutre et que seul lusage que lHomme en fait peut tre mauvais. En eet, certaines technologies, et la robotique en particulier, ont le pouvoir de rveiller chez lHomme des rves et des pulsions inscrits dans les mythes de notre civilisation, et ce pouvoir nest pas ngliger. La robotique, dans une certaine mesure, est un moyen de recrer et de rednir lHomme et les drives possibles sont nombreuses. Comme le dit Goldenberg, notre hritage culturel nous a conditionn penser que "la vie humaine est une copie grossire de quelque chose dautre - quelque chose de meilleur, de plus sage et de plus pur [. . . ]" [Gol90]. Cette notion didal, damlioration possible de la condition humaine est, nous semble-t-il, un des moteurs de la robotique et cest une des raisons pour lesquelles nous avons jug pertinent de rappeler au dbut de ce travail les mythes entourant le robot et son crateur, an de rendre explicite ce conditionnement. Il est apprciable de voir que le monde de la robotique est sensible aux questions dthique et est prt y accorder de limportance. En eet, de nombreuses confrences ont introduit la robo-thique dans leurs sujets et quelques collaboration entre les sciences de la robotique et les sciences humaines voient le jour (comme par exemple la collaboration entre Kevin Warwick et

27

CHAPITRE 5. CONCLUSION

CONFERENCE
association ingnieurs du monde

Jeudi 14 juin 2007, 18h15, EPFL-CM5

De Pkin Lausanne: le point sur les conditions de travail dans lindustrie des ordinateurs
Les jeunes femmes qui produisent nos ordinateurs high-tech vivent dans une ralit dun autre ge. Elles travaillent souvent 12 heures par jour, sept jours par semaine, plusieurs mois daffile. Leur salaire slve moins de 50 centimes par heure et leur emploi est aussi prcaire que dangereux. Des produits toxiques menacent leur sant et leur fcondit. Enfin, des millions dentre elles, dans les usines lectroniques chinoises, nont jamais eu de contrat de travail. Ce qui signifie quelles rsident illgalement dans les zones de production et ne peuvent dfendre leurs droits.

High Tech - No Rights?

Pour des ordinateurs produits dans la dignit.
Face aux ralits mconnues de l'industrie des ordinateurs, Pain pour le prochain et l' Action de carme ont dcid d'agir. Avec la campagne High Tech- No Rights, elles encouragent les citoyens utiliser leur pouvoir dachat pour exiger des grande marques Dell, Hewlett Packard, Acer, Apple, Fujistu Siemens - un respect des droits fondamentaux du travail. Le point sur la campagne et les ractions des firmes avec Chantal Peyer , responsable de la politique de dveloppement Pain pour le prochain.

Entre libre, la confrence sera suivie dun apritif offert par lassociation Ingnieurs du Monde

http://idm.epfl.ch

idm@epfl.ch

Figure 5.1: Ache dune confrence donne le 14 juin lEPFL par lassociation Ingnieurs du Monde sur lexploitation des ouvriers par les fabricants dordinateurs lanthropologue lausannoise Daniela Cerqui 1 ). Il nous semble que traiter de la question du rle du robot est la meilleure approche possible pour viter de le diaboliser et quil est important dtre conscient que son introduction dans notre vie de tous les jours introduira des mutations, comme toutes les rvolutions technologiques majeures, et de se demander dans quelle mesure ces mutations sont souhaitables. Plutt que de raliser une revue exhaustive de la littrature scientique, nous avons tent tout au long de ce travail dillustrer les impacts possibles et les implications de la multiplication des robots au quotidien. Au travers de la question de la responsabilit, nous avons examin comment le peu de capacits que possdent les robots daujourdhui esquisse dj les complications dun futur dans lequel ils seraient autonomes, voire arms. Cette mme question de la responsabilit nous a galement permis de nous questionner sur notre rle en tant que scientiques et ingnieurs. Dans la seconde partie, nous avons soulev un problme qui nous semble fondamental en thique, celui de la n et des moyens. Autrement dit, la question nest pas vraiment de savoir sil est bon ou non dintroduire des robots dans la socit, mais plutt de se questionner sur les motivations de cette introduction. Selon nous, la tendance actuelle fait du robot un instrument de lconomie et non de ltre humain et de son bien-tre.
1. Voir par exemple [Cer02]

Page no 28

CHAPITRE 5. CONCLUSION

Ce travail a soulev en nous maintes questions fondamentales, sur la dnition de lhomme, par son opposition la machine, ainsi que sur les valeurs qui sont vhicules travers la technologie. Nous avons galement vu comment, au travers des direntes perspectives abordes, lthique possde un rle central ainsi quune importance capitale dans le dveloppement de la technologie. Finalement la robo-thique constitue, tout comme la robotique, un domaine en pleine mutation dans lequel il reste encore beaucoup faire.

5.1

Remerciements

Nous tenons chaleureusement remercier Monsieur Antonin Wiser, philosophe et doctorant lUniversit de Lausanne pour nos discussions sur le sujet. Nous remercions galement Monsieur Marc Atallah, galement assistant et doctorant lUniversit de Lausanne pour ses remarques claires ainsi que les direntes ides quil a souleves lors de notre rencontre. Finalement, nous faisons galement part de notre gratitude Madame Rachel Vuagniaux ainsi qu Monsieur Jol Rossier pour leurs attentives relectures.

Page no 29

Chapitre 6

Bibliographie
[AM07] Ronald C. Arkin and Lilia Moshkina: Lethality and Autonomous Robots: An Ethical Stance. In Proc. of the IEEE International Conference on Robotics and Automation (ICRA07), April 2007. http://www.cc.gatech.edu/ai/robot-lab/ online-publications/ArkinMoshkinaISTAS.pdf. Peter M. Asaro: Hans Moravec, Robot. Mere Machine to Transcendent Mind, New York, NY: Oxford University Press, Inc., 1999, ix + 227 pp. Minds Mach., 11(1):143147, 2001, ISSN 0924-6495. Peter M. Asaro: What Should We Want From a Robot Ethic ? International Review of Information Ethics, 6:416, 2006. Peter M. Asaro: Robots and Responsibility from a Legal Perspective. In Proc. of the IEEE 2007 International Conference on Robotics and Automation (ICRA07), Rome, April 2007. Colin Allen, Wendell Wallach, and Iva Smit: Why Machine Ethics ? IEEE Intelligent Systems, 21(4):1217, 2006, ISSN 1541-1672. Jean Baudrillard: The Virtual Illusion: Or the Automatic Writing of the World. Theory, Culture and Society, 12:97107, 1995. Gilbert Boss: Les machines penser. GMB ditions du Grand Midi, Zurich, 1987. Brenda E. Brasher: Thoughts on the Status of the Cyborg: On Technological Socialization and Its Link to the Religious Function of Popular Culture. Journal of the American Academy of Religion, 64(4):809830, 1996. Samuel Butler: Erewhon. Jonathan Cape, Londres, 1872. Cristiano Castelfranchi: Articial liars: Why computers will (necessarily) deceive us and each other. Ethics and Information Technology, 2(2):113119, 2000, ISSN 13881957. Daniela Cerqui: The Future of Humankind in The Era of Human And Computer Hybridization: An Anthropological Analysis. Ethics and Information Technology, 4(2):101108, 2002, ISSN 1388-1957.

[Asa01]

[Asa06] [Asa07]

[AWS06] [Bau95] [Bos87] [Bra96]

[But72] [Cas00]

[Cer02]

30

CHAPITRE 6. BIBLIOGRAPHIE

[Cha47] [CK60]

Alfred Chapuis: Les automates dans les oeuvres dimagination. ditions du Grion, Neuchtel, 1947. Manfred E. Clynes and Nathan S. Kline: Cyborgs and Space. Astronautics, September 1960. http://search.nytimes.com/library/cyber/surf/ 022697surf-cyborg.html. Dean Cocking and Steve Matthews: Unreal friends. Ethics and Information Technology, 2(4):223231, 2001, ISSN 1388-1957. Sylvie Coirault-Neuburger: La confusion du bien et du mal, Le diable imitateur. LHarmattan, Paris, 2000. John Cohen: Les robots humains dans le mythe et dans la science. Librairie Philosophique J. Vrin, Paris, 1968. Peter Danielson: Robots for the rest of us or the best of us ? Ethics and Information Technology, 1(1):7581, 1999, ISSN 1388-1957. J. Devooght: Science et thique, chapitre Les jeux de la science et de la guerre, pages 2974. Connaissance du rel. Editions de lUniversit de Bruxelles, Bruxelles, 1987. Philip K. Dick: Les Androdes rvent-ils de moutons lectriques ? Latts, France, 1979. Traduction de Serge Quadruppani.

[CM01] [CN00] [Coh68] [Dan99] [Dev87] [Dic79]

[DWK+ 05] K. Dautenhahn, S. Woods, C. Kaouri, M. Walters, K.L. Koay, and I. Werry: What is a Robot Companion - Friend, Assistant or Butler ? In Proceedings of the IEEE Int. Conf. on Intelligent Robot and Systems (IROS2005), pages 14881493, 2005. [Ell77] [Eps97] [Fle99] [FS04] [Gib84] [Gol90] [Han04] Jacques Ellul: Le systme technicien. Calman-Lvy, 1977. Richard G. Epstein: The Case of The Killer Robot. 1997. Wiley and Sons, New York,

Charles B. Fleddermann: Engineering Ethics. Prentice-Hall, Upper Saddle River, New Jersey, 1999. L. Floridi and J. Sanders: On the Morality of Articial Agents. Minds and Machines, 14(3), 2004. William Gibson: Neuromancer. Ace books, Canada, 1984. Naomi Goldenberg: Resurrecting the Body: Feminism, Religion and Psychoanalysis [Returning Words to Flesh]. Crossroad, New York, 1990. Leighton Hanon: Robots on the Battleeld - Are We Ready for Them ? In Proc. of the AIAA 3rd "Unmanned Unlimited" Technical Conference, Chicago, September 2004. D. Haraway: A Cyborg Manifesto: Science, Technology, and Socialist-Feminism in the Late Twentieth Century. Routledge, New York, 1991. S. Harnad: Minds, Machines and Turing. Journal of Logic, Language and Information, 9(4):425445, 2000, ISSN 0925-8531. Page no 31

[Har91] [Har00]

CHAPITRE 6. BIBLIOGRAPHIE

[Hf93] [Ich] [Ich05] [Jar96] [JIF+ 07]

Otfried He (rdacteur): Petit Dictionnaire dthique. ditions Universitaires Fribourg et ditions du Cerf Paris, Fribourg, Suisse, 1993. Daniel Ichbiah: Le mythe du robot dans la ction. http://www.techno-science. net/?onglet=articles&article=26. Daniel Ichbiah: Gense dun peuple articiel, Robots. Editions Minerva, Genve, 2005. Bruno Jarrosson: Humanisme et Technique. Que sais-je ? Presses Universitaires de France, Paris, 1996. Peter H. Kahn Jr., Hiroshi Ishiguro, Batya Friedman, Takayuki Kanda, Nathan G. Freier, Rachel L. Severson, and Jessica Miller: What is a Human? Toward Psychological Benchmarks in the Field of Human-Robot Interaction. Interaction Studies, 8(3), October 2007. To appear. Hans Jonas: Le principe responsabilit. Une thique pour la civilisation technologique. Cerf, Paris, 1990. Traduction de Jean Greisch. Taemie Kim and Pamela Hinds: Who Should I Blame ? Eects of Autonomy and Transparency on Attributions in Human-Robot Interaction. In Proc. of the International Symposium on Robot and Human Interactive Communication (RO-MAN06), pages 8085, September 2006. Naho Kitano: Roboethics; a Comparative Analysis of Social Acceptance of Robots Between the West and Japan. The Waseda Journal of Social Sciences, 6, 2005. Naho Kitano: Rinri: An Incitement towards the Existence of Robots in Japanese Society. International Review of Information Ethics, 6:7883, 2006. Bruno Latour: Lespoir de Pandore. Pour une version raliste des faits scientiques. La Dcouverte, Paris, 2001. Sylvain Lavelle: Science, technologie et thique Conits de rationalit et discussion dmocratique. Ellipses Editions, Paris, 2006. Andreas Matthias: The responsibility gap: Ascribing responsibility for the actions of learning automata. Ethics and Information Technology, 6(3):175183, 2004, ISSN 1388-1957. James H. Moor: The Nature, Importance, and Diculty of Machine Ethics. IEEE Intelligent Systems, 21(4):1821, 2006, ISSN 1541-1672. Dante Marino and Guglielmo Tamburrini: Learning Robots and Human Responsability. International Review of Information Ethics, 6:4650, 2006. J. P. Naisse (rdacteur): Science et thique. Connaissance du rel. Editions de lUniversit de Bruxelles, Bruxelles, 1987. Ovide: Les Mtamorphoses. Posie trangre. Flammarion, Paris, 1993. Traduction de Joseph Chamonard.

[Jon90] [KH06]

[Kit05] [Kit06] [Lat01] [Lav06] [Mat04]

[Moo06] [MT06] [Nai87] [Ovi93]

Page no 32

CHAPITRE 6. BIBLIOGRAPHIE

[Rap69] [RM49] [RSB03]

Anatol Rapoport: Editorial. The Humanist, Janvier 1969. Romain Rolland et Franz Masereel: La rvolte des machines. Buchergilde Gutenberg, Zrich, 1949. Mihail C. Roco and William Sims Bainbridge: Converging Technologies for Improving Human Performance: Nanotechnology, Biotechnology, Information technology and Cognitive science. Kluwer Academic Publishers, Hingham, MA, USA, 2003. A. Sauvy: Informatisation et Emploi, Menace ou Mutation. Paris, 1981. Lawrence Solumn: Legal Personhood for Articial Intelligences. North Carolina Law Review, pages 12311287, April 1992. Robert Sparrow: The march of the robot dogs. Ethics and Information Technology, 4(4):305318, 2002, ISSN 1388-1957. A.W. Snyder and M. Thomas: Autistic Artists Give Clues to Cognition. Perception, 26(1):9396, 1997. Wanda Strauwen: Le mcanode et landrode : deux faces du mythe futuriste dans le cinma davant-garde des annes vingt. Cinmas, 12(3), 2002. Alan Mathison Turing: Computing machinery and intelligence. Mind, 49, 1950. G. Veruggio: The EURON Roboethics Roadmap. In 6th IEEE-RAS International Conference on Humanoid Robots, pages 612617, December 2006. Gianmarco Veruggio and Fiorella Operto: Roboethics: a Bottom-up Interdisciplinary Discourse in the Field of Applied Ethics in Robotics. International Review of Information Ethics, 6:38, 2006. Langdon Winner: Automatous Technology : Technics Out-of-Control as a Theme in Political Thoughts. MIT Press, Cambridge, 1977.

[Sau81] [Sol92] [Spa02] [ST97] [Str02] [Tur50] [Ver06] [VO06]

[Win77]

[WSMK05] K. Wada, T. Shibata, T. Musha, and S. Kimura: Eects of Robot Therapy for Demented Patients Evaluated by EEG. In Proceedings of the IEEE Int. Conf on Intelligent Robot and Systems (IROS2005), pages 15521557, 2005. [WSST05] Kazuyoshi Wada, Takanori Shibata, Kayoko Sakamoto, and Kazuo Tanie: Longterm Interaction between Seal Robots and Elderly People - Robot Assisted Activity at a Health Service Facility for the Aged. In AMiRE, pages 325330, 2005.

Page no 33