Les robots guerriers échapperont-ils au contrôle des humains ?
07/11/2005, par jmm[ Impression | 2 réactions ]
« Les officiers actuels se disent hostiles à l’idée de voir un robot prendre l’initiative de tuer un humain, mais la prochaine génération aura peut-être une vision différente. Si, dans trente ans, l’armée américaine se retrouve embourbée dans une guerre meurtrière et incertaine, l’intervention humaine dans la décision de faire feu sera peut-être considérée comme une perte de temps« . Les propos émanent de Bob Quinn, directeur de la société Foster-Miller, qui fabrique des robots à usage militaire, interrogé par le Monde en octobre dernier à l’occasion d’une enquête, « Alerte aux robots guerriers !« .
Egalement interrogé, Omead Amidi, ingénieur en robotique de l’université de Carnegie-Mellon, estime pour sa part que « dans vingt ans, les hommes resteront meilleurs que les robots pour reconnaître les formes et les objets. En revanche, les robots seront meilleurs que les hommes pour viser juste. Dans une guerre urbaine, un robot pourra atteindre un homme au milieu d’un groupe sans faire de dommages collatéraux. En général, un robot fera moins de victimes innocentes qu’un soldat fatigué, stressé ou agressif.
De là à penser qu’il y aura donc probablement encore plus de guerres, l’objectif de « zéro mort » étant encore plus facilement atteignable…
En attendant, ces robots militaires contribueront également à la recherche et développement en matière de « pervasive, ubiquitous, ou sentient computing« , concept traduit en « informatique envahissante » par Transfert dans un article qui en pointe les dangers. La Banque de terminologie du Québec, plus sobre, le définit par « informatique omniprésente : tendance vers l’informatisation, la connexion en réseau, la miniaturisation des dispositifs électroniques et leur intégration dans n’importe quel objet du quotidien, favorisant ainsi l’accès aux informations dont on a besoin partout et à tout moment« .
Le Monde précise ainsi que, non seulement les robots guerriers reposeront sur une forme de réseau internet « light », où tout récepteur est également émetteur, à la manière du P2P, sans serveur central, ni censure possible, mais où lesdits robots pourraient également communiquer, voire plus si affinités, sans que les humains n’en soient tenus informés…:
Reste à résoudre un problème majeur : pour fonctionner et coordonner leur action, les robots-guerriers auront besoin d’un réseau de communication sans fil qui couvrira l’ensemble du champ de bataille et se déplacera au gré des opérations. Or, contrairement à leurs homologues civils, les ingénieurs militaires préféreraient éviter les communications par satellite, car un ennemi bien équipé pourrait les brouiller ou les pirater. La seule solution est que les robots constituent eux-mêmes leur propre réseau : chacun d’entre eux servira de relais aux communications destinées aux autres UGV (« Unmanned Ground Vehicles » – véhicules terrestres sans pilote) évoluant dans son voisinage, les messages se propageant de façon aléatoire jusqu’à ce qu’ils atteignent leur destinataire. Grâce à cette architecture horizontale et décentralisée, le système continuera à fonctionner même si une partie de la flotte d’UGV était détruite.
Au fond, les robots ne seront que la partie tangible d’un système dont le véritable coeur sera le réseau. Leur « intelligence » ne proviendra pas de super-ordinateurs embarqués dans leurs flancs comme l’avaient imaginé les auteurs de science-fiction du XXe siècle. Elle sera collective et émanera de l’interaction entre un grand nombre d’engins travaillant « en essaim ». Un gros robot de combat pourra envoyer en éclaireur un mini-robot bon marché ou un avion sans pilote. Certains sauront sécuriser un pont, d’autres tendre une embuscade, encercler un bâtiment, se disperser pour ratisser une zone, puis se regrouper pour bloquer une offensive ennemie. Ils pourront aussi éparpiller dans la nature des milliers de mini-capteurs jetables dotés d’émetteurs, créant ainsi des systèmes de surveillance éphémères déjà baptisés « dust networks », les réseaux-poussière.
Pour communiquer avec les humains, les robots devront envoyer des sons et des images. Ils auront donc besoin de réseaux à haut débit, lourds, complexes et vulnérables. Mais pour communiquer entre eux, ils utiliseront des codes informatiques très légers, et se contenteront de réseaux à bas débit, souples, faciles à installer et presque indétectables. Pour résoudre le problème du réseau, il suffirait en théorie d’augmenter au maximum l’autonomie des robots et diminuer autant que possible la supervision humaine. Cela dit, un problème inédit pourrait alors surgir : les humains ignoreraient la teneur des messages échangés entre robots en temps réel.
Accessoirement, ces robots guerriers violeront allègrement les trois lois de la robotique édictées par l’écrivain de science-fiction Isaac Asimov :
* Loi 1 : Un robot ne peut pas nuire à un humain ou, restant passif, laisser un humain en danger.
* Loi 2 : Un robot doit toujours obéir à un être humain, à moins que cet ordre soit contraire à la Première Loi.
* Loi 3 : Un robot doit se protéger lui-même, à moins que cela n’aille à l’encontre de la Première et/ou de la Deuxième Loi.
Et/ou suivez-moi par RSS (
),sur Twitter, ou via la newsletter :
Réf. [ (Cyber)surveillance, (In)sécurité, Guerrelec ]
Imprimer | Répondre | Me contacter
Feed RSS des commentaires
13 406 views | Permalien | Trackback
20th septembre 2011 / 07:39:43
Hi there! I know this is kinda off topic but I’d figured I’d ask. Would you be interested in exchanging links or maybe guest writing a blog post or vice-versa? My website goes over a lot of the same subjects as yours and I think we could greatly benefit from each other. If you’re interested feel free to shoot me an e-mail. I look forward to hearing from you! Great blog by the way!
12th novembre 2011 / 17:37:04
La vision d’une intelligence collective semble similaire à celle décrite par Scott Westerfeld dans la saga « Succession »
Une entité décisionnelle collective usant d’une multitude de mini ordinateur plutôt qu’un seul super ordinateur…