Dans un précédent billet, j'avais fait part de mon inquiétude quant à l'utilisation des robots sur les champs de bataille. Je pense que nous n'avons pas mesuré toutes les conséquences qui vont découler du remplacement des humains par les machines, dans le cas d'attaques visant à tuer l'ennemi, particulièrement quand l'ennemi de la machine n'est pas une autre machine, mais un être humain. Au cours d'une conférence TED, Peter Singer a présenté sa vision des guerres du futur proche, robotisées et noyées par la technologie. Il a consacré un livre à ce sujet. Il développe toutes les dérives possibles et probables, car inhérentes à la nature humaine. Le moins que l'on puisse dire, c'est que ses prédictions ne sont pas du tout réconfortantes :
Où est le principe de responsabilité quand on téléguide un drone tueur à plusieurs dizaines de milliers de kilomètres de distance ? Plus troublant encore, qui est responsable quand la machine décide toute seule de qui tuer et comment, en fonction des logiciels dont elle a été dotée ?
Les propos de cet expert américain rejoignent une réflexion que je me fais souvent : l'humanité n'est pas en capacité, sur le plan psychologique et culturel, de gérer son pouvoir technologique qui grandit à une allure exponentielle. Qui plus est, bien souvent, ces nouveaux pouvoirs exorbitants sont conférés à un minuscule groupe d'individus, sans que le reste de la population ait son mot à dire, situation qui favorise des dérives innommables. Il est plus que temps que la société civile s'empare de tous ces sujets, afin de ne pas se retrouver une fois de plus devant le fait accompli...
Fascinante conférence. Merci pour l'avoir signalée.
RépondreSupprimerToutefois, au regard de ton titre, il reste que ce sont (encore) des hommes et non pas les machines qui prennent la décisions de tirer.
Pour le moment, les machines ne décident pas toutes seules. Mais jusqu'à quand ? Je pense que ça ne va pas tarder, c'est une conséquence quasi-inévitable de l'autonomie sans cesse plus grande qui leur sont conférées. Tôt ou tard, un "expert" viendra expliquer au Pentagone, ou autre, que les humains sont trop lents et trop subjectifs... bref pas assez fiables !
RépondreSupprimerCurieux débat et curieuse inquiétude. Qu'y a t-il là de nouveau? Que je sache la fronde était déjà une arme pour atteindre l'adversaire à distance. Où est la moralité de la guerre? Est-il plus moral de tuer à vue?
RépondreSupprimerLa seule question est la capacité et les ressources de l'adversaire à developper une technologie equivalente.
La robotique est comme la dynamite utile et nuisible selon ce que les hommes en font.
Quant à la capacité de l'humanité à dominer la complexité c'est bien vieux débat et un fameux faux problème. Il se disait autrefois que seuls quelques rares savants comprenaient la relativité et la fission nucléaire. Trop complexe.
L'inquiétude ne réside pas tant dans l'essor de la robotique, qui globalement sera une bonne chose pour l'humanité, mais quant à son utilisation sur les champs de bataille, et plus particulièrement encore sur l'autonomie conférée aux machines au niveau du choix des cibles à abattre. Je souhaite que ce choix ultime soit réservé aux humains, et qu'il ne soit pas cédé aux machines, selon des critères fallacieux d'efficacité, tout simplement.
RépondreSupprimer