Regards philosophiques (231)

► L’intelligence n’est pas artificielle. Techniquement, on peut donner la possibilité à des robots d’agir face à l’intelligence humaine. Si nous donnons la possibilité à des robots d’agir grâce aux technologies découvertes grâce à la recherche, nous pouvons alors vivre sans être dominés par la technique, puisque c’est nous qui la dirigeons et la dominons.

► Si on s’en tient aux robots, nous savons très bien que l’homme n’est pas dominé par les robots, mais nous savons aussi que ce n’est qu’une étape pour les chercheurs.

► La question que je me posais initialement, par rapport à ce  fantasme qui va de Frankenstein à Terminator, finalement, c’est le désir de domination. Car ce désir de domination est le propre de l’humain. Alors, est-ce que les robots vont acquérir de l’humain ce désir de domination ? Mais, d’un autre côté, si on clone, si on fusionne des robots avec des humains, on peut leur transmettre ce désir. On ne peut pas oublier qu’homo sapiens a été de toutes les espèces le plus destructeur, le plus grand prédateur, le pire dominateur.
La machine peut développer sa survie avec d’autres modes, comme la coopération, par exemple.

► Pour l’instant, c’est l’homme qui décide de ce qu’il fait des robots, aussi techniquement que moralement. Il y a toujours eu des savants fous, et, aujourd’hui encore, cela continue.
Dans la catégorie des robots, il y a des robots d’intelligence brute, et des intelligences artificielles qui parlent un langage particulier et qui ont la capacité d’auto-apprentissage. C’est là où tout se joue, c’est là que les humanistes peuvent avoir des craintes. C’est-à-dire qu’à partir du moment où on a été capable de générer des programmes sur des machines qui sont capables d’auto-apprentissage, on se retrouve exactement dans la même position, le même processus que celui de l’enfant qui grandit, qui découvre le monde et qui apprend. Et surtout, on peut lui faire auto-apprendre le pire et le meilleur, le pire ou le meilleur.
L’I. A, le robot, le système, sera toujours le reflet de son concepteur, tel l’enfant influencé par son milieu familial.

Quant aux transhumanistes, dont je ne partage pas non plus leurs points de vue, heureusement, ils ne sont pas les seuls à réfléchir, à travailler sur l’I. A. Il y a des gens sérieux qui cherchent comment améliorer les capacités de ce qu’on appelle d’une façon générale la cybernétique.

► Nul doute que les termes que nous utilisons aujourd’hui : robots, I. A. Systèmes, ne seront plus ceux utilisés dans trente ou cinquante ans lorsque vont véritablement émerger les applications qu’on peut envisager. Mais je me pose, et je pose la question : Pourra-t-on faire un programme, créer un algorithme pour donner à un système la notion du bien et du mal ? Je persiste à penser que penser et calculer sont des démarches bien différentes.

► Les programmes à l’heure actuelle ont des procédures d’auto-apprentissage. Je vais les résumer d’une manière simple. Quand ils agissent avec un être humain, l’humain répond systématiquement toujours de la même façon. Mais un jour, quelqu’un répond différemment, et, là, c’est enregistré ; il est dans l’apprentissage, il sait désormais qu’en fonction de contextes différents, il peut y avoir des réactions différentes. Et il va même se retrouver avec des choix impossibles en regard des trois lois d’Asimov qu’on a évoquées.

► Pour moi, un robot, un système, c’est quelque chose de déjà programmé, avec des choix préétablis. Je n’arrive pas à concevoir qu’il puisse choisir par lui-même à partir de son algorithme entre deux ordres différents : tourne à droite, tourne à gauche.

► Il va apprendre à faire tous ses choix avec l’héritage des caractéristiques des diverses situations.

► Il y a effectivement des gens autres que les transhumanistes qui travaillent sur l’I. A., et leur travail peut avoir des effets positifs. Il y a des domaines qui paraissent positifs, notamment dans le domaine de la santé. Donc, de ce point de vue, les recherches sont respectables et mêmes doivent être poursuivies, mais à condition, effectivement, que ces chercheurs n’aient pas en tête que tout ce qui est techniquement possible est permis.

Donc, je souhaite que la recherche scientifique et les innovations techniques servent à améliorer le bien-être de chacun, mais je crains que tous les problèmes de l’existence soient considérés comme de simples problèmes techniques et que l’impératif technique nous domine sans aucune interrogation éthique.

Et je ne veux pas que mes petits-enfants vivent dans une société où règne l’inégalité parmi les hommes. Je ne veux pas qu’ils connaissent le fossé entre ceux qui pourront améliorer leurs capacités, parce que riches, et ceux qui resteront comme ils sont nés, parce qu’ils n’auront pas les moyens de réparer leurs fractures, leurs lésions et, a fortiori, de compenser leurs handicaps.
Enfin, dernier point, l’industrie pharmaceutique est aujourd’hui très intéressée par la recherche scientifique et toutes les innovations technologiques. Même les géants d’Internet : Google, Paypal, Amazon, qui ont conquis le marché mondial des communications, du numérique, et qui ont acquis en quelques années des capitaux colossaux, sont en train de réinvestir dans les projets de nanotechnologie, dont le point de convergence est de prolonger l’homme.