Regards philosophiques (233)

► Si l’I.A. veut nous créer une race de surhomme, cela peut faire froid dans le dos. On a déjà vu avec le nazisme ce concept de race supérieure. Si cela doit creuser des fossés entre les hommes, c’est inquiétant. Cela renvoie à la question : Quelle est la volonté réelle de faire face à ces dangers ? Il y a, comme on l’a dit, des savants fous, mais il y a aussi le terrorisme informatique, et, là, le pouvoir de nuire peut être démultiplié.
Voici le début d’un article d’un ingénieur en télécommunication, Mehdi Nemri : « Demain, l’Internet des objets », paru dans la note d’analyse n° 22 de janvier 2015 de France Stratégie (en ligne sur le site www.strategie.gouv.fr) : « Internet est devenu en quelques années le vecteur principal de l’information. Il s’est imposé dans de nombreux domaines comme une infrastructure essentielle pour les individus, les entreprises et les institutions. Toutefois, ses capacités d’extension, au-delà des seuls ordinateurs et terminaux mobiles, sont encore considérables, car il devrait permettre l’interaction d’un nombre croissant d’objets entre eux ou avec nous-mêmes. Internet se transforme progressivement en un réseau étendu, appelé «  Internet des objets », reliant plusieurs milliards d’êtres humains, mais aussi des dizaines de milliards d’objets. Des domaines encore relativement peu affectés par Internet, comme la santé, l’habitat, l’automobile, l’assurance, seront bouleversés par cette mutation du réseau : une compétition économique redoutable devrait avoir lieu dans les prochaines années, non seulement pour le maîtrise des plateformes, mais aussi pour le partage de la valeur entre acteurs économiques traditionnels et nouveaux venus issus du secteur numérique.
Cette évolution soulève de nombreuses questions relatives à la croissance économique et aux mutations sociales qu’elle entraînera, mais aussi aux libertés individuelles et à la souveraineté nationale. [...] »

► Nous avons créé une civilisation à partir de la parole, à partir de l’écriture, puis avec les livres. Les robots n’étudieront pas, ils n’écriront pas de livres, ils ne feront que les gestes qu’on va leur inculquer, ils n’auront pas la réflexion. Toute notre culture n’est pas modélisable.

► On a dit plusieurs fois, « on subit » ; il y a ainsi des choses inadmissibles, comme d’être suivis sans cesse avec nos téléphones portables. C’est vrai, mais en même temps, notre société n’a pas su mettre en place des contre pouvoirs en face des intérêts mercantiles, qui ne recherchent, eux, que le plus grand profit à très court terme. On n’a pas été capables de donner un cadre éthique, une déontologie, à ces recherches, et de veiller à ce que se mettent en place les précautions élémentaires.

Les chercheurs, eux, ne sont pas en mesure de se dire : Est-ce que j’arrête, ou est-ce que je continue ? On n’a pas été capable d’instituer des procédures d’intervention citoyenne. Tout a été laissé aux mains des intérêts mercantiles, et, après, on dit : « on subit » !

► Finalement, les recherches en intelligence artificielle me posent question par rapport au présent de la société en laquelle nous vivons.

D’une part, je souhaite que la recherche scientifique et les innovations techniques servent à améliorer le bien-être de chacun, mais d’autre part,  je crains que tous les problèmes d’existence soient considérés comme de simples problèmes techniques et que l’impératif technique nous domine, selon lequel tout ce qui techniquement possible est permis, sans interrogation éthique.

Donc, quel sera notre futur si nous laissons les géants financiers de l’économie de marché réguler la recherche techno scientifique ? Or, les possibilités techniques sont fonction des  objectifs des maîtres de l’économie.

Alors, nous ne sommes pas dominés par l’intelligence artificielle, mais nous le sommes déjà et le serons de plus en plus par l’économie de marché qui oriente son développement. Alors, que faire lorsque des scientifiques ou des philosophes ou des citoyens nous alertent sur notre présent et donc sur notre devenir ? Dire que nous allons prendre en mains notre avenir. Oui, mais comment ? Certes, en discutant dans les cafés-philo, mais ce n’est pas suffisant.