Blake Lemoine un ingénieur de la compagnie mère de Google, Alphabet, a déclaré en juin 2022, que le logiciel LaMDA devait être considéré comme une « personne », vu le niveau d’intelligence, d’émotion et d’inquiétude quant à sa propre finitude exhibés par LaMDA dans le cadre des nombreuses conversations que Blake Lemoine eut avec le logiciel.
Black Lemoine avait tort, il fut d’ailleurs écarté du projet, mais l’illusion devait être forte pour susciter une telle affirmation.
Lorsqu’une véritable IAG « Intelligence Artificielle Générale » pourvue de compétences cognitives égales ou supérieures à l’homme verra le jour, devra-t-on la traiter comme une personne morale dotée de droits inaliénables comme tout être humain ou bien comme une simple machine, c’est-à-dire un monceau de semi-conducteurs et de logiciels très sophistiqués ?
Je ne prétends pas faire le tour du problème, je m’interroge sur certains fondamentaux.
Tout d’abord, clarifions succinctement ce qu’est une personne morale.
La question au temps des cathédrales aurait fait sursauter les gens, tout le monde alors s’accordait pour déclarer que seul l’être humain pouvait revendiquer le statut de personne morale, car seul doté d’une âme, de raison, de subjectivité et capable de distinguer le bien et le mal.
Ce n’est plus le cas. Depuis quelques décennies, des scientifiques recommandent qu’on accorde ce statut à un petit nombre d’espèces animales, notamment quelques grands singes, chimpanzés, orang-outang, quelques espèces de dauphins et cétacés, l’éléphant, les corvidés et peut-être d’autres à venir. Ces demandes ne sont débattues pour le moment que dans des revues scientifiques, mais il n’est pas exclu qu’un mouvement social se constitue pour exiger leur légalisation. Les raisons avancées sont simples :
a) Tout d’abord pour l’âme, il n’y a plus une seule personne raisonnable qui oserait avancer cet argument, la notion d’une double nature de l’homme, spirituelle et matérielle n’a plus aucun crédit en science. Donc si l’être humain peut être une Personne sans nécessité d’âme, alors les animaux intelligents aussi.
b) De plus l’idée qu’il y ait une différence radicale de nature entre les animaux et l’homme est maintenant battue en brèche. La différence en est une de degré et non de nature, tant pour l’intelligence (capacité de compter des corbeaux, usage d’outils, communications et diffusion culturelle pour de nombreux animaux) que pour la morale car on a pu établir que plusieurs espèces réagissent spontanément face à des situations d’injustice, ce qui est un précurseur à des comportements moraux.
c) Plusieurs animaux ont des émotions complexes comme la joie, la tristesse et la dépression, qui transcendent les émotions instinctives bien connues, telles la peur, l’agressivité ou le lien parental, lesquelles relèvent, elles, d’automatismes liés à la survie de l’espèce.
d) Il reste évidemment la notion de conscience de soi, elle est très difficile à déterminer, on sait que certains animaux se reconnaissent dans un miroir, mais est-ce une preuve de l’existence d’une vie intérieure, d’une subjectivité ?
Si le doute est permis quant au statut de « Personne » pour quelques espèces vivantes intelligentes, qu’en sera-t-il avec une IAG ?
Celle-ci passera avec aisance le test de Turing, puisque c’est déjà le cas avec certains logiciels. Imaginons, ce que je crois plausible, qu’elle disposera d’un accès instantané à la quasi-totalité du savoir humain, incluant toutes les productions de toutes les cultures humaines, de toutes les civilisations, toutes les histoires, toutes les légendes, toutes les littératures, toutes les connaissances scientifiques de l’Humanité, ce n’est plus de la science-fiction, c’est en passe d’être réalisé dans les laboratoires de de recherche sur l’intelligence artificielle, d’IBM, OpenAI, Microsoft, Google et des centres de recherches militaires.
Presque en même temps que la déclaration fracassante de Blake Lemoine, un autre logiciel, Midjourney, a remporté au Colorado le premier prix d’un concours, avec une œuvre de peinture numérique « théâtre d’opéra spatial », ce qui a provoqué la mauvaise humeur des artistes humains, mis soudainement en concurrence avec des logiciels multidisciplinaires, capables d’écrire, de dessiner, de coder avec une souplesse incroyable.
Ce qui est presque sûr c’est qu’une IAG résoudra dans un avenir pas si éloigné que ça, des conjectures mathématiques, diagnostiquera tout problème de santé bien mieux que n’importe quel aréopage médical, pourra converser de tout sujet avec un être humain, d’ailleurs des robots tiennent déjà compagnie à des personnes âgées au Japon dans des hôpitaux, et il est presque certain que dans quelques décennies, une telle IAG sera capable de simuler ce que pense un individu lambda, car elle disposera d’une infinité de biographies en sus de tous les ouvrages de psychologie. Elle pourra donc savoir avec une assez bonne précision statistique comment réagirait un homme ou une femme lambda dans quelque situation que ce soit. Elle donnera alors l’illusion de penser comme un humain à un très haut niveau de complexité.
Devra-t-on dès lors reconnaitre une telle IAG comme une « Personne », puisqu’elle pourra faire illusion et passer pour un être humain ?
L’objection fondamentale à cette reconnaissance sera l’absence de preuve :
a) qu’une telle entité est consciente d’elle-même, autrement dit qu’il y a un « sujet » à l’intérieur de la machine, un cheval au cœur de la locomotive.
b) qu’elle est dotée de libre-arbitre.
La question ‘‘qu’est-ce que la conscience’’ est probablement la plus difficile à traiter par la science. Il n’est pas certain qu’on disposera un jour d’une théorie consensuelle sur ce qu’elle est. Quelques chercheurs pensent que la conscience est une pure illusion, une astuce de l’évolution pour conforter la survie de l’espèce, d’autres (David Chalmers) qu’elle est précisément la chose en soi de l’être au-delà de toute dimension quantifiable. Quant à la majorité des chercheurs en neuro-cognition (Koch et al), ce sont naturellement des « réductionnistes » et ils visent à expliquer la conscience par la biologie sous-jacente au fonctionnement des neurones, respectant ainsi le principe de causalité et éliminant du coup la question du libre-arbitre.
Je préfère éviter quand c’est possible les mots conscience, trop polysémique, et libre-arbitre, trop métaphysique. On appréhende mieux la conscience si on l’aborde comme un continuum. À l’une des extrémités, n’importe quelle forme vivante, même l’amibe ou le champignon, exhibe un degré même infime de sensibilité à son environnement, à l’autre extrémité, on aboutit à notre forme de conscience qui repose sur l’expérience subjective de soi et la vie intérieure qui en résulte. Quant au libre arbitre, hors de la métaphysique, cette notion relève d’une impossibilité radicale ; n’importe quel choix ou décision humaine s’inscrit dans un entrecroisement de chaines de causalité, même s’il semble très ténu. Imaginer un choix ou une décision absolument libre, c’est affirmer que ce choix ou cette décision surgit hors de toute cause et de toute temporalité. Excepté dans la physique quantique des particules élémentaires, à l’échelle spatio-temporelle qui est la nôtre, c’est un non-sens total, un impensable. Je lui préfère la notion de volition, car celle-ci intègre le principe de causalité.
Revenons aux deux exigences (conscience et libre-arbitre) requises pour déclarer qu’une IAG est une « Personne ».
Ces deux conditions sin qua non ne sont valables que si on suppose que l’être humain est libre et que sa conscience de soi ou vie intérieure est plus qu’une illusion, tour de passe-passe de l’évolution pour renforcer la survie de l’espèce.
La démonstration dans le premier cas est impossible, et incertaine dans le deuxième cas !
NB : (reprise d’un paragraphe d’un article précédent)
Ceci ne veut pas dire qu’il y aura équivalence entre une entité électronique et une vie biologique. En effet comment une «pure» intelligence exhiberait-elle une volonté quelconque, à moins qu’elle n’ait été programmée à cet effet. L’intelligence en soi, ne génère ni volonté ni désir, ne nourrit aucune passion, ni ne cultive aucune vertu. Ces dispositions ont leurs sources dans les structures les plus primitives et essentielles du cerveau, à l’instar de la faim, de la soif, de l’instinct de survie et de reproduction. La pure intelligence est une capacité à comprendre, pas à vouloir. Or le désir est à la source de tout acte volontaire, mais d’où vient le désir ? Si je me fie à la biologie évolutionniste, le désir surgit du manque. Le manque et son corollaire, l’urgence de le combler, est spécifique aux êtres vivants, car il est la condition sin qua non de leur survie. Son existence prouvant ipso facto sa nécessité, puisqu’il est un trait universel de tout organisme vivant, le hasard ayant sélectionné au cours des âges les ensembles moléculaires aptes à survivre, c’est-à-dire à se reproduire, les autres ensembles disparaissant purement et simplement de l’environnement. La vie est une machine à lutter contre l’entropie, or une IAG, à moins qu’elle n’ait été programmée pour cela, ne «souffrirait » d’aucun manque, n’aurait donc aucun désir, aucune volonté propre, même si elle était dotée d’une conscience de soi artificielle.
Léon Ouaknine
20 septembre 2022
BREBIS GALEUSE 
Laisser un commentaire