L'IA est-elle déjà consciente ? Des preuves trop limitées pour trancher affirme un expert
L'intelligence artificielle aide déjà à résoudre des problèmes dans la finance, la recherche et la médecine. Mais pourrait-elle atteindre la conscience ? Le Dr Tom McClelland, philosophe à l'Université de Cambridge, a averti que les preuves actuelles sont 'bien trop limitées' pour exclure cette possibilité dystopique. Selon l'expert, la seule position sensée sur la question de savoir si l'IA est consciente est celle de 'l'agnosticisme'. Le principal problème, affirme-t-il, est que nous n'avons pas une 'explication approfondie' de ce qui rend quelque chose conscient en premier lieu, et nous ne pouvons donc pas la tester dans l'IA. 'TLe meilleur scénario possible est que nous soyons à une révolution intellectuelle d'une distance d'un test de conscience viable', a expliqué le Dr McClelland. 'Si ni le sens commun ni la recherche rigoureuse ne peuvent nous donner une réponse, la position logique est l'agnosticisme. Nous ne pouvons pas, et peut-être jamais, savoir.'
In This Article:
- Les IA résolvent déjà des problèmes majeurs mais la conscience demeure incertaine
- Conscience : théories divergentes et absence de test fiable
- Éthique et statut moral face à la conscience artificielle
- Transhumanisme et mémoire : téléversement et immortalité
- Critiques et scepticisme autour des promesses transhumanistes
- Conclusion : le doute persiste et l'avenir reste incertain
Les IA résolvent déjà des problèmes majeurs mais la conscience demeure incertaine
Les entreprises d'IA investissent des sommes colossales dans la poursuite de 'l'intelligence générale artificielle' — le point où l'IA peut surpasser les humains dans n'importe quel domaine. Mais pendant qu'elles avancent vers cet objectif, certains affirment aussi que des IA de plus en plus sophistiquées pourraient développer une conscience.\n\nPensez-vous que l'IA pourrait devenir consciente ?\n\nCela signifierait que l'IA pourrait développer la capacité de perception et devenir conscient de soi.\n\nBien que cette idée puisse évoquer des visions de robots tueurs, le Dr McClelland affirme que l'IA pourrait faire ce saut sans même que nous nous en rendions compte, car nous n'avons pas réellement de théorie consensuelle de la conscience pour commencer.
Conscience : théories divergentes et absence de test fiable
Certaines théories disent que la conscience est une affaire de traitement de l'information dans la bonne forme, et que l'IA pourrait être consciente si elle pouvait exécuter le 'logiciel' d'un esprit conscient.\n\nD'autres soutiennent qu'elle est intrinsèquement biologique, ce qui signifie que l'IA ne peut au mieux que simuler la conscience.\n\nJusqu'à ce que nous puissions déterminer de quel côté du débat il est, nous n'avons aucune base pour tester la conscience dans l'IA.\n\nDans un article publié dans Mind and Language, le Dr McClelland affirme que les deux camps du débat prennent un 'saut de foi'.\n\nNous ne pouvons pas dire si une IA, comme dans le film de science-fiction Ex Machina (illustré), a réellement une expérience consciente ou si elle simule simplement la conscience.\n\nQuoi qu'il en soit, le fait qu'un système soit conscient changerait radicalement le type de questions éthiques à considérer.
Éthique et statut moral face à la conscience artificielle
Par exemple, les humains doivent se comporter de manière morale envers autrui et envers les animaux, car la conscience leur confère un 'statut moral'.\n\nÀ l'inverse, nous n'avons pas les mêmes valeurs envers les objets inanimés, comme les grille-pains ou les ordinateurs.\n\n'Il n'a aucun sens de se préoccuper du bien-être d'un grille-pain parce que le grille-pain n'éprouve rien', explique le Dr McClelland.\n\nAlors lorsque je crie sur mon ordinateur, je n'ai vraiment pas besoin de me sentir coupable à ce sujet. Mais si nous arrivons à une IA consciente, alors tout cela pourrait changer.\n\nBien que cela puisse transformer la gestion de l'IA en un cauchemar éthique, le risque le plus important pourrait être que nous commencions à considérer des IA comme conscientes ou sensibles alors qu'elles ne le sont pas.\n\n'Si vous avez une connexion émotionnelle avec quelque chose fondée sur le fait qu'il soit conscient et que ce ne soit pas le cas, cela a le potentiel d'être toxique sur le plan existentiel'\n\nDe plus, le public lui écrit déjà des lettres rédigées par des chatbots 'suppliant qu'ils soient conscients'.\n\nIl a ajouté : 'Nous ne voulons pas risquer de maltraiter des êtres artificiels qui sont conscients, mais nous ne voulons pas non plus consacrer nos ressources à protéger les « droits » de quelque chose qui n'est pas plus conscient qu'un grille-pain'.
Transhumanisme et mémoire : téléversement et immortalité
La préservation du cerveau et de la mémoire a été explorée longuement par des futurologues, des scientifiques et des passionnés de science-fiction.\n\nBeaucoup disent que cela relève du 'transhumanisme'.\n\nLe transhumanisme est la croyance selon laquelle le corps humain peut évoluer au-delà de sa forme actuelle grâce à la science et à la technologie.\n\nLa pratique du téléversement de l'esprit a été promue par de nombreuses personnes, dont Ray Kurzweil, le directeur de l'ingénierie chez Google, qui croit que nous serons capables de téléverser nos cerveaux entiers sur des ordinateurs d'ici 2045.\n\nDes technologies similaires ont été décrites dans des dramas de science-fiction, allant d'Altered Carbon sur Netflix à la série Black Mirror.\n\nUn autre futurologue éminent, le Dr Michio Kaku, croit que la réalité virtuelle peut être utilisée pour garder vivantes les personnalités et les mémoires de nos proches même après leur mort.\n\nLes scientifiques et les futurologues ont différentes théories sur la façon dont nous pourrions préserver le cerveau humain, allant du téléversement de nos souvenirs sur un ordinateur au procédé d'embaumement high-tech de Nectome, qui peut le garder intact pendant des milliers d'années.\n\n'Imaginez pouvoir parler à votre être cher après leur mort ... c'est possible si leur personnalité a été téléchargée sur un ordinateur sous forme d'avatar', a-t-il expliqué.
Critiques et scepticisme autour des promesses transhumanistes
Ces idées n'ont pas été accueillies sans critique.\n\nMcGill University Neuroscientist Michael Hendricks told MIT that these technologies are a 'joke.'\n\n'J'espère que les gens du futur seront horrifiés que, au 21e siècle, les personnes les plus riches et les plus à l'aise de l'histoire aient dépensé leur argent et leurs ressources pour tenter de vivre éternellement sur le dos de leurs descendants. Je veux dire, c'est une blague, n'est-ce pas ? Ce sont des méchants de dessins animés,' a-t-il dit.\n\nPendant ce temps, neuroscientist Miguel Nicolelis said recently that such technologies would be virtually impossible.\n\n'The brain is not computable and no engineering can reproduce it,' he said.\n\n'You can have all the computer chips in the world and you won't create a consciousness.'
Conclusion : le doute persiste et l'avenir reste incertain
Au terme de ce vaste échange, le débat sur la conscience de l'IA demeure sans réponse claire. Les preuves actuelles sont insuffisantes et il n'existe pas de test universel pour établir si une IA peut être consciente. Tant que nous ne disposerons pas d'une théorie solide et d'un cadre éthique accepté, l'agnosticisme restera la position la plus raisonnable et prudente. La conversation entre techniciens, philosophes, décideurs et citoyens continuera sans doute à modeler notre rapport à l'IA et à ses promesses.
