L’intelligence artificielle et la fin du monde
Yoshua Bengio, l'un des meilleurs chercheurs au monde en intelligence artificielle, avertit que notre civilisation risque de s’effondrer.
Bengio veut que l’intelligence artificielle soit au service de l’humanité. Mais pour reprendre ses propres termes, il redoute que les êtres humains deviennent «obsolètes», tant la technologie évolue rapidement.
Bengio demande un moratoire de six mois sur le développement de l’intelligence artificielle, mais il veut surtout que les dirigeants et le public prennent conscience de l’immense problème que nous avons.
Ce problème n’est pas nouveau. Martin Heidegger l’avait identifié au début du siècle dernier. La technologie évoluait déjà si rapidement que le grand philosophe craignait qu’elle échappe au contrôle humain.
En réalité, la technologie n’échappe jamais totalement au contrôle humain. Mais certaines technologies sont développées simplement parce qu’il est possible de les développer, sans aucune réflexion morale, économique ou politique sur leurs impacts.
Or, pour le meilleur et pour le pire, la boîte de Pandore a été ouverte. L’intelligence artificielle est là pour rester. Et elle va se développer encore davantage, malgré les avertissements de Benjio et ceux des milliers de spécialistes qui ont signé la demande avec lui. C’est dans la nature de la bête.
- Ne manquez pas la chronique de Loïc Tassé au micro de Benoit Dutrizac, tous les jours sur les ondes de QUB radio :
Intelligence artificielle et bombe nucléaire
Benjio compare la création de l’intelligence artificielle à celle de la bombe nucléaire. La comparaison n’est valable qu’en partie.
L’armement nucléaire est limité par quelques grandes puissances qui tentent tant bien que mal, mais plutôt mal, de ralentir sa dissémination. L’Inde, le Pakistan, la Corée du Nord ont de l’armement atomique. Israël probablement aussi. L’Iran et l’Arabie saoudite pourraient bientôt suivre. La propagande russe est en train de banaliser l’utilisation de l’armement atomique.
Combien de temps le développement de l’intelligence artificielle pourra-t-il être contrôlé par quelques pays?
Le problème n’est pas tant que l’armement atomique existe, mais plutôt qu’il se retrouve entre les mains de dirigeants irresponsables.
De même, rien ne laisse penser que des dictateurs vont ralentir le développement de l’intelligence artificielle, s’ils estiment qu’elle pourra augmenter leur pouvoir.
Condamnés
Les pays démocratiques sont condamnés à poursuivre le développement de l’intelligence artificielle, par crainte d’être devancés par des pays autoritaires ou totalitaires qui s’en serviraient à mauvais escient. C’est d’ailleurs la conclusion à laquelle Albert Einstein en était arrivé avec le nucléaire.
- Ne manquez pas la chronique de Loïc Tassé au micro de Benoit Dutrizac, tous les jours sur les ondes de QUB radio :
Nous ne pouvons plus contrôler les processus cognitifs de l’intelligence artificielle, mais nous pouvons lui interdire l’accès à certains domaines, en particulier les postes de décision dans les entreprises, les médias ou les gouvernements. Aucun humain ne devrait être géré, informé ou dirigé par des robots qui n’ont ni conscience, ni morale, ni sentiment.
Mais par ailleurs, à mesure que les robots remplaceront les humains, il faudra leur faire payer «des impôts». Sinon, nous ferons face à des marées d’indigents, tandis que les États auront de moins en moins d’argent pour financer leurs politiques.
