Des recherches inquiétantes avertissent que l'IA pourrait être un "grand filtre" qui anéantit la civilisation humaine

L'IA avancée pourrait se comporter comme une "seconde espèce intelligente" avec laquelle les humains finiraient par partager la Terre

Retrouvez vos marque-pages dans votre rubrique Independent Premium, sous mon profil

Vidéo connexe : Il a aidé à créer l'IA. Maintenant, il a peur que cela détruise l'humanité

L'intelligence artificielle avancée pourrait représenter un risque catastrophique pour l'humanité et anéantir des civilisations entières, prévient une nouvelle étude.

L'IA pourrait être la réponse potentielle du "grand filtre" au paradoxe de Fermi, avec le potentiel d'anéantir la vie intelligente dans l'univers avant qu'elle ne puisse entrer en contact avec les autres, a suggéré l'étude encore à évaluer par des pairs, publiée dans l'arXiv serveur de préimpression.

Le paradoxe de Fermi, capturé populairement par la phrase "Où est tout le monde?", a déconcerté les scientifiques pendant des décennies. Il fait référence à l'idée inquiétante que si la vie extraterrestre est probable dans l'univers, alors pourquoi les humains ne l'ont-ils pas encore rencontrée.

De nombreuses théories ont été proposées, offrant différentes explications à notre présence solitaire jusqu'ici dans le cosmos.

Même si les calculs de probabilité, tels que la populaire équation de Drake, suggèrent qu'il pourrait y avoir un certain nombre de civilisations intelligentes dans la galaxie, il y a toujours un silence cosmique déroutant.

Une hypothèse populaire - connue sous le nom de Grand Filtre - suggère qu'un événement nécessaire à l'émergence de la vie intelligente est extrêmement improbable, d'où le silence cosmique.

Un équivalent logique de cette théorie est qu'un phénomène cosmique catastrophique empêche probablement l'expansion de la vie dans l'univers.

"Cela pourrait être un événement naturel, ou plus déconcertant, quelque chose que les êtres intelligents se font à eux-mêmes et qui conduit à leur propre extinction", a écrit l'auteur de l'étude Mark Bailey de la National Intelligence University (NIU) aux États-Unis.

La nouvelle recherche a émis l'hypothèse que l'avancement de l'IA pourrait être le type exact d'événement à risque catastrophique qui pourrait potentiellement anéantir des civilisations entières.

Dans l'étude, le Dr Bailey place le contexte du Grand Filtre dans le risque potentiel à long terme de technologies comme l'IA que nous ne comprenons pas entièrement.

"Les humains sont terribles pour estimer intuitivement le risque à long terme", a déclaré le scientifique du NIU, ajoutant que nous ne comprenons pas complètement l'IA, mais "elle s'infiltre rapidement dans nos vies".

"La future IA tendra probablement vers des systèmes plus généralisables et axés sur les objectifs avec un contrôle plus significatif, où les conséquences des résultats imprévus deviendront beaucoup plus graves", a-t-il averti.

Le Dr Bailey a avancé ce qu'il appelle «l'argument de la deuxième espèce», qui soulève la possibilité qu'une IA avancée puisse effectivement se comporter comme une «deuxième espèce intelligente» avec laquelle nous partagerions finalement cette planète.

Compte tenu de ce qui s'est passé lorsque les humains modernes et les Néandertaliens ont coexisté sur Terre, les chercheurs du NIU ont déclaré que "les résultats potentiels sont sombres".

"Il va de soi qu'une technologie incontrôlable, en particulier une technologie orientée vers un objectif comme l'IA, serait un bon candidat pour le Grand Filtre", a écrit le Dr Bailey dans l'étude.

« Nous devons nous demander ; comment nous préparons-nous à cette possibilité ? »

Rejoignez des conversations stimulantes, suivez d'autres lecteurs indépendants et consultez leurs réponses

Le fondateur de DeepMind, Demis Hassabis, affirme que nous ne sommes qu'à quelques années de l'intelligence générale artificielle au niveau humain

iStock/Getty Images

Vous voulez ajouter vos articles et histoires préférés à vos favoris pour les lire ou les référencer plus tard ? Démarrez votre abonnement Independent Premium dès aujourd'hui.