perlagedediams

perlagedediams

Elon Musk a publié un avertissement terrifiant sur ce qui se passerait vraiment si l’IA parvenait à prendre le dessus sur l’humanité

Dans un nouveau documentaire, Elon Musk met en garde : l’intelligence artificielle (IA) pourrait stimuler la création d’un véritable robot dictateur qui pourrait gouverner l’humanité à jamais.

 

« Si une entreprise ou un petit groupe de personnes parvient à développer une super-intelligence supérieure, ils pourraient alors conquérir le monde », a déclaré Musk dans sa video. « La difference c'est qu'au moins lorsqu’il y a un dictateur diabolique humain, on sait qu'il finira par mourir. Mais pour une IA, il n’y a pas de mort – elle pourrait vivre éternellement. Nous aurions alors un dictateur diabolique immortel dont nous ne pourrions jamais nous débarrasser », a-t-il poursuivi.

 

Dans le documentaire, Musk explique essentiellement que les gouvernements, ou d’autres entités, pourraient créer une IA dangereuse capable de survivre aux leaders humains et ne jamais être détruite. Il explique également qu’une manière d’éviter cela, est de démocratiser l’IA.

 

Le documentaire « Do You Trust This Computer ? » (« Faites-vous confiance à cet ordinateur ? »), expose les dangers potentiels de l’IA, y compris ce qui pourrait arriver si l’IA évoluait pour devenir plus intelligente que l’homme...pour finir par devenir son maître. « Nous nous dirigeons rapidement vers une super-intelligence numérique qui dépasse de loin tout humain. Je pense que c’est évident », a déclaré Musk. « Nous avons cinq ans, je pense, avant que la super-intelligence numérique voit le jour, j’en suis certain à 100% », a-t-il ajouté.
 

Le film postule que si l’IA a un but, elle pourrait bien essayer de l’atteindre d’une manière ou d’une autre, même sans l’accord des êtres humains. « L’IA n’a pas besoin d’être maléfique pour détruire l’humanité – si l’IA a un but et que l’humanité se trouve sur son chemin, alors elle détruira l’humanité naturellement sans même y penser, sans aucune rancune », a déclaré Musk.

 

« C’est comme si nous construisions une route et qu’une fourmilière se trouvait sur notre chemin. Nous ne détestons pas les fourmis, nous construisons simplement une route, et alors, au revoir la fourmilière », a-t-il ajouté. Le problème avec une super-intelligence IA, c’est que, si elle surpasse l’intelligence des humains, alors nous perdrons le contrôle de cette technologie.

 

Le nouvel avertissement de Musk fait écho à ses précédentes prédictions sinistres sur les dangers potentiels liés à l’IA. En septembre dernier, Musk a tweeté que « la compétition pour la supériorité de l’IA au niveau national » serait probablement la cause d’une troisième guerre mondiale, et il a déclaré que l’IA représente le plus grand risque auquel la civilisation est et sera confrontée.

 

Une solution potentielle proposée par Musk serait de mettre en place une forme de réglementation anticipée : « En général, des règlements sont mis en place après que des événements se soient produits », explique-t-il. « Cela prend une éternité. Cette manière de faire n’est pas une bonne chose car nous agissons toujours après coup (par réaction). Par le passé, heureusement, cela n’a jamais représenté un risque fondamental pour l’existence de notre civilisation. Concernant l’IA en revanche, c’est différent. Elle représente une véritable menace pour notre existence », ajoute-t-il.

 

Plusieurs des gouverneurs ont donc demandé à Musk comment il serait possible de réglementer cette nouvelle industrie, et il a répondu que la première étape serait « d’essayer d’en apprendre autant que possible, afin de comprendre la nature des problèmes». C’est notamment ce que Musk fait, grâce à son entreprise de recherche à but non lucratif, OpenAI.

 

OpenAI n’est pas l’unique initiative de Musk dans ce domaine. En effet, ce dernier a également mis en place Neuralink, une interface homme-machine qui donnerait à l’humanité la capacité de rester à niveau avec l’IA, tout en permettant d’intégrer différentes technologies.

 

Bien qu’il n’y ait pas de menace immédiate, Musk souligne le fait qu’une régulation proactive est tout simplement cruciale : « jusqu’à ce que les gens voient vraiment des robots tuer des personnes dans la rue, ils ne sauront pas comment réagir, car ça leur paraît irréel », a-t-il déclaré.

 

« Je travaille sur des formes d’intelligence artificielle très avancées et je pense qu’on devrait tous s’inquiéter de ces progrès. Le domaine de l’IA est un cas rare où je pense que nous devons à tout prix être proactifs dans la réglementation, plutôt que réactifs. Car je pense qu’au moment où nous serons réactifs dans cette réglementation de l’IA, il sera trop tard », a-t-il ajouté.

 

Vous pouvez regarder le documentaire en intégralité sur le site du film, jusqu’à dimanche soir.

 

Source : https://trustmyscience.com



11/04/2018

A découvrir aussi


Inscrivez-vous au blog

Soyez prévenu par email des prochaines mises à jour

Rejoignez les 28 autres membres