Intelligence artificielle : Et si vous perdiez le contrôle ?

Les nombreuses craintes concernant la perte de contrôle des dispositifs d'intelligence artificielle ont fait réagir Google, qui travaille sur la création d'un bouton d'arrêt d'urgence.

Quels sont les risques ?

Depuis quelques mois, les célèbres scientifiques Stephen Hawking et Elton Musk se soucient d'une éventuelle perte de contrôle de l'intelligence artificielle. Ne disposant d'aucun moyen de s'arrêter en cas d'urgence, cette technologie pourrait devenir dangereuse pour l'homme. 

Malgré les nombreux films de science fiction existant à ce sujet, la perte de contrôle de ces machines ne semble pas être la principle occupation des constructeurs.  

Pour Stephen Hawkings, l'intelligence artificielle pourrait être la dernière invention de l'homme, tandis qu'Elon Musk qualifie cette technologie comme plus dangereuse que les armes nucléaires. 

Le bouton d'arrêt d'urgence

Prenant en compte ces craintes, Google travaille désormais sur la conception d'un bouton d'arrêt d'urgence en cas de perte de contrôle et de prises de risques. Ce bouton pourrait être une garantie contre la prise de contrôle de la machine, pour éviter qu'elle ne se déteriore elle-même ou blesse son utilisateur.

La création de ce bouton parait cependant plus complexe qu'il n'y parrait... En effet, « Si la machine à un but à atteindre et peut prédire qu’elle va être arrêtée, elle va essayer de résister afin de réussir ce pour quoi elle a été conçue ». La machine serait donc capable de désactiver ce bouton d'elle-même si elle ne parvient pas à ses fins.

Autant dire que cette technologie en cours de développement n'est pas encore tout à fait au point et que les risques semblent bien réels. L'univers futuriste imaginé depuis des dizaines d'années sur le grand écran pourrait être plus proche que nous le pensions !

Découvrez aussi l'article sur la sortie du nouvel écran enroulable de Samsung.