Sur l’hypothèse de dérive malveillante d’une Intelligence Artificielle

posted Modifié @ Auteur

L’Intelligence artificielle ou IA alimente les espoirs, et surtout les angoisses. Une analyse objective, rigoureuse, méthodique s’avère nécessaire.
La montée en puissance de l’Intelligence artificielle concerne l’ensemble des activités humaines. L’accélération de sa diffusion dans l’espace numérique contribuera à modifier des équilibres économiques, sociaux ou géopolitiques qui ont marqué le vingtième siècle et que l’on pensait durablement installés. Elle fait naître autant d’espoirs et de défis à relever que de craintes à dissiper. Le scénario proposé envisage le déclenchement d’un conflit entre les alliés de l’OTAN et une puissance extérieure.

il vise à montrer qu’un des dangers de l’IA ne réside pas dans sa puissance ou dans son autonomie mais surtout dans les limites de sa puissance résultant d’un champ de pertinence très restreint.

La peur de l’intelligence artificielle et l’hypothèse d’une dérive malveillante de l’IA

Peu précise et souffrant d’une forte récursivité, cette première définition s’avère aujourd’hui insuffisante pour qualifier les IA intervenant en robotique, en perception ou en compréhension du langage naturel. Pour les partisans de l’IA faible, l’IA forte serait intrinsèquement impossible compte tenu du support biologique de la conscience humaine. Un sondage réalisé en mai 2016 par Odoxa pour Microsoft et Stratégiesmontré que 50 % des Français considéraient l’intelligence artificielle comme une menace alors que 49 % voyaient en elle une opportunité de développement. Souvent peu informé sur l’état de l’art des développements de l’IA et sur ses réelles capacités fonctionnelles, l’utilisateur français reste fortement influencé par la littérature et le cinéma américain de science-fiction qui représentent presque toujours l’IA comme une entité nuisible et potentiellement destructrice.

Hypothèse de dérive malveillante d’une IA : une analyse

Afin de préciser et de réduire le champ d’exploration de cette hypothèse de dérive malveillante, nous nous intéressons désormais à une question plus limitée . Notons que cette question est souvent associée à une hypothèse de détournement de l’IA par des individus malveillants ou à son piratage par des groupes de hackers, réduisant ainsi la problématique à la seule cybersécurité du système hébergeant l’IA détournée. En fait, le degré d’autonomie d’une IA a très peu été évoqué dans des publications académiques jusqu’en 2015. Il propose seulement un scénario construit sur une séquence d’automatismes existants ou en cours de développement et qui, sous certaines conditions, pourrait aboutir à une situation conflictuelle ou à une crise militaire.



Intelligence artificielle et conflictualité – Sur l’hypothèse de dérive malveillante d’une Intelligence Artificielletxt_quote_double_close

– Géostrategia – Thierry BERTHIER & Olivier KEMPF – Mis en ligne le 28-11-2017 13:56:31
Les références originales de ce texte sont: Thierry Berthier et Olivier Kempf, « Intelligence artificielle et conflictualité : Sur l’hypothèse de dérive malveillante d’une Intelligence Artificielle », Centre de recherche de l’école des officiers de la gendarmerie nationale, 2017.
RESOOMER – Licence Creative Commons.


conflits, gouvernance