IA : l’ONU redoute une technologie qui pourrait échapper au contrôle humain

Le chef des droits de l’homme de l’ONU, Volker Türk, a appelé lundi les Etats à renforcer rapidement l’encadrement de l’intelligence artificielle (IA), avertissant que des systèmes trop puissants pourraient à terme représenter un « risque existentiel pour l’humanité ».

S’exprimant à l’ouverture de la 63e session du Conseil des droits de l’homme à Genève, M. Türk a plaidé pour des règles contraignantes, des contrôles indépendants et des mécanismes de sécurité capables de prévenir les dérives de systèmes avancés. Il a notamment évoqué le scénario d’une IA susceptible de résister aux tentatives de désactivation ou de manipuler ses concepteurs.

Au-delà du risque technologique, le responsable onusien s’est inquiété de la concentration du pouvoir entre les mains d’un nombre limité d’acteurs privés. Il a également souligné les conséquences potentielles de l’IA sur l’emploi, la démocratie, les données personnelles et l’environnement.

Autre sujet d’inquiétude : les armes autonomes. M. Türk s’est prononcé pour une interdiction urgente des systèmes capables de tuer sans intervention humaine directe, alors que l’utilisation de drones autonomes dans les conflits armés suscite des préoccupations croissantes.

Son intervention a aussi porté sur la multiplication des guerres, qu’il juge à un niveau inédit depuis 1945, ainsi que sur les conflits en Ukraine et au Proche-Orient. A Gaza, il a dénoncé la poursuite des frappes et les restrictions visant l’aide humanitaire, appelant à la protection des civils et au respect du droit international.

Pour M. Türk, les avancées technologiques ne peuvent être dissociées des droits fondamentaux : leur développement, estime-t-il, doit rester soumis à des garde-fous permettant de préserver le contrôle humain.

The post IA : l’ONU redoute une technologie qui pourrait échapper au contrôle humain first appeared on Rezo Nòdwès.