L’ONU met en garde contre le risque de l’intelligence artificielle générative pour les droits de l’homme
« L’IA générative a un potentiel immense, mais son exploitation à des fins purement politiques ou économiques peut manipuler, déformer et détourner l’attention », a déclaré Volker Turk à Genève, en Suisse. Turk a estimé que « sans garanties et réglementations adéquates, les systèmes d’IA pourraient se transformer en un monstre de Frankenstein des temps modernes ».
« Le modèle économique actuel des plateformes de médias sociaux alimente déjà la polarisation, l’extrémisme et l’exclusion. De nombreux pays s’efforcent d’enrayer ce phénomène », a déclaré M. Turk lors d’un forum sur les entreprises et les droits de l’homme. Bien que l’IA générative soit « extrêmement prometteuse », les droits de l’homme pourraient « en être les premières victimes », a déclaré le Haut-Commissaire des Nations unies aux droits de l’homme, cité par l’agence de presse France-Presse (AFP).
Turk a averti que l’exploitation de l’IA générative « à des fins purement politiques ou économiques » constitue une menace pour « le droit à la vie privée, la participation politique, la liberté d’expression et le droit au travail ». De telles menaces pourraient entraîner « des dommages qui compromettent les promesses des technologies émergentes » et avoir des conséquences imprévisibles.
« Il est de la responsabilité des gouvernements de s’unir pour éviter un tel scénario », a-t-il insisté. M. Turk a mis en évidence une autre menace, celle de la concentration croissante du pouvoir des entreprises et de « l’accumulation massive de richesses personnelles et d’entreprises entre les mains d’une poignée d’acteurs ».
« Dans certains cas, cela dépasse le poids économique de pays entiers », a-t-il déclaré, insistant sur le fait que lorsque « le pouvoir n’est pas encadré par la loi, il peut conduire à l’abus et à l’asservissement ». L’intelligence artificielle générative est une technologie qui permet de développer des tâches dans différents domaines, tels que l’écriture, l’imagerie, les données, la santé ou les affaires, sur la base de données préalablement saisies.
La technologie est apparue pour la première fois au public en novembre 2022, avec le lancement de ChatGPT par la société américaine OpenAI, mais elle s’est multipliée depuis, avec des applications telles que Gemini (Google), Copilot (Microsoft) ou Claude (Anthropic). Divers gouvernements et organisations ont mis en garde contre le danger d’utiliser l’IA générative sans règles, car elle repose sur des informations susceptibles de contenir des biais qui conditionnent les utilisateurs d’un point de vue politique, social et économique.
