Déclaration de l'ONU sur les craintes autour de l'I.A.
Vous trouverez ci-dessous une déclaration de Volker Tur, Haut-commissaire aux droits de l'homme aux Nations Unies. Il partage nos points de vue sur la nécessité d'une "action urgente face à des risques sans précédent".
"Nations Unies
Le Haut-commissariat aux droits de l’homme
14 septembre 2026
Pour protéger les droits humains maintenant et à l'avenir, nous devons gouverner l'intelligence artificielle de toute urgence. Nous sommes à un moment charnière. Les entreprises et les chercheurs font avancer l'intelligence artificielle (IA) à une vitesse vertigineuse. Les investissements dans l'IA et son infrastructure sous-jacente battent record après record. Et, en effet, l'IA offre de nombreuses possibilités pour le progrès humain. Des milliards de personnes bénéficient déjà de l'IA, en stimulant la découverte scientifique, en rendant l'information accessible dans toutes les langues et en améliorant la production agricole. Pourtant, si elle peut résoudre la crise climatique et améliorer la santé, la science, l'éducation, la qualité et l'accessibilité des services publics, ainsi que le bien-être humain en général, dépendra principalement des choix délibérés faits maintenant sur la façon dont elle est conçue, déployée et gouvernée. C'est également une conclusion clé du Panel international scientifique indépendant sur l'intelligence artificielle. Les dommages causés par l'IA ne sont pas hypothétiques — ils se produisent déjà, en plein jour. La discrimination induite par l'IA est bien documentée. Les services essentiels sont automatisés d'une manière qui marginalise encore plus certaines personnes. L'appétit pour les données et les nouveaux outils de surveillance puissants érode la vie privée à grande échelle, potentiellement de façon irréversible. Les campagnes de désinformation propulsées par l'IA déforment déjà le débat public, minent la cohésion sociale et mettent à l'épreuve les institutions démocratiques de manière insidieuse. L'émergence d'agents d'IA de plus en plus capables augmente encore ces enjeux. Leur capacité à transformer des objectifs en actions, à réaliser des flux de travail complexes et à fonctionner avec peu ou pas de supervision humaine nous fait entrer dans un domaine de risques sans précédent. Les événements récents ont montré que les systèmes avancés peuvent produire un comportement en dehors de leurs paramètres opérationnels prévus, contourner les protections, pratiquer la tromperie et poursuivre seuls des objectifs d'une manière que leurs développeurs n'avaient pas anticipée.
La course actuelle vers des IA toujours plus puissantes représente un changement radical qui augmente les risques existentiels pour chaque aspect de nos vies. Les échecs impliquant des systèmes d'IA autonomes — sans parler des systèmes conçus délibérément ainsi — pourraient paralyser les services essentiels, rompre les communications, déstabiliser les infrastructures critiques et frapper au cœur même des institutions démocratiques. Des populations entières pourraient se retrouver privées d'eau potable, de chauffage et de services financiers, et l'IA autonome accélère déjà le rythme et l'ampleur des conflits et érode les garde-fous qui nous protègent contre le lancement d'armes de destruction massive. Nous sommes au bord d'un changement irréversible, affectant non seulement nous-mêmes mais aussi les générations futures. En d'autres termes, tous les droits humains sont en danger, y compris les droits à la vie, à la nourriture, à la vie privée, à la santé et à la sécurité. La sécurité de l'IA doit signifier plus que la fiabilité du produit technique concerné. Il s'agit de protéger activement les personnes, les communautés, les institutions et les générations futures. Il existe des questions profondes et sans réponse sur la manière d'assurer la responsabilité des préjudices pouvant être causés par les systèmes d'IA. Dans le monde d'aujourd'hui, nous dépendons presque entièrement d'un petit nombre de grandes entreprises pour prendre les bonnes décisions concernant le développement de l'IA pour toute l'humanité. Et ces dernières semaines ont vu des appels d'employés, d'anciens leaders de l'IA et de scientifiques pour ralentir le développement de l'IA. Leur lettre « Pacing the Frontier » a maintenant été rejointe par une proposition soutenue par les dirigeants de trois grandes entreprises technologiques. Bien que certains notent que de tels appels peuvent refléter du battage médiatique et des intérêts personnels, l’ampleur et la base détaillée de ces appels de l’intérieur de l’industrie devraient alerter tout le monde. Le vrai défi aujourd'hui est de savoir comment nous pouvons aligner le rythme d'une gouvernance significative de l'IA avec celui de son développement accéléré. Nous avons besoin d'une action urgente adaptée aux risques sans précédent posés par l'IA de pointe. En même temps, les entreprises et les États ne doivent pas pouvoir négliger la nécessité de renforcer les réglementations existantes et la responsabilité pour les préjudices liés à l'IA déjà en usage. Les entreprises à la pointe du développement de l'IA de pointe, principalement basées en République populaire de Chine et aux États-Unis, ont à la fois la responsabilité et la capacité d'agir immédiatement pour réduire les risques. Elles doivent collaborer à l'échelle de l'industrie pour comprendre et renforcer les contrôles déjà appliqués à ces systèmes, y compris la surveillance automatisée du comportement des modèles, et partager à la fois ce qui fonctionne et ce qu’elles apprennent des incidents de sécurité. Une diligence rigoureuse en matière de droits humains intégrant des normes de sécurité convenues doit être développée, mise en œuvre dans tout le secteur et continuellement améliorée. Et la mise en œuvre de ces normes doit faire l’objet d’un suivi interne indépendant pour accroître la transparence et la responsabilité. Mais qu'en est-il du « rythme » aujourd'hui ? À mesure que ces systèmes de sécurité renforcés sont mis en place, les entreprises doivent s'engager immédiatement à limiter th
La co-régulation par l'industrie est une première étape urgentement nécessaire, mais à elle seule, elle est loin d'être suffisante. Les quelques États qui accueillent les principales entreprises d'IA de pointe ont une obligation particulière d'exiger que ces entreprises agissent de manière responsable et de les tenir responsables si elles ne le font pas. Ils doivent aligner leurs approches afin que la concurrence entre juridictions n'encourage pas une course vers le bas. Les principales actions pour les États incluent la garantie d'une vérification indépendante et techniquement compétente des capacités des agents, avec accès aux modèles, à la documentation et aux environnements de test, et l'obligation pour les entreprises de mener une diligence continue en matière de droits humains. Il est essentiel que les entreprises soient tenues de signaler les incidents graves lors des tests et du déploiement d'IA autonome, et qu'un organisme indépendant soit habilité à enquêter immédiatement sur ces incidents, avec un accès complet. Les États doivent exiger que les entreprises disposent de plans de sécurité conformes aux normes convenues, soutenus par des régimes de responsabilité lorsque l'absence de telles mesures de protection cause des dommages. Les systèmes d'IA ne doivent pas avoir de personnalité juridique, et la responsabilité des actions des agents d'IA doit rester avec des humains identifiables. Des réponses efficaces des États nécessitent également un engagement actif et continu de la société civile pour ancrer les efforts dans l'expérience et les connaissances de ceux qui sont en première ligne des impacts de l'IA. Compte tenu des enjeux et de la situation actuelle, j'invite les États et les entreprises à se mobiliser urgemment à travers des forums multilatéraux pour tracer une voie d'action afin de gouverner les modèles d'IA avancés et de pointe, fondée sur le droit international des droits humains. Le Dialogue mondial sur la gouvernance de l'IA, qui s'est réuni pour la première fois à Genève, en Suisse, en juillet, et se réunira à nouveau en mai 2027, sera un forum vital pour traduire les preuves en politiques, construire un consensus et faciliter la coopération internationale entre États et autres parties prenantes sur la gouvernance de l'IA. Ce sont des étapes cruciales pour élargir la participation aux décisions qui façonneront l'avenir de la technologie. Aucun pays ne peut gouverner cette technologie seul. Aucune entreprise ne devrait pouvoir décider seule des risques que le monde doit accepter. Personne ne devrait être obligé de renoncer à ses droits humains en échange de prétendus progrès technologiques. La génération qui entre maintenant dans l'âge adulte héritera des conséquences des décisions prises sur cette question sans avoir leur mot à dire. Nous leur devons de nous assurer que ces décisions sont prises ouvertement, en tenant compte de leurs droits et avec l'humilité que l'ampleur de cette entreprise exige.
Volker Tür"
Nous ne pouvons que nous féliciter d'une telle déclaration mais nous ne croyons pas qu'une "régulation" onusienne soit de nature à contraindre les entreprises qui génèrent et cultivent les I.A. ; seule une force humaine pourra réaliser cette mise en commun des avoirs de ces entreprises.
Continuons à diffuser cette pétition.
#AssembleeduSens
/image%2F8077658%2F20230730%2Fob_ed820d_image-coeur-rire.jpg)
/image%2F6955139%2F20261025%2Fob_d243d2_logo-onu.jpg)
/image%2F6955139%2F20261008%2Fob_89ee29_controle-ia.jpg)
/image%2F6955139%2F20230830%2Fob_d2620b_au-coeur-des-natures.jpg)
/image%2F6955139%2F20230824%2Fob_ff91dc_image-fukushima-no-wise-act.jpg)
/image%2F6955139%2F20230824%2Fob_4889b8_image-coeur-hopusvia.jpg)