Les signaux d’alarme se multiplient-ils dans le monde de l’intelligence artificielle ?
Résumé de l’article
Les mises en garde sur la sécurité et l’éthique formulées par des chercheurs quittant les entreprises d’intelligence artificielle interrogent les règles de développement de systèmes toujours plus puissants et l’identité de ceux qui les fixent.
L’article ne présente pas les démissions motivées par des critiques comme la preuve d’une catastrophe imminente et souligne l’absence de données complètes démontrant une accélération des départs à l’échelle du secteur.
Pour les agents capables d’agir, la sécurité doit être évaluée non seulement à partir des performances du modèle, mais aussi des autorisations limitées, de la validation humaine, de la détection des erreurs, de la réversibilité des actions et de la possibilité d’arrêter le système.
La marchandisation des informations privées, le transfert de valeur des créateurs de contenus originaux vers les plateformes et la dépendance à quelques fournisseurs d’infrastructures critiques sont analysés sous l’angle du féodalisme numérique et de la souveraineté technologique.
Le texte défend un optimisme prudent qui préserve les bénéfices de la technologie tout en renforçant les tests indépendants, la responsabilité effective des acteurs, la protection des salariés qui donnent l’alerte et un véritable contrôle humain.