La surveillance numérique accentue les tensions entre technologie et droits humains
Les nouvelles pratiques de collecte de données et d'intelligence artificielle suscitent une défiance croissante envers les acteurs technologiques.
Les échanges du jour sur Bluesky révèlent une tension croissante autour de la place de la technologie dans la société, où la protection des données et la surveillance du travail sont devenues des sujets majeurs. Entre l'emprise grandissante des plateformes et les promesses parfois démesurées de l'intelligence artificielle, les voix s'élèvent pour réclamer un rééquilibrage entre pouvoir technologique et droits humains. Les débats illustrent une exigence de transparence et de contrôle, tant sur la collecte de données que sur l'usage de l'IA dans le monde professionnel.
La collecte de données et la surveillance : des frontières contestées
La récente décision du commissaire australien de la vie privée contre le collecte excessive de données par la plateforme 2Apply signale une prise de conscience sur les dérives des RentTech dans le contexte de la crise du logement. Les informations jugées inutiles, telles que le statut de citoyenneté ou la situation bancaire, accentuent le déséquilibre entre locataires et propriétaires, mettant en lumière la vulnérabilité des utilisateurs face à la technologie. Cette dynamique se retrouve également dans l'inquiétude provoquée par l'utilisation de logiciels de surveillance chez Meta, où même les employés expriment leur malaise face à la surveillance interne, soulignant le paradoxe d'une société qui prône l'innovation tout en piétinant la vie privée.
"Cela devient totalement incontrôlable. Si tout le monde quittait Meta pour d'autres entreprises qui ne pratiquent pas ce genre de choses, cela enverrait un message fort à toute l'industrie."- @serrata.org (13 points)
La question de l'accès à des informations sensibles s'étend aussi au secteur public, où le manifeste controversé de Palantir suscite des inquiétudes quant à son contrat avec le NHS britannique. Les critiques dénoncent la culture d'entreprise et la possibilité de voir des données citoyennes utilisées à des fins géopolitiques. Ces discussions sont alimentées par des débats sur l'avenir de Palantir dans le NHS, où la remise en cause du contrat traduit la défiance envers une société perçue comme opaque et intrusive.
"Ce manifeste ressemble aux divagations d'un super-vilain et provoque un profond malaise quant à la gestion des données publiques."- @hmforester.bsky.social (31 points)
Intelligence artificielle : promesses, risques et avenir du travail
Les usages de l'IA se multiplient, mais l'incertitude demeure quant à leurs répercussions sur le travail humain et la sécurité. L'annonce de Meta qui convertit les mouvements de souris en données pour entraîner ses modèles d'IA illustre une nouvelle étape dans la télémétrie comportementale, allant au-delà de la collecte traditionnelle. Cette démarche soulève des questions sur la finalité de ces technologies et sur le remplacement potentiel des employés par des systèmes automatisés.
"Meta transforme les clics et les mouvements de souris en données pour l'IA : la télémétrie comportementale devient la nouvelle norme, dépassant la collecte classique."- @24aiglobal.bsky.social (3 points)
La crainte de la perte de pouvoir des travailleurs face à l'IA se manifeste aussi dans l'appel de l'AFL-CIO à donner une voix aux salariés lors de l'introduction de nouvelles technologies. D'autres intervenants, comme Paris Marx, alertent sur le fait que le discours autour de l'IA sert souvent à masquer une volonté de dévaloriser les métiers et d'accroître la surveillance plutôt que de provoquer une véritable révolution technologique. Cette tendance est visible dans le développement de nouveaux agents IA capables de devenir experts dans tous domaines, qui promettent de rendre l'humain plus facilement remplaçable, tout en minimisant les conséquences sociales.
Enfin, la confiance envers les systèmes d'IA reste fragile, à l'image des incidents de sécurité chez Anthropic, où l'absence de preuves tangibles n'empêche pas la diffusion d'un sentiment de vulnérabilité. De même, les résultats de l'outil Mythos, qui a identifié 271 failles dans Firefox mais aucune qui ne soit détectable par un humain, illustrent la limite actuelle de l'IA dans la cybersécurité.
Transformer les conversations en actualités, c'est révéler l'air du temps. - Sara Meddeb