IA et microciblage : Préserver la démocratie de la manipulation

Trois niveaux de profilage politique

La thèse décrit trois niveaux distincts d'utilisation des données dans le profilage politique :

1. Niveau 1 : Données personnelles générales – Cela implique des données démographiques de base comme l'âge, le code postal, le revenu estimé et l'historique de vote public. C'est similaire au marketing traditionnel et n'est pas intrinsèquement problématique.
2. Niveau 2 : Catégories spéciales de données – Cela inclut des informations très sensibles telles que l'origine raciale ou ethnique, les croyances religieuses, les données de santé et l'orientation sexuelle. Les campagnes les utilisent pour isoler et cibler des individus en fonction de traits identitaires fondamentaux, marquant une escalade significative.
3. Niveau 3 : Traits psychologiques et de personnalité – C'est identifié comme la menace principale. Les algorithmes analysent de vastes ensembles de données, y compris les « j'aime » sur les médias sociaux, les heures d'activité en ligne et même les données des capteurs portables, pour inférer des vulnérabilités émotionnelles profondes et des traits de personnalité à l'aide de modèles comme OCEAN (Ouverture, Conscience, Extraversion, Agréabilité, Névrosisme). Cela permet à l'IA de prédire comment les individus pensent et ressentent, contournant entièrement la délibération rationnelle.

La surpuissance de l'IA générative

L'IA générative exacerbe cette menace en créant des messages, images ou vidéos uniques et hyper-personnalisés en temps réel, conçus spécifiquement pour exploiter la vulnérabilité psychologique exacte d'un individu. Il ne s'agit pas d'une simple persuasion, mais d'une influence trompeuse, souvent invisible pour le grand public et l'individu ciblé, qui exploite des points de données subconscients pour inciter les électeurs sans qu'ils en aient conscience.

Préjudices sociétaux : Chambres d'écho et effet dissuasif

Cette manipulation individualisée entraîne de graves préjudices sociétaux. Les algorithmes alimentent les individus en informations qui déclenchent leur profil psychologique, créant des chambres d'écho et des bulles de filtre. Cette fragmentation signifie que les citoyens ne partagent plus la même réalité politique, sapant les fondements d'un choix démocratique éclairé. De plus, la surveillance constante engendre un effet dissuasif, où les individus s'autocensurent dans leurs comportements en ligne par crainte d'être profilés, supprimant ainsi une participation politique authentique.

Pourquoi les protections juridiques existantes échouent

Le Dr Luiz Silva, PhD soutient méticuleusement que les lois actuelles sur la protection des données et les lois électorales sont structurellement incapables de faire face à ces menaces modernes.

Les failles du RGPD : Fatigue du consentement et lacunes

Le RGPD britannique, bien que conçu pour protéger les données, repose fortement sur une approche centrée sur les droits individuels et sur le mécanisme du consentement éclairé. Cependant, les utilisateurs subissent une fatigue du consentement, acceptant souvent aveuglément les politiques de confidentialité. Les plateformes technologiques exploitent cela avec des dark patterns, des interfaces utilisateur conçues pour pousser les utilisateurs vers des choix qui profitent à la plateforme. Surtout, des lacunes comme les « intérêts légitimes » et l'« intérêt public » sont exploitées par les partis politiques pour justifier la collecte massive de données d'électeurs sans consentement explicite. De plus, l'application du RGPD est souvent trop lente pour empêcher la manipulation électorale ; les amendes imposées après une élection ne peuvent pas annuler le préjudice démocratique.

L'obsolescence du droit électoral

Le droit électoral britannique est critiqué pour être obsédé par les menaces du XXe siècle, régulant principalement les dépenses et l'accès traditionnel à la diffusion. À l'ère de l'IA, où des messages psychologiquement manipulateurs peuvent être générés et distribués à faible coût et de manière invisible, les limites de financement des campagnes sont inefficaces. Même les mises à jour récentes comme les mentions numériques obligatoires, qui exigent la transparence sur l'identité du payeur d'une publicité, ne parviennent pas à résoudre le problème central : savoir qui a payé pour une publicité manipulatrice n'en neutralise pas l'impact psychologique.

Un nouveau paradigme juridique : Le droit de ne pas être profilé

Pour combler ce vide, le Dr Luiz Silva, PhD propose la reconnaissance juridique formelle d'un « droit de ne pas être profilé » à des fins politiques.

Fondements dans le droit européen des droits de l'homme

Ce nouveau droit est construit en synthétisant les droits humains fondamentaux existants de la Convention européenne des droits de l'homme (CEDH) :

• Article 8 (Droit au respect de la vie privée et familiale) : La thèse soutient que la vie privée doit évoluer pour inclure l'autonomie cognitive, protégeant le sanctuaire mental intérieur de l'individu contre la modélisation algorithmique de la personnalité et des états émotionnels.
• Article 9 (Liberté de pensée, de conscience et de religion) : Cet article protège le forum internum, l'espace intérieur où les pensées se forment. Le profilage psychologique, en tant que forme de « lecture algorithmique de l'esprit », envahit cet espace, inférant des états psychologiques sans véritable consentement éclairé.
• Article 10 (Liberté d'expression, y compris le droit de recevoir des informations) : Les bulles de filtre algorithmiques, en restreignant le flux équitable et pluraliste d'informations basé sur des déclencheurs psychologiques, violent activement le droit d'un citoyen à recevoir des informations impartiales.

Justifier l'interdiction : Parole contre manipulation

La tension philosophique centrale – équilibrer ce nouveau droit avec la liberté d'expression d'un homme politique – est résolue en arguant que le droit de s'exprimer n'équivaut pas à un droit de manipuler. Le Dr Luiz Silva, PhD établit une analogie avec les droits à l'image existants dans le droit européen, comparant la collecte de données démographiques standard à un photographe prenant une photo publique. En revanche, le profilage psychologique basé sur l'IA est similaire à un paparazzi utilisant un téléobjectif puissant pour observer l'intérieur d'une maison privée – la technologie elle-même transforme l'acte d'observation en manipulation invasive, justifiant une contrainte légale.

Le principe de précaution : Protéger les écosystèmes démocratiques

Pour justifier une interdiction absolue du profilage psychologique, la thèse emprunte de manière innovante le principe de précaution au droit de l'environnement. Ce principe, invoqué comme « in dubio pro democracia » (dans le doute, en faveur de la démocratie), exige une action réglementaire contre un dommage potentiellement grave ou irréversible, même sans certitude scientifique totale. Le Dr Luiz Silva, PhD soutient que le profilage psychologique représente une menace grave et irréversible pour l'« écosystème de notre raisonnement démocratique ». Tout comme on n'attendrait pas que tous les poissons meurent avant d'interdire un produit chimique toxique, la société ne devrait pas attendre l'effondrement démocratique avant d'interdire l'IA psychologiquement manipulatrice.

Appliquer les nouvelles règles : « La démocratie par conception »

La thèse traduit ces arguments philosophiques en mécanismes juridiques pragmatiques à travers une proposition de loi britannique sur le profilage de 2024.

Niveaux d'interdiction

Cette loi intégrerait des règles directement dans le droit électoral britannique, contournant les limitations des lois sur les données axées sur la protection des consommateurs :

• Niveau 1 : Interdiction absolue – Une interdiction totale et non négociable du profilage de niveau 3 (traits psychologiques et de personnalité) à des fins politiques. Aucun consentement n'est possible, ce qui élimine le problème de la fatigue du consentement.
• Niveau 2 : Interdiction révocable – Pour le niveau 2 (catégories spéciales de données), une interdiction par défaut existe. Cependant, les individus pourraient renoncer à ce droit par un consentement strict, explicite, audité et spécifique à des fins particulières, préservant ainsi l'autonomie tout en empêchant l'exploitation.

Démocratie par conception et PPIA

Le moteur opérationnel de la loi est la démocratie par conception, ce qui signifie que les développeurs de logiciels, les plateformes de médias sociaux et les fournisseurs de technologies de campagne politique doivent intégrer des protections démocratiques directement dans l'architecture de leur code. Les systèmes doivent être structurellement et algorithmiquement incapables de traiter les traits psychologiques et de personnalité à des fins politiques.

L'application est renforcée par l'Évaluation d'Impact du Profilage Politique (EIPP). Avant qu'une stratégie basée sur les données ou un outil de ciblage politique ne puisse être déployé, un audit obligatoire et exhaustif doit être mené et approuvé par la Commission électorale, prouvant que le système n'est pas impliqué dans une manipulation psychologique interdite.

Sanctions renforcées et actions représentatives

La violation de ces interdictions deviendrait une infraction électorale explicite, entraînant des conséquences graves telles que la responsabilité pénale du personnel de campagne, l'annulation des résultats électoraux et des dommages réputationnels catastrophiques. Cela reconfigure fondamentalement les incitations pour les acteurs politiques. En outre, la loi propose d'autoriser les actions représentatives, permettant aux groupes de la société civile et aux ONG d'engager des actions en justice collectives contre le profilage illégal, contournant ainsi le défaut du RGPD qui repose sur les citoyens individuels pour mener des batailles technologiques massives.

Au-delà de la politique : Implications plus larges

Bien que centrés sur l'arène politique, les travaux du Dr Luiz Silva, PhD ont des implications plus larges et profondes. Si la société accepte que le profilage psychologique et le microciblage par l'IA violent intrinsèquement les droits humains fondamentaux dans le contexte politique, ce précédent pourrait se répercuter sur le monde commercial. La lutte pour protéger l'esprit politique pourrait être la première étape d'une lutte mondiale plus vaste pour une confidentialité psychologique totale à l'ère de l'IA. Cela pourrait entraîner des restrictions légales sur les algorithmes qui profilent les individus pour vendre des prêts hypothécaires à taux élevés, créer une dépendance aux médias sociaux ou inférer l'état de santé mentale à des fins d'assurance.

Cette feuille de route complète et radicale vise à faire sortir le droit électoral de l'ère de la diffusion pour l'ancrer dans le XXIe siècle, offrant un moyen pragmatique de reconquérir la souveraineté cognitive avant que les algorithmes n'obtiennent un contrôle encore plus grand sur nos choix.