Les systèmes de recommandation n'ont pas toujours été aussi sophistiqués. Leur évolution révèle une course à l'exploitation de l'attention, où chaque clic est analysé pour prédire votre prochaine faiblesse.
Les chercheurs du site de films MovieLens développent les premiers systèmes qui suggèrent un contenu basé sur les préférences d'utilisateurs similaires. L'idée est naïve et bienveillante : vous avez aimé cela, d'autres comme vous ont aimé ceci. Il n'y a encore aucune notion de temps, de contexte émotionnel ou de vulnérabilité personnelle dans l'équation.
Le concours offre un million de dollars à qui améliorera ses prédictions de 10%. L'objectif devient clair : prédire ce que vous regarderez, pas ce que vous aimeriez découvrir. Les équipes s'affrontent sur des millions de données, et la notion de surprise cède le pas à celle de rétention. Vous devez rester, coûte que coûte.
Les réseaux de neurones permettent d'analyser non plus seulement ce que vous avez acheté, mais quand, depuis quel appareil, après quelle recherche, et après combien de secondes d'hésitation. Chaque micro-comportement devient un signal. Les plateformes commencent à comprendre que vous n'êtes pas un client, vous êtes un moment.
Les applications commencent à envoyer des alertes basées sur votre localisation, l'heure, et même votre niveau d'activité. Un email promotionnel arrive à 20h, quand votre montre connectée signale que vous êtes assis depuis une heure. La frontière entre suggestion et manipulation s'efface progressivement.
Le concept de dark patterns, ces interfaces conçues pour tromper, est formalisé par le chercheur Harry Brignull. On découvre que les boutons de désabonnement sont cachés, que le compte à rebours artificiel crée l'urgence, et que les recommandations exploitent délibérément les biais cognitifs. L'industrie sait ce qu'elle fait.
Les systèmes actuels croisent votre historique d'achat avec la vitesse de votre scrolling, la fréquence de vos retours en arrière, et même les mots que vous tapez. Ils détectent la fatigue, l'ennui, la frustration. Un utilisateur fatigué voit apparaître des produits réconfortants. Un utilisateur anxieux reçoit des offres de solutions rapides.
Des utilisateurs commencent à désactiver les notifications, à utiliser des navigateurs qui bloquent le suivi, et à interroger leurs propres habitudes. La question n'est plus technique, elle est existentielle : qui contrôle qui ? Vous l'algorithme, ou l'algorithme vous ? La réponse dépend de votre vigilance.
