« Aux États-Unis, Meta a conclu avec une cinquantaine d‘États un accord mettant fin aux procédures engagées contre l’entreprise, accusée d’avoir conçu des produits addictifs nuisant à la santé mentale des adolescents. Un accord similaire a été conclu entre TikTok et l’Alabama. Des règles de base ont été fixées, mais on peut légitimement se demander si ces fonctionnalités, supposées protéger les adolescents, sont suffisantes. La limite de deux heures par jour, par exemple, devrait sans doute être plus stricte, peut-être une heure. La suspension des notifications pendant les heures de classe soulève une autre question : les enfants devraient-ils avoir accès aux réseaux sociaux le soir ? Et le blocage nocturne, de minuit à 6 heures, ne va-t-il pas perturber leur sommeil si des notifications continuent d’arriver tard le soir ? Ces questions ne sont pas tranchées. Il faut y réfléchir de manière plus créative et plus globale. »

« Dans la plupart des aspects de notre vie, ce ne sont pas uniquement les réglementations gouvernementales ou les poursuites judiciaires qui garantissent notre sécurité : c’est la concurrence. Vous choisissez entre deux voitures celle qui a le meilleur niveau de sécurité ; ce devrait être pareil pour les réseaux sociaux. L’un des principaux moyens de les pousser à s’améliorer, c’est de disposer d’indicateurs de santé publique.

« Il n’y a pratiquement aucun autre secteur où l’on tolère que des personnes meurent »

L’ancien directeur de l’ingénierie de Meta, Arturo Bejar, lanceur d’alerte de premier plan, milite avec acharnement - et je le soutiens - pour que les gouvernements du monde entier interrogent les jeunes avec des questions comme : "As-tu reçu un message à caractère sexuel non sollicité sur telle plateforme ? As-tu été victime de harcèlement ? As-tu vu du contenu lié aux troubles alimentaires ?" Posées sur Facebook à 100 000 enfants aux États-Unis, ces questions ont révélé qu’une fille sur huit âgée de 13 à 15 ans avait reçu un message à caractère sexuel non sollicité au cours des sept derniers jours, et que 2 % en avaient reçu au moins dix. Disposer de tels indicateurs incite les plateformes à s’améliorer réellement et permet aux utilisateurs de choisir, par exemple, entre Snapchat et Facebook, ou entre TikTok et Instagram, la plus protectrice. »

« Il y a une certaine indifférence dans leur façon d’aborder les dommages réels causés à de vraies personnes. Quand on leur présente des informations sur des enfants maltraités, au lieu de se demander sans cesse comment réduire les dommages tout en préservant les aspects positifs, leurs dirigeants répondent : "On ne fait pas d’omelette sans casser des œufs", ou : "Personne ne nous reconnaît le mérite de tout le bien que nous faisons." Mais il n’y a pratiquement aucun autre secteur où l’on tolère que des personnes meurent. Sur la route, on essaie constamment de réduire le nombre d’accidents ! »

« Ce que nous constatons aujourd’hui, c’est que les grandes entreprises d’IA, comme Anthropic, ont formulé il y a quelques semaines les mêmes demandes que moi : "Nous avons besoin d’observateurs indépendants intégrés à nos entreprises, avec un accès complet aux données." Il faut faire en sorte qu’aucune entreprise ne soit désavantagée pour avoir été la première à le mettre en place : nous avons donc besoin d’une loi qui fixe un cadre commun. Si les entreprises de médias sociaux avaient eu ce cadre il y a quinze ans, nous n’aurions pas constaté les mêmes dommages liés à l’usage de leurs plateformes. »

« On s’est un peu laissé distraire par les grands discours du type "l’humanité va disparaître", et on ne parle pas assez des problèmes concrets et immédiats. Les compagnons virtuels basés sur l’IA destinés aux enfants, par exemple, sont un sujet de préoccupation important : ils ne diront jamais "tu es déraisonnable, tu te trompes, tu es ennuyeux". Je m’inquiète des mêmes phénomènes que ceux que les réseaux sociaux ont rendus possibles.

« Une illusion d’intimité qui ne fait que nous piéger »

L’IA menace de nous isoler socialement bien plus qu’aucune technologie avant elle. Elle peut donner une illusion d’intimité - on peut avoir de longues conversations avec elle -, mais cela ne fait que nous piéger. Pas besoin de fantasmer sur une IA qui s’échapperait pour détruire l’humanité : si on ne s’adresse plus qu’à elle, en une ou deux générations, on n’a plus d’avenir. »

« Il faut rappeler à tous que, même face à une entreprise valant des milliers de milliards de dollars, nos décisions et nos actions comptent. Et il y a du bonheur au bout du chemin : même si les épreuves prennent du temps, elles sont gratifiantes. Dans ce monde où les enjeux sont immenses en raison de ce que la technologie peut apporter à nos vies, nous devons rappeler que préserver l’élément humain est plus important que jamais. »

« Nous traquions activement des acteurs étatiques comme la Chine, l’Iran ou la Corée du Nord, qui piratent les comptes ou téléphones d’utilisateurs. Je ne savais donc pas s’ils me traquaient à leur tour. Des amis travaillant dans la cybersécurité m’avaient dit de partir du principe que tout était compromis. Je ne savais vraiment pas à qui faire confiance, ni quel cercle restreint de relations je devais maintenir.

« Je ne pouvais pas échouer, je devais ouvrir cette boîte de Pandore »

C’est pour ça qu’on se retrouvait dans un parc, au milieu de nulle part, pour être sûrs qu’il n’y avait ni micros ni caméras de surveillance, comme partout en ville. Je savais que si quelqu’un découvrait ce que je faisais, toutes les portes se fermeraient. L’enjeu était très élevé : je me disais que s’il y avait la moindre chance de faire sortir des informations, je ne devais pas me faire prendre. Je ne pouvais pas échouer, je devais ouvrir cette boîte de Pandore. »

« Des avocats m’ont très clairement expliqué que je ne devrais jamais conseiller à qui que ce soit de dénoncer ou de faire fuiter des irrégularités, car cela m’expose à des poursuites. Mais si je pouvais remonter le temps, la première chose que je ferais différemment, ce serait de repérer quelqu’un qui fait ce que j’ai fait. Le meilleur moyen de ne pas se faire prendre, c’est de se fondre dans la masse, d’avoir l’air aussi normal que possible. Il n’y a aucun moyen de le détecter. Et en intégrant cela sur une longue période, comme je l’ai fait, on peut sans doute extraire encore plus de documents que ce que j’ai réussi à faire. »

« C’était stressant sur le moment. En même temps, je n’avais pas vraiment le temps de réfléchir à ce que je faisais. Je me souviens qu‘à certains moments, la situation est devenue très tendue, j’étais dans l’urgence. J’avais l’impression de vivre au cœur de l’histoire. Et je n’avais qu’une seule chance : pas de seconde chance. »