Depuis plusieurs jours, une vague d’utilisateurs boycotte le célèbre robot conversationnel ChatGPT de l’entreprise Open AI. Ils se tournent vers son grand rival, Claude, mis au point par Anthropic. En cause : une entente avec le département de la Défense aux États-Unis qui met en lumière les risques de dérives de l’intelligence artificielle (IA). Explications.

D’où vient la controverse ?

La semaine dernière, un affrontement majeur a éclaté entre Anthropic et le gouvernement américain. Dans le cadre du renouvellement de leur entente, le Pentagone a demandé à Anthropic de pouvoir utiliser ses outils « à toutes fins légales », soit sans garantie de limite. Or, l’entreprise s’y est opposé, imposant deux lignes rouges à ne pas franchir : la surveillance de masse des citoyens et l’utilisation d’armes autonomes.

Le président Trump a alors qualifié Anthropic d’« entreprise de gauche radicale dirigée par des personnes qui n’ont aucune idée de ce qu’est le monde réel » et l’a bannie de faire affaire avec le gouvernement sur les enjeux de défense. Le Pentagone s’est depuis tourné vers Open AI, qui a quant à elle accepté de signer une entente, dont les détails ne sont toutefois pas publics.

Le cofondateur et p.d-g. d’Anthropic, Dario Amodei, a expliqué par après dans une note interne que l’échec d’en arriver à une entente avec le Pentagone était le fruit de son refus d’offrir au président Trump des « éloges qu’on réserverait à un dictateur ». Il s’est excusé par la suite lors d’une entrevue accordée au magazine britannique The Economist, mais a réitéré son intention de contester les sanctions devant les tribunaux.

Quelle est l’ampleur du boycottage ?

À la suite de l’entente entre Open AI et le gouvernement, le nombre de désabonnements de ChatGPT a grimpé en flèche. Un site Internet consacré au mouvement de boycottage estime que près de 2,5 millions d’utilisateurs auraient laissé tomber l’outil. De son côté, Claude en profite. Depuis plusieurs jours, celui-ci trône à la première place des applications les plus téléchargées dans l’Apple Store, devant ChatGPT.

Voulant tirer profit de ce mouvement, Claude indique même la marche à suivre pour importer le bagage d’informations d’un autre fournisseur vers son interface. « Vous avez passé des mois à expliquer votre façon de travailler à une autre IA. Ce contexte ne devrait pas disparaître simplement parce que vous voulez essayer quelque chose de nouveau », écrit Claude sur son site.

Il est encore trop tôt pour mesurer les conséquences financières de ce boycottage. ChatGPT aurait environ 900 millions d’utilisateurs actifs , contre quelque 20 millions pour Claude. Cela dit, Anthropic tirerait environ 80 % de ses revenus de ses clients corporatif, tandis qu’OpenAI dépendrait plutôt des utilisateurs non corporatifs pour engranger la majorité de ses revenus, selon le site spécialisé Visual Capitalist.

Quels sont les risques de dérives liés à l’entente avec le Pentagone ?

« Le risque principal est un glissement progressif de l’utilisation de l’IA : de l’assistance vers l’automatisation », soulève Karim Jerbi, directeur du Centre de recherche québécois en neuroscience et en intelligence artificielle.

Suite au tollé suscité par son entente avec le Pentagone, Open AI a indiqué qu’elle avait obtenu certaines garanties concernant un usage éthique de ses outils. Mais M. Jerbi y voit plutôt une tentative de sauver sa réputation « pour éviter de perdre plus d’utilisateurs ». L’expert déplore d’ailleurs le fait que « des technologies extrêmement puissantes sont actuellement déployées dans le domaine militaire, alors qu’aucun cadre juridique international clair n’a encore été établi pour en encadrer l’usage ».

Selon lui, le Canada — en sa qualité de leader dans le domaine — pourrait contribuer à l’élaboration d’un tel cadre. « Si nous ne fixons pas rapidement des règles claires, ce ne sera pas l’éthique qui guidera l’usage de l’IA militaire, mais la logique du profit et de la compétition géopolitique », fait valoir l’expert.

Le p.-d.g. d’Anthropic lui-même a affirmé que l’IA était trop puissante pour être contrôlée en totalité par des entreprises privées ou les gouvernements.

Claude est-il plus éthique que ChatGPT ?

« Les systèmes comme Claude ou ChatGPT sont technologiquement très comparables, avec des différences relativement modestes dans leur fonctionnement. La véritable question éthique concerne surtout les usages qui sont faits de ces outils », plaide M. Jerbi.

Martin Gibert, chargé de cours en éthique de l’intelligence artificielle à l’UQAM et à l’Université de Montréal, rappelle toutefois que l’éthique est une des raisons d’être d’Anthropic, fondée par des anciens d’OpenAI qui ont fait défection à cause de préoccupations liées à la sécurité.

« D’un point de vue purement marketing, c’est plutôt un bon coup » de tenir tête au Pentagone, estime M. Gibert. « [Anthropic] se positionne comme une entreprise indépendante du pouvoir, qui est capable de refuser quelque chose au gouvernement Trump. »

Cela dit, il serait prématuré de statuer si, dans la pratique, une des deux entreprises est plus éthique que l’autre, nuance le philosophe.