IA devant les juridictions · États-Unis · D. Minn. · 10 janvier 2025 · Publié le
États-Unis — Kohls v. Ellison (D. Minn., 10 janvier 2025) : exclusion d’une déclaration universitaire sur les deepfakes contenant des citations hallucinées par GPT-4o et devoir de vérification des avocats (Rule 11)
Rendue le 10 janvier 2025 par la juge fédérale Laura M. Provinzino devant le tribunal fédéral du district du Minnesota (Kohls v. Ellison, Case No. 0:24-cv-03754-LMP-DLM, Doc. 46), l’ordonnance statuant sur la recevabilité des attestations universitaires produites dans le contentieux constitutionnel de la loi du Minnesota réprimant les « deepfakes » politiques (Minn. Stat. § 609.771) restera comme l’une des illustrations les plus saisissantes du risque d’hallucination algorithmique devant les juridictions. Pour défendre la constitutionnalité de cette loi face au Premier Amendement, le procureur général du Minnesota, Keith Ellison, avait produit la déclaration sous serment du professeur Jeff Hancock, directeur du Social Media Lab de l’Université Stanford et chercheur reconnu sur la désinformation liée à l’IA — laquelle comportait deux citations d’articles académiques purement inexistants et l’attribution erronée d’un troisième article, générées par GPT-4o lors de la rédaction du document. Soulignant « l’ironie » de la situation, la juge Provinzino écarte intégralement la déclaration pour perte de crédibilité sous serment, rejette la demande de dépôt d’une déclaration rectificative hors délai et avertit les avocats que leur responsabilité personnelle et non délégable au titre de la Federal Rule of Civil Procedure 11(b) leur commande désormais de vérifier si les auteurs d’attestations produites au dossier ont recouru à l’IA générative.

Sommaire de l’article
- L’essentiel de la décision
- Une contestation de la loi du Minnesota sur les deepfakes électoraux (Minn. Stat. § 609.771) devant le juge fédéral
- « L’ironie » d’un chercheur en désinformation piégé par les hallucinations académiques de GPT-4o
- L’extension du devoir de vérification de la Rule 11(b) aux attestations de témoins et chercheurs produites par les avocats
- La sanction probatoire : perte irrémédiable de crédibilité, exclusion intégrale et rejet de toute régularisation
- Tableau comparatif
- Sources
01
L’essentiel de la décision
- Le paradoxe d’une hallucination GPT-4o au cœur d’un litige sur les deepfakes (Doc. 46, pp. 2-3, 7-8) : appelé par le procureur général du Minnesota à éclairer le tribunal sur les dangers des trucages numériques électoraux (Minn. Stat. § 609.771), le professeur Jeff Hancock (Université Stanford) a utilisé GPT-4o pour rédiger sa déclaration sous serment et y a inséré sans vérification deux études académiques inexistantes et une troisième aux auteurs erronés.
- Rupture du lien de confiance attaché aux déclarations signées « sous peine de parjure » (under penalty of perjury, pp. 8, 10-11) : même en l’absence d’intention de tromper et même si les thèses de fond demeurent défendues par leur auteur, l’insertion de références fabriquées par IA dans un acte signé sous la foi du serment « brise la crédibilité » du déclarant devant le juge.
- Exclusion totale de la déclaration viciée et refus d’une déclaration rectificative tardive (pp. 10-12) : contrairement à la déclaration du professeur Jevin West (Université de Washington), jugée fiable et recevable (pp. 5-7), la déclaration Hancock est intégralement écartée au stade de l’injonction préliminaire (Fed. R. Evid. 702 et Daubert), et la requête de l’État tendant à déposer une version corrigée pour « négligence excusable » est rejetée.
- Devoir personnel et non délégable des avocats au titre de la Rule 11(b) sur les pièces de tiers (Pavelic & LeFlore v. Marvel, p. 9-10) : bien que les conseils du procureur général aient ignoré l’usage de GPT-4o par l’universitaire, la juge rappelle que la Federal Rule of Civil Procedure 11 impose aux avocats de valider la véracité des écrits déposés et « peut désormais exiger des avocats qu’ils demandent à leurs témoins s’ils ont utilisé l’IA pour rédiger leurs déclarations et ce qu’ils ont fait pour vérifier tout contenu généré par l’IA ».
- Distinction méthodologique entre recherche assistée par IA et abdication de l’esprit critique (pp. 8-9) : le tribunal ne condamne pas le recours à l’IA comme outil de recherche documentaire, mais sanctionne l’abandon du contrôle critique et de la vérification des sources qui gaspille le temps des parties et du juge et porte atteinte à la réputation de l’institution judiciaire (Mata v. Avianca, Park v. Kim, Kruse v. Karlan, Morgan, Dukuray).
02
Une contestation de la loi du Minnesota sur les deepfakes électoraux (Minn. Stat. § 609.771) devant le juge fédéral
Le litige au principal opposait un créateur de contenus politiques satiriques (Christopher Kohls) et une élue de la Chambre des représentants du Minnesota (Mary Franson) au procureur général de l’État du Minnesota, Keith Ellison, ainsi qu’au procureur du comté de Douglas (Chad Larson). Les demandeurs contestaient, sur le fondement de la liberté d’expression garantie par le Premier Amendement de la Constitution des États-Unis, la loi pénale adoptée par le Minnesota (Minn. Stat. § 609.771) réprimant la diffusion de trucages numériques (« deepfakes ») réalisée dans l’intention de nuire à un candidat ou d’influencer le scrutin, et sollicitaient une injonction préliminaire suspendant l’application du texte (Doc. 46, pp. 1-2).
Au soutien de son mémoire en défense contre la demande d’injonction préliminaire, le bureau du procureur général Ellison a versé aux débats deux déclarations techniques sous serment émanant d’universitaires renommés dans l’étude de la désinformation numérique (p. 2) : d’une part, celle du professeur Jevin West, directeur du Center for an Informed Public à l’Université de Washington (ECF No. 24) ; d’autre part, celle du professeur Jeff Hancock, professeur de communication à l’Université Stanford et directeur du Stanford Social Media Lab (ECF No. 23). Or, en vérifiant les notes de bas de page de ces deux documents, les conseils des demandeurs ont découvert que la déclaration du professeur Hancock invoquait deux articles scientifiques purement introuvables et attribuait faussement les auteurs d’une troisième étude, les conduisant à demander par requête (ECF No. 29) l’exclusion des deux déclarations (pp. 2-3).
03
« L’ironie » d’un chercheur en désinformation piégé par les hallucinations académiques de GPT-4o
Alerté par les services du procureur général, le professeur Hancock a reconnu dans une déclaration explicative complémentaire (ECF No. 39) avoir utilisé le modèle génératif GPT-4o pour l’assister dans la rédaction de son attestation et avoir laissé passer, lors de sa relecture, deux références bibliographiques entièrement fabriquées par l’outil ainsi qu’une citation aux auteurs inexacts (pp. 2-3, 7-8). Le procureur général Ellison a aussitôt présenté ses excuses à la cour en affirmant que ses services ignoraient tout du recours à l’IA par le chercheur, et a sollicité l’autorisation de déposer hors délai une déclaration rectificative expurgée des fausses citations sur le fondement de la « négligence excusable » (excusable neglect, ECF No. 34, p. 3).
Après avoir admis la déclaration du professeur West — dont la méthodologie et la crédibilité demeuraient intactes au regard du standard assoupli applicable au stade de l’injonction préliminaire (Univ. of Tex. v. Camenisch, 451 U.S. 390 ; Fed. R. Evid. 702 et Daubert v. Merrell Dow Pharms., pp. 3-7) —, la juge Laura M. Provinzino consacre une motivation sévère à la déclaration Hancock (pp. 7-12). « Quelle ironie » (« The irony »), écrit-elle en ouverture de la page 8 : un universitaire reconnu sur les dangers de l’IA et de la désinformation « a succombé au chant des sirènes d’une confiance excessive dans l’IA — dans une affaire qui porte précisément sur les dangers de l’IA, qui plus est ». La magistrate relève qu’il est particulièrement préoccupant que le déclarant ait admis utiliser habituellement un logiciel de validation bibliographique lorsqu’il rédige des articles académiques, mais s’en soit dispensé avant de signer une déclaration en justice « sous peine de parjure » (under penalty of perjury), alors même qu’un acte produit devant une juridiction exige une diligence encore supérieure à celle d’une publication universitaire (p. 8).
04
L’extension du devoir de vérification de la Rule 11(b) aux attestations de témoins et chercheurs produites par les avocats
Tout en soulignant qu’elle ne reproche nullement l’utilisation de l’IA à des fins de recherche préparatoire — technologie susceptible d’améliorer l’accès au droit et la pratique professionnelle —, la juge Provinzino rappelle avec force que lorsque les avocats et les déclarants abdiquent leur jugement indépendant et leur esprit critique au profit de réponses prêtes à l’emploi générées par IA, la qualité du débat judiciaire et le processus décisionnel de la cour s’en trouvent altérés (pp. 8-9). Joignant sa voix au « chœur croissant des juridictions à travers le pays » (en citant Mata v. Avianca, 678 F. Supp. 3d 443 ; Park v. Kim, 91 F.4th 610 ; et Kruse v. Karlan, 692 S.W.3d 43), elle formule la règle cardinale : « vérifiez le contenu généré par l’IA dans les productions judiciaires ! » (p. 9).
Surtout, l’ordonnance apporte une précision capitale quant à la responsabilité propre des avocats qui versent aux débats des attestations, rapports ou déclarations rédigés par des tiers (pp. 9-10). Tout en prenant acte de la bonne foi et des excuses des conseils du procureur général, la cour leur rappelle qu’en vertu de l’arrêt de la Cour suprême Pavelic & LeFlore v. Marvel Entertainment Group (493 U.S. 120, 126-127 (1989)), la Federal Rule of Civil Procedure 11 impose au signataire des écritures une « responsabilité personnelle et non délégable de valider la véracité et le caractère raisonnable des pièces déposées ». Dès lors, juge-t-elle aux pages 9 et 10, « une vérification raisonnable au regard des circonstances, au sens de la Fed. R. Civ. P. 11(b), peut désormais exiger des avocats qu’ils demandent à leurs témoins s’ils ont utilisé l’IA pour rédiger leurs déclarations et ce qu’ils ont fait pour vérifier tout contenu généré par l’IA ».
05
La sanction probatoire : perte irrémédiable de crédibilité, exclusion intégrale et rejet de toute régularisation
Enfin, statuant sur le sort de la déclaration litigieuse, la juge Provinzino écarte la thèse du procureur général selon laquelle les propositions de fond du professeur Hancock demeuraient exactes après simple suppression des références fictives (pp. 8, 10-12). Elle juge que la citation de sources fabriquées par IA — malgré les explications ultérieures du déclarant — « brise sa crédibilité auprès de cette Cour » (« shatters his credibility with this Court », p. 10). La formule légale « sous peine de parjure » n’est pas une simple formalité de style : elle confère à l’écrit un indice de véracité sur lequel le juge doit pouvoir compter sans avoir à contrôler lui-même l’existence matérielle de chaque publication citée (pp. 10-11).
Rappelant avec les décisions Morgan v. Community Against Violence (D.N.M. 2023) et Dukuray v. Experian Information Solutions (S.D.N.Y. 2024) que les citations fictives font perdre du temps et de l’argent à la partie adverse, mobilisent indûment les ressources du tribunal et nuisent à la crédibilité du système judiciaire, la juge refuse de faire moindre concession pour un déclarant universitaire que pour un avocat ou un plaideur (pp. 11-12). En conséquence, la déclaration du professeur Hancock est intégralement exclue des débats sur l’injonction préliminaire et la requête du procureur général tendant à déposer une déclaration amendée est rejetée comme sans objet (Doc. 46, p. 12).
06
Tableau comparatif
| Question procédurale | Constat factuel et juridique du tribunal | Sanction et règle de pratique dégagée |
|---|---|---|
| Origine des hallucinations (Déclaration Hancock, ECF No. 23) | Recours à GPT-4o par un professeur de Stanford pour rédiger une déclaration sous serment sur les deepfakes : 2 articles académiques fictifs et 1 attribution erronée | Contraste souligné par le juge avec l’usage habituel d’un logiciel de vérification bibliographique pour les articles universitaires (pp. 2-3, 7-8) |
| Moyen tiré de la bonne foi et de l’exactitude substantielle | Le déclarant et le procureur général soutenaient que l’erreur était involontaire et que les thèses générales sur les deepfakes restaient exactes | Rejeté : signer une déclaration « sous peine de parjure » (under penalty of perjury) avec de fausses sources brise la confiance et la crédibilité du déclarant (pp. 8, 10-11) |
| Sort de la déclaration viciée et de la requête en régularisation | Demande d’exclusion des demandeurs (ECF No. 29) contre requête du défendeur aux fins de dépôt d’une déclaration amendée hors délai (ECF No. 34) | Exclusion intégrale de la déclaration Hancock (tandis que la déclaration West, exempte d’erreurs, est admise) et rejet de la requête en régularisation (pp. 5-7, 10-12) |
| Responsabilité des avocats produisant l’attestation d’un tiers | Les conseils du procureur général ignoraient que l’universitaire avait utilisé GPT-4o lors de la rédaction de son attestation | Rappel de la responsabilité personnelle et non délégable de la Fed. R. Civ. P. 11(b) (Pavelic & LeFlore) : devoir d’interroger les témoins sur leur usage de l’IA et leurs vérifications (pp. 9-10) |
| Transposition à la pratique du contentieux en France et en Europe | Production d’attestations de témoins (art. 202 CPC), de consultations doctrinales ou de notes techniques annexées aux conclusions | Nécessité pour l’avocat de recueillir une confirmation écrite d’absence d’citations IA non vérifiées auprès de tout tiers rédacteur d’une pièce versée aux débats |
07
Sources
Votre situation
Une question sur votre dossier ?
Le cabinet examine la situation sur pièces. Cette page est une information générale ; elle ne remplace pas l’analyse d’un dossier.