Un juge a condamné des avocats à 31 mille dollars d’amende pour de fausses citations de l’IA
Le juge californien Michael Wilner a rendu une décision sévère contre des cabinets d’avocats qui ont utilisé l’intelligence artificielle sans contrôle approprié pour préparer des documents. Contenant de faux précédents judiciaires et des citations inexistantes.
La situation s’est développée autour d’une action civile contre la compagnie d’assurance State Farm. Le représentant du demandeur a utilisé l’intelligence artificielle pour créer la structure d’une conclusion supplémentaire. Ce document contenant des données non vérifiées a été transféré au cabinet d’avocats K&L Gates, qui a inclus les informations générées dans la conclusion officielle pour le tribunal.
Le problème a été découvert lorsque le juge Wilner, intéressé par certaines citations des documents soumis, a décidé d’étudier plus en détail les décisions judiciaires mentionnées. À sa surprise, il a découvert qu’au moins 2 des sources mentionnées n’existent tout simplement pas.
Le juge Wilner, discours direct. « J’ai lu leur conclusion, j’étais convaincu ou, du moins, intrigué par les sources faisant autorité qu’ils citaient. Et j’ai décidé d’étudier ces décisions plus en détail – seulement pour découvrir qu’elles n’existent pas. C’est effrayant. Cela a presque conduit à un résultat encore plus effrayant – l’inclusion de ces faux matériaux dans une décision de justice. »
Après avoir demandé des éclaircissements, le cabinet K&L Gates a présenté une version corrigée de la conclusion. Qui, selon le juge, contenait « beaucoup plus de citations et de références fabriquées, en plus des 2 erreurs initiales. » Cela a incité Wilner à émettre une Ordonnance de Présentation de Preuves, à la suite de laquelle des avocats sous serment ont confirmé l’utilisation de l’intelligence artificielle.
L’avocat qui a créé le plan initial a admis avoir utilisé Google Gemini, ainsi que des outils d’intelligence artificielle pour des recherches juridiques. Dans sa décision, le juge Wilner a imposé une amende de 31 mille dollars aux cabinets d’avocats. Soulignant qu' »aucun avocat raisonnablement compétent ne devrait déléguer la recherche et la rédaction de texte » à l’intelligence artificielle sans vérification appropriée.
Vous savez ce qui est surprenant ? Dans aucun des cabinets, les avocats ou le personnel n’ont vérifié les citations ou examiné la recherche avant de soumettre la conclusion au tribunal. Les cabinets d’avocats, ayant des années de procédures établies de vérification de documents, n’ont pas été en mesure d’identifier même des falsifications de base créées par l’intelligence artificielle.
