Quand ChatGPT invente des cas de jurisprudence...

Par:
fredericmazue

mer, 31/05/2023 - 12:50

Lu sur The Verge qui s'appuie sur un article du New York Times. Des avocats devaient étayer la plainte de leur client après qu'un chariot en métal a heurté le genou de ce dernier dans un aéroport. Ils ont donc recherché des affaires similaires dans lesquels les plaignants auraient eu gain de cause, pour faire jouer la jurisprudence.

Un des collaborateurs du cabinet d'avocats a facilement trouvé de telles affaires en interrogeant ChatGPT. Seulement voilà, le juge new-yorkais chargé du dossier, P. Kevin Castel, n'a pas du tout apprécié... et écrit aux avocats du plaignant pour leur demander des explications : "six des arrêts invoqués renvoient à de fausses décisions de justice et mentionnent de fausses citations".

Le collaborateur fautif a exprimé d'immenses regrets auprès du tribunal lorsqu'il a compris son erreur. Il a expliqué n'avoir jamais utilisé ChatGPT auparavant, et ignorait qu'une partie des réponses fournies pouvaient être inventées.

Le collaborateur avait pourtant tenté de vérifier les réponses de ChatGPT, mais malheureseument en utilisant ChatGPT pour ce faire. Ainsi il a montré au tribunal des captures d'écran montrant des confirmations de ChatGPT quant à l'existence de ces arrêts totalement fantaisistes. ChatGPT mentionnant même deux sources : LexisNexis et Westlaw - deux bases de données référençant des décisions de justice. Mais les bases de données en question sont totalement vides des cas de jurisprudence cités.

Les avocats encourent une procédure disciplinaire de la part du tribunal de New York. Leur cas sera statué le 8 juin prochain.