Les avocats déposent Ai Sols dans l’affaire du meurtre

Cela devient incontrôlable.

Tromper-moi deux fois

Encore une autre équipe d’avocats a été retrouvée en laissant Ai Sold dans des documents judiciaires. C’est le dernier exemple Des professionnels des cols blancs externalisant leur travail à des outils d’IA en toute confiance – et cette fois, il ne s’agit pas seulement de tout autre procès frivole.

Comme Le gardien rapportsune paire d’avocats australiens du nom de Rishi Nathwani et Amelia Beech, qui représentent un accusé de 16 ans dans une affaire de meurtre, ont été surpris en utilisant une IA après que les documents qu’ils se soient soumis aux procureurs se soient avérés être criblés d’une série d’erreurs bizarres, notamment des citations compensées et d’un discours parlementaire erroné.

Les hallucinations ont provoqué une série de mésaventures, soulignant comment même une seule hallucination de l’IA dans ce contexte peut avoir un effet domino.

Par Le gardienl’accusation n’a pas vérifié la précision des références de la défense, ce qui a causé eux pour élaborer des arguments basés sur une désinformation réprimandée par l’IA. C’est le juge qui a finalement remarqué que quelque chose n’allait pas, et lorsque la défense a été confrontée à l’éventail sauvage d’erreurs devant le tribunal, ils ont admis avoir utilisé une IA générative pour concocter les documents.

Pire encore, ce n’était même pas la fin du comportement inadmissible de la défense. Comme Le gardien Explique que la défense a réduit les documents prétendument révisés – uniquement pour que ces documents incluent plus Les erreurs générées par l’AI, y compris les lois complètement inexistantes.

« Il n’est pas acceptable pour l’IA d’être utilisé à moins que le produit de cette utilisation ne soit vérifié de manière indépendante et approfondie », a déclaré le juge James Elliott à Melbourne, tel que cité par le journal, ajoutant que « la manière dont ces événements se sont déroulés n’est pas satisfaisant ».

Inacceptable

Les enjeux sont incroyablement élevés dans ce cas. Nathwania et Beech défendent un mineur accusé d’avoir assassiné une femme de 41 ans alors qu’il tentait de voler sa voiture (selon le journal, l’adolescente a finalement été jugée non coupable de meurtre pour des motifs qu’il a été altéré cognitivement au moment du meurtre).

Elliott a exprimé sa préoccupation que « l’utilisation de l’IA sans surveillance minutieuse de l’avocat minerait sérieusement la capacité de cette Cour à rendre justice », selon le Tuteurcomme la désinformation générée par l’AIA pourrait supporter « induire » le système juridique.

L’incident est un acte d’accusation inquiétant de l’utilisation généralisée d’une technologie qui est toujours en proie à des hallucinations constantes. Bouessé sans surveillance suffisante par les professionnels du droit, ils pourraient supporter le cours du tribunal.

En d’autres termes, de vraies décisions pourraient être prises sur la base des réflexions absurdes d’une IA hallucinante.

Plus sur l’IA et les salles d’audience: Les cabinets d’avocats ont pris et punis pour avoir procédé à « faux » Ai Sols devant le tribunal