Ressources

[Masterclass Series] Création d’une IA générative de confiance pour les cabinets d’avocat et leurs clients – Episode 1 Enjeux, Attentes et Démonstration

Le replay

Questions / Réponses

Questions posées par les personnes présentes et pour lesquelles Jimini AI par la voix de Raphaël Arroche et l’EDHEC Augmented Law Institute par la voix de Christophe Roquilly ont apporté une réponse.

Que voulez-vous dire par application verticale ?Alll Legal2023-11-16T11:08:08+01:00

Application verticale = application de l’IA Générative à un domaine précis (en l’occurence au métiers du droit), par opposition à des solutions généralistes comme ChatGPT

Mais n’est-il pas possible d’entrainer spécifiquement un « GPT » ?Alll Legal2023-11-16T11:08:51+01:00

Pour les GPTs annoncés recemment par OpenAI, il s’agit d’applications « simples », de ce que nous avons pu en voir, il s’agit plutôt ici d’apps no-code (comme sur l’app store), très simples (« compteur d’histoires », ‘Math teacher » etc.).

L’idée est il « juste » un booster de productivité et/ou y a-t-il une valeur ajoutée ?Alll Legal2023-11-16T11:09:17+01:00

L’idée est de booster la productivité du cabinet, améliorer la précision des réponses, dégager du temps pour la stratégie juridique et harmoniser le partage de compétences au sein du cabinet.

Il y a toutefois une utilisation de Chat GPT qui est de nature à faciliter notre activité. Pas en qualité de source mais plus comme un paralegalAlll Legal2023-11-16T11:09:44+01:00

Tout à fait ! Avec toutefois la limitation de la (non)-confidentialité des données envoyées.

N’est-il pas possible de paramétrer Chat GPT pour que ces donnés ne partent pas à Open IA ?Alll Legal2023-11-16T11:10:12+01:00

Les données partent vers OpenAI même s’ils peuvent garantir ne pas les utiliser pour l’entrainement.

Tout dépend du prompt ?Alll Legal2023-11-17T18:09:11+01:00

Je n’ai plus le contexte exact au moment de votre question, mais si vous faite référence à la fiabilité, le prompt est effectivement l’un des facteurs, mais pas le seul. La qualité des données d’entrainement, et celle du fine tuning du modèle de base, sont également essentielles.

Oui ça hallucine mais il peut être entraîné sur du contenu juridique et personnalisé sur des données annotées et documentéesAlll Legal2023-11-17T18:11:17+01:00

Effectivement – c’est d’ailleurs une partie de notre réponse à ces problématiques !

N’est-il pas possible d’entrainer son bot GPT avec ses propres données qualifiées ?Alll Legal2023-11-16T11:12:15+01:00

Seul Custom Models le permet pour l’instant, annoncé récemment, moyennant 2-3M€.

Si on lui demande de ne pas inventer, et d’utiliser web pilot il le fait.Alll Legal2023-11-16T11:12:55+01:00

En effet, cela réduit grandement l’hallucination, mais les données sont néanmoins envoyées à OpenAI, et le modèle reste généraliste dans son raisonnement.

Est-ce que Jimini AI est un sur entrainement de Open Ai sur des données juridiques (codes, jurisprudence, etc.) ou avez vous défini et entrainé votre propre modèle à partir de données juridiques ?Alll Legal2023-11-16T11:14:04+01:00

Nous travaillons avec des modèles d’IA Open source (actuellement Mistral 7B).

Quelle technologie utilisez vous comme IA ? car si c’est une API OpenAI, l’application verticale est toujours problématique.Alll Legal2023-11-16T11:14:45+01:00

Nous utilisons un LLM Open-source finetuné (Mistral-7b).

Utiliser ChatGPT pourrait également représenter un risque vis-à-vis du devoir de confidentialité. Si les discussions entre le client et l’avocat sont retranscrites sur le modèle, partagées à Open AI et même pire utilisées pour entrainer le modèle, ces informations pourraient être divulguées sur la place (exemple de Samsung pour le secret industriel).Alll Legal2023-11-16T11:15:12+01:00

Tout à fait ! C’est l’une des raisons principales qui nous a poussé a basculer sur l’open-source, en plus de nous permettre de faire acquérir au modèle un raisonnement juridique bien plus poussé !

Vous évoquez le fait que l’outil comprend toutes les données en open data. Cet outil est-il capable de les hiérarchiser ? Si je prends l’exemple d’une analyse de jurisprudence, la valeur d’un arrêt de la Cour de cassation n’est pas le même qu’un jugement de première instance par exemple. Merci beaucoup !Alll Legal2023-11-16T11:15:43+01:00

Tout à fait, c’est d’ailleurs essentiel pour obtenir une réponse pertinente – et c’est une (parmi les nombreuses) qualités dont ne dispose pas ChatGPT.

LLM mistral le plus sujet aux hallucinations, plus que GPT il me semble.Alll Legal2023-11-16T11:16:10+01:00

Pas forcément, cela dépend du finetuning, du prompting, etc.
Mais brut de décoffrage, cela peut être le cas en effet !

C’est intéressant pour de la comparaison de documents complexes aussi.Alll Legal2023-11-16T11:16:46+01:00

Tout à fait !

Le LLM OpenSource est juste un élément mais comment garantir une IA de confiance pour tous les autres points : les mises à jour, le stockage, les accès, avez vous des certifications SOC ?Alll Legal2023-11-16T11:17:30+01:00

Très bon point, c’est effectivement un élément crucial que nous sommes entrain d’acquérir (et opérant en Europe, la norme ISO27001 est même plus indiquée !).

Est-ce que contrairement à Chat GPT, Jimini AI cite-t-il les sources utilisées ?Alll Legal2023-11-16T11:18:01+01:00

Tout à fait. Cela a été démontré lors du webinaire (cf. le replay).

Coût des licences ? Quid des limites de caractères en données d’entrée ?Alll Legal2023-11-16T11:18:26+01:00

Le produit n’est pas encore commercialisé, il sera vendu par licence (un abonnement par avocat / juriste).

On va avoir un sujet de communs juridiques.Alll Legal2023-11-16T11:18:44+01:00

C’est bien pour cela que nous (EDHEC ALI) nous avons, avec certains acteurs de la lelagtech, répondu à l’appel à projets BPI France sur les communs numériques.

Et la répercussion du coût de la Cyber, couverture du risque, le sujet compliance outils et RH data va être central. Sujet de droit de la concurrence également. Risque exclusion petits cabinets avocats…Alll Legal2023-11-17T18:12:15+01:00

Totalement d’accord avec vous sur le risque d’exclusion. Ce qui n’est en réalité pas totalement nouveau sur la fracture numérique. Ceci dit, les « petits » cabinets n’ont pas les mêmes quantités de données, et peuvent trouver dans des logiciels embarquant de l’IA générative des solutions intéressantes pour faire de l’idéation, mieux gérer leur relation client et leur facturation, etc.

Est-ce que le droit étranger (belge par exemple) si souhaité/besoin sera inclus dans les réponses apportées ?Alll Legal2023-11-16T11:19:51+01:00

Absolument ! Notre positionnement est Européen depuis le départ.

Mes données vont-elles bien rester dans mon système d’information ? J’ai besoin que tout reste héberger dans mon cabinet.Alll Legal2023-11-16T11:20:31+01:00

Pour le moment sur nos serveurs hébergés chez un cloud provider en France, c’est néanmoins envisagé pour plus tard.

Quid des droits autres que droit français ? à date, l’IA peut-t’elle « co-piloter » également ou est-ce focus uniquement sur le droit français / civil law ?Alll Legal2023-11-16T11:20:50+01:00

Nous les ajouterons au fur et à mesure !

Est-ce que des tâches spéciales « services publics » (ex. rédaction de textes réglementaires) peuvent être assurées par JIMINI ?Alll Legal2023-11-16T11:21:05+01:00

C’est envisageable mais ce n’est pas le cas pour le moment.

Les documents enregistrés dans la data room restent-ils confidentiels et uniquement pour l’usage interne d’un cabinet ?Alll Legal2023-11-16T11:21:22+01:00

Absolument.

Le LLM mistral est Open Source, ne craignez vous pas des initiatives Open Source pour le droit et réglementé par le gouvernement ?Alll Legal2023-11-16T11:21:46+01:00

Je ne le crois pas.
L’Etat français veut pousser à juste titre sur la création de communs numériques, notamment pour le Droit (appel à projets et financement par BPI France).
En revanche, à ma connaissance, et heureusement, pas de volonté de réglementer les applications en dehors des cadres existants (compliance RGPD, secret des affaires, et bientôt IA Act – voir les fiches que la CNIL commencent à éditer). L’Etat, par exemple, n’a jamais réglementé les solutions éditeurs existantes.

Quelle différence avez vous un OpenAI qui propose des solutions on-premise, sur mesure et facile à personnaliser hébergées sur Azure ?Alll Legal2023-11-16T11:22:12+01:00

Pas de fine-tuning du LLM sur la donnée juridique ; Pas de produit métier – UX/UI dédié à l’usage d’un avocat ; stocké sur les serveurs Open AI ; entre autres.

Possible de faire nos cas d’usage avec en autonomie sur votre plateforme ?Alll Legal2023-11-16T11:22:35+01:00

Cela dépend du cas d’usage. Nous contacter pour plus d’informations.

Collaborez-vous également avec des directions juridiques ?Alll Legal2023-11-16T11:22:53+01:00

Oui absolument.

Quels sont les livrables de l’outil ? Des mémos ? Du texte format e-mail, contrat ? Des PowerPoint ? Etc.Alll Legal2023-11-16T11:23:12+01:00

Pour le moment, du texte exportable (PDF, Word notamment). Intégration à vos à venir.

Quid de la prise en charge de sources en langue étrangère ?Alll Legal2023-11-16T11:23:36+01:00

C’est envisagé. :)

Comment peut-on devenir cabinet partenaire en beta test ?Alll Legal2023-11-16T11:23:56+01:00

Contactez-nous. Voici le lien :
https://0uw5hfatxz1.typeform.com/to/H8NttBQ5