IA et avocats : quels usages, quels risques, quelles précautions ?

L'intelligence artificielle, ce n'est pas un outil de demain pour les avocats, c'est

Artificial intelligence is not a tool of tomorrow for lawyers, it is

un outil d'aujourd'hui qu'il faut apprendre à utiliser.

A tool of today that must be learned to use.

Tant qu'on respecte ces principes essentiels, je pense qu'on s'en sortira.

As long as we adhere to these essential principles, I believe we will manage.

Bonjour à tous et bienvenue dans le podcast du Jeune Avocat, réalisé en partenariat

Hello everyone and welcome to the Young Lawyer podcast, produced in partnership

par la Gazette du Palais et la FNUGA.

by the Gazette du Palais and the FNUGA.

L'intelligence artificielle va-t-elle révolutionner l'exercice professionnel des avocats ?

Will artificial intelligence revolutionize the professional practice of lawyers?

Alors que les services rendus par l'IA se développent à toute vitesse et semblent

As the services provided by AI are rapidly developing and seem

tout emporter sur leur passage, la profession ne peut pas rester plus longtemps à l'écart

taking everything in their path, the profession cannot remain on the sidelines any longer

de cette évolution majeure.

of this major evolution.

Alors quels sont les avantages, mais aussi quels sont les risques liés à l'intelligence

So what are the advantages, but also what are the risks associated with intelligence?

artificielle ? C'est ce que nous allons voir avec Pauline Costantini-Rabinois, avocate

Artificial? That's what we are going to see with Pauline Costantini-Rabinois, lawyer.

au barreau de Marseille et coprésidente de la commission numérique de la FNUGA, et Sandrine

at the bar of Marseille and co-chair of the digital commission of the FNUGA, and Sandrine

Vara, avocate au barreau de Marseille.

Vara, lawyer at the Marseille bar.

Elle est ancienne présidente de la commission numérique du Conseil national des barreaux.

She is a former president of the digital commission of the National Bar Council.

Première question, situons le sujet, de quoi parle-t-on quand on parle d'intelligence

First question, let's define the subject, what are we talking about when we talk about intelligence?

artificielle ? Sandrine ?

artificial? Sandrine?

L'intelligence artificielle, c'est une discipline informatique qui vise à simuler

Artificial intelligence is a computer science discipline aimed at simulating.

des fonctions cognitives, humaines ou animales, et son développement en réalité remonte

cognitive functions, whether human or animal, and its development actually dates back

à plusieurs décennies, avec notamment la reconnaissance d'images.

for several decades, notably with image recognition.

Et le propre de l'intelligence artificielle, c'est l'apprentissage automatique, dit aussi

And the essence of artificial intelligence is machine learning, also called

machine learning.

machine learning.

Ce qui permet au système d'apprendre à partir d'une large gamme de données et d'exemples.

This allows the system to learn from a wide range of data and examples.

Et la révolution majeure que l'on est en train de connaître dans le domaine de l'intelligence

And the major revolution we are experiencing in the field of intelligence.

artificielle, elle vient de l'avènement de ce qu'on appelle les transformeurs, donc

artificial, it comes from the advent of what is called transformers, so

le T dans GPT, et des modèles de langage qui sont capables de générer et de comprendre

the T in GPT, and language models that are capable of generating and understanding

du texte de manière naturelle.

text naturally.

Et ces modèles, ils ont appris de manière statistique, et c'est important, la statistique

And these models, they have learned statistically, and that's important, statistics.

a simulé l'intelligence humaine en analysant d'immenses quantités de données textuelles.

simulated human intelligence by analyzing vast amounts of textual data.

Donc c'est la raison pour laquelle aujourd'hui, on peut les utiliser pour différentes

So that is why today we can use them for different purposes.

tâches qui sont liées au langage naturel, comme la traduction, le résumé ou la génération

tasks related to natural language, such as translation, summarization, or generation

de textes.

of texts.

Et c'est la grande révolution depuis justement la publication par OpenAI de ChatGPT en novembre

And it is the big revolution since the publication of ChatGPT by OpenAI in November.

2022, c'est une utilisation généralisée de modèles d'IA dits génératives, qui sont

2022 saw a widespread use of so-called generative AI models, which are

capables de créer du contenu textuel, visuel, ou même du code informatique, et de manière

able to create textual, visual, or even computer code content, and in a way

assez convaincante.

quite convincing.

Et ça, ça ouvre des possibilités dans des domaines très variés, de la création artistique,

And that opens up possibilities in very diverse fields, from artistic creation,

du marketing, l'analyse de données, et bien sûr, en matière juridique.

marketing, data analysis, and of course, in legal matters.

Quels services l'intelligence artificielle peut-elle rendre aux avocats dans le cadre

What services can artificial intelligence provide to lawyers in the context?

de leur exercice professionnel ?

of their professional practice?

L'intelligence artificielle, ça peut être un formidable outil pour les avocats et dans

Artificial intelligence can be a tremendous tool for lawyers and in

différents domaines.

different fields.

Je pense notamment d'abord au domaine administratif.

I am particularly thinking first of the administrative field.

On peut utiliser aujourd'hui des outils d'intelligence artificielle pour faire de la prise de notes,

Today, we can use artificial intelligence tools for note-taking.

pour faire des résumés de réunions, pour faire des rédactions d'emails.

to make meeting summaries, to write emails.

On a des startups qui ont développé des bots qui prérédigent les emails en fonction du

We have startups that have developed bots that pre-write emails based on the

contexte dans lequel ils sont posés.

context in which they are posed.

On a juste à taper des mots-clés et l'IA est capable de répondre en compétence.

We just have to enter keywords and the AI is capable of responding competently.

En comprenant la question, de formuler la réponse de manière assez naturelle.

By understanding the question, to formulate the answer in a quite natural way.

Donc déjà dans le domaine administratif, c'est un premier usage.

So already in the administrative field, it's a first use.

Dans un domaine plus traditionnel de l'avocat, la recherche juridique.

In a more traditional field of law, legal research.

Les éditeurs juridiques aujourd'hui mettent à disposition une intelligence artificielle

Legal publishers today provide artificial intelligence.

sur leur fonds documentaire qui permet la génération de réponses prérédigées en

on their documentary database that allows for the generation of pre-written responses in

fonction de la question juridique qui est posée.

function of the legal question being asked.

On a aussi la possibilité d'utiliser l'intelligence artificielle pour rédiger des contenus, comme

We also have the possibility of using artificial intelligence to write content, such as

de la rédaction automatisée de contrats, de conclusions, d'actes de procédures de

automated drafting of contracts, conclusions, procedural acts of

manière générale.

in general.

Certains outils nécessitent des paramètres.

Some tools require parameters.

Il y a des métrages plus avancés que d'autres et certains sont plus propres entre guillemets

There are more advanced films than others, and some are cleaner, so to speak.

que d'autres.

than others.

Donc l'intelligence artificielle, ce n'est pas un outil de demain pour les avocats, c'est

So artificial intelligence is not a tool of tomorrow for lawyers, it's

un outil d'aujourd'hui qu'il faut apprendre à utiliser.

A tool of today that must be learned to use.

Quelle est l'état des travaux de la profession d'avocat sur l'intelligence artificielle,

What is the status of the work of the legal profession on artificial intelligence?

Pauline ?

Pauline?

Nous avons, au sein de la commission numérique, préparé cette année un guide de l'usage

We have prepared a guide to usage this year within the digital commission.

de l'intelligence artificielle avec toutes les autres commissions de la FNUJI.

of artificial intelligence with all the other commissions of the FNUJI.

Il y a eu un gros groupe de travail.

There has been a large working group.

Ce guide doit être diffusé prochainement dans un format physique.

This guide will soon be distributed in a physical format.

Et un format numérique pour la première fois.

And a digital format for the first time.

En dehors du guide de l'intelligence artificielle, on a aussi proposé une refonte des ateliers

In addition to the artificial intelligence guide, a redesign of the workshops has also been proposed.

de la FNUJI.

from the FNUJI.

On va proposer un module sur l'intelligence artificielle.

We are going to offer a module on artificial intelligence.

Les ateliers du numérique sont des espèces de caravanes de formation qui se déplacent

The digital workshops are a kind of training caravans that move around.

dans les barreaux qui en font la demande et où des confrères qui sont issus des rangs

in the bars that make the request and where colleagues who have come from the ranks

de la FNUJI viennent pour dispenser des formations.

from the FNUJI come to provide training.

Il y aura donc une formation qui sera dispensée sur l'intelligence artificielle, comment

There will therefore be training offered on artificial intelligence, how

l'utiliser dans nos cabinets, adapter son usage à nos pratiques.

use it in our offices, adapt its use to our practices.

Pour le faire dans le respect des règles déontologiques et du côté du Conseil national

To do it in accordance with ethical standards and on the side of the National Council.

des barreaux.

bars.

Sandrine.

Sandrine.

Le Conseil national des barreaux s'est évidemment immédiatement saisi de cette question qui

The National Council of Bars immediately took up this question which

appelle en réalité des réflexions très larges dans beaucoup de domaines.

actually calls for very broad reflections in many areas.

Et c'est la raison pour laquelle un groupe de travail transversal a été mis en place

And this is why a cross-functional working group has been established.

qui est dirigé par Hélène Lodic-Barron.

which is directed by Hélène Lodic-Barron.

Donc ce groupe de travail a pour vocation de faire un état des lieux de l'intelligence

Thus, this working group aims to take stock of intelligence.

artificielle générative et de son usage aujourd'hui pour les avocats et en fonction du résultat

generative artificial and its use today for lawyers and depending on the outcome

des avocats.

avocados.

Les auditions qui sont en cours et de l'état des lieux qui va en être réalisé, les différentes

The ongoing hearings and the assessment that will be carried out, the various

problématiques ont vocation à être distribuées aux différentes commissions du Conseil national

issues are intended to be distributed to the various committees of the National Council

des barreaux.

bars.

Et par exemple, la commission collaboration pourrait être amenée à étudier l'incidence

And for example, the collaboration committee could be called upon to study the impact.

de l'intelligence artificielle dite générative sur les contrats de collaboration.

of so-called generative artificial intelligence on collaboration contracts.

Est-ce qu'il y a intérêt à avoir 4, 5, 6 collaborateurs alors qu'on pourrait en avoir

Is there a benefit to having 4, 5, or 6 collaborators when we could have fewer?

que 2 équipés d'outils d'IA particulièrement performants ? Donc ça pourrait avoir une incidence

that are equipped with particularly powerful AI tools? So it could have an impact.

sur le contrat de collaboration.

on the collaboration contract.

La commission prospective pourrait être intéressée aussi au sujet.

The prospective commission might also be interested in the subject.

C'est quoi l'avocat dans 10, 20, 30, 50, 100 ans aux prémices de l'intelligence artificielle

What will the lawyer be like in 10, 20, 30, 50, 100 years at the dawn of artificial intelligence?

générative quotidienne ? La commission règles et usages qui pourrait aussi étudier la question

daily generative? The rules and practices commission that could also study the question

de savoir si un avocat utilisant l'intelligence artificielle doit divulguer à ses clients

whether a lawyer using artificial intelligence must disclose to their clients

les outils qu'il utilise pour produire des consultations juridiques.

the tools he uses to produce legal consultations.

Donc il y a énormément de sujets qui peuvent être traités par les commissions du CNB

So there are a lot of topics that can be addressed by the CNB commissions.

et c'est la raison pour laquelle ce groupe de travail transversal aujourd'hui a une mission

and that is the reason why this cross-functional working group today has a mission

qui est extrêmement importante et attendue par les avocats.

which is extremely important and awaited by the lawyers.

Les avocats qui ne savent pas encore comment trop se positionner vis-à-vis de l'utilisation

Lawyers who do not yet know how to position themselves regarding the use

de l'intelligence artificielle.

of artificial intelligence.

Quels sont les risques que l'IA générative peut faire courir aux avocats en termes de

What are the risks that generative AI can pose to lawyers in terms of

protection des données ? Les avocats sont soumis aux secrets professionnels.

Data protection? Lawyers are subject to professional secrecy.

Je pense que c'est surtout à ça à quoi on peut penser.

I think that's mainly what we can think of.

Le secret professionnel est absolu pour l'avocat et il implique de protéger les données et

Professional secrecy is absolute for the lawyer and it involves protecting data and

les documents qu'il reçoit de son client.

the documents he receives from his client.

On protège ses données et ses documents de manière matérielle aujourd'hui.

We protect our data and documents physically today.

On a tous des cabinets qui ferment à clé, on prend des alarmes éventuellement.

We all have cabinets that are locked, and we may set up alarms.

Il faut avoir évidemment la même discipline s'agissant des données, des fichiers dématérialisés

It is obviously necessary to have the same discipline regarding data and dematerialized files.

et s'agissant de l'utilisation des logiciels d'intelligence artificielle, les avocats doivent

And regarding the use of artificial intelligence software, lawyers must

impérativement se renseigner sur les conditions d'utilisation de chaque outil, des données

It is imperative to inquire about the terms of use of each tool, as well as the data.

qui sont injectées dans ces outils.

which are injected into these tools.

Il faut savoir que les outils d'intelligence artificielle se nourrissent des données et

It should be noted that artificial intelligence tools feed on data and

suivant s'ils sont gratuits ou payants, les données qui servent à rédiger les promptes

depending on whether they are free or paid, the data used to write the prompts.

par exemple sont stockées, elles sont transférées, elles peuvent être réutilisées pour entraîner

for example, they are stored, they are transferred, they can be reused for training

l'algorithme.

the algorithm.

De manière générale, ce sont les versions gratuites qui posent le plus de preuves.

Generally speaking, it is the free versions that pose the most challenges.

En général, les versions payantes font la promesse que les données sont fermées

In general, paid versions promise that the data is closed.

et que seul l'avocat a accès à ces données, qu'elles ne sont pas réutilisées dans le

and that only the lawyer has access to this data, and that it is not reused in the

système général, mais il y a quand même un risque et donc c'est aux avocats de faire

general system, but there is still a risk and therefore it is up to the lawyers to do

preuve de prudence, comme ils le font dans tous les domaines matériels pour la protection

evidence of caution, as they do in all material areas for protection

du secret professionnel, d'être davantage vigilants dans l'utilisation des outils d'IA.

of professional secrecy, to be more vigilant in the use of AI tools.

Pauline, quels sont les biais qui existent ?

Pauline, what biases exist?

Il existe plusieurs biais en matière d'intelligence artificielle puisque certains algorithmes

There are several biases in artificial intelligence since some algorithms

d'intelligence artificielle ont des outils d'IA.

Artificial intelligence has AI tools.

Certains algorithmes d'IA peuvent être intrinsèquement biaisés, il ne faut pas

Some AI algorithms can be intrinsically biased, it should not

oublier qu'ils sont conçus par des humains et que ces humains ne sont donc pas parfaits

forget that they are designed by humans and that these humans are therefore not perfect

et sont eux-mêmes soumis à leurs propres biais discriminatoires.

and are themselves subject to their own discriminatory biases.

Souvent, les biais naîtront des données qui sont utilisées pour entraîner les modèles

Often, biases will arise from the data that is used to train the models.

d'IA.

of AI.

Ça peut conduire à des résultats qui sont injustes ou discriminatoires.

It can lead to results that are unfair or discriminatory.

Par exemple, si un système d'IA est entraîné sur des données historiques qui vont refléter

For example, if an AI system is trained on historical data that will reflect

des pratiques discriminatoires du passé, voire même assez récentes, ces pratiques

discriminatory practices of the past, or even quite recent, these practices

discriminatoires peuvent être sexistes ou racistes et donc ça peut entraîner des

discriminatory practices can be sexist or racist and therefore this can lead to

réponses biaisées de la part de l'IA et pour l'éviter, il faut effectuer une analyse

biased responses from AI and to avoid this, an analysis must be conducted

approfondie des données d'entraînement mais aussi utiliser des techniques d'échantillonnage

in-depth training data but also use sampling techniques

équilibrées pour garantir une représentation la plus adéquate et la plus exacte possible

balanced to ensure the most adequate and accurate representation possible

du public auquel on s'adresse.

the audience being addressed.

Je suis tout à fait d'accord avec ce que dit Pauline et je rajouterais que dans le

I completely agree with what Pauline is saying, and I would add that in the

milieu juridique, on peut aussi craindre un biais qui tient l'élève anglais de Large

In the legal environment, one may also fear a bias that affects the English student of Large.

Language Model, c'est le système de langage qui est utilisé pour entraîner les données

Language Model is the language system used to train the data.

anglaises.

English.

Les LLM qui sont diffusées en grande masse proviennent de sociétés américaines qui

The LLMs that are widely distributed come from American companies that

sont donc majoritairement entraînées sur des données non seulement en anglais mais

are therefore mostly trained on data not only in English but

sur des données du système dit de common law et donc on peut craindre que la production

on data from the so-called common law system and therefore we can fear that the production

aujourd'hui de textes, de réponses, d'être de prise à la décision pour un avocat français

today texts, answers, being involved in decision-making for a French lawyer

qui a une culture civiliste puisse être influencée par l'algorithme tel qu'il a été conçu.

who has a civil culture can be influenced by the algorithm as it was designed.

Il y a des sociétés américaines qui sont les plus nombreuses sur le marché mais des

There are American companies that are the most numerous in the market but some

solutions aussi françaises qui se développent.

French solutions that are also developing.

Il faudra, je pense à l'avenir, être particulièrement attentif pour les avocats lorsqu'ils choisissent

I think in the future, lawyers will need to be particularly careful when they choose.

un logiciel d'intelligence artificielle à interroger l'éditeur ou se renseigner dans

an artificial intelligence software to query the publisher or inquire in

les conditions d'utilisation parce qu'un LLM d'origine américaine, même d'origine

the terms of use because an LLM of American origin, even if of origin

française ou de tradition civiliste ne produira peut-être pas les mêmes résultats.

French or civil law tradition may not produce the same results.

Pauline, l'IA peut-elle inventer des solutions qui n'existent pas ?

Pauline, can AI invent solutions that do not exist?

C'est malheureusement le cas, on a eu un exemple aux États-Unis d'un confrère

Unfortunately, that is the case; we had an example in the United States of a colleague.

qui a fourni une consultation juridique dans laquelle il citait des décisions qui ont été

who provided a legal consultation in which he cited decisions that have been

entièrement inventées par l'IA.

entirely invented by AI.

On peut le voir quand on teste ses systèmes, par exemple le chat GPT qui est un des plus

One can see it when testing its systems, for example, GPT chat, which is one of the most.

connus.

known.

On peut lui demander de nous fournir des réponses à des questions en se basant sur des décisions

We can ask him to provide us with answers to questions based on decisions.

juridiques et il est capable d'inventer des décisions mais c'en est au point où il va

legal and he is able to invent decisions but it has reached the point where he will

même créer un vrai lien, legifrance.fr, avec toute une référence de décision et où quand

even create a real link, legifrance.fr, with a whole reference of decision and where when

on clique dessus on arrive sur une page erreur 404, cette page n'existe pas, mais où lui

We click on it and end up on a 404 error page, this page does not exist, but where is it?

va mentir, vraiment il n'y a pas d'autres mots, et créer cette décision.

go lie, really there are no other words, and create this decision.

Et c'est donc un des risques, on appelle ça un phénomène d'hallucination, où les

And so it is one of the risks, we call it a hallucination phenomenon, where the

IA génératives vont fabriquer de toutes pièces une réponse qui est factuellement inexacte

Generative AI will fabricate a response that is factually inaccurate.

mais qu'ils vont présenter comme authentique et c'est pour ça qu'on a besoin en tant

but they will present it as authentic and that’s why we need, as

qu'avocat et en tant que professionnel du droit de rester toujours vigilant aux réponses

as a lawyer and as a legal professional to always remain vigilant to the responses

qui sont fournies par ces systèmes et de toujours les vérifier à l'aide de nos connaissances

that are provided by these systems and always verify them using our knowledge

et de nos propres recherches.

and from our own research.

L'avocat pourrait-il voir sa responsabilité civile professionnelle engagée pour une mauvaise

Could the lawyer be held liable for professional civil responsibility for a mistake?

utilisation de l'IA ou un manque de vigilance ?

Use of AI or a lack of vigilance?

Assurément oui, mais en réalité comme dans l'utilisation de n'importe quel outil

Certainly yes, but in reality, like in the use of any tool.

par l'avocat, on a une responsabilité qu'elle soit dans l'utilisation d'une base de données

Through the lawyer, there is a responsibility whether it is in the use of a database.

juridiques classiques ou dans l'utilisation de l'intelligence artificielle.

classical legal or in the use of artificial intelligence.

L'intelligence artificielle n'est pas une réponse à tout et au contraire ça appelle

Artificial intelligence is not a solution to everything; on the contrary, it calls for

à une vigilance encore plus accrue parce que la spontanéité et l'apparence de clarté

to an even greater vigilance because of spontaneity and the appearance of clarity

de la réponse laisserait penser que le système a fait toutes les vérifications nécessaires

The response would suggest that the system has carried out all the necessary checks.

or en réalité, comme l'a dit Pauline,

but in reality, as Pauline said,

l'hallucination est décourante.

The hallucination is discouraging.

Aujourd'hui, on a des start-up et des éditeurs qui garantissent des 0% hallucinations à vérifier

Today, we have start-ups and publishers that guarantee 0% hallucinations to verify.

s'ils le garantissent réellement ou si c'est juste une promesse, mais en tout cas, quel

if they really guarantee it or if it's just a promise, but in any case, what

que soit l'outil utilisé, qu'il soit d'IA ou pas, l'avocat pourra voir sa responsabilité

Whether the tool used is AI or not, the lawyer may face liability.

civile professionnelle engagée.

committed professional civilian.

Pauline, l'utilisation de l'IA est-elle compatible avec la définition de la consultation juridique ?

Pauline, is the use of AI compatible with the definition of legal consultation?

C'est difficile de répondre à cette question en l'état parce qu'il faut déjà avoir

It's difficult to answer this question as it stands because you need to have already

une définition en fait de la consultation juridique.

a definition of legal consultation.

Une définition qui est compatible.

A definition that is compatible.

Une définition qui existe sans exister, on a plusieurs sources, on a une définition

A definition that exists without existing, we have several sources, we have a definition.

jurisprudentielle donnée par le CNB également, c'est fournir une prestation intellectuelle

jurisprudential provided by the CNB as well, is to provide an intellectual service.

personnalisée à quelqu'un pour lui permettre de prendre une décision éclairée sur une

customized for someone to allow them to make an informed decision about a

situation juridique donnée.

given legal situation.

L'IA, quand on lui pose une question, on pourrait penser que ce qu'elle va fournir c'est

AI, when asked a question, one might think that what it will provide is

une consultation juridique, sens propre du terme, mais on ne peut pas se permettre d'accepter

a legal consultation, in the literal sense of the term, but we cannot afford to accept it

cette définition déjà parce que, comme le disait Sandrine, souvent ces systèmes sont

this definition already because, as Sandrine said, often these systems are

développés à l'étranger.

developed abroad.

Donc il y a ce problème géographique et juridique, mais aussi parce que c'est le travail

So there is this geographical and legal issue, but also because it is work.

intellectuel de l'avocat en fait, c'est l'essence même de sa prestation professionnelle de fournir

The intellectual aspect of the lawyer is, in fact, the very essence of his professional service to provide.

cette consultation juridique.

this legal consultation.

Nos travaux à la FNU-IA ont consisté à essayer de promouvoir un espèce de label

Our work at the FNU-IA has aimed to promote a kind of label.

consultation juridique qui ne pourrait être utilisé que par les avocats et qu'on ne puisse

legal consultation that could only be used by lawyers and that one cannot

pas vendre des systèmes d'intelligence artificielle en expliquant qu'ils peuvent fournir des consultations

do not sell artificial intelligence systems by explaining that they can provide consultations

juridiques.

legal.

C'est impératif qu'il y ait toujours un avocat qui vérifie ce qui a été donné comme réponse

It is imperative that there is always a lawyer to verify what has been given as a response.

par l'IA.

by the AI.

Peut-on craindre une perte de créativité de la part des avocats, Sandrine ?

Can we fear a loss of creativity from lawyers, Sandrine?

C'est une crainte qu'on peut avoir, elle va se révéler ou pas avec l'usage.

It's a fear one might have; it will reveal itself or not with use.

Quand je pense à la manière dont moi j'ai été formée ou d'autres avocats de ma génération,

When I think about the way I was trained or other lawyers of my generation,

on a appris à faire des recherches avec des mots clés et on s'est entraîné à faire

we learned to conduct research with keywords and we practiced doing so

des recherches en déduisant une question après l'autre.

research by deducing one question after another.

Donc la construction du raisonnement juridique, elle s'est fait en plusieurs étapes.

So the construction of legal reasoning was done in several stages.

Aujourd'hui, la crainte pourrait être qu'en posant une simple question, l'outil d'intelligence

Today, the fear might be that by asking a simple question, the intelligence tool

artificielle produise un ensemble de réponses et qu'on imagine qu'en fait, il n'y en a pas

artificially produces a set of responses, and we imagine that in fact, there are none.

d'autres qui se posent.

others that arise.

Je pense qu'aujourd'hui, l'enjeu, il est vraiment dans la formation des avocats, dans

I think that today, the issue really lies in the training of lawyers, in

la qualification juridique, dans l'apprentissage des règles de droit parce que c'est parce

the legal qualification, in the learning of legal rules because it is because

qu'on maîtrisera nous-mêmes les règles de droit qu'on sera à même de faire preuve

that we will master the rules of law ourselves, we will be able to demonstrate

de créativité et de faire des connexions entre différents domaines qui n'auront pas

of creativity and making connections between different fields that will not have

forcément été appréhendés par l'IA qu'on est en train d'utiliser.

necessarily been apprehended by the AI we are currently using.

Et je ne sais pas si c'est une crainte, mais en tout cas, c'est un enjeu de demain d'inciter

And I don't know if it's a fear, but in any case, it's a challenge for tomorrow to encourage.

les avocats à ne pas se débrouiller.

Lawyers not to manage on their own.

Ne pas se contenter des pistes de réflexion parce que je considère que l'outil d'intelligence

Do not settle for the lines of thought because I consider that the intelligence tool

artificielle ne donne que des pistes de réflexion et de toujours aller au-delà pour fournir

artificial only offers avenues for reflection and always going beyond to provide

le service le plus juste et la question la plus précise qui est posée par le client.

the fairest service and the most precise question asked by the client.

Pauline, comment la déontologie de l'avocat peut-elle protéger ce dernier ainsi que son

Pauline, how can the ethics of the lawyer protect them as well as their...

client contre les dérives de l'IA ?

client against the excesses of AI?

Notre déontologie nous protège que ce soit quand on utilise l'IA ou non.

Our ethics protect us whether we use AI or not.

Donc, il faut toujours s'assurer de respecter nos principes essentiels.

Therefore, we must always ensure to uphold our core principles.

L'avocat doit toujours être indépendant et exercer ses fonctions en faisant preuve de

The lawyer must always be independent and carry out their duties with respect to

la plus grande liberté possible.

the greatest possible freedom.

Cette liberté doit aussi s'exercer vis-à-vis des logiciels d'IA.

This freedom must also be exercised with regards to AI software.

On doit exercer notre jugement professionnel, notre expertise juridique lorsqu'on utilise

We must exercise our professional judgment, our legal expertise when using

ces systèmes en tenant compte du contexte spécifique de chaque affaire et des besoins

these systems taking into account the specific context of each case and the needs

individuels de nos clients.

individuals of our clients.

Et avant de se fier entièrement à un système d'IA et aux réponses qui seront proposées,

And before fully relying on an AI system and the responses that will be offered,

l'avocat doit toujours effectuer les vérifications et les validations les plus rigoureuses possibles

The lawyer must always carry out the most rigorous checks and validations possible.

pour s'assurer de la fiabilité et de l'exactitude des réponses en tenant compte de la pertinence

to ensure the reliability and accuracy of the answers while considering relevance

dans le contexte juridique.

in the legal context.

C'est en refusant de se fier aveuglément à la machine et donc en ne reproduisant pas

It is by refusing to blindly trust the machine and thus not reproducing

textuellement un avis ou une réponse donnée et délivrée par une intelligence artificielle

textually a notice or a response given and delivered by artificial intelligence

sans l'avoir vérifiée ou confrontée à nos connaissances juridiques qu'on fera preuve

without having verified it or confronted it with our legal knowledge that we will prove

de conscience et de compétences, qui sont aussi des principes déontologiques essentiels

of conscience and competence, which are also essential ethical principles

pour notre profession.

for our profession.

Et ça implique donc toujours de tester le système sur des données indépendantes, comparer

And this always involves testing the system on independent data, comparing.

les résultats produits à l'IA.

the results produced by AI.

Il s'agit tout simplement de respecter nos principes déontologiques sans avoir nécessairement

It is simply a matter of respecting our ethical principles without necessarily

besoin de les adapter à l'intelligence artificielle et à ses outils.

need to adapt them to artificial intelligence and its tools.

Tant qu'on respecte ces principes essentiels, je pense qu'on s'en sortira.

As long as we respect these essential principles, I think we'll manage.

Pour dialoguer avec l'IA, on utilise du langage naturel.

To interact with the AI, we use natural language.

Ça semble donc très simple et intuitif.

It seems very simple and intuitive.

Sandrine, vous nous parliez de formation.

Sandrine, you were talking to us about training.

Peut-on s'en passer pour utiliser l'IA dans un contexte professionnel ?

Can we do without it to use AI in a professional context?

Si on veut produire une réponse précise et juste, je pense qu'on ne peut pas se

If we want to produce an accurate and fair response, I think we cannot...

passer d'une formation.

to complete a training.

C'est vrai que poser une question en langage naturel, ça semble être très facile.

It's true that asking a question in natural language seems very easy.

En réalité, on sait que si on pose une question imprécise, on a une réponse imprécise.

In reality, we know that if we ask an imprecise question, we get an imprecise answer.

Donc tout l'enjeu va être de savoir prompter, c'est-à-dire formuler sa requête de la

So the whole challenge will be knowing how to prompt, that is to say, how to formulate your request.

manière la plus précise possible pour obtenir la réponse la plus juste possible.

the most precise way possible to obtain the most accurate answer possible.

L'enjeu aujourd'hui pour tous les avocats, quelle que soit la génération à laquelle

The challenge today for all lawyers, regardless of the generation to which they belong

ils appartiennent, c'est d'apprendre à rédiger ses promptes pour avoir une réponse précise.

They belong to it, it's about learning to write your prompts to get an accurate response.

C'est-à-dire que l'enjeu, c'est d'apprendre à rédiger ses promptes pour avoir une réponse

That is to say, the challenge is to learn how to write your prompts to get a response.

précise.

precise.

Et la rédaction en tant que telle peut être naturelle pour un plus jeune avocat qui va

And writing as such can be natural for a younger lawyer who is going to.

appréhender l'IA de manière plus courante que pour un avocat plus expérimenté qui

to understand AI in a more common way than for a more experienced lawyer who

n'aura pas forcément eu la même appétence pour les technologies.

may not have necessarily had the same enthusiasm for technology.

Pour autant, je pense que dans la qualité rédactionnelle, l'expérience va faire la

However, I believe that in terms of writing quality, experience will make the difference.

différence parce qu'un avocat expérimenté qui, certes, va poser la question de manière

difference because an experienced lawyer who, indeed, will ask the question in a way

moins automatique aura en réalité le réflexe de poser les bonnes questions parce qu'il

less automatic will actually have the reflex to ask the right questions because it

aura fait les qualifications juridiques plus rapidement.

will have completed the legal qualifications more quickly.

Il aura construit un raisonnement qui lui permettra d'utiliser l'IA de manière plus

He will have built a reasoning that will allow him to use AI more effectively.

efficiente.

efficient.

Donc je pense qu'il y a un vrai partage et une vraie collaboration à avoir entre les

So I think there is a real sharing and a real collaboration to be had between the

générations pour avoir non seulement l'intérêt à utiliser l'IA mais l'expérience de savoir

generations to not only have the interest in using AI but the experience of knowing

poser les bonnes questions.

ask the right questions.

Le cabinet Allen & Overy a beaucoup communiqué sur le développement de son

The Allen & Overy firm has communicated a lot about the development of its

intelligence artificielle.

artificial intelligence.

Arvée, cette pratique tente-t-elle à se développer au sein des structures d'avocats ?

Hello, is this practice trying to develop within law firms?

Je pense que les cabinets d'avocats veulent effectivement s'équiper de cette façon-là.

I think that law firms do indeed want to equip themselves in this way.

La promesse c'est quoi ? C'est avoir l'intelligence artificielle sur ses propres données, dans

What is the promise? It is having artificial intelligence on one's own data, in

son cabinet, sur ses données clients, sur ses données juridiques produites par les

his office, on his client data, on the legal data produced by the

avocats depuis très longtemps.

lawyers for a very long time.

La pratique va certainement tendre à se développer mais de manière assez relative parce que

The practice will certainly tend to develop but in a rather relative manner because

le coût d'acquisition de ces technologies est très élevé.

The cost of acquiring these technologies is very high.

Implémenter de l'intelligence artificielle sur ces données, ça a un coût significatif.

Implementing artificial intelligence on this data has a significant cost.

J'ai moi-même rencontré une start-up qui m'a fait un devis pour implémenter un logiciel

I myself met with a start-up that gave me a quote to implement software.

d'IA sur mes données.

of AI on my data.

J'ai moi-même rencontré une start-up qui m'a fait un devis pour implémenter un logiciel d'IA sur mes données.

I myself met with a start-up that gave me a quote to implement AI software on my data.

J'ai été assez refroidie, je ne donnerai pas de montant ni le nom de la société mais on se situe dans les cinq chiffres pour aujourd'hui un résultat encore inconnu parce que je ne sais pas si j'ai assez de données en fait pour entraîner l'IA qui serait implémentée sur mon serveur donc on tâtonne encore un petit peu sur le sujet et aujourd'hui il y a à mon avis un écart qui va se creuser entre les cabinets, entre ceux qui pourront investir dans l'intelligence artificielle en interne et ceux qui ne pourront pas.

I was quite taken aback, I won’t give any amount or the name of the company, but we are talking about five figures for today, a result still unknown because I don't know if I have enough data to actually train the AI that would be implemented on my server, so we are still fumbling a bit on the subject, and today, in my opinion, there will be a gap that will widen between firms, between those who can invest in artificial intelligence internally and those who cannot.

Il appartient peut-être à la profession, à des éditeurs de proposer des solutions.

It may be up to the profession, to publishers, to propose solutions.

Proposer des outils qui seraient accessibles à tous, forcément avec une précision plus relative parce qu'ils ne seraient pas entraînés sur les données de l'avocat mais en tout cas ce développement il ne va pas concerner tous les avocats c'est certain.

Propose tools that would be accessible to everyone, necessarily with a relatively lower accuracy because they would not be trained on the lawyer's data, but in any case, this development will certainly not concern all lawyers.

Pauline, l'IA ne va pas faire disparaître la profession d'avocat mais va-t-elle avoir un impact sur le travail des collaborateurs ou des stagiaires ?

Pauline, AI will not make the legal profession disappear, but will it have an impact on the work of associates or interns?

L'IA ne va effectivement pas faire disparaître notre profession et je ne pense pas non plus qu'elle fera disparaître ni les collaborateurs ni les stagiaires et elle ne fera pas non plus à mon sens disparaître les assistants.

AI will indeed not make our profession disappear, and I do not think it will make collaborators or interns disappear either, nor do I believe it will make assistants disappear.

L'utilisation de l'IA va changer la manière dont ces professions ou ces stages vont se dérouler mais je ne pense pas qu'elle les fera disparaître.

The use of AI will change the way these professions or internships will take place, but I don't think it will make them disappear.

On aura toujours besoin d'un humain, d'une personne formée, d'un juriste ou d'un para-juriste pour effectuer ses tâches et pour surveiller la production de l'IA.

We will always need a human, a trained person, a lawyer or a paralegal to carry out these tasks and to oversee the production of AI.

Si ça va permettre à l'avocat de libérer beaucoup de temps, notamment sur les tâches administratives, on aura toujours besoin d'un assistant et de cet assistant pour vérifier que la réponse donnée est la bonne et qu'elle n'est pas biaisée.

If this allows the lawyer to free up a lot of time, especially on administrative tasks, we will still need an assistant and that assistant to ensure that the given answer is the correct one and not biased.

La FNU-GIA va également lancer un travail.

The FNU-GIA will also initiate a project.

C'est un travail sur l'impact de l'intelligence artificielle sur la collaboration.

It is a study on the impact of artificial intelligence on collaboration.

Ce travail va être mené entre la commission numérique et la commission collaboration.

This work will be carried out between the digital commission and the collaboration commission.

L'idée des travaux, ce sera de permettre d'évaluer ou en tout cas d'essayer d'évaluer les impacts positifs et négatifs de l'IA sur la collaboration libérale

The idea of the work will be to allow for the evaluation, or at least to try to evaluate, the positive and negative impacts of AI on freelance collaboration.

et de proposer des solutions pour rendre l'IA utile à cette collaboration et aussi d'évaluer son impact sur les conditions d'exercice des collaborateurs.

and to propose solutions to make AI useful for this collaboration as well as to assess its impact on the working conditions of the team members.

On sait déjà que des gros cabinets qui utilisent des solutions de l'IA demandent à ces éditeurs,

We already know that large firms using AI solutions are asking these publishers,

de solutions d'intelligence artificielle, de couper l'accès à certains de leurs collaborateurs juniors au système d'IA

of artificial intelligence solutions, to cut access for some of their junior collaborators to the AI system.

pour éviter soit une paresse intellectuelle, soit s'ils ne sont pas suffisamment formés ou suffisamment aguerris, même en matière juridique,

to avoid either intellectual laziness or if they are not sufficiently trained or sufficiently seasoned, even in legal matters,

éviter le risque d'erreur que pourrait produire l'utilisation par ces débutants d'un système d'IA.

avoid the risk of error that could arise from the use of an AI system by these beginners.

Sandrine, peut-on craindre un recours à la justice prédictive avec l'IA ?

Sandrine, can we fear a resort to predictive justice with AI?

Moi, je n'aime pas bien le terme justice prédictive parce qu'en réalité, l'intelligence artificielle,

I don't really like the term predictive justice because in reality, artificial intelligence,

elle est basée sur de la statistique.

It is based on statistics.

Le système entraîne des milliers, des milliards de données et va générer une réponse qui est en fait une production statistique à la question qui est posée.

The system processes thousands, billions of data and will generate a response that is actually a statistical output to the question being asked.

En matière de justice, les outils qui existent actuellement, dits de justice prédictive, sont en réalité des outils de jurimétrie,

In terms of justice, the tools that currently exist, known as predictive justice tools, are actually tools of jurimetrics.

des outils qui viennent faire des calculs probabilistes sur l'issue d'un litige.

tools that perform probabilistic calculations on the outcome of a dispute.

Et je n'aime pas bien le terme justice prédictive.

And I don't really like the term predictive justice.

Est-ce que ça enlève la capacité de l'humain à se projeter dans le futur ?

Does it remove the human ability to project into the future?

En réalité, l'intelligence artificielle, s'il y a une chose qu'elle ne fait pas par rapport à l'intelligence humaine, c'est se projeter dans le futur.

In reality, artificial intelligence, if there is one thing it does not do compared to human intelligence, it is to project itself into the future.

Elle ne fait que donner un état, un instant T, une réponse qui n'est que la conséquence des données dont elle a bénéficié.

She only gives a state, a moment in time, a response that is merely the consequence of the data she has received.

Pour donner une réponse, elle se base sur le passé.

To provide an answer, she relies on the past.

Donc, c'est très difficile d'imaginer qu'elle pourrait prédire le futur alors qu'elle n'a que des données du passé.

So, it's very difficult to imagine that she could predict the future when she only has data from the past.

Donc, on n'est plus sur de la...

So, we are no longer on some...

...de la...

...of the...

...de la justice probabiliste.

...of probabilistic justice.

Ce qu'on pourrait craindre, c'est peut-être une tendance pour des magistrats à ne se fier qu'aux décisions passées.

What we might fear is perhaps a tendency for magistrates to rely only on past decisions.

C'est le système de la common law, en réalité.

It is the common law system, in reality.

Donc, la justice prédictive dans les juridictions, pas forcément.

So, predictive justice in the courts, not necessarily.

La question qui pourrait, en revanche, être plus en discussion, c'est celle concernant les outils d'aide à la résolution amiable des litiges

The question that could, however, be more open to discussion is that concerning the tools for assisting in the amicable resolution of disputes.

qui vont injecter des milliards de données statistiques sur la raison du litige,

who will inject billions of statistical data on the reason for the dispute,

et qui va proposer à des justiciables, dans une procédure alternative, des solutions.

and who will propose solutions to litigants in an alternative procedure.

Et dans ce cas-là, ces outils pourraient être perçus comme des outils de justice prédictive,

And in that case, these tools could be seen as predictive justice tools,

parce qu'ils vont générer une réponse à partir des données fournies par les personnes qui sont en conflit.

because they will generate a response based on the data provided by the individuals who are in conflict.

Mais sinon, moi, je ne crois pas qu'on pourrait avoir une justice un jour réellement prédictive.

But otherwise, I don't think we could ever have truly predictive justice.

Encore une fois, parce qu'en fait, on se base sur des données du passé,

Once again, because in fact, we are relying on data from the past,

donc on ne peut pas prédire l'avenir avec les données du passé.

So we cannot predict the future with past data.

Merci Pauline et Sandrine pour ces explications passionnantes

Thank you Pauline and Sandrine for these fascinating explanations.

qui permettront à vos consoeurs et confrères de monter dans le train de l'intelligence artificielle

which will allow your colleagues to get on board the artificial intelligence train

en toute connaissance de cause.

knowingly.

A bientôt pour un nouvel épisode du podcast du Jeune Avocat.

See you soon for a new episode of the Young Lawyer podcast.

Sous-titrage ST' 501

Subtitle ST' 501