Podcast der Deutschen Anwaltauskunft – aktuell: Was kann künstliche Intelligenz im Strafrecht bewirken?

Was kann künstliche Intelligenz in der Strafverfolgung? Ein Thema auf dem Deutschen Anwaltstag.

What can artificial intelligence do in law enforcement? A topic at the German Lawyers' Day.

Ich habe drei Gesprächspartner. Charlotte Schmidt-Leonardi, Professorin der Uni Bielefeld, Strafrechtlerin.

I have three conversation partners. Charlotte Schmidt-Leonardi, a professor at the University of Bielefeld, a criminal lawyer.

Jesmeier Lokamp, Vorsitzender des geschäftsführenden Ausschusses der AG Strafrecht im Deutschen Anwaltverein.

Jesmeier Lokamp, chairman of the executive committee of the criminal law working group in the German Bar Association.

Er zeigt mir den Daumen hoch, toll. Thomas Klemen.

He gives me a thumbs up, great. Thomas Klemen.

Ich bin Professor für Künstliche Intelligenz und Datenmanagement an der Hochschule für Angewandte Wissenschaften in Hamburg.

I am a professor of artificial intelligence and data management at the University of Applied Sciences in Hamburg.

Deswegen geht an Sie die erste Frage. Was kann künstliche Intelligenz beispielsweise in der Strafverfolgung?

Therefore, the first question goes to you. What can artificial intelligence do, for example, in law enforcement?

Also es kann uns auf jeden Fall helfen, Daten zusammenzuführen, auch Muster zu erkennen.

So it can definitely help us to consolidate data and also to recognize patterns.

Dinge, die wir vielleicht als Ermittler, Ermittlerinnen nicht sofort sehen können, also uns auf Dinge hinzuweisen.

Things that we might not immediately see as investigators, so pointing things out to us.

Ja, das würde ich erst mal als erstes sehen. Also mit großen Datenmengen umzugehen und daraus Analysen zu ziehen.

Yes, I would see that as a priority. So dealing with large amounts of data and drawing analyses from it.

Im Publikum war ein Herr, der sagte, wenn man 300 Seiten Chatverläufe hat, um bestimmte Fakten daraus zu generieren, das wäre so ein Beispiel.

In the audience, there was a gentleman who said that if you have 300 pages of chat logs to generate specific facts from, that would be one example.

Genau, das wäre das so. Die Frage ist halt, was ist, wenn wir einen Text lesen, was ist die Essenz daraus?

Exactly, that would be it. The question is, what happens when we read a text, what is the essence of it?

Und das kann die KI tatsächlich in Grenzen auch schon heraus extrahieren.

And the AI can actually extract that to some extent already.

Ist das in der praktischen Arbeit eines Strafverteidigers schon relevant?

Is that already relevant in the practical work of a defense attorney?

Für die Strafverteidigung selbst ist es noch nicht relevant. Wir haben unsere Suchmaschinen, das hat aber mit KI nichts zu tun,

For the defense itself, it is not relevant yet. We have our search engines, but that has nothing to do with AI.

sondern das ist eine technische Möglichkeit, in Datenbanken zurechtzukommen.

but that is a technical means of managing databases.

Es kann etwas damit zu tun haben, wenn die Strafverfahren, mit denen wir in Verbindung treten,

It may have something to do with the criminal proceedings we are involved with.

Chat-GPT oder KI-gestützt geführt worden sind. Denn dann müssen wir fragen, wie kommt überhaupt die KI auf einen bestimmten Verdacht?

Chat-GPT or AI-assisted have been led. Because then we have to ask, how does the AI even come to a certain suspicion?

Was sind da die Parameter? Und müssen das kritisch hinterfragen. Denn die Gefahr besteht natürlich, dass niemand mehr weiß, was dort passiert

What are the parameters? And we need to critically examine this. Because there is certainly a risk that no one will know what is happening there anymore.

und damit möglicherweise Ergebnisse zutage gefördert werden, die gar keinen realen Hintergrund haben.

and thus possibly uncover results that have no real background whatsoever.

Würden Sie sich mehr KI in der Strafverfolgung wünschen? Oder sagen Sie, so wie es jetzt ist, ist es eigentlich ganz gut,

Would you like to see more AI in law enforcement? Or do you think that as it is now, it's actually quite good?

das Beispiel mit dem Chatverlauf und den 300 Seiten, um dann nach dem Stichwort Amphetamin zu suchen, ist eher naja so?

The example with the chat history and the 300 pages, to then search for the keyword amphetamine, is rather, well, how should I put it?

Wir alle wünschen uns eine effektive Strafverfolgung.

We all wish for effective law enforcement.

Wir wünschen uns eine Welt ohne Verbrechen, die es nie geben wird.

We want a world without crime, which will never exist.

Deswegen finde ich alles sinnvoll und gut, was dabei helfen kann, Straftaten aufzuklären.

That’s why I find everything meaningful and good that can help solve crimes.

Und deswegen finde ich auch KI in der Strafverfolgung gut. Nur mit der Prämisse, dass das, was gerade gesagt worden ist,

And that's why I also find AI in law enforcement good. Only with the premise that what has just been said,

dass wir uns eben über die Grenzen und die Fehleranfälligkeit gewahr sein müssen und das kritisch begleiten müssen.

that we must be aware of the limits and the fallibility and must critically accompany this.

Wie sehen Sie das als Wissenschaftlerin, Frau Professor?

How do you see this as a scientist, Professor?

Ich sehe das Potenzial und das,

I see the potential and that,

das nennt man Tech-Solutionism, das Heilsversprechen von KI und habe sehr, sehr viel gelernt, insbesondere von Herrn Klement über die Effizienzversprechen,

This is called tech solutionism, the promise of salvation from AI, and I have learned a great deal, especially from Mr. Klement about the promises of efficiency.

die Möglichkeiten, die KI bieten kann, insbesondere bei immer knapper werdenden Justiz- und Strafverfolgungsressourcen.

the opportunities that AI can offer, especially with increasingly scarce judicial and law enforcement resources.

Ich möchte aber auch gleichzeitig die Risiken im Auge behalten, über die Herr Meyer-Lohkamp ganz zu Recht spricht.

However, I also want to keep an eye on the risks that Mr. Meyer-Lohkamp rightly mentions.

Wir wissen an vielen Stellen nicht, was KI genau macht.

We do not know exactly what AI does in many areas.

Oder jedenfalls nicht, warum die KI zu bestimmten Ergebnissen kommt.

Or at least not why the AI arrives at certain results.

Wir könnten vielleicht Fehler, also sozusagen krasse Halluzinationen, wie man sie nennt, in den Griff bekommen.

We might be able to manage errors, so to speak severe hallucinations, as they are called.

Schwerer wird es wohl sein, Entscheidungsprämissen, Dinge, die im Vorfeld passieren, wenn wir glauben, KI macht A,

It will probably be more difficult to establish decision premises, things that happen in advance, when we believe that AI does A.

aber in Wirklichkeit macht KI B, diese Dinge im Blick zu behalten. Und das, das muss man immer erinnern, in einem Kontext,

but in reality, AI does B, keeping these things in mind. And that, one must always remember, in a context,

in dem natürlich die Menschen sich sicher halten müssen.

in which people must feel secure.

Und das muss man sich sicher halten. Und das muss man immer erinnern, in einem Kontext, in dem natürlich die Menschen sich sicher halten müssen.

And that must be kept safe. And one must always remember this in a context where people must certainly remain safe.

Und da sehe ich die Strafrechtswissenschaft in ihrer kritischen Funktion als eine Wissenschaft, die die Gesellschaft auffordert,

And there I see the science of criminal law in its critical function as a science that calls upon society to

beide Dinge, also diese unangenehme Spannungsverhältnisse, in ihrem Herzen auszuhalten und zu sagen, das ist toll mit der Effizienz,

both things, to endure these unpleasant power dynamics in their hearts and to say, that's great with the efficiency,

aber was kostet uns das und was kostet das den Verdächtigen, der uns immer so ein Stück weit vorkommt, wie den anderen.

But what does this cost us, and what does it cost the suspect, who always seems to us to be somewhat like the others?

Und da sind wir wieder auf uns selbst zurückgeworden. Und da sind wir wieder auf uns selbst zurückgeworden. Und da sind wir wieder auf uns selbst zurückgeworden.

And here we are again returned to ourselves. And here we are again returned to ourselves. And here we are again returned to ourselves.

Und da sind wir wieder auf uns selbst zurückgeworden. Und da sind wir wieder auf uns selbst zurückgeworden.

And here we are again back to ourselves. And here we are again back to ourselves.

Das heißt, wenn ein Verdacht generiert wird, warum? Kann das vielleicht sein, dass hier so ein bisschen Vorurteile auch ein Stück weit eine Rolle spielen?

That means, when a suspicion is generated, why? Could it be that some prejudices play a role here to some extent?

Kann es sein, dass Entscheidungsprämissen, die wir nie hinterfragt haben, eine Rolle spielen?

Could it be that decision premises we have never questioned play a role?

Also KI ist an sich per se nicht schlecht und vielleicht kann KI auch so ein Stück weit die Verzerrungseffekte, die wir im Menschen haben,

So AI is not inherently bad and perhaps AI can also somewhat mitigate the distortion effects that we have in humans,

wann entsteht ein Verdacht, auch das wissen wir manchmal nicht, vielleicht auch ausbalancieren.

When does a suspicion arise? Sometimes we do not know that either, perhaps balancing it out.

Das hat Herr Sabel vom Bundesjustizministerium gesagt, sehr zu Recht.

Mr. Sabel from the Federal Ministry of Justice said that, very rightly.

Vielleicht ist da Potenzial.

Maybe there is potential.

Unsere Fehler uns berühren.

Our mistakes touch us.

Bewusst zu machen. Aber wir können uns die Diskussion nicht ersparen, welche Risiken da am Horizont auftauchen.

To make it conscious. But we cannot avoid the discussion about the risks that are emerging on the horizon.

Ich fasse mal so für mich zusammen, Herr Kliemann.

I'll summarize it like this for myself, Mr. Kliemann.

Vielleicht haben Sie eine Antwort darauf.

Maybe you have an answer to that.

Wir wollen das alle.

We all want that.

Wir finden eine effiziente Strafverfolgung klasse.

We think efficient prosecution is great.

Aber wir haben alle Bedenken.

But we all have concerns.

Wie räumen wir diese Bedenken aus?

How do we address these concerns?

Haben wir Bedenken, wenn wir uns eine neue Brille kaufen?

Do we have concerns when we buy new glasses?

Manchmal ja.

Sometimes yes.

Ja, vielleicht.

Yes, maybe.

Dann stolpern wir vielleicht am Anfang über die Treppenstufen.

Then we might stumble over the steps at the beginning.

Gerade bei Gleitsichtbrillen in meinem Alter ist das ja dann schon so.

Especially with progressive lenses at my age, it is indeed like that.

Und tatsächlich sehe ich die KI gerade in diesem Zusammenhang ein bisschen wie eine Brille.

And indeed, I see AI in this context a bit like a pair of glasses.

Es hilft uns, schärfer zu sehen, vielleicht als Ergänzung zu dem.

It helps us see more clearly, perhaps as a complement to that.

Wenn ich dann tatsächlich wissen möchte, wie das Weinetikett auf der Weinflasche aussieht,

If I actually want to know what the wine label on the wine bottle looks like,

dann nehme ich vielleicht die Brille ab oder gucke da über den Rand drüber.

Then I might take off my glasses or look over the rim.

So müssen wir es vielleicht mit der KI auch machen.

So we might have to do it with AI as well.

Also als persönliche Erweiterung, als Hilfsmittel, damit wir eine bessere Arbeit machen können insgesamt.

So as a personal extension, as a tool, so that we can do better work overall.

Sowohl bei der Strafverfolgung als auch bei der Strafverteidigung.

Both in criminal prosecution and in criminal defense.

Und bei allen Prozessen dahinter auch.

And with all the processes behind it as well.

Klingt aber für mich erstmal nach Wehrarbeit, wenn es nur ein Assistent ist, ein zusätzliches Hilfsmittel.

But it sounds like civil service to me if it's just an assistant, an additional aid.

Wie könnte das in der Praxis aussehen, Herr Laugam?

What could that look like in practice, Mr. Laugam?

Zunächst mal zu dem Beispiel.

First of all, to the example.

Ich glaube, es hängt insofern, als ich die Brille verstehe.

I believe it depends in that I understand the glasses.

Das ist relativ primitive Optik.

That is relatively primitive optics.

Das lernt man im Physikunterricht.

You learn that in physics class.

KI verstehe ich nicht.

I don't understand AI.

Soweit ich sie verstehe, kann ich mir aber sehr gut vorstellen, dass sie im Bereich der Strafzumessung hilfreich sein könnte.

As far as I understand her, I can very well imagine that she could be helpful in the area of sentencing.

Ich könnte mir sogar vorstellen, dass sie im Bereich der Strafzumessung hilfreich sein könnte.

I could even imagine that it could be helpful in the area of sentencing.

Ich könnte mir sogar vorstellen, dass man den Richter dazu verpflichtet, im Urteil darzulegen, zu welchem Strafmaß KI gekommen ist und weshalb er davon abweichen möchte.

I could even imagine that one could obligate the judge to explain in the ruling what sentence the AI has come up with and why he wants to deviate from it.

Da gibt es viele denkbare Einsatzmöglichkeiten.

There are many conceivable applications.

Was ich mir überhaupt nicht vorstellen kann, ist, dass KI über Schuld und Unschuld entscheidet.

What I cannot imagine at all is that AI decides on guilt and innocence.

Wir sind ja hier auf dem Anwaltstag.

We are here at the lawyer's day.

Also dem Richter haben wir jetzt schon mal gesagt, was er machen kann.

So we have already told the judge what he can do.

Was kann der Anwalt mit KI machen, damit es leichter wird?

What can the lawyer do with AI to make it easier?

Kann er überhaupt was machen?

Can he even do anything?

Unterstellen Sie mich.

You are assuming me.

Das ist eine gute Frage.

That's a good question.

Also ich könnte mir nur vorstellen, ich würde mir die Arbeit nicht abnehmen lassen wollen, eine Akte zu lesen und zu verstehen.

Well, I can only imagine that I wouldn't want to have the work of reading and understanding a file taken away from me.

Das ist eine Voraussetzung dafür, für das Bewerten von menschlichem Verhalten, nach meinem Verständnis.

This is a prerequisite for evaluating human behavior, according to my understanding.

Was ich mir vorstellen könnte, ist, dass beispielsweise in Umfangverfahren Plausibilitäten geprüft werden können,

What I can imagine is that, for example, plausibilities can be checked in scope procedures,

Ermittlungshypothesen in Fragen gestellt werden können, wenn man die KI füttern dürfte mit dem, was wir aus der Ermittlungsakte wissen.

Investigation hypotheses can be posed as questions if one were allowed to feed the AI with what we know from the investigation file.

Wir geben die Frage noch an die wissenschaftliche Wissenschaft weiter abschließend.

We will forward the question to the scientific science for final consideration.

Frau Professor, was glauben Sie aus der theoretischen Sicht, wenn wir dieses Interview beispielsweise in fünf Jahren führen,

Professor, what do you think from a theoretical perspective if we were to conduct this interview in, say, five years?

sind wir dann schon soweit, dass die KI nicht mehr so halluziniert und Ihre Bedenken quasi ausgeräumt sind?

Are we already at the point where the AI doesn't hallucinate as much and your concerns are basically resolved?

Das wäre sicher wünschenswert.

That would certainly be desirable.

Ich glaube, ich würde mir vor allen Dingen wünschen, dass die Brille, die Herr Klement als Beispiel gewählt hat, genutzt wird,

I believe that above all, I would wish for the glasses that Mr. Klement chose as an example to be used.

um die rechtsstaatliche Seite des Strafverfahrens stärker zu nutzen.

to make greater use of the rule-of-law aspect of criminal proceedings.

zu fokussieren, auch die Unschuldsvermutung stärker zu fokussieren. Ich habe eben in

to focus on, also to place greater emphasis on the presumption of innocence. I just mentioned in

die Diskussion den vielleicht etwas abstrusen Gedanken, der mir hier auf dem Spaziergang

the discussion of the perhaps somewhat absurd thought that came to me here during the walk

hierher einfiel, ob nicht die unwahrscheinliche Unschuldshypothese einfach mitgedacht werden

it occurred to me whether the unlikely innocence hypothesis could simply be considered

müsste oder mit angeboten werden müsste von der KI. Denn die Strafverfolgungsbehörden

should be offered by the AI. Because law enforcement agencies

haben, was man verstehen kann, schnell eine Ermittlungshypothese. Der Blick fokussiert

have, what can be understood, quickly an investigative hypothesis. The gaze focuses

sich vielleicht auf den einen, die sind unter Druck und ich glaube den Beamtinnen und Beamten

perhaps focusing on the one, they are under pressure and I believe the officials

auch, dass sie mit den besten Motivationen auch die Gesellschaft schützen wollen. Und

also that they want to protect society with the best of motivations. And

da ist es naheliegend, dass sie nicht permanent gestört werden mit und was ist, wenn das

It is therefore obvious that they should not be constantly disturbed, and what if that happens?

nicht war, das klärt später das Gericht. Nur die Struktur des Strafverfahrens ist im

is not true, the court will clarify that later. Only the structure of the criminal proceedings is in the

Moment so, dass diese Ermittlungshypothese erst sehr, sehr spät gestört wird. Der Staatsanwalt,

Just a moment, so that this investigative hypothesis is only disrupted very, very late. The public prosecutor,

die Staatsanwältin greift sie auf, es verstärkt sich im Zwischenverfahren.

The public prosecutor takes her up, it intensifies in the interim proceedings.

Das heißt, das, was für den Verdächtigen spricht, was der Strafverteidiger leistet,

That means what speaks for the suspect, what the defense attorney provides,

weswegen die Strafverteidigung so essentiell ist im Strafprozess, das könnte aus meiner

why the defense is so essential in criminal proceedings, that could be from my

Sicht die KI begleiten, unterstützen. Und ich meine, im Moment wird KI nur im Hinblick

To support and accompany the AI. And I mean, at the moment, AI is only being considered in terms of

auf noch mehr Effizienz der Strafverfolgung gedacht. Und da würde ich mir wünschen,

thinking about even more efficiency in law enforcement. And I would wish for that,

dass wir wirklich diese beiden Aspekte gleichmäßig priorisieren.

that we really prioritize these two aspects equally.

Abschließende Frage an Maja Lokam.

Final question to Maja Lokam.

KI basiert auf Daten. Und das, was Frau Professor eben gesagt hat, würde aus meiner Sicht bedeuten,

AI is based on data. And what Professor said just now would mean, in my view,

dass man auch Daten aus der Hauptverhandlung, aus der Vernehmung hat, eine audiovisuelle

that one also has data from the main hearing, from the interrogation, an audiovisual

Aufzeichnung, wie auch immer die gestaltet ist, dass eine KI einfach lernen kann. Fehlt

Recording, however it may be designed, that an AI can simply learn from. Missing.

uns dieser Schritt?

this step for us?

Also was die Hauptverhandlung anbelangt, fehlt sie uns komplett. Sie wissen, die Hauptverhandlung

As for the main hearing, we are completely missing it. You know, the main hearing...

wird nicht dokumentiert. Wir wissen überhaupt nicht, was dort passiert. Was das Ermittlungsverfahren

is not documented. We have no idea what is happening there. What the investigation procedure

anbelangt, haben wir ja verschriftlichte Aussagen.

As far as that is concerned, we have written statements.

Aber die sind ja teilweise sehr subjektiv.

But they are partly very subjective.

Die sind sehr subjektiv. Und das ist ein Problem, was Sie angesprochen haben und mit dem man

They are very subjective. And that is a problem you have mentioned and that one has to deal with.

umgehen müsste.

would have to deal with.

Wenn ich mir eine visuelle Aufzeichnung der Vernehmung vorstelle. KI ist schlau, haben

When I imagine a visual recording of the interrogation. AI is smart, having

wir gelernt. KI ist auch so schlau, einen Gesichtsausdruck beispielsweise zu interpretieren, den ich in

we learned. AI is also smart enough to interpret a facial expression, for example, that I in

der schriftlichen Notiz nicht habe. Kommen wir dahin demnächst?

I do not have the written note. Are we going there soon?

Es ist unheimlich schwierig. Tatsächlich funktionieren die sogenannten Sentimentale,

It is incredibly difficult. In fact, the so-called sentimental ones work.

Sentimentanalysen, die wir im Moment machen können, hauptsächlich bei weißen, männlichen

Sentiment analyses that we can currently perform, primarily on white males.

Personen. Dunkelhäutige Asiaten funktionieren halt gar nicht. Bei Frauen ist es halt auch

People. Dark-skinned Asians just don't work at all. With women, it's just the same.

sehr schwierig. Da sieht man halt, was für eine Schiefe das Trainingsmaterial dahinter

Very difficult. You can see how skewed the training material behind it is.

hat. Da würde ich nicht sagen, dass das eine schlaue Lösung ist.

has. I wouldn't say that this is a smart solution.

Da reden wir dann auf dem nächsten Anwaltstag drüber. Herzlichen Dank.

We'll talk about that at the next attorney day. Thank you very much.

ARD Text im Auftrag von Funk

ARD text on behalf of Funk