Jurafunk 162: (Nicht alles) über KI, generative KI, Datenschutz und Urheberrecht

Ja, herzlich willkommen zu einer neuen Ausgabe vom Jurafunk, im Internet zu finden auf jurafunk.de, aber jetzt auch EU.

Yes, a warm welcome to a new edition of Jurafunk, available on the internet at jurafunk.de, but now also in the EU.

Und wir sind heute an einer besonderen Stelle, mit besonderem Publikum, mit besonderen Leuten.

And we are today in a special place, with a special audience, with special people.

Und wir sind einmal, mein Name ist Henry Krasemann, ich bin Jurist, war eine Aufsichtswürde für den Datenschutz,

And we are once, my name is Henry Krasemann, I am a lawyer, I was a supervisory authority for data protection,

aber heute in privater Situation hier, alles was ich sage, er hat sich einfach mal ausgebucht.

But today in a private situation here, everything I say, he has just checked out.

Genau, also alles was ich sage, kann nicht meinem Arbeitgeber vorgehalten werden.

Exactly, so everything I say cannot be held against my employer.

Dann zu meiner Rechten, Stefan Dirks, wer bist du denn?

Then to my right, Stefan Dirks, who are you?

Eigentlich machst du mal andersrum, aber ich bin Stefan Dirks, ich bin Jurist und ich mache viel Urheberrecht. Hallo.

Actually, you do it the other way around, but I am Stefan Dirks, I am a lawyer and I deal a lot with copyright law. Hello.

Hallo.

Hello.

Macht was mit Medien, glaube ich.

Does something with media, I believe.

Ich mache was mit Medien.

I work with media.

Und Benjamin Walczak.

And Benjamin Walczak.

Genau, ich arbeite als Informatiker bei einer Datenschutzaufsichtsbehörde und kümmere mich dort auch um das Thema Künstliche Intelligenz und Datenschutz.

Exactly, I work as a computer scientist at a data protection supervisory authority and I also deal with the topic of artificial intelligence and data protection there.

Die hier nicht genannt wird.

Which is not mentioned here.

Das ist so wie bei irgendwelchen Spielshows von einem mittelständischen Unternehmen oder so.

It's like in some game shows from a medium-sized company or something.

Es gibt auch andere Datenschutzbehörden in Hamburg, die wir auftragen.

There are also other data protection authorities in Hamburg that we will assign.

Ja, aber in Schleswig-Holstein gibt es nur eine.

Yes, but in Schleswig-Holstein there is only one.

In Schleswig-Holstein und in Bayern gibt es, glaube ich, auch noch jemanden.

I believe there is also someone in Schleswig-Holstein and Bavaria.

Sie ahnen schon, worum es geht, es stand ja auch draußen dran.

You already suspect what it's about; it was written outside as well.

Nämlich um KI, ein Thema, über das man sicherlich auch noch länger als dreiviertel Stunde reden kann.

Namely about AI, a topic that one could certainly talk about for longer than three-quarters of an hour.

Wir sind, für alle, die das jetzt hier gerade natürlich nicht in diesem Raum mitverfolgen, auf einer öffentlichen Veranstaltung, nämlich dem Barcamp in Kiel.

We are, for everyone who is of course not following this here in this room, at a public event, namely the Barcamp in Kiel.

Das gibt es jetzt in der 13. Auflage dieses Jahr und wir dürfen das schon seit vielen Jahren auch mit dem Jurafunk begleiten, haben auch mal Pause gemacht damit.

This is now available in the 13th edition this year, and we have been able to accompany it with Jurafunk for many years, although we have also taken a break from it.

Aber eben heute vor Publikum und jetzt gucken wir mal, ob wir das auch können, wenn jemand guckt.

But just today in front of an audience, and now let's see if we can do it when someone is watching.

Genau, und weil wir schon so oft das gemacht haben hier, Henry, wissen wir auch, Henry, das Barcamp möchte gegrüßt werden, also kein Sie mehr ab jetzt.

Exactly, and since we've done this so many times here, Henry, we also know, Henry, that the Barcamp wants to be greeted, so no more formal address from now on.

Ja, ich weiß, das schön ist, KI kann das ja alles ummodeln.

Yes, I know, that's nice, AI can reshape all of that.

Da können wir ja alles draus machen, was Sie sagen und ihr sagt.

We can make anything out of it, based on what you say and what she says.

Deswegen habe ich gesiezt.

That's why I used the formal "you."

Wahrscheinlich ja, ne? Ja, das ist Beamter, da muss man.

Probably yes, right? Yes, that's an official, you have to.

Aber nichtsdestotrotz, wir wollen anfangen, es geht um KI und ich sage ja schon, es ist natürlich ein wahnsinnsausuferndes Thema.

But nonetheless, we want to start; it's about AI, and I have to say that it is, of course, an incredibly vast topic.

Es ist wahnsinnig modisch seit Jahren.

It has been incredibly fashionable for years.

Jetzt aber hat natürlich so seit zwei Jahren so einen richtigen Drive bekommen und ist insbesondere in ganz unterschiedlichen Facetten immer noch sehr, sehr relevant und immer noch sehr, sehr ungeklärt.

But now, of course, it has really gained momentum over the past two years and is still very, very relevant in many different facets and remains very, very unclear.

Das macht das Ganze eigentlich gerade auch so spannend, nämlich einmal im Datenschutzbereich.

That actually makes the whole thing quite exciting, particularly in the area of data protection.

Deswegen freue ich mich, dass Benjamin sich heute bereit erklärt, hier so ein bisschen was zu erzählen, wie da so der Stand ist mit der Forschung, mit der Aufsicht.

That’s why I’m happy that Benjamin has agreed to share a little bit today about the current state of research and supervision.

Aber eben gerade auch, was den Urheberrechtsbereich angeht, da wird Stefan sicherlich gleich ein bisschen noch was dazu sagen.

But especially regarding copyright, Stefan will surely say a bit more about that shortly.

Das Ganze hat ja auch durchaus unterschiedliche Facetten.

The whole thing certainly has different facets.

Einmal diese Systeme, Chat-GBT und was man ja dann so kennt, werden ja aus Daten erst mal erzeugt, die im Zweifel oftmals eben doch was mit Personenbezug hatten, weil sie irgendwo im Netzbagger bondieren,

Once these systems, Chat-GPT and what one is usually familiar with, are generated from data that often had a personal reference, because they are somewhere aggregating on the web.

die gegebenenfalls urheberrechtlich relevant sind, weil es Artikel sind von irgendwelchen Zeitungen, weil es Bilder sind, die irgendjemand erstellt hat, der Rechte daran hatte.

which may be relevant to copyright because they are articles from various newspapers, because they are images created by someone who had rights to them.

Das zweite, die zweite Komponente ist und da verlässt uns schon das erste.

The second, the second component is and there we already leave the first.

Siehst du, das ist so für Hunde und KI ist noch nicht so.

You see, that's the way it is for dogs, but AI is not like that yet.

Das ist erst ein Thema für die Zukunft, sehe ich.

That's only a topic for the future, I see.

Die zweite Facette ist sozusagen, wenn diese Systeme eingesetzt werden, gibt es eben auch Probleme.

The second facet is, so to speak, that when these systems are used, there are also problems.

Was ist denn mit den Rechten, die jetzt dort erzeugte Bilder für einen bedeuten?

What does it mean for the rights related to the images generated there now?

Darf ich diese Lieder, die da erzeugt werden, gerade im Netz, Talerhune oder wie das Ding ist, dieses eine Lied, das da KI-mäßig sogar in die Charts gegangen ist.

May I use these songs that are being produced online, Talerhune or whatever that thing is, that one song that even made it into the charts through AI?

Wer hat da die Rechte denn nun?

Who has the rights now?

Wer ist die Stimme denn dahinter?

Who is the voice behind it?

Und aber auch aus Datenschutzsicht die Problematik, wie sieht es denn aus, wenn ich diese Sachen jetzt einsetze?

But also from a data protection perspective, the issue is how does it look when I implement these things now?

Und Leute wieder erkennen lasse oder erkennen lasse, na, wer auf dem Bahnhof oder Flughafen behält sich denn oder vielleicht heutzutage eher auch auf diesem Volksfest seltsam?

And let people recognize again, or recognize, well, who keeps themselves at the train station or airport, or maybe nowadays rather at this folk festival, strangely?

Wer könnte davon vielleicht mit KI-Energie vorher schon, bevor er irgendwelche Taten begeht, identifiziert werden?

Who could perhaps be identified in advance with AI energy before committing any acts?

Alles Dinge, die wahnsinnig unsere Zukunft sicherlich begleiten werden und Fragen, die entweder man später dann auf das Ergebnis kommt und sagt,

All things that will certainly accompany our future and questions that one will either come to later with the result and say,

ach Mensch, hätten wir doch am Anfang mal drüber geredet.

Oh man, if only we had talked about it at the beginning.

Dann hätten wir es vielleicht lösen können, dann wäre das Kind nicht in den Brunnen gefallen.

Then we might have been able to solve it, the child wouldn't have fallen into the well.

Ja, dann könnte man sagen, wir haben es heute zumindest schon mal angefangen und versucht, zumindest auch in diesem Rahmen.

Yes, then one could say that we have at least started it today and tried, at least in this context.

Und damit würde ich gleich mal weitergeben oder mal an Benjamin die Frage stellen, wie sieht es denn aus?

And with that, I would like to pass on the question to Benjamin: how does it look?

Du bist ja nur bei einer Aufsichtsbehörde für den Datenschutz in Schleswig-Holstein, die nicht genannt werden möchte oder darf natürlich.

You are only at a data protection supervisory authority in Schleswig-Holstein, which does not want or is not allowed to be named, of course.

Aber ist das Thema bei euch, bei uns?

But is the topic relevant for you, for us?

Ja, ist es jetzt aktuell natürlich einfach, weil es durch die KI-Verordnung ein neues Gesetz,

Yes, it is currently straightforward because there is a new law due to the AI regulation.

gibt, auf das man reagieren muss, aber schlichtweg auch wahnsinnig viele Fragen, die geklärt werden müssen im Datenschutz.

There are many things that require a response, but there are also simply countless questions that need to be clarified in data protection.

Wir haben uns allerdings in den Aufsichtsbehörden, und da weise ich immer darauf hin, schon 2019,

However, we have already been in the supervisory authorities, and I always point this out, in 2019.

also noch vor irgendwelchen Hypes rund um Techie-Biti und so weiter, schon sehr intensiv mit künstlicher Intelligenz beschäftigt,

so even before any hypes around techie-biti and so on, already very intensively involved with artificial intelligence,

haben dort zwei größere Papiere herausgegeben, die auch ihre Aktualität immer noch haben.

They published two larger papers there, which are still relevant today.

Und die Probleme, die wir damals aufgezeigt hatten in Richtung Transparenz,

And the problems we pointed out back then regarding transparency,

in Richtung Wahrnehmung von betroffenen Rechten und Ähnlichem, die sind auch bis heute noch sehr aktuelle Fragestellungen.

Regarding the perception of affected rights and similar matters, these are still very relevant issues today.

Was sind denn die Probleme?

What are the problems then?

Ganz kurz, was ist denn künstliche Intelligenz?

In short, what is artificial intelligence?

Das ist ja auch mal so ein Punkt, den man vielleicht mal vorab ganz grob besprochen haben soll,

That's also a point that perhaps should have been discussed roughly in advance.

weil es da ja auch Streitigkeiten so ein bisschen gibt.

because there are also some disputes there.

Wie ist die Definition eigentlich? Was gehört rein?

What is the definition actually? What should be included?

Also ist jetzt schon ein Mixer, der einfach weitermixt, wenn ich aus dem Raum gehe und deswegen ja irgendwie selbstständig handelt,

So there is now a blender that just keeps mixing when I leave the room and therefore acts somewhat independently,

ist das künstliche Intelligenz? Wahrscheinlich nicht.

Is that artificial intelligence? Probably not.

Ist ein Algorithmus,

Is an algorithm,

wo ich drei plus vier ausrechnen lasse als Rechenaufgabe.

where I have three plus four calculated as a math problem.

Ist das KI? Nee, sicherlich auch nicht.

Is that AI? No, certainly not.

Aber die Frage ist, was ist es?

But the question is, what is it?

Also ich glaube, die gängige Definition hat so einen Autonomie-Aspekt mit drin und das maschinelle Lernen,

Well, I think the common definition includes an aspect of autonomy and machine learning.

also selbstständiges Lernen, glaube ich.

So self-directed learning, I believe.

Selbstständiges, ja, letztlich sich verbessern bei der Lösung bestimmter Probleme.

Independent, yes, ultimately improving itself in solving certain problems.

Das ist, glaube ich, im Kern mit drin.

I believe that's at the core of it.

Ja, genau. Das ist die Definition.

Yes, exactly. That is the definition.

Also wir größtenteils, glaube ich, haben,

Well, mostly, I think we have,

wir haben uns im Datenschutz auch darauf geeinigt, dass wir halt die Definition aus der KI-Verordnung nehmen,

We have also agreed in data protection to take the definition from the AI regulation.

einfach weil die halt jetzt schon da ist und die beinhaltet genau solche Sachen,

just because it's already there now and it includes exactly such things,

nämlich dass da halt schon ein Aspekt von Autonomie und Unvorhersagbarkeit mit dabei sein muss

namely that there must be an aspect of autonomy and unpredictability involved.

und halt dieser Lernaspekt, der dann halt mit dabei ist.

and this learning aspect that is included as well.

Ansonsten ist es total schwierig, weil das ist mir immer als Informatiker ganz wichtig,

Otherwise, it is really difficult because that has always been very important to me as a computer scientist,

künstliche Intelligenz ist halt nicht nur diese Chatbots, die jetzt irgendwie sehr viel genutzt werden,

artificial intelligence is not just these chatbots that are now being used a lot,

sondern da gibt es halt eine ganz, ganz riesengroße Palette an Möglichkeiten,

but there is just a very, very huge range of possibilities,

wo künstliche Intelligenz eingesetzt werden kann.

where artificial intelligence can be used.

Bildgenerierung ist ja vielleicht auch noch ein bisschen bekannter

Image generation is perhaps a bit more well-known as well.

und also sozusagen diese generativen Systeme, die halt irgendetwas erzeugen,

and so to speak these generative systems that create something,

was sozusagen in irgendeiner Form kreativ ist.

that is, so to speak, creative in some form.

Aber es gibt Bilderkennungssysteme.

But there are image recognition systems.

Wir haben wahrscheinlich alle KI oder viele haben KI irgendwie mit Fingerabdrucksensor oder ähnlichem

We probably all have AI or many have AI somehow with fingerprint sensors or similar.

oder Iris-Scan.

or iris scan.

Wir haben Smartphone mit drin.

We have a smartphone included.

Das sind alles solche Systeme, die da auch mit dazu gehören.

These are all such systems that are also part of it.

Aber bis halt in die Medizin hinein, wo man halt irgendwie Röntgenaufnahmen

But then into medicine, where you somehow have X-rays.

offensichtlich ganz gut auch mit KI-Systemen analysieren kann

obviously can analyze quite well with AI systems

und da auch dann tatsächlich zu sehr guten Ergebnissen kommt.

and that indeed leads to very good results.

Plus noch alles, was irgendwie nichts mit Personen zu tun hat,

Plus anything else that has nothing to do with people.

irgendwie Umweltdaten analysieren oder ähnliches.

Somehow analyze environmental data or something similar.

Da geht dann die KI-Verordnung vielleicht rein.

Then the AI regulation might come into play.

Das interessiert uns Datenschützerinnen und Datenschützer dann halt wenig.

That matters little to us data protection officers.

Und was natürlich den Datenschutz, denke ich, ganz im Kern interessiert,

And what of course interests data protection, I think, is at its very core,

sind ja die riesigen Datenmengen, die erstmal in so eine KI rein müssen.

These are the huge amounts of data that first need to be fed into such an AI.

Das ist ja eigentlich der Punkt.

That's actually the point.

Du hast ja gerade gesagt, generative KI, das ist alles, das irgendwie kreativ ist,

You just said that generative AI is anything that is somehow creative.

wo meinetwegen ein Bild hinten rauskommt oder ein Text.

where, for my part, a picture comes out at the back or a text.

Da müsstest du eigentlich sagen scheinbar kreativ,

Then you should actually say seemingly creative,

weil tatsächlich ist einfach ein riesen Datenschatz,

because it really is just a huge treasure trove of data,

der neu verknüpft wird, mit Wahrscheinlichkeiten operiert.

that is newly linked, operates with probabilities.

Und das ist ja letztlich das, wo ihr dann eben auch als Aufsichtsbehörden ins Spiel kommt.

And that is ultimately where you, as supervisory authorities, come into play.

Ja, genau.

Yes, exactly.

Also dafür, dass das so ist,

Well, for it to be like that,

dafür, dass zum Beispiel irgendeine Bildgenerierungs-KI nachher Bilder generieren kann,

for the fact that, for example, some image-generating AI can generate images afterwards,

die so aussehen, als ob da ein Mensch drauf ist,

that look like there is a person on them,

mit einem Gesicht und hoffentlich auch fünf Fingern,

with a face and hopefully also five fingers,

dann muss ja davor schon es entsprechend viele Bilder gegeben haben von richtigen Menschen,

then there must have already been a corresponding number of pictures of real people before that,

die dann in dieses System eintrainiert wurden.

that were then trained into this system.

Und natürlich ist dann halt irgendwo immer die Frage,

And of course, there's always the question somewhere,

kann das sein, dass dort dann auch eine Person auf einmal wieder zu erkennen ist?

Could it be that a person can suddenly be recognized there as well?

Mit Promis klappt das zum Beispiel relativ gut,

It works relatively well with celebrities, for example.

dass diese Systeme, die dann auch wiedergeben können,

that these systems, which can then also reproduce,

da muss man halt auch wieder darüber diskutieren,

then one has to discuss it again,

ist das okay oder ist das nicht im Vergleich zu normalen Menschen.

Is that okay or is that not compared to normal people?

Und auch genauso ist es natürlich so,

And it is just the same, of course,

dass es zu einzelnen Personen auch Informationen gibt,

that there is information available about individual persons,

die aus zum Beispiel so einem Chatbot herausgeholt werden können.

that can be extracted from, for example, such a chatbot.

Auch da relativ einfach, wenn man irgendwie prominente Personen haben will,

Also quite simple there, if you want to have somehow prominent people,

wahrscheinlich ein bisschen schwieriger, aber durchaus auch irgendwo.

Probably a little more difficult, but certainly somewhere as well.

Also es gibt Fälle, wo das irgendwie möglich war,

So there are cases where that was somehow possible,

auch zu einzelnen Personen dann halt auch dort Daten herauszuziehen.

to extract data about individual people there as well.

Also für mich ist es zumindest auch, also wenn ich es vergleiche,

So for me, at least, it is also, well, when I compare it,

in meiner Jugend gab es, Elisa glaube ich war das,

In my youth, I believe it was Elisa,

da waren die Medien voll mit, weil das begeisternd war.

The media were full of it because it was exciting.

Das war einfach ein System, da konnte ich mit denen mich unterhalten.

That was simply a system where I could communicate with them.

Das ist wirklich schon viele Jahre her, Jahrzehnte her.

That was really many years ago, decades ago.

Und die Leute, die sich versucht haben, mit diesem System zu unterhalten,

And the people who have tried to communicate with this system,

hatten das Gefühl, da würde ein echter Mensch reagieren.

had the feeling that a real person would respond.

Im Gegensatz aber zu den heutigen KI-Systemen

In contrast to today's AI systems

war das sehr simple Taschenspiel-Trickserei.

That was very simple sleight of hand tricks.

Weil das System einfach sehr einfache Arten,

Because the system simply has very simple forms,

also hat einfach nur geguckt, wo ist das Hauptwort in dem Satz

So just looked to see where the noun is in the sentence.

und hat dann sowas gesagt wie, erzähl mir mehr zu Autos.

and then said something like, tell me more about cars.

Oder wenn ich da geschrieben habe, ich wollte mir ein neues Auto kaufen und so.

Or if I wrote there that I wanted to buy a new car and so on.

Und dann versucht es eben eigentlich an bestimmten Stichworten

And then it actually tries to focus on certain keywords.

und das mit einem sehr einfachen Algorithmus war das damals,

and that was back then with a very simple algorithm,

ohne dass da viel Magie hinter war,

without there being much magic behind it,

wirklich dann eigentlich den Menschen so ein bisschen da dran zu halten

really to keep people a little bit there to it

und ein bisschen Bauch zu pinseln.

and to stroke a little belly.

Also das war keine KI aus heutiger Sicht.

So that was not AI from today's perspective.

Für mich war sozusagen persönlich,

For me, it was sort of personal.

auch wenn es natürlich in der Verordnung dann auch die Definition gibt,

even if there is of course the definition in the regulation,

für mich ist es sozusagen ab dem Punkt dieses System KI, wo man sagt,

For me, it is sort of from the point where one says this system is AI.

das kann keiner mehr mit einfachen Mitteln vorhersagen,

nobody can predict that anymore with simple means,

was da jetzt gerade passiert.

What's happening right now.

Es ist natürlich keine Magie, klar, da sind Algorithmen auch hinter.

Of course, it's not magic; it's clear that there are algorithms behind it as well.

Aber wir haben ein System oder wir haben Systeme,

But we have a system or we have systems,

wo auch die Erschaffer nicht sagen können,

where even the creators cannot say,

ah ja, wenn du das eingibst, dann wird das rauskommen.

Ah yes, when you enter that, then that will come out.

Sondern es kommt was raus, was man nicht mehr mit unseren,

But something comes out that can no longer be associated with our,

zumindest erstmal kognitiven Fähigkeiten, so vorhersagen kann.

at least initially cognitive abilities, can predict like this.

Und zwar auch beim selben Prompt.

And indeed also with the same prompt.

Also die Eingabeaufforderung, die man macht.

So the prompt that one makes.

Chat-GPT oder Open-Art, was immer.

Chat-GPT or Open-Art, whatever.

Erzeugen wir mal ein Bild von Donald Trump, wie er einen Aluhut aufhat.

Let's create an image of Donald Trump wearing a tin foil hat.

Das macht man zwei Mal und hat zwei bestimmte Ergebnisse.

You do that twice and get two specific results.

Aber wenn wir jetzt zum Datenschutz der Problematik kommen,

But when we now come to the data protection issue,

fragt man sich ja vielleicht auch,

one might also wonder,

wo bin ich da jetzt betroffen oder was ist da?

Where am I affected by this or what is going on?

Diese Systeme machen ja keinen Halt.

These systems don't stop at anything.

Erstmal nehmen sie ja alles, was sie erstmal kriegen konnten.

First of all, they take everything they can get for now.

Oder war zumindest erstmal so.

Or at least it was that way for a while.

Das heißt, es waren jetzt eben nicht nur,

That means, it wasn't just now,

das ist eher die Urheberrechtsfrage, von irgendwelchen Zeitungen, Berichten,

that's more the question of copyright, from some newspapers, reports,

sondern das können auch private Blogs gewesen sein.

but those could also have been private blogs.

Das können auch private Nachrichtendiskussionen in,

This can also include private message discussions in,

also soweit sie dann öffentlich gestaltet waren,

as far as they were then publicly designed,

bei Facebook und so weiter und so weiter gewesen sein.

been on Facebook and so on and so forth.

Und ist es heute noch so?

And is it still like that today?

Werden diese Informationen gesammelt?

Are these information collected?

Sind da Namen drin?

Are there names in there?

Also könnte ich nach Henrik Rasemann zum Beispiel suchen?

So I could search for Henrik Rasemann, for example?

Ja, es kommt immer ein bisschen auf das System drauf an.

Yes, it always depends a bit on the system.

Also wir jetzt sozusagen allgemeine Wahllote nicht eins zu eins

So we are now talking about general electoral lots, not one to one.

irgendwie besonders herausgreifen.

somehow stand out.

Aber erstmal, es gibt halt diese großen Webcrawler-Dienste,

But first, there are these large web crawler services,

die dann halt diese riesen Datenbanken anlegen,

which then just create these huge databases,

in denen dann Trainingsdaten drin sind.

in which training data is contained.

Und dort wären dann halt alle Daten,

And there would be all the data,

die sozusagen im Internet drinstehen,

which are so to speak written on the Internet,

halt auch dementsprechend dann auch dort dabei.

"Also participate there accordingly."

Und das kann natürlich schon sein,

And that can certainly be the case,

dass da auch zum Beispiel über dich irgendwo Informationen stehen,

that there is also information about you somewhere, for example,

die dann auch mit Klarnamen zu finden wären.

which could then also be found under real names.

So, und dann werden diese Daten häufig bei den größeren Anbietern

So, and then this data is often used by the larger providers.

von solchen Large Language Models,

of such large language models,

werden die dann halt häufig noch einmal kuratiert.

they are often curated again.

Also dass man versucht, da irgendwie ein paar Personenbezüge herauszunehmen.

So that one tries to somehow extract a few personal references from it.

Die wollen auch andere Sachen rausnehmen.

They also want to take out other things.

Also, weiß nicht, ich sag mal,

Well, I don't know, I would say,

Erwachseneninhalte aus Texten wollen sie auch nicht so gerne mit dabei haben.

They also don't want to have adult content from texts included.

Und ähnliche.

And similar.

Sie wollen keine Bombenbauanleitung,

They don't want a bomb-making manual,

die es wahrscheinlich auch in diesen gecrawlten Sachen gibt.

which probably also exists in these crawled things.

Also da versuchen sie schon,

So they're definitely trying,

soweit wir das sehen können,

as far as we can see,

was sie selbst darüber Auskunft geben,

what they themselves say about it,

versuchen sie schon, die Trainingsdaten ein wenig zu bearbeiten.

Try to edit the training data a bit.

Und dann werden sie halt zum Training genutzt.

And then they are just used for training.

Und dann gibt es halt alles Mögliche an weiteren Möglichkeiten.

And then there are all sorts of other possibilities.

Also erstens wird im Training dann halt nochmal mit Menschen darauf trainiert,

So first of all, in the training, it is then trained again with people on that,

dass zum Beispiel keine personenbezogenen Daten

that, for example, no personal data

oder Bombenbauanleitungen rausgegeben werden sollen.

or bomb-making instructions should be released.

Und dann gibt es halt noch Filter, die den Prompt filtern,

And then there are filters that filter the prompt,

die die Ausgabe nochmal filtern, wo man guckt, irgendwie kriegen wir es hin.

We'll filter the output again, we'll see, somehow we'll manage it.

Oder mit Direktiven im System selbst irgendwie da so viel an Dingen schon mal zu regeln,

Or to somehow regulate so many things directly within the system itself,

dass da die Ausgabe nachher am Ende nicht so schlimm ist.

that the expense at the end is not so bad after all.

Das funktioniert sozusagen im Normalfall.

This generally works in normal cases.

Allerdings gibt es nun durch die Forschung und dadurch,

However, there is now through research and thus,

dass sich jetzt sehr viele Leute jetzt zum Beispiel

that a lot of people are now for example

mit solchen Chatbots gerade intensiv beschäftigt haben,

have been intensively dealing with such chatbots,

gibt es halt auch ganz viele Beispiele, wo es gelungen ist,

there are also many examples where it has been successful,

genau um solche Dinge drum rum zu kommen.

Exactly to avoid such things.

Und genau diese Schutzmechanismen in irgendeiner Form auszutricksen,

And to outsmart these protective mechanisms in some way,

das sind manchmal sehr kreative Möglichkeiten,

these are sometimes very creative possibilities,

wo man gar nicht denkt, wie kommt man irgendwie auch darauf,

where you wouldn't even think, how does one come up with that somehow,

dass es auf dem Weg funktionieren könnte.

that it could work along the way.

Aber es funktioniert dann und dann werden auf einmal

But it works then, and all of a sudden...

komische Informationen rausgegeben oder es werden,

funny information issued or there will be,

personenbezogene Daten rausgegeben und wir haben das auch bei uns,

personal data was released and we have that with us too,

wir spielen auch immer ein bisschen mit darum,

we always play a little with it too,

wir haben zum Beispiel solche Chatbots dazu gebracht,

we have, for example, trained such chatbots to

dass sie auch tatsächlich mal Schimpfwörter rausgeben,

that they actually do let out some swear words,

was sie normalerweise nicht machen.

what they normally do not do.

Der Weg da war ganz einfach, dass wir ihm vorgespielt hatten,

The way there was quite simple: we had pretended to him,

es gäbe schon einen Chatverlauf, in dem er uns schon ein paar Mal

There would already be a chat history in which he has already...

Schimpfwörter genannt hätte und ihm gesagt hätte,

would have called him bad names and told him,

jetzt nenn nochmal fünf weitere.

Now name five more.

Und dann hatte er offensichtlich so den Modus, naja, ich hab ja schon.

And then he obviously had the mindset of, well, I already have it.

Und das hat funktioniert.

And that worked.

Also irgendwann hat es aufgehört.

Well, at some point it stopped.

Wir haben jetzt auch keine allzu schlimmen Sachen

We don't have anything too bad right now either.

mit Bombenbauanleitungen und so weiter gemacht.

made with bomb-making instructions and so on.

Aber es gibt halt Mittel und Wege, irgendwie da ranzukommen.

But there are ways and means to somehow get there.

Und es ist halt wie immer so ein Katz-Hort-Maus-Spiel.

And it's always like a cat-and-mouse game.

Die einen finden auf einmal wieder einen Weg,

Some suddenly find a way again,

dann wird der zugemacht und man macht noch einen Filter

then it gets sealed and another filter is made

oder noch irgendeine Regel, die das ausschließt.

or any other rule that excludes it.

Aber dann kommt halt die nächste Idee um die Ecke.

But then the next idea just comes around the corner.

Ganz kurz noch, es gibt ja einen Fall,

Just briefly, there is a case,

der ja auch durch die Presse gegangen ist, eines Journalisten,

which has also gone through the press, of a journalist,

der über Kinderschänder berichtet hat.

who reported about the child abuser.

Und ich glaube, Witwenbetrüger stand da drin.

And I believe widow fraudsters were mentioned in there.

Und das KI-System hat dann daraus gemacht,

And the AI system then turned it into,

dass er der Kinderschänder sei und der Witwenbetrüger.

that he is the child molester and the widow's deceiver.

Also er wurde dann in diesem System damit,

So he was then in this system with that,

ich glaube, man hat dann daraus eine Nachricht erzeugt.

I believe that a message was then generated from it.

Und da war er dann plötzlich der Täter

And then suddenly he was the perpetrator.

und nicht mehr der Autor des Artikels.

and no longer the author of the article.

Und das wäre ja wahrscheinlich auch eine klassische,

And that would probably also be a classic,

ja, ist es eine Personenrechtsverletzung?

Yes, is it a violation of personal rights?

Ich meine, der fühlt sich natürlich da

I mean, he naturally feels it there.

also wird sich nicht darüber glücklich gezeigt haben.

So it would not have shown itself to be happy about that.

Kann man da als Datenschutzaufsichtsbehörde was gegen tun?

Can a data protection authority do something about that?

Könnt ihr dagegen vorgehen?

Can you take action against it?

Ja, das wären dann ja die klassischen Betroffenenrechte.

Yes, those would then be the classic rights of the affected parties.

Also so etwas darf halt da nicht mit einer falschen Information stehen

Such a thing should not be allowed to stand with incorrect information.

und rausgegeben werden.

and be issued.

Das ist natürlich technisch einmal total schwierig,

That is of course technically very difficult.

weil es gibt keine guten Verfahren,

because there are no good procedures,

für die gerade diese Sprachmodelle jetzt etwas wegzutrainieren

to train away these language models a bit now

oder Unlearning nennt man das.

Or unlearning is what it's called.

Das ist halt sehr schwierig.

That is just very difficult.

Das heißt, da könnte man wahrscheinlich nur mit irgendwie wieder filtern,

That means, one could probably only filter it again somehow.

aber die müssten dann halt auf diese eine Person ausgerichtet sein.

but they would need to be focused on that one person.

Und auch dann kann man halt wieder es hinbekommen,

And even then, you can manage it again.

dass man die wahrscheinlich umgehen kann, wenn man es will.

that one can probably avoid them if one wants to.

Das heißt, so ein richtig klassisches

That means, a really classic one.

löscht das, korrigiert das,

delete that, correct that,

wie wir das halt aus der Datenschutzgrundverordnung kennen,

as we know it from the General Data Protection Regulation,

ist halt technisch gar nicht so einfach umzusetzen.

It's simply not that easy to implement technically.

Nichtsdestotrotz besteht natürlich der Anspruch.

Nevertheless, the claim certainly exists.

Das heißt, wir haben da hohe Anforderungen an diese Systeme,

That means we have high demands on these systems.

dass die in die Richtung in irgendeiner Form verbessert werden

that it be improved in some way in that direction

oder dass man sich halt neue Wege überlegt,

or that one simply thinks of new ways,

wie man so mit solchen Dingen umgehen kann.

how one can deal with such things.

Also, wenn es in einer Zeitung drinsteht,

So, if it's in a newspaper,

die schon veröffentlicht wurde,

which has already been published,

dann wird ja der Verleger oder die Verlegerin auch nicht dazu verpflichtet,

then the publisher will not be obliged to do so either,

alle Zeitungsexemplare irgendwie zurückzuholen,

to retrieve all copies of the newspaper in some way,

sondern man muss eine Gegendarstellung machen.

but one must make a counterstatement.

Also auch das wäre ja so eine Frage,

So that would indeed be a question,

ob man mit so etwas dann wieder dazu kommen würde.

whether one would then come back to something like that.

Nur stellt sich dann halt für mich praktisch die Frage,

But then the question practically arises for me,

wie sieht eine Gegendarstellung bei einem KI-System aus?

What does a rebuttal look like in an AI system?

Also, werden jetzt alle Nutzerinnen und Nutzer

So, will all users now

von einem Chatbot irgendwie dann einmal damit beglückt?

somehow blessed by a chatbot?

Übrigens, gestern haben wir folgende Falschmeldung rausgegeben.

By the way, yesterday we issued the following false report.

Das wollten wir noch einmal richtigstellen.

We wanted to clarify that once again.

Das wäre auch eine Frage, die mich interessieren würde.

That would also be a question that would interest me.

Also, wie geht ihr denn mit solchen Anzeigen, Hinweisen um,

So, how do you deal with such advertisements, notices?

wenn so etwas passieren würde?

What if something like that were to happen?

Jetzt mal der gedachte Fall oder der tatsächliche Fall von Henry.

Now let's consider the hypothetical case or the actual case of Henry.

Also, wie du gerade schon deutlich machtest,

So, as you just clearly pointed out,

irgendwelche Verfügungen rauszuschicken bringt nicht viel.

Sending out any directives doesn't do much.

Möglicherweise sind die gar nicht durchführbar und umsetzbar.

They may not be feasible or implementable at all.

Nehmt ihr Kontakt zu den entsprechenden Anbietern auf?

Are you contacting the relevant providers?

Oder wie kann ich mir das vorstellen?

Or how should I imagine that?

Wie läuft die Fähigkeit der Aufsichtsbehörde in so einem Fall?

How does the authority's ability work in such a case?

Wir hatten den Fall bisher noch nicht.

We have not had the case so far.

Also, dass jemand tatsächlich dann aktiv sich an uns gewandt hat.

So, that someone actually reached out to us actively.

Aber in dem Fall, ja, es ist halt wieder eine Schwierigkeit.

But in that case, yes, it is again a difficulty.

Das sind halt multinationale Konzerne,

These are just multinational corporations,

meistens dann mit irgendeinem Firmensitz außerhalb der EU.

usually with some company headquarters outside the EU.

Und dann haben sie ihren Sitz in der EU, dann in Irland.

And then they have their base in the EU, then in Ireland.

Und dann haben wir mal wieder mit unseren irischen Kolleginnen

And then we once again had a meeting with our Irish colleagues.

und Kollegen zu tun, mit denen man so etwas besprechen müsste.

and colleagues who one would have to discuss something like that with.

Und da gibt es halt, soweit ich das überblicke,

And there are, as far as I can see,

irgendwie bisher noch keinen guten, gangbaren Weg.

Somehow, there has been no good, feasible way so far.

Andere Sache, die ich mich gerade noch fragte.

Another thing I was just wondering about.

Also, letztlich führt Datenschutz in dem Bereich natürlich dazu,

So, ultimately, data protection in this area naturally leads to,

dass letztlich Daten unterdrückt werden.

that ultimately data is suppressed.

Das kann ja auch richtig sein.

That can also be correct.

Wenn man sagt zum Beispiel, wir wollen Personenbezüge rausnehmen.

For example, when one says we want to remove personal references.

Ist die Frage ein Thema bei euch,

Is the question a topic with you,

dass durch das Verschlechtern des Inputs in den KI-Body

that through the deterioration of the input in the AI body

möglicherweise auch der Output verschlechtert wird?

possibly also the output is deteriorated?

Also, dass solche Dinge, wie gerade Hendrik Schilders hat,

So, that such things, like Hendrik Schilders just has,

dass also zum Beispiel ein Sachverhalt verdreht wird,

that, for example, a fact is distorted,

auch damit zu tun haben kann,

can also have to do with,

dass bestimmte Daten verstümmelt im Body nur noch vorhanden sind.

that certain data is only mutilated in the body.

Ist das ein Thema?

Is that a topic?

Das ist echt schwierig, sozusagen im Nachhinein herauszufinden,

It's really difficult to find out, so to speak, in hindsight,

ob das daran gelegen haben könnte.

whether that could have been the reason.

Also, da müsste man sehr tief irgendwie da einsteigen,

So, one would have to really dive deep into that somehow.

weil man müsste erstmal in den ganzen Trainingsdaten suchen,

because you would first have to search through all the training data,

ob das da irgendwie sein könnte.

whether that could somehow be there.

Das könnte tatsächlich etwas sein.

That could actually be something.

Was von Seiten von großen KI-Anbietern natürlich schon gesagt wird,

What is already being said by major AI providers,

ist, dass sie halt sagen, naja, wenn wir zum Beispiel

is that they just say, well, for example,

in unserem KI-Modell eine Regel drin haben,

to have a rule in our AI model,

gibt keine personenbezogenen Daten raus,

does not disclose personal data,

dann muss dieses KI-Modell ja verstehen und erkennen,

then this AI model must understand and recognize,

was ein personenbezogenes Datum ist.

what a personal data is.

So, das heißt, es braucht irgendwie mal personenbezogene Daten.

So, that means it somehow requires personal data.

Es muss mal ein Geburtsdatum gesehen haben,

It must have seen a date of birth.

um zu wissen, wie ein Geburtsdatum aussehen könnte.

to know what a date of birth might look like.

Das heißt, wenn wir davor alle Geburtsdaten

That means if we have all the birth dates before that.

und alle Telefonnummern rausgeschmissen hätten,

and had thrown out all the phone numbers,

wüsste es gar nicht, dass es so etwas gibt

I wouldn’t even know that such a thing exists.

wie Geburtsdaten und Telefonnummern.

like birth dates and phone numbers.

Das heißt, also das ist tatsächlich eine schwierige Fragestellung, ja.

That means, well, that is actually a difficult question, yes.

Und wüsste ich jetzt auch nicht, wie man da ganz einfach irgendwie rankommt.

And I wouldn't know how to simply get access to that.

Wir haben ja gleich noch ein bisschen Zeit,

We still have a little time.

auch zum vielleicht diskutieren.

also to maybe discuss.

Deswegen, wir müssen ein bisschen in der Zeit auch jetzt,

That's why we need to go back a bit in time now.

wir haben nicht mehr so viel Zeit.

We don't have much time left.

Und wir wollen ja auch noch

And we also want to...

zum urheberrechtlichen Problematik kommen,

to address the copyright issue,

dass wir auch den Bereich noch mal besprechen,

that we will discuss that area again,

auch noch mal eine Viertelstunde.

another fifteen minutes as well.

Ja, Stefan, wie ist es denn?

Yes, Stefan, how is it?

Also, wie sieht es denn mit den Rechten von den Urhebern aus,

So, what about the rights of the authors?

wenn die da jetzt also ihre Werke glauben,

if they now believe their works,

in so einem Lied oder in so einem Bild

in such a song or in such a picture

irgendwie so ein bisschen wiederzuerkennen?

Somehow a bit recognizable again?

Da hat er sich aber doch schon sehr an mir orientiert.

He has really oriented himself towards me a lot.

Also, wie sind deine Erfahrungen?

So, how are your experiences?

Was gibt es da oder welche Rechtsfälle gibt es denn da?

What is there or what legal cases are there?

Gibt es da Klagen inzwischen?

Are there any lawsuits by now?

Also, ich würde mal so anfangen

So, I would start like this.

und einmal sozusagen aufspalten,

and once, so to speak, split.

in welchen Bereichen der Nutzung von generativer KI,

in which areas of the use of generative AI,

denn da sind wir jetzt,

because here we are now,

also die KI, die mit maschinellem Lernen

So the AI that uses machine learning

und autonom scheinbar kreativ was Neues erschafft.

and autonomously seems to create something new creatively.

Also, in welchen Bereichen das Urheberrecht betroffen ist.

So, in which areas copyright is affected.

Und das ist erstmal ganz einfach beim Input,

And that's quite simple at first with the input,

also beim Lernen, beim Scraping,

so when learning, when scraping,

das Internet, wie du eben sagtest,

the internet, as you just said,

wird ja sehr viel an Datenmaterial einfach eingesammelt.

A lot of data material is simply being collected.

Und beim Output natürlich.

And of course in the output.

Da ist die Frage, ist das, was hinten rauskommt,

The question is whether what comes out at the back is...

gehört das eigentlich irgendjemandem?

Does this actually belong to anyone?

Beim Input ist im Moment sehr viel unterwegs an Rechtsstreitigkeiten.

There is currently a lot going on in terms of legal disputes regarding the input.

Also, es gibt in den USA Klagen von Getty Images zum Beispiel

So, there are lawsuits from Getty Images in the USA, for example.

gegen Stability AI wegen der Nutzung von Bildmaterial,

against Stability AI for the use of image material,

also wegen des Aberntens.

So, regarding the harvesting.

Es gibt eine Klage der New York Times gegen, sag schnell.

There is a lawsuit from the New York Times against, say it quickly.

Auch mehr.

Even more.

Gegen Open AI.

Against Open AI.

Eben auch wegen des Abgreifens von Texten.

Also because of the grabbing of texts.

Es gibt ganz spannend in Deutschland im Moment ein Verfahren

There is an interesting procedure happening in Germany at the moment.

eines Stockfotografen, Herr Gnäschke,

a stock photographer, Mr. Gnäschke,

ich darf das sagen, weil er selber rausgegangen ist mit der Information,

I can say this because he himself went out with the information,

der also in einem großen Datensatz eines Vereins,

the one in a large dataset of an association,

nämlich Leon e.V. eigene Fotos wiedergefunden hat,

namely Leon e.V. has rediscovered its own photos,

der jetzt also klagt dagegen,

who is now therefore suing against it,

dass seine Fotos in diesem Body aufgelistet werden.

that his photos are listed in this body.

Aufgenommen werden, der dann später eben auch in KI-Verwendung findet.

To be recorded, which will later also be used in AI.

Und wenn wir das anschauen, dann ist sozusagen die Oberfrage,

And when we look at this, then the overarching question is,

der Obersatz liegt hier in dem Abgreifen von Material

The main statement lies here in the grabbing of material.

eine Urheberrechtsverletzung.

a copyright infringement.

Ja, und dann brauchen wir erstmal ein Werk,

Yes, and then we first need a factory,

was sozusagen in irgendeiner Weise benutzt wird.

which is used in some way, so to speak.

Und Fotografien, egal wie künstlerisch wertvoll die sind,

And photographs, no matter how artistically valuable they are,

sind eben geschützt, entweder als Werke oder als urheberrechtlich

are protected, either as works or as copyright.

ähnlich geschützte Leistung.

similarly protected service.

Also, Werk haben wir.

Also, we have a work.

Dann wird dir das Ganze eigentlich gut.

Then it will actually be good for you.

Dann wird dir das Ganze eigentlich genutzt in irgendeiner Weise.

Then the whole thing is actually used by you in some way.

Durch das Scrapen wird irgendwas getan,

Something is being done through scraping.

was dem Urheber sozusagen in seine Rechte eingreift.

that interferes with the author's rights, so to speak.

Wird man auch bejahen müssen, denn egal,

You will also have to affirm, because no matter,

ob man so ein Datum, so ein Bild verarbeitet und wieder löscht hinterher,

whether one processes such a date, such an image, and deletes it again afterwards,

es wird erstmal fotokopiert sozusagen, also vervielfältigt.

It is first photocopied, so to speak, that is, duplicated.

Ja, das wäre eine urheberrechtlich relevante Nutzungshandlung.

Yes, that would be a copyright-relevant use act.

Und die ist im Grundsatz nur dann zulässig,

And it is basically only permitted then,

wenn der Rechteinhaber auch zustimmt.

if the rights holder also agrees.

Also hier Herr Gnäschke, der Fotograf, müsste zugestimmt haben.

So here Mr. Gnäschke, the photographer, must have agreed.

Allerdings.

However.

Gilt so ein Urheberrecht nicht standenlos,

Does such a copyright not apply indefinitely?

gibt also Beschränkungen des Rechts,

therefore there are restrictions on the law,

das Dritten wieder erlaubt, sozusagen Werke zu nutzen,

to allow third parties, so to speak, to use works,

ohne den Urheber fragen zu müssen vorher.

without having to ask the author first.

Und der Gesetzgeber hat in einer ziemlich weisen Voraussicht

And the legislator, in quite a wise foresight,

vor Jahren bereits eine solche Ausnahme statuiert

established such an exception years ago

in § 44a Urheberrechtsgesetz,

in § 44a Copyright Act,

nämlich eine Ausnahme für Tax- und Datamining.

namely an exception for tax and data mining.

Also, wenn für bestimmte Analysezwecke

So, if for certain analytical purposes

es notwendig ist, dass Dinge kopiert werden,

it is necessary for things to be copied,

dann ist das zulässig, ohne den Urheber zu fragen.

then it is permissible to do so without asking the author.

Und die Frage, die jetzt gerade in Hamburg in diesem Verfahren

And the question that is currently at hand in Hamburg in this proceeding

Leon e.V. gegen Herrn Gnäschke diskutiert wird,

Leon e.V. is being discussed against Mr. Gnäschke,

ist eben, ist diese Schranke anwendbar?

Is this barrier applicable?

Man weiß es noch nicht. Entschieden ist noch nichts.

It is not known yet. Nothing has been decided.

Ja, also Verkündungstermin ist im September.

Yes, the announcement date is in September.

Da gibt es irgendwann ein Urteil.

At some point, there will be a verdict.

Aber das Gericht neigt wohl eher dazu zu sagen Ja.

But the court is more likely to say yes.

Ja, also diese Vorschrift der Beschränkung des Urheberrechts

Yes, so this regulation of copyright limitation.

ist anwendbar und deswegen kann es ganz gut sein,

is applicable and therefore it can be quite good,

dass der Fotograf hier das Nachsehen hat.

that the photographer is at a disadvantage here.

Allerdings ist es so, dass man zwar als Rechtinhaber

However, it is the case that one, as the rights holder,

nicht zustimmen muss, aber man kann so ein Opt-out erklären.

does not have to agree, but one can explain such an opt-out.

Man kann sagen, ich will das nicht.

One can say, I don't want that.

Ich kann also meine eigenen Website-Inhalte,

I can therefore create my own website content,

was ich gerne der KI vorenthalten möchte, kennzeichnen,

what I would like to withhold from the AI, to mark,

dass es eben nicht geharistet werden soll,

that it is not supposed to be hardened,

nicht gescraped werden soll.

should not be scraped.

Und dann wäre es auch verboten.

And then it would also be forbidden.

Da gibt es Ansprüche dann gegen die Firma,

Then there are claims against the company,

die das eben erntet, wenn man so will.

the one that just reaps, if you will.

Und da ist jetzt auch in Hamburg die spannende Frage,

And now there is also the exciting question in Hamburg,

in welcher Form das eigentlich erklärt werden muss.

in what form it actually needs to be explained.

Ja, es wird also jetzt gerade diskutiert.

Yes, it is currently being discussed.

Wir kennen es von Suchmaschinen, Robots TXT.

We know it from search engines, Robots TXT.

Kann man vielleicht so eine Datei hinterlegen auf dem Server,

Maybe one can store such a file on the server,

in der drinsteht Bitte nicht kopieren das Ganze

It says please do not copy the whole thing.

und bitte nicht aufnehmen in den KI-Body,

and please do not include in the AI body,

dass das wirksam ist.

that this is effective.

Dann gibt es einen weiteren Standard, der sagt Okay,

Then there is another standard that says okay,

wir könnten das eventuell technisch mit so einem eigenen HTTP-Header machen,

we could possibly do that technically with such a custom HTTP header,

dass die Website, wenn sie aufgerufen wird, oben sagt,

that the website, when accessed, says at the top,

bitte nicht mit aufnehmen.

please do not include.

Oder vielleicht über einen Meta-Tag,

Or maybe through a meta tag,

die Älteren erinnern sich, HTML und so, da irgendwie oben drin.

The older ones remember, HTML and stuff, somehow up there.

Das ist gerade sehr im Fluss.

That is currently very fluid.

Am Ende wird es wohl darauf hinauslaufen,

In the end, it will probably come down to this,

dass man also irgendeine Art von maschinenlesbarer Datei hinterlegen kann

that one can therefore deposit some kind of machine-readable file

und so eben dann entsprechend verhindern kann,

and so can prevent it accordingly.

dass KI rechtlich einwandfrei die eigenen Inhalte scraped und verwendet.

that AI legally scrapes and uses its own content.

Aber das gilt eben sozusagen nur für den Urheberrechtsbereich.

But that only applies, so to speak, to the area of copyright.

Wir beleuchten hier nur bestimmte Teilbereiche davon.

We are only highlighting certain specific areas of it.

Aber so wird es wohl dazu kommen können,

But that is how it could come to pass,

dass man so einen Ausgleich da findet.

that one finds such a balance there.

Und im Grundsatz wird man auch sagen können,

And in principle, one can also say,

geht es so in die Richtung zu sagen,

Is it going in the direction of saying,

naja, also das Auslesen und in den Body übernehmen von auch Werken

Well, it's about reading out and incorporating works into the body as well.

nach dem Urheberrecht ist dann zulässig,

According to copyright law, it is permissible then,

wenn man nicht widersprochen hat.

if one has not objected.

Das ist sozusagen auf dem Inputteil der wichtigste Aspekt,

This is, so to speak, the most important aspect of the input part.

der gerade besprochen wird.

which is currently being discussed.

Im Output-Bereich ist es genau andersrum.

In the output area, it is exactly the opposite.

Ich frage mich, was ist eigentlich mit dem Bild,

I wonder what is actually going on with the picture,

was ich generiert habe,

what I have generated,

wären da eigentlich Rechte dran?

Would there actually be any rights to it?

Da muss man sich einmal ganz klarmachen,

One must understand clearly that...

wie das Urheberrecht funktioniert.

how copyright works.

Es ist nämlich so, dass nicht jedes Werk,

It is the case that not every work,

was so entsteht, geschützt ist.

what is created this way is protected.

Es muss schon ein Mensch dahinter sein.

There must be a person behind it.

Also wenn ein Affe ein Foto macht,

So if a monkey takes a photo,

es gab vor ein paar Jahren mal diesen Fall mit diesem Makaken,

There was a case a few years ago with this macaque,

was war es, Bonobo-Affe, wie auch immer,

what was it, bonobo monkey, however,

also der hat dann ein Selfie geschossen,

so he took a selfie,

der hat daran keine Rechte,

he has no rights to it,

der hat einen wirklichkeitsrechtlichen Aspekt.

It has a legal aspect of reality.

Es gab auch mal vor ein paar Jahren den Fall,

A few years ago, there was also the case,

dass es irgendein Projekt gab,

that there was some project,

alle denkbaren Melodien der Welt elektronisch, maschinell zu erschaffen,

to create all conceivable melodies of the world electronically and mechanically,

um eben zu verhindern,

in order to prevent,

dass die irgendeinem Urheberrecht später unterfallen können,

that they may later be subject to some copyright,

damit sie frei verfügbar seien.

so that they are freely available.

Auch das geht so nicht.

That won't work either.

Wir brauchen immer einen Menschen, der damit wirkt.

We always need a person who contributes to that.

Und dementsprechend ist im Grundsatz zu sagen,

And accordingly, it must be stated in principle,

dass das, was rauskommt hinten bei der KI,

that what comes out at the back with the AI,

ist erst mal ohne Urheberrecht.

is initially without copyright.

Es ist erst mal frei.

It's free for now.

Jedenfalls dann,

In any case then,

wenn es weit genug weg ist von der Vorlage.

if it is far enough away from the template.

Wenn also, wie im Fall von Getty Images aber,

If, as in the case of Getty Images, however,

der Output eben doch eine Kopie des Inputs darstellt,

the output is indeed a copy of the input,

weil auch Getty draufsteht,

because Getty is also on it,

dann sieht es anders aus.

Then it looks different.

Dann hätten wir also eine Rechtsverletzung.

Then we would have a legal violation.

Also was ich sagen möchte,

So what I want to say is,

ist eine Rechtssicherheit dahingehend,

there is legal certainty in this regard,

dass alles, was die KI rausschmeißt,

that everything the AI throws out,

ohne irgendein Risiko verwendet werden kann,

can be used without any risk,

die gibt es leider nicht,

unfortunately, they do not exist.

weil zumindest die Kinderkrankheit noch da ist,

because at least the childhood disease is still there,

dass der Output eben durchaus eine Kopie des Inputs darstellt.

that the output is indeed quite a copy of the input.

Auch wenn das die großen Anbieter gerne verschweigen.

Even if the major providers like to keep that quiet.

Etwas kurios habe ich im Moment ab und zu Anfragen,

Somewhat curiously, I occasionally have inquiries at the moment,

die darauf hinauslaufen,

that result in,

sozusagen nicht vorhandene Rechte

so to speak, non-existent rights

in KI generierten Inhalten zu nutzen und zu verwerten.

to use and exploit content generated by AI.

Also Beispiel, ich baue mir eine Webseite

For example, I'm building myself a website.

und fülle die mit Texten

and fill it with texts

und lasse die eben KI generieren

and let the AI generate it just now

und melde die bei der VG Wort an.

and register it with VG Wort.

Zur Auswertung.

For evaluation.

Ich weiß nicht, ob das allen bekannt ist,

I don't know if everyone is aware of that,

aber es gibt halt die Möglichkeit,

but there is the possibility,

eigene Texte bei einer Verwertungsgesellschaft anzumelden.

to register one's own texts with a collecting society.

Und da gibt es eine Ausschüttung.

And there is a distribution.

Gibt es bestimmte Abrufen pro Jahr,

Are there specific calls per year?

kriegt man ein bisschen Geld dafür.

You get a little money for that.

Und natürlich setzt sowas voraus,

And of course, such a thing requires,

dass man da auch ein Recht an dem entsprechenden Werk hat.

that one also has a right to the corresponding work.

Und man kann also natürlich keine Rechte geltend machen an Texten,

And one cannot therefore assert any rights to texts,

die man mit einem Prompt erstellt hat.

that one has created with a prompt.

Und demgemäß versuchen dann eben Leute schon durchaus,

And accordingly, people do indeed try to

Geschäftsmodelle,

business models,

die so fast im betrügerischen Bereich sich befinden,

which are so close to the fraudulent area,

dranzuhängen.

to attach.

Und das klappt natürlich nicht,

And that doesn't work, of course,

weil es ist halt dann frei.

because it is then free.

Aber dann verstehe ich es richtig,

But then I understand it correctly,

also wenn ich jetzt,

so if I now,

Zoom ist ja das typische,

Zoom is typically the,

ich mache mir jetzt da die Nummer 1 hin.

I'm putting the number 1 there now.

Ich sage ja, den ersten Fall,

I say yes, the first case,

wo jetzt eins tatsächlich in den Top Ten gelandet ist,

where one has actually landed in the top ten now,

was so generiert war.

what was generated.

Ja, wer hat denn nun die Rechte da dran?

Yes, who has the rights to that now?

Also derjenige, der da die Zeilen

So the one who is writing the lines

oder den Startbutton gedrückt hat,

or pressed the start button,

macht mir sowas?

Does it do that to me?

Niemand.

Nobody.

Also es ist tatsächlich so,

So it is indeed the case that,

wir reden vom Urheberrecht,

we are talking about copyright,

nicht von Stimmen,

not by voices,

die wiedererkannt werden können oder so etwas.

that can be recognized again or something like that.

Dann wären wir wieder so im Bereich Persönlichkeitsrechte.

Then we would be back in the area of personality rights.

Ja, oder der Output sieht eben aus wie Taylor Swift.

Yes, or the output just looks like Taylor Swift.

Ja, dann hat sie wieder ein Recht dran aus ihrem Persönlichkeitsrecht.

Yes, then she has the right to it again based on her personal rights.

Aber ein Urheberrecht entsteht an diesem Ding nicht.

But copyright does not arise for this thing.

Und zwar weder auf Seiten desjenigen,

And neither on the part of the person who...

der das KI-Modell gebaut hat,

who built the AI model,

den Algorithmus geschrieben hat,

who wrote the algorithm,

noch auf Seiten desjenigen,

still on the part of the one who,

der den Prompt gemacht hat.

the one who created the prompt.

Das können wir auch noch überlegen.

We can consider that as well.

Ob mein Prompt,

Whether my prompt,

der so komplex ist,

that is so complex,

dass er so einen tollen Output hat,

that he has such a great output,

ob der vielleicht geschützt ist?

whether he might be protected?

Nein.

No.

Es ist frei.

It is free.

Es sei denn,

Unless,

wenn ich den Text komplett selber gemacht habe

when I did the text completely myself

und sage, ich mache mit darauf eine Melodie,

and say, I will create a melody with it,

habe ich doch zumindest auch den Text.

At least I have the text.

Dann hast du den Text.

Then you have the text.

Wenn es nicht komplett billig ist

If it's not completely cheap.

und inzwischen eine gewisse Bekleidung sagt.

and in the meantime says a certain clothing.

Wenn du das Urheberrecht am Text hast,

If you hold the copyright to the text,

weil du eben da kreativ als Mensch gewesen bist

because you have been creative as a person

und dementsprechend über das völlig Banale nachdenkst,

and correspondingly reflect on the utterly banal,

dann gibst du da ein Recht dran.

Then you give a right to it.

Dann kann man auch sagen,

Then one can also say,

na ja, auch das Musik-Drüberlegen

Well, also the overlaying of music.

ist ein Eingriff in dein Recht am Text.

is an infringement of your rights to the text.

Nicht an der Musik,

Not in the music,

aber am Text.

but on the text.

Und dann wieder Verletzung plus.

And then again injury plus.

Aber ansonsten,

But otherwise,

das rein KI-generierte Werk,

the purely AI-generated work,

wenn es sozusagen Kontrollüberlegung,

if it is so to speak a control consideration,

nicht eine Kopie eines bereits vorhandenen ist,

not a copy of an already existing one,

was im Body drin ist,

what is in the body,

dann rechtefrei und benutzbar.

then royalty-free and usable.

Das Problem ist eben,

The problem is,

dass man letztlich leider

that ultimately unfortunately

um die Rechteklärung nicht so ganz rumkommt.

to not completely avoid the clarification of rights.

Weil du dich immer noch fragen musst,

Because you still have to ask yourself,

hinterher gibt es das vielleicht schon.

Maybe it will be available afterwards.

Aber das heißt ja auch im Endeffekt,

But that also ultimately means,

wenn ich mir jetzt denke,

when I think to myself now,

ich mache mir jetzt mein Nummer-eins-Album

I'm making my number-one album now.

und lade das hoch

and upload it

und wenn ich Glück habe,

and if I am lucky,

geht es viral

it goes viral

und kriege dafür richtig Geld.

and get paid well for it.

Muss nicht.

Doesn't have to.

Also es kann dann sein,

So it may be that,

dass es einfach genutzt wird.

that it is simply used.

Ja, richtig.

Yes, right.

Kann auch woanders hingehen

Can also go elsewhere.

und das dann weiter verwursten.

and then to further process that.

Okay.

Okay.

Oder so machst du es,

Or you do it like this,

wie der, was ich gerade sagte,

like the one I just said,

der Rechtssuchende,

the person seeking legal remedy,

der möglicherweise nicht offenlegt,

that may not disclose,

dass es von der KI generiert ist

that it is generated by AI

und einfach behauptet,

and simply claimed,

er hat es selbst gemacht.

He did it himself.

Das ist dann zwar Betrug,

That would indeed be fraud,

aber möglicherweise schwer nachzuweisen.

but possibly difficult to prove.

Genau.

Exactly.

Offenlegung ist ja auch noch ein Thema.

Disclosure is also still a topic.

In der KI-Verordnung steht es ja,

The AI regulation states,

und es ist ja eigentlich eine Pflicht da,

and it is actually a duty to be there,

solche Inhalte zu kennzeichnen.

to label such content.

Wie passiert das?

How does this happen?

Wie soll das passieren?

How is that supposed to happen?

Also soweit ich informiert bin,

As far as I know,

das ist jetzt weniger ein Datenschutzthema,

this is now less a data protection issue,

aber wir hatten hier auch mal

but we also had it here once

vor ein paar Monaten darüber diskutiert.

discussed it a few months ago.

Es gibt so ein paar erste Ideen.

There are a few initial ideas.

Also die Bildgenerierungsanbieter,

So the image generation providers,

die größeren,

the larger,

die haben zum Beispiel versucht,

they tried, for example,

jetzt irgendwie in die Metadaten

now somehow into the metadata

dann halt schon reinzuschreiben,

then just go ahead and write it down,

wie das geht.

how that works.

Es gibt ein paar Ideen,

There are a few ideas,

dass man da halt Wasserzeichen reinsetzt,

that you just put watermarks in there,

die nicht sichtbar sind und ähnliches.

the ones that are not visible and similar.

Es gab auch mal erste Forschungsarbeiten,

There were also some initial research works.

dass man auch Wasserzeichen in Texte integrieren kann.

that one can also integrate watermarks into texts.

Dafür muss der Text eine gewisse Länge haben.

The text must have a certain length for that.

Und dann könnte man dadurch herausfinden,

And then one could find out through that,

ob das ein KI-Text ist oder nicht.

whether it is an AI text or not.

Hat ganz am Ende alles seine Schwierigkeiten,

In the end, everything has its difficulties.

wenn dann irgendwer da hergeht

if someone then goes over there

und mit dem Bild oder mit dem Text

and with the image or with the text

dann halt nochmal arbeitet

then just work again

und da nochmal einen Filter drüber legt

and puts a filter over it again

oder irgendwie den übersetzen lässt,

or somehow has it translated,

den Text,

the text,

dann ist das Wasserzeichen halt auch weg.

Then the watermark is gone as well.

Wobei ja auch diese Kennzeichnung

Whereby this labeling as well

nicht dazu dienen soll,

should not serve to

sicherzustellen,

to ensure,

dass ein Urheberrecht nicht besteht oder besteht.

that a copyright does not exist or exists.

Ja, das ist nicht der Punkt,

Yes, that is not the point,

sondern dabei geht es um Persönlichkeitsrechte

but it is about personal rights.

natürlich vor allem,

of course above all,

um Deepfakes zu erkennen zum Beispiel.

to recognize deepfakes, for example.

Genau, um Deepfakes so gut wie möglich

Exactly, to make deepfakes as good as possible.

erkennbar zu machen,

to make recognizable,

dass dann halt irgendwelche Bilder,

that then just some pictures,

die wurden ja auch schon generiert

They have already been generated as well.

von einem ehemaligen US-Präsidenten,

from a former US president,

der irgendwie von der Polizei verhaftet wurde.

who was somehow arrested by the police.

Trump funktioniert super,

Trump works great,

also der ist super.

so he is great.

Und das macht natürlich auch genau die Sorge,

And that naturally raises the concern,

genau wie du es eingangs sagtest,

just as you said at the beginning,

also wenn genug Material da ist

So if there is enough material available.

von einer prominenten Person,

from a prominent person,

das ist bei Trump ja der Fall,

that is the case with Trump,

kannst du wirklich gute Sachen machen.

You can really make good things.

Ich finde die nächsten Wochen ganz spannend,

I find the next few weeks quite exciting,

weil da werden wir mal entdecken,

because we will discover there,

wozu KI wirklich in der Lage ist,

what AI is really capable of

weil ich glaube,

because I believe,

wo sonst als US-Wahlkampf

where else but in the US election campaign

kann man mal irgendwie diese Systeme richtig ausreizen

Can we somehow really push these systems to their limits?

und dann sehen wir,

and then we see,

was irgendwie die ganzen schlimmen Dinge sein können,

what the whole terrible things could be,

die aktuell machbar wären.

that are currently feasible.

Ja, genau.

Yes, exactly.

Ja, das ist schon mal spannend.

Yes, that's already exciting.

Jetzt die Frage ist für mich noch sozusagen,

Now the question is, so to speak, for me,

um auf deine Sache nochmal ganz zurückzukommen,

to come back to your matter once again,

auf den Datenschutz.

on data protection.

Du hast ja schon gerade eben erwähnt,

You just mentioned a moment ago,

dass es vielleicht mal Möglichkeiten geben könnte,

that there might be possibilities someday,

zu verhindern,

to prevent,

dass bestimmte urheberrechtlich geschützte Werke

that certain copyrighted works

überhaupt in diese Systeme einfließen.

to flow into these systems at all.

Kann ich es mit personenbezogenen Daten machen?

Can I do it with personal data?

Also kann ich irgendwie verhindern,

So I can somehow prevent,

gibt es irgendeinen Tag,

is there any day,

irgendwas, was ich da ran setzen kann,

something that I can attach there,

und sage, nö, bitte nicht.

and say, no, please not.

Das bleibt hier,

That stays here,

das soll nicht da rein.

That shouldn't go in there.

Auch in der Praxis,

Even in practice,

also das mit der robots.txt,

so regarding the robots.txt,

in der Praxis habe ich auch schon Berichte davon gelesen,

In practice, I have also read reports about that.

dass dann gesagt wird,

that then it is said,

na ja, trotzdem landen die Sachen dann halt in den Systemen,

well, still, the stuff ends up in the systems then,

weil dann teilweise auch irgendwie

because then somehow partly too

mit den Crawlern argumentiert wird,

argued with the crawlers,

ja, aber meiner ist ja jetzt nicht genau genannt.

Yes, but mine is not specified exactly.

Und deswegen,

And that's why,

wenn ihr in der robots.txt mich genannt hättet,

if you had mentioned me in the robots.txt,

dann hätte ich den Text ignoriert.

Then I would have ignored the text.

Aber ihr habt mich ja nicht genannt.

But you didn't mention me.

Das heißt,

That means,

man muss dann irgendwie auch die ganze Zeit wissen,

you somehow also have to know all the time,

wie man dann alles dann irgendwie...

how one then somehow manages everything...

Ja, da brauchst du natürlich Rechtsprechung.

Yes, you certainly need case law for that.

Genau so ist es.

That's exactly how it is.

Da musst du es halt klären lassen,

Then you just have to let it be clarified.

dass das natürlich technisch,

that this is of course technical,

technisch,

technical,

kein sicheres Verfahren,

no safe procedure,

das gibt es einfach nicht.

That simply doesn't exist.

Das fragen irgendwie auch viele.

Many people also ask that somehow.

Auf der einen Seite möchte ich gerne indiziert werden

On one hand, I would like to be indexed.

von allen Suchmaschinen

of all search engines

und dann möchte ich gerne

and then I would like

ein technisch sicheres Verfahren haben,

have a technically secure procedure,

damit keine KI mein Zeug...

so that no AI can take my stuff...

Ja, kannst du nicht beides haben.

Yes, you can't have both.

Du musst den Server ausschalten,

You need to turn off the server,

das ist sicher.

That is for sure.

Aber so,

But like this,

also da muss man natürlich

so there you have to of course

an einem bestimmten Punkt

at a certain point

auch das Vertrauen herstellen,

also establish trust,

dass sich ein Ampeter daran hält.

that a traffic light adheres to it.

Andere Standard,

Other standard,

keine Frage.

no question.

Gut, ich würde sagen,

Well, I would say,

wir haben nur noch zwei Minuten,

we only have two minutes left,

dass gerne Sie und Ihr

that you and your

gerne dazu auch noch Fragen stellen können

Feel free to ask questions about it as well.

oder Anmerkungen.

or notes.

So gesehen gebe ich das gerne mal frei.

From that perspective, I'm happy to let that go.

Fangen wir hier vorne an.

Let's start here at the front.

Ja, noch mal zum Urheberrecht,

Yes, once again regarding copyright,

verstanden?

Understood?

Ich mache Dinge mit KI,

I do things with AI,

Urheberrecht greift nicht.

Copyright does not apply.

Richtig.

Correct.

Wo ist die Werkzeuggrenze?

Where is the tool limit?

Also mal mit dem Pinsel in die Hand,

So let's take the brush in hand,

mach irgendwas,

do something,

Urheberrecht.

Copyright.

Ich schreibe einen Text

I am writing a text.

auf meinem Computer,

on my computer,

der ist auch in den Werkzeugschutz gehe.

He should also go into tool protection.

Ich habe das schon

I already have that.

Autokonjunktur drin,

Car industry boom is in.

Autokonjunktur,

automotive boom,

sagst du schon auch schon,

Do you already say that too?

diese Ablass ist zu lang,

this indulgence is too long,

hier erst mal umformulieren.

Here, let's rephrase this for now.

Also es kommt...

So it comes...

Ja,

Yes,

also die,

so the,

die,

the,

die Beispiele waren sozusagen

the examples were so to speak

nicht ganz auf dem richtigen Weg,

not quite on the right track,

ja,

yes,

also wenn ich Anstreicher bin,

so if I am a painter,

dann streich,

then cross out,

ne,

no,

dann mache ich ja auch,

then I will do it too,

da gibt es trotzdem kein Werk,

there is still no work,

sondern du brauchst einen

but you need one

irgendwie gearteten kreativen Output,

somehow characterized creative output,

der deine Persönlichkeit widerspiegelt.

that reflects your personality.

Ja,

Yes,

es muss irgendein Ausdruck

It must be some expression.

deiner Persönlichkeit sein.

be your personality.

Und jetzt wird hier schon gelacht,

And now there's already laughter here,

na ja,

well,

oh Gott,

oh God,

wer soll das denn,

who is supposed to do that,

dann gibt es Rechtsprechung,

then there is case law,

die sagt zum Beispiel,

she says, for example,

ich habe gesagt,

I said,

das ist gerade die kleine Münze,

that is just the small coin,

aber die ist nicht so tief

but it's not that deep

und Achtung,

and attention,

nicht technisch bedingt ist.

is not due to technical reasons.

Das kann einen Urheberrechtsschutz haben,

This may have copyright protection.

kann auch einen Schuh haben,

can also have a shoe,

hier die Birkenstock Sandale,

here the Birkenstock sandal,

kann auch einen Urheberrechtsschutz haben,

can also have copyright protection,

aber letztlich,

but ultimately,

die Frage ist einzelfalls,

the question is on a case-by-case basis,

ja,

yes,

so.

so.

Wenn du,

If you,

wenn du in einen Chat-Tippetit text,

when you type in a chat tipetit,

einen Satz einfügst selber,

insert a sentence yourself,

ja,

yes,

dann ist der Satz

then the sentence is

urheberrechtlich geschützt.

Copyright protected.

Wenn ich jetzt also hingehe

If I go there now

und kopiere genau diesen Satz,

and copy exactly this sentence,

dann hast du auch ein Recht,

then you also have a right,

ein Verbotsrecht,

a right of prohibition,

ja,

yes,

kannst du das sagen,

Can you say that?

wenn ich aber den Rest nehme,

but if I take the rest,

dann nicht.

Then not.

Wir waren schon beim Beispiel

We were already at the example.

bei Fotografie, da ist ja immer alles

In photography, everything is always...

technisch bedingt. Keine Kamera, kein Foto.

Due to technical reasons. No camera, no photo.

Nein, nein. Also du sozusagen

No, no. So you, so to speak.

setzt

sets

die Werkentstehung und den Schöpfungsprozess

the creation of the work and the creative process

gleich mit der technischen,

right away with the technical,

technisch bedingten Wiedergabe von irgendwelchem

technically conditioned reproduction of any

Licht durch Bildsensoren.

Light through image sensors.

So ist es aber nicht. Das Kreative

But that's not the case. The creative

an dem Fotografieren,

in photographing,

schlechtes Beispiel, weil das gibt es ohnehin auch

Bad example, because it already exists anyway.

ohne Kreativität, ja? Leistungsschutzrecht.

without creativity, right? Copyright for service providers.

Aber das Kreative ist ja

But the creative part is...

die Einstellung, die Motivwahl,

the attitude, the choice of motivation.

das Licht, wo stelle ich die Kamera

the light, where do I place the camera

hin, ja? Drehe ich sie jetzt so, dass das Licht

Yes? Should I turn it now so that the light...

auf mich zeigt oder andersrum und nur

pointing at me or the other way around and only

so wird das Ergebnis ja das Ergebnis.

So the result will indeed be the result.

Und dementsprechend, da gibt es

And accordingly, there is

schon Aspekte, die eine Rolle spielen

certain aspects that play a role

und die man auch relativ gut festlegen kann,

and which can also be relatively well defined,

aber es ist eine trennscharfe Grenze

but it is a sharp dividing line

natürlich auch nicht möglich.

of course not possible either.

Haben wir da hinten eine Frage?

Do we have a question back there?

Ich komme auf dieses Scrolling noch nicht so

I still don't quite get this scrolling.

ganz klar, dass die tatsächlich meinen Inhalte

It's clear that they actually mean my content.

einfach so wie ihre Sachen benutzen können.

you can just use their things like that.

Obwohl ja zum Beispiel meine Lizenz für

Although, for example, my license for

meine Inhalte ja einem halt sagt, kommerzielle

"My content is indeed commercial."

Verwendung ist nicht drin.

Use is not included.

Ja, können wir es einfach machen, steht so im Gesetz.

Yes, we can just do it that way, it's stated in the law.

Ja, also steht einfach so

Yes, it just stands like that.

im Urheberrecht drin, dass da die Schranke ist.

In copyright law, there is the limitation.

Es gibt andere Schranken, Panoramafreiheit,

There are other restrictions, panorama freedom,

du kannst Pastiche machen, du kannst zitieren

You can make pastiche, you can quote.

und remixen und

and remixing and

so bearbeiten, dass du niemanden mehr

edit so that you don't affect anyone anymore

fragen musst. Das sind alles sozusagen ja

you have to ask. These are all, so to speak, yes.

Abgrenzungsfragen zwischen zum Beispiel Kunst

Questions of distinction between, for example, art

und geistigem Eigentum in dem einen Fall

and intellectual property in that case

oder

or

freie Rede und geistigem Eigentum.

freedom of speech and intellectual property.

Es ist halt so geregelt und da

It is simply arranged that way.

kann man schon sagen, naja, wenn man das

You could say, well, if you consider that...

anders haben möchte, müsste man entsprechend

if one wants it differently, one would need to accordingly

ein Parlament haben, das anders entscheidet.

to have a parliament that decides differently.

Dann die Formel.

Then the formula.

Wie sieht das aus im Bereich der Programmierung?

What does it look like in the field of programming?

Wenn ich den Co-Pilot irgendwas

If I tell the co-pilot anything

kreativ schaffe, von dem er

create creatively, of which he

Vorschläge macht, dann ist mein Quellcode

If suggestions are made, then my source code is

auf einmal nichts mehr wert oder frei.

all of a sudden worth nothing or free.

Richtig.

Correct.

Alles klar.

All clear.

Das ist ja noch einfach.

That's still easy.

Jedenfalls dann,

Anyway then,

wenn es aus irgendeinem Grund,

if for any reason,

wir können ja in die Modelle nicht reingucken,

we can't look inside the models,

wir können zwar sagen, okay,

we can say, okay,

die Anbieter sagen uns,

the providers tell us,

es hat mit dem Original nichts mehr zu tun.

It has nothing to do with the original anymore.

Ob wir das glauben, sozusagen, ist jetzt uns überlassen.

Whether we believe it, so to speak, is now up to us.

Aber wenn das, was rauskommt an Quellcode,

But if what comes out is source code,

sich als 1 zu 1 Kopie

to set oneself up as a 1-to-1 copy

eines anderen Quellcodes darstellt,

represents another source code,

dann könnte es schon ein Recht geben,

then there could already be a right,

das verletzt ist, aber auch nur wieder dann,

that is hurt, but only then again,

wenn genau für die Lösung das nicht

if exactly for the solution that not

technisch bedingt ist.

is due to technical reasons.

Was weiß ich, eine Schleife kannst du halt

What do I know, you just can tie a loop.

nur auf eine einzige Art hinschreiben

only write it in one single way

in deiner Sprache, ja,

in your language, yes,

und da gibt es halt keinen Überrechtsstand.

And there is simply no superior legal status.

Aber irgendeine besonders elegante Lösung,

But some particularly elegant solution,

die dann kopiert wird, könnte doch wieder

that is then copied, could it not again

gespeichert werden.

be saved.

Deswegen, du hast halt die Garantie leider nicht, ne?

That's why you unfortunately don't have the guarantee, right?

Sorry.

Sorry.

Das ist ja auch eine Mischung.

That's quite a mix as well.

Also es ist ja nicht so, dass Chat-Tippity

So it's not like Chat-Tippity

von der Zeilen schreibt

from the lines writes

und dann tue ich eine Zeile noch dazu,

and then I add another line,

sondern ich arbeite sehr viel damit.

but I work a lot with it.

Ich mache zum Beispiel so einen Entwurf

For example, I make such a design.

von einem Text,

from a text,

E-Mail, die ich verschicken will an einen Kunden

Email that I want to send to a customer.

und dann sage ich zu Claude,

and then I say to Claude,

mit Chat-Tippity arbeite ich im Augenblick nicht,

I'm currently not working with Chat-Tippity.

der ist zu blöde geworden,

he has become too stupid,

und ich sage zu Claude,

and I say to Claude,

mach eine Verbesserung.

Make an improvement.

Und dann ist es eine Mischung.

And then it is a mixture.

Ich habe eigentlich die ganzen Ideen

I actually have all the ideas.

und so weiter,

and so on,

da reingegeben und

put in there and

Claude verbessert das.

Claude improves that.

Also ich finde, das ist

Well, I think that is

ein schwieriges Thema vom Urheberrecht.

a difficult topic of copyright.

Man kann da jetzt nicht sagen,

You can't say that now.

weil Claude durch den ganzen Text gegangen ist,

because Claude went through the entire text,

habe ich überhaupt keinen Urheberrecht mehr.

I have no copyright at all anymore.

Nein, wenn du selber die prägende...

No, if you yourself are the defining...

Wenn dein eigener kreativer Output

If your own creative output

den Text prägt, ja,

the text is characterized, yes,

und auch in der Weise der Formulierung vor allem prägt,

and also shapes in the way of formulation, above all,

wenn du nicht nur Stichworte gibst,

if you don't just provide keywords,

dann hast du auch selber das Urheberrecht daran

Then you also have the copyright for it yourself.

und das verschwindet nicht, weil du eine KI

and it doesn't disappear because you are an AI

drüberlaufen lässt.

let it run over it.

Dann noch eine Frage und dann müssen wir,

Then one more question, and then we have to,

glaube ich, auch zum Ende kommen.

I believe I will also come to an end.

Leider du hast gerade gesagt,

Unfortunately, you just said,

dass bei dem Fotomachen die kreative Input

that in taking photos the creative input

daran nicht auszuwählen,

not to choose from that,

welches Porträt man nimmt,

which portrait to take,

keine Kamera oder nicht Winkel und so was.

no camera or no angle and such.

Das gibt man ja aber alles bei Bildgenerierten Prompt mit.

You provide all of that with image-generated prompts.

Wäre dann der Prompt urheberrechtlich geschützt?

Would the prompt then be protected by copyright?

Aber das Bild, was da hinten aufsteht...

But the picture that's standing back there...

Wahrscheinlich nicht.

Probably not.

Wahrscheinlich ist der Prompt...

Probably the prompt is...

Es gibt dazu keine Rechtsprechung.

There is no case law on this.

Ja, aber wahrscheinlich wird man sagen können,

Yes, but one will probably be able to say,

ich muss ja, um einen bestimmten Output zu

I have to, in order to achieve a certain output...

haben, eine bestimmte Formulierung finden.

to find a specific formulation.

Da ist der, das ist eher technisch bedingt

There it is, that's more due to technical reasons.

und wahrscheinlich auch dann noch zu unterkomplex.

and probably still too under-complex then.

Ja, also da, es gibt noch keine Rechtsprechung,

Yes, well, there is still no case law on that.

aber die meisten Urheberrechter sagen,

but most copyright holders say,

wahrscheinlich ist ein Prompt,

probably is a prompt,

der für sich genommen geschützt ist, nicht denkbar.

which is protected in and of itself is inconceivable.

Aber das ist mit aller Vorsicht.

But that is with utmost caution.

Zu den Fotos ganz kurz.

Just a brief note about the photos.

Es ist bei Fotos wirklich so,

It is really the case with photos that,

jedes Foto, was nicht von einer KI kommt,

each photo that does not come from an AI,

ist ohne Rücksicht auf den kreativen Gehalt geschützt.

is protected regardless of its creative content.

Das ist nur merken, nicht, dass man jetzt sagt,

That's just remembering, not that one now says,

er sagt jetzt irgendwie, muss kreativ sein, dann darf ich.

He says something like, I have to be creative, then I'm allowed to.

Nee, nee.

No, no.

Wenn es ein Mensch macht, ist es geschützt.

If a human does it, it is protected.

Immer steht auch so ein Gesetz leider.

Unfortunately, there is always such a law.

Und das muss man ja sagen, also das kommt natürlich auch daher,

And that must be said, so that naturally also comes from there,

weil man, weil das auch teilweise etwas ältere Gesetze sind.

because they are, because some of them are also somewhat older laws.

Also man hat ja bei diesen Ideen natürlich eher,

Well, with these ideas, one tends to have rather,

also wenn man so will, aus den Ursprüngen noch nicht.

So if you want to say, not from the origins yet.

Der baut da diesen riesen Kasten auf,

He's setting up this huge box there,

hat dann in seiner Hand da noch diesen Blitzteil

then he still has this lightning piece in his hand

und zieht dann irgendwann raus, sagt jetzt bitte 30 Sekunden

and then moves out at some point, please say 30 seconds now

ruhig halten und steckt wieder ein.

Stay calm and plug it back in.

Also noch aus den Anfängen der Fotografie geht das.

So that goes back to the beginnings of photography.

Und da war natürlich deutlich mehr Kreativität.

And there was definitely much more creativity.

Wenn ich heute sehe, die neuesten Canon Kameras,

When I see the latest Canon cameras today,

was die auch selber an KI drin haben,

what they also have in AI themselves,

an Bildverbesserung.

to image enhancement.

Wir haben Samsung Handys, die ersetzen den überbelichteten Mond

We have Samsung phones that replace the overexposed moon.

durch einen KI generierten Mond, damit das schöner aussieht.

a moon generated by AI to make it look nicer.

Also das sind natürlich nicht die Dinge,

So those are obviously not the things,

die sich ursprünglich mal die Erschaffer dieser Gesetze

the creators of these laws who originally...

und dieser rechtlichen Regelungen im Kopf hatten,

and had these legal regulations in mind,

sondern die hatten den Herrn mit dieser riesen Kiste da vor sich,

but they had the Lord with this huge box in front of them,

der natürlich noch wirklich da einen Tag daran gearbeitet hat,

who really spent a day working on it.

dieses Foto vielleicht noch herzustellen.

to possibly produce this photo.

Deswegen ist das natürlich auch eine interessante Frage,

That's why this is naturally also an interesting question,

wie sich das in Zukunft wahrscheinlich auch alles noch entwickelt.

how everything is likely to develop in the future.

Und das ist natürlich dann auch, wenn man so will,

And that is of course also, if one wants,

im Zweifel immer das Ende von so einer Folge, wo man sagen muss,

In case of doubt, always the end of such an episode, where one must say,

wir müssen abwarten, wie immer.

We have to wait and see, as always.

Es bleibt zu warten, wie die KI-Richtlinie sich nun,

It remains to be seen how the AI directive will now,

die Richtlinie ist ja die Verordnung,

the directive is indeed the regulation,

sich dann auch in der Praxis bewähren wird.

will also prove itself in practice.

Es gibt ja Regelungen, die erst in zwei Jahren, glaube ich, dann greifen.

There are regulations that will come into effect in two years, I believe.

Es gibt ein paar, die schon nach einem halben Jahr jetzt greifen.

There are a few that are already taking effect after half a year now.

Wie wird das beim Datenschutz weitergehen?

How will data protection continue?

Das ist sicherlich ein Wahnsinnsthema noch,

That is certainly a crazy topic still,

weil das, wie die KI selber teilweise eine Black Box eben ist,

because that, like the AI itself, is partly a black box.

auch schwierig ist als Aufsichtsbehörde,

also difficult is as a supervisory authority,

sicherlich da überhaupt an die Sachen so richtig an alles ranzukommen.

Certainly, it is difficult to really get to everything.

Was passiert denn da?

What's happening there?

Und im Urheberrecht wird es natürlich genauso bleiben.

And in copyright law, it will of course remain the same.

Auch da die Frage, wie wird sich das weiterentwickeln?

Also the question, how will this develop further?

Und was sind nachher wirklich die Grenzen?

And what are the real boundaries afterwards?

Ich kann mir auch vorstellen, so ein Prompt,

I can also imagine such a prompt,

der da wirklich über Seitenweisen wirklich detailliert erklären will,

who really wants to explain in detail over pages,

wie dieses jetzt alles gestaltet ist.

how everything is designed now.

Warum soll das nicht auch irgendwann geschützt sein?

Why shouldn't that be protected at some point as well?

Ja, das ist schon so.

Yes, that's true.

Aber da ist ja trotzdem kreativer Prozess.

But there is still a creative process.

Nein, es ist ein kreativer Prozess.

No, it is a creative process.

Aber der an sich,

But the one itself,

der Gedanke, die Idee, ich möchte jetzt etwas erstellen,

the thought, the idea, I want to create something now,

was genauso aussieht wie das in meinem Kopf.

looks exactly like it does in my head.

Das ist ja ohnehin nicht Erfassung.

That is not recording anyway.

Wir brauchen ja ein Werk.

We do need a factory.

Und die Frage ist, ist der Prompt ein Werk?

And the question is, is the prompt a work?

Und da der Prompt letztlich eine Anweisung technischer Art darstellt,

And since the prompt ultimately constitutes a technical instruction,

geh raus, mach die Tür zu, schließ sie ab,

go outside, close the door, lock it,

dann gehst du noch mal aufs Klo und dann gehen wir los, so ähnlich,

then you go to the bathroom again and then we will head out, something like that,

ist es eben nicht, wohl eher nicht geschützt.

it is simply not, rather not protected.

Und damit hat Herr Dörks auch das perfekte Schlusswort gesagt.

And with that, Mr. Dörks has also said the perfect closing word.

Gehen Sie gleich raus, gehen Sie noch mal aufs Klo.

Go outside right away, go to the bathroom one more time.

Dann geht es ja nachher auch weiter.

Then it will continue afterwards as well.

Unter anderem werden wir auch noch, Herr Walczak,

Among other things, we will also, Mr. Walczak,

in einer Stunde, glaube ich, gibt es noch mal dann

In an hour, I think there will be another one then.

die komplette KI-Datenschutz-Vortrag dazu.

the complete AI data protection presentation on it.

Noch mal, wer das noch ein bisschen mehr vertiefen will.

Once again, for anyone who wants to delve into this a bit more.

Und ansonsten, uns hören Sie ja bei jura.funk.eu.de.

And otherwise, you can hear us at jura.funk.eu.de.

Wo auch immer Sie jura.funk eingeben,

Wherever you enter jura.funk,

werden Sie uns hoffentlich dann treffen.

Hopefully, you will meet us then.

Und überall, wo es Podcasts gibt, Henry.

And everywhere there are podcasts, Henry.

Natürlich.

Of course.

Und wahrscheinlich kann man irgendwelche Glocken drücken.

And probably you can press some bells.

Man kann wahrscheinlich abonnieren.

One can probably subscribe.

Es geht. Da geht alles.

It's fine. Everything works there.

Ansonsten danken wir Ihnen ganz herzlich.

Otherwise, we sincerely thank you.

Erst mal hier im Raum vor allem,

First of all, here in the room above all,

dass Sie uns hier auch mit Fragen und Anmerkungen

that you can also contact us here with questions and comments

noch unterstützt haben.

still supported.

Und wünsche Ihnen noch ein wunderschönes Barcamp.

And I wish you a wonderful Barcamp.

Und ja, auch euch vielen Dank.

And yes, thank you all as well.

Benjamin, vor allem auch für die ganze Zeit.

Benjamin, especially for the whole time.

Mein Name ist Henry Krasimann.

My name is Henry Krasimann.

Und ich bin Stefan Dirks.

And I am Stefan Dirks.

Und tschüss.

And goodbye.