Cyberexpert Marietje Schaake over hoe techbedrijven onze democratie bedreigen | Het Uur

Een stille, dynamische kracht.

A quiet, dynamic force.

Waar denkt u dan aan?

What are you thinking of then?

Geruisloos onderweg, sportief en comfortabel, hoe lang de reis ook is.

Quietly on the way, sporty and comfortable, no matter how long the journey is.

Volledig elektrisch en klaar voor elke bestemming.

Fully electric and ready for any destination.

De optimale planning van laadpauses neemt de slimme routeplanner van u over.

The optimal planning of charging pauses is taken over by your smart route planner.

Dat klinkt goed.

That sounds good.

Dat is BMW Rijplezier.

That is BMW driving pleasure.

Met een ruim aanbod aan elektrische modellen om uit te kiezen.

With a wide range of electric models to choose from.

Stuk voor stuk onmiskenbaar BMW.

Each one unmistakably BMW.

Zo BMW kan elektrisch zijn.

So BMW can be electric.

Ervaar het nu zelf met een proefrit.

Experience it for yourself with a test drive.

Attentie alle reizigers.

Attention all travelers.

Ervaar een zeer comfortabele manier van reizen met de Platinum Card van American Express.

Experience a very comfortable way of traveling with the Platinum Card from American Express.

Geniet van voordelen zoals Fast Track op Schiphol en Eindhoven Airport en wereldwijde lounge toegang.

Enjoy benefits such as Fast Track at Schiphol and Eindhoven Airport and worldwide lounge access.

Vraag de Platinum Card nu aan via amexplatinum.nl en ontvang tijdelijk 200 euro cashback.

Apply for the Platinum Card now via amexplatinum.nl and receive €200 cashback temporarily.

Voorwaarden en minimale besteding zijn van toepassing.

Terms and minimum expenditure apply.

Welkom bij het uur.

Welcome to the hour.

Een koep, een machtsscheep.

A dome, a vessel of power.

Mijn gast dit uur neemt grote woorden in de mond.

My guest this hour uses big words.

De democratie is in gevaar.

Democracy is in danger.

Marietje Schaken is hier.

Marietje Schaken is here.

Ze werkt aan Stanford Universiteit, was tien jaar lang Europarlementariër en schreef een boek.

She works at Stanford University, was a Member of the European Parliament for ten years, and wrote a book.

De Tech Koep.

The Tech Dome.

Over hoe techbedrijven steeds meer macht naar zich toe trekken.

About how tech companies are increasingly consolidating power.

Of het dan gaat om de toeslagenaffaire, de oorlog in Oekraïne.

Whether it concerns the allowance affair or the war in Ukraine.

Of de verkiezingen in de VS.

Or the elections in the US.

We moeten de macht teruggrijpen.

We need to reclaim power.

Welkom bij het uur met Marietje Schaken.

Welcome to the hour with Marietje Schaken.

Marietje, welkom. Wat leuk dat je langs wilde komen. Dank je wel daarvoor.

Marietje, welcome. How nice that you wanted to drop by. Thank you for that.

Leuk om er te zijn.

Nice to be there.

Ja, wie is Marietje Schaken ook alweer?

Yes, who is Marietje Schaken again?

Laten we daar eens beginnen.

Let's start there.

Voor het geval de luisteraars zijn die denken, ja, groot onderwerp, maar wie is Marietje Schaken?

Just in case there are listeners who are thinking, yes, big topic, but who is Marietje Schaken?

Je bent heel lang Europarlementariër geweest. Hoe lang precies?

You have been an MEP for a very long time. How long exactly?

Tien jaar, van 2009 tot 2019.

Ten years, from 2009 to 2019.

Dat is lang hè, tien jaar?

That's long, isn't it, ten years?

Ja, twee mandaten. Er zijn ook mensen die nog langer blijven, maar het is inderdaad een behoorlijk stuk.

Yes, two terms. There are also people who stay even longer, but it is indeed quite a stretch.

Toen ik stopte was het een kwart van mijn hele leven, dus dat is inderdaad wel een tijd.

When I stopped, it was a quarter of my entire life, so that is indeed quite a while.

En sindsdien ben je docent aan Stanford.

And since then you have been a lecturer at Stanford.

Dus dan zit je een beetje in het rol van de leeuw als het over technologie gaat.

So you’re a bit in the role of the lion when it comes to technology.

Dat is toch wel de universiteit van Silicon Valley en alles wat over technologie gaat.

That is certainly the university of Silicon Valley and everything related to technology.

Dan word je op een dag Europarlementariër.

Then one day you become a Member of the European Parliament.

Dat lijkt me zo raar als je daar dan binnenkomt in dat gigantische gebouw.

That seems so strange to me when you walk in there in that gigantic building.

Je hebt ineens een bureau.

You suddenly have a desk.

En een tas. En je moet beginnen.

And a bag. And you have to start.

Je krijgt in ieder geval een dossier toegewezen.

You will be assigned a file in any case.

En dat is een gigantisch onderwerp. Hoe is dat eigenlijk?

And that is a gigantic topic. How is that actually?

Nou, dat was wel. Ik vergeleek het wel eens met dat je het eerste jaar in het water ligt en wel leert bewegen.

Well, it was. I sometimes compared it to being in the water for the first year and learning to move.

Maar je weet niet of je dichter bij de oppervlakte komt of dieper zwemt, weet je wel.

But you don't know if you're getting closer to the surface or swimming deeper, you know.

Of dat je aan het versuipen bent.

Or that you're drowning.

Ja, je moet gewoon heel erg richting zoeken.

Yes, you just really have to search for direction.

Want je komt eigenlijk gewoon alleen met een winkeltje in een hele grote organisatie.

Because you actually just come with a small shop in a very large organization.

Er is heel weinig structuur.

There is very little structure.

Of, nou ja, basis voor je.

Or, well, basis for you.

Dus je moet je eigen dossiers eigen maken.

So you have to familiarize yourself with your own files.

Je eigen commissies, je plekje in veroveren.

Claiming your own committees, your spot.

Je moet natuurlijk mensen aannemen als medewerkers.

Of course, you need to hire people as employees.

Je moet de samenwerking met de partij in Den Haag leren kennen.

You need to get to know the collaboration with the party in The Hague.

Met je collega's in Brussel.

With your colleagues in Brussels.

Zowel van je eigen partij als van andere partijen.

Both from your own party and from other parties.

Dus het is gewoon heel veel leren.

So it's just a lot of studying.

Dus het eerste jaar zei ik ook vaak, ik doe alles om te snappen wat wel en niet belangrijk is.

So in the first year I often said, I do everything to understand what is and isn't important.

Maar uiteindelijk, ja, dan bijt je ook vast in bepaalde thema's.

But ultimately, yes, you definitely sink your teeth into certain themes.

En dan wordt dat gewoon je focus.

And then that simply becomes your focus.

En dat die focus en ook ervaring met hoe de procedures werken.

And that focus and also experience with how the procedures work.

En wat er nodig is om iets voor elkaar te krijgen.

And what is needed to get something done.

Dat leer je natuurlijk gaandeweg.

You learn that along the way, of course.

Is dat een gevoel van machteloosheid in het begin?

Is that a feeling of powerlessness at the beginning?

Nou, dat had ik niet wel gewoon veel.

Well, I didn't really have much of that.

Er komt veel op je af.

A lot is coming your way.

Ik had ook vooral een heel sterk gevoel van verantwoordelijkheid.

I also had a very strong sense of responsibility.

Je hebt toch zoveel stemmen van mensen gekregen.

You have received so many votes from people.

En zo'n mandaat.

And such a mandate.

En dat voelt ook wel gewoon als iets heel erg belangrijks.

And that also just feels like something very important.

Wat je graag goed wil doen.

What you would like to do well.

Nou, is er een gevoel van machteloosheid?

Well, is there a feeling of powerlessness?

Ja.

Yes.

Is er ergens, heb ik de indruk in jouw denken, een soort keerpunt geweest?

Is there somewhere, I seem to have the impression in your thinking, a kind of turning point?

Een soort keerpunt van technologie is belangrijk.

A kind of turning point in technology is important.

En we moeten vooral allemaal mee.

And we all have to join in especially.

En we moeten moderniseren en innoveren.

And we need to modernize and innovate.

En dat is allemaal goed.

And that is all good.

En internet komt eraan, laten we meedoen.

And the internet is coming, let's join in.

Nadat je ineens dacht, wacht eens even, zijn die techreuzen wel onze vrienden?

After you suddenly thought, wait a minute, are those tech giants really our friends?

Ik denk dat dat voor een deel zo is.

I think that is partly true.

Maar ook dat wat het internet was.

But also that which the internet was.

Toen ik hier in Amsterdam aan de UvA studeerde.

When I studied here in Amsterdam at the UvA.

Wanneer hebben we het dan over?

When are we talking about?

Nou, 2003, 2004, 2005.

Well, 2003, 2004, 2005.

Toen had ik nog een Nokia'tje, die zei piep.

At that time, I still had a little Nokia that made a beep.

Ja, toen was het allemaal gewoon heel erg in de kinderschoenen.

Yes, at that time it was still very much in its infancy.

En er is ook gewoon een verschil tussen wat het internet en de belofte daarvan is.

And there is simply a difference between what the internet is and the promise of it.

Als wereldwijd netwerk waar mensen elkaar kunnen vinden, informatie kunnen vinden en uitwisselen.

As a global network where people can find each other, find information, and exchange it.

En de rol die die grote bedrijven inmiddels spelen als een soort laag daarbovenop.

And the role that those big companies now play as a sort of layer on top.

Dus toevallig is de periode...

So coincidentally, the period...

De periode tussen 2009 en vandaag.

The period between 2009 and today.

Ook een periode geweest waarin er gewoon in de wereld van technologie heel veel is veranderd.

There has also been a period in which a lot has changed in the world of technology.

Enorme groei en ook integratie van een heleboel diensten in één bedrijf.

Enormous growth and also integration of a whole bunch of services into one company.

Waardoor je echt van die monopolisten, miljardenbedrijven hebt.

Causing you to really have those monopolists, billion-dollar companies.

Die zoveel data, zoveel kapitaal, zoveel computerrekenkracht, zoveel talent hebben.

That have so much data, so much capital, so much computing power, so much talent.

Dat dat bijna onaanraakbare reuzen zijn.

That they are almost untouchable giants.

En dat waren ze vijftien jaar geleden niet.

And they weren't that fifteen years ago.

Dus het is niet alleen een verandering in jouw denken.

So it's not just a change in your thinking.

Het is ook een verandering in de wereld.

It is also a change in the world.

Dit was de verandering die zich voltrok in die periode dat jij in Brussel zat.

This was the change that took place during the time you were in Brussels.

Ja, zeker.

Yes, certainly.

En ik heb ook altijd gedacht dat er meer actief gedaan zou worden door democratische leiders, politici, parlementen.

And I have always thought that more would be actively done by democratic leaders, politicians, and parliaments.

Bijvoorbeeld in de EU, maar ook in de Verenigde Staten.

For example, in the EU, but also in the United States.

Om ervoor te zorgen dat die hele democratiserende, emanciperende...

In order to ensure that the whole democratizing, emancipating...

belofte van dat internet ook echt waar zou worden.

the promise that the internet would really become true.

Dus als dat is wat je denkt dat er gaat gebeuren en dat er moet gebeuren.

So if that's what you think is going to happen and what needs to happen.

En je ziet dat er van alles aan ontwikkelingen de andere kant op stuwt.

And you can see that various developments are pushing in the opposite direction.

Dus veel meer de commerciële marktcapitalisatie, machtsconsolidatie.

So much more the commercial market capitalization, power consolidation.

Overnemen van allerlei concurrenten.

Taking over various competitors.

Opslurpen van gigantische hoeveelheden data.

Absorbing gigantic amounts of data.

Als je dat allemaal ziet gebeuren, dan zou je denken...

When you see all that happening, you would think...

dan moet daar ook iets tegenover staan.

then there must be something in return.

Er moeten grenzen worden aangebracht.

Limits must be set.

Er moet onafhankelijk toezicht komen.

There must be independent oversight.

De rechtsstaat moet ook met deze nieuwe innovaties uit de voeten kunnen.

The rule of law must also be able to cope with these new innovations.

En je ziet eigenlijk dat dat gewoon te lang niet is gebeurd.

And you can see that it simply hasn't happened for too long.

En dat er nu zo krankzinnig veel macht en beslissingen in de handen van die techbedrijven liggen.

And that there is now so incredibly much power and decision-making in the hands of those tech companies.

Dat het zorgwekkend is voor de democratie.

That it is concerning for democracy.

Als die checks en balances er niet zouden komen, is dan de democratie in gevaar?

If those checks and balances do not come, is democracy at risk?

Kan je dat zo zeggen?

Can you say it like that?

Ja, dat vind ik wel.

Yes, I do think so.

Kijk, ik keek gisteravond, denk ik laat, naar een nieuwsbericht...

Look, I was watching a news report last night, I think late...

waar de vicepresidentskandidaat van Donald Trump, J.D. Vance, dreigt naar Europa.

where Donald Trump's vice presidential candidate, J.D. Vance, threatens to go to Europe.

Dat de VS wel uit de NAVO kan stappen als Europa het in zijn hoofd haalt...

That the US can indeed withdraw from NATO if Europe gets it into its head...

om de platforms van Elon Musk aan regels te onderwerpen.

to subject Elon Musk's platforms to regulations.

Nou, zo gek hebben we het nog niet gezien.

Well, we haven't seen it that crazy yet.

Dat er echt op het hoogste politieke niveau gedreigd wordt met geopolitieke consequenties...

That there are truly threats at the highest political level with geopolitical consequences...

op het moment dat er regelgeving voor één specifiek bedrijf zou zijn, een techbedrijf.

At the moment when there would be regulations for one specific company, a tech company.

Omdat één ondernemer zijn belangen geschaat ziet.

Because one entrepreneur sees their interests at stake.

En dat zijn grote belangen voor hem, maar ook voor de wereld inmiddels.

And those are significant interests for him, but also for the world by now.

Dat is wel interessant.

That is indeed interesting.

Dat internet begon natuurlijk met een soort gekke anarchistische achtergrond.

The internet obviously started with a kind of crazy anarchistic background.

Het was een soort hippie sfeer.

It had a kind of hippie vibe.

Je hebt San Francisco, daar moest je dan heen met bloemen in je haar in de jaren zestig.

You had San Francisco, where you had to go with flowers in your hair in the sixties.

Een sfeer van anarchisme, wantrouwen naar de overheid...

An atmosphere of anarchism, distrust towards the government...

maar echt vanuit...

but really from...

een sfeer van een beschilderde schoolbus en achter de Grateful Dead aanrijden.

a vibe of a painted school bus and driving behind the Grateful Dead.

Jointjes roken.

Smoking joints.

Het waren hippies.

They were hippies.

En die ontmoeten de nerds die het internet uiteindelijk gaan ontwerpen.

And those meet the nerds who will ultimately design the internet.

En die sfeer is erin gaan zitten dat het internet een soort belofte had in het begin van vrijheid.

And that atmosphere has settled in that the internet had a kind of promise of freedom in the beginning.

Ongelimiteerdheid.

Unboundedness.

En als iedereen maar met elkaar zou kunnen communiceren zonder inmenging van een overheid...

And if everyone could just communicate with each other without interference from a government...

dan zou er uiteindelijk misschien wel wereldvrede kunnen ontstaan.

Then, ultimately, there might be world peace.

Of in ieder geval nieuwe ideeën.

Or at least new ideas.

Dat is de belofte waar we vandaan zijn gekomen.

That is the promise from which we have come.

Ja, zo zou je het kunnen zeggen.

Yes, you could say that.

Inderdaad, dus een beetje een tegendraadse cultuur.

Indeed, a somewhat contrarian culture.

Wel tegen de gevestigde orde.

Well against the established order.

Natuurlijk in de hippietijd werd ook heel erg aangeschopt tegen de conventies.

Of course, during the hippie era, there was also a lot of kicking against conventions.

De rol van de vrouw die veel traditioneler was totdat de seksuele revolutie kwam.

The role of women, which was much more traditional until the sexual revolution came.

De manier waarop mensen zich konden kleden.

The way people could dress.

Dat soort ontwikkelingen.

That kind of developments.

En die technologie...

And that technology...

bepaalde gemeenschappen in elk geval, hackers en dat soort figuren...

certain communities in any case, hackers and that sort of figures...

die waren ook heel erg bezig met hoe kunnen wij deze technologie inzetten...

they were also very much focused on how we can use this technology...

om de slechtste neigingen van overheden, bijvoorbeeld spioneren...

to counteract the worst tendencies of governments, for example spying...

grote surveillance op basis van data, om dat tegen te gaan.

large surveillance based on data to counter that.

Meer privacybescherming puur door die technologie zo te ontwikkelen.

More privacy protection simply by developing that technology in this way.

Dus heel veel van die pioniers waren inderdaad...

So many of those pioneers were indeed...

wel libertarisch, dus wilden niet al te veel met de overheid te maken hebben...

well libertarian, so they didn't want to deal too much with the government...

maar waren ook wel progressief.

but they were also quite progressive.

Zagen dat ook heel erg in het context van...

Saw that very much in the context of...

wij kunnen beter dan Washington die burgerlijke vrijheden beschermen.

We can do better than Washington at protecting civil liberties.

En wij gaan ervoor zorgen inderdaad dat er meer vrijheid komt...

And we will ensure that there is indeed more freedom...

meer toegang tot informatie komt.

more access to information comes.

En ook dat de gevestigde orde van grote uitgevers, grote concerns...

And also that the established order of large publishers, large corporations...

het grote bedrijfsleven destijds, dat dat niet de dienst uitmaakt.

the big business back then, which does not make the service.

Dat mensen veel meer zelf geëquipeerd worden om dat te doen.

That people are much better equipped to do that themselves.

Het anarchisme in slippertjes naar je werk, in een korte broek...

Anarchism in flip-flops to work, wearing shorts...

ochtends even werken, smiddags even surfen.

Work a bit in the morning, surf a bit in the afternoon.

Dat was het begin van Silicon Valley. Het zijn allemaal clichés.

That was the beginning of Silicon Valley. They are all clichés.

Ja, wel echt clichés. Want er was natuurlijk altijd al wel...

Yes, really clichés. Because there was of course always...

ook veel overheidsgeld, met name vanuit Defensie...

also a lot of government money, specifically from Defense...

wat geïnvesteerd werd in Silicon Valley.

what was invested in Silicon Valley.

Heel veel onderzoeksprojecten waar het wereldwijde web...

A lot of research projects where the World Wide Web...

en het internet uit zijn voortgekomen...

and emerged from the internet...

waren ook gefinancierd met publieke middelen.

were also funded with public resources.

Dus we moeten het ook niet al te romantisch...

So we shouldn't make it too romantic...

of cartoonesk bijna voorstellen.

or almost cartoonish representations.

Maar zo'n soort sfeer, en ik denk toch ook een beetje die frontiersmentaliteit...

But such a kind of atmosphere, and I also think a bit of that frontier mentality...

in het hele westen van de Verenigde Staten...

in the whole western part of the United States...

wat ook, als je daar werkt, heb je het idee dat je toch op een soort eiland zit.

Whatever it is, when you work there, you feel like you're on some sort of island.

Door de geografie, door de tijdzone.

Due to the geography, due to the time zone.

Een heleboel gebeurt ergens anders al.

A whole lot is already happening elsewhere.

En dan wordt Californië nog een keer wakker.

And then California wakes up once again.

Als ik daar wakker word en naar mijn werk ga om negen uur...

When I wake up there and go to work at nine o'clock...

dan is hier de werktag al helemaal voorbij.

Then the workday is completely over here.

Dan is New York, Wall Street, maar ook Capitol Hill is met lunch.

Then there's New York, Wall Street, but also Capitol Hill with lunch.

Dus je voelt ook een beetje die bubbel.

So you can also feel that bubble a bit.

En die bubbel is natuurlijk ook steeds meer een plek geworden van...

And that bubble has of course increasingly become a place of...

buitengewone mogelijkheden voor mensen in de techsector.

extraordinary opportunities for people in the tech sector.

Heel veel welvaartsgroei voor een klein groepje mensen.

A lot of wealth growth for a small group of people.

En ook een hele grote sociale tweedeling.

And also a very large social divide.

Ik bedoel, ook op Stanford, alle mensen die in de catering werken zijn Latino's.

I mean, even at Stanford, all the people working in catering are Latinos.

Alle mensen die de tuinen bijhouden...

All the people who maintain the gardens...

of die schoonmaakbanen hebben...

or those cleaning jobs have...

of die in wasserettes of nagelsalons werken...

or those working in laundromats or nail salons...

zijn allemaal of Aziatisch of Latino.

are all either Asian or Latino.

Maar in elk geval is er echt een klassemaatschappij...

But in any case, there is really a class society...

die ook parallel loopt met etnische of geografische achtergronden.

which also runs parallel to ethnic or geographical backgrounds.

Ja, dat is ook allemaal daar gebeurd.

Yes, that all happened there too.

Dus het is nu wel echt heel ver weg van het hele idee van...

So it's really very far from the whole idea of…

lekker op je slippertjes en iedereen vooruit.

Nice in your flip-flops and everyone ahead.

Het is nu gewoon een plek waar...

It is now simply a place where...

kapitaal bepaald, waar hele grote bedrijfsbelangen een rol spelen.

Capital determined, where very large business interests play a role.

Het is gewoon een elite geworden in essentie.

It has simply become an elite in essence.

Het is zeker een elite, maar het is ook een elite...

It is certainly an elite, but it is also an elite...

die bepaalde waarden heel belangrijk vindt.

who finds those particular values very important.

Dus ik ben daar ook wel zo'n mensen voorgesteld...

So I also introduced such people there...

waarbij gewoon wordt gezegd, bijvoorbeeld dit is John.

where it is simply said, for example, this is John.

John heeft vijf jaar geleden zijn bedrijf verkocht...

John sold his company five years ago...

en heeft daar 300 miljoen aan overgehouden.

and has kept 300 million from that.

Oh, hoi John.

Oh, hi John.

Alles wat je over John moet weten.

Everything you need to know about John.

Ja, geld is daar echt een soort...

Yes, money is really a kind of...

hoe noem je dat? Koers.

What do you call that? Course.

Dus mensen meten het belang van een persoon...

So people measure the importance of a person...

en ook hoe interessant die is...

and also how interesting it is...

heel erg af aan hoeveel geld die heeft verdiend.

a lot depends on how much money he has earned.

En als je hier in Nederland kijkt...

And if you look here in the Netherlands...

zijn er natuurlijk ook genoeg succesvolle ondernemers...

there are certainly enough successful entrepreneurs...

maar die vinden het ook wel fijn om anoniem op hun fietsje...

but they also like to ride anonymously on their little bike...

naar kantoor te kunnen gaan.

to be able to go to the office.

En helemaal niet zo'n soort leven van kijk mij eens.

And not at all a life of look at me.

Dat is gewoon ook cultureel gezien echt een verschil.

That is really a difference culturally speaking.

Met hier in Nederland.

With here in the Netherlands.

Nou had je het over het begin van je carrière als Europarlementariër...

Well, you were talking about the beginning of your career as a Member of the European Parliament...

en dat je een jaar lang aan het zwemmen bent...

and that you have been swimming for a year...

zonder dat je zeker weet...

without being sure...

of je wel kunt werken.

if you can work.

Of je wel aan de oppervlakte komt.

Whether you will surface.

En dat mensen je moeten helpen om het systeem te ontdekken.

And that people need to help you discover the system.

Je schrijft in je boek dat er ook hulp kwam van techbedrijven.

You write in your book that help also came from tech companies.

En dat dat in het begin voor jou heel welkom was.

And that it was very welcome for you at the beginning.

Dat je ze nog wel een beetje zag als een medestander.

That you still saw them a bit as an ally.

Omdat ze in Europa dingen kwamen uitleggen.

Because they came to explain things in Europe.

Dezelfde tijd waarin Mark Zuckerberg werd ontvangen...

The same time that Mark Zuckerberg was received...

als een soort rockster in het parlement.

like a kind of rock star in parliament.

Mensen zelf...

People themselves...

Het is echt een stuk later dat dat gebeurde met Zuckerberg.

It really happened a lot later with Zuckerberg.

Maar ik ben altijd heel sceptisch geweest tegenover lobbyen.

But I have always been very skeptical about lobbying.

Of het nou van landen kwam...

Whether it came from countries...

gratis reizen aanboden aan Europarlementariërs...

free travel offered to MEPs...

of medewerkers of van bedrijven.

of employees or of companies.

Dus nee, ik was daar juist altijd heel sceptisch over.

So no, I was always very skeptical about that.

Ja, je zag dat wel.

Yes, you could see that.

Het is niet echt onze medestander.

It's not really our ally.

Het zijn gewoon bedrijven.

They are just companies.

Ja, maar het gaat ook eigenlijk niet om...

Yes, but it’s actually not about...

of een bedrijf een medestander is of niet.

whether a company is an ally or not.

Het gaat er gewoon om dat je als parlementariër...

It's just about the fact that as a parliamentarian...

gezonde afstand moet houden van welke lobby dan ook.

maintain a healthy distance from any lobby.

Dus ik vond dat gewoon...

So I just found that...

iets om sceptisch tegenover te zijn.

something to be skeptical about.

Ongeacht wie.

Regardless of who.

Dus wij hadden bijvoorbeeld een Europese liberale fractie.

So we had, for example, a European liberal group.

En als we dan...

And if we then...

een congres hadden...

had a congress...

met al die Europese partijen...

with all those European parties...

dan konden bedrijven dat gewoon sponsoren.

Then companies could just sponsor that.

En dan kregen ze ook een soort rondetafelgesprekje...

And then they also had a sort of roundtable discussion...

met eurocommissarissen en zo.

with euro commissioners and such.

Ja, dat vond ik veel te ver gaan.

Yes, I thought that went way too far.

En dan maakt het mij niet uit of dat Facebook was.

And then I don't care if that was Facebook.

Of weet ik veel, BMW of zo.

Or I don't know, BMW or something.

Want dat gaat uiteindelijk over regels.

Because it's ultimately about rules.

En regels moeten gemaakt worden met afstand.

And rules must be made at a distance.

Je zegt al...

You already say...

we hebben een hele andere sfeer nu.

We have a completely different atmosphere now.

Die Amerikaanse verkiezingen.

The American elections.

Elon Musk die steunt Trump.

Elon Musk supports Trump.

En niet zo'n beetje ook. Fanatiek.

And not just a little bit either. Fanatical.

En hij zet gewoon zijn platform X...

And he just sets his platform X...

in voor de steun aan Trump.

in favor of support for Trump.

De algoritmes die staan aan de kant van Trump.

The algorithms are on Trump's side.

Het is misschien niet eens onwaarschijnlijk...

It might not even be improbable...

dat andere social media bedrijven...

that other social media companies...

ook gewoon kant van Trump kiezen.

also simply choose Trump's side.

Kijk, dat er een kleur zit...

Look, there is a color...

in de manier waarop informatie tot ons komt.

in the way information comes to us.

Dat daar keuzes worden gemaakt...

That choices are being made there...

die ook politiek geladen zijn.

that are also politically charged.

Maar ook commercieel natuurlijk...

But also commercially, of course...

heel erg gemotiveerd zijn.

to be very motivated.

Dat is een feit.

That is a fact.

Elon Musk maakt dat nog veel zichtbaarder.

Elon Musk makes that even more visible.

Omdat hij ook zelf als...

Because he himself as well...

boodschapper...

messenger...

van berichten op X...

from messages on X...

niet alleen Trump steunt.

not only Trump supports.

Want dat is nog tot daaraan toe.

Because that's still up to that point.

Maar hij begint al...

But he is already starting...

nu met het zaaien van twijfel...

now with sowing seeds of doubt...

over of de verkiezingen wel eerlijk...

about whether the elections are fair...

zullen verlopen of niet in november.

will take place or not in November.

En dat is natuurlijk wel echt nog...

And that is of course still really...

een stap verder.

one step further.

Omdat er...

Because there...

helemaal geen aanwijzing voor is...

there is completely no indication for...

dat er...

that there...

wantrouwen moet zijn in het proces...

distrust must be in the process...

maar eigenlijk zegt...

but actually says...

Elon Musk al...

Elon Musk to...

en Peter Thiel doet dat ook...

and Peter Thiel does that too...

die zeggen al...

they already say...

op het moment dat Kamala Harris de verkiezingen zal winnen...

At the moment that Kamala Harris wins the elections...

of Trump ze zal winnen...

whether Trump will win...

en het is heel spannend...

and it's very exciting...

dus een klein verschil tussen de twee...

so a small difference between the two...

dan zal blijken dat ze...

then it will become clear that they...

proberen de verkiezingen te stelen.

trying to steal the elections.

Dus Musk begint eigenlijk al met hetzelfde narratief...

So Musk is actually starting with the same narrative...

wat Trump vier jaar geleden had.

what Trump had four years ago.

Namelijk stop the steal...

Namely, stop the steal...

en de verkiezing is van mij, Donald Trump, gestolen.

and the election was stolen from me, Donald Trump.

Dat is natuurlijk...

That is of course...

echt voor het vertrouwen in het democratisch proces...

really for the trust in the democratic process...

waar iedereen het van moet hebben...

where everyone has to rely on...

of je nou conservatief, progressief...

whether you're conservative, progressive...

democrat, republikein bent...

you are a democrat, a republican...

is dat levensgevaarlijk.

is that life-threatening.

Want er zijn nu al heel veel Amerikanen...

Because there are already a lot of Americans...

vooral republikeinen, die dus denken dat...

especially republicans, who therefore think that...

het niet eerlijk verloopt...

it's not fair...

met de verkiezingen.

with the elections.

En als je daarbij optelt...

And when you add to that...

dat een Elon Musk ook niet schuwt...

that an Elon Musk is also not shy...

om de boel een beetje op te porren...

to stir things up a bit...

en dat mensen sowieso...

and that people anyway...

bereidheid hebben getoond om...

to have shown willingness to...

geweld te gebruiken...

to use violence...

dan denk ik...

then I think...

dat de situatie in Amerika...

that the situation in America...

in combinatie tussen desinformatie...

in combination with disinformation...

het opjutten van mensen...

the incitement of people...

polarisatie en de rol die het internet daarbij speelt...

polarization and the role that the internet plays in it...

met al die platforms...

with all those platforms...

denk ik echt dat het heel spannend wordt in november.

I really think it will be very exciting in November.

Helaas.

Unfortunately.

Afgelopen zomer in Engeland...

Last summer in England...

racistische rellen.

racist riots.

Dat was ook voor een groot deel gestuurd...

That was largely driven as well...

door algoritmes.

through algorithms.

Door valse berichtgeving...

Due to false reporting...

die via social media tot mensen kwam.

that reached people through social media.

Om maar aan te geven...

Just to point out...

hoe vuurgezond...

how fire healthy...

hoe gevaarlijk het eigenlijk is...

how dangerous it actually is...

als er vals nieuws over de telefoon...

if there is false news over the phone...

tot mensen komt.

comes to people.

Dat weten we toch ook inmiddels wel.

We know that by now, don't we?

Die rellen inderdaad...

Those riots indeed...

bij covid hebben we het ook gezien...

we also saw it with covid...

dat gewoon het wantrouwen in vaccins...

that just the distrust in vaccines...

voor gezondheidsproblemen...

for health problems...

leiden nu nog steeds.

still lead now.

Een stad als Den Haag heeft gewoon geen dekkende...

A city like The Hague simply doesn't have a comprehensive...

vaccinatiegraad meer.

vaccination rate more.

Dat heeft ook alles te maken met...

That also has everything to do with...

de ongefundeerde...

the unfounded...

claims die daarover...

claims about it...

worden gedeeld op internet.

are shared on the internet.

Is daar nog iets tegen te doen?

Is there anything that can be done about that?

Of zitten we er nu naar te kijken en denken...

Or are we looking at it now and thinking...

shit, dit hebben we gemist.

shit, we missed this.

We zijn eigenlijk te laat.

We are actually too late.

Ik denk dat we laat zijn, maar nooit te laat.

I think we are late, but never too late.

Er kan natuurlijk altijd veel aan gebeuren.

Of course, a lot can always happen.

Maar daarvoor moeten we dieper kijken dan...

But for that, we need to look deeper than...

alleen de vraag...

just the question...

wat valt allemaal binnen de vrijheid van meningsuiting?

What is covered by freedom of expression?

Want het is een groot goed...

Because it is a great good...

dat er heel veel gezegd mag worden.

that a lot can be said.

Maar het gaat ook om op welke manier...

But it is also about how...

worden doelgroepen daarmee bestookt.

Target groups are being bombarded with that.

Op welke manier...

In what way...

kan er ook steeds geloofwaardiger...

it can also be increasingly credible...

doorkunstmatige intelligentie...

through artificial intelligence...

tekst, beeld...

text, image...

worden gefabriceerd?

are being manufactured?

Als je het ziet...

If you see it...

daar hebben we denk ik allemaal wel voorbeelden van gezien.

I think we've all seen examples of that.

Op een gegeven moment was er zo'n foto...

At one point, there was such a photo...

of geen foto dan, maar dus een plaatje...

or no photo then, but a picture...

van de paus in een hele dure donsjas.

from the pope in a very expensive down jacket.

Ik weet niet of je die ook hebt gezien.

I don't know if you've seen that too.

Zo'n hele lange witte...

Such a very long white...

jas van een merk...

jacket of a brand...

wat als die jas in de winkel zou liggen...

what if that jacket were in the store...

zou het waarschijnlijk 15.000 euro...

it would probably be 15,000 euros...

of zo zijn.

or so they are.

En je kan je ogen niet geloven...

And you can't believe your eyes...

waar je denkt toch, hè?

Where you think, right?

Heeft die gekke paus nou zo'n jas zich laten aanmeten?

Has that crazy pope really had a coat tailored for himself?

Weet je wel?

Do you know?

En dat is dan misschien nog onschuldig.

And that may still be innocent.

Er zat ook een man achter...

There was also a man in the back...

dat plaatje die al paddenstoelen had gegeten.

that picture that had already eaten mushrooms.

Dus een beetje een soort trip...

So, a bit of a kind of trip...

waar die in zat.

where it was in.

Maar er zijn ook al...

But there are already...

gefabriceerde foto...

fabricated photo...

kwaliteit...

quality...

plaatjes gedeeld van bijvoorbeeld het pentagon...

pictures shared of, for example, the Pentagon...

wat in brand zou staan, waardoor...

what would be on fire, causing...

beurskoersen beïnvloed werden.

stock prices were influenced.

Omdat mensen dachten, hé, er is een...

Because people thought, hey, there is a...

rosie of een aanslag.

Rosie or an attack.

Er zijn al gefabriceerde...

There are already manufactured...

audioberichten geweest waarin het...

audio messages have been in which it...

moest lijken alsof...

had to seem like...

Zelensky zich overgaf.

Zelensky surrendered himself.

Dus er zijn...

So there are...

een heleboel signalen dat...

a whole lot of signals that...

kunstmatige intelligentie ook een rol speelt...

artificial intelligence also plays a role...

in het creëren van dit soort content.

in creating this kind of content.

Dus dit soort berichten.

So this kind of messages.

En dat het moeilijker wordt voor mensen om dat te onderscheiden...

And that it becomes harder for people to distinguish that...

van authentiek door mensen...

from authentic by people...

of door foto...

or by photo...

vastgelegde uiting.

fixed expression.

Ja, die combinatie maakt natuurlijk...

Yes, that combination makes of course...

dat we kwetsbaar zijn.

that we are vulnerable.

En het probleem is een beetje dat we...

And the problem is a bit that we...

als je gelooft in de democratie...

if you believe in democracy...

dat je al heel snel 10-0 achterstaat.

that you quickly find yourself 10-0 behind.

Want zelfs als de hele discussie gaat over...

Because even if the whole discussion is about...

had de paus nou zo'n jas aan...

Did the pope really wear such a coat...

en was er nou echt een explosie bij het pentagon...

And was there really an explosion at the Pentagon...

en we concluderen allemaal...

and we all conclude...

nee, de paus had niet die jas aan...

No, the pope wasn't wearing that coat...

was geen explosie.

was no explosion.

Dan holt het hele proces van dit soort...

Then the whole process of this kind...

discussie over desinformatie...

discussion about disinformation...

het feit dat dit soort...

the fact that this kind of...

berichten...

messages...

berichten kunnen worden gedeeld...

Messages can be shared...

holt het algemene vertrouwen uit.

it undermines the general trust.

Dus steeds meer mensen denken...

So more and more people think...

ik weet niet meer wat ik moet geloven.

I don't know what to believe anymore.

Die haken gewoon af.

They just drop out.

Die denken, ach, nou ja, er is verwarring.

They think, oh well, there is confusion.

Weet je, het zal allemaal wel.

You know, it will all be fine.

Nou, maar ook in die verwarring inderdaad...

Well, but also in that confusion indeed...

of in het idee van...

or in the idea of...

alles zou waar kunnen zijn...

everything could be true...

daar gedijen...

there thrive...

autoritaire krachten beter in.

authoritarian forces better.

Dus...

So...

los van de specifieke berichten...

aside from the specific messages...

die dan al dan niet op feiten gebaseerd zijn...

that may or may not be based on facts...

is het feit dat er...

Is the fact that there...

zoveel twijfel is...

so much doubt is...

is niet goed voor het vertrouwen...

is not good for trust...

in het democratisch proces.

in the democratic process.

Dus je hoeft je alternatieve waarheid niet eens te implementeren...

So you don't even have to implement your alternative truth...

als je maar verwarring zaait...

if you just sow confusion...

over het bestaan van de waarheid...

about the existence of truth...

en genoeg verwarring zorgt ervoor dat mensen...

and enough confusion ensures that people...

afhaken of het allemaal wel geloven...

give up or believe it all...

of een eigen plan trekken.

or make one's own plan.

Een volgende laag die erbij komt...

A next layer that comes along...

want we hebben het nu over valse berichtgeving...

because we are now talking about false reporting...

is dat je heel gericht met algoritmes...

is that you are very focused with algorithms...

de juiste doelgroep kan bereiken...

reaching the right target audience...

en al kan weten waar zij mee worstelen.

and can know what they are struggling with.

Dus je zou bijvoorbeeld...

So you would, for example...

een zwarte populatie in een moeilijke wijk in de VS...

a Black population in a difficult neighborhood in the US...

een verkeerde verkiezingsdatum kunnen aansmeren.

to impose an incorrect election date.

Ik noem maar wat, hè?

I'm just saying, right?

Ik zit te fantaseren.

I'm daydreaming.

Maar dit is technisch helemaal niet ingewikkeld.

But this is not technically complicated at all.

Nee, maar dit soort dingen gebeuren aan de lopende band.

No, but these kinds of things happen all the time.

Er worden ook minderheden...

Minorities are also being...

tijdens de vorige verkiezingen in Florida...

during the previous elections in Florida...

de Spaans sprekende minderheden...

the Spanish-speaking minorities...

werden echt bestookt met desinformatie...

were really bombarded with disinformation...

omdat natuurlijk meerderheid van ook...

because of course the majority of also...

het onderzoek en het monitoren van wat er op sociale media gebeurt...

the research and monitoring of what is happening on social media...

gaat om wat er in het Engels gedeeld wordt.

it's about what is being shared in English.

En gaat om...

And it's about...

wat er echt boven komt drijven.

what really rises to the surface.

Dus we hadden het net over wat Musk zelf zegt.

So we were just talking about what Musk himself says.

Ja, dat is één ding.

Yes, that is one thing.

Maar er zijn ook hele niches...

But there are also entire niches...

en hele subculturen online...

and entire subcultures online...

waar ook van alles gebeurt.

where all sorts of things happen.

En het wordt allemaal makkelijker...

And it all becomes easier...

om precies te weten...

to know exactly...

welke niche-populatie...

which niche population...

er nodig is om een meerderheid...

is needed to achieve a majority...

in een cruciale staat te winnen.

to win in a crucial state.

Dus waar alle energie misschien voorheen ging...

So where all the energy might have gone before...

naar het bereiken van de populatie...

towards reaching the population...

aan zich, gewoon alle kiezers...

to themselves, just all the voters...

en om hen te overtuigen...

and to convince them...

is het nu makkelijker om precies te berekenen...

is it now easier to calculate exactly...

en precies te targeten wie je dan nodig hebt...

and precisely target who you need then...

om te winnen.

to win.

En dat is hoe mensen kiezen tegenwoordig.

And that is how people choose nowadays.

Want de verslaggeving gaat heel erg over rallies...

Because the reporting is very much about rallies...

over busreizen...

about bus trips...

over televisiedebatten...

about television debates...

over kranteninterviews.

about newspaper interviews.

Maar ik heb de indruk dat mensen vooral hun stem bepalen...

But I get the impression that people mainly determine their vote...

via algoritmes.

via algorithms.

Nou, via informatie die ze online vinden.

Well, through information that they find online.

En die informatie kan dus ook...

And that information can also...

toegespitst zijn...

to be focused on...

op de buurt waar mensen wonen.

in the neighborhood where people live.

Dus er is wel...

So there is...

ook veel kritische aandacht...

also a lot of critical attention...

voor het idee van...

for the idea of...

politieke advertenties mogen niet...

political advertisements may not...

ongelimiteerd getarget worden...

being targeted unlimitedly...

bijvoorbeeld op...

for example on...

seksuele oriëntatie of geslacht...

sexual orientation or gender...

of zo.

or so.

Maar als het gaat over...

But when it comes to...

ik noem maar wat, misdaad...

I'm just saying, crime...

in de buurt, kun je heel veel onrust zaaien...

in the area, you can cause a lot of unrest...

als je op een geloofwaardige manier...

if you in a credible way...

als mensen naast een park wonen...

when people live next to a park...

nepberichten gaat delen...

sharing fake news...

dat er in dat park...

that there in that park...

allemaal ellende zich afstelt.

all misery is set in motion.

En dat de politie niks doet, ik zeg maar wat.

And that the police does nothing, I'm just saying.

Dus ook...

So also...

de context wordt heel erg toegespitst...

the context is very much narrowed down...

op het dagelijks leven van mensen.

on the daily lives of people.

Het is niet gewoon een soort fabel die dan...

It's not just some kind of fable that then...

300 kilometer verderop zou zijn gebeurd.

It would have happened 300 kilometers further away.

Maar er worden dus ook berichten...

But there are also reports...

heel erg toegespitst op...

very much focused on...

de realiteit waar die...

the reality where that...

specifieke doelgroep in leeft.

specific target group in age.

Dus de kattenvrouwtjes die je net beledigd hebt...

So the cat ladies you just insulted...

die moet je terugwinnen en dan ga je zeggen...

you have to regain that and then you'll say...

pas op, ze eten je kat op.

Watch out, they will eat your cat.

Ik noem maar wat.

I'm just saying.

Ja.

Yes.

Ja, het werd heel erg kat ineens.

Yes, it suddenly became very cat-like.

Nee ja, ik denk dat dat kattenvrouwtje...

No yes, I think that cat lady...

nou echt een hele grote misrekening is geweest...

Well, it has really been a huge miscalculation...

van het kamp Trump.

from the Trump camp.

Want...

Want...

ja, zij doen een beetje...

Yes, they are a bit...

vanuit een soort...

from a sort of...

spiervertoon.

muscle display.

Enorm mannelijke trots.

Enormous male pride.

Waar je vervreemd kiezers.

Where you alienate voters.

Dat is het moeilijkste in verkiezingstijd...

That is the hardest thing during election time...

voor elke politicus.

for every politician.

Probeer niet de kiezer uit te schelden.

Try not to insult the voter.

Je zou versteld staan hoe vaak het misgaat...

You would be amazed at how often it goes wrong...

dat politici de verleiding om de kiezer uit te schelden...

that politicians are tempted to insult the voter...

niet kunnen weerstaan.

cannot resist.

En dat ze het hebben over een bucket of deplorables...

And that they are talking about a bucket of deplorables...

of catladies...

of cat ladies...

of verwende diva's in Nederland.

or spoiled divas in the Netherlands.

Er zijn zoveel politici...

There are so many politicians...

die uiteindelijk ermee eindigen...

that ultimately ends up with...

de kiezer uit te schelden.

to insult the voter.

Ja, maar zij mikken natuurlijk op de kiezer...

Yes, but they are of course targeting the voter...

in hun achterban.

in their support base.

Zij zien dan een vleesetende barbecue...

They then see a carnivorous barbecue...

hummerrijdende...

hummer driving...

Ja, het gaat natuurlijk ook om heel erg...

Yes, it's of course also about very much...

het uitmelken van die polarisatie.

the milking of that polarization.

Dus die verschillen...

So those differences...

uitvergroten en inderdaad doen alsof...

zoom in and indeed pretend...

de ander gek is of gevaarlijk...

the other is crazy or dangerous...

of heel anders.

or very different.

We hebben de democraten gezegd...

We told the Democrats...

dat ze regels willen tegen Big Tech.

that they want regulations against Big Tech.

Tot nu toe hebben ze het niet echt enorm gedaan.

So far, they haven't really done anything huge.

Dus dat moet dan een verandering zijn.

So that must be a change.

Maar dat wil Big Tech...

But that's what Big Tech wants...

waarschijnlijk niet.

probably not.

Want zoals je net zei...

Because as you just said...

de belangrijkste norm is geld verdienen.

The most important norm is to make money.

Dus die zijn dan naar we aannemen...

So those are, we assume...

aan de kant van de republikeinen...

on the side of the republicans...

op dit moment.

at this moment.

Jij noemt een aantal dingen die je zou kunnen doen...

You mention a number of things you could do...

met regelgeving.

with regulations.

Zo van, het is verboden om heel specifiek...

Like, it is forbidden to be very specific...

berichten te sturen...

sending messages...

aan een bepaalde doelgroep.

to a specific target audience.

Om dat uit te voeren, zo'n regel...

To execute that, such a rule...

zou je precies die techniek moeten kennen.

You should know exactly that technique.

Is die kennis er eigenlijk wel?

Is that knowledge actually there?

Ja.

Yes.

Ik ga even wat meer context geven.

I will provide some more context.

Want we hebben het tot nu toe heel erg over desinformatie gehad.

Because we have been talking a lot about disinformation so far.

Dat is een, denk ik...

That is a, I think...

vrij bekend probleem.

well-known problem.

In het boek dat ik heb geschreven, de Tech Group...

In the book I have written, the Tech Group...

praat ik over veel meer...

I am talking about much more...

plekken.

places.

Big tech, maar ook kleine techbedrijven.

Big tech, but also small tech companies.

Die een steeds belangrijkere rol...

That plays an increasingly important role...

innemen en beslissingen nemen...

taking in and making decisions...

over de levens van mensen...

about the lives of people...

zonder dat daar voldoende onafhankelijk toezicht op is.

without sufficient independent oversight.

Ik kaart die machtsgreep...

I'm bringing up that power grab...

door de techsector...

through the tech sector...

zonder tegenmacht aan als probleem...

without counterpower as a problem...

in het boek.

in the book.

En kom met oplossingen.

And come up with solutions.

En één daarvan is inderdaad dat...

And one of those is indeed that...

we als publiek...

we as an audience...

als samenleving...

as a society...

als academici, als journalisten...

as academics, as journalists...

maar ook als toezichthouders...

but also as supervisors...

maar heel moeilijk onder de motorkap...

but very difficult under the hood...

van die commerciële bedrijven kunnen kijken.

from those commercial companies.

Dus dat heel veel...

So that a lot...

hele essentiële kennis...

very essential knowledge...

alleen maar in handen is...

only in hands is...

van die techbedrijven.

of those tech companies.

En zij inderdaad niet zo'n zin hebben om dat te gaan delen.

And they indeed are not really keen on sharing that.

Want zij zeggen dat is het geheim van de smid.

Because they say that is the secret of the trade.

Dat is van ons. Dat is ons concurrentievoordeel.

That is ours. That is our competitive advantage.

En er zijn ook intellectuele eigenomswetten...

And there are also intellectual property laws...

die hen daar behoorlijk bij helpen.

that will help them quite a bit.

En inderdaad...

And indeed...

zou je dus veel meer transparantie...

would you therefore want much more transparency...

in het publieke belang willen...

in the public interest we want...

om ook een...

to also have a...

gedegen analyse van bijvoorbeeld...

thorough analysis of, for example...

de kracht van die desinformatie te maken.

to harness the power of that disinformation.

Want het probleem is, als het gevaar overschat wordt...

Because the problem is, when the danger is overestimated...

er zijn ook collega's van mij bijvoorbeeld...

there are also colleagues of mine for example...

op Stanford die zeggen...

at Stanford they say...

overschat het nou niet, want daarmee maak je het groter dan het is.

Don't exaggerate it now, because that makes it bigger than it is.

En daarmee hoor je ook de democratie uit.

And with that, you also hear democracy out.

Maar om dus precies een grip te krijgen op...

But to really get a grip on...

wat is er nou wel en niet aan de hand...

What is going on and what is not...?

zou je veel meer mogelijkheden...

would you have many more possibilities...

tot onafhankelijk onderzoek moeten hebben.

must have for independent research.

En dat geldt niet alleen voor desinformatie.

And that applies not only to disinformation.

Dat geldt ook voor hoe kunstmatige intelligentie werkt...

That also applies to how artificial intelligence works...

en andere technologieën.

and other technologies.

Zodat je dus een veel...

So that you have a much...

toegespitster beleid zou kunnen maken.

targeted policy could be made.

Want techniek grijpt in op...

Because technology intervenes in...

alle delen van ons leven.

all parts of our life.

Dat is razendsnel veranderd en aan het veranderen.

That has changed rapidly and is still changing.

Het is niet dat jij tegen techniek bent.

It's not that you are against technology.

Dit zeg ik om de discussie zuiver te houden...

I say this to keep the discussion clear...

want tegenwoordig worden discussies nogal eens gekaapt.

Because these days discussions are often hijacked.

Dat klopt.

That's correct.

Je bent voor techniek...

You are for technology...

maar je bent ook voor regelgeving.

but you are also in favor of regulation.

En dat is niet een heel raar standpunt.

And that is not a very strange point of view.

Ik ben dol op auto's, maar ik ben ook best dol op verkeersborden.

I love cars, but I'm also quite fond of traffic signs.

En stoplichten...

And traffic lights...

en haaien tanden en al die dingen.

and shark teeth and all those things.

Iedereen snapt dat.

Everyone understands that.

Dus volgens mij hoeven we de discussie niet te splijten in...

So I don't think we need to split the discussion into...

Marietje Schaken wil terug naar het analoge tijdperk.

Marietje Schaken wants to return to the analog era.

Oh nee, helemaal niet.

Oh no, not at all.

Zo zit het niet.

That's not how it is.

Nou grijpt het in op allerlei dingen...

Well, it affects all sorts of things...

die heel ingrijpend zijn in ons bestaan.

that are very profound in our existence.

Hoe we oorlogen voeren bijvoorbeeld.

How we wage wars, for example.

Privacy, hoe we onze stem bepalen.

Privacy, how we determine our voice.

Wat voor informatie we tot ons nemen.

What kind of information we take in.

Maar het gaat ook over medische dingen.

But it is also about medical things.

Het gaat over...

It's about...

eenvoudige huishoudelijke...

simple household...

zaken.

businesses.

Het gaat over geld.

It's about money.

Het gaat over ongelooflijk veel dingen.

It is about an incredible number of things.

Maar als je er iets tegen wil doen...

But if you want to do something about it...

dan moet je het eerst begrijpen.

Then you first need to understand it.

En niet iedereen begrijpt dit.

And not everyone understands this.

Kijk, niet iedereen hoeft het ook te begrijpen.

Look, not everyone needs to understand it.

Ik denk ook vaak dat dat een argument is...

I often think that is an argument as well...

wat goed werkt om mensen buiten te sluiten.

what works well to exclude people.

Zoveel dit snap je toch niet.

You don’t understand this at all.

Hou je er buiten.

Stay out of it.

Je mag er niks over zeggen, want je hebt er niet voor doorgeleerd.

You can't say anything about it because you haven't studied for it.

Terwijl, hoeveel experts, computerwetenschappers...

While, how many experts, computer scientists...

zitten er nou in een parlement?

Are they now in a parliament?

Of in een regering? Heel weinig.

Or in a government? Very little.

Terwijl er in een parlement ook gestemd wordt...

While votes are being cast in a parliament...

over de zorg.

about the care.

En er maar heel weinig artsen...

And there are very few doctors...

in zitten.

to sit in.

Dus het idee dat je echt de inhoudelijke expert moet zijn...

So the idea that you really have to be the content expert...

om erover te stemmen of om er mening over te hebben...

to vote on it or to have an opinion about it...

dat vind ik niet.

I don't think so.

Ik denk wel dat de kans om...

I do think that the chance to...

de details beter te leren...

to learn the details better...

vergroot moet worden.

must be enlarged.

Zonder dat dat vanuit de kant van lobbyisten moet komen.

Without that having to come from the side of lobbyists.

Dus een van de oplossingen die ik ook in de techcoop suggereer...

So one of the solutions that I also suggest in the tech coop...

is dat, net als dat er een juridische dienst is...

is that, just like there is a legal department...

in de meeste parlementen...

in most parliaments...

waar je juridisch advies aan kan vragen...

where you can ask for legal advice...

of een wetsvoorstel kan laten toetsen...

or a bill can be reviewed...

op gewoon...

on just...

haalt dit...

does this work...

een toets voor de rechter...

a test for the judge...

zou je dat ook voor technologie moeten hebben.

Should you have that for technology as well?

Zodat er veel onafhankelijker kennis wordt binnengebracht...

So that a lot of independent knowledge is brought in...

in dat wetgevingsproces.

in that legislative process.

En ook wetsvoorstellige toetsen kunnen worden.

And legislative proposal tests can also be.

Want vaker...

Want more often...

is het zo dat technologie...

Is it the case that technology...

een onderdeel is van iets.

a component is part of something.

In plaats van het hoofdthema.

Instead of the main theme.

Dus bijvoorbeeld...

So for example...

nu zijn er allerlei discussies over...

Now there are all sorts of discussions about...

mobiele telefoons in de klas.

mobile phones in the classroom.

Als je het over onderwijs hebt, zijn er wel duizend andere dingen...

When you talk about education, there are a thousand other things...

die belangrijk zijn. Maar die rol van technologie...

that are important. But that role of technology...

is een stukje...

is a piece...

Nou, dan is het denk ik goed dat...

Well, then I think it's good that...

een parlementariër kan vragen aan die dienst...

a parliamentarian can ask that service...

Wat zijn nou de cijfers...

What are the numbers then...?

voor mentale welzijn van jongeren?

for the mental well-being of young people?

En wat is nu de invloed op...

And what is the influence on...

lees- en schrijfvaardigheid of concentratie?

Reading and writing skills or concentration?

Dat dat niet door...

That that doesn't go through...

Facebook of TikTok of Snap...

Facebook or TikTok or Snap...

in een rapportje wordt gezegd...

it is stated in a report...

of in een rapport wat door hen is gesponsord.

or in a report that has been sponsored by them.

Maar dat je echt veel onafhankelijker kan kijken daarnaar.

But you can really look at it much more independently afterwards.

Maar die kennis is duur.

But that knowledge is expensive.

Die kennis is schaars en die kennis is duur.

That knowledge is scarce and that knowledge is expensive.

Want je zei net, er wordt goed verdiend...

Because you just said, it's well-paid...

in Silicon Valley.

in Silicon Valley.

Zeker.

Certainly.

Wat zou het PC-parlement er nog tegenop bieden?

What could the PC parliament still oppose to that?

Er wordt in Europa ook niet slecht verdiend, moet ik zeggen.

I must say, you can also earn quite well in Europe.

Maar dat is ook een keus...

But that is also a choice...

die je moet maken.

that you have to make.

De Amerikaanse regering heeft nu...

The American government has now...

in het laatste...

in the last...

presidentiële decreet rondom kunstmatige intelligentie...

presidential decree on artificial intelligence...

ook gezegd...

also said...

de overheid zou meer moeten kunnen betalen...

the government should be able to pay more...

om beter te kunnen concurreren.

to compete better.

En dat zijn nog steeds niet salarissen...

And those are still not salaries...

die opbieden tegen wat er in Silicon Valley wordt betaald.

that bid against what is being paid in Silicon Valley.

Ik bedoel, als ik...

I mean, if I...

naar mijn studenten kijk...

looking at my students...

die kunnen kiezen tussen, bij wijze van spreken...

they can choose between, so to speak...

een baan in het Amerikaanse congres...

a job in the American Congress...

of bij de Federal Trade Commission...

or with the Federal Trade Commission...

of bij Anthropic of OpenAI...

or at Anthropic or OpenAI...

zit daar denk ik een factor 10 verschil in.

I think there's a factor of 10 difference in that.

Aan salaris.

On salary.

Maar goed, er zijn andere redenen om voor banen te kiezen.

But well, there are other reasons to choose jobs.

Hoop ik dan maar.

I hope so, then.

Dat is ook zo.

That is true as well.

Dat het niet alleen maar om het loonstrookje gaat.

That it's not just about the paycheck.

Nee, maar het probleem is dat veel van de redenen...

No, but the problem is that many of the reasons...

waarom computerwetenschappers ook voor banen kiezen...

why computer scientists also choose jobs...

ook niet in het voordeel zijn van de publieke zaak.

also not be in favor of the public good.

Bijvoorbeeld als je gewoon het meest baanbrekende onderzoek...

For example, if you just have the most groundbreaking research...

wil doen op het gebied van kunstmatige intelligentie...

wants to do in the field of artificial intelligence...

kom je bij bedrijven uit.

Do you end up with companies?

Op het moment dat je gewoon wil bouwen aan producten...

At the moment you just want to build products...

kom je meestal bij bedrijven uit.

Do you usually work at companies?

Dus helaas is er echt werk nodig...

So unfortunately, there is really work to be done...

om ervoor te zorgen dat de overheid beter in staat is...

to ensure that the government is better able to...

om die talenten aan te trekken.

to attract those talents.

En dat hangt ook weer samen met beleidskeuzes...

And that is also related to policy choices...

maar ook investeringskeuzes die de overheid maakt.

but also investment choices made by the government.

Want overheden zijn vaak de grootste klanten van techbedrijven.

Because governments are often the biggest clients of tech companies.

En daarmee hebben ze natuurlijk aan de ene kant...

And with that, they have of course, on the one hand...

een enorme afhankelijkheid gecreëerd.

created an enormous dependency.

Maar hebben ze aan de andere kant ook een hefboom...

But do they also have a lever on the other hand...

die veel beter ingezet kan worden.

that can be used much better.

Waardoor je dus veel meer transparantie, publieke waarde...

Which therefore leads to much more transparency, public value...

afrekenbaarheid in je contracten kunt schrijven.

you can include accountability in your contracts.

En ook kan zeggen, we willen over tien jaar...

And we can also say, we want in ten years...

uit de WURG-contracten waar we nu in zitten.

from the WURG contracts we are currently in.

Dus ik denk dat als de keus wordt gemaakt...

So I think that if the choice is made...

wij willen meer talent aantrekken en meer in eigen beheer gaan doen...

We want to attract more talent and manage more ourselves...

zodat we het beter begrijpen.

so that we better understand it.

Zodat we meer regie hebben over de digitale laag van de levens van mensen.

So that we have more control over the digital layer of people's lives.

Dan kan er ontzettend veel veranderen.

Then a lot can change.

Want nu kopen ze dat eigenlijk in van diezelfde bedrijven weer.

Because now they are actually buying that from those same companies again.

Ja, en die afhankelijkheid wordt natuurlijk hoe langer hoe meer.

Yes, and that dependence becomes more and more over time.

Want als je belangrijke beslissingen uitbesteedt...

Because if you outsource important decisions...

data-analyse of het bouwen van databases...

data analysis or building databases...

of het bouwen van algoritmes.

or the development of algorithms.

Kijk naar de Belastingdienst met de toeslagenaffaire.

Look at the Tax Office with the benefits scandal.

Dan ben je zelf natuurlijk minder in staat...

Then you are of course less able yourself...

om zoiets te doen.

to do something like that.

En de volgende keer dat er weer iets nodig is...

And the next time something is needed again...

weet je nog minder.

you know even less.

Omdat je dus al iets hebt uitbesteed.

Because you have already outsourced something.

Dus een soort negatieve spiraal tussen het uitbesteden...

So a sort of negative spiral between outsourcing...

van belangrijke diensten of producten aan bedrijven...

of important services or products to companies...

gaat natuurlijk vaak samen met een volgend uitbestedingstraject...

usually often goes hand in hand with a subsequent outsourcing process...

en nog weer een uitbestedingstraject.

and yet another outsourcing process.

Omdat je in de balans ziet dat er steeds meer kennis en...

Because you can see in the balance that there is increasingly more knowledge and...

Op een gegeven moment kan je...

At a certain point, you can...

Dat is gewoon niet meer zelf.

That is simply no longer oneself.

Ja, en op dat punt zijn we denk ik akelig dichtbij.

Yes, and at that point I think we are alarmingly close.

Die toeslagenaffaire is wel een mooi voorbeeld.

The benefits scandal is indeed a good example.

Want daar kregen de algoritmes de schuld...

Because the algorithms were blamed for it...

van het racisme van de Belastingdienst.

of the racism of the Tax Authority.

Nou, de Belastingdienst kreeg natuurlijk ook de schuld.

Well, the Tax Office was of course also blamed.

En de ministers gelukkig ook.

And the ministers are happy too.

Want het is natuurlijk altijd belangrijk...

Because it is of course always important...

dat er politieke verantwoordelijkheid is.

that there is political responsibility.

Maar dit type risicoanalyse door algoritmes...

But this type of risk analysis through algorithms...

wat heel duidelijk verkeerd is gegaan...

what has clearly gone wrong...

gebeurt nog steeds.

still happens.

We hebben het ook gezien bij de studiefinanciering.

We have also seen it with student finance.

Het zal alleen maar meer worden met AI, denk ik.

I think it will only increase with AI.

Nou, AI discrimineert inderdaad vaak.

Well, AI does indeed often discriminate.

En dat mag helemaal niet.

And that is not allowed at all.

En toch gebeurt het.

And yet it happens.

Daar is weinig ophef over, vind ik.

I think there is little commotion about that.

Maar de vraag is ook in meer detail...

But the question is also in more detail...

hoe heeft het nou zo mis kunnen gaan...

how could it have gone so wrong...

bij een Belastingdienst of bij andere sociale diensten...

at a tax office or at other social services...

en voorzieningen.

and facilities.

Want was het nou zo dat degene die er verantwoordelijk voor waren...

Because it was those who were responsible for it...

bij, laten we de Belastingdienst nog even vasthouden als voorbeeld...

let's hold on to the Tax Office as an example for a moment...

gewoon te weinig begrepen van wat ze deden...

just didn't understand enough of what they were doing...

en dat er een soort automatisch proces in overdrive is gegaan...

and that some kind of automatic process has gone into overdrive...

waardoor zoveel mensen op zo'n gruwelijke manier de dupe werden?

causing so many people to suffer in such a terrible way?

Of was het ook heel duidelijk een politieke keus...

Or was it also very clearly a political choice...

die vervolgens in een systeem geduwd is...

that has subsequently been pushed into a system...

en waar veel te weinig is gekeken van...

and where far too little attention has been paid to...

doet dat systeem wat we eigenlijk willen?

Does that system do what we actually want?

Wordt door deze uitbesteding nog wel binnen wettelijke kaders gehandeld...

Is this outsourcing still being done within legal frameworks?

of verder buiten?

or further outside?

Ik vind het moeilijk om echt precies die informatie...

I find it difficult to really get that exact information...

over die processen naar boven te krijgen.

to bring those processes to light.

Dat is natuurlijk een hele politieke verhaal.

That is, of course, a whole political story.

Maar op veel plekken zie je wel dat er te veel...

But in many places you see that there is too much...

en soms zelfs blind vertrouwd wordt...

and sometimes even trusted blindly...

op wat een technologiebedrijf gaat leveren.

on what a technology company will deliver.

En dat dat vertrouwen lang niet altijd terecht is.

And that this trust is not always justified.

En dan kom je terecht in een soort Kafka-George Orwell-achtige situatie...

And then you end up in a kind of Kafka-George Orwell-like situation...

waarin is er een briefland van de Belastingdienst...

where is there a letterland from the Tax Authority...

jij wordt verdacht van fraude...

you are suspected of fraud...

en je die hele machine over je heen krijgt...

and you get that whole machine over you...

en je komt er nooit achter waar het nou op gebaseerd was...

and you'll never find out what it was really based on...

wat je verkeerd hebt gedaan.

what you have done wrong.

En je kunt ook nergens echt in beroep.

And you can't really appeal anywhere either.

Het haalt allemaal niks uit.

It doesn't change anything.

En pas jaren later kom je erachter dat het ging om je huidskleur.

And only years later do you realize it was about your skin color.

Dat je iets meer pigment hebt dan je buurman.

That you have a bit more pigment than your neighbor.

Of omdat je een exotische achternaam hebt.

Or because you have an exotic surname.

Ja, of een andere geboorteplaats.

Yes, or a different place of birth.

Ja, het is echt een grote schande.

Yes, it is really a big shame.

Maar ook op andere plekken zien we dit soort...

But we also see this kind of thing in other places...

helemaal...

completely...

ja, illegaal, illegitiem gebruik van technologie.

Yes, illegal, illegitimate use of technology.

Er zijn ook mensen die een brief hebben gekregen...

There are also people who have received a letter...

dat ze illegaal geprotesteerd hadden op Schiphol...

that they had protested illegally at Schiphol...

tegen de uitstoot.

against the emissions.

Die waren daar niet.

They were not there.

Dat was de gezichtsherkenning had gezegd dat zij het waren.

That was what the facial recognition said they were.

Precies. Technologie had gezegd jij was daar.

Exactly. Technology had said you were there.

Nou, ga dan maar bewijzen dat je er niet was.

Well, then go ahead and prove that you weren't there.

Het is echt vaak de omgekeerde wereld.

It's often really the opposite world.

Want uiteindelijk is het ook heel slecht voor politie en justitie...

Because ultimately it is very bad for the police and justice...

als ze verkeerde verdachten gaan aanmerken.

if they are going to label wrong suspects.

Maar dat ligt uiteindelijk in het overdreven vertrouwen hebben...

But that ultimately comes down to having excessive confidence...

zonder voldoende toetsingsmechanismes in die technologie.

without sufficient evaluation mechanisms in that technology.

Dat ze denken, nou, als de technologie zegt...

That they think, well, if the technology says...

dat meneer of mevrouw Janssen of in dit geval mevrouw Verdel daar was...

that Mr. or Mrs. Janssen or in this case Mrs. Verdel was there...

dan zal dat wel waar zijn.

then that must be true.

Dus je moet uiteindelijk toe naar een situatie...

So you ultimately have to end up in a situation...

waarin de wetgever wel degelijk onder die motorkap komt.

wherein the legislator indeed comes under that hood.

En de toezichthouder met name ook, ja.

And the supervisor in particular, yes.

Dus je kan niet volstaan met abstracte juridische waarden...

So you can't be satisfied with abstract legal values...

als mensen hebben recht op privacy.

people have the right to privacy.

Je moet echt specifiek wetten maken voor technologische zaken...

You really need to create specific laws for technological matters...

als een algoritme of programmatuur.

as an algorithm or software.

Nee, ik denk eigenlijk dat dat niet hoeft.

No, I actually think that isn't necessary.

Omdat je dan altijd ook achter de laatste golf...

Because then you are always also behind the latest wave...

van weer een nieuwe technologie aanholt.

of yet another new technology unfolding.

Kijk, we weten al dat discriminatie niet mag.

Look, we already know that discrimination is not allowed.

Dat is heel duidelijk in de wet verankerd.

That is clearly anchored in the law.

En het zou niet moeten uitmaken...

And it shouldn't matter...

of je gediscrimineerd wordt bij de boekhandel om de hoek...

if you are discriminated against at the bookstore around the corner...

of bij de klantenservice aan de telefoon...

or at customer service on the phone...

of door een website.

or through a website.

Alleen, het ondergrondelijke van die algoritmes...

Only, the underground nature of those algorithms...

het gebruik van data...

the use of data...

maakt dat het moeilijker is om toezicht te houden.

makes it more difficult to supervise.

En ook omdat de ervaring online steeds verandert...

And also because the online experience is constantly changing...

en gepersonaliseerd is.

and personalized is.

Dus als jij een sociaal media platform opent en ik...

So if you open a social media platform and I...

hebben wij al verschillende ervaringen.

we have already had various experiences.

Want wat wij voorgeschoten krijgen...

Because what we are being advanced...

is gebaseerd op wat wij eerder interessant...

is based on what we found interesting earlier...

of nieuwswaardig hebben gevonden.

or found newsworthy.

Dus vanuit het perspectief van behouden toezicht...

So from the perspective of maintaining oversight...

betekent dat eigenlijk dat er niet meer één ervaring is...

does that actually mean that there is no longer one experience...

of één product.

of one product.

Het product is niet voor iedereen hetzelfde.

The product is not the same for everyone.

Het is niet één apparaat zoals een platenspeler...

It is not just one device like a turntable...

die voor iedereen dezelfde werking heeft.

that has the same effect for everyone.

Precies. Of één pot verf waarvan je kan zeggen...

Exactly. Or one can of paint that you can say...

nou, voldoet dit aan de norm.

Well, this meets the standard.

Of we steken daar eens even een staafje in...

Or we'll just stick a skewer in there...

en we kijken of het chemische gehalte...

and we check if the chemical content...

nog binnen de gezondheidsnormen is.

is still within the health standards.

Dat kan allemaal helemaal niet.

That can't all be true at all.

Bij die digitale diensten.

With those digital services.

Je kan bij innovatie heel moeilijk de ethiek...

You can hardly deal with ethics in innovation...

in het vroege stadium erin doen...

putting it in at an early stage...

omdat je nog niet precies weet wat de werking van de techniek wordt.

because you don't yet know exactly how the technique will work.

Ik denk dat je daar meer aan zou kunnen doen...

I think you could do more about that...

om het wel te doen.

to do it after all.

En dat je ook bijvoorbeeld kan beslissen...

And that you can also decide, for example...

als we nog niet precies weten hoe die technologie gaat uitpakken.

if we don't yet know exactly how that technology will turn out.

En dat is bijvoorbeeld bij kunstmatige intelligentie...

And that is, for example, in artificial intelligence...

een karakteristiek ervan.

a characteristic of it.

Dat er onvoorspelbaarheid is.

That there is unpredictability.

En dat ook de grootste experts niet durven voorspellen...

And that even the greatest experts dare not predict...

hoe het zich zal gaan gedragen.

how it will behave.

En hoe snel...

And how fast...

technologie nog weer competenter zal worden.

technology will become even more competent.

Enzovoort.

And so on.

Dus je zou dan moeten zeggen...

So you would have to say...

omdat we nog niet alles weten...

because we do not know everything yet...

willen we ook niet dat alles meteen wordt losgelaten...

don't we also want everything to be let go of immediately...

op de samenleving.

on society.

Dus willen we wat meer tijd bijvoorbeeld inbouwen...

So we want to build in some more time, for example...

om tussen het moment dat er iets ontdekt is...

to bridge the moment that something is discovered...

en het moment dat er iets verkocht wordt...

and the moment something is sold...

of gratis wordt aangeboden...

or is offered for free...

dat we een soort...

that we a kind of...

kans hebben...

to have a chance...

om het effect...

to effect...

en ook de technologie zelf te onderzoeken...

and also to investigate the technology itself...

in een wat...

in a what...

beperktere context.

more limited context.

Waardoor het dus niet meteen...

Which means that it does not immediately...

voor allerlei maatschappelijke problemen zorgt...

causes all sorts of societal problems...

op het moment dat er toch...

at the moment that there is still...

na drie maanden...

after three months...

een heel groot gebrek de kop opsteekt.

a very large deficiency rears its head.

Dit is het moment in dit gesprek...

This is the moment in this conversation...

dat mensen in Silicon Valley...

that people in Silicon Valley...

badend in het zweet wakker zouden worden.

waking up bathed in sweat.

Het beeld van een overheid die zegt...

The image of a government that says...

oké, mooi die innovatie, breng hem eerst even hier.

Okay, nice that innovation, bring it here first.

Dan gaan wij kijken naar de gevolgen...

Then we will look at the consequences...

en of er wetgeving moet komen.

and whether legislation should be introduced.

We gaan het eerst even toetsen...

We're going to test it first...

of het de markt op mag.

whether it may go to market.

Ja, dat vinden ze vast niet leuk.

Yes, they probably won't like that.

Maar het hele idee dat er een heel...

But the whole idea that there is a whole...

scala aan digitale producten is...

the scale of digital products is...

wat überhaupt niet aan wetgeving zou moeten voldoen...

that should not comply with legislation at all...

is natuurlijk absurd.

is of course absurd.

Alleen dat is een beetje de manier...

That's just a bit the way...

Een auto mag ook niet zomaar de weg op.

A car cannot just go out on the road either.

Als je een nieuw wagentje ontwerpt...

If you are designing a new little car...

dan moet je ook langs de RDW voordat hij goedgekeurd is.

Then you also need to go to the RDW before it is approved.

Ja, en dat is natuurlijk ook een proces...

Yes, and that is of course also a process...

wat door decennia heen gegroeid is.

what has grown over decades.

Want eerst wordt er een verbrandingsmotor ontwikkeld.

First, a combustion engine is developed.

Dan worden er mooie auto's gemaakt.

Then beautiful cars are made.

Maar dan opeens blijkt...

But then suddenly it turns out...

als je ergens tegenaan botst...

if you bump into something...

en je bent niet beschermd op een of andere manier...

and you are not protected in any way...

dan is het voor de persoon in de auto heel vervelend.

then it is very annoying for the person in the car.

Of we hebben er helaas lang over gedaan...

Or unfortunately, we took a long time...

maar toch geleerd dat het voor het milieu niet best was...

but still learned that it wasn't good for the environment...

om al die brandstof maar te verbranden...

to burn all that fuel...

en de lucht in te laten gaan.

and to let it go into the air.

Dus gaandeweg, hoe meer we hebben geleerd...

So gradually, the more we have learned...

zijn er ook meer regels gekomen over veiligheid...

Have more rules been implemented regarding safety as well...?

uitstoot, toetsbaarheid van allerlei aspecten van een auto...

emission, testability of various aspects of a car...

maar ook van genezing.

but also of healing.

Dus het idee dat technologie of digitale diensten...

So the idea that technology or digital services...

daarop een uitzondering zouden zijn, is natuurlijk absurd.

That there would be an exception to that is of course absurd.

Alleen, dat is wel het favoriete argument van tech-lobbyisten...

Only, that is indeed the favorite argument of tech lobbyists...

om te zeggen, nou, als je dat doet...

to say, well, if you do that...

dan zal er nooit meer innovatie in Europa zijn.

then there will be no more innovation in Europe.

Als je dat soort regels aanneemt...

If you adopt that kind of rules...

nou, dan gaan we terug naar het stenen tijdperk.

Well, then we're going back to the Stone Age.

Dan zijn zij de hippe, snelle, innoverende, superslimme mensen...

Then they are the trendy, fast, innovative, super-smart people...

en dan zijn het die slag-en-blijven.

and then it's those strike-and-stay.

En dan zijn het die slag-en-blijven.

And then it's those hit-and-stays.

Het schakelen van hackernetwerken, dus criminaliteit, grootschalige criminaliteit.

The switching of hacker networks, therefore crime, large-scale crime.

Het bouwen van infrastructuur, het beveiligen van infrastructuur, het analyseren van risico op die infrastructuur.

Building infrastructure, securing infrastructure, analyzing risks to that infrastructure.

Dat gebeurt voor een heel groot deel door een ecosysteem van private partijen.

This happens largely through an ecosystem of private parties.

Dus dat is al heel erg aan het zicht, maar ook aan het juridisch kader van de rechtsstaat en internationaal recht ontrokken eigenlijk.

So that is already very much removed from visibility, but also from the legal framework of the rule of law and international law, actually.

Of je kan zeggen, die regels zijn niet bijgebeend met waar die technologie naartoe is gegaan.

Or you could say, those regulations have not kept up with where that technology has gone.

Zoals dat Oekraïne afhankelijk is van de satellieten van Elon Musk zijn bedrijf Starlink.

Just as Ukraine is dependent on the satellites of Elon Musk's company Starlink.

Dat hij kan zeggen, oké, jullie mogen het gebruiken of oké niet.

That he can say, okay, you may use it or okay, not.

En doet ook alsof het een soort gunst is.

And also acts as if it's a kind of favor.

Gezichtsherkenning wordt al gebruikt aan het front om lijken te identificeren.

Facial recognition is already being used at the front to identify corpses.

Maar ook om te zien wie er tegenover je staat.

But also to see who is standing across from you.

Al dit soort technologieën zijn aan het front al heel belangrijk.

All these types of technologies are already very important on the front.

Maar je kunt je natuurlijk ook voorstellen.

But you can of course also introduce yourself.

In plaats van tanks en raketten.

Instead of tanks and rockets.

Dat met de cyberaanval heel Nederland zou worden platgegooid door Vladimir Poetin en niets het nog doet.

That the cyber attack would bring all of the Netherlands to a standstill by Vladimir Putin and nothing would do anything about it.

Dan kan je er gewoon overheen lopen.

Then you can just walk over it.

Wat bedoel je erover heen lopen?

What do you mean by walking over it?

Over het land.

Over the country.

Oh zo, ja.

Oh really, yes.

Als niemand nog een mobieltje heeft of wat dan ook.

If no one has a mobile phone or anything else.

Omdat het systeem of de stroom of weet ik veel.

Because the system or the power or I don't know what.

Dat je het gewoon plat legt.

That you just flatten it.

Ja, maar dit is dus ook precies waar je steeds ziet dat succesvolle aanvallen toe leiden.

Yes, but this is exactly where you keep seeing that successful attacks lead to.

Ik bedoel, in Amerika is er een cyberaanval.

I mean, there is a cyber attack in America.

Een cyberaanval geweest op een energie infrastructuur bedrijf Colonial Pipelines.

A cyber attack occurred on an energy infrastructure company, Colonial Pipelines.

Dat voorziet brandstof voor een heel groot deel van de oostkust van de Verenigde Staten.

That supplies fuel for a large part of the East Coast of the United States.

Bedrijf schrok zich rot, zag allemaal foutmeldingen en problemen met computers en dacht we gaan ook even de olietoevoer stoppen.

The company was shocked, saw all kinds of error messages and problems with computers, and thought they would also stop the oil supply for a while.

Want we weten niet wat hier aan de hand is.

Because we don't know what is going on here.

Totale paniek uitgebroken, vluchten omgeleid, enorme rijen bij de benzinestations.

Total panic has broken out, flights redirected, enormous queues at the gas stations.

Mensen kwamen met jerrycans en tasjes, want die dachten er komt geen benzine meer uit.

People came with jerry cans and bags, because they thought no more petrol would come out.

En.

And.

Noodtoestand afgekondigd, weet je wel, echt meteen, hup, geëscaleerd.

State of emergency declared, you know, really right away, boom, escalated.

En dit is dan nog een aanval waar een fysiek deel van is, waardoor het heel zichtbaar wordt.

And this is still an attack that has a physical component, making it very visible.

Maar als je kijkt in Oekraïne, maar ook in Nederland, dan wordt er gewoon dagelijks bestookt in het in het digitale domein.

But if you look at Ukraine, but also at the Netherlands, there are daily attacks in the digital domain.

Soms als het slaagt of als het heel veel schade oplevert, wordt het wordt het gezien.

Sometimes when it succeeds or causes a lot of damage, it is noticed.

Soms wordt het naar buiten gebracht, maar ik denk als je de diensten in Nederland zou vragen.

Sometimes it is brought up, but I think if you were to ask the services in the Netherlands.

Van goh, wordt er hier wel eens wordt er hier wel eens een aanval tegen Nederland losgelaten?

Wow, is there ever an attack launched against the Netherlands here?

Dan zeggen ze elke dag we doen niet anders.

Then they say every day we do nothing else.

We verdedigen ons helemaal te pletter hier.

We are defending ourselves to the utmost here.

Maar mensen aan de aan de keukentafel hebben niet het idee van we leven in de oorlog.

But people at the kitchen table do not have the idea that we are living in a war.

Maar het lijkt me wel een kwetsbaar systeem.

But it does seem to me a vulnerable system.

Dat is het.

That's it.

Per definitie, want internet is natuurlijk het in verbinding stellen van heel veel apparaten.

By definition, because the internet is of course about connecting a lot of devices.

Waardoor je maximaal gebruik maakt van die rekenkracht.

Resulting in maximum utilization of that computing power.

Maar die verbinding, dat maakt toch ook juist dat je heel makkelijk overal toegangstelt.

But that connection makes it so that you can easily access everything anywhere.

Dat eigenlijk kan je vaststellen dat hoe meer digitalisering, hoe meer kwetsbaarheid voor aanvallen.

You can actually establish that the more digitization there is, the more vulnerability there is to attacks.

Ik haal in de techcoop ook een andere schrijver aan, Miko Hipponen, een fin die heel goed is op het gebied van cyberveiligheid.

I also refer to another writer in the tech coop, Miko Hyppönen, a Finn who is very skilled in the field of cybersecurity.

En die heeft een boek geschreven dat zich vertaalt als wat slim is, is kwetsbaar.

And he has written a book that translates as what is smart is vulnerable.

Dus een slim apparaat, slimme wasmachine, smartphone, maar ook een slim wapensysteem.

So a smart device, smart washing machine, smartphone, but also a smart weapon system.

Een gedigitaliseerde overheid.

A digitized government.

Hoe meer software, alles met AI, meer software, nog meer software, is allemaal kwetsbaar.

The more software, all with AI, more software, even more software, is all vulnerable.

En als je ook kijkt naar de mate waarin grote softwarebedrijven, zoals bijvoorbeeld Microsoft, erin slagen om hun software te beschermen.

And when you also look at the extent to which large software companies, such as Microsoft, succeed in protecting their software.

Dan valt dat echt vies tegen.

Then that's really disappointing.

Dan zijn er continu datalekken, geslaagde aanvallen.

Then there are continuous data leaks, successful attacks.

Dus men zegt ook eigenlijk, dat hebben we ook in Nederland gezien met de Citrix hack.

So they also say, we have seen that in the Netherlands with the Citrix hack.

Een manier waarop je op afstand kon inloggen.

A way to log in remotely.

Werk tijdens COVID, gehackt.

Work during COVID, hacked.

Het is eigenlijk niet mogelijk om software 100% te beveiligen.

It is actually not possible to secure software 100%.

Met die kennis is het heel goed denkbaar dat er andere beslissingen zouden zijn genomen om al dan niet in rap tempo te digitaliseren.

With that knowledge, it is highly conceivable that other decisions would have been made regarding whether or not to digitalize rapidly.

Maar het verhaal was natuurlijk altijd, wie niet digitaliseert loopt achter.

But the story was always that those who do not digitalize fall behind.

De slimme stad, de slimme wereld, de slimme telefoons, alles wat slim is, wordt beter.

The smart city, the smart world, the smart phones, everything that is smart gets better.

Hartstikke handig, efficiënter, goed, mooi, modern.

Super handy, more efficient, good, nice, modern.

En slim is altijd digitaal.

And smart is always digital.

Dag is dat wel, toch?

That's true, isn't it?

Een beetje de connotatie van slim.

A bit of the connotation of smart.

En anders ben je natuurlijk ook dom.

And otherwise, you are of course also stupid.

Dus er is een enorme push geweest op meer digitalisering.

So there has been a huge push for more digitization.

En pas later zie je dat daar ook heel veel risico, kwetsbaarheid en problemen mee ontstaan.

And only later do you see that a lot of risks, vulnerabilities, and problems arise from that as well.

Hetzij in de veiligheid, hetzij met bijvoorbeeld discrimineren, hetzij met toegang tot informatie door de overheid.

Either in safety, or with discrimination for example, or with access to information by the government.

Als het gaat om hele grote publieke impact van die technologie.

When it comes to the very large public impact of that technology.

Dus ja, we hebben...

So yes, we have...

We hebben ons wel echt in een hoek laten drijven door die ongebreidelde digitalisering.

We have really let ourselves be driven into a corner by that unbridled digitalization.

Het is nogal een doemscenario.

It's quite a doomsday scenario.

Als iemand hier de stroom kan uitzetten.

If someone can turn off the power here.

Of even het internet kan laten crashen met alles wat erop aangesloten is.

Or it can even crash the internet with everything connected to it.

Nou, gelukkig lukt het ook niet zo makkelijk.

Well, fortunately, it's not that easy.

Die verdediging is ook hard aan het werk.

The defense is also working hard.

Maar reken maar dat het geprobeerd wordt.

But you can bet that it will be attempted.

Of dat er informatie gestolen wordt.

Or that information is being stolen.

Ook een belangrijk aspect.

Also an important aspect.

Dat je alles eigenlijk wel zou kunnen hacken en alvast weten informatievoorsprong kan creëren.

That you could actually hack everything and gain a head start by knowing information in advance.

Ja, voor informatie.

Yes, for information.

Innovatieve producten, bijvoorbeeld ASML.

Innovative products, for example ASML.

Hoe werkt dat precies met die productie van microchips in Eindhoven?

How exactly does the production of microchips work in Eindhoven?

Of tijdens COVID zullen de ingrediënten van de vaccins natuurlijk echt heel erg gewild zijn geweest.

Or during COVID, the ingredients of the vaccines must have been really in high demand.

Dus ja, nee, er is heel veel informatie.

So yes, no, there is a lot of information.

Ook over de bevolking.

Also about the population.

Over gewoon de geografie in het land.

About the geography in the country.

Kijk, als je echt kwaad wil, kan je met een heleboel informatie iets.

Look, if you really want to be angry, you can do something with a lot of information.

Dus dan gaan inlichtingendiensten of staten ook gewoon...

So then intelligence services or states will just...

hamsteren.

hoarding.

Die gaan pakken wat ze kunnen pakken.

They are going to take what they can get.

Heb je het idee dat dit een moment van ontwaken is?

Do you feel that this is a moment of awakening?

We hebben alles gedigitaliseerd.

We have digitalized everything.

Zelfs onze deurbel zit nu op het internet aangesloten.

Even our doorbell is now connected to the internet.

En ineens denkt iedereen...

And suddenly everyone thinks...

we moeten toch eens wat meer aan veiligheid gaan denken.

We really need to start thinking more about safety.

Of is dat moment er nog helemaal niet?

Or is that moment not there yet?

Rondom kunstmatige intelligentie zie ik wel dat risico's veel meer onderdeel zijn van de discussie over de technologie vanaf het begin.

I do see that risks have been much more a part of the discussion about the technology from the beginning, especially around artificial intelligence.

Terwijl dat bij het internet, mobiele telefoon, sociale media veel minder was.

Whereas that was much less the case with the internet, mobile phones, and social media.

Daar was het eigenlijk echt...

It was really there...

de sky is the limit, wordt allemaal geweldig en beter.

the sky is the limit, it will all be great and better.

Dus het idee van god, er zijn ook negatieve kanten, daar moeten we nu al over nadenken, is veel meer op de voorgrond.

So the idea of God, there are also negative aspects to it, we should already think about that, is much more to the forefront.

Maar ik vind ook wel dat er heel erg veel nog op incidenten wordt gereageerd.

But I also think that a lot is still being reacted to based on incidents.

Dus we praten relatief veel over sociale media, want dat kunnen we zien en dat gebruiken we ook allemaal.

So we talk relatively a lot about social media, because we can see it and we all use it as well.

We praten veel minder over het uitbesteden van overheidsdiensten aan bedrijven als Palantir in onze naam.

We talk much less about outsourcing government services to companies like Palantir on our behalf.

Of die oorlogsvoering waar we het net al even over hadden.

Or the warfare we just talked about.

Of het conflict in het cyberdomein.

Or the conflict in the cyber domain.

Daar zie ik veel minder publiek debat over.

I see much less public debate about that.

In heel Nederland rondom de vorige verkiezingen nul aandacht voor digitalisering.

In all of the Netherlands, there was zero attention for digitalization around the previous elections.

Eigenlijk onwaarschijnlijk.

Actually unlikely.

Ik moet nog even bijlezen over de politieke beschouwingen.

I still need to catch up on the political discussions.

Maar daar zie ik nou ook niet echt veel aandacht voor dit thema.

But I don't really see much attention for this topic there either.

Terwijl het wel echt een systeemprobleem is.

While it really is a systemic issue.

Dus dat heb ik ook in de techgroep proberen uiteen te zetten.

So I also tried to explain that in the tech group.

Op een manier die ook toegankelijk is voor gemiddelde kranten.

In a way that is also accessible to average newspapers.

Dat we hier met een veel veelzijdiger probleem te maken hebben.

That we are dealing with a much more versatile problem here.

Dan wat je misschien zou denken als je alleen de krantenkoepen leest.

Than what you might think if you only read the newspaper headlines.

En dan begin je dit gesprek met JD Fence.

And then you start this conversation with JD Fence.

Die eigenlijk zich achter de agenda van Elon Musk schaart.

Who actually aligns themselves with the agenda of Elon Musk.

Nou de vervlechting van de politiek en het geld in Silicon Valley.

Well, the intertwining of politics and money in Silicon Valley.

Is de afgelopen maanden veel prominenter geworden.

Has become much more prominent in recent months.

Ook veel prominenter dan ik had kunnen denken toen ik de laatste punt op papier zette van dit boek.

Also much more prominent than I could have imagined when I wrote the last period of this book on paper.

Dus de periode die ik in de techgroep beschrijf beslaat ongeveer 30 jaar.

So the period I describe in the tech group spans about 30 years.

30 à 40 jaar.

30 to 40 years.

Gaat vooral ook over wat er nu speelt aan de machtsgreep door techbedrijven.

It mainly concerns what is currently happening with the power grab by tech companies.

Maar helaas zie ik meer illustratie van hoe heftig dit probleem is.

But unfortunately, I see more illustration of how severe this problem is.

Iedere dag dat ik weer kijk naar wat er nu weer in de wereld gaande is.

Every day that I look again at what is happening in the world.

Het is echt ook veel armpje drukken tussen techbedrijven en de overheid.

It's really a lot of arm wrestling between tech companies and the government.

Er zijn donors die graag geld aan Kamala Harris willen geven.

There are donors who would like to give money to Kamala Harris.

Maar wel nadat ze het hoofd van de Federal Trade Commission ontslaat.

But only after she dismisses the head of the Federal Trade Commission.

Want ze vinden die bedrijven gewoon niet fijn dat er zoveel mededingingszaken lopen.

Because they just don't like that there are so many competition cases going on.

Dus niet alleen in de republikeinse hoek.

So not just in the republican corner.

Ook in de democratische hoek is het echt een factor geworden.

It has also really become a factor in the democratic camp.

Die push vanuit het geld uit Silicon Valley.

That push from the money out of Silicon Valley.

De investeerders daar.

The investors there.

Degene die de bedrijven leiden.

Those who lead the companies.

Met ook een vraag doe er maar wat voor terug.

With a question too, just do something in return.

Nou beschrijf je ook een beetje je eigen rondgang.

Well, you also describe your own tour a bit.

En dat je wordt uitgenodigd op allerlei bijeenkomsten.

And that you are invited to various gatherings.

Lobby bijeenkomsten.

Lobby meetings.

Dat je ineens op een tropisch eiland bent.

That you suddenly find yourself on a tropical island.

Omdat je daardoor Richard Branson bent uitgenodigd.

Because of that, you have been invited by Richard Branson.

Wat dan eigenlijk opvalt is dat er zo weinig zorg is juist.

What is striking is that there is so little care indeed.

In die kringen waar je komt.

In the circles you visit.

Dat je al vrij snel toch een beetje een zijkert bent.

That you end up being a bit of a sidekick relatively quickly.

Zeker.

Sure.

Ook zo wordt weggezet natuurlijk.

That's also how it's dismissed, of course.

Als iedereen kan doen.

If everyone can do it.

Oh god, gaan we moeilijk lopen doen.

Oh god, are we going to make this difficult?

Heb je weer zo'n Europeaan.

You have another one of those Europeans.

Een kritische gevoeligheid.

A critical sensitivity.

Ja precies.

Yes exactly.

Nee, allemaal emotioneel.

No, all emotional.

En die begrijpen het niet.

And they don't understand it.

En door dit soort gezeik loopt de EU ook achter met innovatie.

And because of this kind of nonsense, the EU is also lagging behind in innovation.

Er worden allemaal enorme clichés natuurlijk uitgerold.

All sorts of enormous clichés are being rolled out, of course.

In Silicon Valley denken heel veel mensen dat.

In Silicon Valley, a lot of people believe that.

De algemene verordening gegevensbescherming.

The General Data Protection Regulation.

Is aangenomen om techbedrijven dwars te zitten.

Has been adopted to thwart tech companies.

Terwijl het een wet is op Europees niveau.

While it is a law at the European level.

Om de databeschermingsregels glad te trekken.

To smooth out the data protection rules.

In Europa.

In Europe.

Maar die geldt evengoed voor gemeente Amsterdam.

But that applies equally to the municipality of Amsterdam.

Als voor Google.

Like for Google.

Dus de perceptie is ook scheef.

So the perception is also skewed.

Over Europa.

Over Europe.

En het zijn natuurlijk veel berichten die ze niet willen horen.

And of course there are many messages that they do not want to hear.

Omdat ze denken wij willen gewoon ons gang gaan.

Because they think we just want to go our own way.

Onze bedrijven laten groeien tot nog grotere hoogte.

Growing our businesses to even greater heights.

Onze innovaties nog impactvoller.

Our innovations even more impactful.

En zelf beslissingen nemen.

And make decisions for yourself.

Dat gaat eigenlijk ook over de mond.

That actually also pertains to the mouth.

Over de mondigheid van de grootste gemene deler.

On the assertiveness of the greatest common divisor.

Van de meeste mensen.

From most people.

Want je hebt het over een kleine elite.

Because you're talking about a small elite.

Die zegt wij willen meer macht.

That says we want more power.

Meer geld.

More money.

Meer zeggenschap.

More control.

En vooral geen belemmeringen.

And especially no obstacles.

De politieke macht die daar tegenover zou staan.

The political power that would oppose it.

Die zou namens het grootste deel van het volk moeten zijn.

That should be on behalf of the majority of the people.

Eigenlijk namens iedereen.

Actually on behalf of everyone.

De kiezers.

The voters.

Toch is dat bewustzijn er niet zo.

Yet that awareness is not really there.

Of er is machteloosheid.

Or there is powerlessness.

Of er is eigenlijk een idee van.

Or there is actually an idea of that.

Gaat het wel over mij?

Is it really about me?

Wat moet ik hiermee doen?

What should I do with this?

Ik denk dat er een paar dingen aan de hand zijn.

I think there are a few things going on.

In de techcoop beschrijf ik ook heel erg hoe we een probleem hebben.

In the tech coop, I also describe in great detail how we have a problem.

Omdat democratische leiders het hebben laten ontstaan.

Because democratic leaders have allowed it to arise.

Dus de kritiek is zeker op de techbedrijven.

So the criticism is definitely directed at the tech companies.

Maar misschien nog wel meer op de politici die niet meer hebben ingegrepen.

But perhaps even more on the politicians who no longer intervened.

Ik denk dat het inderdaad makkelijk is voor mensen in hun dagelijks leven.

I think it is indeed easy for people in their daily lives.

Om te denken wie ben ik om hier wat aan te doen.

To think who am I to do something about this.

Is het niet al te laat?

Is it not too late?

Er is al zoveel data van mij verzameld.

So much data has already been collected about me.

Moet ik dat gesprek aan met mijn kinderen over het gebruik van smartphones?

Should I have that conversation with my children about the use of smartphones?

Hoe kan ik vanuit mijn woning nou iets doen aan de veiligheid van het land?

How can I do something about the safety of the country from my home?

Het zijn ook grote problemen.

These are also major problems.

En ook is het steeds als internetgebruiker op sociale media.

And it is also always like that as an internet user on social media.

Of van een bedrijfssoftwarepakket.

Or from a business software package.

Is het een heel groot asymmetrie tussen het individu.

Is there a very large asymmetry between the individual?

En de miljarden bedrijven waar je eigenlijk tegenover...

And the billions of companies that you are actually facing...

staat die de keuzes die je moet maken als je inschrijft.

lists the choices you have to make when you register.

Zo aantrekkelijk maken om allemaal te accepteren.

Make it so attractive that everyone accepts it.

Wat er aan gebruikersvoorwaarden zijn.

What are the user terms?

Dat je nou moet wel echt een heel geduldig persoon zijn.

You must really be a very patient person.

Die zin heeft om zich in te lezen.

That sentence has to be read.

En allemaal detail en allemaal schuifjes aan en uit te zetten.

And all the details and all the sliders to turn on and off.

Ja heel veel mensen denken gewoon ja het zal wel.

Yes, a lot of people just think, "Oh, it doesn't matter."

Ik wil nu gewoon graag chat GPT proberen.

I just want to try chat GPT now.

Dus hup accepteer het maar.

So come on, just accept it.

Of je accepteert bij het aanmaken van een profiel.

Or you accept when creating a profile.

Dat de gebruikersvoorwaarden ook in de toekomst aangepast kunnen worden.

That the terms of use may also be subject to changes in the future.

Dus dat zie je nu heel erg.

So you can see that very clearly now.

Dat sociale mediabedrijven passen dan hun gebruikersvoorwaarden aan.

That social media companies then adjust their user terms.

Jij denkt gewoon het is woensdag.

You just think it's Wednesday.

Ik ga vertellen dat ik een nieuwe baan heb.

I am going to say that I have a new job.

Blijkt dat een LinkedIn of zo ook het platform gebruikt.

It turns out that a LinkedIn or something similar is also used as the platform.

Alles wat jij en ik erop zetten om AI mee te trainen.

Everything that you and I contribute to train AI.

Dus het is ook ondergrondelijk voor het individu.

So it is also underground for the individual.

En ik snap ook dat mensen daar een beetje ja.

And I understand that people feel a bit yes about that.

Een idee hebben van.

To have an idea of.

Ik weet niet waar ik moet beginnen.

I don't know where to start.

En daarom is het ook zo belangrijk dat het op collectief niveau gebeurt.

And that is why it is so important that it happens at a collective level.

Ik denk dat het fijn is als mensen zelf andere keuzes willen maken.

I think it is nice if people want to make different choices for themselves.

Bijvoorbeeld minder commerciële diensten.

For example, less commercial services.

Meer publieke diensten willen gebruiken.

More public services want to be used.

En daarop pushen.

And then push on that.

Maar de grote verandering zal toch echt door beleid en investeringen vanuit regeringen moeten komen.

But the big change will really have to come from policies and investments from governments.

En zie je daar dat bewustzijn?

And do you see that consciousness there?

Want je zei net al bij de algemene beschouwingen.

Because you just mentioned it during the general discussions.

Voor zover we nu weten ging het er niet echt over.

As far as we know now, it wasn't really about that.

In de afgelopen verkiezingen ging het er helemaal niet over.

In the last elections, it wasn't about that at all.

En zie jij dat wel veranderen eigenlijk?

And do you actually see that changing?

Is er eigenlijk wel reden voor optimisme?

Is there really a reason for optimism?

Er is altijd reden voor optimisme en hoop dat het beter kan.

There is always reason for optimism and hope that it can get better.

Kijk als er zo weinig gebeurd is in de politiek.

Look, if so little has happened in politics.

Dan kan er ook nog een heleboel wel gedaan worden om het beter te maken.

Then a lot can still be done to improve it.

In Nederland gaat het er te weinig over.

In the Netherlands, it is not discussed enough.

Op EU niveau gaat het er heel veel over.

At the EU level, it is discussed a lot.

En dat is misschien ook wel het beste niveau om dat gezamenlijk te doen.

And that might also be the best level to do that together.

Maar ook dan heb je natuurlijk als Nederland en als Nederlandse regering.

But even then, of course, you have the Netherlands and the Dutch government.

Een positie om dat Europese beleid.

A position on that European policy.

Niet aan te jagen.

Not to be hunted.

En dat zou je willen doen op basis van wat je bevolking ervan vindt.

And you would want to do that based on what your population thinks about it.

Dus ik vind dat het echt hoger op de agenda moet.

So I think it really needs to be higher on the agenda.

Zodat er een beter politiek debat over kan komen.

So that a better political debate can arise.

Ik zie ook wel dat de zorgen soms groeien op plekken.

I can also see that concerns sometimes grow in certain areas.

Waar ik het in eerste instantie niet had verwacht.

Where I didn't expect it at first.

Dus aan de ene kant zie je grote verwevenheid.

So on one hand, you see a great intertwining.

Tussen bijvoorbeeld nationale veiligheidskringen.

Between, for example, national security circles.

Ministeries van Defensie.

Ministries of Defense.

Ik denk dan ook heel erg aan de Verenigde Staten.

I am also thinking a lot about the United States.

En de techsector.

And the tech sector.

Er wordt veel geïnvesteerd.

A lot is being invested.

Er wordt veel afgenomen aan producten.

A lot of products are being purchased.

Maar er is ook een groeiende zorg.

But there is also a growing concern.

Dat er ook mensen zijn die verantwoordelijk zijn voor nationale veiligheid.

That there are also people who are responsible for national security.

Die denken ja we zijn nu zo afhankelijk geworden van drie cloud providers.

They think we have become so dependent on three cloud providers now.

Als er daar bij een wat misgaat hebben we een enorm probleem.

If something goes wrong there, we have a huge problem.

Die niet tevreden zijn over de mate waarin software beveiligd wordt.

Those who are not satisfied with the level of software security.

Omdat er elke keer maar weer ook inbox en databases van ministeries en ministers worden gehackt.

Because inboxes and databases of ministries and ministers are being hacked time and again.

En dat is ook een grote probleem.

And that is also a big problem.

Maar er zijn ook mensen die niet willen dat de beveiliging van het land in handen is van bedrijven.

But there are also people who do not want the security of the country to be in the hands of companies.

Dus ik denk inderdaad dat we dicht tegen een keerpunt aan zitten.

So I do think we are indeed close to a turning point.

Maar dat het nog steeds belangrijk is om steeds weer terug te gaan naar die rechtsstatelijkheid.

But it is still important to continually return to that rule of law.

Die ook het machtsmisbruik van de overheid zelf met dank aan technologie aan mannen legt.

That also attributes the abuse of power by the government itself to men, thanks to technology.

Dus het gaat niet alleen maar over overheid versus markt.

So it's not just about government versus market.

Maar ook controle en toezicht op de overheid zelf als klant en gebruiker.

But also control and oversight of the government itself as a customer and user.

En soms ook echt naargeestig gebruik om toezicht te omzeilen.

And sometimes it's really a grim use to circumvent oversight.

Dat is natuurlijk aan de andere kant dat het ook weer heel veel mogelijkheden biedt.

Of course, on the other hand, it also offers many possibilities.

Het is zo'n gigantisch onderwerp voor overheden om ons te controleren.

It is such a gigantic issue for governments to control us.

Om misschien uit hoofden van misdaadbestrijding uiteindelijk permanent iedereen in de smiezen te houden.

To possibly keep everyone permanently under scrutiny in the interest of crime prevention.

Dan kom je ook weer bij George Orwell uit.

Then you also come back to George Orwell.

Ja, maar je komt ook bij de Nederlandse politiek uit die daarover gaan.

Yes, but you also come to Dutch politics that are about that.

En die bijvoorbeeld soms zoiets zeggen als de Nederlandse politie zal geen spionage.

And those who sometimes say things like the Dutch police will not spy.

Technologie gebruiken die ook door dubieuze regimes wordt gebruikt.

Using technology that is also employed by dubious regimes.

Vraagt journalist Huib Modderkok van de Volkskrant.

Asks journalist Huib Modderkok from the Volkskrant.

Gebruiken jullie NSO Pegasus?

Do you use NSO Pegasus?

Een heel controversieel pakket aan spionagesoftware uit Israël.

A very controversial package of spying software from Israel.

Daar doet de politie geen uitspraak over.

The police do not make any statements about that.

Dus de mogelijkheid om ook toezicht te houden op wat er in onze naam door de overheid met technologie wordt gedaan.

So the possibility to also oversee what is being done in our name by the government with technology.

Ook als die heel verregaande inbreuk maakt op mensen hun privacy.

Even if it makes a very far-reaching infringement on people's privacy.

Of ook als die ongecontroleerd verspreidt.

Or even if it spreads uncontrollably.

Over de wereld.

Around the world.

Hoewel onze politie en justitie misschien denken wij gebruiken het alleen maar binnen strenge kaders.

Although our police and judiciary may think we only use it within strict frameworks.

Blijkt dat die technologie overal in de wereld opduikt.

It turns out that this technology is appearing all over the world.

Op de meest vreselijke plekken.

In the most terrible places.

Zelfs in Rusland.

Even in Russia.

Laatst een paar weken geleden.

A few weeks ago.

Waar er toch echt heel veel sancties van kracht zijn.

Where there are indeed a lot of sanctions in effect.

Is er ook dit soort spionagetechnologie beschikbaar.

Is this kind of spying technology also available?

Dus het is ook belangrijk dat de overheid heel kritisch naar zichzelf kijkt.

So it is also important that the government looks very critically at itself.

Wat voor speler zij zijn in het kopen en gebruiken van geavanceerde technologie.

What kind of player they are in buying and using advanced technology.

Zonder dat onafhankelijk toezicht.

Without that independent oversight.

Eigenlijk zeg je het is heel snel gegaan.

Actually, you say it went very quickly.

En we hebben soms best een beetje zitten slapen.

And sometimes we've been a bit asleep.

Het is laat.

It is late.

Het is niet te laat.

It is not too late.

Maar we moeten nu de macht teruggrijpen.

But we need to regain power now.

Want anders komt er een dag dat het echt te laat is.

Because otherwise there will come a day when it is really too late.

En we door de computer worden geregeerd.

And we are ruled by the computer.

Vooral door de bedrijven.

Especially by the companies.

Door de bedrijven die rijk worden van die computer.

Through the companies that are getting rich from that computer.

Ja.

Yes.

Nou het is helder dankjewel.

Well, it's clear, thank you.

Niet heel optimistisch.

Not very optimistic.

Maar voorzichtig optimistisch.

But cautiously optimistic.

Zeker.

Sure.

En ik denk ook echt.

And I really think so.

Dat als we hier een beter beeld hebben van wat er nou precies op het spel staat.

That when we have a better understanding of what is actually at stake.

Dat het niet alleen gaat om het ene incident of het andere.

That it is not just about one incident or the other.

Maar echt een totaal plaatje aan de machtsgreep van bedrijven.

But really a complete picture of the corporate takeover.

Ten koste van de democratie.

At the expense of democracy.

Dat het ook tot ander soort oplossingen zou kunnen leiden.

That it could also lead to other types of solutions.

Dat hoop ik.

I hope so.

En dat we daar ook harder aan gaan werken.

And that we are also going to work harder on that.

Dankjewel.

Thank you.

Marietje Schaken.

Little Marietje plays chess.

Veel zicht genoegen.

Much visibility pleasure.

En dat was het uur voor deze week.

And that was the hour for this week.

Volgende week is er weer een aflevering.

Next week there will be another episode.

Het uur wordt gemaakt door Mira Zeehandelaar.

The hour is made by Mira Zeehandelaar.

Productie.

Production.

En techniek.

And technology.

Berit Kramer.

Berit Kramer.

Rea Stroink.

Rea Stroink.

En Farine Rook.

And Farine Smokes.

Mijn naam is Pieter van der Wielen.

My name is Pieter van der Wielen.

Tot volgende week.

Until next week.

***

Sure, please provide the text you would like me to translate.