EERST BOUWEN, DAN NADENKEN.

Eerst bouwen. Dan nadenken.

Er staat ergens in Amerika een camera.
Hij wacht niet tot je iets verkeerd doet.
Hij registreert een passerende auto.
Ook die van jou.

Kenteken. Voertuigkenmerken.
Een vastgelegde passage.
Flock Safety heet het bedrijf achter het systeem.

Volgens
Flock zelf
helpt die technologie bij het terugvinden van gestolen auto’s,
het zoeken naar vermiste mensen en het onderzoeken van misdrijven.

Dat zijn doelen die je serieus kunt nemen.

Maar daarmee is een andere vraag nog niet beantwoord:
hoeveel willen we verzamelen
over mensen die nergens van worden verdacht?

Handig. En dus hangen we er nog eentje op.

Flock beschrijft op zijn
eigen website
een netwerk van meer dan 120.000 camera’s
verspreid over 49 Amerikaanse staten.

De burgerrechtenorganisatie
ACLU
waarschuwt voor de gevolgen voor privacy en burgerrechten.
Volgens de organisatie hebben tientallen gemeenschappen
contracten laten opzeggen, programma’s laten opschorten
of camera’s laten uitschakelen.

Flock wijst op toegangsbeperkingen,
registratie van zoekopdrachten en controle over het delen van gegevens.
Over de vraag of de waarborgen voldoende zijn,
verschillen het bedrijf en de ACLU behoorlijk van mening.

Je zou kunnen zeggen:
typisch Amerika.

Dan ben je er lekker snel vanaf.

Alleen is het patroon nogal herkenbaar:
we zien wat iets kan,
ontdekken hoe handig het is
en bespreken daarna wat we er misschien bij hebben ingeleverd.

Sociale media. Smartphones.
Algoritmes die onze aandacht proberen vast te houden.
Steeds opnieuw diezelfde enthousiaste opening:

Kijk eens wat dit kan.
Kijk eens hoe handig dit is.
Tja. Dat laatste hadden we niet helemaal voorzien.

Een match is nog geen waarheid.

Het blijft inmiddels niet bij een kenteken intikken.
Met
Flock FreeForm
kunnen bevoegde gebruikers
voertuiggegevens en beschikbare videobeelden
doorzoeken met beschrijvingen in gewone taal.
Welke bronnen toegankelijk zijn,
hangt af van de inrichting en toegangsrechten.

Bijvoorbeeld zoeken op een donker voertuig
met schade aan de achterbumper.
Het systeem helpt mogelijke overeenkomsten te vinden.

Dat is iets anders dan weten
wie er achter het stuur zit,
waarom iemand daar rijdt
of wat diegene van plan is.

Een camera ziet een passage. Geen bedoeling.

Toch wordt het verleidelijk
om een overzichtelijk scherm te verwarren
met een overzichtelijke werkelijkheid.

Er staat een resultaat.
Het ziet er overtuigend uit.
Dus zal het wel kloppen.

Alsof een vermoeden betrouwbaarder wordt
zodra je het in een dashboard zet.

Het algoritme heeft het gedaan.

En wanneer een toepassing verkeerd uitpakt,
staat de comfortabelste verklaring al klaar:

Ja, maar dat kwam uit het systeem.

Prachtig.
Heeft het systeem zichzelf ook aangeschaft?
Zelf bepaald welke gegevens erin moesten?
Zelf besloten hoeveel vertrouwen we de uitkomst geven?

Er zitten mensen achter het ontwerp.
Achter de verkoop.
Achter het besluit om het te gebruiken.
En achter de vervolgstappen.

Verantwoordelijkheid kan ingewikkeld verdeeld zijn.
Maar ze verdwijnt niet
wanneer iedereen naar hetzelfde beeldscherm wijst.

Een algoritme is een bijzonder handige collega.
Vooral als niemand meer weet wie de beslissing nam.

En jij? Wat besteed jij uit?

Daar wordt het interessanter
dan een camera aan de andere kant van de oceaan.

Want jij hoeft geen opsporingssysteem aan te schaffen
om een oordeel uit handen te geven.
Een telefoon is voldoende.

Wat moet ik antwoorden?
Welke keuze is verstandig?
Past deze persoon bij mij?
Hoe moet ik dit gesprek voeren?
Wat voel ik eigenlijk?

Een AI-systeem kan helpen ordenen.
Een tekst voorstellen.
Vragen stellen waar je zelf niet op kwam.
Handig. Ik gebruik dat gereedschap ook.

Maar wanneer wordt helpen
ongemerkt bepalen?

Als je een bericht verstuurt
omdat het zo overtuigend klinkt,
terwijl je niet meer nagaat of je het zelf meent?

Als je eerst aan een chatbot vraagt
wat je ergens van moet vinden,
voordat je hebt opgemerkt wat het met je doet?

Of als je iedere twijfel onmiddellijk laat beantwoorden,
omdat even niet weten inmiddels als een storing voelt?

Dan is er misschien iets anders aan een update toe.

Sneller is nog steeds geen antwoord op waarom.

Sneller schrijven.
Sneller zoeken.
Sneller vergelijken.
Sneller een antwoord.

Gefeliciteerd. En waar wil je eigenlijk naartoe?

Daar kan AI suggesties voor doen.
Hele keurige zelfs.
Inclusief stappenplan
en een bemoedigend slotzinnetje.

Maar jij moet nog steeds bepalen
wat je belangrijk vindt.
Welke afweging je maakt.
Welke grens je trekt.
En waarvoor je zelf verantwoordelijkheid wilt dragen.

Ook wanneer de snelste optie
niet degene is waar je achter staat.

Misschien zit daar voor mij de ongemakkelijkste vraag:
blijven we technologie gebruiken om ons leven vorm te geven,
of richten we ons leven steeds meer in
naar wat de technologie gemakkelijk kan verwerken?

Efficiënt.
Voorspelbaar.
Meetbaar.
Geoptimaliseerd.
En voortdurend beschikbaar.

Klinkt als een prima apparaat.

Alleen wilde je volgens mij een mens zijn.

Welkom bij HET.

HET. gaat over AI en authenticiteit.
Over wat er met jou gebeurt
in een wereld die steeds gemakkelijker antwoorden,
beelden en versies van de werkelijkheid produceert.

Welke verhalen neem je over?
Waar zoek je bevestiging?
Wat vind je zelf?
En wat gebeurt er
wanneer er even geen antwoord voor je klaarstaat?

Je hoeft hiervoor geen betere prompts te leren schrijven.
We gaan kijken naar degene die ze intikt.

De camera van Flock kijkt naar buiten.
Bij HET. mag de blik ook eens de andere kant op.