dr. Arjan van Hessen

Telecats

Juridische consequenties van AI

Op een donderdagavond in maart was het zover: ik moest een praatje over "AI en Taal- en Spraaktech" geven bij Kennedy van der Laan voor een zaal vol advocaten (dacht ik). Per trein en OV-fiets naar de locatie tegenover het Westerpark. Mooie fietstocht door A'dam in iets dat zweemt naar het voorjaar. Zoals altijd een tikkie zenuwachtig: wat zijn dit voor mensen, is het een strakke-pakken-club van mensen met teveel eigendunk en geen interesse noch kennis van ICT? Spannend, dat wel! Koffie genomen en handjes geschud met zowel Jelle (de organisator) als de twee overige sprekers: Nicole, een privacy advocate en Koos van KPMG.
Image

Een Luisterend Oor

Het thema van de avond was “Een Luisterend Oor” en het werd georganiseerd door Jelle van Veenen in het kader van de Dutch Legal Tech Meetup. De achterliggende vraag was: “Wat zijn de juridische consequenties van de (toenemende) aanwezigheid van constant luisterende en participerende “smart devices” in de samenleving?”

Door de recente ontwikkelingen op het gebied van Taal-en Spraaktechnologie begrijpen onze apparaten ons steeds beter. Dat gekoppeld aan de eenvoud om grote hoeveelheden data (=audio) snel en goedkoop te streamen is een van de oorzaken dat er steeds meer digitale assistenten op de markt komen die via spraak met ons communiceren. Aan de ene kant biedt dit, ook voor juridisch werk, kansen. Het wordt steeds eenvoudiger om ook gesproken tekst toegankelijk te maken, zoals rechtspraak of besluitvorming.

Aan de andere kant is er een zeer reële kans dat onze privacy weer een beetje minder wordt. Zo bleken de Amerikaanse Inlichtingsdiensten “ons” via smart tv’s en kinderspeelgoed al af te kunnen luisteren. Wat mag er eigenlijk, wat kan er nu en binnenkort en hoe denken “wij” daarover? Dat waren de drie onderwerpen waarover gediscussieerd zou worden.

Waarom is dit belangrijk?

Er komen steeds meer apparaten in onze omgeving die in staat zijn om op een steeds normalere manier met ons te “communiceren”. Ze staan permanent aan en proberen iets te doen met de spraak die ze opnemen. Maar dat doen ze niet lokaal, maar in de cloud. Dus jouw spraak wordt naar Californie gestuurd alwaar het wordt “verwerkt” (=herkend en met de herkenningsresultaten iets doen).

Image

Als voorbeeld het volgende: een meisje krijgt een Barbiepop die permanent luistert naar mogelijk commando’s of vragen. Als de pop iets hoort en daar wat mee kan, dan reageert ze middels spraak en wellicht een actie zoals het oplichten van het neusje. Omdat de pop niet weet wanneer ze in actie moet komen, luistert “ze” de hele tijd. Klinkt leuk maar wat gebeurt er met die permanent gestreamde audio? Wordt die opgeslagen, gaan bedrijven alles door de herkenner halen om op die manier de wensen van de kinderen en/of de ouders in kaart te brengen om ze vervolgens te bestoken met gepersonaliseerde reclame? Vader zegt tegen z’n dochter dat ze een nieuwe auto gaan kopen en beng: ze worden bestookt met aanbiedingen!

Image

Een ander voorbeeld dat de privacy advocate noemde was de Alexa Moordzaak. De FBI had het idee dat in de uren voor de moord er gesproken was in de buurt van Alexa. Omdat Alexa blijkbaar alles opneemt (en bewaart) wilde de FBI de opnamen hebben. Dat is vreemd want Amazon geeft aan dat ze niets opnemen tot iemand (herkenbaar) Alexa roept. Maar blijkbaar ligt dat anders. Amazon toont zich nu een voorvechter van de privacy en weigerde de data te geven. Uiteindelijk gingen ze overstag omdat de eigenaar van Alexa aangaf dat hij het goed vond.

Maar…… het geeft wel te denken.

Deel dit bericht