De nieuwe grenscontrole van de EU AI een "leugendetector" noemen, is net zoiets als Brexit een klein meningsverschil onder vrienden noemen.
Het komt erop neer dat de EU een pilotprogramma voor internationale luchthavens test met een op machine learning gebaseerde 'leugendetector'. CNN brak het verhaal vorige week in zijn artikel "Passagiers voor AI-leugendetectortests op EU-luchthavens."
Volgens het rapport (en de projecten van de) de EU test een proefprogramma met AI dat een avatar gebruikt om mensen vragen te stellen. Vermoedelijk weet dit AI-aangedreven construct of een persoon waarheidsgetrouw is wanneer hij antwoordt, en hij markeert degenen waarvan hij vaststelt dat die dat niet zijn. Zodra iemand een leugenaar is, worden menselijke agenten opgeroepen om verder te onderzoeken.
Afhankelijk van uw mening over privacy en immigratie, is dit muziek in de oren of het begin van een dystopische toekomst recht uit een nachtmerrie uit Orwell. Je hebt het hoe dan ook fout.
Als je bijvoorbeeld denkt dat "we het iedereen gewoon kunnen vragen" ben je een terrorist? "En de EU veiliger maken voor iedereen" dan neem je waarschijnlijk aan dat er zoiets bestaat als een leugendetector voor AI. Dat is er niet. Maak je geen zorgen, dat is een veel voorkomende fout.
Zoals alle leugendetectoren, zijn op AI gebaseerde oplossingen gebaseerd op gok-of-miss-gissingen met wat de overheid als een aanvaardbare niveaufout beschouwt. Een polygraaf is bijvoorbeeld vermeende om een 75 en 90 procent nauwkeurigheidsbeoordeling te hebben. Het detecteert geen leugens, het detecteert de subtiele signalen die horen bij liegen. Op deze manier detecteert AI ook geen leugens. Het detecteert biometrische indicatoren die verband houden met liegen - met ongeveer 76 procent succes, naar verluidt.
Maar aan de andere kant, als je denkt dat dit de meest ernstige schending van de mensenrechten op een luchthaven is sinds de dagen dat TSA-agenten in de VS de opdracht kregen moslims te profileren, heb je het ook mis. Meestal in ieder geval: het gaat veel verder dan alleen maar het lastigvallen van buitenlanders op luchthavens.
De 'leugendetector' is slechts het topje van de ijsberg. Wat u moet weten, is dat in dit geval 'leugendetectie' een korte hand is voor 'gegevensverzameling'.
Het nieuwe luchthavenproject van de EU wordt "operatie-leugendetector" niet genoemd. Het wordt "iBorderCtrl" genoemd. En "leugendetectie" is slechts een deel van wat het doet. Hier is een afbeelding van de website van het project:

Credit: iBorderCtrl
Laten we eerst beginnen met de leugendetectiemodule: Automatic Deception Detection System (ADDS) *. De asterix is afkomstig van de iBorderCtrl-website, TNW heeft dat niet toegevoegd. Voordat u leest over wat ADDS doet, moeten de mensen die het bouwen erop wijzen:
*ADDS is gebaseerd op eerdere ontwikkelingen, de zogenaamde Silent Talker [1] [2]. Het project heeft deze technologie overgenomen en is zich terdege bewust van de controverse eromheen. Deze tool heeft de volgende stappen ondergaan: Een wetenschappelijke basis wordt bereikt wanneer een onderzoek begint vanuit een positie van onwetendheid en de wetenschappelijke methode volgt om die onwetendheid te verdrijven. Als wetenschappers van AI is een specifieke onderzoeksvraag "Zijn er non-verbale gedragsindicatoren van misleiding" en de uitgevoerde experimenten verzamelen gegevens om de relevante hypothesen te ondersteunen of te weerleggen.
In feite erkent het project controverse rond het gebruik van AI voor 'leugendetectie', maar geeft er niet om.
De rest van de uitleg voor ADDS staat vol met het oude argument 'non-verbale signalen'. Het is academisch interessant, maar zeker niet de krankzinnige doorbraak die we nodig hebben voor AI om een bonafide leugendetector te worden. Als zodanig moet elke regering zich schamen omdat ze dit op dit punt heeft overwogen.
Maar ADDS is het dwaze onbelangrijke deel van iBorderCTRL. Het is het nepmonster dat je afleidt van de koude, berekende gegevensverzameling die echt plaatsvindt. Kortom, ADDS is laaghangend fruit voor experts om naar te wijzen en gesprekken op gang te brengen over welke mogelijkheden AI echt heeft. Ondertussen, als ik The Ragin 'Cajun kan parafraseren: "Het zijn de gegevens, dom."
In werkelijkheid is de rest van de iBorderCtrl-suite eng. ADDS lijkt veel op het 'persoonlijkheidsprofiel' dat Cambridge Analytica gebruikte om mensen te overtuigen hun gegevens op te geven. Waarom zou u immers niet akkoord gaan met een leugendetector als u niets te verbergen hebt?
Het antwoord is dat je genoeg te verbergen hebt, of je nu liegt of niet.
Hier is wat nog meer iBorderCtrl doet:
- Compileert een volledig gezichtsprofiel met behulp van video en foto's
- Schraapt en doorzoekt al uw sociale media-accounts
- Document- en handtekeninganalyse
- Creëert en bewaart uw digitale stemafdruk
- Risicobeoordeling op basis van verzamelde gegevens
- Zoekt naar verborgen mensen
Laten we de laatste snel nemen voor onderzoek. Zoeken naar verborgen mensen? Op een vliegveld? Onwaarschijnlijk. Dit, volgens de literatuur van het project, zoekt naar mensen die zich verstoppen. Maar het is pijnlijk duidelijk dat dit is ontworpen voor grensovergangen waar mobiele agenten mensen in de omgeving volgen, niet op luchthavens. Toch maakt het deel uit van de 'leugendetector' op de luchthaven waar je zoveel over hoort.