Van zijn ontwikkeling tot zijn toepassing, de gezichtsherkenningsindustrie staat vol schaduwrijke praktijken. Maar dingen kunnen altijd schaduwier worden. In Milwaukee overweegt de politie nu een bijna cartoonachtig slechte deal: ruil 2,5 miljoen mugshots aan een particulier bedrijf in ruil voor gratis toegang tot gezichtsherkenningssoftware.
Op vrijdag meldde het Milwaukee Journal Sentinel dat politiefunctionarissen vorige week de potentiële deal hebben aangekondigd tijdens de brandweer- en politiecommissiesvergadering van de stad. Volgens de outlet heeft de politie van Milwaukee eerder toegang tot gezichtsherkenningstechnologie geleend van naburige agentschappen. Met deze deal zou de afdeling twee gratis zoeklicenties ontvangen van Biometrica, een softwarebedrijf dat al samenwerkt met wetshandhavingsinstanties in de Verenigde Staten, in ruil voor mugshots en gevangenisregisters die tientallen jaren omvatten.
Hoewel de plannen van Biometrica voor deze mugshots niet worden bevestigd, zal het ze waarschijnlijk gebruiken om zijn software te trainen. Biometrica reageerde niet op het verzoek van Gizmodo om commentaar. Gezichtsherkenning wordt echter regelmatig getraind op gestolen of geleende gegevenssets. Clearview AI schraapte bijvoorbeeld miljoenen foto’s van sociale media voor zijn database die het aan de politie verkoopt, en Pimeyes heeft foto’s van dode mensen gestolen voor zijn algoritme. Het National Institute of Standards and Technology onderhoudt ook zijn eigen mugshot -database, samen met afbeeldingen van kwetsbare mensen voor testen van gezichtsherkenning.
In een e -mail aan Gizmodo bevestigde de politie van Milwaukee dat het nog geen contract is gesloten. De afdeling is van plan de discussie voort te zetten op toekomstige stadsvergaderingen. Een vertegenwoordiger schreef dat “transparant zijn met de gemeenschap die we dienen veel zwaarder weegt dan de urgentie om te verwerven.” Zelfs zonder een stevige deal rent het voorstel alleen alarmbellen.
De onnauwkeurigheden van gezichtsherkenning bij het identificeren van mensen met donkere huid (vooral als ze vrouwen of niet-binair zijn) zijn goed gedocumenteerd. Het is niet verwonderlijk dat het heeft geleid tot “meerdere onrechtmatige arrestaties … vanwege de politie -afhankelijkheid van onjuiste resultaten van gezichtsherkenning – en dat zijn slechts de bekende zaken”, vertelde David Gwidt, een woordvoerder van de American Civil Liberties Union of Wisconsin, via e -mail aan Gizmodo via e -mail. “In bijna al die gevallen was de persoon die ten onrechte werd gearresteerd zwart.”
Dat is echter niet het enige probleem met deze deal. Vanaf nu vermeldt de voorgestelde overeenkomst niets over het informeren van individuen, het ontvangen van hun toestemming of het toestaan dat ze zich afmelden. Zoals de meeste staten heeft Wisconsin geen specifieke biometrische privacywetten. Van de weinigen die bestaan, breidt alleen Illinois zijn voorschriften uit als het alleen maar commercieel gebruik aanpakt. De enige vaste wetgeving om terug te verwijzen is over hoe mugshots worden gereguleerd. Over het algemeen zijn het openbare archieven en Wisconsin is een open recordstaat, dus arrestatierecords, inclusief mugshots, zijn beschikbaar voor het publiek met beperkte uitzonderingen.
Hoewel dit allemaal suggereert dat de politie van Milwaukee niet wettelijk verplicht is om personen op de hoogte te stellen of toestemming te krijgen, is het nog steeds schetsmatig. Laten we negeren hoeveel mensen gewoon niet willen dat hun gezicht wordt gebruikt om bewakingstechnologie te trainen. Gezichtsherkenningsbedrijven zijn niet immuun voor beveiligingsproblemen zoals datalekken. Per Forbes kunnen biometrische inbreuken mensen blootstellen aan identiteitsdiefstal of worden gebruikt om andere beveiligingssystemen te omzeilen. Het is niet alsof mensen gewoon hun gezicht kunnen veranderen. Wat roept de vraag op: moet de Milwaukee -politie dit risico namens iemand anders nemen?
De Verenigde Staten hebben een gevestigde geschiedenis van het planten en het exploiteren van gemarginaliseerde gemeenschappen, vooral in de naam van de voortschrijdende technologie. Hallo, Tuskegee. Deze deal zou gewoon die erfenis voortzetten in een digitale context. Zoals Jeramie Scott, senior adviseur bij Epic, via e -mail aan Gizmodo vertelde: “De ironie hier is dat de Milwaukee -politie overweegt om miljoenen mugshots aan te bieden die hoogstwaarschijnlijk onevenredig van mensen van kleur zijn om een bewakingstechnologie te trainen die waarschijnlijk onevenredig zal worden gebruikt op mensen van kleur.” Bovendien merkte Scott op dat dit zou ‘verergeren'[e] De historische raciale ongelijkheden in het strafrechtsysteem. ”
Het is onwaarschijnlijk dat de uitgebreide federale regelgeving over gezichtsherkenning niet snel zal komen. Hoewel de hoofdstad van Wisconsin, Madison, de technologie in 2020 verbood, heeft de staat zelf ook geen en reguleert Milwaukee ook de bestaande surveillancetechnologie van de politie niet. In Scott’s ogen: “Het veiligste om te doen zou zijn om niet door te gaan met deze deal en voor de Milwaukee -politie om te onthouden van het gebruik van de technologie, met name wanneer er geen wetten zijn om het gebruik ervan strikt te beperken en zinvolle waarborgen te bieden.”
Vorige week riep de lokale ACLU Milwaukee op om een tweejarige pauze te plaatsen over elke nieuwe bewakingstechnologie. Het vroeg ook dat de stad voorschriften ontwikkelt voor bestaande, terwijl ze kansen bieden aan leden van de gemeenschap om in te wegen. Hoewel de politie van Milwaukee zegt dat het een beleid zal maken om ervoor te zorgen dat niemand uitsluitend wordt gearresteerd bij gezichtsherkenningswedstrijden, is er niets om hen verantwoordelijk te houden.
