Amazon Rekognition koppelt ten onrechte 26 wetgevers aan mugshots terwijl California Bill blokkeert



<div _ngcontent-c15 = "" innerhtml = "

Phil Ting heeft geen strafblad. Toch is de California State Assemblyman een van de 26 wetgevers die valselijk zijn gekoppeld aan een mugshot in de openbare database met 25.000 foto's van Amazon Rekognition, zo meldde de American Civil Liberties Union dinsdag. Amazon verkoopt zijn gezichtsherkenningstool aan wetshandhaving voor gebruik in lichaamscamera's, maar Ting & nbsp; en de ACLU willen dat veranderen. & Nbsp;

"Ik was niet verrast dat ik vals was geïdentificeerd, maar de inzet is veel hoger voor gewone Californiërs," vertelde Ting Forbes. "Ik denk niet dat het goed is om de technologie te gebruiken om te bepalen of iemand onschuldig is of moet worden gearresteerd. We zijn onschuldig totdat we schuldig zijn bevonden. Gezichtsherkenning zou individuen dwingen te bewijzen dat ze onschuldig zijn. "

In mei keurde de California State Assembly de wet van Ting goed om het gebruik van gezichtsherkenning en biometrische scanners door de politie te verbieden, die dingen identificeren zoals hoe een persoon loopt, in lichaamscamera's. Wanneer het wetsvoorstel binnen twee weken voor de senaat staat, is Californië de grootste staat die gezichtsherkenning op door de officier gedragen lichaamscamera's verbiedt en zou toetreden New Hampshire en Oregon, die beide in 2017 hetzelfde verbod hebben opgelegd. & nbsp; & nbsp;

Om de onnauwkeurigheid van Amazon Rekognition te illustreren, heeft de ACLU foto's gemaakt van 120 Californische wetgevers, waaronder Ting, en 26, of 21%, valselijk vergeleken met arrestatiefoto's. Amazon zegt dat de technologie voortdurend wordt bijgewerkt op basis van nieuwe gegevens, maar dit heeft het foutenpercentage minimaal beïnvloed in vergelijking met een soortgelijke test & nbsp; in een grotere datapool die in 2018 werd uitgevoerd toen de ACLU 28 van de 535 congresleden aantrof (iets meer dan 5%) werden onjuist geïdentificeerd in mugshots). Hoewel kleurmensen 20% van het congres vormden, maakten ze 40% van de slechte wedstrijden uit.

"Het is niet alleen of de valse overeenkomsten in deze exacte test mensen van kleur waren," vertelde Matt Cagle, een & nbsp; technologie en burgerlijke vrijheden advocaat bij de ACLU. Forbes. "De realiteit is dat deze camera's in gemeenschappen zullen zijn die al overbezet zijn en waar lichaamscamera's meer aanwezig zijn dan in andere wittere of rijkere gemeenschappen."

In reactie op de bevindingen van de ACLU zei Amazon in een verklaring dat het blijft pleiten voor het reguleren van gezichtsherkenningstechnologie, maar dat het testen van de ACLU is uitgevoerd op een manier die de technologie misbruikt. & Nbsp;

"De ACLU misbruikt en gebruikt Amazon Rekognition opnieuw bewust om krantenkoppen te halen," luidt de verklaring van het bedrijf. “Bij gebruik met de aanbevolen 99% -betrouwbaarheidsdrempel en als onderdeel van een door mensen gestuurde beslissing kan gezichtsherkenningstechnologie worden gebruikt voor een lange lijst van nuttige doeleinden, van het helpen bij het identificeren van criminelen tot het helpen vinden van vermiste kinderen tot het remmen van mensenhandel .”

Voorstanders van Ting's assemblagerekening 1215 zeggen dat als de rekening niet slaagt, het overcontroleren van gemeenschappen van kleur in Californië & nbsp; kan leiden tot meer gevallen waarin mensen van kleur worden gescand. "Mensen die gescand worden, zullen onevenredig veel mensen van kleur zijn, de input zal scheef gaan, mogelijk zelfs hoger dan het deel van de mensen in de wetgevende macht," zei Cagle. & Nbsp;

Onderzoekers van MIT en het Georgetown Center on Privacy and Technology hebben aangegeven dat Amazon Rekognition minder efficiënt is in het identificeren van mensen die geen blanke mannen zijn. & Nbsp;

Ondanks de bezorgdheid van twee partijen over privacy en het gebruik van gezichtsherkenning en biometrische technologie, blijft er weinig federaal toezicht. Advocaten zoeken naar de goedkeuring van de rekening van Ting in Californië om soortgelijke oproepen tot toezicht in andere staten te inspireren. & Nbsp;

Een onderzoek uit maart 2019, uitgevoerd door David Binder Research, een in San Francisco gevestigd onderzoeksbureau, vond dat 82% van de waarschijnlijke kiezers in Californië in november 2020 het enigszins, zo niet sterk, oneens is dat de overheid in staat moet zijn om de identiteit en verblijfplaats van burgers te volgen en volgen biometrische gegevens. & nbsp;

"Op dit moment heeft de Californische wetgever een beslissing," zegt Cagle. "Voegen ze gezichtsherkenning toe aan lichaamscamera's en breken ze de belofte van deze tools die aan gemeenschappen werden aangeboden, of trekken ze een lijn in het zand met een gebrekkige technologie en zeggen ze dat deze tools alleen moeten worden gebruikt om officieren verantwoordelijk te houden?"

">

Phil Ting heeft geen strafblad. Toch is de California State Assemblyman een van de 26 wetgevers die valselijk zijn gekoppeld aan een mugshot in de openbare database met 25.000 foto's van Amazon Rekognition, zo meldde de American Civil Liberties Union dinsdag. Amazon verkoopt zijn gezichtsherkenningstool aan de politie voor gebruik in lichaamscamera's, maar Ting en de ACLU willen dat veranderen.

"Ik was niet verrast dat ik vals was geïdentificeerd, maar de inzet is veel hoger voor gewone Californiërs," vertelde Ting Forbes. "Ik denk niet dat het goed is om de technologie te gebruiken om te bepalen of iemand onschuldig is of moet worden gearresteerd. We zijn onschuldig totdat we schuldig zijn bevonden. Gezichtsherkenning zou individuen dwingen te bewijzen dat ze onschuldig zijn. "

In mei keurde de California State Assembly de wet van Ting goed om het gebruik van gezichtsherkenning en biometrische scanners door de politie te verbieden, die dingen identificeren zoals hoe een persoon loopt, in lichaamscamera's. Wanneer het wetsvoorstel binnen twee weken voor de senaat staat, is Californië de grootste staat die gezichtsherkenning op door de officier gedragen lichaamscamera's verbiedt en zou lid worden van New Hampshire en Oregon, die beide in 2017 hetzelfde verbod hebben opgelegd.

Om de onnauwkeurigheid van Amazon Rekognition te illustreren, heeft de ACLU foto's gemaakt van 120 Californische wetgevers, waaronder Ting, en 26, of 21%, valselijk gekoppeld aan arrestatiefoto's. Amazon zegt dat de technologie voortdurend wordt bijgewerkt op basis van nieuwe gegevens, maar dit heeft het foutenpercentage minimaal beïnvloed in vergelijking met een vergelijkbare test in een grotere datapool die in 2018 werd uitgevoerd toen de ACLU 28 van de 535 congresleden aantrof (iets meer dan 5% waren onjuist geïdentificeerd in mugshots). Hoewel kleurmensen 20% van het congres vormden, maakten ze 40% van de slechte wedstrijden uit.

"Het is niet alleen of de valse overeenkomsten in deze exacte test mensen van kleur waren," vertelde Matt Cagle, een advocaat voor technologie en burgerlijke vrijheden bij de ACLU. Forbes. "De realiteit is dat deze camera's in gemeenschappen zullen zijn die al overbezet zijn en waar lichaamscamera's meer aanwezig zijn dan in andere wittere of rijkere gemeenschappen."

In reactie op de bevindingen van de ACLU zei Amazon in een verklaring dat het blijft pleiten voor het reguleren van gezichtsherkenningstechnologie, maar dat het testen van de ACLU is uitgevoerd op een manier die misbruik maakt van de technologie.

"De ACLU misbruikt en gebruikt Amazon Rekognition opnieuw bewust om krantenkoppen te halen," luidt de verklaring van het bedrijf. “Bij gebruik met de aanbevolen 99% -betrouwbaarheidsdrempel en als onderdeel van een door mensen gestuurde beslissing kan gezichtsherkenningstechnologie worden gebruikt voor een lange lijst van nuttige doeleinden, van het helpen bij het identificeren van criminelen tot het helpen vinden van vermiste kinderen tot het remmen van mensenhandel .”

Voorstanders van Ting's assemblagerekening 1215 zeggen dat als het wetsvoorstel niet wordt aangenomen, het overdreven controleren van gemeenschappen van kleur in Californië het aantal gevallen kan vergroten waar mensen met kleur worden gescand. "Mensen die gescand worden, zullen onevenredig veel mensen van kleur zijn, de input zal scheef gaan, mogelijk zelfs hoger dan het deel van de mensen in de wetgevende macht," zei Cagle.

Onderzoekers van het MIT en het Georgetown Center on Privacy and Technology hebben aangegeven dat Amazon Rekognition minder efficiënt is in het identificeren van mensen die geen blanke mannen zijn.

Ondanks de bezorgdheid van twee partijen over privacy en het gebruik van gezichtsherkenning en biometrische technologie, blijft er weinig federaal toezicht. Voorstanders zoeken naar de goedkeuring van de rekening van Ting in Californië om soortgelijke oproepen tot toezicht in andere staten te inspireren.

Een onderzoek uit maart 2019, uitgevoerd door David Binder Research, een in San Francisco gevestigd onderzoeksbureau, vond dat 82% van de waarschijnlijke kiezers in Californië in november 2020 het enigszins, zo niet sterk, oneens is dat de overheid in staat moet zijn om de identiteit en verblijfplaats van burgers te volgen en volgen met behulp van biometrische gegevens.

"Op dit moment heeft de Californische wetgever een beslissing," zegt Cagle. "Voegen ze gezichtsherkenning toe aan lichaamscamera's en breken ze de belofte van deze tools die aan gemeenschappen werden aangeboden, of trekken ze een lijn in het zand met een gebrekkige technologie en zeggen ze dat deze tools alleen moeten worden gebruikt om officieren verantwoordelijk te houden?"