Facebook introduceert 'one strike'-beleid ter bestrijding van misbruik van zijn livestream-service – TechCrunch


Facebook kraakt zijn live streaming-service nadat hij werd gebruikt om de schokkende massa-schietpartijen uit te zenden die 50 doden achterlieten op twee Christchurch-moskeeën in Nieuw-Zeeland in maart. Het sociale netwerk zei vandaag dat het een "one strike" -regel implementeert die voorkomt dat gebruikers die zich niet aan de regels houden de Facebook Live-service gebruiken.

"Vanaf nu wordt iedereen die onze meest serieuze beleidsregels schendt, beperkt in het gebruik van Live gedurende bepaalde perioden – bijvoorbeeld 30 dagen – vanaf het eerste overtreding. Iemand die bijvoorbeeld een link deelt naar een verklaring van een terroristische groep zonder context, zal nu onmiddellijk worden geblokkeerd om Live voor een bepaalde periode te gebruiken, "schreef Facebook VP van integriteit Guy Rosen.

Het bedrijf zei dat het van plan is extra beperkingen voor deze mensen in te voeren, waaronder het beperken van hun vermogen om advertenties op het sociale netwerk af te sluiten. Degenen die het beleid van Facebook schenden tegen "gevaarlijke individuen en organisaties" – een nieuwe inleiding die vroeger een aantal rechtse figuren verbood eerder deze maand – zullen worden beperkt tegen het gebruik van Live, hoewel Facebook niet specifiek is voor de duur van het verbod of wat er nodig zou zijn om een ​​permanent verbod op live-streaming te activeren.

Facebook gebruikt steeds vaker AI om gewelddadige en gevaarlijke inhoud op zijn platform te detecteren en te bestrijden, maar die aanpak werkt gewoon niet.

Voorbij de uitdaging van niet-Engelse talen – Facebook's AI-detectiesysteem heeft gefaald in Myanmar, bijvoorbeeld, ondanks wat CEO Mark Zuckerberg had beweerd – het detectiesysteem was niet robuust in het omgaan met de nasleep van Christchurch.

De stream zelf werd pas twaalf minuten nadat deze was beëindigd gemeld bij Facebook, terwijl Facebook 20% van de video's van de livestream die later naar zijn site werden geüpload, niet kon blokkeren. Inderdaad, TechCrunch vond verschillende video's nog steeds op Facebook meer dan 12 uur na de aanval, ondanks de inspanningen van het sociale netwerk om "ijdelheidsstatistieken" te selecteren dat leek zijn AI te laten zien en menselijke teams hadden dingen onder controle.

Indachtig die mislukking indirect, zei Facebook dat het $ 7,5 miljoen investeerde in "nieuwe onderzoekspartnerschappen met vooraanstaande academici van drie universiteiten, ontworpen om de beeld- en videoanalysetechnologie te verbeteren."

Vroege partners bij dit initiatief zijn onder meer The University of Maryland, Cornell University en de University of California, Berkeley, die zei dat het zal helpen met technieken om gemanipuleerde beelden, video en audio te detecteren. Een andere doelstelling is om technologie te gebruiken om het verschil te identificeren tussen diegenen die opzettelijk media manipuleren, en diegenen die dat 'onbewust' doen.

Facebook zei dat het hoopt andere onderzoekspartners aan het initiatief toe te voegen, dat ook gericht is op het bestrijden van deepfakes.

"Hoewel we een aantal technieken hebben ingezet om uiteindelijk deze varianten te vinden, waaronder video- en audiomatchingtechnologie, realiseerden we ons dat dit een gebied is waar we moeten investeren in verder onderzoek," gaf Rosen toe in de blogpost.

De aankondiging van Facebook komt minder dan een dag nadat een verzameling van wereldleiders, waaronder de premier van Nieuw-Zeeland, Jacinda Ardern, technologische bedrijven heeft opgeroepen een belofte te ondertekenen om hun inspanningen ter bestrijding van toxische inhoud te vergroten.

Volgens mensen die voor het Franse Ministerie van Economische Zaken werken, bevat de Christchurch-oproep geen specifieke aanbevelingen voor nieuwe regelgeving. Integendeel, landen kunnen beslissen wat ze bedoelen met gewelddadige en extremistische inhoud.

"Voor nu is het een focus op een evenement in het bijzonder dat een probleem veroorzaakte voor meerdere landen", zei de Franse digitale minister Cédric O in een briefing met journalisten.