Maskininlärning stoppar desinformation

— Vi har skrivit under EUs uppförandekod om desinformation och tar mer ansvar genom att självreglera oss inom det området. När det kommer till val arbetar vi nära ansvariga myndigheter. Vid EU-valet i Sverige jobbade vi nära MSB för de skulle kunna rapportera direkt till mig om nån skrev nåt potentiellt skadligt på vår plattform, säger Ylva Pettersson, Public Policy Manager på Twitter för de nordiska länderna och Israel.

Twitter är en global plattform vilket innebär att nästan varje dag skildras ett val någonstans i världen på twitter och då är det företagets ansvar att se till att den konversationen inte manipuleras, enligt Ylva Pettersson.

— Vi arbetar också mycket med de politiska partierna och kandidaterna, utbildar dem i våra säkerhetsverktyg och hur man kan tänka i sin kampanj på twitter. Vi har också stoppat politiska annonser.

Man arbetar på flera sätt för att motverka desinformation, bland annat ett regelverk om hur man kan uttrycka sig.

Twitter har 336 miljoner månatliga användare som publicerar 500 miljoner tweets om dagen.

— Det är en fruktansvärd mängd tweet därför har vi investerat i tekniska lösningar för att se till att reglerna efterlevs. En svårighet är att i många situationer kan det vara någon som skämtar eller publicerar en bild som betyder något helt annat i det sammanhanget. Vi har förstått att man måste fokusera på beteenden.

Satsningen på maskininlärning har gett resultat.

— Nittio procent av de konton vi stänger för koppling till terrorism har taggats av vår maskininlärning. För ett år sedan flaggades noll procent näthat av maskininlärningsverktyget, men vår senaste rapport som släpptes för några veckor sedan visar att 50 procent av det innehåll som är skadligt inom vår policy för hatfullt beteende tas ner genom vår maskininlärning.

Så kallade ”deepfakes”, video­förfalskningar där man ersätter en persons ansikte med ett annat och lägger på nytt tal, är det senaste när det kommer till vilseledande information på nätet.

— Vi har skrivit utkast till en ny regel som ska adressera syntetiska manipulerade media.

Hon säger att yttrandefrihet är plattformens grundfundament.

— För oss är det väldigt viktigt att vi är öppna med hur vi ser på vår plattform, speciellt när det kommer till statsstödda påverkansoperationer och manipulationer. I oktober förra året lanserade vi vårt första öppna arkiv över statsstödda påverkansoperationer. Det innehåller ungefär 30 miljoner tweets och media som är associerade med kända statsstödda påverkansoperationer på twitter. I somras uppdaterade vi med manipulationskampanj från Kina riktad mot Hongkong-protesterna.

Turkiet och Ryssland är de länder som skickar in flest anmälningar och begär att material ska tas ner.

— Vi går nästan aldrig med på deras krav. Men det är oftast för att de inte ger oss en rättslig grund, vi tar inte ner bara för att de vill, säger Ylva Pettersson