Chat Control 2.0 är fel väg

Den senaste tiden har vi fått väldigt många mejl, telefonsamtal och chattmeddelanden från kunder och andra som undrar var Obenet står i frågor som rör integritet, övervakning, kryptering och ett öppet internet.

För oss har svaret alltid varit självklart. Men vi inser också att det inte räcker att bara tycka saker internt eller svara en och en. Därför startar vi nu en artikelserie där vi skriver ner vad vi faktiskt står för, hur vi tänker och varför de här frågorna är viktiga för oss.

Vi vill att fler ska lära känna Obenet. Inte bara som internetleverantören ”Obe”, utan som ett tekniknära bolag med tydliga principer.

Det är viktigt att reda ut en sak redan från början: den senaste omröstningen i Europaparlamentet betyder inte att Chat Control 2.0 har gått igenom.

Omröstningen gällde det som ofta kallas Chat Control 1.0, ett tillfälligt undantag från EU ePrivacy-regler som gör det möjligt för vissa tjänster att frivilligt fortsätta skanna privat kommunikation för att upptäcka och rapportera material med sexuella övergrepp mot barn. Det är illa nog, eftersom det flyttar gränsen för vad som anses acceptabelt i privat kommunikation, men det är fortfarande inte samma sak som Chat Control 2.0.

Chat Control 2.0 är något annat: ett större och mer permanent förslag som riskerar att påverka privat kommunikation, kryptering och övervakning på ett betydligt mer långtgående sätt.

Så vad är Chat Control 2.0?

EU:s förslag om Chat Control 2.0 presenteras som ett sätt att bekämpa sexuella övergrepp mot barn på nätet. Det målet håller alla vettiga människor med om. Barn ska skyddas och pedofiler stoppas.

Men Chat Control 2.0 är fel lösning på rätt problem.

Förslaget bygger i praktiken på att privata meddelanden, bilder och filer ska kunna kontrolleras innan eller när de skickas. I politiska sammanhang låter det kanske enkelt. Som ett filter. Som något som bara stoppar det olagliga och låter allt annat passera.

Men tekniskt fungerar det inte så.

Om en tjänst använder end-to-end-kryptering kan ingen annan än avsändaren och mottagaren läsa innehållet efter att meddelandet har krypterats. Det är hela poängen.

Ska innehållet ändå kontrolleras måste kontrollen därför ske innan meddelandet skyddas av krypteringen fullt ut. Det kan göras direkt i appen eller på användarens enhet, genom så kallad client-side scanning. Det kan också göras genom att appen laddar upp innehållet eller metadata (information om innehållet) till en server för granskning innan meddelandet får skickas vidare.

Oavsett teknisk modell innebär det att ett kontrollsteg byggs in före den privata kommunikationen. För användaren blir resultatet detsamma: meddelanden, bilder eller filer granskas innan de får skickas.

Det fungerar som en bakdörr, oavsett vad man väljer att kalla det.

Det mest frustrerande är att de som verkligen vill kringgå systemet kommer kunna göra det. Kriminella nätverk som redan bryter mot lagen kommer inte sitta snällt i en godkänd app och vänta på att bli upptäckta. De kan använda egna appar, modifierade klienter, egen infrastruktur, andra operativsystem, kryptering ovanpå kryptering eller helt enkelt flytta kommunikationen till platser där kontrollen inte finns.

Det här är inte avancerad teori. Det är ganska grundläggande teknik.

Resultatet blir att vanliga människor får sin privata kommunikation kontrollerad, medan de mest motiverade förövarna hittar vägar runt systemet. Då har man inte löst problemet. Man har bara försämrat integriteten för alla andra.

Det finns också en risk med falska träffar. Automatiska system är inte perfekta. Bilder kan feltolkas. Konversationer kan misstolkas. Hash-matchning fungerar bara mot känt material och AI-baserad analys bygger på sannolikheter. När sådana system kopplas till privat kommunikation kan konsekvenserna bli väldigt allvarliga för helt oskyldiga människor.

En annan sak som oroar oss är att den här typen av teknik sällan stannar vid det första syftet. När infrastrukturen för att kontrollera privat kommunikation väl finns på plats kommer fler att vilja använda den. För fler brott. För fler typer av innehåll. För fler politiska syften. I fler länder.

Det är exakt därför man inte ska bygga den från början.

Internet ska inte designas så att alla människor behandlas som potentiellt misstänkta. Vill man stoppa brott ska man använda riktade insatser, polisarbete, domstolsbeslut, bättre internationellt samarbete och tydliga krav på plattformar där olagligt material faktiskt sprids.

Inte generell kontroll av allas privata kommunikation.

Som internetleverantör är vår roll tydlig. Vi ska leverera ett snabbt, stabilt och säkert internet. Vi ska inte titta in i våra kunders privatliv. Vi ska inte filtrera deras meddelanden. Vi ska inte vara en förlängd arm för generell övervakning.

Vi tror på ett internet där människor kan kommunicera fritt, säkert och privat. Där tekniken byggs för användarna, inte mot dem.

Barn ska skyddas. Förövare ska stoppas. Men att bygga in massövervakning i Europas digitala infrastruktur är inte lösningen.

Det är dålig teknik, dålig politik och en farlig princip.

Tobias Windh, VD, Obenet
Ibrahim Tachijian, CTO, Obenet