Ensimmäinen askel verkkopropagandapyrkimysten ja harhaanjohtavien tiedotuskampanjoiden toteuttamisessa on lähes aina väärennetty sosiaalisen median profiili. Olemattomien ihmisten väärennetyt profiilit madaltavat tiensä oikeiden ihmisten sosiaalisiin verkostoihin, joissa ne voivat levittää valheita. Mutta sen enempää sosiaalisen median yritykset kuin teknologiset innovaatiotkaan eivät tarjoa luotettavia tapoja tunnistaa ja poistaa sosiaalisen median profiileja, jotka eivät edusta todellisia aitoja ihmisiä.

Saattaa kuulostaa myönteiseltä, että kuuden kuukauden aikana loppuvuodesta 2017 ja alkuvuodesta 2018 Facebook havaitsi ja keskeytti noin 1,3 miljardia väärennettyä tiliä. Mutta arviolta 3-4 prosenttia jäljellä olevista tileistä eli noin 66-88 miljoonaa profiilia on myös väärennettyjä, mutta niitä ei ole vielä havaittu. Samoin arvioiden mukaan 9-15 prosenttia Twitterin 336 miljoonasta tilistä on väärennettyjä.

Väärennettyjä profiileja ei ole vain Facebookissa ja Twitterissä, eivätkä ne kohdistu vain ihmisiin Yhdysvalloissa. Joulukuussa 2017 Saksan tiedusteluviranomaiset varoittivat, että kiinalaiset agentit, jotka käyttivät väärennettyjä LinkedIn-profiileja, olivat ottaneet tähtäimeensä yli 10 000 Saksan hallituksen työntekijää. Ja elokuun puolivälissä Israelin armeija ilmoitti, että Hamas käytti väärennettyjä profiileja Facebookissa, Instagramissa ja WhatsAppissa houkutellakseen israelilaisia sotilaita lataamaan haittaohjelmia.

Vaikka sosiaalisen median yritykset ovatkin alkaneet palkata lisää väkeä ja käyttää tekoälyä väärennettyjen profiilien havaitsemiseen, se ei riitä tarkistamaan kaikkia profiileja ajoissa, jotta niiden väärinkäyttö voitaisiin estää. Kuten tutkimuksessani selvitetään, ongelma ei oikeastaan ole se, että ihmiset – ja algoritmit – luovat väärennettyjä profiileja verkossa. Todellinen ongelma on se, että muut ihmiset lankeavat niihin.

Tutkimuksessani siitä, miksi niin monilla käyttäjillä on vaikeuksia tunnistaa väärennettyjä profiileja, löysin joitakin tapoja, joilla ihmiset voisivat paremmin tunnistaa väärennettyjä tilejä – ja toin esiin joitakin paikkoja, joissa teknologiayritykset voisivat auttaa.

Ihmiset lankeavat väärennettyihin profiileihin

Ymmärtääkseni sosiaalisen median käyttäjien ajatusprosesseja loin väärennettyjä profiileja Facebookissa ja lähetin kaveripyyntöjä 141 opiskelijalle eräässä suuressa yliopistossa. Jokainen valeprofiili vaihteli jollakin tavalla – esimerkiksi siinä, oliko valekavereita paljon vai vähän, tai oliko profiilikuva. Ajatuksena oli selvittää, onnistuiko yksi tai toinen profiilityyppi parhaiten siinä, että oikeat käyttäjät hyväksyivät heidät ystäväksi – ja sen jälkeen kartoittaa huijattujen ihmisten mielipiteitä selvittääkseni, miten se tapahtui.

Havaitsin, että vain 30 prosenttia kohderyhmään kuuluvista ihmisistä hylkäsi tekaistun henkilön tekemän pyynnön. Kaksi viikkoa myöhemmin tehdyssä kyselyssä 52 prosenttia käyttäjistä harkitsi yhä pyynnön hyväksymistä. Lähes joka viides – 18 prosenttia – oli hyväksynyt pyynnön heti. Niistä, jotka hyväksyivät sen, 15 prosenttia oli vastannut väärennetyn profiilin kyselyihin antamalla henkilökohtaisia tietoja, kuten kotiosoitteensa, opiskelijanumeronsa ja saatavuutensa osa-aikaiseen harjoittelupaikkaan. Toinen 40 prosenttia heistä oli harkinnut yksityisten tietojen paljastamista.

Mutta miksi?

Haastatellessani oikeita ihmisiä, joihin valeprofiilini olivat kohdistuneet, tärkein asia, jonka havaitsin, oli se, että käyttäjät uskovat pohjimmiltaan, että jokaisen profiilin takana on ihminen. Ihmiset kertoivat minulle, että he olivat luulleet profiilin kuuluvan jollekulle, jonka he tunsivat, tai mahdollisesti jollekulle, jonka joku ystävä tunsi. Yksikään henkilö ei koskaan epäillyt, että profiili oli täysin tekaistu, nimenomaan heidän huijaamistaan varten luotu. Virheellinen käsitys siitä, että jokainen kaveripyyntö on tullut oikealta henkilöltä, saattaa saada ihmiset hyväksymään kaveripyynnöt vain ollakseen kohteliaita ja ollakseen loukkaamatta jonkun toisen tunteita – vaikka he eivät olisi varmoja siitä, että tuntevat henkilön.

Lisäksi lähes kaikki sosiaalisen median käyttäjät päättävät, hyväksyvätkö he kaveripyynnön muutamien keskeisten tekijöiden perusteella, jotka löytyvät kaveripyynnön pyytäjän profiilista – pääasiassa sen perusteella, kuinka monta kaveria henkilöllä on ja kuinka monta yhteistä yhteyttä. Havaitsin, että ihmiset, joilla on jo paljon yhteyksiä, ovat vielä vähemmän vaativia ja hyväksyvät lähes kaikki tulevat pyynnöt. Jopa upouusi profiili tuo siis joitakin uhreja. Ja jokaisen uuden yhteyden myötä valeprofiili näyttää realistisemmalta ja sillä on enemmän yhteisiä ystäviä muiden kanssa. Tämän uhrien kaskadin avulla väärennetyt profiilit tulevat laillisiksi ja leviävät laajalle.

Leviäminen voi olla nopeaa, koska useimmat sosiaalisen median sivustot on suunniteltu niin, että käyttäjät palaavat aina takaisin, tarkistavat tottumuksellisesti ilmoitukset ja vastaavat välittömästi yhteydenottopyyntöihin. Tämä taipumus on vielä selvempi älypuhelimissa – mikä saattaa selittää, miksi älypuhelimilla sosiaalista mediaa käyttävät käyttäjät hyväksyvät väärennettyjä profiilipyyntöjä huomattavasti todennäköisemmin kuin pöytätietokoneiden tai kannettavien tietokoneiden käyttäjät.

Turvallisuuden harhakuvitelmat

Käyttäjät saattavat myös luulla olevansa turvallisempia kuin todellisuudessa ovatkaan, sillä he olettavat virheellisesti, että alustan yksityisyysasetukset suojaavat heitä väärennetyiltä profiileilta. Esimerkiksi monet käyttäjät kertoivat minulle uskovansa, että Facebookin kontrollit, joilla annetaan erilaiset käyttöoikeudet ystäville ja muille, suojaavat heitä myös väärentäjiltä. Samoin monet LinkedIn-käyttäjät kertoivat minulle uskovansa, että koska he julkaisevat vain ammattitietoja, mahdolliset seuraukset vilpillisten yhteyksien hyväksymisestä ovat rajalliset.

Mutta se on virheellinen oletus: Hakkerit voivat käyttää mitä tahansa tietoja, jotka on saatu miltä tahansa alustalta. Esimerkiksi pelkkä tieto LinkedInissä siitä, että joku työskentelee jossakin yrityksessä, auttaa heitä laatimaan sähköpostiviestejä kyseiselle henkilölle tai muille yrityksen työntekijöille. Lisäksi käyttäjät, jotka huolimattomasti hyväksyvät pyyntöjä olettaen, että heidän yksityisyysasetuksensa suojaavat heitä, vaarantavat muut yhteydet, jotka eivät ole asettaneet asetuksiaan yhtä korkealle.

Ratkaisuja etsimässä

Sosiaalisen median turvallinen käyttö tarkoittaa, että on opittava tunnistamaan väärennetyt profiilit ja käyttämään yksityisyysasetuksia oikein. Verkossa on lukuisia neuvontaa antavia lähteitä – myös alustojen omat ohjesivut. Liian usein tiedonsaanti jää kuitenkin käyttäjien itsensä tehtäväksi, yleensä sen jälkeen, kun he ovat jo joutuneet sosiaalisen median huijauksen uhreiksi – joka alkaa aina väärennetyn pyynnön hyväksymisestä.

Aikuisten tulisi oppia – ja opettaa lapsille – miten yhteyspyyntöjä voi tutkia huolellisesti, jotta he voivat suojella laitteitaan, profiilejaan ja postauksiaan uteliailta katseilta ja itseään pahansuovalta manipuloinnilta. Tähän kuuluu yhteyspyyntöjen tarkastelu häiriöttöminä vuorokaudenaikoina ja potentiaalisten yhteyksien tarkistaminen tietokoneella älypuhelimen sijaan. Siihen kuuluu myös sen tunnistaminen, mitkä heidän todellisista ystävistään pyrkivät hyväksymään lähes jokaisen kaveripyynnön keneltä tahansa, mikä tekee heistä heikkoja lenkkejä sosiaalisessa verkostossa.

Nämä ovat paikkoja, joissa sosiaalisen median alustayhtiöt voivat auttaa. Ne luovat jo nyt mekanismeja sovellusten käytön seuraamiseksi ja ilmoitusten pysäyttämiseksi, mikä auttaa ihmisiä välttämään tulvimista tai tarvetta reagoida jatkuvasti. Se on hyvä alku – mutta ne voisivat tehdä enemmänkin.

Sosiaalisen median sivustot voisivat esimerkiksi näyttää käyttäjille indikaattoreita siitä, kuinka moni heidän yhteyksistään on pitkään toimimaton, ja auttaa ihmisiä puhdistamaan ystäväverkostojaan aika ajoin. Ne voisivat myös näyttää, mitkä yhteydet ovat yhtäkkiä hankkineet paljon ystäviä ja mitkä yhteydet hyväksyvät epätavallisen paljon ystäväpyyntöjä.

Sosiaalisen median yritysten on tehtävä enemmän auttaakseen käyttäjiä tunnistamaan ja ilmoittamaan mahdollisista väärennetyistä profiileista ja täydentääkseen omaa henkilökuntaansa ja automaattisia toimiaan. Sosiaalisen median sivustojen on myös kommunikoitava keskenään. Monia väärennettyjä profiileja käytetään uudelleen eri sosiaalisissa verkostoissa. Mutta jos Facebook estää väärentäjän, Twitter ei välttämättä tee niin. Kun yksi sivusto estää profiilin, sen pitäisi lähettää keskeiset tiedot – kuten profiilin nimi ja sähköpostiosoite – muille alustoille, jotta ne voivat tutkia ja mahdollisesti estää huijauksen myös siellä.