Pierwszym krokiem w prowadzeniu działań propagandowych online i kampanii dezinformacyjnych jest prawie zawsze fałszywy profil w mediach społecznościowych. Fałszywe profile nieistniejących osób przedostają się do sieci społecznościowych prawdziwych ludzi, gdzie mogą rozpowszechniać swoje nieprawdziwe informacje. Ale ani firmy z branży mediów społecznościowych, ani innowacje technologiczne nie oferują niezawodnych sposobów identyfikacji i usuwania profili w mediach społecznościowych, które nie reprezentują rzeczywistych autentycznych osób.

Może to brzmieć pozytywnie, że w ciągu sześciu miesięcy pod koniec 2017 r. i na początku 2018 r., Facebook wykrył i zawiesił około 1,3 miliarda fałszywych kont. Ale szacunkowo od 3 do 4 procent kont, które pozostały, czyli około 66 milionów do 88 milionów profili, są również fałszywe, ale nie zostały jeszcze wykryte. Podobnie szacuje się, że 9 do 15 procent z 336 milionów kont na Twitterze jest fałszywych.

Fałszywe profile nie są tylko na Facebooku i Twitterze, i nie są one skierowane tylko do ludzi w USA. W grudniu 2017 roku niemieccy urzędnicy wywiadowczy ostrzegli, że chińscy agenci używający fałszywych profili LinkedIn celowali w ponad 10 000 niemieckich pracowników rządowych. A w połowie sierpnia izraelskie wojsko poinformowało, że Hamas używał fałszywych profili na Facebooku, Instagramie i WhatsApp, aby usidlić izraelskich żołnierzy do pobrania złośliwego oprogramowania.

Although social media companies have begun hiring more people and using artificial intelligence to detect fake profiles, that won’t be enough to review every profile in time to stop their misuse. Jak pokazują moje badania, problemem nie jest to, że ludzie – i algorytmy – tworzą fałszywe profile w sieci. To, co jest naprawdę złe, to fakt, że inni ludzie dają się na nie nabrać.

Moje badania nad tym, dlaczego tak wielu użytkowników ma problemy z rozpoznaniem fałszywych profili, pozwoliły zidentyfikować sposoby, dzięki którym ludzie mogą stać się lepsi w identyfikowaniu fałszywych kont – i wskazały miejsca, w których firmy technologiczne mogłyby pomóc.

Ludzie dają się nabrać na fałszywe profile

Aby zrozumieć procesy myślowe użytkowników mediów społecznościowych, stworzyłem fałszywe profile na Facebooku i wysłałem prośby o dodanie do znajomych do 141 studentów dużego uniwersytetu. Każdy z fałszywych profili różnił się pod pewnymi względami – np. posiadał wielu lub niewielu fałszywych znajomych, czy też zawierał zdjęcie profilowe. Chodziło o to, aby dowiedzieć się, czy ten lub inny typ profilu był najbardziej skuteczny w uzyskaniu akceptacji jako połączenie przez prawdziwych użytkowników – a następnie zbadać oszukanych ludzi, aby dowiedzieć się, jak to się stało.

Znalazłem, że tylko 30 procent docelowych osób odrzuciło prośbę od fałszywej osoby. W badaniu przeprowadzonym dwa tygodnie później 52 procent użytkowników nadal rozważało zatwierdzenie prośby. Prawie jedna osoba na pięć – 18 procent – od razu zaakceptowała prośbę. Spośród tych, którzy zaakceptowali prośbę, 15 procent odpowiedziało na zapytanie fałszywego profilu, podając swoje dane osobowe, takie jak adres domowy, numer identyfikacyjny studenta oraz informacje o możliwości odbycia stażu w niepełnym wymiarze godzin. Kolejne 40 procent z nich rozważało ujawnienie prywatnych danych.

Ale dlaczego?

Gdy przeprowadziłem wywiady z prawdziwymi ludźmi, do których kierowane były moje fałszywe profile, najważniejszą rzeczą, jaką odkryłem, było to, że użytkownicy zasadniczo wierzą, że za każdym profilem kryje się osoba. Ludzie mówili mi, że myśleli, że profil należał do kogoś, kogo znali, lub ewentualnie kogoś, kogo znał ich przyjaciel. Żadna osoba nigdy nie podejrzewała, że profil był kompletną fabrykacją, stworzoną specjalnie po to, aby ich oszukać. Mylne myślenie, że każda prośba o przyjaźń pochodzi od prawdziwej osoby może spowodować, że ludzie akceptują prośby o przyjaźń, aby być uprzejmym i nie zranić czyichś uczuć – nawet jeśli nie są pewni, że znają tę osobę.

Ponadto, prawie wszyscy użytkownicy mediów społecznościowych decydują, czy zaakceptować połączenie w oparciu o kilka kluczowych elementów w profilu osoby proszącej – przede wszystkim, ilu przyjaciół ma ta osoba i ile jest wzajemnych powiązań. Odkryłem, że ludzie, którzy już mają wiele połączeń są jeszcze mniej wymagający, zatwierdzając prawie każdy wniosek, który przychodzi. Tak więc nawet zupełnie nowy profil przyciąga kilka ofiar. A z każdym nowym połączeniem, fałszywy profil wydaje się bardziej realistyczny i ma więcej wspólnych znajomych z innymi. Ta kaskada ofiar to sposób, w jaki fałszywe profile zyskują legalność i stają się powszechne.

Rozprzestrzenianie się może być szybkie, ponieważ większość portali społecznościowych jest zaprojektowana tak, aby użytkownicy wracali, nawykowo sprawdzali powiadomienia i natychmiast reagowali na prośby o połączenie. Ta tendencja jest jeszcze bardziej widoczna na smartfonach – co może wyjaśniać, dlaczego użytkownicy korzystający z mediów społecznościowych na smartfonach znacznie częściej akceptują prośby o fałszywy profil niż użytkownicy komputerów stacjonarnych lub laptopów.

Iluzje bezpieczeństwa

A użytkownicy mogą myśleć, że są bezpieczniejsi niż są w rzeczywistości, błędnie zakładając, że ustawienia prywatności platformy ochronią ich przed fałszywymi profilami. Na przykład, wielu użytkowników powiedziało mi, że wierzą, iż kontrola Facebooka w zakresie przyznawania różnego dostępu do znajomych w stosunku do innych osób również chroni ich przed fałszerzami. Podobnie, wielu użytkowników LinkedIn powiedziało mi, że wierzą, że ponieważ zamieszczają tylko informacje zawodowe, potencjalne konsekwencje akceptowania nieuczciwych połączeń są ograniczone.

Ale to błędne założenie: Hakerzy mogą wykorzystać każdą informację uzyskaną z dowolnej platformy. Na przykład, po prostu wiedząc na LinkedIn, że ktoś pracuje w jakiejś firmie, pomagają im spreparować e-maile do tej osoby lub innych osób w firmie. Ponadto, użytkownicy, którzy beztrosko akceptują prośby zakładając, że ich kontrole prywatności chronią ich, narażają na niebezpieczeństwo inne połączenia, które nie ustawiły swoich kontroli tak wysoko.

Szukanie rozwiązań

Bezpieczne korzystanie z mediów społecznościowych oznacza uczenie się, jak wykrywać fałszywe profile i używać ustawień prywatności prawidłowo. Istnieje wiele źródeł porad online – w tym własne strony pomocy platform. Jednak zbyt często to użytkownicy muszą się sami informować, zazwyczaj po tym, jak już padną ofiarą oszustwa w mediach społecznościowych – które zawsze zaczyna się od zaakceptowania fałszywej prośby.

Dorośli powinni nauczyć się – i uczyć dzieci – jak dokładnie sprawdzać prośby o połączenie, aby chronić swoje urządzenia, profile i posty przed wścibskimi oczami, a siebie przed złośliwą manipulacją. Obejmuje to przeglądanie próśb o połączenie w wolnych od rozproszenia uwagi okresach dnia i korzystanie z komputera, a nie smartfona, aby sprawdzić potencjalne połączenia. Obejmuje to również identyfikację, które z ich rzeczywistych przyjaciół mają tendencję do akceptowania prawie każdej prośby o przyjaciela od każdego, co czyni je słabymi ogniwami w sieci społecznej.

To są miejsca, w których firmy platformy mediów społecznościowych mogą pomóc. Już teraz tworzą mechanizmy śledzenia wykorzystania aplikacji i wstrzymywania powiadomień, pomagając ludziom uniknąć zalania lub konieczności ciągłego reagowania. To dobry początek – ale mogą zrobić więcej.

Na przykład, serwisy społecznościowe mogłyby pokazywać użytkownikom wskaźniki tego, jak wiele z ich połączeń jest nieaktywnych przez dłuższy czas, pomagając ludziom oczyścić ich sieci znajomych od czasu do czasu. Mogłyby również pokazać, które połączenia nagle zdobyły dużą liczbę przyjaciół i które z nich akceptują niezwykle wysoki odsetek próśb o przyjaźń.

Przedsiębiorstwa mediów społecznościowych muszą zrobić więcej, aby pomóc użytkownikom w identyfikacji i zgłaszaniu potencjalnie fałszywych profili, zwiększając ich własny personel i zautomatyzowane wysiłki. Serwisy mediów społecznościowych muszą również komunikować się między sobą. Wiele fałszywych profili jest ponownie wykorzystywanych w różnych sieciach społecznościowych. Ale jeśli Facebook blokuje fałszerza, Twitter może tego nie zrobić. Gdy jedna witryna blokuje profil, powinna przesłać kluczowe informacje – takie jak nazwa profilu i adres e-mail – do innych platform, aby mogły one zbadać i potencjalnie zablokować oszustwo również tam.

.