O primeiro passo na realização de esforços de propaganda online e campanhas de desinformação é quase sempre um falso perfil de mídia social. Perfis falsos para pessoas inexistentes se infiltram nas redes sociais de pessoas reais, onde podem espalhar as suas falsidades. Mas nem as empresas de mídia social nem as inovações tecnológicas oferecem formas confiáveis de identificar e remover perfis de mídia social que não representam pessoas reais autênticas.

Pode parecer positivo que mais de seis meses no final de 2017 e início de 2018, o Facebook detectou e suspendeu cerca de 1,3 bilhões de contas falsas. Mas estima-se que 3 a 4% das contas que permanecem, ou aproximadamente 66 milhões a 88 milhões de perfis, também são falsas, mas ainda não foram detectadas. Da mesma forma, estima-se que 9 a 15% das 336 milhões de contas do Twitter são falsas.

Perfis falsos não estão apenas no Facebook e no Twitter, e não estão visando apenas as pessoas nos EUA. Em dezembro de 2017, funcionários da inteligência alemã alertaram que os agentes chineses que usavam perfis falsos do LinkedIn estavam visando mais de 10.000 funcionários do governo alemão. E em meados de agosto, os militares israelenses relataram que o Hamas estava usando perfis falsos no Facebook, Instagram e WhatsApp para enganar os soldados israelenses no download de software malicioso.

Embora as empresas de mídia social tenham começado a contratar mais pessoas e a usar inteligência artificial para detectar perfis falsos, isso não será suficiente para rever todos os perfis a tempo de parar o seu uso indevido. Conforme minha pesquisa explora, o problema não é que as pessoas – e algoritmos – criem perfis falsos online. O que está realmente errado é que outras pessoas se apaixonam por eles.

A minha pesquisa sobre o porquê de tantos usuários terem dificuldade em identificar perfis falsos identificou algumas maneiras pelas quais as pessoas poderiam melhorar na identificação de contas falsas – e destaca alguns lugares onde as empresas de tecnologia poderiam ajudar.

As pessoas se apaixonam por perfis falsos

Para entender os processos de pensamento dos usuários de redes sociais, eu criei perfis falsos no Facebook e enviei pedidos de amizade para 141 alunos de uma grande universidade. Cada um dos perfis falsos variava de alguma forma – como ter muitos ou poucos amigos falsos, ou se havia uma foto de perfil. A idéia era descobrir se um ou outro tipo de perfil tinha mais sucesso em ser aceito como uma conexão por usuários reais – e depois pesquisar as pessoas enganadas para descobrir como isso aconteceu.

Descobri que apenas 30% das pessoas visadas rejeitaram a solicitação de uma pessoa falsa. Quando pesquisado duas semanas depois, 52% dos usuários ainda estavam considerando aprovar o pedido. Quase um em cada cinco – 18 por cento – tinha aceite o pedido imediatamente. Dos que a aceitaram, 15% tinham respondido às perguntas do perfil falso com informações pessoais como seu endereço residencial, seu número de identificação de estudante e sua disponibilidade para um estágio de meio-período. Outros 40 por cento estavam considerando revelar dados privados.

Mas porquê?

Quando entrevistei as pessoas reais que os meus perfis falsos tinham como alvo, a coisa mais importante que descobri foi que os utilizadores acreditam fundamentalmente que existe uma pessoa por detrás de cada perfil. As pessoas me disseram que achavam que o perfil pertencia a alguém que conheciam, ou possivelmente a alguém que um amigo conhecia. Nenhuma pessoa jamais suspeitou que o perfil fosse uma fabricação completa, criada expressamente para enganá-los. Pensar erroneamente que cada pedido de amizade veio de uma pessoa real pode fazer com que as pessoas aceitem pedidos de amizade simplesmente para serem educadas e não ferir os sentimentos de outra pessoa – mesmo que não tenham certeza de que conhecem a pessoa.

Além disso, quase todos os usuários de redes sociais decidem se aceitam uma conexão com base em alguns elementos-chave do perfil do solicitante – principalmente quantos amigos a pessoa tem e quantas conexões mútuas existem. Eu descobri que as pessoas que já têm muitas conexões são ainda menos perspicazes, aprovando quase todos os pedidos que chegam. Por isso, até um perfil novinho em folha faz algumas vítimas. E a cada nova conexão, o perfil falso parece mais realista, e tem mais amigos mútuos com os outros. Esta cascata de vítimas é como os perfis falsos adquirem legitimidade e se difundem.

A propagação pode ser rápida porque a maioria dos sites de mídia social são projetados para manter os usuários voltando, normalmente verificando as notificações e respondendo imediatamente aos pedidos de conexão. Essa tendência é ainda mais acentuada nos smartphones – o que pode explicar porque os utilizadores que acedem às redes sociais nos smartphones são significativamente mais propensos a aceitar pedidos de perfis falsos do que os utilizadores de computadores de secretária ou portáteis.

Illusões de segurança

E os utilizadores podem pensar que estão mais seguros do que realmente estão, assumindo erradamente que as definições de privacidade de uma plataforma os protegerão de perfis falsos. Por exemplo, muitos usuários me disseram que acreditam que os controles do Facebook para conceder acesso diferente a amigos versus outros também os protegem contra falsificações. Da mesma forma, muitos usuários do LinkedIn também me disseram que acreditam que, como eles publicam apenas informações profissionais, as possíveis consequências de aceitar conexões desonestas são limitadas.

Mas essa é uma suposição falsa: Os hackers podem usar qualquer informação obtida a partir de qualquer plataforma. Por exemplo, simplesmente saber no LinkedIn que alguém está trabalhando em algum negócio ajuda-os a criar e-mails para a pessoa ou outros na empresa. Além disso, usuários que descuidadamente aceitam pedidos assumindo que seus controles de privacidade os protegem, colocam em risco outras conexões que não definiram seus controles como altos.

Seeking solutions

Usar redes sociais com segurança significa aprender a identificar perfis falsos e usar configurações de privacidade corretamente. Existem numerosas fontes online para conselhos – incluindo as próprias páginas de ajuda das plataformas. Mas muitas vezes é deixado aos utilizadores informarem-se, geralmente depois de já terem sido vítimas de um esquema de redes sociais – que começa sempre com a aceitação de um pedido falso.

Os adultos devem aprender – e ensinar às crianças – como examinar cuidadosamente os pedidos de conexão, a fim de proteger seus dispositivos, perfis e mensagens de olhares curiosos, e a si mesmos de serem maliciosamente manipulados. Isso inclui rever as solicitações de conexão durante períodos do dia sem distrações e usar um computador em vez de um smartphone para verificar possíveis conexões. Também envolve identificar quais dos seus amigos reais tendem a aceitar quase todos os pedidos de amizade de qualquer pessoa, tornando-os links fracos na rede social.

Estes são lugares que as empresas de plataforma de mídia social podem ajudar. Elas já estão criando mecanismos para rastrear o uso de aplicativos e para pausar notificações, ajudando as pessoas a evitar serem inundadas ou precisarem reagir constantemente. Isso é um bom começo – mas eles poderiam fazer mais.

Por exemplo, sites de mídia social poderiam mostrar aos usuários indicadores de quantas de suas conexões estão inativas por longos períodos, ajudando as pessoas a purgar suas redes de amigos de tempos em tempos. Eles também poderiam mostrar quais conexões adquiriram subitamente um grande número de amigos, e quais aceitam porcentagens invulgarmente altas de solicitações de amizade.

As empresas de mídia social precisam fazer mais para ajudar os usuários a identificar e reportar perfis potencialmente falsos, aumentando sua própria equipe e esforços automatizados. Os sites de mídia social também precisam se comunicar uns com os outros. Muitos perfis falsos são reutilizados através de diferentes redes sociais. Mas se o Facebook bloqueia um falsificador, o Twitter pode não o fazer. Quando um site bloqueia um perfil, ele deve enviar informações importantes – como o nome e o endereço de e-mail do perfil – para outras plataformas para que eles possam investigar e potencialmente bloquear a fraude lá também.