Escolha as suas informações

Quando o Facebook apaga o mundo pode acabar com ele?
Sociedade 13 min. 15.10.2021
Redes sociais

Quando o Facebook apaga o mundo pode acabar com ele?

Redes sociais

Quando o Facebook apaga o mundo pode acabar com ele?

Foto: AFP
Sociedade 13 min. 15.10.2021
Redes sociais

Quando o Facebook apaga o mundo pode acabar com ele?

Nuno RAMOS DE ALMEIDA
Nuno RAMOS DE ALMEIDA
O apagão do Facebook, Instagram e WhatsApp a 4 de outubro, afetando mais de 3,5 mil milhões de pessoas, colocou na ordem do dia a questão da estabilidade da rede e dos perigos que corremos ao termos a vida controlada sobretudo por computadores e pela Internet.

No dia 6 de setembro de 1976, o tenente soviético Victor Belenko desertou para o Japão, a bordo do seu caça MIG-25 P. O avião foi desmontado por peritos dos EUA, que concluíram, que embora o caça fosse o avião mais rápido existente, a parte eletrónica da aeronave deixava muito a desejar e em alguns aspetos já era totalmente obsoleta: o radar ainda utilizava válvulas termo-iónicas, uma tecnologia da Segunda Guerra Mundial.

Contudo, a história já mostrou diversas vezes que as críticas de especialistas norte-americanos podem ser um tanto precipitadas. O radar do MiG-25 era primitivo, mas permitia defender-se das interferências das contramedidas eletrónicas (sinais que podem enganar mísseis e radares) dos militares ocidentais. E, sobretudo, o avião não seria afetado na sua operacionalidade numa guerra nuclear, que tem como consequências que todos os dispositivos eletrónicos deixam de funcionar, devido ao chamado ataque de pulso eletromagnético, uma explosão de alta energia de largo espectro que se propaga pelo espaço que gera um campo elétrico desfasado de um campo magnético, cuja frente de onda pode danificar componentes eletrónicos de estado sólido inseridos no campo em questão.

Na altura, os computadores e a sua importância na vida social era muito mais pequena que hoje, em que eles controlam estradas, fornecimento de água, energia, hospitais, voos, circulação automóvel; para além de estarem disseminados na nossa vida e ao nosso lado, seja em portáteis, relógios, telemóveis, dispositivos de controle dos carros.

O apagão do Facebook, Instagram e WhatsApp em 4 de outubro, afetando mais de 3,5 mil milhões de pessoas, colocou na ordem do dia, a questão da estabilidade da rede e dos perigos que corremos ao termos a vida controlada sobretudo por computadores e pela Internet.

O que aconteceu?

"Desculpem pela interrupção de hoje — eu sei o quanto vocês dependem de nossos serviços para estarem ligados com as pessoas de quem gostam", afirmou Mark Zuckerberg, dono do Facebook, em postagem no próprio Facebook depois de um período de cerca de sete horas em que a rede social esteve desconectada da Internet.

Foto: Mykola Tys/SOPA Images via ZUMA

Comecemos pelo princípio: a Internet é uma ligação de muitas redes. Para funcionar tem sistemas de nomes de domínio, DNS, que atribuem um IP (uma espécie de placa de matrícula única) a cada dispositivo. Uma Internet sem DNS é como um correio sem endereços. Mas para obter informações para chegar a esses endereços é preciso ter uma rota: as instruções do GPS para o carteiro. O BGP (Border Gateway Protocol) é essa rota, marcando a forma mais eficiente de alcançar qualquer endereço IP.

Estas rotas são atualizadas, tal como o nosso GPS, para encontrar o caminho mais eficiente em qualquer momento. Na última atualização, os operadores do Facebook cometeram um erro que "bloqueou" o caminho para os seus servidores. Isto significou que todas as rotas possíveis para o Facebook foram apagadas dessa espécie de GPS: ninguém as podia encontrar.

No final, o Facebook conseguiu resolver o problema. Como? Tudo indica que teve de ser feito manualmente, através de operadores com acesso físico aos routers e servidores nos EUA onde o problema ocorreu. "Aconteceu um cenário que não foi previsto. Foi uma falha grave de planeamento. Normalmente, os servidores de qualquer organização importante têm uns canais laterais, que não têm o objetivo dos canais normais, mas permitem ter acesso à administração das máquinas. Para além disso, houve mais erros neste caso: o Facebook só usa ferramentas deles, quando o DNS cai, todas as ferramentas caem, o que é insólito. Nunca devia acontecer. É um erro verdadeiramente inacreditável. Outra coisa que aconteceu, é que no momento o que o Facebook caiu as próprias equipas deixaram de conseguir falar umas com os outras. Não podendo operar remotamente os servidores, os técnicos tinham que entrar nos servidores e para isso tinham que usar os cartões eletrónicos que estavam associados às suas contas de Facebook que estava fora de rede. Como é que então se podia resolver o problema? Era dar a instrução contrária, para restabelecer as rotas. Para isso era preciso ter um acesso bastante elevado de segurança, mas como o acesso remoto estava desligado, tiveram que ir mesmo aos servidores. Mas quando chegaram fisicamente lá, tiveram problemas de acesso. Não confessam isso claramente, mas há um relato que foi apagado, em que se diz que tiveram de usar rebarbadoras para entrarem na sala dos servidores", relata ao Contacto, José Nuno Pereira, programador e administrador de redes, um dos pioneiros da Internet em Portugal.

A centralização da segurança ou gestão de infraestruturas importantes foi tecnicamente irresponsável. A resiliência da Internet baseia-se na redundância e descentralização da sua infraestrutura, mas as grandes plataformas empresariais têm vindo a sequestrar e a concentrar o tráfego da Web durante mais de duas décadas, a fim de processar tudo nos seus servidores.

Esse processo alimenta uma cultura de arrogância, segundo defendeu ao Contacto, o programador Paulo Querido: "Isto é uma nabice da rapaziada do Facebook. Quando se ultrapassa uma determinada dimensão. Ganha-se uma arrogância natural de pensar que é tudo nosso. Dado que são o poder. Aqui enganaram-se porque ainda há uma coisa acima do Facebook que é a Internet, que tem as suas regras e protocolos".

A situação foi grave mas ainda podia ser muito mais se implicasse outros gigantes da Internet. Se uma interrupção destas proporções tivesse afetado a Google, todas as empresas, indivíduos e administrações que dependem do Gmail para comunicar, Google Drive para trabalhar remotamente, escolas Google para enviar crianças à escola ou Google Maps para entregar mercadorias ou chegar aos seus destinos teriam ficado parados. Setenta e três por cento dos telemóveis teriam estado em baixo. Se tivesse sido a Amazon, as caixas multibanco, os hospitais e os comboios em todo o mundo teriam ficado paralisados. E jornais que dependem do sistema de gestão de conteúdos de Jeff Bezos. Porque a Amazon possui metade da nuvem onde a Web inteira está alojada. Como escreve no El País Marta Peirano, autora do livro "O inimigo Conhece o Sistema": "Entregar a gestão destas infraestruturas a empresas opacas que acumularam o seu poder e fortuna através da exploração de pessoas, evasão fiscal e um desrespeito patológico pela lei é como deixar a gestão dos orçamentos do Estado nas mãos dos paraísos fiscais".

Esther Paniagua, autora do livro "Erro 404", em que se analisa o que sucederia caso a Internet fosse interrompida, considera, em entrevista ao semanário espanhol "La Razon", que estamos "a quatro refeições da anarquia": "Se a Internet fosse abaixo, haveria apenas dois dias antes de a anarquia se instalar. Poderíamos deparar-nos com problemas de abastecimento. É difícil imaginar, mas muitos processos seriam interrompidos e afetariam os serviços hospitalares, as empresas... a interrupção causaria uma paralisia semelhante a um apagão total de eletricidade."

Como podemos voltar à Idade Média?

O BGP é o protocolo de encaminhamento padrão na Internet. Uma falha neste protocolo pode afetar qualquer serviço que dependa da Internet, e não apenas do WhatsApp ou do Facebook. Tais falhas ou anomalias no comportamento do BGP podem ter várias causas (por exemplo, má configuração ou ciberataque).

Como é possível que não exista um sistema para detetar estas anomalias e bloqueá-las? Como é possível que quando um técnico está prestes a realizar uma operação potencialmente arriscada, não haja nenhum aviso ou pedido de confirmação para questionar se ele realmente quer fazer isso, e as consequências que isso poderia ter?

Segundo alertou um dos "pais" da Internet Vint Cerf, "é crucial proteger o protocolo BGP de informações erradas que possam ser causadas por erros de configuração e outros erros, ou intencionalmente inseridos".

O BGP pode ser uma espécie de buraco negro que pode fazer cair a Internet, garantiu em 1998, o hacker Peiter Zatko, conhecido como Mudge (agora diretor de cibersegurança do Twitter). Mudge e os seus colegas do grupo L0pht testemunharam perante o Congresso dos EUA sobre falhas de segurança que colocam em risco a Internet.

A equipa L0ph tinha encontrado várias vulnerabilidades no protocolo BGP. A sua conclusão foi que, através deles, qualquer pessoa poderia, numa questão de minutos, fazer cair a Internet. Dez anos mais tarde, o que parecia uma possibilidade teórica foi demonstrado numa conferência em São Francisco. A revista norte-americana Wired chamou-lhe "o maior buraco de segurança da Internet". 

Uma situação que Paulo Querido relativiza: há de facto perigos, mas o sistema é "resiliente", como hoje se diz para quase tudo. "Essa estrutura é cada vez mais complexa e tem cada vez mais defesas. Foram criadas uma série de camadas adicionais para defender a Internet. A rede de DNS soube o qual assenta toda a Internet é a coisa melhor guardada do mundo. Tem mecanismos de compensação e de secretismo, ninguém sabe verdadeiramente onde estão esses servidores e onde estão. É verdade que dependemos cada vez mais do sistema, mas ele não é o mesmo que era há dez anos, 20 anos ou 30 anos, quando tudo começou."

Mais graves são, certamente, os perigos e fragilidades existentes nas empresas e na administração pública. O deputado do PS, antigo governante e co-autor da Carta dos Direitos Digitais, José Magalhães, considera que se instalou em Portugal uma política de poupar até ao último euro em despesas de segurança informática básica, fazendo correr o país uma série de riscos potencialmente catastróficos.

Mesmo do ponto de vista dos organismos públicos que devem velar por essa segurança, sempre houve um enorme falta de visão: "Em Portugal, o Centro Nacional de Cibersegurança não tem poderes nem autonomia necessária. Foi criado como se fosse uma subdirectoria-geral , sem poderes para mandar sequer comprar um lápis. Na Carta dos Direitos Digitais eu introduzi um ponto que torna esse centro equiparado a uma direcção-geral com autonomia administrativa e de gestão, mas isso ainda está por resolver".

As denúncias sobre o Facebook

"Houve dois episódios que quebraram a desatenção a que esses temas são votados: a primeira foi o apagão, e a outra foi a ida da antiga engenheira de software do Facebook Frances Haugen ao Senado para contar muitas das coisas que sabe sobre o algoritmo da rede social. Como ela se preveniu retirando muito material provatório, a resposta que o Facebook deu, através de uma alocução Mark Zuckerberg deu a rogar piedade e a mostrar com é um tipo mais generosos do mundo, foi fraca e foi um flop. Destes dois fenómenos, o mais importante foi a segunda", considera José Magalhães.

O depoimento e os documentos revelados pela ex-funcionária do Facebook Frances Haugen tornaram-se um pesadelo para os patrões da rede social. Haugen mostrou à comunicação social e ao Senado dos EUA os meandros das políticas do Facebook e acusa a rede social de privilegiar o lucro em detrimento da segurança e do bem-estar dos seus utilizadores.

O fundador do Facebook, Mark Zuckerberg, tem estado debaixo de fogo devido à desinformação e aos problemas de privacidade da sua rede social.
O fundador do Facebook, Mark Zuckerberg, tem estado debaixo de fogo devido à desinformação e aos problemas de privacidade da sua rede social.
Foto: AFP

A antiga engenheira informática mostrou provas que o Facebook sabia que o seu algoritmo potenciou a desinformação e o discurso de ódio, além de afetar a saúde mental de jovens, mas escolheu não fazer nada para mudar isso.


Apagão no Facebook "custa" seis mil milhões de dólares a Mark Zuckerberg
O fundador do Facebook desceu um degrau na lista dos mais riscos do mundo, devido à paralisação global que afetou o Facebook, Messenger, Instagram e WhatsApp.

Da série de escândalos envolvendo o Facebook desde o caso Cambridge Analytica, este é certamente o pior. Isso porque, embora já tivesse ficado claro que o modelo de extração massiva de dados para fins publicitários tivesse consequências péssimas do ponto de vista social, os documentos que Hagen divulgou mostram que a empresa estava absolutamente ciente disso.

Os perigos do algoritmo da Inteligência Artificial

O professor Stuart Russell, da Universidade da Califórnia, é autor de "Compatibilidade Humana: Inteligência Artificial e o Problema de Controle" e especialista em Inteligência Artificial e nos processos como as máquinas aprendem.

"Não há realmente (nas máquinas) uma consciência maldosa. Há sim uma competência com a qual temos de nos preocupar, a competência para atingir um objetivo que nós especificamos mal", disse em entrevista citada pela BBC. Ou seja, segundo ele, digamos que uma máquina com inteligência artificial tenha de cumprir uma tarefa que damos a ela. Porém, atingir essa meta pode necessitar tomada de decisões extremas.

Então, provavelmente a máquina não terá condições de fazer um julgamento moral sobre suas acções: vai apenas tentar atingir o objetivo final, como se fosse qualquer outro.

Numa entrevista ao programa de rádio Today, da BBC, Russell deu um exemplo hipotético da ameaça real que a inteligência artificial poderia representar. "Imagine que tenhamos um poderoso sistema de inteligência artificial capaz de controlar o clima do planeta. Nós queremos usá-lo para diminuir os níveis de dióxido de carbono em nossa atmosfera a taxas pré-industriais".

"O sistema então descobre que a maneira mais fácil de fazer isso é se livrar de todos os seres humanos, porque são eles que estão produzindo muito desse dióxido de carbono", diz Russell. "Se construirmos a Inteligência Artificial de modo a otimizar um objectivo fixado por nós, as (máquinas) serão quase como psicopatas – perseguindo esse objetivo e sendo completamente alheias a todo o restante, até mesmo se pedirmos a elas que parem."

Um exemplo quotidiano disso, opina Russell, são os algoritmos que regem as redes sociais – que ficaram tão em evidência nos últimos dias com o apagão global que afectou Facebook, Instagram e WhatsApp. A tarefa principal desses algoritmos é aumentar a permanência dos utilizadores nas redes sociais – por exemplo, recolhendo o máximo de informações o possível sobre essa pessoa e fornecendo-lhe conteúdo que se adeque a suas preferências, fazendo com que ele permaneça mais tempo conectado.

Mesmo que isso ocorra às custas do bem-estar desse usuário ou da cidadania global, prossegue o investigador. "As redes sociais criam vício, depressão, disfunção social, talvez extremismo, polarização da sociedade, talvez contribuam para espalhar desinformação. E está claro que seus algoritmos estão projetados para otimizar um objetivo: que as pessoas cliquem, que passem mais tempo engajadas a esses conteúdos", sublinha Russell à BBC.

"E, ao optimizar essas quantidades, pode estar a causar enormes problemas para a sociedade." No entanto, prossegue Russell, esses algoritmos não sofrem escrutínio o bastante para que possam ser verificados ou "consertados" -para impedir que continuem a trabalhar para optimizar seu objetivo, indiferentes aos danos colaterais que provocam.

"(As redes sociais) não apenas estão optimizando coisas erradas, como também estão manipulando as pessoas, porque ao manipulá-las consegue-se aumentar o seu tempo de conexão nas redes". Se a máquina deteta uma inclinação pode trabalhá-la: "Posso tornar uma pessoa mais previsível, por exemplo transformando-a numa eco-terrorista extremista, posso-lhe mandar conteúdo eco-terrorista e ter certeza que essa pessoa vai clicar, e assim maximizar os seus cliques."

Siga-nos no Facebook, Twitter e receba as nossas newsletters diárias.


Notícias relacionadas

O aumento das eliminações demonstra os desafios que o Facebook enfrenta na remoção de contas criadas por computadores que aumentam o 'spam', as ‘fake news’ e outro material indesejável. E quanto mais eficazes se tornam as ferramentas de deteção do Facebook, mais esforços estão a ser desenvolvidos pelos criadores destas contas falsas. A empresa calcula que 5% das contas existentes são falsas.