Erro decorreu de um software que serve para defender redes
Falando em regime de informação, podemos seguir indicações da obra Infocracia, de Byung-Chul Han, que diz: “é a forma de dominação na qual informações e seu processamento por algoritmos e inteligência artificial determinam decisivamente processos sociais, econômicos e políticos. Em oposição ao regime disciplinar, não são corpos e energias que são explorados, mas informações e dados”. Byung-Chul Han diagnostica que a digitalização situa-se atualmente como um dos pilares da crise da democracia.
O exemplo dos aeroportos, no caso da CrowdStrike, é emblemático sobre este caráter de dominação, pois todos os envolvidos tiveram que esperar, paralisados, a “volta do sistema”. Ou seja, é uma “evolução” do que veio a ser tematizado por Foucault em Vigiar e Punir, sobre as técnicas de isolamento espacial e de adestramento do corpo, que era o sistema de domínio do panóptico, um observatório de vigilância permanente e, guardadas as proporções, onisciente no que se propôs.
Esta “evolução” do conceito dos corpos dóceis da inflexão conceitual foucaltiana vira agora a dominação através dos dados. A verdadeira localização que importa não é a do corpo, mas a dos dados, aqui podendo ir de Byung-Chul Han até Shoshana Zuboff, que defendeu a tese do capitalismo de informação, em que na obra A Era do Capitalismo de Vigilância, estabelece a arquitetura em que se dá este regime que impacta o nosso modo de vida.
A tragédia da concentração do sistema é que a entrega total de tudo a poucas empresas expõe este controle, esta dominação, à sua face invertida, que é seu colapso, sua fina camada que ao menor impacto rompe e, por conseguinte, rompe o sistema e testa os limites do tecido social, este que entregou as chaves da própria casa, ou seja, grande parte ou a totalidade de seus dados, a este sistema concentrado e centralizado.
Por sua vez, empresas que deveriam estar sob vigilância a escrutínio do Estado, das instituições públicas, ganham a forma de uma arquitetura digital onipresente, com bastante poder, em que falhas globais são mais um custo debitado à democracia e à liberdade, com mecanismos frouxos de controle desta concentração das big techs.
A fé inabalável no sistema, na sua mágica e aceleração, contudo, implica nesta alienação da própria autonomia para remeter falhas e responsabilidades ao sistema, como uma criança que paralisa se há erro e os dados ficam em stand-by, devido “a uma falha global do sistema”. O aprendizado artificial da Falcon Discovery, por sua vez, é nada mais que para a sua função de monitorar e verificar aplicações não autorizadas.
Temos aqui uma máquina que aprende (machine learning), que agora pode atuar em conjunto com uma inteligência artificial, somente através de banco de dados, ou seja, literalmente, em matéria de habilidade cognitiva, com o passado, mas sem questionamento e capacidade de reflexão e de comoção, por exemplo, com o caos humano que a falha da CrowdStrike provocou.
Ou seja, isso quer dizer que a Falcon Discovery “não viu” as milhões de vítimas da falha de seu sistema. O limite cognitivo da máquina se dá pelo fato de a inteligência artificial fazer correlações a partir de um banco de dados, alimentando-se de seu big data, em que tudo é previsível e calculado, mas incapaz de lidar com fatos novos, com demandas imprevisíveis e ligadas ao imponderável.
O saber da máquina se dá por correlações e não conceitos, ou seja, a reflexão sobre significado e sentido passa ao largo e além das captações que uma inteligência artificial pode fazer, e qualquer coisa que se assemelhe a um senso crítico e reflexivo, produzido a partir de um prompt bem colocado, não passará de um simulacro de um sistema que é cego para eventos. Ou seja, que nunca entenderá as dimensões da falha da CrowdStrike, ou indo mais longe, do lançamento das bombas de Hiroshima e Nagasaki, por exemplo.
A indisponibilidade da CrowdStrike provocou uma interrupção massiva que danificou cerca de 8,5 milhões de computadores Windows no mundo todo, em que apareceu a espiral da Tela Azul da Morte (BSOD). Este fato é notável e se diferencia de ataques cibernéticos maliciosos que já causaram interrupções de plataforma de nuvem e outros problemas de software, pois agora o erro decorreu de um software que serve para defender redes e não prejudicá-las.
Por fim, a resolução do problema causado teve que ser manual, com profissionais de TI tendo acesso prático a cada máquina afetada, seja fisicamente, ou com orientações de modo remoto. Em todo caso, uma pessoa teve que inicializar manualmente cada computador no Modo de Segurança do Windows e aplicar a correção. Em casos de computadores criptografados com o recurso de segurança Windows BitLocker, uma conhecida conta de análise de malware e notícias de segurança no X, brincou: “Se você estiver usando o BitLocker, pule de uma ponte”.
Neste caso, os usuários não conseguiam inserir as chaves do BitLocker necessárias para desbloquear os dispositivos e aplicar as correções sem recorrer a soluções alternativas mais complicadas, então a Microsoft logo lançou uma ferramenta de recuperação no sábado subsequente ao colapso, que incluía uma solução para o problema. Isto também expôs o fato da falta de treinamento de funcionários de diversas empresas para casos de falhas e erros de sistema, dando mais ênfase a produzir sem criar essa resiliência.
(final)
Gustavo Bastos, filósofo e escritor.
Blog: http://poesiaeconhecimento.blogspot.com
