Digital Error
SOBRE DIGITAL ERROR
Digital error (erros, falhas e perturbações na cultura digital) é meu atual projeto de pesquisa. Lanço aqui algumas rápidas reflexões.
O objeto é fascinante: erros, falhas, perturbações, desvios, errâncias, fissuras. Après coup, percebo que o tema faz parte da minha trajetória e está presente há muito em minha produção acadêmica e literária. O laboratório de pesquisa que criei em 2010 chama-se Lab404 (nome inspirado no erro “404” de endereçamento de URL). Publiquei em 2013, “A Comunicação das Coisas” (Annablume, São Paulo), cuja capa é um iphone em pedaços, quebrado, e que tem como questão central um “erro” epistemológico no campo das ciências humanas e da comunicação, o antropocentrismo. Em 2021 publiquei “Desastres” (Penalux, 2021), microcontos sobre pequenos erros e desastres quotidianos e “A tecnologia é um Vírus. Pandemia e Cultura Digital” (Sulina, 2021) sobre a pandemia.
Erros parecem ser eventos extraordinários gerando efeitos disruptivos em um mundo de normalidade. No entanto, a vida se dá em um universo de mal funcionamento, de falhas e erros, de quebras de estabilidade, de pequenos desastres e catástrofes a cada momento. A ordem e o acerto são os eventos extraordinários. Uma hipótese é que essa compreensão do mundo vem justamente da posição antropocêntrica na qual a centralidade da ação humana é ordenadora e corretora.
Na cultura digital, ficamos paralisados quando o computador não quer ligar, quando um programa trava, quando a impressora não imprime, quando a internet “cai”, ou roubam nossos dados, ou dispositivos, por falhas de segurança, quando somos vigiados ou manipulados por usos abusivos nas plataformas de redes sociais, quando algoritmos atuam com vieses racistas ou sexistas... Essas perturbações são momentos liminares, resultado de entrelaçamentos e agenciamentos que nos permitem investigar o estado atual dos objetos midiáticos e dos processos comunicacionais.
Painel de chegadas e partidas no aeroporto de Confins-MG. Foto do autor (2022)
Em “Pioravante Marche”, de 1983, Samuel Beckett escreve: “Try again. Fail again. Better again. Or better worse. Fail worse again. Still worse again (…)”. O escritor Irlandês está ressaltando a incapacidade da linguagem humana de suportar o peso do significado, a improbabilidade da comunicação. O caráter negacionista do erro e da falha encontra o seu ápice quando startups da Silicon Valley começam a entoar o mantra: “fail often, fail fast” como uma maneira de usar o erro como estímulo à inovação. A negação do erro vai se transformar, na cultura maquínica algorítmica contemporânea, em um input de correção, os seja, criação de novos arranjos de possibilidades, novos pesos sobre variáveis com a intenção de gerar um resultado operatório, uma ordem, um acerto, mas sempre construído como um resultado em meio a muitos outros possíveis.
O problema dos erros algoritmos não está na opacidade do código, ou no viés dos programadores, ou seja, não está na sua autoria (Amoore, 2020), mas na forma de oferecer resultados que passam a ser os únicos possíveis, sendo uma maneira “forçada” de tornar o mundo errático, transparente à sua lógica. As dúvidas transformam-se em objeto de cálculo.
Erros digitais são problemas lógicos, internos, de princípio, desvios e errância (raiz da palavra erro). Eles criam perturbações e falhas, mas estas podem aparecer sem que um erro aconteça. Perturbações são eventos disruptivos dentro da lógica dos sistemas ou plataformas, podendo ou não serem originadas por erros. São, na sua maioria, usos maliciosos que se aproveitam das gramáticas dos sistemas e plataformas.
Anomalias como spam, vírus, fake news, deepfake, vieses algorítmicos, não são erros (lógicos, de funcionamento), mas perturbações que geram disfunções. Um vírus é um código que funciona bem no que ele é proposto, assim como o spam, nada mais é do que o envio de um e-mail com sucesso no seu objetivo. Da mesma forma, não há erro no algoritmo, no princípio, nas plataformas por estas veicularem desinformação (elas são feitas para circular informação e monetizam com isso). E quando um algoritmo discrimina raça, sexo, nacionalidade ou classe social (enviesamento algorítmico), em termos estritamente operacionais, esta discriminação não é um erro pois o sistema está aprendendo. Seria erro se os resultados não estivessem de acordo com seus parâmetros lógicos. Não é o caso.
No entanto, todos esses exemplo citados geram perturbações, pois são ações (vírus destrutivo, e-mail não desejado, desinformação, racismo ou sexismo) inaceitáveis sob o plano moral e ético. A questão, portanto, é de julgamento e de regulação dessas atividades, pois errando ou não, plataformas e sistemas de inteligência artificial produzem eventos disruptivos na sociedade contemporânea tais como trabalho precário, desinformação, reforço de posições racistas e sexistas, misoginia, controle e vigilância, violações da privacidade…
Analisar os “digital error” (conjunto de erros, perturbações e falhas em sistemas digitais contemporâneos) permite revelar problemas de agenciamentos múltiplos, sendo um campo privilegiado para os estudos de mídia e dos processos de comunicação. A partir deles, podemos identificar questões políticas concretas tais como o direito ao reparo e reuso, geopolítica das plataformas, lógica da obsolescência e dos modelos de negócio das Big Techs, problemas do uso de minérios, de energia e do lixo eletrônico, questões de infraestrutura, vieses algorítmicos, questões relativas à privacidade, controle e vigilância…
Estudar os erros e perturbações na atual cultura digital é, consequentemente, mais interessantes do que apontar os acertos e as promessas das tecnologias, pois nos indicam para onde devemos dirigir a nossa atenção, para o que deve ser o foco da discussão ético-política na atual sociedade de plataformas.
Referências
Amoore, L. (2020). Cloud ethics: Algorithms and the attributes of ourselves and others. Duke University Press.
Nota
Pesquisa e andamento no TIDD-PUC-SP com apoio do CNPq. Processo: 101235/2022-4