Uma carta escrita por intelectuais e empresários em 28 de março, sob a chancela do instituto “longoprazista” “Future of Life”, pede uma moratória de seis meses na inteligência artificial generativa (IAG) para que possamos tomar pé da situação. No entanto, não há ainda nenhum efeito nefasto palpável. Inclusive, ela tem sido questionada e objeto de chacota por “alucinar" (termo dos engenheiros para os erros) (em breve coloco um texto aqui sobre a alucinação da IAG).
A carta foi motivada pelo medo de que tudo seja automatizado, de que a nossa inteligência "natural" seja substituída, ou mesmo de que a humanidade seja exterminada. Segundo Y. Harari, T. Harris e A. Raskin, que propuseram a carta, há 10% de probabilidade disso acontecer. A Unesco e pesquisadores da AL produziram uma outra carta (Declaração de Montevideo sobre a IA na América Latina) mostrando preocupação, algumas universidades, como a Science Po na França, têm proibido o uso, e a Itália proibiu o uso do ChatGPT por violar diretrizes europeias de proteção da privacidade (um dispositivo legal que acharam para frear o processo).
Lembro que há 30 anos, quando surgiu a Web, o medo era que muitas profissões iam desaparecer (professores, médicos, advogados) já que teríamos todas as informações disponíveis na rede (o “ciberespaço”). As pessoas não sairiam mais de casa, não existiria mais cinemas, as escolas seriam “virtuais” e os livros impressos sumiriam. Sabemos que nada disso aconteceu e, ao contrário, muitos novos postos surgiram: desenvolvedores de web, cientistas de dados, analista de redes sociais, influencers... Temos, portanto, de ter certa cautela.
Vilém Flusser, no “Mundo Codificado”, aponta para a tensão entre diálogo e discurso na comunicação. O discurso é unidirecional e domina em parte muitas das nossas interações. O diálogo é abertura ao outro, à conversação. Interessante notar que o ChatGPT (que motiva todas essa discussão) é definido como um "transformador pré-treinado gerador de conversas”. Sem romantizar essa “conversação”, podemos dizer que ela nos coloca em posição de perguntar e criticar (como devemos fazer com outros textos, como livros ou matérias jornalísticas). Outras IA funcionam como um “discurso”, como o machine learning das plataformas, produzindo um agenciamento unidirecional que nos faz fazer coisas sem que possamos “conversar” (para onde vai o que posto, quem acessa, por quanto tempo, como a decisão é tomada etc.).
No final do diálogo Fedro de Platão, há uma discussão entre o Rei e o Deus egípcio da escrita em que o primeiro afirma que ela vai destruir a memória humana. Na realidade, a nossa memória e o pensamento se expandiram bastante com surgimento da escrita. A história da ciência e tecnologia nos mostra que sempre que uma tecnologia surge, há medos e pensamentos catastróficos. Isso aconteceu no século XIX, com os “ludittas” que quebraram máquinas de tecelagem na Inglaterra com medo de serem por elas substituídos.
Os argumentos da carta são simplórios. Pedir uma moratória de seis meses necessitaria de um engajamento não só de pessoas, mas das grandes empresas e dos Estados. Nesses termos, a pausa é irrealizável e mesmo ineficaz. A carta fala de um poder muito grande nas mãos das empresas, como se isso não existisse hoje. A atual sociedade plataforma coleta dados e opera por inteligência artificial, criando problemas que já conhecemos (Fake News, bolhas, polarização, vigilância, colonialismo de dados, ataque à soberania de dados, concentração de poder em 5 grande empresas no Ocidente e mais 5 na China, problemas ambientais com consumo de energia, minérios e geração de lixo eletrônico…). Urgente é pedir regulação das plataformas digitais globais.
A carta também coloca perguntas genéricas, como, por exemplo: devemos automatizar todos os trabalhos? Devemos desenvolver uma mente não humana que possa ser mais inteligente do que a nossa? Devemos perder o controle sobre a nossa civilização? Mas o que isso significa? O que será mesmo automatizado? Qual inteligência humana existe sem ser criada, potencializada e mobilizada por artefatos? De que civilização mesmo estamos falando, do Norte ou do Sul?
De forma alarmista e generalista, a carta é um desserviço. Ela normaliza a atual sociedade de plataformas, como se o perigo estivesse no futuro e não aqui e agora, deslocando os problemas do presente para um futuro abstrato. O que necessitamos é de políticas públicas situadas. O que o Brasil pensa sobre a inteligência artificial generativa, sobre a atual sociedade de plataformas, sobre os processos de datificação, sobre as recomendações algorítmicas em todas as áreas da nossa vida quotidiana? Como nos posicionamos na atual plataformização global na qual somos apenas fornecedores de dados para o Norte, sendo alvo de um novo colonialismo (de dados) e controlando pouco a nossa soberania (digital)? É urgente pensar sobre o que acontece agora, inclusive sobre as IAG, mas não apenas.
As manifestações de posicionamento contra a IAG conseguem colocar a discussão sobre a IA na cabeça das pessoas, mas de forma tão mal construída e enviesada que questiono a sua utilidade na popularização desse debate. Esta alucinação parece ser até mais problemática do que aquela das inteligências artificiais generativas. Como diz Bruno Latour, precisamos mesmo aterrissar!
Ótimas provocações... as cartas apontando que o grande problema é o sistema capitalista que tudo explora e destrói, pelo interesse de poucos, precisam ser atualizadas ;)