IA, Elis e nova Carta

Escrevo sobre a publicidade usando deepfake com Elis Regina e comento nova carta coletiva sobre a IA.

IA e Elis Regina

Como prometido na semana passada, vou comentar o uso da inteligência artificial no comercial da Volkswagen, utilizando a imagem de Elis Regina. A partir de uma modelo real e a justaposição de sua imagem e voz pela tecnologia conhecida como deepfake (a tradução livre é muito interessante: “falsidade profunda”) o comercial colocou Elis e a filha para cantarem juntas enquanto dirigem versões do presente e do passado da Kombi. Elis morreu em 1982.

Muito se falou da beleza da peça, do encontro emocionante e impossível da filha (a cantora Maria Rita) com a mãe morta cantando juntas, com o absurdo do uso da imagem de Elis com a letra de Belchior, que foram ambos opositores do regime militar, por uma  empresa colaboradora da ditadura;  do perigo de misturar  realidade e ficção, pois as novas gerações podem não saber quem é Elis e que ela estaria morta… Sim, eles passam muito tempo vendo coisas engraçadas no TikTok…

Sobre esse aspecto, o CONAR (Conselho Nacional de Autorregulamentação Publicitária) está movendo uma representação contra a publicidade depois de denúncias de consumidores contra o uso da IA. Eles alegam que a peça não avisa sobre o uso da IA, podendo enganar o público, misturando ficção com realidade. Argumento bizarro,  visto que o que a publicidade faz é justamente isso; misturar ficção com realidade: compre essa roupa, esse carro, coma isso, tome esse remédio e você será mais belo, atraente, saudável, performante, moderno… Misturar ficção com realidade é o objetivo mesmo da publicidade, alimentar desejos e, como vocês sabem, o desejo deseja a si mesmo e por isso não se esgota, indo além do princípio de realidade.  Avisar, no entanto, que a imagem de Elis foi feita com IA seria importante.

Pois bem, tudo isso é interessante, mas meu comentário vai no sentido de apontar que o que estamos vendo com esses casos de aparecimento de mortos; o que chamei de “mídia zumbi” (o termo vem do Jussi Parikka quando ele se refere à geologia da mídia, portanto em outro contexto), é o capital transnacional se apropriando da nossa incapacidade de lidar com a finitude e com a morte. O que a empresa e a agência fazem é mobilizar afetos (muitos disseram: “que lindo a mãe e filha”, “que bom rever Elis”…) para vender produtos. Isso tem acontecido  com outros atores e cantores, em outros domínios, como o cinema ou a música (John Lennon resgatado em nova música dos Beatles, Renato Russo sendo usado em música sertaneja, atores mortos aparecendo em filmes, como Rachel em Blade Renner,  Paul Walker em Velozes e Furiosos, Peter Cushing em Rogue One…).

Acho que duas coisas deveriam ser feitas: uma legislação que só permitisse o uso da imagem se a pessoa tiver deixado explicitamente uma autorização  (independente da plataforma ou da tecnologia) e que isso não seja decisão da família. Por exemplo, Robin Williams, que morreu em 2014, proibiu o uso de sua imagem por 25 anos após sua morte. Deve também ser necessário colocar explicitamente a informação que a imagem e/ou som foi/foram gerado(s) por IA. Essa seria uma forma de impedir que o capital tudo possa fazer com a imagem/voz/texto das pessoas, transformando-as em zumbis, desempenhado papéis que elas, em vida, talvez se negassem a fazer.

Como falei em outros comentários, esse problema (deepfake) afetará seriamente as próximas eleições no Brasil e no mundo. Era futuro, mas agora é o presente.

Nova carta sobre a IA

A BBC acaba de noticiar mais uma carta coletiva sobre a IA, assinada por mil e trezentos especialistas no Reino Unido. Ela afirma que a inteligência artificial é uma força do bem e que não ameaça a sociedade.

Vocês devem lembrar que há alguns meses uma outra carta coletiva, assinada por intelectuais e empresários da área de tecnologia, dizia justamente o contrário: que a IA poderá aniquilar a humanidade. Ela pedia uma moratória no desenvolvimento dessas tecnologias para avaliar problemas e potencialidades e garantir que ela seja boa.

Na minha opinião, ambas estão equivocadas. O que falta é um entendimento mais complexo e histórico sobre a relação dos humanos com os objetos e as tecnologias. O equívoco vem da ideia de que existimos sem eles, ou que, no máximo, precisamos desses “instrumentos”, mas somos senhores desse processo, sempre no controle, podendo decidir o que será bom ou não. Não podemos. Cartas argumentando que a IA (colocada de forma genérica e imprecisa) é boa ou ruim é desespero que revela o fracasso desse antropocentrismo.

Todo objeto ou tecnologia é sempre social, não existe per si, mas associada a outros domínios, objetos, humanos e outros animais. A questão central é entender que o homem é constituído por esse "hibridismo". Fabricamos e somos fabricados. O esforço, portanto, deve ser o de reconhecer a perda de centralidade humana e tentar entender como estamos, em determinados momentos e lugares, produzindo o comum enroscados nessas redes sociotécnicas. E isso existe desde que o Homo-Faber criou a linhagem que chegou até nós, os Sapiens-Sapiens.

Portanto, esse debate não é exclusividade das novas tecnologias, como a IA, mas de todas, pois elas não existem isoladas: carros, aviões, facas, energia nuclear, eletricidade… Os problemas e benesses não estão determinados antes, mas florescem ou fenecem no tecido social em que ganham existência. Consequentemente, o que é bom ou ruim com a IA é elemento de disputa, como é com qualquer outra tecnologia. Potências e negatividades não aparecem de forma transcendente, por decisão tomada nos gabinetes ou laboratórios, mas de forma imanente, no seu entrelaçamento com as diversas associações na vida real. Por isso, não dá nem para parar tudo, garantindo que a IA seja boa, como clama a primeira carta, nem para deixar rolar, pois decidiram que ela será útil para a humanidade, como no manifesto britânico.

O que podemos, e devemos, fazer é politizar sempre essa relação. Questionar ético-politicamente as tecnologias. Precisamos automatizar todos os processos da vida social em tecnologias da IA. Sim, por quê? Não, por quê? Não podemos ficar reféns nem de integrados, nem de apocalípticos, como diria Umberto Eco, nem de cientistas ou empresários (vejam, o Musk assinou a carta contra a IA, mas acaba de lançar a sua - xAI!). Mais eficiente do que proibir ou aclamar, seria criar ações pactuadas coletivamente sobre formas de regulação, como fazemos com a TV, os automóveis, as facas, os aviões. E como devemos fazer também com as plataformas digitais, também agindo com IA.