Sugestões sobre a IA na AL
Recentemente circulou na lista de discussão da Compós, a "Declaração de Montevidéu sobre Inteligência Artificial e seu impacto na América Latina”. Fiz críticas dizendo que ela era muito genérica, embora interessante do ponto de vista político. Um colega na lista me perguntou quais seriam as minhas sugestões, então. Aceitei a provocação e coloco aqui algumas (13!) sugestões. O texto não tem nenhuma intenção de emendar o documento circulado na lista.
1. Todo algoritmo produz viés, sempre! Nem todos devem ser implementados. Que possamos dizer não e produzir os nossos próprios vieses;
2. A correção dos seus vieses não se dá pelo ajuste da autoria (quem escreveu, ou o próprio código – a coisa é mais complexa), mas questionando suas ações em um plano ético-político local. IA transforma o imponderável em resultado unívoco (Amoore). Que parcela do imponderável deve assim permanecer? O debate é sobre que princípios de redução do mundo a um resultado único aceitável devemos nos lançar, não apenas sobre quem deve ou não escrever os códigos;
3. Para implementação de algoritmos públicos (como reconhecimento facial, por exemplo), devem ser realizados estudos sérios sobre os impactos desses dispositivos antes de serem testados. Todo dispositivo de vigilância produz coletivos inseguros (Rosello), logo, propensos à violência.
4. Algoritmos e usos dos dados produzem também pegada de carbono, sendo necessário minimizar os efeitos energético-ambientais locais e globais.
5. Todo algoritmo de interesse e uso públicos deveria passar por alguma instância autônoma e independente para atestar a sua real necessidade social e energético-ambiental;
6. Os governos devem criar políticas efetivas para produzir inteligência, inovação e trabalho ligado a IA nos países da AL, buscando diminuir a dependência das plataformas estruturais do norte, limitando o colonialismo de dados e discutindo maneiras de reforçar a soberania de dados (que é hoje parte essencial da garantia da soberania tout court).
7. A regulação de plataformas de redes sociais (que produzem ação a partir de uma agência entrelaçada dos usuários COM os seus algoritmos de IA) deve ser pensada e implementada. Elas constituem a nova esfera pública e afetam o “comum”;
8. Devemos limitar a recomendação algorítmica àqueles que queiram recebê-la, e não como default. Isso dá mais trabalho (a Netflix e o YouTube não vão te dizer o que ver), mas pode ajudar a ampliar a serendipidade e limitar o efeito de "coerção";
9. Que algoritmos interessam aos nossos povos originários e tradicionais? No caso de algoritmos de uso público, eles devem participar da elaboração e do veto, quando estiverem ou não implicados. Devemos incentivar formas de escrever algoritmos com um pensamento não eurocêntrico: um pensamento algorítmico Nagô (aí, é com o Muniz), um algoritmo dos Búzios (aí é com a banda Didá), um algoritmo dos seres da floresta (aí é com os povos indígenas);
10. Ensinar, em todos os níveis escolares, a produzir, criticar, implementar e recusar, com inteligência e autonomia, produtos da IA. Só há inteligência artificial. Sem artefato não há humano. O problema é similar à necessidade de melhorar a nossa produção de livros, pesquisas, artigos… Devemos pensar em como ampliar a artificialidade da nossa inteligência e não a combater moinhos de vento (como por exemplo defender o banimento de IA generativas);
11. Incentivar debates sobre “prompts” em IA generativas, não apenas como ferramenta para solução de problemas pontuais (no business, na apresentação de uma tabela ou power point, na elaboração de um programa de dietas, de uma lei ou de código de computador...), mas como arte de formulação de novos e mais sofisticados desafios ligados à situação local. Saber perguntar pressupõe conhecimento local. Como diz o mestre zen, “se sabemos perguntar, já temos a resposta”;
12. Importante entender como o complexo sistema de IA nos interpela. Como diz M. Polanyi, sabemos muito mais do que conseguimos expressar por palavras, ou seja, temos conhecimentos que não se escreverão em códigos. Duas coisas aqui: A IA vai fazer mais coisas do que diz; e não conseguiremos dizer a ela o que fazer sempre. Mas isso acontece com livros ou filmes, eles dizem muito mais do que falam os seus autores! Importante enquadrar a IA a partir da nossa realidade particular, sem amalgamar tudo na ideia idílica de um sul global, ou de uma unidade identitária latino-americana;
13. Enfrentar os desafios da IA requer adotar perspectivas não antropocêntricas, situadas, enraizadas em problemas e questões que devem ser originárias de debate público, e não de lógicas empresariais e dos setores de inovação das Big Techs. Esse é o maior desafio da IA. É preciso, ante de tudo, se perguntar, localmente: o que deve mudar? como? para que cenários? com que atores? usando que recursos da Terra e do coletivo? como um sistema de IA se adapta a esses problemas conjuntamente acertados e definidos? Voltamos, portanto, ao prompt ___