A carta aberta
A “Pause Giant AI Experiments: An open letter”, que atualmente conta com quase 6 mil assinaturas, pede, em caráter de urgência, que os laboratórios de inteligência artificial “parem de pesquisar sistemas mais poderosos que o GPT-4“, diz o destaque no cabeçalho.
A carta adverte: “Laboratórios de IA travados em uma corrida fora de controle para desenvolver e implantar mentes digitais cada vez mais poderosas que ninguém – nem mesmo seus criadores – pode entender, prever ou controlar de forma confiável”.
E também prevê um futuro apocalíptico: “Devemos deixar que as máquinas inundem nossos canais de informação com propaganda e inverdades? Devemos automatizar todos os trabalhos, incluindo os satisfatórios? Deveríamos desenvolver mentes não-humanas que eventualmente nos superassem em número, fossem mais espertas, obsoletas e nos substituíssem? Devemos arriscar perder o controle de nossa civilização?”
Qual é o real “peso” desta carta?
A princípio é fácil simpatizar com a causa, mas vamos refletir sobre todos os contextos globais envolvidos.
Apesar da carta ser endossada por uma longa lista de autoridades líderes em tecnologia, incluindo engenheiros do Google e da Meta, por exemplo, a carta gerou sérias controvérsias em torno de alguns assinantes representativos inconsistentes com suas práticas em relação aos limites de segurança envolvendo suas tecnologias, como o próprio Elon Musk. demitiu sua equipe de ‘IA ética’ no ano passado, conforme relatado por Wired, Futurism e muitos outros sites de notícias na época.
É válido mencionar que Musk, que foi um dos fundadores da Open-AI e deixou a empresa em 2018, os tem atacado repetidamente no Twitter com duras críticas a respeito dos avanços do ChatGPT.
Sam Altman, cofundador da Open-AI, em uma conversa com o podcaster Lex Fridman, diz que as preocupações sobre os experimentos de AGI são legítimas e reconhece que riscos, como a desinformação, são reais.
Além disso, em entrevista ao WSJ, Altman diz que a empresa há muito se preocupa com a segurança de suas tecnologias e que passou mais de 6 meses testando a ferramenta antes de seu lançamento.
Quais são os efeitos práticos da carta?
Andrew Ng, fundador e CEO da Landing AI, fundador da DeepLearning.AI e sócio-gerente geral do AI Fund, publicou em sua conta do Linkedin: “O apelo por uma moratória de 6 meses para fazer o progresso da IA além do GPT-4 é uma péssima ideia. Estou vendo muitas novas aplicações em educação, saúde, alimentação, … que vão ajudar muitas pessoas. Melhorar o GPT-4 ajudará. Vamos equilibrar o enorme valor que a IA está criando com os riscos realistas.”
Ele também disse: “Não há uma maneira realista de implementar uma moratória e impedir que todas as equipes ampliem os LLMs, a menos que os governos intervenham com uma política de inovação”.
Ele também disse: “Não há uma maneira realista de implementar uma moratória e impedir que todas as equipes ampliem os LLMs, a menos que os governos intervenham. Fazer com que os governos suspendam tecnologias emergentes que eles não entendem é anticompetitivo, estabelece um precedente terrível e é uma péssima política de inovação.”
Assim como NG, muitos outros especialistas em tecnologia também discordam do ponto principal da carta, pedindo a interrupção dos experimentos. Na opinião deles, dessa forma, poderíamos prejudicar grandes avanços na ciência e nas descobertas da saúde, como a detecção do câncer de mama, conforme publicado no NY Times no mês passado.
Ética e regulamentação da IA: uma necessidade real
Enquanto ocorre uma verdadeira corrida entre gigantes para colocar no mercado soluções LLM cada vez mais inteligentes, o fato é que pouco se avançou no sentido da regulamentação e de outros cuidados que precisam ser tomados “para ontem”. Se pensarmos bem, nem seria preciso focar nos acontecimentos “apocalípticos”, aqueles de longa duração, como os mencionados na carta, para confirmar a urgência. Bastariam os atuais e fatídicos problemas gerados pela “desinformação”.
Em torno disso, vimos recentemente como a IA pode criar “verdades” com montagens perfeitas de imagens, como a foto viral do Papa usando um casaco puffer que dominou a web nos últimos dias, entre tantas outras produções e circulação de vídeo “falsos”, usando vozes e rostos de celebridades.
Nesse sentido, os laboratórios de IA, incluindo o Open-IA, têm trabalhado em soluções que possam ajudar na identificação de conteúdos (textos, imagens, vídeos etc.) gerados por IA, como, por exemplo, como o uso de marca d’água, conforme mostra esse artigo da What’s New in Publishing (WNIP).
Conclusão
Assim como a política de privacidade implementada nos sites por onde navegamos para garantir o nosso poder de escolha, concordando ou não em compartilhar nossas informações, acredito que é possível pensar num futuro onde a inteligência artificial trabalha, de forma segura, para novos avanços da nossa sociedade.
