Até você, Google?
De acordo com fontes anônimas da Reuters, na semana passada, a Alphabet Inc. (empresa controladora do Google) aconselhou seus funcionários a não inserirem informações confidenciais nos chatbots de IA, incluindo ironicamente o Bard, que foi lançado nos EUA em março e está em processo de implantação em outros 180 países e 40 idiomas.
Essa decisão do Google ocorreu após pesquisadores descobrirem que os chatbots podem reproduzir os dados inseridos por meio de milhões de exemplos, tornando-os disponíveis para revisores humanos. A Alphabet alertou seus engenheiros para evitar a inserção de código nos chatbots, pois a IA pode reproduzi-los, o que poderia resultar em vazamento de dados confidenciais de tecnologia, inclusive em benefício do seu concorrente de IA, o ChatGPT.
O Google confirmou sua intenção de ser transparente sobre as limitações de sua tecnologia e atualizou sua política de privacidade, solicitando aos usuários que “evitem incluir informações confidenciais ou sensíveis em suas conversas com o Bard”.
O impacto da Inteligência Artificial no Marketing de Conteúdo: entenda os prós e contras
Mais de 100 mil contas do ChatGPT na dark web
Outro aspecto que pode resultar na exposição de dados sensíveis é o fato de que os chatbots de IA estão se tornando cada vez mais populares, e profissionais ao redor do mundo estão adotando essas ferramentas para otimizar suas rotinas, na maioria das vezes, sem qualquer cuidado ou supervisão.
Ontem, o Group-IB, uma empresa líder global em soluções de segurança cibernética de Cingapura, divulgou que descobriu mais de 100 mil contas vazadas do ChatGPT com credenciais armazenadas em registros de roubo de informações para serem negociadas nos mercados ilegais da dark web desde o ano passado. Eles ressaltaram que, por padrão, o ChatGPT armazena o histórico de consultas e respostas da IA, e a falta de cuidados essenciais está expondo várias empresas e seus funcionários a riscos.
Governos pressionam por regulamentações
Não são apenas as empresas que estão preocupadas com o vazamento de informações por meio da IA. Em março, depois de identificar uma violação de dados na OpenAI que permitia aos usuários visualizar os títulos das conversas de outros usuários com o ChatGPT, a Itália ordenou que a OpenAI interrompesse o processamento dos dados dos usuários italianos.
O bug foi confirmado pela OpenAI em março. Sam Altman, em sua conta no Twitter na época, declarou: “Tivemos um problema significativo no ChatGPT devido a um bug em uma biblioteca de código aberto, para o qual já foi lançada uma correção e acabamos de validar. Uma pequena porcentagem de usuários conseguiu ver os títulos do histórico de conversas de outros usuários. Estamos realmente chateados com isso.”
O Reino Unido também publicou um white paper sobre IA em seu site oficial, com o objetivo de impulsionar a inovação responsável e a confiança do público. O documento considera estes princípios:
- segurança, proteção e robustez;
- transparência e explicabilidade;
- justiça; prestação de contas e governança;
- e contestabilidade e reparação.
Conforme a IA se torna cada vez mais presente em nossas vidas, é natural surgirem novas preocupações, principalmente devido à velocidade com que ela avança. Medidas de segurança tornam-se necessárias, enquanto os desenvolvedores trabalham para reduzir os riscos sem comprometer o progresso dessa tecnologia, que já reconhecemos como um grande avanço para o futuro.
