A última atualização do chatbot do ChatGPT permitiu aos usuários replicar o inconfundível estilo artístico do cocriador do estúdio de animação e lendário cineasta japonês Hayao Miyazaki. Essa nova funcionalidade viralizou rapidamente nas redes sociais, com milhares de pessoas compartilhando suas imagens geradas no estilo do Studio Ghibli.
No entanto, a história nos mostra que, em algumas ocasiões, aderir a uma tendência apenas por diversão pode resultar em fraudes ou roubo de identidade, caso a tecnologia seja comprometida ou simplesmente se, para usá-la, você aceitar condições de privacidade desfavoráveis ou que possam estar em desacordo com regulamentações locais ou internacionais.
Antecedentes: um pouco de contexto
A Clearview AI é um bom exemplo desse tipo de tecnologia. Desde 2020, ela funcionava como um buscador, semelhante ao Google, mas voltado para rostos. Devido à forma como coletava informações de fontes públicas, como redes sociais, revistas digitais e blogs, a empresa enfrentou, em 2022, uma disputa com a União Americana pelas Liberdades Civis (ACLU) para restringir a venda de seu software de reconhecimento facial no mercado dos EUA apenas para órgãos governamentais. As controvérsias em torno da Clearview AI persistem, e a empresa continua operando, embora enfrentando disputas judiciais, reclamações e multas em diversos países.
Outro exemplo é o da empresa australiana Outabox, que, em maio de 2024, sofreu um vazamento de dados expondo informações biométricas e de reconhecimento facial usadas em bares e clubes da Austrália. Pessoas que afirmaram ser ex-desenvolvedores da Outabox, sediados nas Filipinas, criaram um site onde declaravam possuir dados biométricos, incluindo reconhecimento facial, escaneamento de carteira de motorista, assinatura, informações de associação a clubes, endereço, data de nascimento, número de telefone, registros de visitas a clubes e uso de máquinas caça-níqueis. As investigações revelaram que os dados foram coletados de 19 estabelecimentos em Nova Gales do Sul e no Território da Capital Australiana, operados pela ClubsNSW, que havia contratado a Outabox.
A privacidade dos usuários em troca de uma imagem
Como já abordamos recentemente no post sobre os 5 principais desafios apresentados pela inteligência artificial generativa, a moderação de conteúdo e os direitos autorais são questões que voltam a ganhar relevância com essa nova tendência, exigindo a atenção de governos, empresas e usuários.
O funcionamento dos modelos de IA depende, em grande parte, do acesso a vastos volumes de dados, que são usados tanto para treinamento quanto para geração de conteúdo. Muitos desses dados contêm informações pessoais, sensíveis e confidenciais. Para coletá-los e alimentar seus algoritmos, as IAs utilizam diversas fontes, incluindo informações públicas ou de acesso aberto, dados fornecidos diretamente pelos usuários (que consentem com seu uso, como no caso da tendência das imagens geradas no estilo Studio Ghibli), redes sociais e, mais recentemente, informações captadas por dispositivos IoT.
Diante do vasto volume de dados envolvidos, torna-se evidente que, sem um tratamento e armazenamento adequados, essas informações podem ficar expostas a acessos não autorizados, vazamentos ou até mesmo roubos. O caso da Outabox exemplifica como tais vulnerabilidades podem ser exploradas por cibercriminosos para aplicar fraudes, cometer roubo de identidade e realizar golpes com dados reais, ampliando a superfície de ataque e elevando os riscos para os usuários.
Outro desafio está na coleta massiva de dados sem o devido consentimento informado dos usuários, que muitas vezes desconhecem o real alcance do uso de suas informações. Esse desconhecimento pode configurar um vício de consentimento do ponto de vista legal, tornando tais práticas juridicamente questionáveis.
Além disso, a falta de transparência e explicabilidade sobre o funcionamento dos modelos de IA e o tratamento dos dados gera desafios legais e éticos. A linha entre privacidade e invasão torna-se cada vez mais tênue, especialmente quando as empresas informam que os dados coletados serão utilizados para aprimorar o treinamento de suas IAs, sob a justificativa de oferecer produtos e serviços de melhor qualidade. No entanto, essa prática levanta questionamentos sobre até que ponto os usuários compreendem de fato os impactos do uso de suas informações e se consentem plenamente com essas condições.
Medidas para proteger as informações dos usuários
Participar dessa tendência, além da empolgação, pode trazer riscos à privacidade se as devidas precauções não forem tomadas. Por isso, no WeLiveSecurity, destacamos alguns pontos essenciais para minimizar esses riscos:
- Revisar as políticas de privacidade do site ou aplicativo: Entender como os modelos de IA funcionam e de que forma tratam as informações é fundamental para avaliar se é seguro ou não compartilhar dados pessoais ou confidenciais.
- Verificar se as informações enviadas ao site ou aplicativo estão protegidas por alguma lei: Certifique-se de que os modelos de IA utilizados em aplicativos ou sites cumprem as regulamentações nacionais e internacionais aplicáveis, além dos princípios éticos de transparência, explicabilidade, equidade e responsabilidade. Caso algum desses princípios não seja seguido, o ideal é evitar o envio de dados pessoais (como fotos do rosto ou de familiares) ou informações confidenciais (como local de trabalho).
- Utilizar apenas aplicativos e sites oficiais: Com o aumento do uso de plataformas que geram imagens no estilo artístico do Studio Ghibli, cibercriminosos podem explorar essa tendência para enganar usuários e induzi-los a baixar softwares maliciosos disfarçados de ferramentas legítimas de IA. Esses aplicativos falsos podem conter malware, colocando a segurança dos dispositivos e dos dados em risco, assim como destacamos em um post publicado anteriormente.
- Utilizar imagens seguras ou sem restrições de direitos autorais: Se não houver certeza de que uma imagem pode ser usada livremente, é melhor evitar seu upload para prevenir problemas legais relacionados à propriedade intelectual. Uma boa prática é optar por paisagens ou ilustrações que estejam em conformidade com as políticas de privacidade do site ou aplicativo.
