Organização internacional encontrou 170 fotos de crianças em banco de dados usando inteligência artificial e ferramentas de organização.
Uma pesquisa da renomada organização Human Rights Watch revelou o uso indevido de imagens de crianças brasileiras por sistemas de inteligência artificial (IA). Segundo o relatório, as fotos foram coletadas de plataformas online e redes sociais sem autorização prévia.
Essa prática prejudica a privacidade e a segurança dos menores brasileiros, destacando a importância de proteger a identidade digital dos jovens do Brasil. É fundamental garantir que os dados pessoais dos infantes do país sejam respeitados e utilizados de forma ética e responsável.
Crianças Brasileiras: Levantamento de Fotos Revela Alerta sobre Privacidade Online
Uma entidade recentemente realizou um levantamento minucioso e encontrou 170 fotos de crianças brasileiras em diferentes situações, capturando momentos desde o nascimento de bebês até festas de aniversário e apresentações em escolas. Essas imagens foram identificadas em um banco de dados conhecido como LAION-5B, utilizado como base para o treinamento de ferramentas de inteligência artificial.
De acordo com a organização responsável pelo levantamento, embora o número de fotos seja relativamente baixo em comparação com o vasto acervo do banco, que ultrapassa 5 bilhões de imagens, a descoberta acende um alerta importante. Algumas dessas fotos foram compartilhadas por menores brasileiros, jovens do Brasil e seus familiares em blogs pessoais e plataformas de compartilhamento de fotos e vídeos. Algumas dessas postagens datam de anos, e até mesmo décadas atrás, conforme destacado em comunicado da Human Rights Watch.
A pesquisadora de Direitos da Criança e Tecnologia da Human Rights Watch, Hye Jung Han, explicou que a inteligência artificial tem possibilitado a criação de deepfakes de forma rápida e acessível. Essas tecnologias permitem a manipulação de imagens e vídeos de maneira realista, o que levanta preocupações sobre o uso não consensual e prejudicial dessas fotos, especialmente as das crianças brasileiras.
A deepfake, que é capaz de alterar rostos e vozes em vídeos, representa um risco significativo, de acordo com a Human Rights Watch. As fotos das crianças brasileiras em questão não estão disponíveis publicamente online e foram postadas há bastante tempo, inclusive antes da existência do banco de imagens em questão.
Acesso a essas fotos por meio de ferramentas de inteligência artificial evidencia falhas na proteção da privacidade dos usuários por parte de grandes empresas e plataformas de mídia social. A instituição alemã responsável pelo LAION-5B confirmou a presença das fotos pessoais das crianças identificadas pela Human Rights Watch e se comprometeu a removê-las do banco de dados.
A coordenadora do Programa Criança e Consumo do Instituto Alana, Maria Mello, ressaltou a importância da aplicação da legislação no ambiente digital para proteger os usuários, especialmente crianças e adolescentes. Em entrevista à TV Brasil, ela enfatizou a necessidade de garantir a segurança e privacidade desses públicos diante dos desafios apresentados pela inteligência artificial e suas possíveis ramificações.
Fonte: @ Agencia Brasil
Comentários sobre este artigo