Recentemente, o Google Gemini AI foi acusado de escanear arquivos PDF hospedados no Google Drive sem a permissão dos usuários. Kevin Bankston, um assessor sênior de Governança de IA, trouxe essa questão à tona, destacando a falta de controle e transparência da empresa em relação às informações privadas de seus usuários.
O Problema
De acordo com Bankston, o Google Gemini AI está acessando documentos privados no Google Drive sem consentimento explícito dos usuários. Essa situação é particularmente preocupante, pois os usuários não têm a opção de desativar essa funcionalidade. Bankston compartilhou suas preocupações no Twitter, detalhando que a falha ocorre especificamente no Google Drive e não no Google Docs, embora a questão possa se estender aos documentos do Google.
Continua após a publicidade.
Teorias e Especulações
O próprio Google não parece ter uma explicação clara para o problema. Bankston sugere que os ajustes de privacidade que deveriam informar o Gemini AI não estão disponíveis, o que pode significar que a IA está "alucinando" ou que os sistemas internos dos servidores do Google estão com falhas. Mesmo que esses dados privados supostamente não sejam usados para treinar a IA, a falta de clareza é alarmante.
Bankston encontrou a opção para desativar os resumos do Gemini no Gmail, Drive e Docs, mas ela já estava desativada, e a configuração estava em um local diferente do indicado inicialmente pelo bot do Gemini. Ele acredita que a ativação do Google Workspace Labs em 2023 possa estar interferindo nas configurações do Gemini AI.
Impacto na Privacidade
Mesmo que o problema esteja isolado aos usuários do Google Workspace Labs, a situação destaca um grave problema de consentimento e privacidade. Os usuários precisam ter controle granular sobre suas informações sensíveis, e o Google parece ter falhado em manter esse princípio, pelo menos para uma parte de sua base de usuários.
Essa situação ressalta a importância de garantir que as tecnologias de IA sejam implementadas de maneira transparente e com o consentimento adequado dos usuários, especialmente quando se trata de dados sensíveis.
Continua após a publicidade.
Com informações: Tom’s Hardware.
Comments