Não foram uma nem duas vezes em que publiquei materiais, neste blog, em tentativas de conscientizar as pessoas dos riscos de aplicativos virais que adulteram fotografias, como o FaceApp em 2019.

Somos seres curiosos. A promessa de olhar para um espelho mágico, que nos mostra velhos, em outro gênero ou numa época diferente é quase irresistível, uma força que faz muitos ignorarem os sinais de alerta, mesmo que óbvios.

Esse tipo de evento costumava ser mais esporádico, exigia algum esforço para participar — no mínimo, baixar um aplicativo novo — e um salto de fé maior em aplicativos desconhecidos.

A chegada do gerador de imagens do ChatGPT mudou as coisas.

O primeiro sucesso foi com a “trend” do estúdio Ghibli. Neste início de setembro, a nova sensação foram as fotos com estética dos anos 1980.

Em termos práticos, o ChatGPT e aqueles aplicativos questionáveis de outrora não se diferenciam no tratamento que fazem do conteúdo submetido. A política de privacidade da OpenAI, na real, é explícita no que antes apenas se cogitava pela falta de informação. Ela confirma que os dados submetidos pelos usuários — incluindo imagens — são retidos e usados para diversos fins, entre eles o treinamento de novas inteligências artificiais:

Conforme mencionado acima, podemos usar o Conteúdo que você nos fornece para melhorar nossos Serviços, por exemplo, para treinar os modelos que alimentam o ChatGPT.

A OpenAI, dona do ChatGPT, ainda que seja uma empresa cheia de incongruências e problemas, está alguns níveis acima dos antigos aplicativos virais de adulteração de imagens em termos de reconhecimento de marca e confiança. Tanto que pouco se fala, hoje, dos riscos em enviar suas fotos para lá.

Os fins são os mesmos, as circunstâncias (viralização em redes sociais), também. O que muda é a percepção pública. O ChatGPT normalizou o que antes era encarado com algum estranhamento e um pouco de receio. Agora, ninguém liga.

No LinkedIn, Pedro Burgos fez esta provocação:

Acho fofo o pessoal que manda todas as fotos que tiram automaticamente para iCloud e Google Fotos de repente com medo de entrar na trend por riscos à privacidade, golpes ou sei lá o quê.

E pior que tem influenciador que fatura com o medo das pessoas.

Deixa a galera ser feliz postando foto divertida com IA, gente.

Respondi a ele que se trata de uma falsa equivalência.

Tanto iCloud quanto Google Fotos usam, sim, algoritmos para reconhecer e agrupar fotos com pessoas (rostos) específicas, oferecer pesquisa mais precisa e outros facilitadores para organizar, recuperar e editar imagens, mas daí a extrapolar que é a mesma que o ChatGPT faz são outros quinhentos. Há diferenças fundamentais entre as duas situações.

Ambas as empresas, Apple e Google, afirmam em documentos de ajuda que o material armazenado pelo usuário em seus serviços de fotos não são usados para treinar modelos, IAs ou aplicações outras.

Da Apple:

[…] A Apple não acessa suas fotos e vídeos, e não os utiliza para pesquisa e desenvolvimento.

O app Fotos usa o aprendizado de máquina no dispositivo para proporcionar uma experiência personalizada, organizar fotos e vídeos de maneira significativa para você e fornecer recursos como Sugestões de Compartilhamento, Memórias, o Álbum Pessoas e Pets, e as Fotos em Destaque. […]

Além disso, o app Fotos usa a análise no dispositivo para reconhecer os rostos de pessoas em fotos e agrupá‑las no álbum Pessoas e Pets. […]

Do Google:

• Seus dados pessoais do Google Fotos nunca são usados para anúncios.


• As respostas não passam por revisão humana, a menos que você envie feedback ou para lidar com abuso ou danos (o que raramente acontece).


• Não usamos seus dados pessoais do Google Fotos para treinar modelos de IA generativa fora do app.

A Apple ainda oferece criptografia de ponta a ponta para o iCloud. É opcional (leia-se: desativada por padrão), mas está lá.

Os recursos que esses aplicativos oferecem não são ciência complexa. Até softwares livres, com orçamentos infinitesimais comparados aos de Apple e Google, como o digiKam e o Immich, oferecem reconhecimento facial e outros recursos “inteligentes”. O que, por óbvio, é muito diferente de afirmar que ambos usam as fotos para “treinar IA”.

***

Normalizar comportamentos é um super poder das big techs ao qual não damos a atenção merecida. Por isso tenho gostado (e tentado contribuir) com uma tímida e incipiente mudança de atitude nesse sentido.

Passei algumas semanas batendo forte nos óculos inteligentes da Meta, aqueles que pervertidos usam para gravar mulheres sem o conhecimento e o consentimento delas.

Existem usos legítimos para câmeras de alta definição ocultas em óculos que se parecem com quaisquer outros? Com certeza. Ainda assim, a lógica dos críticos é de que o saldo em normalizá-las é negativo. Um mundo em que esse tipo de produto se populariza e deixa de chocar seria um mundo (ainda) mais vigiado, ainda mais opressivo. E, sejamos honestos, não é como se vivêssemos uma escassez de imagens. Ocorre o contrário. À parte a privacidade, seria benéfico termos menos câmeras, não mais.

Na última quarta (9), a Apple anunciou novos Apple Watch com a capacidade de escutar o tempo todo. Dos quatro recursos que dependem desses microfones constantes, dois são assustadores. Nas palavras da própria empresa:

1. O Siri Recap transforma suas conversas em notas de alto nível, para que você possa se manter focado e presente. Cada Siri Recap inclui um título, um resumo e pontos-chave que você pode revisar no app Siri no seu Apple Watch ou iPhone. Você pode ativar ou desligar o Siri Recap a qualquer momento na Central de Controle ou escolher onde e quando ele faz anotações, como apenas no trabalho ou nunca à noite.


2. Alguém disse algo que você não conseguiu ouvir em um restaurante barulhento ou compartilhou uma receita que você não pegou muito bem? Basta clicar duas vezes na Coroa Digital e o Live Rewind transcreve o que foi dito nos últimos 15 segundos. Você pode perguntar à Siri sobre o conteúdo da transcrição ou salvá-la no novo aplicativo Siri para revisitar mais tarde.

A Apple gastou preciosos minutos do seu comercialzão anual de setembro e publicou um longo documento explicando todos os cuidados que a empresa tomou para “proteger a privacidade” das pessoas, com destaque para a exclusão obrigatória dos áudios brutos após o processamento.

E… não importa. A mensagem que gruda na cabeça é de que o Apple Watch virou um dispositivo de escuta constante. E embora o novo recurso só funcione nos relógios recém-anunciados (Series 12 e Ultra 4), a desconfiança alcança todos os Apple Watches em uso, pois visualmente indistinguíveis.

Em um anúncio de poucos minutos, a Apple jogou no lixo os muitos anos tentando convencer as pessoas de que seus celulares não escutam o que elas conversam para exibir anúncios horas depois.

Daria para argumentar, na mesma linha da provocação do Pedro, que os celulares há muito têm microfones ativos, usados para reconhecer as palavras de comando (“E aí, Siri”, “Ok Google”). Para deixar a galera ser feliz gravando tudo e todos à sua volta.

No que eu responderia, novamente, que não é a mesma coisa, por motivos também óbvios.

Para além da mancha reputacional em uma das forças da Apple (privacidade), há o receio de que esses relógios ajudem a normalizar a gravação constante de áudio. Até agora, só tínhamos bugigangas feitas por startups ou empresas de IA com essa proposta. Produtos marginais, sem apelo junto ao grande público e, portanto, ignoráveis.

A entrada da Apple no ramo das gravações clandestinas de conversas funciona como validação de uma ideia muito errada. Aquelas startups ganharam uma propaganda gratuita e rivais da Apple, sinal verde para lançarem seus microfones sempre abertos. Para piorar, por mais que a Apple tenha se esforçado para garantir a privacidade do seu microfone espião em relógios, empresas menores ou menos não terão o mesmo cuidado.

A única chance dessas intromissões perversas serem contidas é uma rejeição ampla e ruidosa delas. Como ocorreu com o finado Google Glass e os glassholes e, em alguma medida, tem acontecido com os óculos de pervertidos da Meta. O problema é que, desta vez, do outro lado está a fabricante de produtos de consumo mais poderosa do planeta.