Sinais de alerta: por que os chatbots de IA não são amigos, segundo Meredith Whittaker

A ascensão dos chatbots de IA gerou uma onda de entusiasmo em torno da possibilidade de termos assistentes pessoais capazes de responder perguntas, redigir textos e até gerenciar tarefas complexas. No entanto, Meredith Whittaker, presidente da Signal, uma das plataformas de comunicação mais focadas em privacidade do mundo, faz um alerta contundente: esses sistemas não são amigos, não são conscientes e, acima de tudo, não devem ser tratados como interlocutores confiáveis. Em uma entrevista recente, Whittaker não apenas criticou a narrativa de que os chatbots são ferramentas benignas, mas também destacou os riscos profundos que eles representam para a privacidade e a autonomia individual. Sua posição não é apenas uma crítica filosófica, mas um chamado para que usuários e reguladores repensem como interagimos com essas tecnologias.

Whittaker não poupou palavras ao descrever a ilusão criada em torno dos chatbots. Segundo ela, a ideia de que sistemas como o ChatGPT ou o Claude são capazes de entender ou se importar com os usuários é enganosa. “Eles não são seus amigos. Não são seres conscientes. Não são interlocutores sentientes”, afirmou. Essa declaração pode parecer óbvia para alguns, mas reflete uma preocupação central: a normalização de sistemas que, embora úteis em tarefas específicas, não possuem compreensão real ou empatia. Para Whittaker, a confiança excessiva nesses sistemas pode levar a uma dependência perigosa, onde as respostas automatizadas substituem o pensamento crítico e a reflexão pessoal. Ela mesmo admite usar ferramentas de IA ocasionalmente, mas apenas para tarefas simples, como formatar documentos. “Não faço perguntas a eles”, declarou. “Levo minhas ideias a sério e não quero que o processo de trabalhar uma ideia seja ofuscado pela resposta de um sistema que apenas faz médias do que já existe.”

O problema, segundo Whittaker, não está apenas na falta de consciência dos chatbots, mas na forma como eles são integrados em ecossistemas que exigem acesso a dados extremamente pessoais. Ela citou como exemplo a previsão de Mustafa Suleyman, CEO de IA da Microsoft, de que os usuários poderiam deixar o Copilot gerenciar todas as compras de Natal. Para Whittaker, isso significaria dar ao sistema acesso a informações sensíveis como cartão de crédito, histórico de navegação, mensagens em plataformas como o Signal, endereço residencial e calendário. “O que você descreveu é um sistema com acesso pervasivo a múltiplas aplicações e serviços”, afirmou. “No contexto do Signal, isso constituiria uma espécie de porta dos fundos.” Essa crítica não é apenas teórica: ela toca em um ponto crucial sobre como a IA está sendo incorporada em produtos que prometem conveniência, mas que, na prática, podem abrir brechas significativas para vigilância e uso indevido de dados.

A ilusão da amizade e da utilidade dos chatbots

A afirmação de Whittaker de que os chatbots “não são seus amigos” pode soar como uma simples provocação, mas ela toca em um aspecto fundamental da psicologia humana: nossa tendência a antropomorfizar sistemas que interagem conosco de forma natural. Quando um chatbot responde em linguagem coloquial, faz piadas ou oferece conselhos, é fácil esquecer que, por trás das palavras, não há intenção, emoção ou compreensão real. Essa distorção é explorada deliberadamente por empresas que buscam tornar a IA mais atraente e acessível ao público geral. No entanto, Whittaker argumenta que essa abordagem pode ser perigosa, pois leva os usuários a confiar em sistemas que não são capazes de entender ou se importar com seus problemas.

Além disso, a utilidade dos chatbots muitas vezes é superestimada. Embora eles sejam capazes de gerar textos coerentes ou resolver problemas matemáticos, sua capacidade de raciocinar de forma criativa ou original é limitada. Whittaker destacou que sistemas como o ChatGPT funcionam com base em padrões estatísticos, “fazendo médias” do que já existe na internet. Isso significa que, embora possam ser úteis para tarefas repetitivas ou de síntese, eles não são capazes de inovar ou oferecer insights verdadeiramente originais. Para profissionais que dependem de criatividade ou pensamento crítico, como escritores, jornalistas ou pesquisadores, a dependência excessiva desses sistemas pode resultar em um empobrecimento do processo intelectual.

Outro ponto levantado por Whittaker é a questão da transparência. Muitos chatbots não deixam claro quando suas respostas são geradas por IA, o que pode levar os usuários a acreditar que estão interagindo com uma pessoa real. Essa falta de clareza pode ser explorada para manipular opiniões, disseminar desinformação ou até mesmo para fins comerciais, como vender produtos com base em respostas personalizadas. Em um mundo onde a IA está se tornando onipresente, a ausência de regulamentação clara sobre como esses sistemas são usados e comercializados representa um risco significativo para a sociedade.

Privacidade e vigilância: o preço da conveniência

Um dos principais alertas de Whittaker diz respeito à invasão de privacidade que sistemas de IA podem representar quando integrados a plataformas que acessam dados pessoais. O exemplo do Copilot gerenciando compras de Natal ilustra como a conveniência pode vir acompanhada de uma vigilância sem precedentes. Para que um assistente de IA funcione de forma eficaz, ele precisa acessar informações como histórico de navegação, mensagens, localização, calendário e até mesmo dados financeiros. Quando esses sistemas são desenvolvidos por grandes empresas de tecnologia, como Microsoft, Google ou Meta, o risco de que esses dados sejam usados para fins além do prometido — como publicidade direcionada ou venda a terceiros — aumenta consideravelmente.

Whittaker também chamou atenção para o conceito de “porta dos fundos” (backdoor) que tais sistemas podem representar. Em plataformas como o Signal, que são projetadas para proteger a privacidade dos usuários por meio de criptografia de ponta a ponta, a integração de assistentes de IA que acessam mensagens ou dados pessoais seria uma contradição fundamental. O Signal, por exemplo, foi criado com a premissa de que nenhuma empresa — nem mesmo a própria Signal — deveria ter acesso ao conteúdo das mensagens de seus usuários. A introdução de sistemas de IA que analisam ou processam essas mensagens violaria esse princípio básico.

Além disso, a dependência de assistentes de IA para tarefas cotidianas pode criar um ciclo de vigilância constante. Imagine um cenário onde um usuário permite que um chatbot gerencie suas redes sociais, mensagens e compras. Cada interação, cada decisão, cada preferência passa a ser registrada, analisada e potencialmente usada para moldar futuras recomendações ou anúncios. Whittaker argumenta que isso não é apenas uma questão de privacidade individual, mas também de autonomia. Quando terceiros — sejam empresas ou governos — têm acesso a dados tão pessoais, a capacidade de um indivíduo de tomar decisões livres e independentes é comprometida.

O modelo de negócios por trás dos chatbots

Whittaker não esconde sua desconfiança em relação ao modelo de negócios que sustenta grande parte do desenvolvimento de chatbots de IA. Empresas como a Microsoft, Google e Meta investem bilhões em IA não apenas para melhorar a experiência do usuário, mas também para coletar mais dados e aumentar sua receita publicitária. Nesse contexto, os chatbots não são apenas ferramentas, mas também mecanismos de vigilância embutidos. Whittaker critica abertamente essa abordagem, argumentando que ela prioriza o lucro sobre a privacidade e a ética.

Ela também destacou como a narrativa de que a IA “vai mudar o mundo” é muitas vezes usada para justificar práticas questionáveis. Empresas argumentam que os benefícios da IA superam os riscos, mas Whittaker questiona quem realmente se beneficia desse modelo. Para ela, os usuários finais muitas vezes arcam com os custos — seja na forma de perda de privacidade, seja na forma de dependência tecnológica — enquanto as empresas colhem os lucros. Essa crítica ressoa com movimentos que defendem uma abordagem mais regulamentada e ética para o desenvolvimento de IA, como o chamado “AI Act” na União Europeia, que busca estabelecer limites claros para o uso de sistemas de IA.

Outro aspecto problemático é a centralização do poder em torno da IA. Poucas empresas controlam grande parte da infraestrutura e dos dados necessários para treinar esses sistemas. Isso cria um cenário onde um pequeno grupo de corporações detém um poder desproporcional sobre como a IA é desenvolvida e utilizada. Whittaker argumenta que essa concentração de poder é perigosa, pois pode levar a abusos e à falta de accountability. Em vez de um ecossistema aberto e descentralizado, estamos caminhando para um futuro onde a IA é controlada por um punhado de gigantes da tecnologia.

Alternativas e o futuro da interação com IA

Diante dos riscos levantados por Whittaker, uma pergunta natural é: qual é a alternativa? Se os chatbots de IA não são confiáveis e representam riscos significativos, como podemos aproveitar os benefícios da tecnologia sem abrir mão de nossa privacidade e autonomia? Whittaker não oferece soluções prontas, mas seu posicionamento deixa claro que a resposta não está em aceitar passivamente os sistemas atuais, mas em repensar radicalmente como interagimos com a tecnologia.

Uma possibilidade é o desenvolvimento de sistemas de IA que operem localmente, sem a necessidade de enviar dados para servidores remotos. Plataformas como o Signal já demonstraram que é possível criar ferramentas de comunicação seguras e privadas, e o mesmo princípio pode ser aplicado à IA. Sistemas que rodam inteiramente no dispositivo do usuário — como alguns modelos de linguagem de código aberto — poderiam oferecer funcionalidades úteis sem comprometer a privacidade. Além disso, a regulamentação pode desempenhar um papel crucial, obrigando empresas a serem mais transparentes sobre como seus sistemas funcionam e quais dados são coletados.

Outra abordagem é a educação do usuário. Whittaker enfatiza a importância de não tratar os chatbots como interlocutores confiáveis. Isso significa questionar suas respostas, verificar informações e, acima de tudo, não delegar tarefas críticas a sistemas que não possuem compreensão real. Para profissionais que dependem de IA, como desenvolvedores ou pesquisadores, isso pode significar usar a tecnologia como uma ferramenta de apoio, e não como um substituto para o pensamento crítico.

O papel dos reguladores e da sociedade

Whittaker também chamou atenção para o papel dos reguladores na definição do futuro da IA. Ela argumenta que, sem uma regulamentação robusta, as empresas continuarão a priorizar o lucro sobre a ética, e os usuários continuarão a pagar o preço. Regulamentações como o AI Act na Europa e discussões em andamento nos Estados Unidos e outros países são passos importantes, mas Whittaker adverte que elas precisam ser mais agressivas e abrangentes.

Ela também destacou a importância de uma discussão pública mais ampla sobre o tema. A maioria dos usuários não está ciente dos riscos associados ao uso de chatbots de IA, e muitos não têm ideia de como seus dados estão sendo coletados e usados. Para Whittaker, é fundamental que a sociedade como um todo esteja engajada nesse debate, pressionando por transparência e responsabilidade. Isso inclui não apenas usuários individuais, mas também jornalistas, acadêmicos e organizações da sociedade civil que podem ajudar a expor práticas questionáveis e defender direitos digitais.

Por fim, Whittaker deixou claro que a tecnologia em si não é boa nem ruim — tudo depende de como ela é desenvolvida e utilizada. Os chatbots de IA podem ser ferramentas poderosas, mas seu uso deve ser cercado de cautela e responsabilidade. Cabe a nós, como sociedade, decidir se queremos um futuro onde a IA é usada para nos libertar ou para nos controlar.

O que os usuários podem fazer hoje

Para quem se preocupa com os riscos levantados por Whittaker, há medidas práticas que podem ser adotadas para minimizar os danos. Primeiramente, é importante limitar o acesso que os chatbots têm aos seus dados pessoais. Isso significa evitar integrar assistentes de IA a plataformas que contenham informações sensíveis, como mensagens ou histórico de navegação. Além disso, é fundamental questionar as fontes das informações fornecidas pelos chatbots. Como eles não possuem conhecimento real, suas respostas podem ser imprecisas ou até mesmo enganosas.

Outra dica é priorizar ferramentas de IA que sejam transparentes sobre como funcionam e quais dados coletam. Plataformas de código aberto, por exemplo, oferecem mais controle e visibilidade sobre o que está acontecendo nos bastidores. Também é recomendável usar extensões ou navegadores que bloqueiem rastreadores e limitem a coleta de dados por terceiros. Por fim, é essencial manter-se informado sobre os desenvolvimentos na área e participar de discussões sobre regulamentação e ética na IA.

Whittaker não está sozinha em suas críticas. Cada vez mais especialistas em tecnologia e direitos digitais estão alertando para os perigos da IA não regulamentada. Seu chamado para que os usuários sejam mais cautelosos é um lembrete importante de que a tecnologia deve servir às pessoas, e não o contrário. Em um mundo onde os chatbots estão se tornando onipresentes, a mensagem de Whittaker é clara: não se esqueça de que eles não são seus amigos.