Ex-diretora do WhatsApp no Brasil, Daniela da Silva é uma das fundadoras da Ctrl+Z, organização lançada no mês passado com uma proposta bastante desafiadora: enfrentar o poder das grandes empresas de tecnologia em um contexto de pouca transparência e desproporcional poder econômico.
Na avaliação da diretora executiva da Ctrl+Z, apesar da importância de novas formas de enfrentamento, não há saída que não passe pela fórmula clássica de incidência, a junção de pessoas. Dentre os pilares sob os quais a organização foi construída, estão ainda o diálogo com a sociedade a partir de investigações jornalísticas e o apoio na judicialização de casos de abusos contra os usuários.
As tentativas de delimitar a atuação das grandes empresas ocorrem simultaneamente em diferentes países. Nos Estados Unidos, nesta semana foi retomado um julgamento no estado do Novo México, considerado divisor de águas.
No caso, a Meta é acusada de projetar produtos que acabam destinados ao vício de crianças e adolescentes, além de proporcionar exposição a conteúdos indevidos e permitir que fiquem vulneráveis à exploração.
Em março, na primeira fase, o júri definiu contra a empresa, que foi condenada a pagar indenizações totalizando U$ 375 milhões por burlar a lei de proteção ao consumidor do estado ao distorcer a segurança do Facebook e do Instagram para usuários jovens.
No Brasil, no mês passado, o Tribunal do Conselho Administrativo de Defesa Econômica, o Cade, aprovou, por unanimidade, a abertura de um processo administrativo para investigar o Google por possível abuso no uso de conteúdos jornalísticos pelo sistema de Inteligência Artificial da empresa.
Para Daniela da Silva, além de alertar para os desafios, também é importante destacar as grandes e pequenas vitórias no combate à atuação sem controle das big techs, que, conscientemente, influenciam muito no comportamento social atual. Confira a entrevista:
Como surgiu a Ctrl+Z e quais os objetivos da organização?
A Ctrl+Z é uma organização que faz enfrentamento direto às big techs no Brasil. A gente está falando das maiores empresas nesse momento. Se você for olhar o nível de acumulação de capital dessas empresas na última década, é muito impressionante e com um nível de responsividade ao interesse público muito baixo e de pouca transparência. É necessário que a gente, como sociedade civil, se organize e tenha formas de criar um anteparo para o poder dessas empresas que eu considero que esteja desmedido nesse momento. Então a gente surge já com essa proposta, a gente quer enfrentar o modelo de operação das big techs como ele é hoje e a gente tem três pilares de atuação. Um deles é o jornalismo investigativo, apesar da gente não ter uma redação própria, temos a intenção de trabalhar em coalizão com veículos de comunicação, que é uma forma que a gente acha mais eficiente, inclusive, para romper as barreiras de distribuição que as redes nos impõem hoje. E a gente lançou um primeiro projeto relacionado a esse pilar na semana passada, que é um projeto que se chama ‘Vaza Big Tech’. É a primeira plataforma para vazamento de informação de dentro do setor de Big Tech. Pessoas que trabalham no setor dessas empresas gigantes de tecnologia e que quiserem fazer denúncias, contar relatos, enviar documentos, podem fazer isso por uma plataforma anonimizada, em um navegador que garante essa anonimização do usuário. E aí a ideia é que isso passe por um processo de apuração, uma política editorial que avalie o conteúdo, e que seja encaminhado para outros veículos que possam fazer a cobertura dos temas que forem apontados por esses denunciantes. Um segundo pilar é a litigância estratégica, que é a ideia de como a gente atua no sistema de justiça brasileira utilizando os arcabouços legislativo e jurídico que a gente já tem no país para defender os direitos das pessoas que estão nas redes, especialmente o direito do consumidor. Então é um tema de acesso à justiça, no sentido de facilitar que as pessoas possam processar e ter seus direitos garantidos. A gente está recebendo muitos relatos na linha da suspensão arbitrária de contas. Pessoas, em especial jornalistas e ativistas, além de veículos de comunicação independentes, que tiveram os seus perfis de redes sociais suspensos de uma hora para outra, com todo impacto econômico, social e até político, que decisões como essa trazem, são decisões totalmente arbitrárias das empresas e as pessoas só falam com bots, não têm nenhum atendimento humano, nenhuma justificativa do motivo. Nesse sentido, temos o ADD+, que é o Arquivo de Danos Digitais, um formulário no nosso site para as pessoas contarem seus casos, a ideia é facilitar o contato com advogados. E um terceiro pilar muito importante de atuação é a mobilização de pessoas e a construção de um movimento consciente da importância de responsabilizar as empresas de Big Tech como uma indústria, como um setor, e para fazer uma conversa muito mais ampla sobre esse tema, a ideia não é ficar só no bastidor, mas sim ter uma cara bastante pública e promover o diálogo com pais e mães, educadores, profissionais de saúde, artistas que possuem suas obras nas plataformas, entre outros, então essa é a Ctrl+Z.
E quem compõe a organização?
Eu sou a diretora executiva e cofundadora junto com a Tatiana Dias, que era editora executiva no The Intercept, que é nossa diretora e cuida dessa área da relação com o jornalismo, e com o Luã Cruz, diretor de litigância estratégica, que trabalhava no Instituto de Defesa do Consumidor, na pauta de telecomunicações e direito digital. Além disso, temos um conselho fundador com nove pessoas, os perfis das pessoas estão no nosso site. Mas somos uma mescla de pessoas da sociedade civil organizada em torno da defesa contra as empresas e ex-trabalhadores desse setor, das big techs. Eu, por exemplo, trabalhei na Meta. Temos uma pessoa que trabalhou na Palantir, outra veio do Tik Tok. Além disso, reunimos também pesquisadores e ativistas.
Recentemente, houve um julgamento nos Estados Unidos referente à proteção de crianças e jovens nas plataformas, em que a Meta foi condenada a pagar uma indenização de milhões de dólares. Como vocês pretendem atuar em relação a isso aqui no Brasil? E como é debatido o tema da tendência ao vício que essas plataformas estão gerando?
Tem uma coisa muito importante sobre esse julgamento nos Estados Unidos que é, assim como aconteceu no Brasil com o próprio ECA Digital que também traz um pouco desse olhar, o julgamento lá teve aquilo que para as cortes norte-americanas é uma tese jurídica bem inovadora que é você não focar no conteúdo que é postado e sim focar na arquitetura das redes sociais. E isso é importante porque a defesa das empresas sempre passou pelo fato de que elas se colocam como tecnologias que são neutras. Então eu tenho aqui uma plataforma de comunicação, terceiras partes chegam e vão postar coisas boas, coisas ruins, a gente modera o tanto quanto for possível. E a gente sabe que o que é definido como crime no Brasil é diferente nos Estados Unidos, lá o racismo não é crime, por exemplo. E essas empresas estão com um olhar de auto moderação mais reduzido, especialmente a partir da vitória do Donald Trump. Com a legislação de lá, as empresas se defendem jogando o problema dos danos causados pelas redes sociais na conta do conteúdo. E o que esse julgamento veio trazer foi que a questão não é o conteúdo, a questão é como as redes são desenhadas, como elas são construídas, e se apoiou em uma série de documentos internos, mais uma vez a importância dos vazamentos de informação das pessoas que trabalham por dentro da máquina poderem falar como essa indústria funciona para dizerem que essas tecnologias são desenhadas para serem viciantes. E não apenas isso é verdade, como as empresas sabem que elas podem ser viciantes, elas sabem que elas são utilizadas por menores de idade e não estão tomando as medidas necessárias para criar salvaguardas para isso. O ECA Digital no Brasil também olha para a arquitetura, para coisas como feed infinito, autoplay de vídeos. A gente na Ctrl Z tem um olhar no enfrentamento a essas empresas, a gente não está procurando casos individuais a gente quer olhar para os problemas sistêmicos.
“Muito do que a gente quer é expor para a sociedade o dano causado por essas empresas. E poder propor possibilidades alternativas, outras formas de fazer, gente fala muito disso, dessa ideia de desfazer a distopia e retomar a internet. Desfazer a captura que essas empresas fizeram da internet, que foi desenhada para ser aberta, livre, distribuída, e retomar de uma outra maneira”
São muitas decisões por trás dos códigos, dos algoritmos. Quem está tomando essas decisões precisa ser responsabilizado por isso.
Para além da preocupação do ponto de vista do comportamento, com uma arquitetura desenhada para ser viciante, também tem um ponto bastante sensível, que é a questão dos dados nas redes, da nossa privacidade. Lembro que essa discussão foi muito forte na época dos debates sobre o Marco Civil. Como vocês pensam sobre esse assunto, dos nossos dados enquanto um ativo poderoso para essas empresas?
Acho que tudo isso está ainda mais potencializado pela emergência da Inteligência Artificial Generativa, que tem colocado essas empresas numa corrida desenvolvimentista bem insana e com pouquíssimo respeito àquilo que a gente já tinha avançado como discussão pública sobre privacidade e proteção de dados. Então a gente vê empresas como a Meta, por exemplo, voltando atrás em decisões como criptografia nas mensagens trocadas entre pessoas no Instagram. De repente, o volume de dados que as empresas usam para poder treinar suas IAs, por exemplo, e construir seus produtos aumenta porque eles tinham compromisso com o usuário de que a empresa não ia ver o conteúdo dessas comunicações, que era a criptografia ponta a ponta. E eles simplesmente decidiram que a partir de 8 de maio deste ano será removido esse compromisso e a gente vai sim usar esses dados. Então acho que a gente está passando por um momento muito sensível nessa conversa. Tem questões de soberania, tem a questão de onde acontece o processamento desses dados. Deveríamos estar falando muito mais sobre isso, de maneira urgente. Estava vendo um estudo falando sobre como o ChatGPT realiza uma grande coleta de dados biométricos devido ao grande volume de pessoas que colocam suas fotos na plataforma, acaba que hoje em dia entregamos muita coisa em nome de trends no Instagram. Mas, é preciso deixar claro que a abordagem na Ctrl+Z não é a de culpabilizar o usuário. Nossa questão é a responsabilização das empresas nesse processo, um olhar sistêmico. Nessas plataformas acontece boa parte da nossa vida social e pública, então é um tema de responsabilidade de quem constrói esse espaço e lucra com ele.
No mês passado, houve uma decisão do Cade [Conselho Administrativo de Defesa Econômica] sobre abrir investigação de abusos no uso de conteúdos jornalísticos pela IA do Google. A gente sabe que com o avanço da IA, o acesso das pessoas aos conteúdos mudou. Ao invés de trilharem um caminho de busca a partir do Google, agora as respostas já chegam prontas, com as pessoas não indo mais até às fontes. Como você avalia essa decisão do órgão?
Essa decisão do Cade é super importante, especialmente, olhando para o jornalismo e para o fato de que o jornalismo já vinha numa crise de sustentabilidade por conta da plataformização. A gente já tinha, na verdade, veículos que têm a necessidade de estar nas redes criando conteúdo para as redes sociais e para as plataformas digitais porque senão você não consegue chegar nas pessoas. O que já era uma crise a partir da forma como esses veículos se monetizam tem uma nova camada, que são os robôs que consomem todo o conteúdo que é gerado pelos veículos, processam esse conteúdo e entregam para o usuário sem que ele tenha que dar um único clique e ir de fato aos espaços onde está realmente aquela fonte de informação. E aí tem-se criado um padrão do Google, por exemplo, de fazer acordos com grandes veículos de comunicação. Só que isso prejudica os pequenos independentes. Porque de alguma forma você resolve o problema dos grandes players, usando dados do New York Times ou da Folha de S. Paulo, como aconteceu por aqui, mas e o resto da mídia? Acho que essa decisão do Cade serve um pouco para isso, para dar uma oportunidade de sobrevivência para o jornalismo como a gente conhece, é essencial para que a gente consiga avançar na discussão de governança antes de simplesmente aceitar a implementação dessas tecnologias, venham elas como vierem.
E tem também uma questão da hegemonia do pensamento, né? Porque quem constrói essas ferramentas de IA são, enfim, os homens poderosos do norte global. Em especial em relação às IAs, você procura algo e o pensamento que vem pronto surge a partir de um ponto de vista…
Sim, é uma tecnologia construída com base nos vieses das pessoas que as construíram. Então elas vão trazer esses problemas também para o nosso consumo de informação e tirando da gente a multiplicidade de fontes.Definitivamente tem uma questão que é a hegemonia do pensamento e uma reafirmação dos valores de uma ideologia do Vale do Silício que, como você disse, é produzida por homens brancos, norte-americanos, em sua maioria com pouco interesse em produzir diversidade de pensamento, menos interesse econômico, menos interesse político. O Vale do Silício entendeu a vitória de Donald Trump como um momento cultural, uma virada a ser respondida com menos preocupação com a diversidade, por exemplo. E isso se reflete em como essas tecnologias são desenvolvidas.
A palavra de ordem da Ctrl+Z é ‘desfazer a distopia e retomar a internet’, comenta um pouco sobre o que está colocado neste discurso.
Eu acho que tem duas camadas. Uma camada que é essa da gente, de fato, retomar os valores da internet como ela nasceu, como foi construída, um espaço muito além do que ficar horas rolando feed. Pouco tempo atrás era isso, ou seja, faz pouquíssimo tempo que a gente não tava nesse fluxo, com um sentimento forte de sobrecarga, gastando horas e horas por dia rolando feed, com burnout de informações, sem saber como lidar na relação dos nossos filhos com a tela. Pouco tempo atrás não estávamos no ponto em que estamos hoje. E isso foi causado por decisões tomadas por grandes empresas, decisões em torno do lucro. A gente precisa cobrar essas pessoas que tomaram essas decisões e fazer, de fato, o enfrentamento. Não podemos ter medo de fazer esse enfrentamento porque as grandes crises que aconteceram no setor das big tech nos últimos anos, incluindo essa que gente estava descrevendo agora, esse julgamento nos Estados Unidos, por exemplo, a questão não é nem a multa que as empresas têm que pagar para milhares de casos iguais, não é o quanto elas vão gastar, mas sim a possibilidade da justiça ordenar mudanças nas características no design do produto. Eu acho que mostrando essas vitórias, pequenas e grandes, para as pessoas entenderem que o modelo de operação tal como ele é hoje não é inevitável. Ele pode responder a outros interesses. É claro que a gente sabe que estamos em um jogo capitalista global muito pesado e que vamos precisar de um nível de organização social imenso, assim como nos casos de enfrentamento de outras bigs, como os setores de big oil e tabaco. A chave é a mobilização de pessoas, não tem outra forma.
Dentro do campo político da esquerda, houve uma discussão muito intensa no período do Marco Civil da Internet, e anteriormente foi formada uma rede que debatia o direito à democratização da comunicação, combatendo o monopólio das concessões. Como vocês estão articulados com esse caldo do ativismo que existia também em torno dos partidos políticos?
A gente pensa muito em trabalhar em coalizões, acho que a gente veio para complementar um campo de organizações que já existe, incluindo as da democratização do direito à comunicação, mas também as de direito digital, por exemplo. Temos muita preocupação com o que vai nos dar a capacidade de incidência nesse cenário político porque a gente sabe que nossos oponentes são as empresas gigantes de tecnologia, e elas estão muito bem organizadas para ter incidência no campo político. Essas empresas têm verdadeiras estruturas de lobby estabelecidas, não só no Brasil, como em outros países da América Latina e do mundo. Então se a nossa atuação não servir para fortalecer uma incidência política, a gente não vai fazer sentido no mundo como ele está organizado. É por meio da influência nos poderes legislativo, executivo e até vencendo ações do judiciário que essas empresas mantêm o seu poder intacto em geografias como a do Brasil. E a gente está falando de um ecossistema complexo, que tem as próprias empresas, mas também organizações de classe que defendem essa causa. No nosso lançamento no mês passado, estiveram presentes representantes de movimentos sociais, como o MTST, entre outros. Então é uma construção, uma coalizão para ter cada vez mais incidência política.
