AGN Entrevista: André Lemos sobre a tradução do mundo em dados digitais

Por Andresa Correa e Merlia

“O algoritmo é como se fosse uma receita. Um bolo: os dados são os ingredientes e o algoritmo é como você processa esses ingredientes. Você tem que colocar 200g de açúcar, misturar, colocar no forno a tal temperatura, durante tanto tempo, e sai o bolo. Há várias formas de fazer, então há vários algoritmos diferentes, a partir da manipulação desses dados. O algoritmo é uma receita que faz com que um determinado conjunto de dados, sendo processado, gere um resultado específico.” – André Lemos

Em nossos dias, os dispositivos digitais são como próteses ao corpo. Celulares, notebooks, tablets, relógios inteligentes, televisões, assistentes virtuais, por exemplo, nos inserem em um contexto global de conectividade, trabalho e conhecimento sem sair de casa. Cada clique que damos na tela revela uma escolha, que forma um dado. É como a tradução de uma parte do que somos, pensamos e queremos em uma linguagem digital. As grandes empresas de tecnologia, as big techs, dominam a captação desses dados para que alimentem os algoritmos, um mecanismo que consegue personalizar o conteúdo que receberemos mais tarde. Consumimos o que queremos.

“É uma transformação de ações, estruturas e documentos em dados digitais. O que nós estamos vivendo hoje é uma tradução do mundo em dados digitais”

As questões fundamentais são: para onde vão esses nossos dados coletados? Realmente sabemos o que está acontecendo? Nós que permitimos sem perceber?

AGN Entrevista

Nesta reportagem, a Agência de Notícias (AGN) conversou com André Lemos, professor titular da Faculdade de Comunicação da Universidade Federal da Bahia (Facom/UFBA), coordenador do Lab404 – Laboratório de Pesquisa em Mídia Digital, Redes e Espaço, pesquisador do CNPq e membro da Academia de Ciências da Bahia.

Seu tema de pesquisa sempre foi as novas tecnologias, e os processos chamados de: Dataficação e Ação Algorítmica.

Vamos entender melhor como funciona tudo isso?

Qual a primeira coisa que você faz ao acordar?

Assim que o alarme do celular toca, qual a sua primeira reação após desativá-lo? Inicia a sua rotina sem contato com as redes sociais, ou precisa checar o seu aparelho?

“Todos nós, hoje, acordamos e passamos por cinco grandes plataformas internacionais: Google, Apple, Microsoft, Facebook etc. O alimento dessas plataformas é o dado. O dado serve para oferecer serviços. A partir do que nós fornecemos como informação, elas oferecem serviços personalizados, coisas que interessam a uma pessoa e não interessam a outra. Quando eu digo que gosto de alguma coisa, eu tenho que dizer isso dentro de uma formatação específica, que é a partir de um clique ou de um ícone. A minha ação de ‘gostar de algo’ é traduzida num dado, esse dado alimenta algoritmos e inteligências artificiais dessas empresas e plataformas, que ao colherem mais e mais dados, não apenas meus, mas das pessoas com as quais eu me relaciono, elas podem me oferecer coisas.

‘Se você gosta disso, já que você disse que gosta, e como muitas pessoas que gostam disso gostam também de outras coisas, provavelmente você também vai gostar dessa outra coisa’ [o professor imitando o que uma plataforma diria].

Ela pode me oferecer coisas muito personalizadas e que vão fazer com que eu me mantenha atrelado a esse serviço. Ele é a maneira de ter informação sobre os usuários para oferecer outros tipos de produtos. E ele é uma maneira de leitura do mundo, ou seja, uma estrutura técnica de transformação de qualquer ação nesse tipo de dado, que alimenta esse sistema.”

Por que dizem que os dados são o novo petróleo?

As grandes empresas de tecnologia são também as empresas mais ricas do mundo, segundo o ranking da Interbrand de 2024. O produto mais valioso são os dados que as alimentam e as fazem produzir mais.

“[Essas] grandes empresas não são empresas que produzem bananas, petróleo ou carvão, elas produzem dados. Tem uma pequena diferença: o petróleo é algo que extraímos da terra e o dado é algo que nós produzimos a partir de um formato específico. A riqueza hoje são os dados. De certa forma, nós estamos vivendo isso, e hoje se fala muito da dependência dos dados, de ataques à soberania dos países, porque os dados hoje são a fortuna. O uso do dado é o que vai fazer com que uma determinada empresa possa inovar. Em países do Sul Global, como o Brasil, nós estamos sempre numa posição de consumir e produzir muito dado, mas oferecer pouco em termos de grandes empresas que possam ganhar dinheiro e enriquecer o país, por exemplo. É uma dimensão estratégica.

Nesse sentido econômico, estamos numa sociedade de dados, uma sociedade de plataforma e num capitalismo de dados, por isso que o dado é o novo petróleo. O que eu estou querendo destacar é que isso é verdadeiro, mas tem uma diferença que é ainda mais complicada, porque não é qualquer dado que entra no sistema, é um dado que deve ser formatado de alguma forma. Então, quando eu gosto de alguma coisa, esse ‘gostar’ tem que estar formatado de alguma maneira para que o sistema possa ler esse ‘gostar’. Então, há uma espécie de formatação da maneira como nós nos relacionamos com o mundo que deve ser pensada também. Ele não é tanto como o petróleo que se extrai e se usa, porque não se extrai o dado, se produz o dado. Não é algo que é retirado de alguém, ele faz com que alguém produza para ele.”

Como é o processo de fabricação dos dados?

Quando se trata dos dados, não existe o estado bruto, ele é sempre parte de um conjunto que nos permite ver o que queremos enxergar ou mostrar. O processamento deles depende de sua finalidade e dos motivos pelo qual estão sendo coletados.

Assim, Lemos explica que a coleta e o encadeamento dessas informações nem sempre é fiel à realidade. Por exemplo, o que nós podemos considerar “amigos” dentro de uma rede social? Ele explica que essa criação não está relacionada com a concepção do usuário de amizade, e sim como aquele dado organiza suas informações.

“Quando eu digo ‘eu tenho amigos’, o ‘amigo’ é uma produção discursiva a partir do dado transformado numa visão que não é verdadeira. Na realidade, as pessoas não têm 200, 300, 500 amigos, mas a plataforma me obriga a produzir esse dado como “amigo” porque é assim que ela funciona.”

Quais são os perigos de se viver em uma bolha?

Previamente vimos que a “performatividade” dos algoritmos é o planejamento que o algoritmo faz com seus dados para que provoque uma ação do usuário. Esse modo de funcionamento faz com que o nosso consumo seja de coisas do nosso interesse que segurem nossa atenção naquela plataforma, ou seja, o que aparece para você consumir é personalizado de acordo com os comandos que você fornece para a plataforma.

No entanto, Lemos discorre sobre como esse processo de personalização se transforma em uma zona de conforto que não nos instiga a pensar diferente.

“É interessante que a gente possa encontrar aquilo que a gente quer, um uso utilitário instrumental da rede, que é ótimo e que funciona bem. Às vezes queremos esse determinado tipo de coisa, mas também entender o funcionamento dela e saber de alguma forma se afastar um pouco disso ou cultivar uma diferença.

Eu acho isso enriquecedor politicamente, sociologicamente, cognitivamente, individualmente, afetivamente; cultivar a diferença e cultivar a amplitude, a desterritorialização do conhecimento, do pensamento e da subjetividade. Eu acho que todas as tragédias vem de uma ideia do ‘eu’, acho que  ‘eu’ não existe.  O ‘eu’ é uma construção, nós somos atravessados por diversos outros entes, não só humanos, mas não-humanos também que nos constituem. Esse apego ao ‘eu’ é algo perturbador.

A gente deve cultivar um pouco a saída desse processo, a desconexão dessas máquinas que nos oferecem sempre aquilo que a gente quer ver.”

Como o acesso aos dados afeta a nossa rotina e nossa privacidade?

Mais um exemplo de acesso e coleta de dados pessoais são as assistentes virtuais.

“A Alexa da Amazon e outros dispositivos vestíveis geram dados que são enviados para as plataformas. Elas são apenas formas diferentes de capturar dados. No caso dos wearables estamos lidando com dados muito íntimos, como o monitoramento da saúde, qualidade do sono, número de passos dados, calorias consumidas, entre outros. Esses dados são muito sensíveis e devem ser protegidos.

As empresas geralmente possuem políticas de privacidade para proteger essas informações, mas sabemos que falhas acontecem, o que pode resultar em vazamentos. Isso entra na mesma lógica de crescimento da ‘notificação’ e da ‘performatividade algorítmica’ que caracteriza a sociedade de plataformas.

“Esses dispositivos não apenas monitoram nossa saúde, mas também capturam dados sobre nossa vida privada”.

É importante pensar não só no cuidado com a saúde, mas também no que isso significa em termos de captura de dados pessoas”.

Por conseguinte, a naturalidade em que fornecemos os dados sem questionar o que de fato é feito com eles, é o que o professor explica como “Paradoxo da privacidade”.

“Ficamos à deriva nesse tipo de ação, sem saber exatamente o que as empresas fazem com nossos dados. Funcionava muito na base da confiança e, também, sob uma perspectiva que alguns autores chamam de ‘paradoxo da privacidade’: se você perguntar para as pessoas: ‘Você se preocupa com sua privacidade?’, elas dirão ‘Claro que sim!’. Mas, quando vão à farmácia comprar um remédio, dão o CPF sem questionar o que será feito com esse dado. Embora as pessoas tenham uma grande preocupação teórica, na prática, acreditam que, por não dever nada a ninguém, podem fornecer seus dados.”

No entanto, não são somente adultos que podem ter seus dados coletados e terem sua privacidade violada. Crianças e adolescentes também estão expostas a esse risco. Lemos fala da importância da monitoração dessa faixa etária no mundo online, mas que esse acesso não seja demonizado.

“De forma geral, devemos ter muito cuidado com o uso da internet por crianças. Existem ONGs que fazem um trabalho excelente de monitoramento da exposição de crianças e de prevenção contra abusos, como pedofilia na internet. As plataformas devem estar muito atentas a isso. Recentemente, uma lei na Austrália proibiu qualquer pessoa com menos de 16 anos de usar plataformas sociais.

Eu acho que é uma medida um pouco radical, pois as idades variam muito. Uma criança de 5 anos é muito diferente de um adolescente de 16 anos. Talvez, no futuro, possamos olhar para trás e perceber que deveríamos ter tomado outras medidas para proteger as crianças, assim como hoje achamos impensável permitir que alguém fumasse dentro de um avião.

Precisamos nos proteger, mas sem demonizar a tecnologia. As crianças devem ser protegidas de usos inadequados, mas não podemos proibir o uso das plataformas de forma generalizada. É uma preocupação importante, sim.”

Quais leis garantem a proteção de dados?

Em um mundo em que os dados são considerados o novo petróleo, é imprescindível que haja uma politização do uso dos mesmos. Lemos explica que apesar da existência de leis que protegem nossos dados, sua implementação ainda é recente, assim, não existe garantia de sua eficácia.

“Atualmente, temos uma proteção legal, a Lei Geral de Proteção de Dados Pessoais (LGPD), que impede que as empresas vendam meus dados para terceiros e me garante o direito de pedir a exclusão dos meus dados. Por exemplo, se eu for a uma farmácia onde compro meus remédios toda semana e pedir para apagarem todos os meus dados, eles são obrigados a fazer isso. Eu não sei se vão realmente apagar, mas posso recorrer à justiça, já que existe uma lei que me protege.”

“Eu acho que estamos apenas no começo. A lei é recente, e a Agência Nacional de Proteção de Dados (ANPD) é quem regula isso. Ela já entrou com ações contra plataformas para que não usem os dados das pessoas para treinar a inteligência artificial. Começamos a ver alguns mecanismos, mas, como mencionei antes, se eu pedir à farmácia para retirar meus dados, eles podem não cumprir. A ANPD só vai agir se eu entrar com uma ação judicial. Aos poucos, vemos essa agência reguladora se mobilizando para proteger a LGPD, mas ainda estamos em uma fase inicial.”

Logo, a ANPD também ficará responsável pelo uso ético e responsável da inteligência artificial. Entre os principais pontos da PL 2338/2023, se destaca a criação do Sistema Nacional de Regulação e Governança de Inteligência Artificial (SIA), este será encarregado de estabelecer regulações posteriores e fiscalizar o cumprimento das regras relacionadas ao uso de IA no país.

O Estado, apesar de instalar medidas protetivas a respeito da regulamentação de uso de dados, vem impulsionando a produção de IAs dentro do território brasileiro.

“O Brasil acaba de lançar um Plano de Inteligência Artificial, para que o país saia de uma posição de consumidor de inteligências artificiais prontas do Norte e possa produzir a sua própria inteligência, que pare de ser um grande fornecedor de dados para grandes plataformas estruturais e possa produzir as suas próprias plataformas.”

Portanto, ao considerarmos o interesse tanto do Estado quanto das empresas privadas, se levanta o seguinte questionamento: de quem é a responsabilidade de regular os dados que são coletados? André Lemos avalia essa questão e se posiciona a favor de um equilíbrio entre as duas forças.

“Eu acho que há uma responsabilidade compartilhada. As empresas já fazem a regulação dentro dos seus próprios códigos e políticas de uso. No entanto, como elas não operam em um ‘condomínio fechado’, como um prédio, elas são responsáveis por algo muito maior: a opinião pública. Elas têm influência na esfera pública, que envolve a mídia e a política. Portanto, tanto as plataformas quanto o Estado têm que regular.

Na minha opinião, o Estado deve agir para proteger as garantias básicas dos cidadãos na esfera pública. Então, deve haver uma colaboração entre as plataformas e uma ação do Estado para exigir determinados procedimentos. Muitas vezes, as plataformas são lenientes porque ganham dinheiro com a ‘dataficação’ — ou seja, quanto mais dados são gerados, mais engajamento há, o que leva à monetização. O equilíbrio entre monetização e controle não pode ser deixado apenas nas mãos das plataformas, também precisamos contar com a esfera privada para que haja um controle adequado.”

Previsão nublada para os próximos anos

O professor reflete sobre a dificuldade de enxergar um futuro concreto das tecnologias digitais.

“Se você me perguntasse, há 30 anos, quando eu estava estudando isso, fazendo minha tese de doutorado sobre cultura digital e me dissessem: ‘Olha, daqui a 30 anos nós vamos ter negacionismo científico, polarização e desinformação pela internet.’ Eu diria que não iria acontecer isso. [Eu diria:] ‘Nós estamos vendo aqui florescer a inteligência coletiva, a circulação do conhecimento, estamos nos agregando ao pensamento das pessoas, saindo de um preconceito de classe etc’. Tinha toda uma utopia sendo realizada nos anos 90 que hoje se perdeu.

Eu acho que a tendência é que a inteligência artificial vai entrar muito fortemente no futuro. Eu acho que essas plataformas coletivas venham aos poucos desaparecendo, tipo o Facebook, mas eu não sei, não saberia dizer o que que vai acontecer daqui a 30 anos, por exemplo.”

O debate sempre estará na expectativa de que, nos próximos anos, essas empresas possam fornecer um parecer seguro de estar no meio digital ou, que o estado possa interferir para o bem comum dos usuários. Mas ainda no campo da suposição, é complexo imaginar como garantir uma segurança tão plena.

O virtual é uma nuvem de fios

Por fim, toda essa discussão toca ainda na questão da crise climática. É comum pensarmos que o virtual é imaterial, que não existe de forma palpável, que não acumula, que não pode ser estocado, portanto, seria mais sustentável do que se utilizar papel. Mas todos esses dados são armazenados em lugares físicos e geolocalizados chamados data centers, além de existirem grandes cabos submarinos que conectam continentes levando sinal de internet para as nossas residências. Nesse processo, ocorre a extração de minérios para produzir equipamentos e água para produzir energia e alimentar essas grandes estruturas.

“A gente associa sempre a cultura digital a um virtual, a nuvem. ‘Cadê os dados? Como é que eu pego? Não dá’. Então é tudo ‘desmaterializado’, tudo ‘na nuvem’. E isso é um erro grosseiro, porque para eu pegar nos dados, eu preciso dessas máquinas. Essas máquinas para serem feitas, precisam de minerais que vem da terra, minerais nobres, muitos com trabalho escravo na África. Para processar o dado que está aqui no meu computador, agora que está na Internet, eu preciso de um data center, que é a cloud, mas a cloud não é a nuvem, é o centro de processamento de dados.

Está tudo muito bem aterrado no solo, que está consumindo água, que consome energia elétrica, que consome combustíveis fósseis, que perfura os oceanos para atravessar a fibra ótica de continente a outro, que rasga os terrenos para ligar a fibra ótica dentro dos países, que gera a pegada de carbono e consumo de água para gerar modelos de Inteligência Artificial.

Cada busca que fazemos no Google, no Chat GPT ou no Instagram, gera uma pegada de carbono. Tem uma vinculação direta com o consumo de energia e a expansão da cultura digital. Alguns autores estão, inclusive, dizendo que, em um futuro próximo, a Inteligência Artificial vai competir com os humanos no consumo de água. Nós vamos ter que ter água para a inteligência artificial e isso vai começar a criar um certo desequilíbrio em relação a água que nós teremos para consumo humano, ou seja, no futuro, se verdade, a gente vai ter um freio da Inteligência Artificial, porque não é possível que a gente dê água para um robô e não tenha água para um humano. Embora isso seja realmente possível, porque é o que acontece hoje no país, nas guerras, na miséria.

A materialidade do digital é algo importantíssimo não só no consumo, mas também na forma como nós nos relacionamos. A maneira que eu me relaciono com uma pessoa através da interface [de uma plataforma] é bem diferente dessa maneira que nós estamos nos relacionando aqui agora. Conversar com alguém por um chat, é diferente de conversar com alguém por carta, que é diferente de conversar com alguém pelo telefone, que é diferente de conversar com alguém pelo WhatsApp. Há uma agência das materialidades do digital nas nossas relações, mas também no consumo de energia do planeta e na geração de pegada de carbono”.