Quando ouvi Renato Russo cantar “Geração Coca-Cola” pela primeira vez, me identifiquei imediatamente com aqueles versos. Faço parte da geração que ganhava um copo de Coca-Cola como prêmio por bom comportamento. 

Durante anos e anos, crianças consumiram xarope de Coca-Cola e muito açúcar, sem se dar conta de que o famoso refrigerante é muito viciante.

Anos depois, já adolescente, descobri que a fórmula do xarope da Coca-Cola é um segredo industrial. Isso significa que ninguém sabe ao certo como são combinados seus ingredientes, além de um grupo seleto de pessoas da empresa fabricante. 

Você deve estar se perguntando qual o sentido dos alimentos que ingerimos serem todos avaliados e inspecionados por uma agência reguladora, enquanto o refrigerante mais consumido por crianças no mundo não precisa declarar sua fórmula. 

Eu me pergunto, e por isso parei de tomar Coca-Cola aos 16 anos. Não acho razoável consumir algo que não sei, nem posso saber, sua real fórmula.

Mas e as informações que você está consumindo? Você sabe como chegam até você? Mesmo que você ache que sabe, você não sabe.

Toda vez que você entra no Facebook ou no Instagram, o “sistema” executa algoritmos de recomendação. Esses algoritmos são responsáveis por montar o seu feed, portanto eles escolhem o que você vê, quando e em qual ordem. 

O horário e forma de apresentação da informação influenciam se você vai consumi-la e como vai reagir a ela. Você está consumindo um produto sem conhecer como ele foi feito. E esse produto é muito relevante para o seu dia a dia.

Se você ainda duvida do poder que a informação tem sobre o seu destino e o destino das sociedades, pense um pouco no que acontece durante o processo eleitoral de um país. 

As decisões sobre quais candidatos serão votados são baseadas nas informações que você recebe diariamente. 

Até bem pouco tempo atrás, a maior parte das informações que você recebia sobre os políticos chegavam através da televisão. Isso conferia tanto poder a mídia tradicional que ela passou a ser chamada de “o quarto poder”. Muito se questionou sobre a necessidade de regras e ética para evitar que a mídia manipulasse as massas. 

Hoje, grande parte das informações que chegam a você durante o processo eleitoral, – ou qualquer outro processo de tomada de decisão – chegam através das mídias sociais. 

A democratização do processo de criação e distribuição de informação está transformando cada um de nós num jornalista, que conta e compartilha suas histórias e visões com muitos outros. Mas é você que decide o que será compartilhado com quem? Não. São os algoritmos. 

Aquele texto que você escreveu no Facebook pensando na sua tia avô pode nunca ser lido por ela. Ela tem lido apenas publicações sobre gatinhos e o algoritmo entende que ela não quer ler o que você anda publicando sobre política. 

Por outro lado, o algoritmo entende que você quer ler o texto daquele seu amigo que curte tudo que você publica e, portanto, deve ter opiniões políticas parecidas com as suas. 

É o viés de confirmação atuando todos os dias em nossas vidas.

O mais importante é que meu exemplo é totalmente hipotético. Embora eu ache que o algoritmo funciona assim, na verdade eu não sei e nem tenho como saber. Algoritmos estão se mostrando mais perigosos do que refrigerantes para nossa vida, então precisamos entender como eles funcionam.

Como podemos resolver esse problema? Da mesma forma que a Coca-Cola deveria ter exposto sua fórmula anos atrás, os sistemas que tomam decisões por nós, precisam expor suas fórmulas. 

Segredos industriais podem ser resolvidos com patentes e garantia do direito a propriedade intelectual. Não podemos tolerar que esse argumento seja usado para garantir a opacidade dos sistemas. 

Códigos abertos seriam um bom começo. Publicidade de quais bases de dados foram usadas para treinar algoritmos de inteligência artificial seria um segundo passo.

Precisamos avançar na transparência algorítmica, mas também precisamos garantir que esse algoritmo transparente, que foi treinado com uma base de dados transparente, realmente é o algoritmo que está sendo executado. 

Qual a garantia que você tem de que o feed de um brasileiro está sendo montado usando o mesmo algoritmo que o feed de um europeu? Que a sua localização geográfica, frequência de uso ou qualquer outra característica não faz o sistema apontar para um servidor que executa uma versão completamente diferente daquela que foi tornada pública? 

Até o momento a única solução tecnológica que poderia resolver esse problema são as plataformas de smart contracts descentralizadas, também conhecidas como blockchains de segunda geração. 

Numa blockchain, os dados são imutáveis, desde que a rede não sofra um ataque. Em redes muito grandes com incentivos adequados, as chances de ataques bem-sucedidos, são pequenas. 

A rede Bitcoin, um exemplo desse tipo de rede, funciona a cerca de 10 anos sem ter sofrido nenhum ataque bem-sucedido. Numa blockchain de segunda geração, como a rede Ethereum, é possível criar programas de computador (smart contracts) que também são imutáveis. 

Os smart contracts são gravados na Blockchain como outro dado qualquer, dessa forma tem as mesmas características que os outros dados gravados, são imutáveis, transparentes e descentralizados. 

Embora a tecnologia esteja amplamente associada aos benefícios que podemos obter com os dados imutáveis, acredito que ao longo do tempo vamos nos dar conta de que os programas de computador imutáveis são ainda mais relevantes.

De que adiantaria a transparência algorítmica se apenas um pequeno grupo de pessoas no mundo seria capaz de ler – e entender – o que esses algoritmos estão fazendo? 

O problema não é simples e tampouco sua solução será simples. Porém, precisamos começar a conversar sobre transparência algorítmica e suas implicações para uma sociedade que dependerá cada vez mais de sistemas.

Parei de tomar Coca-Cola há muitos anos atrás, por não conhecer sua fórmula. Hoje, não consigo apagar minha conta do Facebook e Instagram, nem deixar de compartilhar acontecimentos e notícias nessas redes, embora não saiba como as informações são escolhidas para apresentação. Parece que redes sociais são muito mais viciantes que açúcar.

Leia Mais: