Tecnologia e Autonomia: Um Diálogo entre Possibilidades e Riscos

Estive na semana passada no município de Sobral no Ceará a convite do Tribunal Regional Eleitoral do Ceará participando do XII Ciclo de Debates no Seminário "Novas tecnologias, democracia digital, inteligência artificial e os impactos no direito eleitoral".

Desde o ano passado, tive o privilégio de ser convidada para discutir as interseções entre o direito digital e o processo eleitoral em várias partes do país. Cada evento foi uma oportunidade incrível, não apenas para compartilhar conhecimento, mas também para aprender e conhecer pessoas excepcionais e engajadas.

A cada nova palestra, eu me desafiava a trazer algo inédito das minhas pesquisas, e dessa vez não poderia ser diferente. Sempre destaco que o advento das novas tecnologias não só revolucionou as estruturas da sociedade, mas também levantou questões fundamentais para a nossa democracia. Afinal, como nos alertam Jeanette Hofmann e Clara Iglesias Keller, "em uma democracia, não existe (e nem deve existir) um modelo matemático para determinar de forma geral o que é uma boa decisão".

Então, como lidamos com os paradoxos dessa área? De um lado, temos uma miríade de oportunidades e benefícios trazidos pelas novas tecnologias. Do outro, há riscos existenciais que desafiam nossa humanidade. Como equilibrar esses extremos em um mundo cada vez mais digital e, ao mesmo tempo, vulnerável?

À medida que a tecnologia avança, não é apenas a nossa vida cotidiana que se torna mais eficiente; também surgem novas formas de influenciar como pensamos, decidimos e agimos. O poder de escolha, que antes parecia tão pessoal e individual, agora é moldado por algoritmos, grandes volumes de dados e plataformas digitais que, de maneira sutil, influenciam nosso comportamento.

Estamos falando de uma revolução silenciosa. Quando você abre seu aplicativo de notícias, as informações que aparecem na sua tela não estão ali por acaso. Elas foram cuidadosamente selecionadas com base em seus dados, interesses e até padrões de navegação. Com isso, o que você vê — e, mais importante, o que você não vê — começa a moldar sua visão de mundo. 

Isso parece ótimo em termos de conveniência, mas levanta uma série de perguntas: até que ponto estamos no controle? E até onde essa personalização afeta a diversidade de opiniões e o debate público?

A questão se torna ainda mais complexa quando consideramos o impacto da tecnologia sobre as instituições sociais. Escolas, tribunais, governos — todos esses pilares da sociedade estão sendo transformados pela digitalização. O que antes dependia de interações humanas diretas, agora está cada vez mais mediado por sistemas automatizados. Isso, por si só, não é necessariamente ruim. A tecnologia tem o potencial de tornar as instituições mais eficientes, transparentes e acessíveis. Mas, ao mesmo tempo, levanta a questão de como manter a ética e a justiça em um mundo onde decisões críticas podem ser influenciadas por algoritmos que nem sempre compreendemos.

Por isso, é essencial refletirmos sobre o quanto estamos dispostos a confiar nossas liberdades e decisões a esses novos sistemas. Afinal, estamos apenas começando a ver as camadas mais superficiais desse fenômeno. Os impactos futuros, tanto positivos quanto negativos, ainda são uma incógnita.

Agora, vamos fazer um breve exercício de viagem no tempo. Não precisamos ir muito longe; pense ali, nas décadas de 60 e 70. Naquela época, comprar um telefone fixo era uma verdadeira odisseia, tanto em termos financeiros, quanto burocráticos. Ter um telefone em casa não era só questão de praticidade; era símbolo de status social. Quem tinha, fazia questão de exibir o aparelho como se fosse uma obra de arte dentro de casa. E quem não tinha? Bom, esses precisavam se virar com o bom e velho sistema de cartas, que — para os mais novos — consistia em escrever à mão, colocar num envelope, selar e aguardar pacientemente dias (ou até semanas) para obter uma resposta. Quase uma eternidade para os padrões de comunicação de hoje.

Pense comigo: se naquela época a comunicação era marcada pela lentidão e exclusividade, o que a gente pode dizer da transformação que vivemos atualmente, em que basta uma mensagem no WhatsApp para alcançar alguém do outro lado do planeta? A expansão tecnológica reconfigura a noção de tempo, de espaço e, claro, de poder. E não é à toa que essa revolução também afeta as nossas liberdades, especialmente quando pensamos em como nossas escolhas estão sendo influenciadas por algoritmos, publicidade direcionada e o vasto mundo das redes sociais.

A internet, de fato, resolveu muitas dessas limitações. Agora, podemos ver e ser vistos de qualquer lugar, e isso com uma rapidez que teria feito o pessoal dos anos 70 cair da cadeira. Suas potencialidades, no entanto, ainda estão longe de ser completamente compreendidas. Os mais eufóricos só enxergam as possibilidades e são mesmo largas as avenidas. Os amedrontados, por outro lado, focam nos respectivos riscos e na previsível escalada de crimes digitais e violações a direitos. A verdade está no meio: estamos todos sendo desafiados pelas mudanças porque elas são profundas demais.

Lembra da distopia aflitiva que George Orwell nos apresentou em 1984? O mundo onde um aparelho, a teletela, servia de olhos e ouvidos ao Estado totalitário, o famoso Grande Irmão. O cenário é sombrio: uma sociedade vigiada e controlada até nos mínimos detalhes. Agora, olhe para o nosso presente e veja: com diferentes sistemas de inteligência artificial surgindo a cada momento, estamos entrando em um território que, embora não seja necessariamente orwelliano, traz questões bastante semelhantes. De um simples chatbot que responde dúvidas e conversa com eleitores, até sistemas que prometem prever comportamentos criminosos antes mesmo que ocorram e as intenções de voto, não podemos evitar a pergunta: como devemos prosseguir? Pode – ou melhor, deve – a IA influenciar nossas decisões? E até que ponto isso é saudável? É legítimo?

A democracia, que é pautada pelo amplo debate e pela deliberação humana, agora se depara com uma nova questão: quais as contribuições dessas tecnologias para fortalecer o sistema democrático? Ou, pelo contrário, quais são os riscos que ela impõe? 

A regulação das plataformas digitais, para além de necessária, tornou-se urgente. De igual maneira, a construção de um marco normativo para a inteligência artificial é essencial para garantir que o ciclo de vida dessas tecnologias esteja submetido a regras claras de accountability. Sem isso, corremos o risco de que sistemas avançados tomem decisões sem transparência, o que pode comprometer tanto a privacidade, quanto a segurança.

A desinformação, por exemplo, já está moldando não apenas o debate público, mas a própria formação de políticas públicas. Pense em tudo que a desinformação impacta: desde a saúde pública – como vimos recentemente durante a pandemia em relação as vacinas – à segurança nacional, passando até pela crucial luta contra as mudanças climáticas. Com tanta informação disponível e, ao mesmo tempo, com tantas maneiras de distorcer essa informação, o terreno é fértil para a manipulação. 

Não se trata apenas de regular o que vemos, mas de entender o poder das narrativas que circulam em escala global.

E assim chegamos ao grande dilema: como criar um futuro em que a tecnologia não domine, mas colabore para uma sociedade mais justa e transparente? Não há respostas simples, mas estamos começando a fazer as perguntas certas. E isso, em si, já é um grande avanço.