(Lucas Poganski)
A expansão da sociedade para o ambiente digital transformou a forma como interagimos, trabalhamos e nos comunicamos. As questões sociais, econômicas e políticas agora se manifestam e se consolidam em plataformas online, trazendo tanto oportunidades quanto desafios. Embora a digitalização da vida ofereça inovações e conectividade sem precedentes, ela também expõe os indivíduos a riscos significativos, incluindo a violação de direitos fundamentais.
Os algoritmos que governam as plataformas digitais desempenham um papel crucial na formação das experiências online dos usuários. Eles determinam o que os usuários veem, em que ordem e com que frequência, influenciando assim suas percepções e interações.
A personalização do conteúdo por meio de algoritmos pode ter implicações significativas na forma como os usuários interagem com o conteúdo uns com os outros. Uma das principais preocupações é a criação de “bolhas de filtro”, onde os usuários são expostos apenas a informações que reforçam suas crenças e opiniões existentes.
Não obstante, esses mecanismos digitais podem apresentar riscos significativos para a segurança digital, incluindo a manipulação de informações, a disseminação de desinformação e a violação de privacidade. Esses instrumentos podem ser utilizados para direcionar conteúdo personalizado aos usuários, muitas vezes sem transparência ou controle, o que pode levar à exposição a informações enganosas ou prejudiciais.
Atualmente, no arcabouço legal brasileiro, podemos contar apenas com a Lei do Marco Civil da Internet (Lei 12.965/14), que foi um importante passo para estabelecer direitos e garantias para os usuários da internet no Brasil. No entanto, como qualquer legislação, ela tem seus pontos fracos e limitações, como a ausência de mecanismos direto de intervenção sob o conteúdo, a fraca previsibilidade da responsabilidade dos provedores de aplicativos, e o status imoderado de supra princípio da liberdade de expressão à frente dos demais.
Embora os usuários mantenham certa capacidade de autodeterminação, a programação algorítmica das plataformas influencia significativamente suas preferências e o conteúdo que consomem. Embora a decisão final sobre o consumo de conteúdo pertença ao usuário, ela ocorre dentro de um contexto moldado pelos algoritmos. Esse processo pode limitar a capacidade de emancipação, fornecendo uma visão distorcida da realidade e comprometendo o exercício efetivo da cidadania.
Essa lacuna regulatória fomenta um ambiente propício para a disseminação exponencial de desinformação, a criação de bolhas ideológicas que minam o debate público plural e a exploração de vieses cognitivos para fins comerciais e políticos. A manipulação algorítmica, evidenciada em escândalos internacionais e no cotidiano da polarização, não apenas compromete a autonomia individual na tomada de decisões, mas também representa uma ameaça tangível aos alicerces da democracia.