Necropolítica Digital – Morte no ambiente online
O texto aborda a relação entre o conceito de “necropolítica” de Achille Mbembe e suas implicações no ambiente digital. Ele explora como a necropolítica se manifesta nas relações digitais, como em algoritmos, IA e seu impacto na sociedade por meio de visões de mundo discriminatórias. O texto traz à tona a desconstrução moral sobre biopolítica e necropolítica, a relação entre violência e poder, as questões de colonialismo e pós-colonialismo, os atravessamentos da discriminação racial e a travestifobia. Fundamentado no trabalho de Mbembe que convida à reflexão sobre poder, resistência e transformação social, aqui, propomos a reflexão sobre a importância da governança pública, regulamentações, e ética na tecnologia para mitigar as influências da necropolítica digital.
Por Vitor Ranieri
–
Pode ser difícil perceber como os conceitos adotados por Achille Mbembe ganham contornos nas redes digitais e como, de maneira implícita e sutil, eles reforçam uma visão de mundo e influenciam a sociedade. Para aprofundarmos no que podemos chamar de necropolítica digital, precisamos adentrar no termo em si. “Necropolítica” é um termo cunhado por Achille Mbembe, um filósofo camaronês, teórico político e estudioso pós-colonial, que em sua influente obra “Necropolitics” (Necropolítica, em tradução livre) trouxe um conceito que descreve as formas pelas quais o poder político moderno opera por meio do controle e manipulação da mortalidade e dos processos de morte.
Mbembe trouxe em sua obra temas aprofundados e extremamente importantes a partir de estudos críticos da sociedade, e para mim, todos eles fundamentam essa comparação com a era que vivemos onde estamos atravessados pela digitalização, influência e informação, sendo estes os principais temas abordados por Achille:
Necropolítica e Biopolítica: Onde Mbembe parte da distinção entre biopolítica (controle sobre a vida) e necropolítica (controle sobre a morte) para examinar como o poder estatal e as estruturas de dominação operam em contextos de opressão, colonialismo e pós-colonialismo.
Violência e Morte: Ele explora a relação entre violência, morte e poder. Analisa como a violência é usada como uma ferramenta de controle, como ela se manifesta em diferentes formas e como é utilizada para moldar a vida e a morte das pessoas.
Colonialismo e Pós-Colonialismo: Mbembe examina como a necropolítica e a máquina de guerra foram aplicadas em contextos coloniais, bem como como essas dinâmicas persistem em muitos lugares após o fim do colonialismo oficial.
Racialização e Discriminação: Ele investiga como as estruturas de poder racializam certos grupos, marginalizando-os e perpetuando a desigualdade. Discute como a discriminação racial se relaciona com a necropolítica e como os sistemas racistas persistem.
Máquina de Guerra e Governança: Há uma análise sobre a máquina de guerra como um aparato usado para governar populações, incluindo a aplicação da violência e a imposição de formas de controle que muitas vezes operam fora das normas legais.
Heteronomia e Globalização: Explora como muitas nações e regiões continuam subordinadas a centros de poder global, resultando em dependência econômica e política que perpetua sistemas de exploração.
Memória e Trauma: Examina como a memória coletiva e o trauma histórico influenciam as dinâmicas sociais e políticas, bem como a construção de identidades.
Globalização, Capitalismo e Desigualdade: Aborda como a globalização e o capitalismo desempenham papéis cruciais na manutenção das desigualdades e como a exploração econômica frequentemente se alinha com a necropolítica.
Ética e Humanidade: Em toda a sua análise, Mbembe desafia as noções convencionais de ética, humanidade e justiça, convidando os leitores a repensar os fundamentos desses conceitos em um mundo marcado por desigualdades e violência.
Resistência e Possibilidades de Mudança: Mbembe também discute a resistência contra essas formas de opressão e explora possibilidades de transformação social e política.
Partindo deste contexto da obra de Mbembe, podemos nos aprofundar um pouco no contexto atual. O Google, por exemplo, é um dos sites mais usados no mundo, e uma das principais ferramentas de busca e acesso à informação no planeta. É fato que algumas plataformas são consideradas o “oráculo” do homem contemporâneo. Isso quer dizer que grande parte das pessoas confiam nos resultados por elas apresentadas e, quase sempre, elas tomam decisões orientadas pelos primeiros resultados.
Exemplificadamente, quando buscamos por “cabelo feio” num site de busca é possível visualizar dentre os resultados da pesquisa cabelos crespos, cacheados e trançados.
Essa discussão foi levantada há quase 5 anos e muitas pessoas na época se mostraram desapontadas e indignadas com o modo como a plataforma designou as imagens para cada um dos resultados. O Google se manifestou horas depois se justificando que seus resultados refletem “estereótipos existentes na internet e no mundo real em função da maneira como alguns autores criam e rotulam seu conteúdo”, mas que iriam trabalhar para mudar isso – não trabalharam.
Esse é apenas um dos muitos exemplos de como a necropolítica se manifesta no ambiente digital e sua contribuição na manutenção de desigualdades estruturais e micro agressões cotidianas. A necropolítica digital também abrange atos de terror, genocídio e outras formas de violência sancionada pelos detentores dos ecossistemas digitais, legitimados pelo Estado e que levam à morte em massa. Mbembe argumenta que a necropolítica opera tanto no nível da violência física quanto por meio de meios psicológicos e simbólicos, moldando como as sociedades percebem e respondem à morte. Dentro deste conceito, a ideia de racismo algorítmico tem sido muito levantado com o advento da AI e sistemas automatizados, como buscadores, mas não para por aí, temos também os modelos de publicidade atual, a estrutura que temos de mídia de massa hoje em dia, entre outros meios que sustentam uma política de morte direcionada para todos os corpos marginalizados.
Quando olhamos para a desumanização e descartabilidade que pode levar à automação dos sistemas digitais, tratando pessoas como dados irrisórios ou unidades processáveis, é quase que instantânea a associação com o conceito tradicional de biopolítica, desenvolvido por Michel Foucault e que está intimamente ligado ao termo de Mbembe. A biopolítica foca em como os Estados modernos exercem controle sobre as populações por meio de técnicas que gerenciam a vida e suas condições, como saúde, reprodução e organização social. Em contraste, a necropolítica estende essa análise ao examinar como o poder é exercido sobre a própria morte e os corpos daqueles considerados dispensáveis ou fora das normas da sociedade.
Para que a automatização de sistemas seja possível é preciso fazer uso de algoritmos durante a programação dos mesmos. Os algoritmos consistem em um conjunto estruturado de comandos de sistemas informatizados, destinados a processar instruções e informações para gerar um resultado, sendo certo que, nas sociedades da informação, as atividades, escolhas e decisões anteriormente tomadas por humanos estão cada vez mais sendo atribuídas a algoritmos, que podem aconselhar e, por vezes, decidir sobre como os dados devem ser interpretados e quais ações serão adotadas nos ecossistemas.
Assim como a necropolítica opera através do tratamento de certos grupos como descartáveis ou dispensáveis, negando sua humanidade, o direcionamento da comunicação para uma lógica direcionada para a mecanização me faz indagar se seremos conscientes sobre dependência excessiva da automação, e como ela pode resultar na fragilidade das infraestruturas digitais, prejudicando assim, as vidas das pessoas que dependem delas. A jornalista e doutora em Comunicação pela Universidade Federal de Minas Gerais (UFMG), Amanda Chevtchouk Jurno, ressalta a importância de compreender que o algoritmo em si não pratica o preconceito e, sim, as pessoas que o desenvolveram. Ela enfatiza que a discriminação está justamente nas informações que são repassadas para esses sistemas, pois elas são os resultados de uma sociedade estruturalmente opressora e discriminatória.
Em uma matéria dada a Ciência LAB, Amanda contextualiza como as grandes empresas responsáveis pelas redes sociais e grandes sites, como Google e Amazon que estão nos Estados Unidos, possuem uma visão de mundo que guia esses sites que costuma ser apenas a dessa região, fazendo com que conteúdos pertencentes a outros contextos sejam prejudicados. A jornalista ainda cita a questão da exposição de mamilos femininos no Instagram e Facebook, e que a META considera imprópria imagens deste teor: “Nos EUA é incomum que mulheres exibam os seios em público, e como essas redes são produzidas por americanos, esse tipo de conteúdo passa a ser considerado inadequado. Em outras culturas, como a indígena, as mulheres ficam todo tempo com seios à mostra; as europeias fazem topless nas praias”, explica.
Em outubro de 2016, a revista Piseagrama teve sua página no Facebook bloqueada após publicar uma foto de uma mulher indígena com os seios à mostra. Como a repercussão da situação se restringiu aos seguidores da página, a plataforma não reverteu o bloqueio. A Piseagrama teve que criar uma nova página e publicar a foto novamente, desta vez editada, cobrindo os seios da mulher indígena.
De acordo com a mestre e doutoranda em Ciência da Computação pela Universidade Federal de Minas Gerais (UFMG) Camila Laranjeira, existem dois tipos de algoritmos: os que aprendem com dados, ou seja, que obedecem aos comandos implementados; e aqueles que são treinados a partir de exemplos que lhes são apresentados e expostos. “O problema está nesse último modelo, porque as pessoas acabam considerando que ele é mais neutro, por não ter sido explicitamente programado por um ser humano. Mas, na verdade, é apenas o viés que muda de foco, ao em vez de ser um código instalado, o algoritmo é alimentado por dados selecionados por quem o produziu”, explica Camila.
Tal como Mbembe examina o apartheid e as relações raciais e a disposição das vidas humanas, a necropolítica digital também dispõe de uma divisão rígida entre diferentes grupos raciais, a definição de quem tem os direitos, e quem é privado deles, não se manifestando exclusivamente de uma forma individualizada como o Apartheid foi, mas ambrange o controle e a exclusão dos usuários. Bem como, no caso dos algoritmos de reconhecimento facial que tem sido cada vez mais comum em sistemas de segurança e identificação. Isto é, esses algoritmos podem ter consequências preocupantes para as pessoas transexuais, que muitas vezes sofrem com episódios de transfobia ou travestifobia pela falta de reconhecimento de sua identidade de gênero. Isso ocorre porque muitos algoritmos são treinados com base em imagens de rostos considerados “normais” e podem ter dificuldades em reconhecer pessoas que não se encaixam nesse padrão, incluindo as pessoas transexuais que passaram por mudanças em sua aparência física por meio de hormônios ou cirurgias. Dito isso, tanto o racismo algorítmico quanto a mecanização do ambiente digital podem ser vistos como expressões contemporâneas da necropolítica, na medida em que impactam a distribuição de vida e morte, a dignidade humana e a inclusão social. Essas problemáticas enfatizam a importância de abordagens éticas e críticas na tecnologia, na publicidade e a consideração de seus impactos sobre grupos vulneráveis e a sociedade como um todo.
Conforme relata Juliana Abrusio, em seu livro Proteção de Dados na Cultura do Algoritmo: A tecnologia inovadora vinculada à sociedade da informação consiste, por sua vez, no computador, com sua capacidade de memória e processamento de dados, sendo que sua principal função seria substituir e amplificar o trabalho mental do homem, possibilitando a produção automatizada em massa de informação.”
Quando leio Abrusio mencionando a capacidade de memória dos sistemas de informação, se torna correlacionável a forma como Achille explora a memória coletiva e o trauma histórico que molda a formação de identidades e as dinâmicas sociais e políticas. O trabalho de Mbembe nos incentiva a examinar criticamente as formas pelas quais o poder e a violência se intersectam, além disso, o filósofo destaca como eventos traumáticos do passado afetam como indivíduos e comunidades se vêem e se relacionam. Mbembe também discute como a memória pode ser manipulada por agendas políticas e como o trauma do passado persiste, influenciando o presente e a busca por justiça. Em contextos pós-coloniais, ele analisa como o legado traumático do colonialismo continua a afetar as relações sociais, e levando em consideração a era em que vivemos, inevitavelmente a colonização se replica no ambiente digital.
Em outro momento falei aqui na AJN sobre a plataformização do trabalho, e o trabalho digital é outra expressão recheada de direcionalidades com a necropolítica digital. Rafael Grohman, professor de mestrado e doutorado em comunicação na Universidade do Vale do Rio dos Sinos (Unisinos), traz à tona que se formos pensar bem, a própria separação entre trabalho manual e trabalho intelectual não faz sentido na própria filosofia do trabalho, afinal, quando estamos em frente a um computador trabalhando, é o corpo inteiro que está sendo mobilizado – das mãos ao cérebro.
Pois bem, trabalho digital definitivamente não é um conceito. Mas seguramente a expressão digital labor/labour designa internacionalmente uma subárea interdisciplinar de estudos, como detalha Antonio Casilli em Qu’est-ce que le Digital Labor?. Citando Ursula Huws, o pesquisador lembra uma série de expressões como “sociedade da informação” e “capitalismo cognitivo”, enfatizando que a adjetivação não vem de hoje na teoria social. Atualmente, podemos ver nas prateleiras termos como “capitalismo de plataforma”, “capitalismo digital” e “capitalismo de vigilância” – o próximo livro de Nancy Fraser vai se chamar Capitalismo canibal. Essa breve digressão ajuda a problematizar as contradições em torno dos conceitos e de pensar o que há por trás dos conceitos, no sentido de para quais horizontes eles apontam (tendo, claro, a certeza de que nenhum deles será universal, mas estão marcados por regimes de visibilidade e invisibilidade).
Com o fim de diminuir os impactos da necropolítica digital, a governança pública e as regulamentações na área da tecnologia tem sido entendidas como um processo extremamente necessário, o que certamente o é, certamente porque direciona os caminhos e mapeia as problemáticas levantadas aqui, e embora a necropolítica e as formas de opressão sejam poderosas, a resistência é uma parte essencial da história humana e pode desempenhar um papel crucial na transformação social e política.
Leia: Senso de comunidade na era da Influência Digital – Agência Jovem de Notícias (agenciajovem.org)Mbembe destaca como a resistência pode assumir diversas formas, desde manifestações e movimentos organizados até ações cotidianas de desafio às estruturas de poder. Ele observa que a resistência pode ser uma resposta à violência e à marginalização impostas pela necropolítica. Isso inclui a desnaturalização das formas de opressão, questionando a normalidade das relações de poder desiguais. Ademais, destaca a importância de construir e compartilhar narrativas alternativas que desafiem as narrativas dominantes de opressão e exploração. Essas narrativas podem ser ferramentas poderosas para inspirar a mudança e mobilizar as pessoas.
Desse modo, não é apenas uma reação ao presente, mas também pode estar orientada para uma visão de futuro mais igualitária e justa. A luta contra a necropolítica pode envolver a criação de novos sistemas políticos e sociais, de uma governança eletrônica ou digital pensada coletivamente, e por sua vez, referindo-se ao modo como a internet pode ser um território de informação, conectividade e democratização, e não de morte.
–
