Metaverso: nova fábrica de subjetividades artificiais?

Ativista pela liberdade na rede debate o significado do novo conceito, a possibilidade de uma existência estendida e sua apropriação pelas “Big Techs”. Ele teme mais “escravização algorítmica” e produção de desejos obsessivos de consumo

por Rafael Zanatta, em entrevista a Ricardo Machado, no IHU Online

A palavra “metaverso” tem voltado ao vocabulário atual, sobretudo após o salto na comunicação por videochamadas e do trabalho remoto em decorrência da pandemia da Covid-19. No mercado internacional, o termo vem à baila com os anúncios de investimento do Facebook e da Microsoft na tecnologia. Para explicar melhor o que é o metaverso e quais são suas implicações sociais, o professor e pesquisador Rafael Zanatta concedeu a entrevista por e-mail ao Instituto Humanitas Unisinos – IHU.

“O conceito de metaverso é novo e pode ser definido como uma ideia de um universo digital compartilhado na nuvem, mesclando os elementos fisicamente presentes, por Realidade Aumentada, com espaços virtuais. Trata-se de algo distinto da Realidade Aumentada, no sentido que opera em camadas incrementais ao mundo físico”, explica Zanatta. “Ela possui três características fundamentais. Ela é imersiva, colaborativa e interativa”, complementa.

Em termos jurídicos, ainda não há definições sobre o metaverso, afinal ainda é uma versão conceitual do que se projeta como futuro da Internet, mas já se sabe o que deverá ser uma possibilidade técnica em breve. “Uma pessoa seria capaz de manipular objetos virtuais utilizando dispositivos de rastreamento de movimentos, como pulseiras inteligentes. Por meio desses dispositivos, seria possível, por exemplo, participar de uma reunião por meio de seu avatar, interagindo em uma realidade simulada, como uma sala de reunião, com a presença de colaboradores, que estariam, por sua vez, conectados em suas próprias casas, sem a presença física”, descreve.

A questão política de fundo, o que torna todas as coisas no metaverso um pouco mais complexas, é uma certa agudização de nossa vulnerabilidade em ambientes digitais. “Suponha que você entre em uma reunião simulada em um escritório. No quadro, há três pinturas. Uma de Cildo Meirelles, uma de Tarsila do Amaral e uma de Jackson Pollock. O que seria possível dizer de uma pessoa que ignora Meirelles e Pollock e presta atenção em Tarsila, por alguns segundos antes da reunião começar? No metaverso, em tese, todas essas interações podem ser registradas, rotuladas, catalogadas, identificadas a certas preferências e proxies sobre desejos e comportamentos. Na próxima vez que você usasse um aplicativo de redes sociais, poderiam aparecer anúncios sobre objetos de decoração, com preços levemente maiores (e personalizados), a partir daquele input, explorando um desejo de forma sutil, induzindo um processo de compra”, problematiza o entrevistado.

Como se todas essas transformações não fossem suficientemente radicais, há ainda o desafio de pensar todas essas questões em um contexto global de profunda desigualdade. “O que precisamos desmascarar é essa falsa ideia de que existe uma ‘economia imaterial’ descolada da materialidade, como se toda a sociedade global pudesse se beneficiar de ‘trabalhos criativos e inteligentes’ e uma prosperidade abundante a todos. Essa é apenas uma das dimensões de desigualdades que essa discussão provoca”, postula.

Rafael Zanatta é diretor da Associação Data Privacy Brasil de Pesquisa. É mestre pela Faculdade de Direito da USP e doutorando pelo Instituto de Energia e Ambiente da USP. Além disso também realizou mestrado em direito e economia pela Universidade de Turim e Alumni do Privacy Law and Policy Course da Universidade de Amsterdam. Research Fellow da The New School (EUA). Membro da Rede Latino-Americana de Vigilância, Tecnologia e Sociedade – Lavits. Membro do Instituto Brasileiro de Responsabilidade Civil – Iberc.

Confira a entrevista

O que é metaverso? Há no campo jurídico há alguma discussão relativa ao metaverso?

O conceito de metaverso é novo e pode ser definido como uma ideia de um universo digital compartilhado na nuvem, mesclando os elementos fisicamente presentes, por Realidade Aumentada, com espaços virtuais. Trata-se de algo distinto da Realidade Aumentada, no sentido que opera em camadas incrementais ao mundo físico.

O projeto History of Computing define o metaverso como “a coleção de todos os mundos conectados pelo espaço físico”, como uma coleção dos mundos virtuais e camadas de Realidade Aumentada. Ela possui três características fundamentais. Ela é imersiva, colaborativa e interativa.

Não há definições jurídicas sobre o metaverso, pois, no momento, ele é uma versão conceitual do futuro da Internet, contendo a conexão e interligação entre mundos 2D, 3D e de Realidade Aumentada, apresentadas de forma persistente e compartilhada. Seria muito cedo para uma definição conceitual. Nós não conseguimos nem mesmo chegar a um acordo sobre o conceito jurídico de tecnologias automatizadas de reconhecimento facial, mesmo após anos de discussões e tensões sociais em torno da utilização dessas tecnologias.

Pode ser mais prático entender o metaverso por suas consequências. De acordo com essa visão conceitual, uma pessoa seria capaz de manipular objetos virtuais utilizando dispositivos de rastreamento de movimentos, como pulseiras inteligentes. Por meio desses dispositivos, seria possível, por exemplo, participar de uma reunião por meio de seu avatar, interagindo em uma realidade simulada, como uma sala de reunião, com a presença de colaboradores, que estariam, por sua vez, conectados em suas próprias casas, sem a presença física. Evidentemente que a pandemia da Covid-19 aqueceu fortemente esse tipo de proposta conceitual, especialmente pelas possibilidades de soluções ao trabalho virtual e a colaboração entre times para além de uma experiência de aplicativos como Zoom.

Computação ubíqua

Em termos de ambição, ela relembra o ideário de computação ubíqua e Ambiente Inteligente anunciado em 1991 por engenheiros, em Palo Alto (EUA), que ambicionavam uma disseminação completa dos computadores no ambiente, tornando-os imperceptíveis, interligados uns aos outros, permitindo um grande fluxo de informação. Trinta anos atrás, acreditava-se que estaríamos tão cercados de microcomputadores (uns ligados aos outros e conectados à Internet) que nem perceberíamos a presença da computação.

Evidentemente que esse ideário não se concretizou, como bem lembra a filósofa Mireille Hildebrandt, mas as preocupações sobre os impactos do Ambiente Inteligente permanecem. Ainda não temos centenas de computadores em nossas casas, acopladas em nossas mesas, lâmpadas, portas, geladeiras e máquinas de café. De fato, nem é certo que teremos energia elétrica sustentável para manutenção dessa computação. Ainda enfrentamos problemas estruturais brutais de pessoas marginalizadas, sem acesso a computadores ou mesmo casas com saneamento básico. Não há razões para o Congresso de qualquer República discutir metaverso quando há problemas de desigualdade e violação de direitos fundamentais no nível mais básico.

É preciso, portanto, compreender a lógica corporativa que anuncia o metaverso como futuro da Internet justamente para poder constituí-lo enquanto projeto empresarial, explorando fronteiras ainda mais novas do capitalismo cognitivo e imaterial. O mesmo tipo de ceticismo e olhar crítico pode ser aplicado ao metaverso. Trata-se de uma visão conceitual sobre uma possibilidade sociotécnica. Por tal motivo, deve ser visto também pelas lentes das lógicas discursivas que tentam apresentar construir novos mercados, na medida em que introduzem novos projetos sobre tecnologia e sociedade. Há livros importantes sobre essa relação, como as obras críticas como Smart Cities. Relembro, em especial, o livro A Cidade Inteligente (São Paulo: Editora Ubu, 2019) de Evgeny Morozov e Francesca Bria, publicado pela editora Ubu, que faz justamente essa crítica ao modo como existe uma economia política, fortemente corporativa, na introdução do conceito de Smart Cities.

Facebook e Microsoft veem o investimento em tecnologias voltadas ao metaverso como a futura “galinha dos ovos de ouro”. Trata-se de uma nova investida do capitalismo de vigilância para ganhar mais dinheiro ou da possibilidade de ampliar a liberdade humana no contexto digital?

Essa é uma questão complexa, pois envolve, também, a lógica de reconstrução permanente da economia imaterial e do capitalismo cognitivo, que buscam explorar aspectos ligados à subjetividade, como emoções, vontades, desejos e afetividades. Isso foi muito bem notado por André Gorz, no livro O Imaterial (São Paulo: Anablume, 2021), que observou não apenas uma guinada do capital imaterial como um meio de produzir consumidores (produzindo desejos, vontades de imagens de si e dos estilos de vida, pessoas que são “incansáveis máquinas de felicidade”) mas também a introdução de uma socialização anti-social, apelando à imaginação e ao desejo de cada um, e não de todos.

O capitalismo imaterial opera no talhamento de consumidores que são individuais por definição. Como dizia Gorz, eles são o “antídoto à expressão coletiva de necessidades coletivas” e “à preocupação com o bem comum”. Gorz escreveu isso em 2005, antes da explosão do Twitter, YouTube, Instagram e TikTok, aplicações que levaram a lógica do indivíduo narcísico a um novo patamar (algo também observado por Byung Chul-Han de forma magistral nos últimos anos).

Gorz havia percebido como o capitalismo cognitivo promete a cada um escapar à condição comum tornando-o um “feliz privilegiado” que pôde oferecer a si mesmo algo melhor, mais raro, distinto, único. Essa é uma das características do capitalismo imaterial, que assume feições muito distintas do fordismo. Isso também foi percebido por Adam Curtis, em documentário The Century of The Self (2002), produzido há vinte anos, que destacava a manipulação do consumidor por técnicas de marketing e produção de subjetividade. Não é sem razão que a indústria da publicidade encontra-se acoplada com a economia das aplicações de Internet. A retroalimentação entre produção de subjetividade, economicização da vida, coleta de dados (que permitem inferir estados emocionais) e manipulação do inconsciente para engajamento e consumo é enorme.

O que Shoshana Zuboff faz, com a introdução do conceito de “capitalismo de vigilância”, é buscar sentido nessa lógica econômica que se volta ao futuro, à possibilidade de behavioral surplus, à eficiência da probabilidade skinneriana de indução de um comportamento por estímulos e feedbacks. Não é uma análise sociológica sobre modos de vigilância, é um estudo de economia política com a introdução de artefatos conceituais que nos permitam compreender melhor o que se passa. E não somente ela. O trabalho de Morozov sobre extrativismo digital, capitalismo dadocêntrico e modulação comportamental tem preocupações semelhantes, bem como as análises do filósofo estadunidense Jaron Lanier e sua “teoria BUMMER” (“Behaviours of Users Modified, and Made into an Empire for Rent“).

O problema é o modo silencioso e a exploração da vulnerabilidade humana em sentido psicológico em sistemas de computação em nuvem acoplados com camadas de Realidade Aumentada e dispositivos de interatividade. Suponha que você entre em uma reunião simulada em um escritório. No quadro, há três pinturas. Uma de Cildo Meirelles, uma de Tarsila do Amaral e uma de Jackson Pollock. O que seria possível dizer de uma pessoa que ignora Meirelles e Pollock e presta atenção em Tarsila, por alguns segundos antes da reunião começar? No metaverso, em tese, todas essas interações podem ser registradas, rotuladas, catalogadas, identificadas a certas preferências e proxies sobre desejos e comportamentos. Na próxima vez que você usasse um aplicativo de redes sociais, poderiam aparecer anúncios sobre objetos de decoração, com preços levemente maiores (e personalizados), a partir daquele input, explorando um desejo de forma sutil, induzindo um processo de compra. Um outro exemplo ilustrativo. Suponha que, durante a reunião operacionalizada no metaverso, aparecessem diferentes pessoas andando de bicicleta na janela, em um momento de concentração de atenção. O sistema é projetado para testar diferentes corpos humanos, pedalando em diferentes modelos de bicicleta. Para qual você olharia e desviaria sua atenção? O que seria possível inferir sobre algo que desloca sua atenção?

Por ser um sistema bastante sofisticado de imersão, interatividade e colaboração, as possibilidades de inferências são muitas. As técnicas de perfilização de plataformas como Instagram talvez parecerão arcaicas e rudimentares perto das possibilidades de trabalho virtual em projetos conceituais de metaverso. Seria possível identificar reações a músicas ambientes, estímulos visuais (e mensurações por tempo de eyeball), transformando a vivência em laboratório permanente de mensuração. Para mercados centrados em perfilização, produção de subjetividades e governança algorítmica, trata-se de um prato cheio. O ensaio recente de Ronaldo Lemos na Ilustríssima da Folha de São Paulo sobre “A Grande Ruptura” explora muito bem como a fronteira do capitalismo contemporâneo está no interesse em impactar a experiência emocional dos usuários (que ele chamou de usuados) e na percepção de realidade.

Até que ponto leis brasileiras como o Marco Civil da Internet e a Lei Geral de Proteção de Dados, entre outras, estão atentas a estas futuras mudanças que podem ocorrer?

Precisamos discutir elementos mais centrais de desigualdades, vulnerabilidades, assimetrias de poderes e discriminação abusiva. Esses são elementos que estão sim presentes, de forma principiológica, no Marco Civil da Internet e na Lei Geral de Proteção de Dados Pessoais. Mas, evidentemente, oferecem uma resposta muito limitada para identificarmos a natureza do problema e o que pode ser feito a respeito, em nível coletivo.

As questões são muito mais importantes e grandiosas do que meras tecnicidades de regulação econômica e direitos digitais. A problemática demanda a presença constante de filósofos(as) nos debates, de engenheiros filósofos e de intersecções entre psicologia, sociologia e antropologia. Abre-se, também, uma discussão sobre como podemos ser “re-engenheirados” (como dizem os filósofos Evan Selinger e Brett Frischmann no importante livro Re-Engineering Humanity [Cambridge: Cambridge University Press, 2018]), em detrimento dos valores básicos de agência, autonomia e liberdade. Seria absurdo limitar a grandeza dessas discussões ao campo jurídico no sentido de aplicação correta das leis existentes. Woodrow Hartzog e Neil Richards colocam essa questão com muita clareza. A proteção de dados pessoais possui uma natureza procedimental que tende a legitimar os processos de tratamento de dados. É preciso retomar uma discussão sobre o “momento constitucional da privacidade” no sentido de centralidade da dimensão de poder e dos direitos civis na era digital.

Evidentemente que há contramovimentos jurídicos importantes a serem feitos – filósofas como Julie Cohen e Mireille Hildebrandt problematizam uma agenda mais abrangentes de legal protection by design e delimitação de uma infraestrutura para construção da personalidade em constantes fluxos de recomposição e renegociação mediadas pela tecnologia e pelo social, sem sermos estigmatizados pela projeção do que somos -, mas o ponto é que as discussões vão muito além de proteção de dados pessoais. Em um ensaio escrito com Davi Teófilo e Pedro Martins, chamamos esse processo expansivo de constitucionalização da proteção de dados no sentido de uma conexão mais intrínseca com a gramática dos direitos fundamentais e os valores de nossa comunidade política.

Como desenvolvimentos tecnológicos e seus desdobramentos, tais como o metaverso, mas não somente, acentuam ainda mais a desigualdade?

Há uma série de pensadores do Sul Global, como Jack Qiu e Rafael Grohmann, explorando a dimensão do trabalho nas economias imateriais, especialmente na dimensão de classes de um novo tipo de trabalhadores(as) das indústrias de I.A., que podem variar de trabalhadores(as) inseridos na dimensão do extrativismo material que dá sustentação a essas tecnologias (e.g. trabalhadores de campos de minério e nas corporações extrativistas que oferecem as matérias primas dos aparatos e dispositivos tecnológicos, como ocorre na Bolívia e muitos países latino-americanos) quanto trabalhadores de trabalhos manuais de assistência a sistemas computadorizados.

Com a sociedade em rede e o capitalismo imaterial, se articulam relações de classe específicas que acentuam processos de desigualdades constituídos historicamente. Na Inteligência Artificial do Sul Global, isso se revela por trabalhadores que dão suporte à infraestrutura fabril que permite a existência de algo como a Siri, da Apple, que depende de um conjunto de relações de produção e de trabalho em fábricas como da Foxconn. Além disso, como mostra a pesquisa de Jack Qiu, a China é uma fábrica global também pelo trabalho intensivo de tagueamento e classificação de imagens para machine learning, alimentação de bancos de dados e “trabalhos semi-escravos”, por assim dizer, de trabalho não inteligente. São trabalhos precários. Tagging labour, “trabalhos de clique” e todos os tipos de trabalho que ocorrem para aprimoramento das técnicas de aprendizado de máquinas e limpeza de bancos de dados. Não há inteligência artificial sem esse tipo de trabalho de clique, como argumenta também Antonio Casilli.

Da perspectiva da dimensão do trabalho, isso opera como um redimensionamento das relações centro-periferia, porém qualificado por essas “materialidades do trabalho digital”, utilizando aqui a expressão de Rafael Grohmann. O que precisamos desmascarar é essa falsa ideia de que existe uma “economia imaterial” descolada da materialidade, como se toda a sociedade global pudesse se beneficiar de “trabalhos criativos e inteligentes” e uma prosperidade abundante a todos. Essa é apenas uma das dimensões de desigualdades que essa discussão provoca.

Há, ainda, inúmeras outras dimensões de desigualdades, supressão de diversidades e formatação de visões de mundo a um padrão único dominante, o que abre inúmeras discussões para minorias e justiça social. Recentemente participei de um encontro com pesquisadores canadenses sobre Inteligência Artificial e discutimos como seria possível justiça social em códigos, automações e programações que implantam uma lógica Ocidental e uma gramática única, tendente a conceitos unívocos para descrição das “coisas” em sociedades multiculturais e plurinacionais.

Isso é absolutamente problemático quando se pensa nas cosmovisões indígenas. Em Ideias para Adiar o Fim do Mundo (São Paulo: Companhia das Letras, 2019), Ailton Krenak é certeiro nesse ponto ao mostrar como que os Krenak e os brancos pensam de forma distinta sobre o que é uma montanha. Mas classificar a montanha de um modo, atribuir a ela um significado único de “recurso natural” descolado do homem, já é uma imposição de poder de uma sociedade específica, em detrimento a outros povos que pensam de forma distinta. Quando as tecnologias operam essas novas formas de intermediação sobre a realidade, abre-se um conjunto de reflexões importantes sobre essas relações, que também estão conectadas com desigualdades, apesar de pouco discutidas.

Um argumento rasteiro, mas comum é o de que se as pessoas estão nas redes sociais não teriam porquê exigirem o direito à privacidade. Em que sentido isso é uma falácia?

Um livro que se dedica a desmontar essa falácia é Privacidade é Poder (São Paulo: Contracorrente, 2021), da Carissa Veliz, traduzido no Brasil por Samuel Rodrigues (um autor importante no debate sobre reconhecimento facial no Brasil) e publicado pela editora Contraponto. Acredito que há inúmeras inconsistências nessa argumentação. A primeira é que a utilização desses serviços não é mais luxo. É uma necessidade imposta pelas condições estruturais de sociabilidade e vida econômica. É impossível para um “empreendedor de si mesmo”, como dizem os sociólogos, não utilizar Instagram, YouTube, Twitter, etc. Com a pandemia, a digitalização e a datificação ocorreram à fórceps e são poucos os que podem se dar ao luxo – como faz o Yuval Harari – de não utilizar essas redes. Não é pequeno, também, o número de escolas totalmente dependentes de aplicações de internet e redes sociais para operacionalizar disseminação de conteúdo de natureza educacional. Nesse cenário, é difícil dizer se alguém escolhe estar ou não estar.

A segunda inconsistência é uma visão comodificada da privacidade e dos dados pessoais, como se fossem um bem que pudesse ser alienado, trocado, abdicado. Há uma literatura enorme sobre limites morais dos mercados que apresenta uma argumentação robusta sobre a inviabilidade social desse tipo de visão, em defesa de uma noção dignitária sobre direitos da personalidade (Margareth Radin, Marc Rotenberg e Stefano Rodotà são apenas alguns exemplos). Nos EUA, esse debate sempre ressurge, década após década, desde as formulações economicistas sobre trade-off feitas por juristas de análise econômica do direito da década de 1970, como Richard Posner. Mas mesmo intelectuais de peso da análise comportamental do direito, como Cass Sunstein, reconhecem que certos tipos de direitos não são cabíveis em análise custo-benefício e relações de trade-off.

Em Valuing Life (Chicago: University of Chicago Press, 2014), por exemplo, Sunstein apresenta esse argumento sobre a privacidade. É um direito profundamente conectado a um conjunto de outros valores centrais da vida cívica e social. A privacidade possui um valor social e político, sempre. A privacidade conecta-se às estruturas sociais de uma sociedade e aos valores constitucionais. E por estar profundamente ligada à autonomia e por fornecer condições psicológicas de desenvolvimento intelectual e cívico – como argumentou Alan Westin e argumenta hoje Julie Cohen – é um direito de feição política, de dimensão coletiva. Daí a importância em refutar um atomismo metodológico e possessivo que ainda domina parte das análises intelectuais.

No Brasil, nossa tradição jurídica é muito bem construída em torno das noções de direitos da personalidade. O direito do consumidor, que também foi uma profunda revolução no pensamento liberal do século XX, também trouxe à tona a problemática da vulnerabilidade nas relações de consumo, a dinâmica desigual dos contratos de adesão e o esforço social em reequilibrar práticas abusivas em torno das noções de boa-fé e transparência (graças ao trabalho de pessoas como Claudia Lima Marques, Antonio Herman Benjamin, Bruno Miragem e muitos outros). Esse argumento rasteiro não encontra terreno no Brasil. Nos mais importantes livros sobre o tema, desde René Ariel Dotti na década de 1980 até Danilo Doneda e Laura Schertel Mendes nas últimas duas décadas, há uma concepção clara sobre a relação entre direitos fundamentais e direito à privacidade. Nos últimos anos, esse debate cresceu tanto a ponto de mobilizar o Supremo Tribunal Federal a realizar uma decisão histórica sobre a proteção de dados pessoais enquanto direito fundamental autônomo (o caso IBGE, de 2020). Essa separação é importante na medida em que a proteção de dados pessoais se relaciona a princípios de justiça no fluxo dos dados, à “integridade contextual” dos fluxos e um conjunto de obrigações, estatais e privadas, que minimizem os riscos gerados às pessoas.

Hoje está claro, e reconhecido pelo sistema de justiça, que há uma dimensão não-preço de troca no uso de redes sociais, operacionalizada pela cessão dos dados pessoais (que são, em sua maioria, tomados do dispositivo e não simplesmente cedidos voluntariamente em fichas cadastrais). O fornecedor – seja qual for – possui deveres de boa-fé, não discriminação abusiva e cumprimento dos princípios previstos na Lei Geral de Proteção de Dados Pessoais. Esse é um grande avanço civilizatório.

Como construir um ambiente digital, tal como o metaverso, que garanta a ampliação da cidadania e que não seja somente um espaço da captura de dados para o capitalismo de vigilância?

Essa é uma das grandes questões políticas do nosso tempo, como sustentava Stefano Rodotà, um grande humanista italiano. Como garantir redução das assimetrias de poder, estimular a cidadania e tirar o melhor proveito possível das expansões dos “laboratórios eletrônicos” da computação? Essa é uma pergunta clássica, que nos acompanha desde a década de 1970.

Há inúmeras alternativas na mesa, que passam por uma multiplicidade de ações políticas, que se retroalimentam mutuamente: reforço de gramática dos direitos fundamentais, esforço científico no estudo das discriminações abusivas, transparência e accountability sobre processos de governança algorítmica, adoção de human rights due diligence por grandes corporações, ampliação da contestabilidade moral de certos mercados pela ampliação do espaço cívico e força da sociedade civil, adoção mandatória das avaliações de impacto à proteção de dados pessoais, inclusão das vozes minoritárias nos processos de controle social e definição de danos causados por essas tecnologias, auditorias interdisciplinares movidas por componentes artísticos, ampliação de recursos para Autoridades Independentes de Proteção de Dados Pessoais, investimento em processos de escuta ativa da sociedade civil em protótipos pelas corporações, incentivos premiais para projetos de interesse coletivo (e.g. museus interativos, projetos de conscientização ambiental, bibliotecas do bem comum), e muitas outras ideias.

O problema não é falta de ideias, que borbulham em centenas de entidades civis e centros de pesquisa. É preciso, também, termos a consciência de que vitórias e conquistas institucionais não são permanentes e podem ser facilmente destruídas. Nossas construções sobre direitos e sobre regulação são artefatos históricos que precisam ser constantemente defendidos. Essa é uma tarefa intergeracional permanente e incansável.

Fonte: https://outraspalavras.net/outrasmidias/metaverso-nova-fabrica-de-subjetividades-artificiais/