Em maio de 2021, Esperanza Gómez Silva, uma atriz e modelo do setor de entretenimento adulto, ajuizou uma ação na Corte Constitucional da Colômbia contra a Meta após perder sua conta profissional no Instagram com mais de cinco milhões de seguidores. O InternetLab foi convidado a contribuir para o caso. 

O caso de Esperanza Gómez Silva 

Esperanza abriu sua conta na plataforma com o objetivo de expandir seu modelo de negócios e consolidar sua marca pessoal. Entre os meses de março e maio de 2021, a Meta removeu algumas publicações sob a justificativa de que continham “serviços sexuais adultos”, o que não é permitido pelas políticas de suas redes sociais. Ainda, alertou a modelo de que o cumprimento das regras da plataforma era necessário para evitar a exclusão de sua conta. 

Em sua ação, a atriz declara que, apesar de ter cumprido as condições de uso e as políticas comunitárias do Instagram, teve a sua conta desativada. Em razão disso, argumenta que a Meta violou seus direitos fundamentais, como a liberdade de expressão, o livre desenvolvimento de sua personalidade, a igualdade, o direito ao trabalho, a uma vida digna e uma renda mínima, assim como, o direito à não discrminação. Em seus pedidos, a atriz e modelo demanda a restauração de sua conta no Instagram e o pagamento de uma indenização pelos danos sofridos. 

A contribuição do InternetLab 

Devido à necessidade da Corte Constitucional em possuir informações técnicas adicionais sobre os possíveis vieses de ferramentas de inteligência artificial utilizadas para moderação de conteúdo – especialmente por razões de gênero ou relacionado ao trabalho de usuários que criam conteúdo adulto em plataformas – para analisar o caso, o InternetLab foi convidado a apresentar suas contribuições. 

As perguntas direcionadas pela Corte procuravam entender:

i. O funcionamento da inteligência artificial na moderação de conteúdo em plataformas sociais;

ii.  A existência de vieses em ferramentas de inteligência artificial utilizadas para moderação de conteúdo, especialmente em casos de mulheres que trabalham com venda de conteúdo adulto fora da plataforma;

iii. Estratégias para enfrentar vieses em ferramentas de inteligência artificial de moderação de conteúdo e

iv. Como as plataformas de redes sociais evitam se tornarem intermediários de outras plataformas ou sites com conteúdo adulto, como OnlyFans. 

Em nossa contribuição, ressaltamos que é impossível prescindir de sistemas de inteligência artificial de moderação de conteúdo para dar conta dos milhares de conteúdo que são diariamente veiculados no mundo inteiro, em línguas e conjunturas sociais, políticas, culturais e jurídicas diferentes. A ausência de ferramentas de automação poderia, inclusive, impedir a atividade de moderação de conteúdo de grandes plataformas digitais. 

Todavia, também não é possível ignorar o fato de que toda inteligência artificial desenvolvida para esta função está apta a cometer erros. Algumas pesquisas já demonstram a possibilidade de tais ferramentas reproduzirem desigualdades estruturantes e potencializarem violências. Especificamente no âmbito de questões envolvendo gênero e sexualidade, há evidências de detecção de vieses em sistemas de moderação de conteúdo que utilizam inteligência artificial. 

Um estudo conduzido pelo InternetLab identificou que este tipo de tecnologia pode não ser capaz de distinguir a diferença entre discursos de ódio contra pessoas LGBTQIA+ e conteúdo publicado por pessoas LGBTQIA+, que frequentemente ressignificam termos compreendidos como ofensivos, positivando-os para comunicação entre pares.  Contribuímos também em consulta aberta pelo Oversight Board, Comitê de Supervisão da Meta, relacionada a casos reincidentes de moderação imprecisa e/ou equivocada em publicações de pessoas trans e não-binárias sobre procedimentos de afirmação de gênero, sob a justificativa de que elas violariam as políticas de nudez e de proposta de cunho sexual. 

Em razão desse cenário, é fundamental que essas ferramentas estejam em constante aprimoramento. Para que a inteligência artificial reconheça os contextos e as especificidades locais e de grupos historicamente marginalizados, é necessário que:

(i) existam estratégias de transparência sobre os mecanismos de moderação, combinada com métodos de prestação de contas e regras sobre devido processo na moderação de conteúdo; 

(ii) haja a incorporação de etapas de supervisão realizadas por pessoas qualificadas que revejam e redirecionem  o trabalho das máquinas; e 

(iii) um constante investimento e reavaliação desses sistemas, por meio de diálogos com especialistas locais e equipes interdisciplinares que sejam capazes de abordar os desafios relacionados a idiomas e conjunturas específicos. 

Por fim, também é necessário destacar que, como cada plataforma possui espaço e liberdade para desenhar suas políticas de formas diferentes, haverão diferentes expectativas quanto aos possíveis discursos encontrados em cada rede. Em uma plataforma que permita conteúdo com nudez, o usuário tem a expectativa de encontrar uma determinada linguagem, mais voltada ao público adulto; enquanto naquelas em que este tipo de conteúdo é proibido, espera-se que o tipo de interação e linguagem sejam apropriadas a todas as idades. Há, assim, uma pluralidade de discursos que, no entanto, devem levar em consideração as camadas extras de sensibilidade que conteúdos adultos carregam, como a exploração sexual de crianças e adolescentes e a divulgação não consentida de imagens íntimas.

A contribuição está disponível para leitura em português e espanhol.