Fotografia e Música

O título desse texto parece complicado e totalmente fora do racional? Sim, pois a realidade pode ser mais complicada do que a ficção. Uma usuária da Meta na Austrália postou no instagram um singelo vídeo de seus três cachorros olhando pela janela de sua casa. Uma cena totalmente normal. Alguns momentos depois ela recebeu um e-mail da meta dizendo que sua conta do Instagram havia sido suspensa e seria banida permanentemente. A empresa afirma que seu vídeo violava as diretrizes da comunidade sobre “exploração sexual infantil, abuso e nudez”. E a coisa fica pior, pois a conta comercial da usuária, que era vinculada à conta pessoal, também foi banida. Uma situação absurda que milhares de pessoas passam todos os dias com as redes sociais da Meta.

O caso dessa australiana, assim como o vídeo que ela postou, podem ser vistos nessa reportagem da TV local.

Esse tipo de situação acontece pelo fato de não haverem mais seres humanos trabalhando com o reconhecimento de conteúdo e banimento de contas. Algoritmos tentam reconhecer cenas problemáticas e acabam errando nessa atividade. Contas verdadeiramente ofensivas continuam no ar e, mesmo com denúncias, o algoritmo não encontra nada de errado e essas contas continuam no ar. Por outro lado, contas legítimas são banidas sem direito a reclamação. Você só recebe um aviso de que suas postagens vão contra os padrões da comunidade, mas na maioria dos casos não é nem informado quais regras foram quebradas. Quando esses usuários tentam entrar em contato com a empresa é impossível ser atendido por um atendente humano, tornando todas as reclamações em atividades inúteis.

Por conta disso vários usuários estão movendo ações na justiça contra a Meta. O fotógrafo Chris Moore e um escritório de advocacia dos EUA está movendo uma ação multinacional contra a empresa e vários tribunais de pequenas causas dos Estados Unidos estão recebendo ações de consumidores que se sentem lesados.

Embora a Meta seja uma empresa particular que possua suas próprias regras do que pode ser compartilhado em suas redes sociais, as plataformas se transformaram no principal ponto de marketing para milhões de pequenos empreendedores, lojas e até grandes empresas. Ter todo o trabalho de construção de marcas destruído por uma decisão de uma IA que não entende direito o que está acontecendo pode ser um grande golpe no seu negócio.

Colocar todos os ovos na mesma cesta pode ser um grande problema quando essa cesta não possui regras claras e um bom canal de comunicação com o seu cliente.