Instagram implementa inteligência artificial para detectar bullying em fotos

No ano passado, o Instagram introduziu um filtro de comentários aprimorado que usa a inteligência artificial para identificar palavras e frases ofensivas em contextos desafiadores. Agora, a empresa está expandindo um filtro semelhante para fotos e legendas. Hoje, anunciou que usará a inteligência artificial para “detectar proativamente o bullying” antes de enviar conteúdo para moderadores humanos efetuarem a revisão.

O novo recurso será lançado para os usuários nas próximas semanas. Além disso, a mesma tecnologia também está sendo adicionada a vídeos ao vivo para filtrar comentários.

Este é o primeiro anúncio do produto vindo do novo chefe do Instagram, Adam Mosseri, que assumiu o cargo após a saída precipitada dos cofundadores Kevin Systrom e Mike Krieger, no mês passado.

Com a confiança do público no Facebook continuando a cair, o Instagram continua sendo o ponto positivo da linha de produtos da empresa. É popular, lucrativo e ainda não foi afetado pelos escândalos que prejudicaram o Facebook. Neste contexto, usar a inteligência artificial para ajudar a eliminar conteúdo ofensivo e manter o Instagram em casa para boas vibrações é extremamente importante.

Uma matéria publicada na Wired (em inglês) no ano passado explicou alguns dos detalhes dos filtros de comentários da inteligência artificial do Instagram, mas está bem estabelecido que esse tipo de tecnologia não é uma solução para a moderação de conteúdo. A IA é barata de implantar em escala, sim, mas ainda tem dificuldade em lidar com o contexto utilizado pelos humanos. É por isso que é bom que esses novos filtros de bullying também enviem conteúdo para moderadores humanos realizarem a verificação final. Automação sem supervisão é uma receita para o desastre.

Curiosamente, o Instagram diz que não é apenas analisado legendas de fotos para identificar o bullying, mas também a foto em si. Isso pode ser uma boa ideia, considerando que, quando o Facebook anunciou que varreria memes usando a IA, as pessoas imediatamente começaram a pensar em maneiras de contornar tais filtros.

Juntamente com os novos filtros, o Instagram também está lançando um “efeito de câmera da bondade”, que parece ser uma maneira de espalhar uma mensagem positiva como um método para aumentar o engajamento do usuário. Ao usar a câmera traseira, os efeitos preenchem a tela com uma sobreposição de “comentários gentis em vários idiomas”. Mude para a câmera frontal e você terá um brilho de corações e um incentivo educado para “marcar um amigo que você quer ajudar.”