Você está usando um navegador antigo. Por favor, utilize versão suportada para ter acesso às melhores funções do MSN.

Instagram usará aprendizado de máquina para ajudar a combater cyberbullying

Logotipo do(a) Gizmodo Gizmodo 11/10/2018 Melanie Ehrenkranz
© Reprodução

Com centenas de milhões de pessoas inundando redes sociais, as empresas de tecnologia estão tendo dificuldade para eliminar o assédio de suas plataformas — e, portanto, elas estão voltando suas atenções para as máquinas, na esperança de encontrar ajuda. Nesta terça-feira (9), o Instagram anunciou que estava fazendo exatamente isso.

• Quando inevitavelmente estragarem o Instagram, você pode culpar este cara
• Parece que Mark Zuckerberg foi a razão para os fundadores do Instagram deixarem o Facebook

"Embora a maioria das fotos compartilhadas no Instagram seja positiva e traga alegria às pessoas, ocasionalmente, uma foto compartilhada é indelicada e indesejável", escreveu o novo chefe do Instagram, Adam Mosseri, em um post de blog. "Agora, estamos usando tecnologia de aprendizado de máquina para detectar proativamente o bullying em fotos e suas legendas, enviando-as para a revisão de nossa equipe de Operações de Comunidade."

O Instagram permite que os usuários denunciem contas que mostrem intenção de fazer bullying ou assediar, que são contra as Diretrizes da Comunidade, embora não esteja claro como essas contas são penalizadas ou desligadas com eficácia e rapidez. Mosseri observou no post de blog de terça-feira que "muitas pessoas que experimentam ou observam bullying não o denunciam" e que implementar esses esforços junto com os humanos ajudará a equipe a "identificar e remover significativamente mais bullying". Essa nova tecnologia já foi implantada e continuará a ser lançada nas próximas semanas, de acordo com a empresa.

O Instagram também adicionará seu filtro de comentários contra bullying — que "oculta comentários que contenham ataques à aparência ou ao caráter de uma pessoa, assim como ameaças ao bem-estar ou à saúde de uma pessoa" — em todos os vídeos ao vivo. Ele já está disponível nas seções Feed, Explorar e Perfil do Instagram. O serviço também acrescentou um "efeito de câmera de 'bondade' para espalhar a positividade", seja lá qual for o efeito real disso.

Este é o primeiro anúncio de Mosseri para o serviço de compartilhamento de fotos desde que seus fundadores originais deixaram a empresa no mês passado. O Instagram, que pertence ao Facebook, não ganhou a mesma reputação de sua empresa-mãe de servir como um catalisador para a devastação psicológica, a violência e a destruição da democracia, mas ainda tem seus problemas, com o bullying no topo da lista. Uma pesquisa da ONG sem fins lucrativos Ditch the Label no ano passado descobriu que, de dez mil entrevistados com idades entre 12 e 20 anos, 7% disseram ter sido vítimas de bullying no Instagram. A plataforma foi classificada como a rede social número um para o cyberbullying — um pouco mais alto no ranking até do que o próprio Facebook.

Embora se apoiar em algoritmos para ajudar com problemas em escala tão grande não seja ruim por si só, essa está longe de ser uma solução definitiva. Os algoritmos não são livres de viés; além disso, atualmente, eles não têm a capacidade de entender nuances e contexto na linguagem humana. Eles já cometeram erros no passado e ainda não provaram estar prontos para combater sem falhas um problema tão grande, complexo e delicado quanto o cyberbullying.

Imagem do topo: Getty

___________________

Vídeo: Caminhão carrega casa em estrada no Brasil (Via KameraOne)

A SEGUIR
A SEGUIR

Mais de Gizmodo

image beaconimage beaconimage beacon