Como redes sociais direcionam imagensroleta russa jogo onlineviolência para meninos: 'Fica marcado na mente':roleta russa jogo online

Ele diz que ele e um colega decidiram analisar o que os algoritmos do aplicativo estavam recomendando aos usuários do Reino Unido, incluindo alguns jovensroleta russa jogo online16 anos.

Pouco tempo antes, ele havia trabalhado para a Meta, empresa concorrente que é dona do Facebook e do Instagram — outra plataforma que Cai usa.

Quando Andrew analisou conteúdo do TikTok, ficou assustado ao descobrir como postagens com conteúdoroleta russa jogo onlineviolência e pornografia, e promovendo opiniões misóginas, estavam sendo mostradas a alguns adolescentes, ele contou ao programa Panorama, da BBC.

Ele diz que,roleta russa jogo onlinegeral, adolescentes do sexo feminino recebiam recomendaçõesroleta russa jogo onlineconteúdo muito diferente com baseroleta russa jogo onlineseus interesses.

O TikTok e outras empresasroleta russa jogo onlinerede social usam ferramentasroleta russa jogo onlineinteligência artificial (IA) para remover a grande maioria do conteúdo prejudicial e sinalizar outros conteúdos para que sejam analisados por moderadores humanos, independentemente do númeroroleta russa jogo onlinevisualizações que tiveram.

Mas as ferramentasroleta russa jogo onlineIA não conseguem identificar tudo.

Andrew Kaung afirma que durante o temporoleta russa jogo onlineque trabalhou no TikTok, todos os vídeos que não fossem removidos ou repassados para moderadores humanos pela inteligência artificial — ou denunciados por outros usuários aos moderadores — só seriam analisados ​​novamente manualmente se atingissem um determinado patamarroleta russa jogo onlineaudiência.

Ele diz que,roleta russa jogo onlinedado momento, este patamar foi definido como 10 mil visualizações ou mais.

Ele temia que isso significasse que alguns usuários mais jovens estivessem sendo expostos a vídeos prejudiciais.

A maioria das principais empresasroleta russa jogo onlinerede social permite que pessoas com 13 anos ou mais se inscrevam.

O TikTok afirma que 99% do conteúdo que remove por violar suas regras é retirado por inteligência artificial ou moderadores humanos antesroleta russa jogo onlinealcançar 10 mil visualizações.

A plataforma também diz que realiza investigações proativasroleta russa jogo onlinevídeos com menos visualizações do que isso.

Quando trabalhou na Meta entre 2019 e dezembroroleta russa jogo online2020, Andrew Kaung conta que havia um problema diferente.

Segundo ele, embora a maioria dos vídeos fosse removida ou repassada para moderadores por ferramentasroleta russa jogo onlineinteligência artificial, a plataforma dependiaroleta russa jogo onlineusuários para denunciar outros vídeos depoisroleta russa jogo onlinejá tê-los visto.

Ele diz que levantou preocupações enquanto estavaroleta russa jogo onlineambas as empresas, mas se deparou sobretudo com a inércia, segundo ele, devido a temores sobre a quantidaderoleta russa jogo onlinetrabalho ou o custo envolvido.

Ele conta que foram feitas algumas melhorias posteriormente no TikTok e na Meta, mas que os usuários mais jovens, como Cai, foram deixadosroleta russa jogo onlinesituaçãoroleta russa jogo onlinerisco nesse meio tempo.

Vários ex-funcionários das empresasroleta russa jogo onlineredes sociais disseram à BBC que as preocupaçõesroleta russa jogo onlineAndrew Kaung eram legítimas.

Os algoritmosroleta russa jogo onlinetodas as grandes empresasroleta russa jogo onlinerede social têm recomendado conteúdo prejudicial para crianças, mesmo que involuntariamente, afirmou o Ofcom, o órgão reguladorroleta russa jogo onlinemídia do Reino Unido, à BBC.

"As empresas têm feito vista grossa e têm tratado as crianças como tratam os adultos", diz Almudena Lara, diretoraroleta russa jogo onlinedesenvolvimentoroleta russa jogo onlinepolíticasroleta russa jogo onlinesegurança online do Ofcom.

'Meu amigo precisavaroleta russa jogo onlineum choqueroleta russa jogo onlinerealidade'

O TikTok disse à BBC que tem configuraçõesroleta russa jogo onlinesegurança "líderes do setor" para adolescentes — e emprega maisroleta russa jogo online40 mil pessoas para manter os usuários seguros.

A plataforma afirmou que só neste ano espera investir "maisroleta russa jogo onlineUS$ 2 bilhõesroleta russa jogo onlinesegurança" — e encontra proativamente 98% do conteúdo que remove por violar suas regras.

Já a Meta, proprietária do Instagram e do Facebook, diz que conta com maisroleta russa jogo online50 ferramentas, recursos e funcionalidades diferentes para oferecer aos adolescentes "experiências positivas e adequadas à idade".

Cai contou à BBC que tentou usar uma das ferramentas do Instagram, e uma semelhante no TikTok, para dizer que não estava interessadoroleta russa jogo onlineconteúdo violento ou misógino — mas diz que continuou recebendo recomendações.

Ele se interessa por UFC, competiçãoroleta russa jogo onlineartes marciais mistas. E também se viu assistindo a vídeosroleta russa jogo onlineinfluenciadores controversos quando foram recomendados para ele, mas diz que não queria receber esse tiporoleta russa jogo onlineconteúdo mais extremo.

"Você fica com a imagem na cabeça, e não consegue tirarroleta russa jogo onlinelá. [Isso] fica marcado na mente. E você fica pensando naquilo pelo resto do dia", relata.

Ele acrescenta que as meninas que ele conhece, que têm a mesma idade, recebem recomendaçõesroleta russa jogo onlinevídeos sobre temas como música e maquiagem,roleta russa jogo onlinevezroleta russa jogo onlineviolência.

Agora com 18 anos, Cai conta que continuam oferecendo para ele conteúdo violento e misógino no Instagram e no TikTok.

Quando navegamos pelos Reels (vídeos curtos) do Instagram dele, vemos uma imagem menosprezando a violência doméstica. Ela mostra dois personagens lado a lado, um deles com hematomas, com a legenda: "Minha linguagem do amor". Outra mostra uma pessoa sendo atropelada por um caminhão.

Cai diz que percebeu que vídeos com milhõesroleta russa jogo onlinecurtidas podem persuadir outros jovens daroleta russa jogo onlineidade.

Ele conta, por exemplo, que um dos seus amigos foi atraído pelo conteúdoroleta russa jogo onlineum influenciador controverso — e começou a adotar opiniões misóginas.

Segundo Cai, o amigo dele "foi longe demais".

"Ele começou a dizer coisas sobre as mulheres. É como se você tivesse que dar ao seu amigo um choqueroleta russa jogo onlinerealidade."

Cai diz que comentouroleta russa jogo onlinepostagens para dizer que não gostava delas e, quando acidentalmente curtiu vídeos, tentou "descurtir", na esperançaroleta russa jogo onlineque isso reiniciasse os algoritmos. Mas ele afirma que acabou com mais vídeos inundando seus feeds.

Mas, afinalroleta russa jogo onlinecontas, como os algoritmos do TikTok funcionam?

De acordo com Andrew Kaung, o que fomenta os algoritmos é o engajamento, independentementeroleta russa jogo onlineo engajamento ser positivo ou negativo. Isso pode explicar,roleta russa jogo onlineparte, por que os esforçosroleta russa jogo onlineCai para manipular os algoritmos não estavam funcionando.

O primeiro passo para os usuários é especificar quais são seus interesses quando se inscrevem. Andrew diz que parte do conteúdo inicialmente oferecido pelos algoritmos para, digamos, um jovemroleta russa jogo online16 anos, é baseado nas preferências que eles indicam, e nas preferênciasroleta russa jogo onlineoutros usuáriosroleta russa jogo onlineidade semelhante,roleta russa jogo onlinelocais semelhantes.

De acordo com o TikTok, os algoritmos não são informados pelo gênero do usuário. Mas Andrew afirma que os interesses que os adolescentes manifestam quando se inscrevem, geralmente têm o efeitoroleta russa jogo onlinedividi-losroleta russa jogo onlineacordo com o gênero.

O ex-funcionário do TikTok diz que alguns meninosroleta russa jogo online16 anos podem ser expostos a conteúdo violento "imediatamente", porque outros usuários adolescentes com preferências semelhantes manifestaram interesse por este tiporoleta russa jogo onlineconteúdo —mesmo que isso signifique apenas gastar mais temporoleta russa jogo onlineum vídeo que prenda a atenção deles por um pouco maisroleta russa jogo onlinetempo.

Os interesses indicados por muitas adolescentes do sexo feminino nos perfis que ele analisou — "cantoras pop, músicas, maquiagem" — significavam que esse conteúdo violento não era recomendado para elas, diz ele.

Andrew explica que os algoritmos utilizam o "aprendizado por reforço" — um métodoroleta russa jogo onlineque os sistemasroleta russa jogo onlineinteligência artificial aprendem por tentativa e erro — e se treinam para detectar o comportamentoroleta russa jogo onlinerelação a diferentes vídeos.

Ele diz que eles são desenvolvidos para maximizar o engajamento, mostrando vídeos que eles esperam que você passe mais tempo assistindo, comentando ou curtindo — tudo isso para que você volte para ver mais.

O algoritmo que recomenda conteúdo para a aba "Para Você" do TikTok, ele diz, nem sempre diferencia entre conteúdo prejudicial e não prejudicial.

De acordo com Andrew, um dos problemas que ele identificou quando trabalhava no TikTok era que as equipes envolvidas no treinamento e codificação desse algoritmo nem sempre sabiam a natureza exata dos vídeos que ele estava recomendando.

"Eles veem o númeroroleta russa jogo onlineespectadores, a idade, a tendência, esse tiporoleta russa jogo onlinedado muito abstrato. Eles não seriam necessariamente expostos ao conteúdo", explica o ex-analista do TikTok.

Foi por isso que,roleta russa jogo online2022, ele e um colega decidiram dar uma olhadaroleta russa jogo onlineque tiposroleta russa jogo onlinevídeos estavam sendo recomendados para uma variedaderoleta russa jogo onlineusuários, incluindo algunsroleta russa jogo online16 anos.

Ele conta que eles ficaram preocupados com o conteúdo violento e prejudicial sendo oferecido a alguns adolescentes — e sugeriram ao TikTok que atualizasse seu sistemaroleta russa jogo onlinemoderação.

Eles queriam que o TikTok rotulasse claramente os vídeos para que todos que trabalham lá pudessem ver por que eles eram prejudiciais — violência extrema, abuso, pornografia e assim por diante —, e contratasse mais moderadores especializados nestas diferentes áreas. Andrew diz que suas sugestões foram rejeitadas na época.

O TikTok afirmou que tinha moderadores especializados na época e, conforme a plataforma cresceu, continuou a contratar mais. Também disse que separou diferentes tiposroleta russa jogo onlineconteúdo prejudicial — no que chamaroleta russa jogo onlinefilas — para os moderadores.

'É como pedir a um tigre para não comer você'

Andrew Kaung afirma que,roleta russa jogo onlinedentro do TikTok e da Meta, foi muito difícil fazer as mudanças que ele achava necessárias.

"Estamos pedindo a uma empresa privada, cujo interesse é promover seus produtos, que se modere, o que é como pedir a um tigre para não comer você", diz ele.

Ele também acredita que a vidaroleta russa jogo onlinecrianças e adolescentes seria melhor se eles parassemroleta russa jogo onlineusar smartphones.

Mas, para Cai, proibir adolescentesroleta russa jogo onlineusar celular ou redes sociais não é a solução. O smartphone é parte integrante daroleta russa jogo onlinevida — uma maneira muito importanteroleta russa jogo onlinese comunicar com os amigos, navegar quando está foraroleta russa jogo onlinecasa e comprar coisas.

Em vez disso, ele quer que as empresasroleta russa jogo onlinerede social deem mais ouvidos ao que os adolescentes não querem ver. Ele quer que as empresas tornem as ferramentas que permitem que os usuários indiquem suas preferências mais eficazes.

"Sinto que as empresasroleta russa jogo onlinerede social não respeitamroleta russa jogo onlineopinião, desde que renda dinheiro a elas", diz Cai.

No Reino Unido, uma nova lei vai forçar as empresasroleta russa jogo onlinerede social a verificar a idade das crianças, e impedir que as plataformas recomendem pornografia ou outro tiporoleta russa jogo onlineconteúdo prejudicial aos jovens. O Ofcom, órgão reguladorroleta russa jogo onlinemídia do Reino Unido, é responsável por aplicá-la.

Almudena Lara, diretoraroleta russa jogo onlinedesenvolvimentoroleta russa jogo onlinepolíticasroleta russa jogo onlinesegurança online do Ofcom, afirma que, embora o conteúdo prejudicial que afeta predominantemente mulheres jovens — como vídeos que promovem transtornos alimentares e automutilação — tenha estado, com razão, sob os holofotes, as vias algorítmicas que levam o ódio e a violência sobretudo para adolescentes e jovens do sexo masculino receberam menos atenção.

"Tende a ser uma minoriaroleta russa jogo online[crianças] que é exposta ao conteúdo mais prejudicial. Mas sabemos, no entanto, que uma vez que você é exposto a esse conteúdo prejudicial, ele se torna inevitável", diz Lara.

O Ofcom afirma que pode multar as empresas e abrir processos criminais se elas não fizerem o suficiente, mas as medidas só vão entrarroleta russa jogo onlinevigorroleta russa jogo online2025.

No Brasil, o debate sobre a regulação e moderaçãoroleta russa jogo onlineconteúdo nas plataformas digitais vem ficando mais acirrado nos últimos anos — com o avançoroleta russa jogo onlinealguns projetosroleta russa jogo onlineleiroleta russa jogo onlinetramitação no Congresso. Entre eles, o PL 2.628/2022, que prevê a criaçãoroleta russa jogo onlinemecanismos para proteger especificamente crianças e adolescentesroleta russa jogo onlineambientes digitais, como as redes sociais.

A resolução 245 do Conselho Nacional dos Direitos da Criança e do Adolescente (Conanda), publicada neste ano, também representa um avanço neste sentido, estabelecendo entre outras coisas diretrizes que as empresas provedorasroleta russa jogo onlineprodutos e serviços digitais devem adotar para garantir e proteger os direitos deste público.

O TikTok diz que usa "tecnologia inovadora" e fornece configuraçõesroleta russa jogo onlinesegurança e privacidade "líderes do setor" para adolescentes, incluindo sistemas para bloquear conteúdo que pode não ser adequado, e que não permite violência extrema ou misoginia.

A Meta, dona do Instagram e do Facebook, afirma que conta com maisroleta russa jogo online"50 ferramentas, recursos e funcionalidades diferentes" para oferecer aos adolescentes "experiências positivas e adequadas à idade". De acordo com a Meta, a empresa busca feedbackroleta russa jogo onlinesuas próprias equipes, e potenciais mudançasroleta russa jogo onlinepolítica passam por um processo sólido.