Popularidade das IAs pode trazer nova onda de cyberbullying? Por Lia Sérgia Marcondes

Por Lia Sérgia Marcondes, de Portugal, para o Drops de Jogos.

Uso generalizado de IA por parte das crianças e adolescentes acarretou um novo conjunto de preocupações quanto ao uso nocivo das ferramentas.

O Brasil  é o SEGUNDO país, no mundo, com o maior índice de vítimas de cyberbullying. De acordo com o Instituto Ipsos, 3 em cada 10 crianças e adolescentes brasileiros já sofreram essa forma de violência. Apenas em 2023, foram mais de 120 mil casos registrados. Especialistas do mundo todo já apontam que a popularização e os avanços das ferramentas de IA podem ser uma alavanca para o aumentos destes números, não apenas no Brasil.

Você já deve ter recebido vídeos engraçados de políticos ou celebridades falando coisas absurdas, dançando de forma engraçada ou com seus rostos montados em cenas de novelas e filmes. As famosas “deepfake”, criadas com IA. Mas assim como esse tipo de conteúdo pode ser criado para fins políticos ou de diversão, criminosos sexuais podem utilizar imagens do rosto de crianças e adolescentes e criar deepfakes com cenas de conteúdo adulto sexual. Sim, a (nada) boa e velha (mas atualizada): pornografia.

Recentemente, o FBI divulgou um alerta sobre o aumento de casos de “sextorção”*, intensificados pelo uso de IA. A facilidade de acesso a ferramentas que possibilitam a criação de deepfakes e a clonagem de voz, possibilitou aos criminosos e agressores sexuais novas formas de extorquir e ferir outras pessoas.

(* Sextorção é  quando um agressor pressiona a vítima a realizar atos sexuais ou compartilhar fotos ou vídeos explícitos, ameaçando expor informações embaraçosas sobre elas.)

Acontece que isso não parte apenas de criminosos adultos. Crianças e adolescentes também estão a fazer isto. Alguns podem fazer isso por diversão ou por curiosidade, e outros porque realmente querem machucar algum colega. E se a motivação pode ser uma dúvida, os efeitos do ato são uma certeza: a vítima de um esquema de sextorção sofre um imenso desgaste emocional, muito difícil de “superar”.  As consequências são muito mais graves do que se pode pensar, causando traumas severos até a perda de confiança. A longo prazo, as sequelas de ser vítima deste tipo de crime pode aumentar.

Como os governos podem atuar para combater essa onda?

BRASIL: Em junho do ano passado, o presidente Luiz Inácio Lula da Silva sancionou a lei que incluiu o bullying e o cyberbullying no rol dos crimes previstos no Código Penal brasileiro. A pena em caso de condenação por bullying é de multa, mas é agravada para dois a quatro anos de prisão, mais multa, em caso de cyberbullying.

REINO UNIDO: poderá ser o primeiro país a introduzir as novas infrações de abuso sexual de IA em seu código penal. Os atos de possuir, tirar, fazer, mostrar ou distribuir imagens explícitas de crianças já era categorizado como crime na Inglaterra e no País de Gales. Mas com as novas infrações, tornar-se ilegal o uso de ferramentas de inteligência artificial que criam imagens de abuso sexual infantil. Ou seja, ferramentas que podem “nudeificar” imagens reais de crianças.

A Reino Unido declarou no início deste mês que também tornaria a criação e o compartilhamento de “deepfakes” sexualmente explícitos – vídeos, fotos ou clipes de áudio feitos com IA para parecerem reais – um crime.

EUA: O País é “campeão” no ranking de crimes digitais contra crianças e adolescentes. Um projeto de lei foi apresentado pelo senador do estado da Califórnia, Steve Padilla, com a proposta de lembrar crianças que a IA não é uma pessoa. De acordo com o comunidado de imprensa divulgado, a intenção é proteger as crianças de “aspectos viciantes, isolantes e influentes” das ferramentas com inteligência artificial. O projeto de lei também tem por objetivo “exigir que uma plataforma de mídia social tome várias medidas para impedir o cyberbullying de menores”.

Uma das propostas da lei, obriga as empresas de IA a fornecer relatórios anuais ao Departamento Estadual de Serviços de Saúde com detalhes das interações das crianças com a plataforma. Além disso, a companhia teria que submeter o chatbot a auditorias regulares por terceiros para garantir a conformidade com a lei. O documento deverá apontar as seguintes informações:

• O número de vezes que o operador detectou manifestações de ideação suicida por parte de utilizadores menores de idade;
• O número de vezes que um usuário menor de idade cuja ideação suicida foi detectada pelo operador tentou suicídio;
• O número de vezes que um usuário menor de idade cuja ideação suicida foi detectada pelo operador morreu por suicídio;
• O número de vezes que um chatbot mencionou ideações ou ações suicidas ao usuário.

PORTUGAL: Apesar de não figurar nem entre os 10 piores da lista, em Portugal,  estima-se que 1  em cada 10 crianças sejam vítimas de cyberbullying. A Polícia de Segurança Pública portuguesa tem o Programa Escola Segura (PES), onde atua junto às escolas, a divulgar ações e atividades que promovam a cidadania e a segurança no ambiente escolar e fora dele.

Desde 2015, o programa inclui informações e ações sobre a segurança digital. Mas neste ano, o PES incluiu em seu trabalho a Inteligência Artificial (IA) como nova temática, que se junta a outros temas como a privacidade e segurança digital, notícias falsas, aliciamento online, conteúdos eróticos e perseguição, jogos e dependência online, cibercrime, plataformas de ensino, discurso de ódio e cyberbullying.

O que as famílias podem fazer nessa “guerra” ao cyberbullying?

A OSC mineira CeMAIS, lançou no final de janeiro, a cartilha “Cyberbullying não é legal: construindo um ambiente virtual seguro para crianças e adolescentes”, através de projeto financiado pelo Fundo Municipal de Direitos da Criança e do Adolescente, de Belo Horizonte. 

A proposta da cartilha é orientar famílias, educadores e todos que lidam com crianças e adolescentes sobre como prevenir e lidar com situações de cyberbullying, com o objetivo de ajudar de identificar as situações e ajudar as vítimas. Link para baixar a cartilha:

https://cemais.org.br/fotos/c55eb956811b181b2009b0c080d92e5f_Cyberbullying%20n%C3%A3o%20%C3%A9%20legal.pdf

10 FORMAS DE AJUDAR E PREVENIR

1. Garanta a segurança do seu filho. A segurança e o bem-estar do seu filho devem ser prioridade. Demonstre apoio incondicional e reforce, por meio de palavras e ações, que o objetivo é interromper o bullying cibernético.
2. Converse e ouça com atenção. Mantenha um diálogo tranquilo sobre o que está acontecendo. Por mais difícil que seja, compreenda o contexto sem minimizar a situação ou justificar o comportamento do agressor. Ninguém merece ser vítima de bullying.
3. Guarde todas as provas. Registre capturas de tela, mensagens, fotos e vídeos que evidenciem o cyberbullying. Documente detalhes como localização, frequência, gravidade e possíveis testemunhas. Essas informações são essenciais para investigação e medidas legais.
4. Obtenha a parceria da escola. O bullying online geralmente começa no ambiente escolar. Informe os administradores para que tomem providências e garantam um ambiente seguro. Os educadores têm a responsabilidade de acompanhar e oferecer suporte.
5. Evite contato direto com os pais do agressor. Nem todos os pais reagem bem ao saber que seus filhos estão envolvidos em bullying. O confronto pode gerar resistência e retaliação. Aborde a situação com critério e estratégia.
6. Denuncie na plataforma ou rede social. Apesar de mudanças recentes nas plataformas da Meta, o cyberbullying viola os Termos de Serviço de quase todas as plataformas. Mesmo sem identificar o agressor, relate o caso ao suporte do site, aplicativo ou operadora para que tomem providências e impeçam novas ocorrências.
7. Busque ajuda profissional se necessário. Um especialista em saúde mental pode ajudar seu filho a lidar com os impactos do bullying. Crianças e adolescentes, muitas vezes, sentem-se mais confortáveis conversando com um profissional do que com os pais.
8. Denuncie casos de preconceito ou abuso sexual. Se o bullying envolver questões sexuais, racismo ou deficiência, procure a delegacia de crimes cibernéticos da sua cidade. Eles conduzirão a investigação e registrarão um boletim de ocorrência, protegendo os direitos da vítima.
9. Acione a polícia em caso de agressão física. O Brasil possui leis que combatem ameaças online. Se houver agressão física ou risco iminente, entre em contato com a polícia, pois eles possuem recursos e experiência para lidar com crimes digitais.
10. Previna novas ocorrências. Se o bullying ocorre em redes sociais (YouTube, Instagram, TikTok, X etc.), ajuste as configurações de privacidade para impedir contato com o agressor. Incentive seu filho a compartilhar suas preocupações antes que problemas menores se tornem mais graves.

Lia Sérgia Marcondes

Mulher, mãe, cozinheira e jornalista, não necessariamente nessa mesma ordem. De esquerda até o último fio de cabelo. Vamos conversar sobre maternidade, cultura pop, arte, tecnologia, não necessariamente nessa mesma ordem. Afinal, no fim do dia tudo é política.

Veja nossa campanha de financiamento coletivo, nosso crowdfunding.

Conheça os canais do Drops de Jogos no YouTube, no Facebook, na Twitch, no TikTok e no Instagram.