Lições de um terrível episódio

Estudantes usaram um site de inteligência artificial especializado em remover as roupas de fotos de jovens que foram postadas nas redes sociais, simulando sua nudez com perfeição

Há tempos venho alertando as famílias sobre os riscos que a internet traz para crianças e adolescentes, em especial as redes sociais.

Os inúmeros e graves danos do excesso de permanência e os riscos de golpes, predadores etc., são enormes. E pior, agora foram ampliados pela disponibilidade cada vez maior de aplicativos abertos de inteligência artificial.

Nesta quarta-feira, os pais de cerca de 20 jovens do Colégio Santo Agostinho na Barra da Tijuca, cuja maioria de famílias pertence à elite financeira carioca, procuraram a Delegacia de Proteção à Criança e ao Adolescente (DPCA) para denunciar um caso grave e preocupante: alunos do 7º ao 9º ano usaram um site de inteligência artificial especializado em remover as roupas de fotos das jovens que foram postadas nas redes sociais, simulando sua nudez com perfeição.

Pior: não apenas manipularam fotos das meninas, como também disseminaram as imagens adulteradas em grupos de whatsapp e outros.

A Direção do colégio distribuiu um documento em que diz que “apura o caso e está adotando as medidas previstas no Regimento Escolar”.

Os meninos envolvidos podem responder criminalmente por “fato análogo à simulação e participação de criança ou adolescente em cena de sexo explícito ou pornográfica por meio de adulteração, montagem ou modificação de fotografia, vídeo ou qualquer outra forma de representação visual. Incorre nas mesmas penas quem vende, expõe à venda, disponibiliza, distribui, publica ou divulga por qualquer meio, adquire, possui ou armazena o material produzido".

Nos grupos de pais da escola circula a notícia que o aplicativo foi obtido na “deep web”. Erro crasso. Basta um pesquisa rápida no Google e mais de um aplicativo surge em apenas um click, para qualquer pessoa usar, sem necessidade de documentos para verificação de idade.

A tecnologia é usada desde 2020, e eu mesmo e outros especialistas já fizemos alertas sobre os riscos de compartilhamento de fotos de crianças na internet, e seu uso para fins ilícitos como a pedofilia.

Não tem jeito, queridos pais. A internet abriu o portal do céu, mas também o do inferno. E a inteligência artificial intensifica muito os perigos.

Há várias dimensões nesse episódio que precisam ser consideradas: antes de mais nada, a falta de civilidade desses meninos e de noções básicas de cidadania, tema de duas colunas recentes aqui no GLOBO.

Desrespeito a colegas, invasão da privacidade, do corpo do outro para usufruto próprio já é grave. Muito mais grave é disseminar essas imagens. A violência desse gesto é óbvia. Mesmo assim, imagino os meninos se divertindo ao fazê-lo.

Isto não significa que sejam pessoas ruins, mas que, além de muito imaturos, lhes faltam noções essenciais de convivência com outro, de respeito, de contenção, de não violência. Um mínimo de conhecimento que devia ter sido transmitido pela família e pela escola.

Nenhum dos dois pode ser isentar da educação para a cidadania. Sabemos que com muitas famílias bastante ausentes, e adultos passando tempo em excesso em seu celulares, desconectados de seus filhos, essa tarefa anda sobrecarregando as escolas. Mas não há alternativa: é preciso educar para a civilidade.

Não basta entulhar de conteúdo para melhorar o ranking no Enem, e enviar para as universidades pessoas sem o equipamento básico para a convivência social.

Em segundo lugar, parece o episódio parece ser atravessado pela sensação de impunidade. Esses estudantes sabem que o que estão fazendo é errado, muito errado, e provavelmente alguns deles suspeitavam que se tratava de um crime. Mas nada disso os deteve.

Na verdade, a necessidade de transgressão, típica da idade, pode ter favorecido o compartilhamento. Mas será que não pensaram nas possíveis consequências? Ou se julgam invulneráveis pela permissividade excessiva vivida na sua infância?
Em terceiro lugar, fica óbvio que precisamos urgência na regulação da internet, das redes sociais e outros aplicativos. Sites como esses, por exemplo, jamais poderiam ter acesso livre, e sim controlados no mínimo por verificação de idade com a devida documentação.

A internet se tornou uma rede infinita de jogos maldosos, armadilhas, perversidades de todo o tipo e ideologias intolerantes que conseguem recrutar adolescentes com muita facilidade. Se não agirmos para controlar esse sequestro mental e anímico de nossos jovens, se não implementarmos a urgentíssima regulamentação e responsabilização das redes sociais e similares, eventos como esse e outros, com consequências ainda mais sérias, só vão aumentar.

Finalmente, episódios noticiados diariamente na mídia, como apologia de ataques às escolas em rede sociais abertas como o TiK ToK, as redes de pedofilia no Instagram, o aumento do cyberbullying e dos episódios de hospitalização e morte por desafios perigosos, o crescimento da automutilação, dos transtornos alimentares, da depressão e tentativas de suicídio, estão gritando para as famílias: SUPERVISIONEM SEUS FILHOS.

Sim, dá muito trabalho. Sim, é preciso inclusive que os pais estudem o assunto. Mas a urgência do tema exige um investimento de nossa parte. Se antes os filhos chegavam da rua e ficávamos aliviados por eles estarem seguros em casa, hoje a situação parece ter se invertido. Os maiores perigos estão no computador e no celular, usados com total liberdade nos quartos fechados.

Como já repeti várias vezes aqui e no meu perfil do Instagram, é preciso retardar a entrega do primeiro celular, retardar a entrada nas redes sociais, orientar e educar para cidadania digital, falando sobre privacidade, respeito, cyberbullying, ideologias de intolerância.

Alertar para os riscos de golpistas, chantagistas e predadores, para a necessidade de fechar contas e só trocar mensagens com conhecidos, de evitar os chats abertos nos jogos, de não entrar em hipótese nenhuma em plataformas como o DIscord e Telegram, antros bem conhecidos de todo tipo de perversidade. E muito mais.

Além de orientar e educar, é preciso supervisionar. Controlar o tempo de uso, observar o histórico da internet, sincronizar contas, usando aplicativo de controle parental e os mecanismos presentes nos próprios aplicativos.

Vigiar mensagens e seus interlocutores, fechar o chat dos jogos, dedicar tempo a assistir vídeos e jogar junto com eles, e comentar episódios na mídia como o caso em questão, ajudando a desenvolver responsabilidade, consciência e pensamento crítico.

Vale aqui também lembrar que a melhor forma de reduzir o uso de telas é enriquecer a vida offline – com brincadeiras em casa e ao ar livre, passeios, esportes, atividades extracurriculares, vida cultural variada e convivência presencial com amigos.
Quanto à escola, só posso torcer para não passem por cima de uma história tão marcante, voltando para o conteúdo e fingindo que nada aconteceu.

Que utilizem esse episódio para uma boa causa: a educação para a cidadania digital. Discutir o ocorrido com os alunos e alunas, para que entendam a gravidade do ocorrido, e a importância do respeito e da empatia com o outro, para que aprendam a distinguir brincadeiras de violência e assédio.

Espero que ajudem os alunos a pesquisarem e encontrarem soluções para a reparação das violências, com ajuda de pedagogos e especialistas no tema.

Sim, tudo isso é muito difícil. Mas também muito necessário, em nome da saúde e da segurança de nossas crianças e adolescentes.