O Instagram não é exatamente um modelo brilhante de proteção para os jovens online, já que não conseguiu evitar que seu algoritmo promovesse conteúdo de abuso sexual infantil. No entanto, os novos recursos trazem pelo menos um pouco de esperança de que a plataforma possa se tornar um pouco mais segura. A Meta anunciou que está lançando novas ferramentas destinadas a proteger os usuários contra abuso de imagens íntimas e sextorsão – quando uma pessoa é chantageada digitalmente sob ameaça de compartilhar mídia íntima.
Uma das atualizações mais significativas é a proteção contra nudez nas mensagens privadas. A Meta confirmou pela primeira vez que estava desenvolvendo essa tecnologia em 2022 e ativará automaticamente a ferramenta para usuários menores de 18 anos. Uma vez ativada, uma ferramenta de aprendizado de máquina detectará e desfocará imagens suspeitas que contenham nudez para o destinatário. A análise acontece no dispositivo do usuário, portanto as mensagens permanecem criptografadas de ponta a ponta sem que a Meta tenha acesso a elas. Os usuários terão a opção de visualizar a imagem junto com uma mensagem pop-up da Meta informando que não devem se sentir pressionados a responder, juntamente com um botão de dicas de segurança e uma opção para bloquear o remetente.
A nova ferramenta da Meta, que começará a ser testada “em breve”, também detecta se alguém está enviando uma imagem nua e alerta para “ter cuidado ao compartilhar fotos sensíveis”, ao mesmo tempo que descreve os riscos potenciais. Além disso, lembra aos usuários que podem excluir uma mensagem antes que alguém a veja. Por fim, há um aviso final: um lembrete para ser responsável e respeitoso aparece quando alguém tenta encaminhar uma mensagem com nudez detectada (embora ainda permita que a imagem seja encaminhada).
Além disso, existem ferramentas projetadas para detectar possíveis golpistas ou sextorcionistas e dificultar sua abordagem aos adolescentes. As solicitações de mensagens desses possíveis malfeitores agora devem ir para solicitações ocultas, e qualquer pessoa já envolvida em uma conversa receberá um aviso com lembretes de limites e passos para denunciar usuários. Quanto aos jovens, a Meta anteriormente proibia as pessoas de enviar mensagens para usuários com 16 anos ou menos se não estivessem conectados entre si – mesmo que a outra conta afirmasse ter a mesma idade. Agora, esses possíveis golpistas não verão a opção de enviar mensagens a um adolescente, mesmo que sigam uns aos outros.