Os deepfakes estão cada vez mais populares e com usos e consequências que podem ser nocivos e criminosos. Um caso que ganhou repercussão nos últimos tempos foi o das alunas do Colégio Santo Agostinho, no Rio de Janeiro, despidas de maneira artificial com o uso de ferramentas de inteligência artificial. As consequências legais da deepfake foram o assunto principal da coluna de Carlos Affonso de Souza, em Tilt, nesta semana. Primeiramente, é importante contar o que se passou no Colégio Santo Agostinho. Lá, alunos do 7º ao 9º ano são suspeitos de terem usado um aplicativo de inteligência artificial para alterar fotos de colegas, removendo suas roupas e, assim, simular nudez. Essas imagens editadas foram, então, compartilhadas em grupos de mensagem. Pelo menos 20 meninas teriam sido expostas por essas ações. A polícia foi chamada pelos pais das meninas e o caso está sendo investigado pela Justiça. Esse caso mostra como as deepfakes não são uma brincadeira inconsequente. As imagens podem gerar punições para os menores envolvidos e para seus pais. O Código Penal pune com reclusão de 6 meses a 1 ano, além de multa, quem realiza "montagem em fotografia, vídeo, áudio ou qualquer outro registro com o fim de incluir pessoa em cena de nudez ou ato sexual ou libidinoso de caráter íntimo" (artigo 216-B, parágrafo único). Caso o conteúdo retrate menor de idade, o ECA (Estatuto da Criança e do Adolescente) pune com reclusão de 1 a 3 anos, além de multa, quem simula "a participação de criança ou adolescente em cena de sexo explícito ou pornográfica por meio de adulteração, montagem ou modificação de fotografia, vídeo ou qualquer outra forma de representação visual" (Art. 241-C). Vale lembrar que, segundo o ECA, incorre na mesma pena quem "disponibiliza, distribui, publica ou divulga por qualquer meio, adquire, possui ou armazena o material". Dessa forma, no âmbito penal, a sanção poderia recair não apenas em quem criou as montagens, mas também em quem as divulgou em grupos de mensagens. Como as montagens foram feitas por adolescentes, eles não são responsabilizados como adultos, cometendo o que a lei chama de atos infracionais. A punição nesses casos pode incluir a obrigação de reparar o dano, a prestação de serviços à comunidade, além de eventuais restrições à liberdade dos menores nos casos mais graves. Claro que não existe uma fórmula mágica que impeça a produção de montagens não autorizadas. Quanto mais fotos e vídeos adolescentes publicam e compartilham, mais fácil se torna a criação de um conteúdo ofensivo. É preciso que exista um esforço concentrado nas comunicações sobre segurança digital e uso responsável da rede, além de medidas que possam deixar claro que esse comportamento não apenas não passará impune, como também implicará em indenizações que sejam significativas. Embora estimulado pela proteção aos direitos autorais, vai ser interessante explorar como soluções de marca d'água ou outras formas de sinalizar a procedência de uma imagem criada por IA pode ser aplicada no combate à desinformação ou a crimes digitais. Diretores e professores, pais e responsáveis, além —e principalmente— os próprios menores, precisam estar preparados para compreender as consequências do uso de IA para manipular a realidade. | 
Comentários