Preconceito, baixa qualidade e mais: entenda riscos de conteúdos gerados por inteligência artificial para crianças

  
Influenciadores divulgam dicas de como produzir (e lucrar) com vídeos e livros criados com base em conteúdos gerados por ferramentas como o ChatGPT. Os riscos de crianças consumirem conteúdos gerados por Inteligência Artificial
Cada vez mais populares nas redes sociais, conteúdos gerados por inteligência artificial (IA) voltados para o público infantil viraram motivo de alerta entre especialistas. Baixa qualidade pedagógica, ponto de vista enviesado e pouca diversidade (refletida, por exemplo, na ausência de personagens negros) são alguns dos problemas apontados.
Esse nicho tem sido impulsionado por influenciadores que ensinam como produzir, em questão de minutos, livros digitais e animações para crianças – além de explicarem como fazer dinheiro com esses produtos. Os vídeos mais assistidos no YouTube, por exemplo, chegam a bater 300 mil visualizações.
O uso de ferramentas de IA, como o ChatGPT, da empresa OpenAI, é relativamente novo. Tanto que adultos ainda enfrentam dificuldade para lidar com os conteúdos gerados por esses softwares – se determinada informação é verdadeira ou falsa, como os casos de deepfake.
Quando se trata de crianças, então, a situação exige ainda mais cuidados. É o que explica Débora Cardoso, professora de pedagogia da Universidade Presbiteriana Mackenzie.
As crianças são pessoas em desenvolvimento e funcionam como esponjas. O que elas consumirem pode interferir no desenvolvimento delas.
Ela pondera, no entanto, que as crianças do século 21 já nasceram na era digital, então é preciso encontrar um equilíbrio para o uso da tecnologia na infância.
Além do consumo de conteúdos gerados por IA, a popularização da tecnologia abre espaço para que as crianças utilizem essas ferramentas – e isso também é motivo de preocupação para especialistas.
Veja, abaixo, quais são os problemas para as crianças que podem ser agravados em decorrência dessa tecnologia.
🧠 Preguiça mental
Segundo Álvaro Machado Dias, professor livre-docente da Universidade Federal de São Paulo (Unifesp), o uso excessivo e ferramentas de IA e o consumo de conteúdos de baixa qualidade produzidos por meio dessas ferramentas podem deixar o cérebro preguiçoso.
como identificar: para o professor, os pais conseguem identificar que a criança está usando IA se passou a ter mais tempo livre. Por exemplo, passou a fazer as lições de casa em menor tempo.
riscos: se esses vídeos estão sendo usados para otimizar o tempo, reduzindo os esforços cerebrais, a criança pode desenvolver um “enferrujamento mental”, alertam os especialistas. Além disso, elas podem até desenvolver uma dificuldade cognitiva de prestar atenção em mais de um assunto.
o que fazer: Tirar o acesso ao computador pode até ser uma solução fácil, mas pouco funcional, alerta o especialista. O ideal é motivar o aprendizado da criança e, se for usar inteligência artificial, que seja ao lado dos responsáveis.
A Organização das Nações Unidas para Educação, Ciência e Cultura (Unesco) recomenda que crianças com menos de 13 anos não acessem ferramentas de IA. A OpenAI, dona do ChatGPT, também indica a mesma idade. Porém, não há restrição etária para acessar.
📖 Manipulação
A criança tem poucas experiências de vida e repertórios que a ajudem ter pensamentos críticos. Por isso, os vídeos feitos por IA podem atrapalhar o discernimento sobre o que é certo ou errado, assim como o processo de tomada de decisões.
Como identificar: para a professora do Mackenzie, a criança manipulada demonstra mudanças de comportamento – podem ficar mais agressivas ou tristes, sentimentos que antes não eram comuns. Esses sentimentos, segundo a especialista, podem aflorar se, por exemplo, a criança pedir para os pais comprarem um brinquedo que sempre aparece em um vídeo feito por IA e não conseguir o que quer.
riscos: Agnaldo Arraio, professor de faculdade de Educação da Universidade de São Paulo (USP), ressalta que entre os riscos está o entendimento do que é certo ou errado. “Se diariamente nos deparamos com adultos sendo manipulados pela desinformação, que supostamente já são escolarizados e teriam as competências para discernir o que é real e o que é manipulado, imagine uma criança muito pequena que ainda não teria essa possibilidade de discernimento”.
o que fazer: Arraio sugere acompanhar as crianças durante o uso da IA pode ser um dos melhores caminhos. “Proibir não funcionaria, pois elas [crianças] poderiam acessar escondido e longe da possibilidade de acompanhamento de adultos”, afirma.
🧑🏾 Estereótipos e preconceito
A criança pode desenvolver algum tipo de preconceito a depender do conteúdo consumido. Isso porque, segundo especialistas, a tecnologia pode apresentar personagens dentro de padrões de raça e gênero, por exemplo, prejudicando o acesso às diferenças, criando bolhas e falta de repertório em termos de diversidade.
Como identificar: segundo os especialistas, observar a criança é a melhor saída: se fala algo preconceituoso, se faz alguma piada ou tira sarro de outro colega, seja pela cor ou por algum problema físico, por exemplo. Além disso, indicam observar se os conteúdos produzidos por IA e consumidos pelas crianças têm tons pejorativos.
riscos: o principal risco é a criança continuar com pensamentos preconceituosos e estereotipados, podendo chegar a praticar bullying com colegas de sala, por exemplo.
o que fazer: Débora Cardoso, professora do Mackenzie, afirma que o primeiro contato que a criança pode ter com falas preconceituosas é no âmbito familiar. Dessa forma, os pais precisam ficar atentos aos discursos e conversas que a criança escuta. Além disso, precisam ficar em contato com a escola para ver se o filho está convivendo com colegas que também tenham falas problemáticas.
🫂 Problemas na socialização:
O uso excessivo de tecnologia pode inibir a criança de ter vontade de conviver com colegas de sala. Assim como pode, desde cedo, colocá-las em uma bolha virtual, limitando suas oportunidades de ter contato com novas culturas.
como identificar: Crianças gostam de ficar sozinhas, ressalta a professora do Mackenzie Débora Cardoso. Porém, é necessário ficar atento se estão gastando mais tempo no celular do que com os colegas de sala, por exemplo. E se a criança está conversando apenas sobre o universo da internet ou consegue falar sobre outros assuntos.
riscos: de acordo com o professor da USP Agnaldo Arraio, a forte presença das máquinas no cotidiano das crianças pode desumanizar qualquer pessoa – ou seja, “o risco de deixar a criança exposta apenas às máquinas é quase que tirar o direito de acesso às diferenças que existem no mundo”.
o que fazer: os especialistas recomendam que os pais tentem controlar o tempo que o filho fica no celular. Não é preciso tirar o aparelho da criança, mas ficar de olho no conteúdo que é consumido. Além disso, é indicado que os responsáveis ofereçam mais tempo ao filho, para conseguirem se divertir juntos, sem internet.
Como esses conteúdos são produzidos
Vídeos que ensinam a fazer conteúdos com IA para crianças
Reprodução/YouTube
O conteúdo para crianças feitos com IA também são criticados pelos especialistas, especialmente por dois motivos: “moral da história” sempre igual e personagens em sua maioria brancos.
No primeiro caso, a criança fica presa a apenas uma visão de mundo; no segundo caso, elas podem desenvolver algum tipo de preconceito
Segundo especialistas, os textos de IA não são diversos – ou seja, a moral é muitas vezes a mesma, prejudicando o aprendizado infantil. Em uma nota divulgada em 2021, a diretora-geral da Organização das Nações Unidas para a Educação, a Ciência e a Cultura (UNESCO), Audrey Azoulay, afirmou que ler muitos livros – consequentemente, com diferentes narrativas – ajuda explorar várias ideias e culturas.
As imagens desses conteúdos, por sua vez, retratam personagens na maioria das vezes muito parecidos, sem contemplar a diversidade. E, segundo os especialistas, isso ajuda na predisposição das crianças desenvolverem algum preconceito.
“Se você procurar uma imagem de princesa, provavelmente receberá personagens brancas, loiras e de olhos claros. Dificilmente aparecerá outras etnias ou raças”, explica Arraio, professor da USP. “”Na prática, esses personagens (sempre brancos) podem induzir crianças a padrões que não as ajudem a reconhecer ou valorizar outras culturas”.
Por exemplo, no vídeo: “Criar vídeos animados digitando texto com inteligência artificial gratuita”, com 61 mil visualizações, do canal @chamadatech, a IA criou uma menina branca, sendo que o youtuber pediu apenas que a personagem tivesse “cabelos cacheados cor de mel e olhos que brilhavam como estrelas”.
Em outro canal, do @thiagofelizola, o vídeo: “Como criar desenhos animados usando IA & ChatGPT [Grátis]” mostra que a tecnologia criou um menino branco, sendo que não havia nenhum pedido específico sobre o tom de pele. (veja imagens abaixo).
Personagens brancos nos conteúdos criados por IA para crianças
@chamadatech e @thiagofelizola/YouTube
Procurados pelo g1, o dono do canal @thiagofelizola, Thiago Felizola, afirmou que não pensa na cor de pele dos personagens para criar os vídeos. “Peço de maneira genérica e (a inteligência artificial) me mostra isso mesmo”. Já o canal @chamadatech não respondeu até a publicação desta matéria.