A infância não é um público-alvo. É uma fase de desenvolvimento. Por isso, a inteligência artificial educacional não pode ser analisada apenas pela eficiência que promete, mas pelo impacto que pode produzir sobre aprendizagem, autoestima, privacidade, saúde mental, inclusão e trajetória escolar.
Por Marcelo Fattori
Uma escola contrata uma plataforma de redação com inteligência artificial. A promessa é bonita: ajudar o aluno a organizar ideias, sugerir melhorias no texto, corrigir erros, apontar caminhos de reescrita. Outra escola adota um assistente virtual para dúvidas de matemática, disponível fora do horário de aula. Uma terceira, mais ambiciosa, começa a testar um sistema capaz de analisar engajamento, comportamento em sala, padrões de interação, risco de evasão ou até sinais emocionais dos estudantes.
À primeira vista, tudo parece moderno. E, de certo modo, é mesmo.
A educação brasileira precisa de inovação. Precisa de tecnologia. Precisa aliviar professores sobrecarregados, ampliar acesso, personalizar trilhas, apoiar estudantes com dificuldades, incluir crianças com deficiência, organizar melhor a rotina pedagógica e administrativa. Seria ingênuo, talvez até irresponsável, tratar toda inteligência artificial como ameaça.
Mas há uma pergunta que quase sempre chega tarde demais: o que acontece com a criança quando a escola coloca uma inteligência artificial entre ela e a aprendizagem?
Por trás de uma ferramenta aparentemente simples, pode haver coleta de nome, idade, turma, voz, imagem, desempenho, histórico de uso, dificuldades de aprendizagem, tempo de resposta, erros recorrentes, interações com colegas, comportamento em ambiente digital, padrões de atenção, indícios de desmotivação e, em alguns casos, inferências sobre estado emocional ou saúde mental.
Não estamos falando apenas de tecnologia. Estamos falando de infância mediada por sistemas computacionais.
E esse ponto muda tudo.
A pergunta não é se a escola pode usar inteligência artificial
A pergunta mais séria é outra: em quais condições a inteligência artificial pode ser colocada diante de crianças e adolescentes sem transformar inovação pedagógica em risco jurídico, pedagógico, psicológico e social?
A escola não é uma empresa comum. Ela trabalha com formação humana, desenvolvimento cognitivo, vínculos, confiança familiar, convivência, disciplina, autoestima, inclusão e cuidado. Quando uma organização comum usa uma ferramenta de inteligência artificial para acelerar relatórios internos, há riscos. Quando uma escola usa inteligência artificial para avaliar, recomendar, corrigir, classificar ou interagir com crianças, os riscos ganham outra natureza.
A infância não é um público-alvo. É uma fase de desenvolvimento.
Essa distinção parece simples, mas ela precisa ser repetida. Crianças e adolescentes não têm a mesma maturidade para compreender coleta de dados, personalização, recomendação algorítmica, publicidade, vigilância, indução comportamental, ranqueamento ou decisões automatizadas. Também não têm, em regra, poder real de negociação diante da escola. O estudante não escolhe livremente a ferramenta adotada pela instituição. Ele passa a usá-la porque a escola incorporou aquela solução ao ambiente de aprendizagem.
Daí nasce um dever de cuidado mais intenso.
No Brasil, esse dever passa pela Constituição Federal, pelo Estatuto da Criança e do Adolescente, pela Lei Geral de Proteção de Dados, pelo ECA Digital, pelas normas e orientações da Agência Nacional de Proteção de Dados e, em muitos casos, também por regras de consumo, contratos, segurança da informação, responsabilidade civil e proteção à saúde.
No plano internacional, a Convenção sobre os Direitos da Criança, o Comentário Geral número 25 do Comitê dos Direitos da Criança da Organização das Nações Unidas, a orientação da UNICEF sobre inteligência artificial e crianças, os documentos da UNESCO sobre inteligência artificial na educação e o Regulamento Europeu de Inteligência Artificial apontam para a mesma direção: tecnologia educacional não pode ser avaliada apenas por eficiência. Deve ser avaliada por impacto sobre direitos, desenvolvimento, inclusão, privacidade, segurança, bem-estar e autonomia progressiva.
A inovação legítima começa quando a escola consegue responder por que, para que, com quais dados, com quais limites e sob qual supervisão humana aquela ferramenta será usada.
Sem isso, a tecnologia vira improviso sofisticado.
Cinco lentes para analisar a inteligência artificial educacional
A inteligência artificial na escola precisa ser analisada por cinco lentes simultâneas.
A primeira é a lente dos direitos da criança.
O melhor interesse da criança e do adolescente não é um enfeite retórico. É critério de decisão. Se uma ferramenta aumenta eficiência administrativa, mas expõe estudantes a vigilância desnecessária, classificação opaca ou inferências emocionais sem base adequada, há algo errado na equação.
A segunda é a lente da proteção de dados pessoais.
A Lei Geral de Proteção de Dados exige finalidade, adequação, necessidade, transparência, segurança, prevenção, não discriminação, responsabilização e prestação de contas. Quando o titular é criança ou adolescente, o artigo 14 impõe a observância do melhor interesse. Importante dizer com precisão: dados de crianças e adolescentes não são automaticamente “dados sensíveis” apenas por pertencerem a menores de idade. Mas recebem proteção especial. E podem, sim, assumir natureza sensível quando envolvem saúde, deficiência, biometria, aspectos psicológicos ou outros elementos protegidos pela legislação.
A terceira é a lente da segurança da informação.
Uma plataforma educacional com inteligência artificial pode armazenar conversas, redações, dúvidas íntimas, padrões de desempenho, documentos, imagens, áudios e registros de interação. Se a ferramenta é vulnerável, se seus fornecedores são mal avaliados, se há integrações inseguras ou se a escola não sabe onde os dados ficam armazenados, o problema não é apenas técnico. É jurídico e institucional.
A quarta é a lente da governança algorítmica.
Algoritmos erram. Modelos produzem respostas falsas com aparência de verdade. Sistemas podem reproduzir vieses. Ferramentas de personalização podem reforçar desigualdades. Um aluno que recebe sucessivas recomendações “simplificadas” pode ser empurrado para uma trilha de baixa expectativa. Outro pode ser rotulado como desengajado por uma métrica pobre. Isso não é ficção. É o risco clássico de transformar dados incompletos em verdade institucional.
A quinta é a lente pedagógica e de saúde.
A aprendizagem não é mera entrega de conteúdo. Ela depende de vínculo, confiança, erro, tentativa, convivência, frustração, incentivo e mediação humana. Em algumas situações, uma inteligência artificial pode apoiar o professor. Em outras, pode reduzir a complexidade do estudante a uma pontuação, a um alerta ou a uma recomendação automática. Quando entra no campo emocional, então, o cuidado precisa ser redobrado. Sistema educacional não deve brincar de diagnóstico psicológico.
Vale insistir nisso: uma ferramenta que ajuda o professor a preparar um plano de aula, sem inserir dados de alunos, possui risco muito diferente de outra que acompanha desempenho individual e recomenda intervenções personalizadas. E essa, por sua vez, possui risco menor do que uma ferramenta que tenta inferir sofrimento emocional, risco psicológico, propensão disciplinar ou probabilidade de evasão.
O erro começa quando tudo é tratado como “uso de inteligência artificial”, como se fosse uma coisa só.
Não é.
Antes de colocar uma inteligência artificial diante de uma criança, a escola consegue responder?
O coração da governança é menos glamouroso do que parece. Antes de contratar, ativar ou testar uma ferramenta com estudantes, a escola deveria conseguir responder a algumas perguntas bastante concretas.
Qual é a finalidade pedagógica real?
Uma inteligência artificial não deve entrar na escola porque “todo mundo está usando”.
Essa frase, aliás, costuma ser o primeiro sinal de risco.
A ferramenta precisa estar vinculada a um objetivo educacional verificável: apoio à alfabetização, reforço adaptativo, acessibilidade, organização administrativa, apoio ao professor, elaboração de material didático, avaliação formativa, tradução assistida, inclusão de alunos com deficiência, melhoria de comunicação com famílias ou redução de carga operacional.
Sem finalidade clara, o tratamento de dados tende a se expandir. A escola começa usando a ferramenta para uma tarefa simples; depois passa a inserir dados de alunos; em seguida permite integração com outras plataformas; mais adiante aceita recomendações automáticas; quando percebe, já não sabe mais exatamente o que está sendo coletado, por quem, por quanto tempo e para qual finalidade.
A finalidade é a primeira barreira contra o excesso.
Ela também é critério pedagógico. Se a ferramenta não melhora aprendizagem, inclusão, gestão educacional ou apoio docente, por que uma criança deve ser exposta a ela?
Quais dados da criança são tratados?
Aqui a escola precisa sair da abstração.
Não basta perguntar se a plataforma “usa dados pessoais”. Quase todas usam. A pergunta correta é: quais dados, em qual etapa, com qual necessidade, por quanto tempo, com qual segurança e com qual consequência para o estudante?
Nome, idade, turma e matrícula já merecem cuidado. Voz e imagem exigem cuidado maior. Desempenho escolar, dificuldades de aprendizagem, laudos, necessidades educacionais específicas, padrões comportamentais, registros de interação e inferências emocionais exigem ainda mais.
Há uma diferença decisiva entre três situações.
A primeira: o professor usa uma ferramenta de inteligência artificial para gerar exemplos de exercícios, sem inserir dados de alunos. O risco existe, mas é menor.
A segunda: a escola usa uma plataforma que recomenda trilhas individualizadas com base no desempenho de cada estudante. O risco aumenta, porque há perfilamento educacional e influência direta sobre a experiência de aprendizagem.
A terceira: a escola usa sistema que tenta inferir estado emocional, risco psicológico, agressividade, desatenção, probabilidade de evasão ou propensão disciplinar. Aqui entramos em uma zona muito sensível. A depender do funcionamento da ferramenta, pode haver tratamento de dados de saúde, dados comportamentais, inferências psicossociais e decisões capazes de afetar autoestima, inclusão, convivência e vínculo escolar.
A pergunta deixa de ser “a ferramenta é boa?” e passa a ser “a escola tem legitimidade, base legal, proporcionalidade, segurança, equipe preparada e supervisão humana qualificada para fazer isso?”.
Nem sempre terá.
A ferramenta é adequada à idade?
O ECA Digital trouxe uma mudança importante ao colocar a proteção de crianças e adolescentes em ambientes digitais em linguagem mais direta para o mercado de tecnologia. A ideia de experiência adequada à idade não deve ser lida apenas como controle de acesso a conteúdo adulto. Ela envolve desenho de produto, linguagem, privacidade por padrão, limites de interação, controles parentais, restrição de funcionalidades arriscadas, cuidado com recomendações e respeito à autonomia progressiva.
Autonomia progressiva não significa abandono. Significa que a proteção deve acompanhar o desenvolvimento da criança e do adolescente.
Uma criança de sete anos, um aluno de doze e um adolescente de dezesseis não devem ser tratados da mesma forma por uma plataforma educacional. A explicação precisa ser diferente. O nível de autonomia pode ser diferente. As configurações de privacidade podem variar. As formas de participação também.
Ferramentas educacionais com inteligência artificial deveriam adotar, no mínimo, linguagem compreensível, configurações protetivas por padrão, limitação de coleta, restrição de uso secundário, canais de contestação, possibilidade de revisão humana e mecanismos claros para pais, responsáveis, professores e estudantes entenderem o que está acontecendo.
Esse ponto costuma passar despercebido: transparência para adulto já é difícil. Transparência para criança exige outro tipo de escrita, outro tipo de interface e outro tipo de compromisso.
Há supervisão humana real?
“Humano no processo” virou uma expressão confortável. O problema é que, em muitos projetos, ela aparece apenas no documento de apresentação.
Na escola, supervisão humana real significa que professor, coordenação pedagógica ou equipe técnica compreendem a ferramenta, sabem seus limites, conseguem revisar seus resultados e têm autoridade para contrariar a recomendação do sistema.
Se a inteligência artificial sugere nota, feedback, intervenção pedagógica, agrupamento de alunos, plano de reforço, encaminhamento psicológico, alerta disciplinar ou risco de evasão, alguém qualificado precisa revisar. Não basta o sistema dizer que “a decisão final é humana” se, na prática, a equipe apenas aceita a recomendação por falta de tempo, treinamento ou informação.
A revisão humana precisa ser crítica, registrada e possível.
Esse é um dos pontos mais relevantes da orientação internacional. O guia TeachAI recomenda que conteúdos, sugestões, avaliações, devolutivas e intervenções geradas por inteligência artificial sejam revisados criticamente por estudantes e equipes escolares, mantendo pessoas no processo decisório. A UNESCO, por sua vez, insiste em uma abordagem centrada no ser humano, adequada à idade e pedagogicamente validada.
A inteligência artificial pode apoiar o professor. Não deve substituir o juízo pedagógico.
E, quando o tema for saúde mental, sofrimento emocional ou comportamento de risco, a exigência sobe de nível. O sistema pode, no máximo, apoiar a atenção da escola, desde que bem governado. Não deve diagnosticar. Não deve etiquetar. Não deve transformar uma criança em um alerta vermelho permanente.
A escola consegue explicar a ferramenta para pais, alunos e professores?
A maior parte das escolas ainda trata contratação tecnológica como assunto administrativo. Compra-se a solução, assina-se o contrato, treina-se rapidamente a equipe e comunica-se a novidade às famílias.
Isso não basta.
Quando a ferramenta usa inteligência artificial e trata dados de crianças, a escola precisa conseguir explicar, em linguagem simples:
o que a ferramenta faz;
o que ela não faz;
quais dados são usados;
se há interação direta com inteligência artificial;
se há personalização;
se há recomendação automatizada;
se há avaliação ou correção;
se os dados treinam modelos;
se há fornecedores e subfornecedores;
onde os dados ficam armazenados;
por quanto tempo são mantidos;
quem revisa os resultados;
como pais, responsáveis e estudantes podem pedir esclarecimentos;
como contestar uma decisão ou recomendação;
e o que acontece em caso de incidente.
Aqui há uma oportunidade prática muito clara: criar “fichas de inteligência artificial” para escolas.
Cada ferramenta relevante deveria ter uma ficha pública e pedagógica, não um documento jurídico incompreensível. Algo que pais, estudantes e professores realmente consigam ler. Uma página, talvez duas. Linguagem simples. Sem esconder risco. Sem vender milagre.
A ficha deveria dizer: esta ferramenta usa inteligência artificial para tal finalidade; não substitui professor; não realiza diagnóstico; não decide nota sozinha; utiliza estes dados; possui estes riscos; adota estas salvaguardas; permite estes direitos; esta pessoa ou área responde por dúvidas.
Parece pouco. Não é.
Transparência bem feita reduz medo, melhora confiança e obriga a própria escola a entender o que está contratando.
Existe vedação de uso secundário dos dados?
Esse é um ponto central para empresas de tecnologia educacional.
Dados de aprendizagem não são matéria-prima livre.
Uma redação de aluno não deve virar insumo irrestrito para treinar modelos comerciais. Dúvidas de matemática não devem alimentar perfilamento publicitário. Padrões de comportamento não devem servir para enriquecimento cadastral. Dados de idade não devem se transformar em mecanismo de rastreamento. Informações escolares não devem ser compartilhadas continuamente com múltiplos parceiros sem finalidade específica.
A orientação preliminar da Agência Nacional de Proteção de Dados sobre mecanismos confiáveis de aferição de idade é muito útil como referência de raciocínio: minimização de dados, proteção da privacidade, segurança, vedação ao uso secundário, vedação à rastreabilidade e vedação ao compartilhamento contínuo. Embora o documento trate especificamente de aferição de idade, sua lógica protetiva deve inspirar qualquer uso de inteligência artificial em ambiente educacional infantil e adolescente.
O princípio é simples: dado coletado para proteger criança não pode ser reutilizado para explorar criança.
Na prática, contratos com fornecedores devem proibir uso dos dados para publicidade comportamental, perfilamento comercial, enriquecimento de base, treinamento de modelos sem autorização e governança específica, revenda, compartilhamento amplo ou finalidade incompatível com a prestação educacional.
Essa cláusula não é detalhe. É uma das fronteiras entre tecnologia educacional legítima e exploração informacional da infância.
Há gestão séria de terceiros?
A maioria das escolas não desenvolve inteligência artificial. Ela compra, licencia, assina, integra ou simplesmente começa a usar ferramentas de terceiros.
Isso desloca parte do risco, mas não elimina a responsabilidade da escola.
Antes de contratar, a instituição precisa avaliar termos de uso, política de privacidade, base legal, subfornecedores, hospedagem, transferência internacional de dados, retenção, descarte, segurança da informação, uso para treinamento de modelos, canais de atendimento aos titulares, histórico de incidentes, certificações, registros de auditoria, mecanismos de contestação, possibilidade de desligar funcionalidades e cláusulas específicas sobre crianças e adolescentes.
Essa avaliação não pode ser apenas jurídica. Precisa ser jurídica, técnica, pedagógica e, em alguns casos, também de saúde.
Uma cláusula bonita não corrige uma arquitetura insegura. Uma solução tecnicamente sofisticada não compensa uma finalidade pedagógica frágil. Uma política de privacidade extensa não resolve ausência de supervisão humana. Uma promessa comercial não substitui evidência.
A escola precisa aprender a perguntar melhor.
O risco invisível: transformar estudante em perfil
A inteligência artificial educacional seduz porque promete personalização. E a personalização pode ser positiva.
Um aluno com dificuldade em frações pode receber exercícios graduais. Uma criança com deficiência pode ter recursos de acessibilidade. Um professor pode identificar lacunas de aprendizagem com mais rapidez. Um estudante tímido pode tirar dúvidas sem constrangimento. Há valor real nisso.
Mas a personalização também pode aprisionar.
Quando o sistema conclui que determinado aluno é fraco em leitura, desatento, pouco engajado ou “em risco”, essa inferência pode começar a orientar tudo: os textos que ele recebe, os desafios que lhe são oferecidos, a expectativa do professor, a comunicação com os pais, a percepção da coordenação e até a imagem que o próprio estudante constrói de si.
Crianças acreditam no olhar que recebem.
Se esse olhar vier de um sistema opaco, treinado com dados desconhecidos, calibrado por métricas que a escola não entende, o dano pode ser silencioso. O estudante não será punido formalmente. Talvez ninguém diga nada. Mas ele será conduzido por uma trilha mais estreita, menos desafiadora, menos confiante.
Esse é o risco pedagógico de uma inteligência artificial mal governada: ela não precisa errar de modo escandaloso para causar dano. Basta orientar pequenas decisões repetidas, todos os dias, com base em classificações pobres.
Por isso, sistemas educacionais que avaliam aprendizagem, comportamento ou risco devem ser tratados com especial cautela. O Regulamento Europeu de Inteligência Artificial, embora não seja a lei brasileira, é uma referência importante: ele classifica como de alto risco determinados sistemas usados em educação e formação profissional, especialmente quando determinam acesso, admissão, avaliação de resultados de aprendizagem, nível educacional ou monitoramento de condutas em provas.
A lógica é correta. Decisões educacionais afetam a trajetória de vida.
No Brasil, mesmo sem uma lei geral de inteligência artificial plenamente consolidada em todos os seus detalhes, já temos base suficiente para exigir governança séria: proteção integral, melhor interesse, Lei Geral de Proteção de Dados, ECA Digital, responsabilidade civil, dever de informação, segurança e prevenção.
A ausência de uma norma específica não autoriza o improviso.
Saúde mental: a escola não deve delegar cuidado emocional a uma máquina
Há um entusiasmo crescente com ferramentas capazes de detectar sofrimento emocional, risco de automutilação, sinais de ansiedade, isolamento, agressividade ou desmotivação. O objetivo declarado costuma ser nobre: agir cedo, proteger, acolher.
Mas esse é justamente o tipo de promessa que exige mais prudência.
A saúde mental de crianças e adolescentes é um campo delicado, contextual e humano. Um estudante pode escrever de forma agressiva por ironia, tristeza, brincadeira, influência cultural ou sofrimento real. Pode ficar calado por timidez, sono, insegurança, conflito familiar ou simples cansaço. Pode ter queda de desempenho por luto, mudança de escola, dificuldades econômicas, bullying, problemas de visão, transtorno de aprendizagem, uso excessivo de telas, depressão ou apenas uma fase ruim.
Nenhum sistema deve transformar sinais ambíguos em rótulos definitivos.
A Organização Mundial da Saúde tem alertado para impactos do uso problemático de ambientes digitais entre adolescentes, incluindo relação com sono, bem-estar social, ansiedade, depressão, bullying e desempenho acadêmico. A autoridade sanitária dos Estados Unidos também afirma que ainda não se pode concluir que redes sociais sejam suficientemente seguras para crianças e adolescentes, recomendando padrões mais elevados de proteção, privacidade e avaliação independente de impacto.
Essas referências não significam que toda tecnologia faz mal. Seria uma leitura grosseira. O que elas mostram é outra coisa: ambientes digitais interferem em saúde, desenvolvimento e comportamento. Logo, quando a escola utiliza tecnologias que coletam dados, medem engajamento, recomendam conteúdo, estimulam permanência ou inferem estado emocional, ela entra em uma área que exige responsabilidade ampliada.
O cuidado humano não pode ser terceirizado para um painel.
Uma ferramenta pode ajudar a equipe escolar a perceber padrões. Pode apoiar triagem administrativa. Pode organizar informações. Pode sugerir atenção. Mas encaminhamentos psicológicos, intervenções disciplinares, comunicações sensíveis à família e decisões sobre suporte educacional precisam de pessoas preparadas, contexto e registro responsável.
A escola precisa proteger sem vigiar excessivamente. Acolher sem patologizar. Intervir sem rotular.
É uma linha fina. E é exatamente por isso que governança importa.
O que uma escola deveria implementar antes de usar inteligência artificial com alunos
O caminho prático não precisa começar com um documento de cem páginas. Pode começar com uma estrutura mínima, bem feita e viva.
A primeira medida é criar um inventário de ferramentas de inteligência artificial. Muitas escolas nem sabem quantas soluções já estão em uso: plataformas de redação, corretores automáticos, assistentes de estudo, sistemas de vigilância, aplicativos de comunicação, ferramentas de gestão pedagógica, recursos de transcrição, tradutores, geradores de imagem, sistemas de prova, monitoramento de navegação, plataformas de aprendizagem adaptativa.
Sem inventário, não existe governança.
A segunda medida é classificar o risco de cada uso. Ferramentas usadas apenas por professores, sem dados de alunos, tendem a exigir controles mais simples. Ferramentas com dados identificados de estudantes exigem controles maiores. Ferramentas que avaliam, recomendam, perfilam, inferem saúde, monitoram comportamento ou influenciam decisões pedagógicas devem passar por avaliação reforçada.
A terceira medida é produzir uma avaliação de impacto. No Brasil, o Relatório de Impacto à Proteção de Dados é o instrumento natural para operações de maior risco envolvendo dados pessoais. Para inteligência artificial educacional, ele deve ser complementado por análise pedagógica, análise de segurança, análise de risco de discriminação e, quando pertinente, análise de saúde e bem-estar.
A quarta medida é revisar contratos. Contratos com fornecedores devem tratar, expressamente, de finalidade, papéis de controlador e operador, confidencialidade, segurança, subcontratação, transferência internacional, retenção, exclusão, atendimento a titulares, incidentes, auditoria, uso dos dados para treinamento de modelos, vedação de publicidade comportamental, vedação de uso secundário, transparência e obrigações específicas relacionadas a crianças e adolescentes.
A quinta medida é formar professores. Não há inteligência artificial segura em escola que abandona o professor diante da ferramenta. A UNESCO aponta a necessidade de competências docentes em mentalidade centrada no ser humano, ética, fundamentos de inteligência artificial, pedagogia com inteligência artificial e aprendizagem profissional. Isso faz sentido. O professor não precisa virar programador. Mas precisa entender limites, riscos, formas adequadas de uso, revisão crítica e consequências pedagógicas.
A sexta medida é comunicar famílias e estudantes. A escola deve produzir fichas simples de ferramentas, avisos claros, canais de dúvida, orientação por idade e explicações proporcionais. Crianças também devem ser educadas para compreender quando interagem com sistemas automatizados. Isso faz parte da cidadania digital.
A sétima medida é estabelecer supervisão e revisão. Toda decisão relevante sugerida por inteligência artificial deve ter pessoa responsável, critério de revisão, possibilidade de contestação e registro. Quanto maior o impacto sobre o estudante, maior a exigência de explicação e revisão humana.
A oitava medida é monitorar continuamente. Inteligência artificial não é contratação que se resolve no dia da assinatura. Modelos mudam. Termos de uso mudam. Fornecedores alteram funcionalidades. Novas integrações aparecem. Professores encontram usos não previstos. Estudantes descobrem formas de contornar sistemas. A governança precisa acompanhar o ciclo de vida da ferramenta.
A nona medida é preparar resposta a incidentes. Vazamento de dados, exposição indevida de conversas, acesso não autorizado, erro de recomendação, classificação discriminatória, resposta inadequada de assistente virtual, indução a conteúdo impróprio ou falha em sistema de supervisão exigem plano de resposta. Não dá para improvisar em crise envolvendo crianças.
A décima medida é ter coragem de dizer não. Algumas ferramentas não devem ser usadas com crianças. Outras podem ser usadas apenas sem dados pessoais. Outras exigem piloto controlado. Outras dependem de revisão contratual. Outras ainda são boas para adultos, mas inadequadas para ambiente escolar infantil.
Governança também é recusa.
O papel das empresas de tecnologia educacional
As empresas de tecnologia educacional precisam entender que vender para escola é diferente de vender ferramenta corporativa.
O produto será usado por crianças. Dentro de uma relação de confiança. Em ambiente de assimetria. Muitas vezes com dados obrigatórios. Em um contexto no qual família e aluno não têm real capacidade de negociar termos.
Isso impõe um padrão mais alto.
Empresas sérias deveriam oferecer, desde o início, documentação clara sobre finalidade, dados tratados, arquitetura, segurança, retenção, subfornecedores, transferência internacional, uso ou não uso para treinamento de modelos, controles de idade, mecanismos de desativação, explicabilidade, acessibilidade, auditoria, testes de viés, supervisão humana e resposta a incidentes.
Também deveriam abandonar a linguagem exagerada. Ferramenta nenhuma “revoluciona” a educação sozinha. Inteligência artificial não substitui projeto pedagógico, professor, vínculo, biblioteca, convivência, escuta, família e gestão escolar.
Empresas que prometem demais geralmente documentam de menos.
E esse é um sinal de alerta.
Proteção não é inimiga da inovação
Existe uma falsa oposição entre inovação e proteção. Ela aparece o tempo todo. De um lado, os entusiastas dizem que qualquer cautela atrasa o futuro. De outro, os céticos tratam toda tecnologia como ameaça. Ambas as posições empobrecem o debate.
A escola precisa de uma terceira via: inovação responsável.
A inteligência artificial pode ajudar professores a preparar aulas, adaptar materiais, criar exercícios, apoiar alunos com deficiência, melhorar comunicação, identificar lacunas, traduzir conteúdos, reduzir tarefas repetitivas e ampliar acesso. Há pesquisas e experiências promissoras, inclusive sobre redução de tempo de preparação de aulas.
Mas benefício potencial não dispensa prova, contexto e controle.
A pergunta adequada não é “inteligência artificial é boa ou ruim?”. A pergunta é: para qual finalidade, com quais dados, em qual idade, com qual supervisão, com qual evidência, sob qual contrato, com quais salvaguardas e com que possibilidade de contestação?
Essa pergunta é menos sedutora. Também é mais honesta.
Conclusão: antes da ferramenta, a criança
A inteligência artificial chegou à escola. Em alguns lugares, pela porta da frente, com contratos, apresentações e projetos-piloto. Em outros, entrou pela lateral, no uso cotidiano de professores, alunos e gestores que já recorrem a ferramentas digitais para escrever, resumir, corrigir, planejar, pesquisar e decidir.
Não adianta fingir que ela não está lá.
Mas também não podemos aceitar que a infância seja usada como campo de testes de sistemas opacos, inseguros ou pedagogicamente frágeis.
O ponto central é simples: antes da ferramenta, vem a criança. Antes da eficiência, vem o desenvolvimento. Antes da personalização, vem a dignidade. Antes da coleta, vem a finalidade. Antes da recomendação automática, vem o juízo humano. Antes do contrato, vem a responsabilidade.
A escola que usa inteligência artificial com seriedade não é a que adota mais tecnologia. É a que sabe justificar cada uso. É a que protege dados. É a que forma professores. É a que informa famílias. É a que escuta estudantes. É a que exige de fornecedores. É a que revisa resultados. É a que documenta riscos. É a que desliga o que não consegue explicar.
A inteligência artificial pode ser uma aliada da educação. Mas, diante de crianças e adolescentes, ela só será legítima se for também segura, proporcional, transparente, supervisionada, inclusiva e orientada ao melhor interesse.
Inovar na escola não é colocar uma máquina entre o aluno e o futuro.
É garantir que, quando a tecnologia entrar na sala de aula, ela esteja a serviço da aprendizagem, da proteção e da formação humana.