Brasília DF - O ministro da Educação, Leonardo Barchini, vai homologar, nesta semana, o parecer do Conselho Nacional de Educação (CNE) que cria a primeira regulamentação da inteligência artificial (IA) para unidades de ensino públicas e privadas do país, da educação infantil ao ensino superior. O texto, no entanto, sofreu mudanças. A principal delas é a liberação de ferramentas de IA para a correção de questões dissertativas e redações. As instituições terão um ano para se adequar às regras, mas as proibições passam a valer a partir da publicação.

A versão original do texto proibia esse tipo de uso. O MEC entendeu, no entanto, que essa vedação foi restritiva demais e que a aplicação da IA pode facilitar a vida dos professores. Por isso, decidiu permitir, desde que os docentes não transfiram à máquina a responsabilidade de dar notas ou tomar decisões acadêmicas, como reprovar ou aprovar um estudante.

Na avaliação do diretor de tecnologia do Instituto de Inteligência Artificial na Educação (IA.Edu), da Universidade Federal de Alagoas (Ufal), Rafael Mello, essa medida dá um enorme apoio ao trabalho docente. No entanto, é preciso que os professores sejam formados para não aceitarem tudo o que a IA diz e que as ferramentas utilizadas sejam adaptadas à educação.

“Há um conceito chamado delegação cognitiva, que é você dar algumas tarefas para a IA, testar, ver que deu tudo certo e depois passar a confiar completamente. Não pode.” De acordo com Mello, que pesquisa e desenvolve ferramentas de IA para professores, é preciso que os profissionais não aceitem planos de aulas, por exemplo, criados pela IA sem que estejam conectados com as suas escolas e a cultura dos seus alunos.

“Algumas ferramentas voltadas para professores vão fazendo a eles perguntas que vão direcionando o material. Dão apoio sem deixar de incentivar a criticidade do profissional”, explica.

Outra mudança importante é a proibição de uso de IA para alunos da educação infantil nas escolas. A ferramenta só é permitida nos anos iniciais do ensino fundamental (do 1º ao 5º ano), mas sem suas formas generativas e sempre mediadas pelo professor.

Uma aplicação de IA não-generativa bastante popular nas escolas é a personalização de conteúdos para os alunos com base no quanto eles aprenderam de determinada matéria. Assim, uma lista de exercício é automaticamente adaptada a uma criança que erra ou acerta uma questão, por exemplo. Dependendo de seu desempenho, a ferramenta oferece outras tarefas mais fáceis ou mais complexas, por exemplo.

Incorporação gradual

Já na etapa seguinte, os anos finais (do 6º ao 9º ano), os estudantes poderão utilizar ferramentas de IA sozinhos no contexto pedagógico desde que não sejam generativas. Neste caso, apenas com o acompanhamento dos professores. A ideia é que os jovens cheguem ao ensino médio já entendendo os potenciais e os problemas dessa tecnologia. Nessa etapa, o uso é liberado de forma autônoma, mas com responsabilidade.

De acordo com o texto, a incorporação dessas tecnologias “ocorrerá de forma gradual, com ampliação progressiva de sua utilização à medida que se desenvolvam competências de letramento digital, pensamento crítico, cidadania digital e autonomia intelectual”.

Um dos criadores do texto, o conselheiro do CNE Celso Niskier afirmou que o parecer foi criado para evitar tanto a “tecnofobia” (medo da tecnologia), quanto o fetichismo tecnológico.

“O novo marco regulatório da IA na Educação, o primeiro do Brasil e um dos primeiros do mundo, permite a inovação com finalidade pedagógica e centralidade humana, protegendo os direitos de crianças e adolescentes”, afirmou Niskier.

Veja as novas normas

- Princípios: Diversas aplicações estão liberadas da educação básica ao ensino superior para alunos e professores. Mas o uso deve ser guiado por “valores da autoria intelectual, da honestidade acadêmica e da responsabilidade sobre os conteúdos produzidos”.

- Classificação de risco: Há quatro níveis de risco: 1) baixo; 2) moderado; 3) alto; 4) excessivo ou incompatível. Só os usos de nível 4 são proibidos. Os demais representam uma graduação de cuidados e supervisão humana.

- Risco baixo: Estão nesse nível as ferramentas de planejamento pedagógico; apoio a tradução, resumo e formatação; e recursos simples de acessibilidade voltados à eliminação de barreiras, como transcrição e legendagem.

- Risco moderado: Algumas das aplicações são sistemas de tutoria automatizada; ‘feedback’; recomendação acadêmica e acompanhamento de aprendizagem sem efeito decisório.

- Risco alto: A correção por IA de questões objetivas, atribuindo nota aos alunos, está neste patamar - e, portanto, liberada -, mas os resultados precisam de validação humana. No caso das redações e das dissertativas, a ferramenta não pode dar a nota, e o professor ainda precisa garantir a “leitura integral” do texto produzido pelo estudante.

- Risco incompatível: O nível mais arriscado de aplicações é vedado. Nessa lista, estão, por exemplo, sistemas de pontuação social; reconhecimento de emoções; exploração de vulnerabilidades etárias, emocionais, cognitivas ou outras, inclusive por desenho voltado a maximizar o engajamento; vigilância biométrica contínua e monitoramento permanente; e uso de dados educacionais para publicidade direcionada ou para treinamento de modelos de terceiros.

- Pesquisa acadêmica: O parecer define que pesquisadores são obrigados a declarar o uso de inteligência artificial quando a contribuição da ferramenta for relevante para processos como a “elaboração de textos, a análise de dados, a revisão bibliográfica, a programação ou outras etapas do processo investigativo”.

- Autoria: Pesquisadores são impedidos de transferir a autoria ou responsabilidade intelectual à inteligência artificial. Segundo o texto, cabe ao aluno, professor ou pesquisador a “responsabilidade intelectual pela seleção, veracidade e consistência das informações utilizadas ou produzidas” pela IA.

- Ensino à distância: A nova versão do parecer determinou que o uso de sistemas de IA para apoiar atividades de tutoria e orientação acadêmica em cursos de educação à distância (EaD) não pode ser computada para o cumprimento dos requisitos regulatórios de tutoria e interação previstos na regulação. Com isso, ainda é necessário que humanos também façam esse trabalho e que a IA atue apenas como um complemento.

- Professores iniciantes: O texto também define que os cursos de Pedagogia e as licenciaturas - ambos voltados para a formação de professores - devem preparar os futuros profissionais para atuar de “forma crítica, ética e pedagogicamente qualificada em contextos crescentemente mediados por tecnologias digitais e sistemas inteligentes”.

- Professores experientes: As escolas e as redes municipais, estaduais, federal e privadas de ensino são responsáveis por dar treinamento aos seus professores contratados contemplando temas como alfabetização algorítmica; elaboração de comandos e instruções para sistemas de IA; curadoria crítica de conteúdos gerados; avaliação mediada por tecnologias digitais; e integridade acadêmica.

- Detectores de IA: O parecer proibiu a utilização de ferramentas que estimam se texto, imagem, áudio ou vídeo foram produzidos por IA. O texto justifica que eles não devem ser utilizados “em razão de falsos positivos e falsos negativos”.

- Sem medo: O especialista Rafael Mello aponta que escolas e professores não devem ter medo de utilizar as aplicações de risco alto, mas precisam seguir procedimentos definidos no parecer para que não cometam erros. O texto define uma série de salvaguardas necessárias nesses casos, como avaliação prévia de impacto algorítmico, transparência e explicação acessível à comunidade escolar, além de validação humana individual e documentada.

Foto: