Inteligência artificial para formular material das escolas públicas de SP: modernização ou risco de erros? Veja análise de especialistas
21/04/2024
(Foto: Reprodução) Secretaria de Educação de São Paulo admite, após documento interno 'vazar', que existe projeto-piloto para usar plataformas digitais na revisão e atualização de slides usados pelos professores. Entenda quais os benefícios e riscos envolvidos na estratégia. Ferramentas de inteligência artificial são avaliadas por governo de SP
Michal Jarmoluk/Pixabay
A Secretaria de Educação do Estado de São Paulo prevê usar uma plataforma de inteligência artificial (IA) para formular e atualizar os slides mostrados pelos docentes nas aulas do ensino fundamental II e do ensino médio.
➡️Segundo o órgão, é um “projeto-piloto” que não vai elaborar o conteúdo “do zero”: partirá do que já foi escrito por professores curriculistas (especialistas na formulação de materiais) para “inserir novas atividades, exemplos de aplicação prática do conhecimento e informações adicionais que enriqueçam as explicações de conceitos-chave de cada aula”.
❓Até a mais recente atualização desta reportagem, a Secretaria de Educação de São Paulo não havia confirmado qual será o tipo de ferramenta empregada – não sabemos, portanto, se o governo adotará uma plataforma formulada especificamente para o uso educativo ou se escolherá algo mais generalista, semelhante à versão 3.5 do ChatGPT. Nesta sexta-feira (19), o Ministério Público cobrou explicações do governo paulista e um maior detalhamento do projeto.
O g1 conversou com docentes da educação básica e do ensino superior, pesquisadores, autores de materiais didáticos e especialistas em tecnologia para debater:
quais os riscos de os materiais apresentarem erros ou limitarem a dinâmica das aulas;
de que forma os professores serão impactados pela mudança (terão mais trabalho ou economizarão tempo?);
que vantagens e desvantagens existem na adoção de IA na preparação dos slides;
quais cuidados são essenciais para que não haja prejuízo aos alunos.
Não é a primeira vez que o governo de São Paulo apresenta um projeto de uso da tecnologia na educação e gera discussão entre docentes e pesquisadores. Há oito meses, o governador Tarcísio de Freitas havia tentado abrir mão dos livros impressos e substituí-los somente por materiais didáticos digitais nas salas de aula – o plano foi cancelado após sofrer críticas de especialistas.
Antes de entender, mais abaixo, as possíveis consequências do uso de IA na formulação dos slides, veja o que já se sabe sobre o projeto do governo paulista:
A ferramenta adotada deve formular a primeira versão da “modernização da aula”, com cerca de 18 slides. Tomará como base os temas pré-definidos pela secretaria estadual e as referências passadas pelo órgão.
Um profissional contratado analisará esse conteúdo e fará as adaptações pedagógicas e correções necessárias.
Um time interno da secretaria fará uma revisão do material e poderá, se necessário, enviá-lo de volta para o profissional da etapa anterior.
Os recursos didáticos (como mapas e imagens) serão colocados nas apresentações.
As aulas serão validadas.
Cada profissional “revisor” terá dois dias úteis para entregar três aulas.
🔴Inovação ou atitude precipitada?
Beatriz Alqueres, gerente-executiva no Instituto Ayrton Senna, acredita que usar a ferramenta de inteligência artificial na revisão dos slides será “formalizar algo que já está acontecendo”.
“Todos nós já estamos usando o ChatGPT, por exemplo, para agilizar nossos trabalhos ou fazer pesquisas rápidas. A absorção disso é um ‘foguete’; muito orgânica e fácil. Pode parecer [um ponto de vista] romantizado, mas a IA tem um potencial enorme. Se vamos conseguir explorar adequadamente isso, aí já é incerto.”
Esta perspectiva de defender a “modernização” também é defendida por Lucas Rodrigues, mestre em data science pela Universidade de Paris e CEO do Clipping, startup de educação especializada em inteligência artificial.
“O governo, ao adotar essa medida, traz uma inovação e começa já a se preparar para o futuro que está vindo. E é uma linguagem que os próprios alunos também vão adotar”, diz.
Já Paulo Blikstein, professor de tecnologias da aprendizagem na Universidade Columbia (EUA), afirma que não seria o momento de implementar em sala de aula uma tecnologia considerada por ele tão incipiente.
“Não temos experimentos suficientes para saber da taxa de acerto dessas ferramentas. É muito temeroso e problemático usá-las na rede pública. É como ter uma técnica nova de cirurgia, que ainda não foi testada, e aplicá-la no SUS [Sistema Único de Saúde]”, diz.
“O governo está agindo de forma apressada, trazendo para alunos algo que precisaria ter sido testado amplamente na academia. Só está indo na onda de inovação tecnológica, colocando em risco a educação das crianças e jovens.”
Ele sugere que, antes de haver esse projeto em São Paulo, o governo participasse de um consórcio com pesquisadores de universidades estrangeiras, por exemplo, para elaborar testes mais precisos.
🔴Maior eficiência ou sobrecarga de trabalho dos professores?
Rodrigues, da área de data science, vê o uso das ferramentas digitais como uma forma de poupar tempo dos 90 professores curriculistas da rede paulista.
“Há um ganho de produtividade, porque, como vemos na proposta, [o conteúdo gerado pela IA] ainda vai passar por uma revisão humana. Uma pessoa que antes gastaria uma semana para escrever [ou atualizar] um conteúdo deve poder conseguir revisar em apenas um dia”, diz. “Isso vai universalizar mais o acesso à educação e dar uma escala maior ao aprendizado.”
Para Bernardo Soares, pesquisador em formação docente, educação e tecnologia, e autor de livros didáticos, o efeito pode ser exatamente o oposto: sobrecarregará tanto os professores que revisarão os materiais quanto aqueles que aplicarão os slides no dia a dia.
“Já é difícil revisar uma aula feita por outro professor; imagina só a feita por um computador. É o docente que sabe alinhar o conteúdo às necessidades do currículo paulista e da base curricular. Ele vai ter bem mais trabalho [para corrigir tudo]”, diz.
Blikstein, da Universidade Columbia, concorda que haverá uma sobrecarga dos docentes.
“Um material didático necessita de precisão de 100%. A gente sabe que tipos de erro os humanos costumam cometer, mas e os que a inteligência artificial cometem? São falhas mais difíceis de detectar. É obrigatório revisar os dados, as sequências, os detalhes, as informações. No mundo, já estão percebendo que, em muitos casos, essa revisão demora mais do que elaborar o material ‘manualmente’”, afirma o professor.
➡️A dinâmica de aprimoramento das ferramentas de inteligência artificial depende dos próprios usuários. Quanto mais a plataforma for usada, mais ela “aprende”.
Veja um exemplo abaixo:
O g1 pediu para o ChatGPT formular slides para alunos do 5º ano sobre funções trigonométricas. Em menos de um minuto, havia um esquema com o que deveria ser abordado em cada tela.
No entanto, em vez de chamar um dos elementos do triângulo de “cateto”, o sistema usou o termo “lado”:
Resposta do ChatGPT usa o termo "lado", em vez de "cateto" (que seria o mais correto).
Reprodução
Depois de corrigido, o “robozinho” admitiu que não havia escolhido a melhor palavra da primeira vez:
ChatGPT é "corrigido" pelo g1.
Reprodução
A partir de exemplos como esse, Daniel Cara, professor da Faculdade de Educação da Universidade de São Paulo (USP), afirma que os professores curriculistas acabarão trabalhando “gratuitamente” para as empresas de tecnologia donas dessas ferramentas.
“Treinar uma ferramenta é um trabalho a mais para o docente. Ele já tem conhecimento da BNCC [Base Nacional Comum Curricular] e do currículo, tem experiência em sala de aula. Não vejo como isso possa acrescentar algo positivo.”
🔴Dar mais autonomia para o professor ou ‘engessar’ as aulas?
A Secretaria de Educação de São Paulo já fornece atualmente os slides que os professores devem usar nas aulas. É um material que passa atualmente por revisão de humanos e que, mesmo sem a intervenção da inteligência artificial, já é criticado por parte dos professores da rede.
“Em geografia, que é a minha disciplina, eu recebo os slides prontos, sem uma sequência didática lógica. Às vezes, são 20 ou 30 que eu preciso passar em 45 minutos de aula. Se não der tempo, não posso voltar a eles na aula seguinte, porque a coordenação e a direção fazem esse controle [do cronograma]”, conta uma docente que preferiu não se identificar.
“A direção chega a praticar assédio moral se o professor não usar todo o material.”
O g1 questionou a Secretaria de Educação de SP sobre essa denúncia, mas não obteve retorno até a última atualização desta reportagem.
Beatriz Alqueres, do Instituto Ayrton Senna, diz que o uso das ferramentas digitais precisa ser associado a uma reflexão sobre as práticas escolares.
“Até o uso do livro didático, que já está impresso, pode ‘engessar’ a aula. O ‘pulo do gato’ é pensar na relação dos professores com o material adotado. Como podemos associar tudo para fortalecer a aprendizagem dos alunos?”, questiona.
🔴Ter novas ideias ou correr o risco de errar mais?
Alqueires diz que, com a plataforma digital, “os professores vão poder ter apoio para pensar em formas de interdisciplinaridade”.
“A ferramenta ajuda a integrar mais os conteúdos de diferentes áreas, sem exigir que o professor domine todos os assuntos. O docente de matemática pode ter sugestões de como associar sua disciplina aos assuntos de física e história”, afirma. “É mais rápido usar a ferramenta de IA do que fazer o professor se apropriar de todos esses conhecimentos.”
O pesquisador Soares preocupa-se com a limitação das plataformas digitais em produzir conteúdos – não só no sentido de poder apresentar erros conceituais ou ultrapassados, mas também de restringir a perspectiva do aluno sobre determinado fato histórico.
“Li outro dia, nas redes sociais, que usar a IA vai ser o fim da doutrinação política nas escolas. Mas a questão é que, dependendo do modo como a pessoa vai dar o comando para a plataforma, o resultado pode ser ainda mais enviesado. O ChatGPT, por exemplo, vai usar os termos do comando digitado para pesquisar a resposta na rede. Ou seja, vai chegar a resultados que confirmem uma visão específica de algo.”
Rodrigues também enfatiza que há esse risco. “Se for usada uma palavra preconceituosa, os resultados podem refletir a mesma ideia. Claro que se diminui o risco com a revisão humana, mas talvez não completamente, porque a informação é replicada [pelo ‘robô’] de forma cada vez mais sutil.”
Como o governo não divulgou a ferramenta que usará no projeto, não é possível ainda mensurar os riscos de gerar erros nos materiais.
“Espero que não seja algo tão limitado. Já tentei usar o ChatGPT, por exemplo, para dar aula de redação. Pedi sugestões de livros sobre um tema, mas vários que ele me passou sequer existiam”, conta o professor Soares.
Quais medidas são essenciais para minimizar riscos no uso de IA?
ChatGPT não tem a informação atualizada sobre a presidência do Brasil (busca feita em 19 de abril de 2024).
Reprodução
A seguir, veja um resumo dos cuidados necessários no uso da IA na formulação do material didático, segundo os especialistas entrevistados pelo g1.
Atenção às informações desatualizadas. O ChatGPT 3.5 (versão gratuita), por exemplo, usa uma base de dados ultrapassada e não consegue dizer quem é o presidente atual do Brasil.
A checagem de tudo é absolutamente essencial. As ferramentas geram textos que, por serem escritos corretamente, passam a ilusão de sempre estarem corretos. Se o professor não prestar atenção, pode haver erros graves.
Os direitos autorais devem ser respeitados. É comum que essas plataformas não citem a fonte original da informação.
O profissional que fará a pergunta ou dará o comando para a ferramenta precisará de um treinamento específico. A orientação não deverá ser só pedagógica, mas também técnica. Que termos usar para gerar os resultados esperados?
A inteligência artificial não conhece o aluno. Ela produzirá apenas conteúdos objetivos. Cabe à rede direcionar quais são as demandas específicas de cada turma ou escola.
Deve haver investimento em tecnologia. Relatos colhidos pelo g1 apontam que, em algumas escolas estaduais, equipamentos como TV e projetor estão quebrados. O professor acaba improvisando uma aula na lousa normal.
Por que a Suécia desistiu da educação 100% digital?
Vídeos
