Dados educativos: soberania e governação na era da IA

A escola trata alguns dos dados mais sensíveis que existem: os de menores, sobre as suas dificuldades, por vezes a sua saúde, a sua progressão íntima. Confiar estes dados a sistemas de IA — muitas vezes alojados fora do país, ou mesmo fora do continente — não é um pormenor técnico, é uma decisão de governação. O enquadramento jurídico densificou-se consideravelmente e estrutura, doravante, aquilo que é permitido.

A IA educativa, uma utilização de alto risco na Europa

O regulamento europeu sobre a IA (AI Act, 2024/1689) classifica explicitamente várias utilizações educativas como «de alto risco»: decidir sobre o acesso ou a admissão, avaliar os resultados de aprendizagem, orientar o percurso ou detetar comportamentos proibidos durante os exames ^[1]. Esta classificação, definida no artigo 6.º e no anexo III, acarreta obrigações pesadas: gestão dos riscos, qualidade dos dados, transparência, supervisão humana ^[2]. Um sistema que classifica ou orienta alunos não é um gadget: é um dispositivo regulado.

RGPD, nLPD, FERPA: a proteção das pessoas

Para além do AI Act, a proteção dos dados pessoais aplica-se plenamente. O RGPD europeu (2016/679) impõe base legal, minimização, limitação das finalidades e direitos das pessoas ^[3]. Na Suíça, a nova lei federal sobre a proteção de dados (nLPD/LPD revista, em vigor desde 1 de setembro de 2023) moderniza este enquadramento: notificação das violações, avaliações de impacto para os tratamentos de risco, definição alargada de dados sensíveis, alcance extraterritorial ^[4]. Nos Estados Unidos, a FERPA protege especificamente os registos escolares ^[5]. Três regimes, uma mesma exigência: os dados do aluno não pertencem ao fornecedor.

Soberania: onde vivem os dados, quem os governa

A conformidade jurídica não resolve tudo. Fica a questão da soberania: em que território são tratados os dados, sob que jurisdição, com que dependência de fornecedores estrangeiros? Para muitos estabelecimentos europeus e suíços, a resposta pende para arquiteturas controladas — tratamento local ou nacional, minimização, controlo dos subcontratantes, reversibilidade. A IA educativa mais responsável é, muitas vezes, aquela que mantém os dados perto do aluno.

• Mapear os dados tratados e a respetiva base legal antes de qualquer implementação.
• Exigir aos fornecedores a localização, a reversibilidade e a não reutilização dos dados.
• Realizar uma avaliação de impacto para as utilizações de alto risco (classificação, orientação).
• Manter uma supervisão humana efetiva sobre as decisões relevantes.

A confidencialidade não é um travão à inovação educativa: é a condição da confiança que a torna possível.

Síntese Learnya

A OCDE e a UNESCO convergem neste ponto: a implementação da IA na educação deve estar subordinada à proteção dos dados, à equidade e a uma visão centrada no ser humano ^[6][7]. A tecnologia avança depressa; a governação deve avançar com ela, e não atrás dela.

Da conformidade à confiança

A conformidade regulamentar é um piso, não um teto. Respeitar o AI Act, o RGPD ou a nLPD é indispensável, mas não basta para instaurar a confiança das famílias, dos alunos e dos professores. Essa confiança conquista-se com escolhas visíveis: minimizar os dados recolhidos, explicar claramente para que servem, oferecer um controlo real e evitar a reutilização opaca para fins comerciais ou de treino de modelos de terceiros.

A questão da localização ilustra bem o fosso entre legalidade e soberania. Um tratamento pode ser legal e, ainda assim, depender de um fornecedor sujeito a uma jurisdição estrangeira, com as incertezas que isso comporta quanto ao acesso aos dados. Para muitos agentes educativos europeus e suíços, privilegiar um alojamento nacional ou regional e subcontratantes controlados não é um excesso de prudência: é uma forma de manter o controlo sobre dados que comprometem menores durante anos.

Por fim, a governação tem de ser viva. Uma avaliação de impacto realizada uma vez e depois esquecida não protege ninguém. As utilizações de alto risco — classificação, orientação, vigilância de exames ^[1] — exigem um acompanhamento contínuo: medir os enviesamentos, reavaliar as finalidades, documentar as decisões humanas. A tecnologia evolui depressa; uma governação estática torna-se rapidamente uma governação de fachada. É a aliança entre conformidade, soberania e vigilância que torna a IA educativa digna de confiança.

A soberania, vantagem em vez de constrangimento

Apresenta-se muitas vezes a proteção dos dados como um travão à inovação. A experiência sugere o contrário: num domínio tão sensível como a educação de menores, a confiança é o primeiro fator de adoção. Um estabelecimento, as famílias, os professores aceitarão tanto melhor a IA quanto mais souberem para onde vão os dados e quem os controla. A soberania torna-se então uma vantagem competitiva e pedagógica, e não um constrangimento imposto.

À medida que o AI Act se implementa e que a jurisprudência se precisa, os agentes que tiverem integrado a conformidade e o controlo dos dados desde a conceção estarão em melhor posição. O desafio não é escolher entre inovação e proteção, mas fazer da segunda o alicerce da primeira. Isto é particularmente verdade no espaço europeu e suíço, onde a exigência de confidencialidade é, simultaneamente, um valor e uma expectativa forte.