Ética e IA

ESCOLA SUPERIOR DE EDUCAÇÃO DO INSTITUTO POLITÉCNICO DE SANTARÉM

Ética na investigação em educação na era da Inteligência Artificial

Tensões, dilemas e paradoxos contemporâneos

investigação em educação e problemas sociaisAntónio PORTELADA E DAVID BEIRANTE

3 QUESTÕES DE $1.000.000

1. Quando utilizamos Inteligência Artificial na investigação, quem é realmente responsável pelo conhecimento produzido: o investigador, o algoritmo ou a relação entre ambos? 2. Se a IA pode analisar dados mais rapidamente e produzir interpretações plausíveis, como garantimos que a investigação continua a ser fiel às experiências e às vozes dos participantes? 3. Até que ponto o uso crescente da IA na investigação pode reforçar desigualdades, enviesamentos ou decisões injustas nas políticas educativas que dela resultam?

ÉTICA NA ERA DA IA

A ética na investigação nunca foi apenas uma questão de cumprir códigos ou regulamentos. Trata-se de um exercício permanente de reflexão sobre as responsabilidades do investigador perante os participantes, a comunidade científica e a sociedade. A emergência da Inteligência Artificial torna esta reflexão ainda mais urgente, porque transforma profundamente as formas de produzir, interpretar e disseminar conhecimento.

Porquê falar de ética na investigação hoje?

A investigação em educação é apenas uma atividade científica ou também uma prática moral? A ética na investigação refere-se aos princípios que orientam as relações entre investigadores, participantes e sociedade, bem como às decisões sobre como produzir conhecimento e quais as consequências dessa produção (Smith, 1990).

Porquê falar de ética na investigação hoje?

Hoje esta reflexão torna-se ainda mais urgente por três razões: 1. Digitalização da investigação 2. Uso crescente de Inteligência Artificial 3. Maior impacto social das políticas educativas baseadas em dados A questão central deixa de ser apenas “como investigar”, passando a ser também: Que tipo de conhecimento estamos a produzir e com que implicações éticas?

EXEMPLO:

Imagine um investigador que pretende estudar as dificuldades de aprendizagem em matemática de alunos de contextos socioeconómicos desfavorecidos.Para isso, recolhe vários tipos de dados numa escola:

• resultados escolares dos alunos
• respostas a questionários sobre hábitos de estudo
• entrevistas com professores
• trabalhos escritos dos alunos

Até aqui trata-se de um procedimento relativamente clássico de investigação educacional. No entanto, num contexto contemporâneo, três transformações entram em jogo.

EXEMPLO:

Primeiro: a digitalização da investigação. Grande parte destes dados já não está apenas em papel ou em notas de campo, mas em bases de dados digitais, plataformas escolares, registos online ou plataformas de aprendizagem. Segundo: o uso de Inteligência Artificial. O investigador decide utilizar uma ferramenta de IA para analisar rapidamente centenas de respostas abertas dos alunos e identificar padrões nas suas dificuldades. Terceiro: o impacto social das políticas baseadas em dados. Os resultados do estudo são utilizados por decisores educativos para propor novas medidas de apoio a determinados grupos de alunos.

EXEMPLO:

Onde surge então o problema ético?A investigação pode produzir conclusões como, por exemplo:“Alunos de determinados contextos socioeconómicos apresentam padrões persistentes de baixo desempenho em matemática.” Esta afirmação pode ser estatisticamente sustentada, mas levanta várias questões éticas à partida:

• Pode contribuir para estigmatizar certos grupos de alunos.
• Pode reforçar visões deficitárias sobre determinadas comunidades.
• Pode influenciar políticas educativas que classificam ou rotulam escolas ou alunos.

EXEMPLO:

E que "novos" problemas podem surgir com a utilização da IA?

• O algoritmo pode ter reproduzido enviesamentos presentes nos dados.
• A interpretação produzida pela IA pode ter simplificado realidades complexas.
• Os participantes podem não ter sido informados de que os seus dados seriam analisados com recurso a IA.
• A responsabilidade social do conhecimento produzido pode tornar-se difusa.

Princípios fundamentais da ética na investigação

Os principais referenciais internacionais convergem em alguns princípios fundamentais. European Code of Conduct for Research Integrity (ALLEA) Quatro princípios estruturantes: • Fiabilidade – qualidade metodológica da investigação • Honestidade – transparência na produção e comunicação científica • Respeito – pelos participantes e pela sociedade • Responsabilidade – pelos impactos da investigação

Princípios fundamentais da ética na investigação

Estes princípios orientam todas as fases da investigação: • conceção • recolha de dados • análise • publicação • disseminação A violação destes princípios inclui três práticas clássicas: • fabricação de dados • falsificação de resultados • plágio Mas hoje surgem novos riscos éticos associados à IA.

Novos riscos éticos associados ao uso de IA na investigação

Referências ou informação inventadas (“alucinações”) Os sistemas de IA podem gerar citações, autores ou resultados que parecem plausíveis mas que não existem. Exemplo: Um investigador pede à IA para gerar uma revisão de literatura sobre abandono escolar. O sistema apresenta várias referências aparentemente credíveis, com autores e títulos realistas. No entanto, algumas dessas referências não existem na realidade. Se o investigador não verificar cuidadosamente as fontes e incluir essas citações no artigo, o problema deixa de ser apenas um erro técnico e passa a ser uma violação da integridade científica.

Novos riscos éticos associados ao uso de IA na investigação

Análise automatizada que distorce os dados qualitativos A IA pode ser usada para codificar entrevistas ou identificar temas em dados qualitativos, mas os algoritmos podem simplificar excessivamente experiências complexas. Exemplo: Num estudo sobre o bem-estar dos professores, o investigador utiliza IA para analisar dezenas de entrevistas. O sistema identifica temas como “stress”, “sobrecarga” e “desmotivação”, mas ignora nuances importantes nas narrativas dos professores. O resultado pode parecer metodologicamente rigoroso, mas na realidade pode distorcer ou empobrecer a interpretação dos dados.

Novos riscos éticos associados ao uso de IA na investigação

Violação de confidencialidade dos dadosEm investigação educacional trabalha-se frequentemente com:

• dados de alunos
• entrevistas com professores
• relatórios escolares
• dados potencialmente identificáveis

Se estes dados forem inseridos em plataformas externas de IA, pode ocorrer exposição involuntária de informação sensível.Exemplo: Um investigador coloca transcrições de entrevistas com alunos numa ferramenta de IA online para gerar uma análise temática. Mesmo sem intenção, pode estar a transferir dados confidenciais para servidores externos, o que pode violar regras de proteção de dados e consentimento informado.

Novos riscos éticos associados ao uso de IA na investigação

Reprodução de enviesamentos e discriminação Os modelos de IA são treinados em grandes volumes de dados que refletem desigualdades sociais existentes. Por isso, podem reproduzir ou amplificar enviesamentos relacionados com género, origem social ou etnia. Exemplo: Um investigador utiliza IA para analisar dados sobre desempenho escolar. O sistema sugere que determinadas dificuldades de aprendizagem estão associadas a alunos de determinados contextos socioeconómicos. Se essas interpretações forem aceites sem reflexão crítica, podem reforçar estereótipos ou visões deficitárias sobre certos grupos de alunos.

Novos riscos éticos associados ao uso de IA na investigação

Opacidade metodológica Quando a IA influencia o processo de investigação, pode tornar-se difícil perceber como certas decisões analíticas foram tomadas. Exemplo: Um investigador utiliza IA para gerar categorias de análise numa investigação qualitativa, mas não regista os prompts utilizados nem as versões do modelo. Neste caso, outros investigadores não conseguem compreender nem reproduzir o processo analítico, comprometendo a transparência e a reprodutibilidade da investigação.

Novos riscos éticos associados ao uso de IA na investigação

Em suma:Os novos riscos éticos da IA não substituem os problemas clássicos da integridade científica, mas transformam as suas formas de manifestação.Se antes o problema era, sobretudo, inventar dados ou plagiar textos, hoje surgem novos desafios:

• dependência excessiva de sistemas automatizados
• opacidade na produção de conhecimento
• riscos para a confidencialidade dos participantes
• reprodução de enviesamentos algorítmicos

Por isso, o uso ético da IA exige uma vigilância científica ainda maior por parte do investigador.

A educação é um campo "de risco" face às questões éticas e o uso da IA?

Sim.A investigação em educação apresenta desafios éticos particulares porque envolve frequentemente: • crianças e jovens • professores • contextos institucionais vulneráveis • relações de poder Os códigos de ética destacam alguns princípios centrais:

A educação é um campo "de risco" face às questões éticas e o uso da IA?

Relação com participantes : • consentimento informado - Ex: Alunos ou professores autorizam a utilização das suas entrevistas para investigação, mas não foram informados de que essas transcrições seriam analisadas através de sistemas de IA. • confidencialidade - Ex: Um investigador coloca entrevistas com professores numa ferramenta de IA online para análise temática. As descrições detalhadas podem permitir identificar a escola ou o contexto.

A educação é um campo "de risco" face às questões éticas e o uso da IA?

Relação com participantes (cont.): • proteção de dados - Ex: Dados de alunos inseridos numa ferramenta de IA podem ser armazenados em servidores fora da União Europeia, potencialmente violando normas de proteção de dados (como o RGPD). • direito de desistência - Ex: Se um participante pede para retirar a sua entrevista da investigação, mas essa entrevista já foi usada para treinar um modelo ou gerar análises automáticas, pode ser impossível eliminar completamente a sua influência nos resultados.

A educação é um campo "de risco" face às questões éticas e o uso da IA?

Relação com a comunidade científica • autoria e coautoria - Ex: Um investigador utiliza IA para redigir partes substanciais de um artigo ou gerar interpretações dos dados. Surge a questão: até que ponto a produção intelectual continua a ser do investigador? • integridade científica - Ex: A IA sugere uma explicação convincente para um fenómeno educativo, mas essa interpretação não é sustentada pelos dados empíricos recolhidos. • revisão por pares - Ex: Um revisor insere um artigo recebido para avaliação numa ferramenta de IA para obter um resumo ou comentários críticos. Ao fazê-lo, pode estar a divulgar conteúdo confidencial sem autorização.

A educação é um campo "de risco" face às questões éticas e o uso da IA?

Relação com a sociedade • utilidade social da investigação - Ex: Uma análise assistida por IA conclui que determinadas escolas apresentam menor desempenho devido às características dos alunos, ignorando fatores estruturais como recursos ou condições de ensino. • responsabilidade pública - Ex: Uma política educativa é implementada com base numa análise de dados assistida por IA que identifica “alunos em risco”. Se essa classificação estiver errada, pode afetar trajetórias escolares e oportunidades educativas.

Paradigmas de investigação e ética (riscos no uso da IA)

Paradigma positivista • foco na neutralidade • maior formalização ética • protocolos rígidos Risco ético principal: Falsa objetividade algorítmica Ex.: Num estudo quantitativo sobre abandono escolar, um investigador utiliza IA para identificar fatores preditores com base em grandes bases de dados educacionais. O algoritmo identifica que alunos de certos contextos socioeconómicos apresentam maior probabilidade de abandono. O risco ético é que o resultado seja apresentado como uma verdade objetiva e neutra, ignorando que os dados podem refletir desigualdades estruturais, o modelo pode reproduzir enviesamentos sociais ou as conclusões podem legitimar políticas discriminatórias. Neste paradigma, a IA pode reforçar uma ilusão de neutralidade científica.

Paradigmas de investigação e ética (riscos no uso da IA)

Paradigma interpretativo • ética negociada • valorização das vozes dos participantes • investigação como relação Risco ético principal: Redução da experiência humana a padrões automatizados Ex.: Num estudo etnográfico sobre identidade profissional docente, um investigador recolhe entrevistas longas com professores e decide utilizar IA para identificar automaticamente os temas principais. O sistema produz categorias como stress profissional, desmotivação, carga burocrática. No entanto, a análise automatizada pode ignorar ambiguidades nas narrativas, apagar contradições importantes ou reduzir a complexidade das experiências vividas. O risco ético é que a voz dos participantes seja substituída por padrões produzidos pelo algoritmo. Neste paradigma, a IA pode comprometer a fidelidade à experiência dos participantes.

Paradigmas de investigação e ética (riscos no uso da IA)

Paradigma crítico • compromisso político e social • combate às desigualdades • investigação como prática emancipatória Risco ético principal: Reprodução ou amplificação de desigualdades sociais Ex.: Num estudo sobre inclusão escolar, um investigador utiliza IA para analisar dados sobre desempenho académico e sugerir intervenções educativas. O sistema pode sugerir intervenções diferenciadas para certos grupos de alunos com base em padrões históricos de desempenho. O problema ético é que o algoritmo pode reforçar estereótipos sociais, legitimar desigualdades existentes, naturalizar diferenças que são socialmente produzidas. Neste paradigma, a IA pode contrariar o objetivo emancipatório da investigação crítica.

A emergência da IA na investigação em educação

A Inteligência Artificial está a transformar rapidamente o trabalho científico. Hoje investigadores utilizam IA para: • revisão de literatura • tradução científica • análise de dados qualitativos • construção de questionários • apoio à escrita académica • síntese de resultados Mas esta transformação levanta novas questões éticas.

A emergência da IA na investigação em educação

As orientações europeias para IA de confiança apontam princípios essenciais: • supervisão humana • transparência • privacidade de dados • não discriminação • responsabilidade A IA deve ser entendida como ferramenta auxiliar, nunca substituta do julgamento científico.

Conclusão: ética como prática reflexiva

Podemos terminar com três ideias-chave:

1. A ética não é um conjunto de regras fixas , mas sim um processo contínuo de reflexão e decisão.
2. A IA amplifica dilemas éticos já existentes , tais como a privacidade, a autoria, a responsabilidade científica e as desigualdades sociais.
3. O investigador continua a ser o principal agente moral. Ou seja, a tecnologia não substitui o julgamento científico, a responsabilidade ética, o compromisso social da investigação.

É caso para dizer ...

Sempre que decidir usar a IA em qualquer etapa do processo de investigação, use a máxima: LIGOU-SE À INTELIGÊNCIA ARTIFICIAL, POR FAVOR NÃO DESLIGUE O CÉREBRO!