O ensino e a aprendizagem não cabem em algoritmos: relato docente sobre o fetiche da inteligência artificial

O artigo relata a experiência como professora de Ética e Informação em uma universidade federal. As inteligências artificiais (IA) despertam cada vez mais interesse não somente na área da informação e comunicação, mas na sociedade em geral. O tema foi central ao longo do semestre e principalmente na fase da avaliação final, devido ao uso acrítico de ferramentas generativas por discentes do último período. Ou seja, essas reflexões antecipam o perfil profissional que adentra o mercado de trabalho.

Michael Wooldridge, professor de ciência da computação na Universidade de Oxford e diretor do Instituto Alan Turing, adverte sobre narrativas impressionadas que mistificam a IA ¹ . Se nos perdemos na ficção científica da salvação ou ameaça das máquinas, ignoramos o perigo real da ausência de regulação e disseminação de desinformação eleitoral e deep fakes . Nessa linha, o artigo coteja o uso ingênuo ou antiético dessas ferramentas.

Relatos de experiência apresentam a reflexão crítica sobre alguma vivência científica e profissional, cuja sistematização proporciona “(re)codificações do conhecimento” ² para novas comunidades. A intervenção acadêmica-profissional mira os pilares da formação universitária, a saber, ensino, pesquisa e/ou extensão. Aqui, dois pilares são tratados. Quanto à pesquisa, a fundamentação teórica se baseia no legado do ComMarx, Grupo Marxiano de Pesquisa em Informação, Comunicação e Cultura, coordenado pelo professor Marcos Dantas. Há quatro anos nos dedicamos ao estudo e produção científica sobre O conceito de tecnologia , de Álvaro Vieira Pinto. Quanto ao ensino, a perspectiva docente foi desenhada a partir de materiais oriundos das aulas, como as exposições orais dos alunos em sala ou por escrito no trabalho final e nos comentários da autoavaliação. Ao relacionar teoria e prática, a proposta engloba duas metodologias, pois o relato de experiência é o formato escolhido para comunicar a metodologia dialógica das aulas.

Mussi, Flores e Almeida ³ sugerem quatro dimensões para relatos de experiência: (1) descrição informativa – características do cenário, como período temporal, atividade, público-alvo, resultados, discussão e conclusão; (2) descrição referenciada – fundamentação e embasamento em obras científicas; (3) descrição dialogada – posição da autoria e discussão entre relato e literatura; (4) descrição crítica – análise reflexiva com autocrítica sobre as limitações da ação. Este relato busca abarcar as quatro dimensões propostas, ainda que o formato a seguir não siga a divisão tradicional, com subseções específicas para materiais ou resultados, por exemplo.

O texto está dividido em três seções principais, além desta introdução e das considerações finais. Após a introdução, a segunda parte traz a fundamentação da teoria dialética da informação de Álvaro Vieira Pinto, o AVP, segundo cunhado por seu amigo Vinícios de Moraes. Nosso grupo de estudos gosta de manter a alcunha carinhosa, pois talvez isso nos aproxime do autor. AVP pode ser considerado um dos maiores filósofos do Brasil, chamado de mestre por Paulo Freire, mas infelizmente é pouco conhecido. Estamos empenhados em resgatar esse arcabouço conceitual tão pertinente para o nosso campo e para a ciência brasileira.

A terceira seção apresenta a metodologia participativa da disciplina. A dinâmica das aulas foi inspirada na educação dialógica de Freire, que contou com diversas atividades, como dezenas de seminários discentes, nota de participação, nota de autoavaliação, recursos multimídias para leitura crítica dos meios de comunicação e trabalho final em formato aberto. A metodologia do curso havia sido originalmente elaborada para um estágio em docência durante a pandemia, com os desafios e oportunidades do formato online.

A quarta seção relata a experiência como professora de Ética e Informação, apresentando a recepção da proposta dialógica e o desafio de engajamento. Além disso, havia a popularização da inteligência artificial generativa. A experiência docente constatou o fetiche da tecnologia, assunto de interesse para a economia política da informação e comunicação que tem sido objeto de estudo do nosso grupo. Questões antigas, mas que se renovam e tomam de surpresa grande parte da sociedade, inclusive profissionais, docentes e instituições de ensino.

Este trecho apresenta a “descrição referenciada”, o arcabouço que fundamenta o relato prático das seções seguintes. O debate teórico busca dar conta do pilar pesquisa, pois o conteúdo se soma à produção que o grupo de estudo tem desenvolvido. Além disso, a discussão sobre a inteligência das máquinas foi levantada nas primeiras aulas de Ética e Informação, voltando frequentemente aos debates ao longo do período.

Em 1936, Alan Turing lidava com a questão que ainda ressoa: a máquina pode pensar? Para o matemático e cientista da computação, a pergunta é irrelevante ⁴ , o que importa é o “jogo de imitação” desempenhado pelo computador. Sendo marca da humanidade o fascínio com as inovações técnicas, a IA já celebra quase um século de idade, mas ainda é vista como futurista. Essa tecnologia está há anos integrada ao cotidiano, popularizada, por exemplo, no corretor automático de texto, aplicativos de tradução e softwares de reconhecimento facial. AVP chamava de “futurologia” o superdimensionamento dos impactos tecnológicos, um exercício de criatividade válido para a literatura de ficção científica, mas que não é realmente científico.

O deslumbre com o presente, considerado avançado ou disruptivo, demonstra que os homens estão maravilhados com seus próprios feitos, em outras palavras, maravilhados com eles mesmos. E, neste caso, o substantivo homem não representa a universalidade humana, mas a forma de autoridade proprietária. As máquinas não vão se revoltar nem roubar empregos, pois são os empregadores que eliminam vagas e precarizam o trabalho. Toda técnica é humana. Em 1970, AVP já criticava o fetiche das tecnologias oriundas do norte, adotando uma postura dialética sobre a inteligência artificial, nem tecnofílica, nem tecnofóbica, mas que tendia ao otimismo, pois novas técnicas materializam o acúmulo do conhecimento humano. Esse equilíbrio sensato à dialética e ao rigor científico não corresponde ao senso comum.

A teoria dialética da informação se contrapõe à teoria matemática da comunicação, elaborada por Claude Shannon e Warren Weaver em 1948. De abordagem lógico-formal, o esquema estatístico da informação reduz a comunicação a um canal específico, com emissor e receptor independentes do contexto, pela presença ou ausência de um sinal energético em sistema fechado. A representação binária da informação exclui o conteúdo ou qualquer ruído – a variedade não codificada, nos termos de Wilden ⁵ . A teoria de Shannon e Weaver ⁶ resolve apenas o desafio técnico de transmissão de sinais (nível A), ou seja, não foi concebida para análise semântica da comunicação (nível B) e nem para o problema de efetividade (nível C).

Acontece que a semântica e a efetividade são essenciais para o campo da informação. Contudo, a teoria matemática da comunicação se tornou paradigma do conhecimento na área. Carlos Araújo ⁷ considera que a ampla aceitação decorre de ter sido a primeira teoria científica a conceituar “informação” e por ter, sem dúvidas, impulsionado avanços tecnológicos desde então. Daí o fetiche. Em suma, a crítica à teoria matemática da comunicação existe por não haver canais perfeitamente fechados; o observador não está fora do sistema e tampouco a complexidade da informação se resume a duas variáveis.

Em contrapartida, a segunda geração da cibernética adota a dialética dos sistemas abertos ⁸ . Até um canal supostamente fechado, por exemplo, um circuito elétrico, na verdade é aberto em alguma medida, pois está em troca com o ambiente e a ele suscetível. As máquinas precisam de supervisão, reparo, energia, sofrem oxidação etc. Ainda mais abertos e complexos são os fenômenos sociais. A perspectiva dialética da cibernética concebe a informação como qualidade da matéria que amarra a totalidade a partir da comunicação de seus elementos – para os quais o modelo matemático não se aplica, e até seus formuladores pontuaram isso.

AVP ⁹ sintetiza a dialética da troca infocomunicacional em três níveis: na matéria inorgânica, ocorre ação recíproca de troca entre o meio, pois até os minerais sofrem/atuam processos de informação e comunicação. Já na multiplicidade orgânica, os animais não humanos, por exemplo, operam por reflexo . Somente a espécie humana atinge o terceiro nível da consciência , o salto qualitativo original da evolução natural, tornada social. Esse fluxo em constante intercâmbio é o campo da cibernética, muito além de meras máquinas. Por isso AVP ¹⁰ caracteriza dois grandes grupos: os entes cibernéticos por natureza e os entes cibernéticos por construção.

Anthony Wilden nos ajuda a entender a amplitude da teoria dialética da informação. A fim de abarcar a totalidade sistêmica, o teórico britânico ordena a crescente complexidade e dependência do nível anterior: ordem física (inorgânica) > ordem ecológica > meios de produção > relações sociais de produção: “Assim chegamos às falsas simetrias do modo de dominação global, pois a terra é a fonte do trabalho e o trabalho é a fonte do capital ¹¹ . A terra se localiza em um tipo lógico superior no que diz respeito ao trabalho, e o trabalho se localiza em um tipo lógico superior no que diz respeito ao capital e os meios de produção, como ferramentas e maquinarias. Contudo, a hegemonia impõe o contrário, já que o capital se apropria dos meios de produção para dominar o trabalho e a terra. Isso importa para entendermos a devida hierarquia da produção de riqueza, pois o trabalho vivo, humano, é o que produz valor, logo, superior ao trabalho morto, acumulado em máquinas.

Há quase 200 anos, Marx cunhava o conceito de mais-valor como trabalho não pago, a fim de jogar luz sobre a apropriação da mão de obra alheia. A geração de mais-valor pode ser absoluta, pelo aumento das horas trabalhadas ou a contratação de novos funcionários. Porém, a grande virada da acumulação capitalista se dá com o mais-valor relativo, ao incorporar tecnologia para substituir a força de trabalho, aumentando a produtividade sem aumentar a jornada ou o salário. A lógica da apropriação de conhecimento transforma o trabalho vivo (humano) em trabalho morto (maquínico), processo central para entendermos a ciência e a tecnologia. Acirram-se as contradições da automação: “Essa subversão contínua da produção, esse abalo constante de todo o sistema social, essa agitação permanente e essa falta de segurança distinguem a época burguesa de todas as precedentes” ¹² .

Pela amplitude da teoria dialética, a informação não está só na linguagem ou nas tecnologias, mas na totalidade do real, como no código genético ou nas trocas materiais inorgânicas. AVP aponta que “todo instrumento ou ferramenta processa informação” ¹³ , seja de maneira física, contextual ou simbólica. Inclusive um martelo possui circuito de controle externo, que se passa na mente humana. O que há de novo na máquina cibernética é o circuito ser interno quase por completo, processador de informações sobre informações ¹⁴ . Porém, não é mágica, mas lógica de programação input-output , com regras introduzidas pelo maquinista.

A humanidade é obrigada a pensar, reflete a nossa condição mínima de existência para produção social. Somos a única espécie que não apenas consome o mundo, mas o produz, enquanto produzimos a nós mesmos. AVP ¹⁵ reitera que é ilógico “atribuir à máquina qualquer forma de inteligência, visto não precisar conhecer o mundo. Quem precisa é o construtor dela, e por isso dizemos que a máquina não tem problemas, sendo ela própria a solução de um problema, mas do construtor”.

Esta distorção acarreta com frequência a antropomorfização. Na aula sobre inteligência artificial, debatemos notícias em profusão, como: “o ChatGPT vai roubar o seu trabalho”, “O Facebook te conhece melhor do que qualquer pessoa”, “Robô cirurgião já é realidade nos hospitais”. Há 50 anos, AVP comentava sobre computadores que jogam xadrez:

O que de fato acontece é que o jogador perde para o autômato. Ora, isso é coisa muito diferente do que dizer que a máquina ganha. […] Na verdade, o jogador humano está sempre em inferioridade de condições, porque joga sozinho não contra um determinado adversário, com sua capacidade individual, mas contra todo o acervo das melhores experiências do conjunto de grandes enxadristas que forneceram o material retirado das partidas anteriores que fica armazenado na memória da máquina, em condições de fixação física que a memória psicológica, mesma do maior campeão isolado não pode superar ¹⁶ .

Dialeticamente, a inteligência humana é “forma nova de uma velha qualidade”, capacidade inédita de “elevar à condição de ideias abstratas os reflexos da realidade objetiva” ¹⁷ . Como AVP aponta na evolução da vida, toda matéria comunica em ação recíproca, atingindo o reflexo no nível orgânico e a consciência no nível humano. A capacidade de produzir e projetar funda a técnica, um processo essencialmente social, caso contrário os bens não teriam utilidade e não perdurariam. A produção retroalimenta a autoria na realidade, tentando solucionar o constante ímpeto de comunicação com o ambiente. Na cibernética da natureza, os sistemas abertos, orgânicos, estão em evolução adaptativa. Esse poder de abstração para formar ideias universais é causa e consequência do desenvolvimento da consciência.

Por outro lado, o que está programado carece de inventividade, repete o código continuamente por analogia. Mesmo o mais avançado autômato com aprendizagem de máquina não se compara à nossa plasticidade neuronal. Um robô de limpeza não serve para uso na medicina ou qualquer outro, é um sistema fechado. Para AVP, a cibernética artificial emprega atos “grosseiramente simuladores da ação criadora” ¹⁸ . Assim, as máquinas não são inteligentes porque não pensam, carecem da faculdade para compreensão, e nem possuem dilemas, estão apenas programadas para solucionar os problemas dos seus criadores.

AVP expõe a impossibilidade de a máquina dispensar o trabalho humano. A inteligência artificial não é inteligente e nem artificial. Até Jeff Bezos chamou de “inteligência artificial artificial” o mecanismo por trás da Mechanical Turk, a plataforma de microtrabalho da Amazon ^{19 .} Trabalhadores terceirizados são contratados remotamente, a preços baixos, para executar tarefas que computadores não conseguem. Fica patente a perpetuação da dependência econômica e tecnológica no sul global, negando-se a suposta autonomia pensante do artefato, como também demonstrada teoricamente pela hierarquia dos tipos lógicos de Wilden. A cibernética por construção compreende uma programação fechada, logo, inferior à consciência aberta e evolutiva que a criou, parte da cibernética por natureza. Porém, esta afirmação não tem coro no senso comum, onde ocorre o oposto, o fetiche da tecnologia. A ideia ingênua de que as máquinas vão superar a inteligência humana é encontrada na mídia, na sala de aula e até entre especialistas do campo, como abordam as próximas seções.

A metodologia aplicada nas aulas de Ética e Informação em 2023 foi originalmente elaborada junto com Luana Bonone, então doutoranda e hoje doutora em Comunicação e Cultura, para um estágio em docência sob supervisão do professor Marcos Dantas, da Escola de Comunicação da Universidade Federal do Rio de Janeiro (UFRJ). Em 2021 oferecemos no formato on-line a disciplina Comunicação e Realidade Brasileira para o primeiro período do curso de Biblioteconomia e Gestão de Unidades de Informação da UFRJ.

Na época, li Educar com a mídia por recomendação da professora Marielle de Moraes, do Departamento de Ciência da Informação da Universidade Federal Fluminense (UFF). A obra pareceu perfeita para a ementa, pois coloca o aluno e a mídia no centro do debate. No diálogo com Sérgio Guimarães, Paulo Freire propõe que os estudantes tragam os assuntos relevantes como ponto de partida para o conteúdo pedagógico. Assim, tornam-se agentes do processo de ensino, pois a aula se inicia com a discussão que eles conhecem e decidiram trazer para a sala. É uma “prática político-pedagógico-democrática […] de análise contínua da realidade concreta” ²⁰ . Aliás, na máxima de Freire, “a leitura do mundo antecede a leitura da palavra”, vemos o pedagogo seguindo os ensinamentos de seu mestre AVP ao abarcar a totalidade da vida como campo de interesse da informação, da comunicação e da educação.

Pensar as aulas a partir de notícias levantadas pelos alunos expõe como a educação dialógica exige engajamento. Assim, foi adotada uma nota de participação. Ademais, no diálogo, Freire fala que não adianta propor um formato ativo e, no fim, o aluno não ter voz na nota final. Ao considerar essas questões, tive que levar em conta a necessidade de autoavaliação. Então propus que cada pessoa definisse os próprios parâmetros para se atribuir uma nota de 0 a 10, explicando os critérios utilizados. Era pandemia e os comentários acabaram sendo depoimentos dramáticos sobre o estado de calamidade pública, os desafios do isolamento, as limitações tecnológicas do ensino remoto emergencial e o fardo de três horas de aula on-line sem a infraestrutura adequada em casa.

A avaliação da disciplina foi composta por cinco elementos: participação – contribuir com o debate nas aulas, engajamento nos seminários e atividades; autoavaliação; seminário em grupo; resenha individual – escolhida a partir da bibliografia multimídia; trabalho final individual em formato aberto. O trabalho final foi um aspecto interessante, a ser apresentado em texto de até cinco páginas ou em formato aberto, como, por exemplo, vídeo, podcast, exposição, projeto, entre outros, acompanhado de texto explicativo de uma página ABNT.

Levamos em séria consideração a transição do processo ensino-aprendizagem para o digital. Nosso desafio era oferecer uma aula de três horas, on-line, sexta-feira à noite, para calouros em plena pandemia (a considerar ainda o perfil socioeconômico dos discentes de Biblioteconomia, muitos sem acesso à tecnologia adequada). Por isso, o formato das aulas foi planejado para ser o mais dinâmico possível e fomentar o diálogo em sala:

• 20 minutos de discussão inicial levantada pelos alunos sobre o que circulou nos meios de comunicação, além de um videoclipe, proposto por mim, relacionado ao conteúdo;

• 30 minutos de seminário discente sobre assunto relacionado à aula anterior (grupos de três com 20 minutos de apresentação + 10 minutos de debate);

• 1h expositiva, alternando as duas professoras semanalmente (ambas presentes);

• 10 minutos de intervalo;

• 1h com um convidado especial.

A praticidade da conexão remota foi o maior benefício do formato on-line, pois pudemos contar com especialistas de vários lugares do Brasil. Por exemplo, tivemos Renata Mielli, hoje Coordenadora do Comitê Gestor da Internet no Brasil (CGI.br) na aula sobre desinformação; Dani Balbi, a primeira deputada estadual transexual do Rio de Janeiro, e Dríade Aguiar, co-fundadora da Mídia Ninja, na aula sobre vozes de resistência; Jorge Euzébio, professor de Economia e especialista em políticas para juventude, na aula sobre capitalismo de plataforma; entre outros que reforçaram a abordagem aberta e colaborativa.

O formato dinâmico foi muito frutífero. No fim do período, todos os retornos foram positivos. Alguns alunos chamavam a aula de “ Talk show da Luana e da Monique”. Muitos ficaram em êxtase por ter a liberdade de elaborar um trabalho final em formato aberto. Em suma, a turma foi extremamente participativa e os trabalhos finais excederam o nível esperado para calouros. Era 2021, os alunos estavam motivados com o retorno das aulas, finalmente começavam, atrasados por meio do ensino remoto, após a espera de um ano de isolamento social forçado. Assim, iniciei minha primeira experiência docente com essa bagagem bem-sucedida de estágio a replicar. Porém, sempre considerando o materialismo histórico e geográfico: as dinâmicas sociais são fortemente impactadas pela conjuntura, que não seria mais a mesma.

Esta seção do relato de experiência entrelaça as descrições informativas, dialogadas e críticas. Em 2023, ministrei como professora substituta duas turmas de Ética e Informação no Departamento de Ciência da Informação de uma universidade federal, abrangendo o oitavo período de Biblioteconomia, Arquivologia e Sistemas de Informação. O perfil discente era o oposto daquele do estágio: em vez de calouros, eram os veteranos, já cumprindo os últimos créditos da grade. Com aulas à noite, muitos chegavam cansados e atrasados direto do estágio, com frequência vindos de outras cidades. Então a dinâmica de iniciar a aula com notícias trazidas por eles não funcionou tão bem quanto no estágio, com calouros engajados em iniciar a faculdade, ainda que on-line. As discussões também eram ricas com o oitavo período, mas tendiam a um pequeno grupo participativo e, em geral, a partir das minhas proposições.

O semestre ocorreu com muita aprendizagem, principalmente para mim, considerando a carga de estudos necessária para, na primeira experiência docente, dar conta de discutir ética com o último período de três graduações diferentes. Também convidei especialistas para trocarem com os alunos, como a bibliotecária Luciana Danielli, mestra em Ciência da Informação e tecnologista da Fiocruz, que debateu software livre. Diferente do formato on-line, no presencial foi difícil conciliar a disponibilidade dos convidados em dia comercial.

A dinâmica dialógica foi melhor aplicada nos 23 seminários discentes sobre artigos, podcasts e documentários. Era muito gratificante poder assistir os alunos na proposta da sala de aula invertida, com a aula tomando uma dinâmica quase autônoma. Entre os enunciados que mais motivaram a participação dos estudantes, destacam-se: fundamentos da razão técnica; ética do trabalho e inteligência artificial; capitalismo de vigilância; desinformação; liberdade de expressão; cultura livre; acesso aberto e direitos autorais; revistas predatórias; memória em ruínas; colonialismo de dados.

As discussões dos seminários excedem o escopo deste artigo, mas destaco o último assunto, colonialismo de dados, pois foi adicionado em resposta dialógica. Na primeira aula, os alunos demonstraram resistência ao Moodle, software livre de apoio à aprendizagem, pois consideram defasado e pouco intuitivo. Em troca, a ferramenta alternativa advém da submissão ao controle das big techs , pois os contratos milionários com o Google impossibilitam a soberania tecnológica. Após a aula sobre plataformização e capitalismo de vigilância, o seminário sobre a exploração dos dados das universidades federais brasileiras rendeu um debate acalorado e nítida tomada de consciência por parte dos alunos, que verbalizam isso no final.

O retorno interessado sobre os conteúdos aconteceu com frequência. Contudo, é um desafio calibrar a abordagem dialética, sem atalhos como o dogmatismo. Se por um lado são naturalizadas as novas tecnologias, o poder das big techs e das plataformas sociodigitais, por outro, quando finalmente conseguimos abordar a extensão da dominação e suas implicações, parte-se, então, para uma postura apocalíptica, de irreversibilidade da atual conjuntura, como se não houvesse resistência ou agência. A contra-hegemonia, mesmo que residual, existe e deve ser considerada. Caso contrário, estaríamos engessando a história e todas as dinâmicas sociais. Citei repetidas vezes a crítica de AVP aos futurólogos, que acabam sendo conservadores ao projetar no futuro as desigualdades do presente.

Muitas impressões tendiam ao fetiche, na linha de uma “revolução da informação”. Pergunto: revolucionou o que, para quem? Acabou a fome? Todos acessam o conhecimento? Uma sociedade dita da informação, mas com a praga das notícias falsas. Alguns alunos mencionavam as deep fakes de modo deslumbrado, como se agora fosse impossível combater a desinformação. Eu ponderava que, no fundo, os fenômenos não são inéditos, mas desdobramentos de processos antigos, com novas especificidades. As notícias falsas se disseminam e convencem também em textos simples, até quando toscos. Deep fakes só tornam o problema mais complexo, mas ainda é o mesmo problema, que remete à alienação, ao baixo letramento e à apropriação tecnológica para fins do capital.

Em duas turmas de oitavo período, com 65 alunos no total, nenhum deles havia ouvido qualquer proposta alternativa à teoria matemática da comunicação. O modelo matemático da comunicação foi o único apresentado ao longo da formação acadêmica, aquele modelo que não é adequado à realidade social, como abordado na seção 2. Estão sendo formados profissionais da informação com a perspectiva linear de canal fechado. Por isso, nossa crítica à economia política clássica se baseia na teoria dialética da informação e na segunda geração da cibernética, concebendo a realidade como sistemas abertos em comunicação.

A aula sobre IA a partir do AVP foi um dos pontos altos do curso, porque o legado do autor tem estofo para sustentar uma crítica abrangente da razão técnica, conectando-se aos demais temas da ementa. Já que os benefícios da automação são repetidos amiúde, focamos na problematização de seus contrapontos. Tenta-se poupar qualquer trabalho redundante, mas a repetição também importa e pode ser benéfica, por exemplo, para a aprendizagem e memorização. Além disso, com a crescente automatização, o que se propõe para a massa desempregada? Automatizar não é intrinsecamente bom, aliás, recorrentemente se programam erros. Códigos aplicados não refletem necessariamente soluções éticas, vide os casos de racismo algorítmico e outros vieses.

As trocas em sala foram novamente positivas, mas a maioria não lia os textos recomendados. Vários alunos ficavam à vontade para participar, afinal, era premissa da metodologia, mas o faziam a partir do senso comum ou com referência frequente ao TikTok, o que certamente vale como fonte geradora de debate, mas não basta. Porém, a grande surpresa foi o fetiche da tecnologia. A perspectiva ingênua era notável ao longo do semestre, com comentários apocalípticos sobre como “as máquinas dominam a sociedade” ou quão perto estão de superar a inteligência humana, apesar da discussão da seção 2 levada a cabo em sala.

O principal desafio foi o uso ingênuo ou antiético da inteligência artificial, questão sensível em uma disciplina sobre ética. Muitos trabalhos finais apresentavam indícios de ferramentas de IA generativa, o que certamente não é proibido. As tecnologias são uma constante humana, fruto do trabalho coletivo que deve ser apropriado. Contudo, a inteligência artificial generativa implica várias controvérsias, como a confiabilidade do conteúdo (vide os casos de alucinação dos chatbots ), enquanto os estudantes precisam desenvolver as competências de pesquisa nas ciências sociais aplicadas, sabendo como recorrer às fontes mais adequadas e autoridades no assunto.

Além disso, ferramentas de IA generativa violam direitos de propriedade intelectual por não darem os devidos créditos, discussão importante para a ciência, em especial, a da informação. É sempre necessário ter uma revisão atenta, seja para encontrar erros ou para controle de qualidade, pois os argumentos são genéricos. Quanto menos dominamos um tópico, melhor parece o retorno. Os grandes modelos de linguagem fornecem respostas mesmo quando não possuem elementos satisfatórios para tal, e, ainda assim, podem soar convincentes.

Essas tecnologias criam uma combinação de enunciados ao se apropriar do que está disponível na rede (violando também o que não está em acesso aberto), então não é possível rastrear a origem dos trabalhos discentes elaborados por ferramentas generativas a fim de auferir métricas precisas. Entretanto, havia indícios claros, como trabalhos inteiros com conteúdo aparentemente de qualidade, mas, na verdade, superficial, sem nenhuma citação ou referência específica a trechos da fonte. Por exemplo, eu havia utilizado em aula somente a introdução de Capitalismo de vigilância , de Shoshana Zuboff. Em uma ocorrência suspeita, o aluno apresentou uma síntese genérica do livro inteiro, um material de 800 páginas. É difícil fazer os estudantes lerem 20 páginas por semana, esse volume para apenas uma disciplina parece improvável, principalmente porque o texto não embasava o domínio, nem trazia qualquer citação direta ou indireta do material.

Apenas um aluno citou corretamente o ChatGPT nas referências finais. Outro chegou a incluir no trabalho a resposta genérica que a ferramenta havia dado sobre capitalismo de vigilância, para então tomar a postura crítica esperada de um humano. Enfim, não é para ser uma caça às bruxas, mas a necessidade de explicitar autoria importa para a integridade de pesquisa. Uma aula da disciplina havia sido dedicada à ética da inteligência artificial, ponderando sobre as limitações da tecnologia, e o assunto sempre retornava nas outras discussões, mas não foi suficiente. É uma ferramenta popularizada recentemente e as instituições ainda carecem de recomendações oficiais. Os professores não estão preparados para lidar com a complexidade do problema que se apresenta.

Em março de 2023, especialistas do Instituto de Estudos Avançados da Universidade de São Paulo (IEA-USP) propuseram diretrizes para o uso da inteligência artificial generativa na educação ²¹ . Primeiramente, recomendam permitir e não banir o ChatGPT, para que se explorem novos desenvolvimentos de pesquisa e consulta. Contudo, torna-se imprescindível diferenciar os trechos produzidos pela IA, pelo estudante ou pelo professor, pois o autor é responsável pelo conteúdo e pela transparência do uso da ferramenta. Tais tecnologias não devem ser usadas de forma passiva ou acrítica, sem confirmar o texto em fontes reconhecidas. Por fim, os pesquisadores indicaram a necessidade de as universidades elaborarem guias de uso dessas ferramentas para estudantes da graduação e da pós-graduação.

Enquanto a IA irrompe na opinião pública, 18% dos lares brasileiros seguem sem internet. São quase 10 milhões de cidadãos sem acesso diário, a maioria pertencente às classes C e DE, bem como mulheres e pessoas mais velhas nas periferias e zonas rurais ²² . O acesso não é generalizado e a internet não é o mundo, mas constatações básicas da realidade nacional são frequentemente ignoradas.

Certo dia o prédio da universidade foi interditado devido a um temporal e a aula teve que ser on-line. Uma das melhores alunas da turma 2 faltou porque não tem computador e seu celular não roda videoconferência. Debati o ocorrido em ambas as turmas, conectando com a exclusão digital no Brasil. Deveria ser inadmissível haver universitários com problema de acesso em uma instituição pública de renome, em uma região metropolitana em plena era dita da informação. Daí uma aluna da turma 1 escolheu, como trabalho final, fazer um podcast entrevistando a aluna off-line da turma 2, relacionando com o seminário sobre Milton Santos e a globalização como falácia. Fiquei muito emocionada.

Essas trocas fazem o esforço valer a pena. Foi um ótimo retorno ver os poucos alunos que conseguiram ler e se apropriar do AVP. Reconheço não ser uma leitura fácil, mas o conhecimento não é sobre facilidade. Um pensamento original brasileiro escrito há 50 anos, pouco conhecido, e ainda muito pertinente, patrimônio nosso que não pode ser desperdiçado. Há bastante profissional, doutor e professor afirmando a inteligência nas máquinas e como a IA vai roubar empregos, assim corroborando os interesses velados de quem está por trás desse fenômeno, os donos das máquinas, os oligopólios das big techs e das classes proprietárias que há séculos são quem, de fato, roubam o trabalho da população. Ao menos esse processo nunca é completo, pois há resistência. A abordagem crítica busca ampliar a visão de mundo e fundamentar a continuidade dos estudos, e isso ressoou na maioria da turma. A metodologia aberta é aplicável, porém muito mais trabalhosa que o formato tradicional com duas notas ou provas objetivas no semestre.

Por fim, embora um relato de experiência docente com 65 alunos possa oferecer considerações valiosas, é crucial pontuar as limitações da proposta. Para aprofundar os apontamentos apresentados, seria necessário continuar a pesquisa com abrangência longitudinal e/ou metodologias estruturadas, como análise de discurso ou de conteúdo, aprovadas em Comitê de Ética e Pesquisa (aqui dispensado pois constam dados sem identificação dos sujeitos, obtidos espontaneamente pela prática profissional). Além disso, o cenário tende a se alterar conforme amadurecer o uso da ferramenta por discentes e docentes, assim como as instituições definirem parâmetros para a IA na educação. Para tanto, abrem-se diferentes frentes de pesquisa.

Em suma, a maior aprendizagem docente foi sobre o desafio de lidar com as novas formas de mistificação tecnológica. Considerar o período atual como disruptivo reforça o fetiche, que foi outrora sobre a aldeia global, metaverso ou criptomoedas. A futurologia não cessa. As inovações avançam com o conhecimento quando incorporam valor, mas são sempre advindas da própria humanidade. Mascarar a fonte humana tem fins ideológicos de perpetuar a precarização do trabalho em marcha mundial, apesar do (ou devido ao) progresso tecnológico. A prática pedagógica pode e deve utilizar as melhores técnicas disponíveis, mas sem instrumentalizar ou superestimar ferramentas pontuais, em detrimento da reflexão teórica e crítica. O processo rumo ao saber demanda atenção e tempo, recursos atualmente escassos em qualquer mercado, inclusive o educacional.

Muito mais do que transferir pacotes de informação, a condução do conhecimento está intimamente ligada à evolução da matéria em sistemas abertos analógicos, que não se resumem a operações formalizáveis, por mais complexas que sejam. A inteligência e tampouco o processo de ensino e de aprendizagem cabem em algoritmos. No caso da aprendizagem, a IA generativa confere atalhos com um tipo de jogo que imita o conhecimento. No caso do ensino, é bizarra a iniciativa do governador de São Paulo, Tarcísio de Freitas, de usar o ChatGPT para preparar aulas digitais da rede pública. Por mais que o processo pedagógico possa ser formalizado em etapas objetivas, nunca aí se encerraria, pois demanda a práxis do educador, quem concretamente mobiliza sua subjetividade, sensibilidade, responsabilidade e bom senso, de acordo com a demanda de cada realidade.

Fica reforçada a necessidade da participação ética, tanto para aprender, quanto para ensinar. O pensamento lógico-formal cabe às máquinas, que são binárias, com programação fechada, logo, a teoria matemática da comunicação não alcança os fenômenos do nosso campo. Defendemos a importância da teoria dialética da informação não somente nas discussões da pós-graduação, mas também na graduação, para que os futuros profissionais vislumbrem um modo de informação e comunicação pela perspectiva dos sistemas abertos, correspondente ao metabolismo social.

Este relato de experiência abarca os pilares da formação acadêmica de pesquisa e ensino, conectando teoria e prática. No pilar pesquisa, segue-se o legado de autores como Álvaro Vieira Pinto e Anthony Wilden no âmbito da economia política da informação, comunicação e cultura. Já no pilar ensino, a teoria dialética da informação se alia à metodologia dialógica, inspirada em Paulo Freire, aplicada em duas turmas de oitavo período de Ética e Informação.

A discussão sobre textos gerados por IA é incipiente na prática pedagógica, os professores com quem conversei ao longo do semestre ainda estão tentando se orientar com as mudanças. Contudo, toda era humana se considera tecnológica, afinal, também são técnicas a linguagem, a gramática, a poesia… E todo período histórico se apresenta como extraordinário, pois a história não se repete. A tendência a supervalorizar o presente naturaliza as desigualdades e acaba apagando a permanente evolução técnica. A cibernética das máquinas foi elaborada pela mente humana, parte da cibernética maior, natural. É ilógico considerar que subprodutos binários poderiam superar a plasticidade da consciência criadora, que somente ocorre no nível humano. A programação nas máquinas é trabalho morto, codificado.

O uso acrítico das IA logo na disciplina de ética, mesmo após o debate em sala e fundamentação teórica sobre suas limitações, reforça como o senso comum se generaliza na sociedade, inclusive nos futuros profissionais da informação. A automação avança, mas a incorporação tecnológica por si só não basta. O trabalho vivo sempre será necessário, seja para supervisionar processos, revisar textos ou, o principal, gerar valor e conhecimento. Para tanto, pensar a IA pela dialética da informação, considerando os entes cibernéticos por natureza como criadores, hierarquicamente superiores. A perspectiva sistêmica da totalidade abre os canais fechados da teoria matemática, abordagem que se tornou paradigma para a área, a única teoria da informação e comunicação que os alunos haviam estudado durante toda a graduação.

Paulo Freire, tão conhecido como educador, aqui é mobilizado como aluno de Álvaro Vieira Pinto. O diálogo entre os autores pode contribuir para desmistificar a tecnologia rumo à consciência para si, buscando as técnicas que caibam em nossa realidade concreta. Enquanto muito se fala sobre o Vale do Silício, no Brasil temos o Vale do Jequitinhonha e outros bolsões de pobreza. Temos um enorme contingente de população desconectada, e muito ainda a debater sobre a antiga promessa de inclusão digital.

O processo de aprendizagem não cabe em algoritmos como o do ChatGPT porque a condução do conhecimento não se resume a operações formais em pacotes de informação, por mais complexo que seja o jogo da imitação. No processo de ensino, não basta apresentar conteúdos críticos para desmontar o senso comum neoliberal, se as disciplinas estiverem isoladas do restante do currículo acadêmico e da opinião pública. Enfim, fica reforçada a necessidade de participação, tanto para aprender, quanto para ensinar. A ética abarca a sociabilidade técnica, seja na forma de leis, programas ou equipamentos, que não prescindem da responsabilidade humana de intervir.