Introdução

A Inteligência Artificial (IA) consiste no uso de computadores com o intuito de realizar tarefas que geralmente exigiriam inteligência humana, como pensar, aprender, planejar e raciocinar. De acordo com ^{Lee (2019)}, em meados da década de 1950, essa missão foi estabelecida pelos pioneiros da IA: recriar a inteligência humana em uma máquina. Inicialmente considerada um propósito bem ambicioso, porém bem definido, a IA gera hoje uma série de desdobramentos. Pode ser usada para desenvolver sistemas de computador que imitam a capacidade do cérebro humano de processar informações, tomar decisões e solucionar problemas. Os algoritmos de IA são programados para entender grandes quantidades de dados e reconhecer padrões complexos, possibilitando assim que os computadores tomem decisões inteligentes e executem ações precisas.

Conforme ^{Russell e Norvig (2020)}, a IA pode ser categorizada de quatro formas: sistemas que agem como seres humanos; sistemas que pensam como seres humanos; sistemas que pensam racionalmente; e sistemas que agem racionalmente.

Sistemas que agem como humanos são aqueles que apresentam comportamento similar aos humanos, com capacidade de processamento de linguagem natural, representação de conhecimento, argumentação automatizada e aprendizado de máquina, de forma a possibilitar que o sistema se adapte a novas circunstâncias e seja capaz de exceder o conhecimento atual.

Já os sistemas que pensam como seres humanos são, conforme os mesmos autores, aqueles que procuram simular o modo de pensar dos humanos. São sistemas que pensam racionalmente e se baseiam em procedimentos de argumentação indiscutível. Por outro lado, os sistemas que agem racionalmente fazem uso de agentes, ou seja, são programas com controle independente e capazes de entender o ambiente e se adaptar a transformações (^{Russell; Norvig, 2020}).

A IA, dessa forma, está presente no cotidiano e impacta diversas áreas da vida, como saúde, segurança, comunicação, marketing, educação, agricultura, dentre outras. Entre tantas soluções, o ChatGPT é uma das que têm ganhado destaque nas discussões atuais. O ChatGPT, desenvolvido e lançado pela OpenAI, é uma tecnologia de aprendizado profundo, baseada em IA, que possibilita aos usuários interagir em tempo real com um chatbot gerado por computador. Ele utiliza conversações escritas para fornecer respostas precisas e direcionadas aos usuários. Dessa forma, os usuários enviam perguntas, e as respostas do ChatGPT são geradas automaticamente usando linguagem natural, forma de comunicação que os seres humanos utilizam no dia a dia, incluindo a fala e a escrita. Conforme Pereira, “[...] consiste no desenvolvimento de modelos computacionais para a realização de tarefas que dependem de informações expressas em alguma língua natural” (^{Pereira, 2023}, p. 1), mais conhecida como Linguagem Natural.

A Linguagem Natural (Natural Language) consiste numa forma de comunicação que os seres humanos empregam no dia a dia, incluindo nesse contexto a fala e a escrita. ^{Vieira e Lopes (2010, p. 184)} apontam que: “Processamento de Linguagem Natural (PLN) é uma área de Ciência da Computação que estuda o desenvolvimento de programas de computador que analisam, reconhecem e/ou geram textos em linguagens humanas, ou linguagens naturais”. Logo, é composta por um conjunto complexo de regras gramaticais, vocabulário e sintaxe, que permite aos falantes comunicar suas ideias e sentimentos com clareza.

O ChatGPT utiliza linguagem natural, e o GPT no seu nome é sigla para Generative Pretrained Transformer. Ou seja, é um modelo de linguagem baseado em redes neurais. As Redes Neurais Artificiais (RNA) consistem em modelos matemáticos inspirados nas estruturas neurais biológicas e que possuem a capacidade computacional adquirida por meio de aprendizado. Tais redes são compostas por uma série de camadas interconectadas de unidades de processamento, chamadas de neurônios artificiais ou perceptrons (^{Ludermir, 2021}). As redes neurais desenvolvidas para esses sistemas se inspiram nos cérebros humanos e se constituem a partir de diversas camadas de neurônios que buscam dados e os interrelacionam. Assim, o nível de precisão dos resultados se ampara no número de camadas bem como na qualidade e na quantidade de dados arbitrados por seus operadores humanos.

Ao utilizar os próprios recursos da IA, o ChatGPT se retroalimenta utilizando modelos de aprendizado profundo baseados em redes neurais recorrentes. Esses modelos são treinados com exemplos de conversação humana armazenados em um banco de dados (^{Openai, 2023}). Portanto, sempre que o sistema recebe uma pergunta de um usuário, compara com as informações registradas em seu banco de dados e gera uma resposta. Além disso, ele também é capaz de aprender com interações anteriores, de forma que possa melhor compreender as necessidades do usuário com o tempo. Isso significa que, à medida que novas interações forem realizadas com o ChatGPT, a tendência é que sua precisão e performance aumentem.

Essa solução é bastante utilizada por estudantes em todo o mundo. O ChatGPT pode ser considerado uma ferramenta útil para responder de forma ágil às perguntas e fornecer informações precisas sobre assuntos relacionados a diversos campos de estudo. Além disso, pode ser usado para criar questionários personalizados com base nas necessidades do estudante, bem como auxiliar os professores a monitorar o progresso dos alunos e fornecer feedback em tempo real.

Entretanto, esta solução tem gerado algumas discussões de cunho ético sobre a sua utilização nos espaços escolares, escopo deste artigo.

Uma das maiores preocupações é a possibilidade de plágio, já que o sistema é capaz de gerar respostas em linguagem natural, sendo possível ser utilizado de forma indevida para copiar textos e respostas de outras fontes. Embora seja possível que os professores detectem se a solução foi usada indevidamente, examinando atentamente os trabalhos desenvolvidos, o tema ainda é objeto de inquietação. Outros problemas de ordem ética estão relacionados à privacidade e segurança da informação, já que o ChatGPT é capaz de capturar informações dos usuários. Além disso, a linguagem artificial da solução poderia ser usada para difundir conteúdo ofensivo ou promover comportamentos antiéticos, dentre outros problemas. Tais discussões são alvo da presente reflexão, sob a perspectiva da produção do conhecimento.

Este estudo foi guiado pelas seguintes perguntas: há impactos no uso dessa ferramenta em processos de formação que exijam a produção acadêmica de forma autoral por parte dos estudantes? Que impactos conseguem-se perceber no processo de ensino e aprendizagem, com o foco na produção de textos? Que consequências éticas estão envolvidas nesse processo? Colocadas tais indagações, este artigo tem uma perspectiva de reflexão amparada em autores que discorrem sobre a leitura, a escrita e a produção acadêmica.

Reflexões sobre os usos da Inteligência Artificial

O ChatGPT tem sido foco de apreensão entre aqueles que se preocupam com a formação de estudantes, seja na elaboração de textos mais simples ou mais aprofundados em nível de pós-graduação, seja para compreender as possibilidades dessa ferramenta ou para pensar como ela pode interferir no processo de aprendizagem.

Iniciando a reflexão, é importante considerar que a Inteligência Artificial é uma realidade sem volta, ela não vai retroceder; são os humanos que precisam lidar com essa realidade. A capacidade humana de criar esses mecanismos também precisa levar à construção de outras possibilidades de aprendizado. Se a sociedade está imersa em um meio digital, é necessário compreender os efeitos desse meio e construir formas de explorá-lo sem submeter-se a ele. Ou seja, é preciso criar mecanismos que reconfigurem as formas como vemos e lidamos com essa nova realidade. Vale lembrar que há décadas já lidamos com inteligências artificiais que nos atendem nos bancos, nas grandes redes de lojas e nas companhias telefônicas, por exemplo.

^{Kaufman e Santaella (2020, p. 3)}, porém, alertam:

Esses sistemas carecem da essência da inteligência humana: capacidade de compreender o significado; igualmente não possuem senso intuitivo, capacidade de formar conceitos abstratos e de fazer analogias e generalizações, não têm a capacidade de compreender o funcionamento do mundo a partir da observação.

Portanto, não cabe ainda elaborar cenários distópicos de total destruição das capacidades humanas em função do desenvolvimento das máquinas.

Em algumas áreas, aliás, a IA tem contribuído significativamente, permitindo a realização de diagnósticos, processando grandes volumes de dados e estabelecendo relações entre eles. O que surpreende, nos processos de ensino e aprendizagem, é sua capacidade de dar conta de sutilezas cada vez mais complexas do comportamento humano, como a produção de textos.

A partir do lugar de fala das autoras deste trabalho, professoras da área de tecnologias e de linguagens em cursos de pós-graduação, a discussão necessita ser encaminhada para alguns parâmetros relevantes nesse contexto, para além da mera existência ou das possibilidades criativas de qualquer inteligência artificial. Nesse sentido, a presente reflexão está centrada em três aspectos: autoria, originalidade e ética. O que este estudo traz são reflexões e provocações para se pensarem outras possibilidades de ação neste mundo em constante transformação.

Autoria, originalidade e ética na produção do conhecimento e implicações do uso das Inteligências Artificiais

Em primeiro lugar, é preciso lembrar que as ferramentas tecnológicas sempre fizeram parte da educação e que, desde a lousa até o celular, toda ferramenta pode ser útil sob a perspectiva educacional. A cada nova tecnologia, uma crise se instala até que se compreenda que há modos de fazer diferentes que se impõem diante dessas mudanças. A popularização da tevê causou frisson, inclusive na educação, gerando discussões e publicações acadêmicas sobre seus efeitos nocivos e os problemas que causava no desenvolvimento cognitivo.

O celular também foi e tem sido causa de polêmicas nas escolas e já há inúmeros estudos sobre como utilizá-lo de forma profícua na sala de aula. Então, não há por quê ser contrário às tecnologias, nem se pode sê-lo, pois fazem parte do cotidiano — porém é preciso refletir criticamente sobre seu alcance e sobre seu uso.

Também é preciso lembrar que sempre houve “copia e cola” na escola. Assistindo a um vídeo em que o filósofo Leandro Karnal desafia o ChatGPT, é possível lembrar que o copiar era tarefa recorrente nos trabalhos escolares antes do acesso ilimitado às informações na internet. Antes da Wikipédia, havia a Barsa, assim como havia enciclopédias mais simples e livros de consulta que eram utilizados (e muitas vezes copiados) para atender às demandas escolares. Evidentemente, nesses casos, liam-se os textos, recortavam-se os assuntos conforme o foco da atividade, copiava-se, e isso já era, de alguma forma, começar a aprender o conteúdo. Hoje, o copiar e colar se concentra em dois dedos no teclado e nem sempre a leitura é feita; o processo de reprodução mudou, assim como mudaram as ferramentas.

Mudanças, portanto, sempre trazem conflitos, reflexões e exigem novos direcionamentos a serem tomados individual e coletivamente. A questão da inteligência artificial vai além da prática do copiar e colar, na medida em que põe em discussão alguns conceitos caros aos educadores: a questão da autoria, a questão da originalidade, a questão da ética.

A autoria na arte e na produção do conhecimento

Na Idade Média, a noção de autoria era irrelevante. Os textos eram criados e disseminados oralmente, e a autoria se perdia em meio às inúmeras inserções e reconstruções, “quem conta um conto aumenta um ponto”. Tanto é que até hoje se questiona a existência de Homero, de Sócrates (que só se conhece por meio de outros autores, como Platão) e até mesmo de Shakespeare, mais recente, do século XVI. A questão da autoria é algo que se instaura de forma mais evidente a partir do advento da imprensa, com a propagação do texto escrito (em substituição à oralidade) e do livro (^{Manguel, 1997}), estabelecendo-se de forma mais enfática com o Romantismo e sua perspectiva subjetiva em relação à realidade e à natureza, quando as emoções humanas transpõem o corpo e se instalam no entorno do poeta. A essa junção de si com a natureza, une-se a busca pela liberdade de expressão e o individualismo. Esses ingredientes vão ganhar nuances diferentes em cada estilo individual, mas contribuem para a ideia do artista como ser diferenciado, algo que é aceito de forma mais ou menos incisiva conforme mudam os estilos.

A questão da autoria na escola, principalmente quando se trabalha com produção textual, pode ser analisada sob diferentes perspectivas: a linguagem, a temática, a estrutura do gênero, entre outras. No entanto, é necessário sempre lembrar que a autoria é permeada pelas pesquisas realizadas, pelo acesso à informação, pelas leituras feitas, pelas discussões travadas em classe e fora dela.

Toda produção escrita é, na verdade, uma produção coletiva, pois nela ressoam discursos e valores. A questão é tão séria que vários pensadores já se debruçaram sobre ela, como Barthes, em “A morte do autor” (1968) e Foucault, em “Que é um autor?” (1969). Bem recentemente, o teórico da linguagem Mikhail Bakhtin teve sua autoria várias vezes contestada. Ele próprio traz muitas reflexões sobre a autoria em seus ensaios, algo a que ele prefere chamar de “consciência autoral”, uma vez que ela se realiza no texto, sendo, portanto, uma abstração permeada pelos discursos que, de forma dialógica ou polifônica, atravessam as construções textuais. Para Bakhtin, o estilo de um escritor se estabelece em diálogo com o grupo social em que ele se insere:

O segundo elemento do enunciado que lhe determina a composição e o estilo, é o elemento expressivo, isto é, a relação subjetiva emocionalmente valorativa do falante com o conteúdo do objeto e do sentido do seu enunciado. Nos diferentes campos da comunicação discursiva, o elemento expressivo tem significado vário e grau vário de força, mas existe em toda parte: um enunciado absolutamente neutro é impossível

(^{Bakhtin, 2003}, p. 289).

Para o autor, portanto, a construção do estilo nunca é individual, apesar de atravessar questões de subjetividade, pois o texto é permeado por questões emotivas e expressivas que o autor tem com o tema. Essa emotividade ou expressividade, no entanto, por ser constituída de linguagem e por ser fruto de um indivíduo imerso em um meio social, é também permeada pelo outro, ou seja, pelos discursos que constituem o tempo, a sociedade e os valores em que o autor se insere.

A questão da autoria, portanto, é bastante polêmica desde sempre e não será uma inteligência artificial que irá pôr um ponto final. Ao contrário, trará outros elementos para discussão. Por exemplo, o ChatGPT produz textos sem autoria, na medida em que coleta as informações, mas não necessariamente indica as referências utilizadas de forma precisa. A autoria é anônima, o texto é produzido conforme os inputs que recebe e não tem um estilo, diferente dos autores humanos.

Nesse contexto, qual no papel da escola? A escola tem uma importante função inicial, que é orientar os estudantes no processo de diferenciar acesso à informação de construção do conhecimento e também de guiá-los no processo de transformar o conhecimento empírico em conhecimento técnico, filosófico e científico. Ou seja, de transformá-los em seres não apenas reflexivos, mas críticos, capazes de questionar informações, estabelecer relações, argumentar com base em dados da realidade, enfim, capazes de interferir criticamente nos discursos que perpassam a vida em sociedade. Sob essa perspectiva, a questão da autoria se coloca como a capacidade mental de processar as informações e transformá-las em reflexão pessoal. Para ^{Bakhtin (2003)}, a autoria se constrói a partir do olhar crítico que o autor estabelece sobre a palavra do outro, e é nesse momento que ele constitui criticamente a sua própria palavra.

A escola precisa permitir que os estudantes percebam que suas produções textuais são realizadas a partir da interferência de outros autores. A autoria, na verdade, se encerra na capacidade de estabelecer relações entre os diferentes discursos que atravessam nosso olhar para o objeto ou fenômeno sobre o qual nos debruçamos e como conseguimos assumir um posicionamento crítico e reflexivo a partir desse entrecruzamento de informações. Essa seria a base da autoria na produção do conhecimento.

Essa questão, no entanto, se perde com o uso da Inteligência Artificial, porque esta não cria nem dialoga com os textos e dados que coleta, mas apenas seleciona informações conforme as solicitações que lhe foram feitas.

A genialidade, a originalidade, a criação

A noção de genialidade do artista criador se vincula a uma visão fundada nas individualidades, a ponto de Ezra ^{Pound (2006)}, considerá-lo uma “antena da raça”. Tal concepção pode ter resultado em uma posição bastante similar à ideia de uma superioridade de alguns em relação a outros, uma perspectiva que não deixa de estar ligada à ideia do além do homem (Übermensch) que Nietzsche (2018), defendia como ápice da evolução. O seu super-homem era um indivíduo que se elevava acima da mediocridade do homem comum e da maioria da sociedade.

Ora, se há seres superiores e diferenciados com uma evolução que a maioria da população não alcança, há uma originalidade que não se alcança coletivamente, porque está vinculada aos gênios. A originalidade, portanto, passa a ser um elemento de questionamento. Quando alguém é original? Quem pode ser original? Como se pode identificar a originalidade?

Walter ^{Benjamin (1994)} reflete sobre isso quando trata da crise da reprodutibilidade na arte, com o advento da industrialização e a reprodução ilimitada dos objetos estéticos, antes restritos às criações dos artistas e a seus aprendizes. A arte moderna põe, portanto, na pauta do dia essa questão, que está diretamente ligada à autoria. Marcel Duchamp (em 1917), ao dispor um urinol em um museu, eleva-o à categoria de obra de arte, pondo à prova o conceito de originalidade, visto que quem criou o quê nessa instalação? Essa breve retrospectiva sobre a originalidade na arte serve apenas para refletir sobre o fato de que, novamente, a criação é muito mais uma forma diferenciada de olhar sobre um objeto e, a partir desse olhar, tecer um ponto de vista sobre ele, seja pelo ângulo artístico, teórico, filosófico ou literário.

Essa digressão também permite dizer que as questões de autoria/originalidade/criação e reprodução são temas sobre os quais a filosofia, a sociologia e a arte vêm se debruçando há mais de um século e que têm se mantido na pauta a cada nova transformação social. Portanto, não é algo que emerge da criação de inteligências artificiais. O que causa clamor agora é nem tanto a tecnologia, nem tanto a discussão de autoria, mas a capacidade de pensar que um ser artificial pode escrever tão bem quanto um ser humano, levando a uma necessidade de revisão da forma como este procede. Há uma crise em pauta.

A indústria causou uma crise na arte, a fotografia causou uma crise na pintura, o uso do som e, posteriormente, o uso da cor, causaram uma crise no cinema. E o próprio cinema causou profundas mudanças na arte. Nenhuma dessas tecnologias diminuiu cognitivamente as capacidades humanas; então, as autoras deste artigo não creem que se deva dotar a IA dessa capacidade. No entanto, é legítima a preocupação com o uso que essa ferramenta pode ter. Voltando às experiências já realizadas com o ChatGPT, vale lembrar: é uma ferramenta que acede a informações disponibilizadas na internet e que podem ser verdadeiras ou falsas; está ainda em processo de evolução e vai ficar mais eficiente; é mais receptiva à língua inglesa, por meio da qual, aparentemente, produz respostas mais elaboradas, de modo que seu uso ainda é problemático e superficial em outros idiomas. Esses aspectos podem abrir outro campo de discussão: a não neutralidade da tecnologia, que é sempre feita por alguém, com algum interesse – mas este artigo não vai seguir esse caminho, pois seu foco é a produção textual acadêmica.

Na prática docente das autoras deste estudo, muitas perguntas surgem a partir da existência de IA que podem gerar textos e respostas precisas. O que pressiona os docentes agora é: como garantir a idoneidade dos processos de produção do conhecimento? Como avaliar? Como reconhecer se um texto é de seu aluno ou de uma IA? Na verdade, pode-se ir além e perguntar: será que essas questões são realmente o foco?

Adentra-se aqui na reflexão principal deste estudo: a produção do conhecimento. A produção acadêmica é, em si e para si, um trabalho de recorte e colagem. Portanto, a originalidade já não é, nela, um elemento fundamental, a não ser que se considere que a originalidade se constitui em um olhar diferenciado do pesquisador sobre o seu objeto.

Em seu livro O trabalho da citação, o teórico Antoine ^{Compagnon (2007)}, lembra que o trabalho de leitura e escrita nada mais é que uma atividade de recorte e colagem. Nesse processo, o teórico retoma Proust e Joyce como dois exemplos importantes no reconhecimento de que a criação artística é bricolagem: o primeiro usa da metáfora da costura; o segundo, do papel e da cola. Desse modo, se a própria criação artística está eivada pela forma como se acede ao mundo (leitura) e pela forma como dela se apropria o autor (colagem/costura), o que se dirá das produções menos ligadas à questão da originalidade, da criatividade, da genialidade?

Na produção acadêmica, recorta-se e cola-se com uma responsabilidade básica: a referência. Isso implica dizer que o autor tem a obrigação de informar ao leitor/ouvinte quais os textos anteriores que leu, recortou e está costurando/colando, ou seja, dos quais está se apropriando. A referência é uma das bases da presente reflexão, pois ela é fundamentada pela ética. Ao citar, o autor reconhece que nada criou, reconhece a sua falta de originalidade, reconhece a sua apropriação do outro. O que garante o autor enquanto constituinte do fazer acadêmico, portanto? Nada mais do que a ética.

A responsabilidade ética

O compromisso ético é o que permite ao autor assinar o texto e o que garante ao professor – e ao orientador e aos componentes das bancas de qualificação e defesa – a sua idoneidade. A ética é o que leva o autor a compreender que não deve citar ou referenciar alguém que não leu ou a cujo discurso não acedeu.

O que o ChatGPT permite é ignorar essa ética, burlar essa ética, não apenas para o professor ou a banca, mas para o próprio autor, que considera que, com base na demanda que fez, desconhece as fontes que o sistema buscou para construir o texto. Dado que a IA faz um processo similar ao humano, busca dados e referências a que tem acesso para construir o que dela é demandado. Nessa busca, no entanto, que informações são seguras? Que dados são verdadeiros? Que recortes teóricos são estabelecidos? Claro que a ferramenta vai evoluir a partir do uso; no entanto, quem a ela recorre, evoluirá também? Será que haverá uma legião de estudantes incapazes de desenvolver esse processo de pesquisa, de estudo, de recorte, de seleção de informações e de construção de uma produção do conhecimento? Espera-se que não, e isso depende um pouco da forma como os profissionais da educação passem a compreender e também utilizar essas ferramentas em sua atividade, inclusive em sala de aula.

A produção escrita na escola é hoje compreendida como uma interlocução dialógica e interacionista, ou seja, é um fato social, coletivo. Nunca se está só, nunca se produz individualmente. A prática da escrita precisa ser vista e trabalhada na escola com base na sociedade, ou seja, na forma como circulam e como são produzidos os discursos sociais. A variedade de gêneros que circulam, como circulam, como são produzidos, como se constituem prototipicamente, como e quando podem ser desenvolvidos e utilizados são aspectos de conteúdo em aulas de língua materna. As aulas de língua materna, por exemplo, precisam ser aulas de falar, de ouvir, de ler e de escrever, muito mais do que aulas de sentar-se diante de um professor com uma lousa cheia de textos ou slides cheios de informações.

Isso, pelo menos, é o que defendem as autoras, com fundamento nos pressupostos da linguística sociointeracionista. Para esse ramo da linguística, o desenvolvimento da linguagem ocorre do social para o individual, a consciência do mundo é permeada pela linguagem, e vai-se construindo essa consciência conforme evolui o domínio do indivíduo sobre a linguagem. ^{Vygotsky (1991)} observa que, quanto mais se reflete e se conceitua a realidade, mais evoluem as formas de comunicação, ou seja, os usos da linguagem.

Se os estudantes iniciam desde cedo o seu pensar sobre o idioma, o pesquisar e pensar sobre o mundo e a realidade e a sua capacidade de interagir a partir desse pensar, lendo e produzindo textos orais e escritos sobre essas investigações, para que eles utilizarão ferramentas além de uma mera contribuição de seus processos produtivos?

Para além de uma ferramenta que facilita a vida atarefada e corrida dos estudantes, a IA pode ser uma ferramenta de burlar a si e aos outros. O foco que as autoras pretendem pontuar é esse “burlar a si mesmo”. Se alguém utiliza a ferramenta para – com base nos dados por ele coletados, nas suas análises e nas suas conclusões – desenvolver um texto, não estaria ele ferindo a ética? Cabem algumas perguntas. A ferramenta vai citar os textos que ele leu? Vai retirar informações apenas dos dados que ele forneceu? Vai referenciar apenas autores coerentes com a linha teórica que ele assumiu? Saberá ele fazer as perguntas necessárias para obter as respostas de que precisa para complementar o que produziu? São muitas as variáveis para atender e, se esse estudante fornecer tudo, para que usar a ferramenta? Não seria mais efetivo ir elaborando o texto ele mesmo? É possível, inclusive, que a IA crie um texto referenciando autores que não existem, ou oferecendo links quebrados, ou seja, sem acesso ao conteúdo indicado, isso porque essa inteligência depende do acesso aos bancos de dados e das perguntas que lhe são feitas para elaborar respostas mais precisas.

Agora, cabe analisar um segundo aspecto do burlar a si mesmo: se o estudante nada fornece à ferramenta e dela tudo espera, ele estaria burlando não apenas ao professor/orientador/à banca, mas a si mesmo. Em vários momentos de sua existência será cobrado para falar sobre, pensar sobre, informar sobre aqueles dados que não leu, que não conheceu, cujo contexto não compreendeu e, mesmo que não seja levado a falar sobre isso (em uma banca de defesa, por exemplo), mesmo que consiga enganar a quem o cerca, acreditaria ele em si mesmo? Tem ele como objetivo apenas a nota, o título, e não o conhecimento? Nesse caso, o problema está mesmo na constituição de sua identidade, na incapacidade de reconhecer-se como capaz. Esse é um burlar a si mesmo que vai além da ambiência escolar e tem bases psicanalíticas.

A base do uso da ferramenta, portanto, diz respeito à ética, dar a ver um trabalho de recorte e colagem que nasceu da atividade desenvolvida pessoalmente. É possível, por exemplo, para um estudante, utilizar a ferramenta para compreender melhor um determinado assunto que não compreendeu durante as aulas. É possível, também, utilizar a ferramenta para elaborar um texto base e (se houver uma dificuldade de romper com o dilema da página em branco, por exemplo), a partir dele, ir construindo sua própria produção. É possível usar a ferramenta para inúmeras outras atividades, mas não é adequado acreditar naquilo que a ferramenta oferece como algo pronto, verdadeiro e acabado. Porque essa é uma forma de burlar a si mesmo.

E o que cabe ao professor?

Burlando a ética, outras questões podem ser abordadas. Uma delas, referente ao desenvolvimento cognitivo do indivíduo, parece estar por trás da pergunta do professor: “[...] quem escreveu esse texto foi realmente meu aluno/a?” Além disso, teria o aluno desenvolvido pensamento crítico suficiente para avaliar que aquele resultado exposto pela IA atende ao que é esperado? E o professor, conseguiria ele fazer a distinção do uso devido ou indevido desse recurso? Essas reflexões trazem à tona diversos questionamentos sobre como ressignificar o ChatPGT para uso educacional. É a questão da formação dos indivíduos pela qual o professor se faz parcialmente responsável. Nessa perspectiva, é preciso compreender o que perde o indivíduo que se utiliza de uma ferramenta para escrever por ele.

Lembrando que copiar e colar são funções primevas do ler e escrever acadêmicos, conforme assinalado por ^{Compagnon (1996)}, o presente estudo remete à afirmação de ^{Jouve (2002)} de que a leitura, base do copiar e colar, é uma atividade que engloba vários processos: neurofisiológico, cognitivo, afetivo, argumentativo e simbólico. “Neurofisiológico” porque é uma atividade física que requer uma compreensão dos signos impressos na página física ou virtual; “afetivo” porque estabelece conexões do leitor com o conteúdo, atingindo de forma maior ou menor suas emoções; “argumentativo” porque em última instância todo texto deseja convencer o leitor de seus argumentos ou acerca de seu objeto; “simbólico” porque todo texto é um conjunto de possibilidades de sentido que em maior ou menor grau o leitor é capaz de construir a partir de seus conhecimentos anteriores; “cognitivo” porque o texto exige do leitor conhecimentos mínimos que ele precisa ativar e que vai desenvolver ao longo da leitura. Dessa forma, ao aceitar o que uma ferramenta como o ChatGPT oferece sem o devido pensamento crítico e ressignificação sobre o objeto de pesquisa/interação com a IA, o leitor/produtor perde a capacidade de desenvolver todos esses processos.

Ao fim e ao cabo, a formação de quem recorre de forma frequente a esse tipo de ferramenta de inteligência artificial acaba comprometida. Essa seria, portanto, a grande preocupação de um professor acerca do aprendizado do estudante. A perda desses processos no desenvolvimento acaba gerando indivíduos construídos na superficialidade ou, para ser mais veemente, na mediocridade.

Qual o papel do professor nesse processo? O ponto de vista defendido neste artigo é que o professor não precisa necessariamente identificar a autoria do texto, nem recorrer a ferramentas de plágio, nem mesmo criar estratégias de controle na produção e avaliação dos textos. O professor definitivamente não precisa ser um detetive. Seu papel definitivamente não é de controle, mas de mediação do processo de construção. Dessa forma, o professor é instado, a partir de cada tecnologia que se desenvolve, a construir metodologias que orientem os estudantes no sentido de buscar o conhecimento, construir suas próprias interpretações e desenvolver o senso crítico. As perguntas precisam ser menos óbvias; provavelmente, as formas de trabalhar em sala de aula precisam ser diferentes e a própria análise das produções textuais elaboradas pela ferramenta pode gerar discussões interessantes e dinâmicas.

Estamos realmente diante de uma ferramenta que impõe novas formas de atuação, mas não cabe apenas ao professor essa mudança. Ela precisa estar nos sistemas, porque, no âmbito dos processos institucionais, os prazos nunca são favoráveis a produções maturadas ou estruturadas no tempo adequado para a leitura, acompanhamento e produção.

A mudança, portanto, é paradigmática, pois não se instaura apenas nos aspectos digitais ou nas metodologias de trabalho na educação, ou mesmo nos ambientes educacionais, mas nos espaços/tempos em que esses aspectos interferem no desenvolvimento humano, dentro e fora da escola. Cogita-se de uma mudança que vá além da lógica da utilidade, que vá além da lógica da produção e se ampare na base cultural e ética do humano.

Na era da produtividade – ou da (re)produtibilidade – acadêmica em que vivemos, o ChatGPT pode parecer a quem tem prazos a cumprir a ferramenta mais rápida, mas certamente não é a melhor: o cérebro humano é ainda mais eficiente. No entanto, ele precisa de tempo para compreender a leitura, analisar os dados, refletir sobre os resultados e elaborar conclusões. O tempo falta ao professor em seu dia a dia e falta também ao estudante, os prazos são urgentes na vida de ambos. Assim, recorrer a essa ferramenta pode ter um aspecto ligado a essa velocidade que lhes é cobrada. Em função disso, não basta o professor elaborar boas questões, ou criar metodologias mais participativas ou mesmo controlar melhor as produções dos estudantes; cabe aos sistemas e às instituições repensar as formas de trabalho e de desenvolvimento dos processos educacionais.

Enfim, as autoras deste estudo, como professoras, não estão interessadas em saber se a autoria é ou não é daquele estudante, ou seja, não é a ferramenta que as preocupa, mas o seu uso. Preocupa-as a ética por trás desse uso, preocupa-as a perda cognitiva e cultural dos que estão usando esse tipo de ferramenta, preocupa-as que a IA se firme como ferramenta constante. Seria melhor acreditar que não serão todos os alunos que dela farão uso contínuo e que serão poucos a procurar desenvolver trabalhos com esse tipo de recurso, porque isso é burlar a si mesmo, não apenas ao professor. Pode-se considerar, na verdade, que o uso contínuo será sempre daqueles que já usavam outros recursos similares e que se acomodaram à mera obrigação de cumprir prazos e se desvencilhar do compromisso de se desenvolver pessoal e intelectualmente.

À guisa de conclusão

Se o ChatGPT permite acesso fácil a informações, se é capaz de transformar dados em produções com razoável qualidade e profundidade, dotadas de lógica, coesão e coerência, ele pode se tornar instrumento útil nos processos de ensino e aprendizagem. Para isso, seu uso precisa estar amparado em bases afetivas, educativas e éticas que permitam aos indivíduos compreender suas possibilidades de desenvolvimento e suas responsabilidades em relação a si mesmos, aos outros e à sociedade em geral.

Mesmo sem se preocuparem com a ferramenta em si, as autoras deste trabalho se preocupam com o processo, ou seja, com suas possibilidades em sala de aula. Um bom exercício seria pensar metodologias que permitissem o desenvolvimento de atividades coletivas ou individuais que exigissem dos estudantes reflexão, pesquisa, leitura, estabelecimento de relações entre diferentes autores e pontos de vista – enfim, que desenvolvessem os processos inerentes à produção do conhecimento. Importa construir metodologias que, mesmo que não impeçam o uso de ferramentas de IA, possam ir além delas.

Dentre essas ferramentas e metodologias, podem-se destacar algumas possibilidades: ampliar a perspectiva de sala de aula como espaço fixo e territorializado, abrindo-a ao uso de espaços digitais e sociais (espaços abertos, espaços comunitários); ampliar o desenvolvimento de propostas inter e transdisciplinares de trabalho; ampliar o uso pedagogicamente mediado de ferramentas tecnológicas nos processos didáticos; ampliar a reflexão crítica sobre as tecnologias e sobre a realidade.

Se um estudante produz um texto a partir de uma demanda específica do docente (seja uma pergunta, um projeto, uma reflexão), sempre há como questionar os argumentos, rever afirmações e sugerir alterações. Esse processo de refacção textual é fundamental. Este artigo não está propondo soluções metodológicas, mas refletindo acerca das questões que subjazem ao uso da IA e, nesse sentido, as autoras acreditam que a reflexão sobre a ética é um aspecto que precisa estar presente em sala de aula.

^{Morin (2005)} já propunha esse retorno à dimensão ética como imprescindível para o ser humano, indicando uma crise no mundo ocidental que questiona a divindade, dessacraliza as leis e, em muitos casos, também busca superar o superego que regula o todo social. Nessa realidade múltipla e dinâmica, em que o sentido da responsabilidade se encolhe, a ética seria o caminho para a mudança.

A inserção e o uso das ferramentas tecnológicas nos processos de ensino e aprendizagem sob uma perspectiva crítica e reflexiva, trazendo a ética também para o centro da reflexão, pode permitir a promoção de indivíduos capazes não só de bem utilizá-las, mas de compreender sua responsabilidade consigo mesmos e com o todo social. A partir daí, cabe não só aos professores, mas a todos os sistemas educacionais, buscar novas estruturas, novos ambientes, novas metodologias de construção do conhecimento. Isso não é novidade na educação, mas urge.