Introdução

Desde o advento do DeepDream, criado pelo Google em 2015, a IA generativa de imagens revolucionou muitos campos. Steinfeld (2023) traça essa evolução, desde a automação industrial até o aumento da eficiência em setores essenciais, como os cuidados de saúde, as finanças e a logística. No campo criativo, a IA está redefinindo os limites da expressão artística, transformando a geração de imagens, a composição musical e a criação visual, além de desafiar nossas concepções tradicionais de criatividade e arte.

A evolução dos modelos generativos seguiu trajetórias variadas, mas houve uma convergência destas com a criação dos chamados transformers1 (Ferrera, 2024). Modelos linguísticos como o BERT (Bidirectional Encoder Representations from Transformers) e o GPT (Generative Pre-trained Transformer), que são treinados a partir de grandes quantidades de dados, utilizam esta arquitetura como base principal (Ferrara, 2024). Estes modelos, treinados a partir de conjuntos de dados maciços, abrangendo uma variedade de tipos de informação, como texto, imagens, áudio e até sinais, podem ser utilizados em tarefas diversas, como sistemas de pergunta-resposta, análise de sentimentos, extração de informação, reconhecimento de imagens e objetos e até navegação GPS (Bommasani et al., 2022). As arquiteturas de tipo transformer revolucionaram o processamento da linguagem natural2 e a geração de imagens e constituem a base de muitos modelos atuais de IA, incluindo ChatGPT, DALL-E e Stable Diffusion (Bahrini et al., 2023).

Desde então, a IA generativa tem sido aplicada em várias áreas. Nas artes visuais, ferramentas como o DALL-E e o MidJourney permitiram que artistas produzissem obras visuais simplesmente fornecendo descrições textuais (Harwell, 2022). Na música, sistemas de IA como o Jukedeck e o AIVA compõem música original que rivaliza com as composições humanas (Radio-Canada, 2023). Na literatura, as plataformas baseadas em IA podem gerar histórias coerentes e até produzir poesia, como no livro  Working in the Age of Generative AI, coescrito por Jérémy Lamri, Gaspard Tertrais, e Aurora Silver, uma IA concebida para enriquecer os debates sobre o impacto da inteligência artificial no mundo do trabalho.

A produção de imagens por IA levanta debates sobre criação artística, inventividade, autoria e direitos de propriedade, além de reintroduzir a questão do estatuto de realidade das imagens, especialmente na relação entre imagem e referente. Para examinar esta questão, podemos considerar os três paradigmas da imagem de Santaella (1998): pré-fotográfico, fotográfico e pós-fotográfico. O primeiro corresponderia ao modo de produção artesanal da pintura, desenho e escultura. Alicerçado sobre habilidades manuais, dependeria de um suporte material (tela, papel, tintas etc.) e do gesto físico-corporal do agente criador. Nele, a presença de um referente real pré-existente é possível, mas não obrigatória. Além dessa independência, frequentemente a pintura é vista como mais subjetiva, pois a percepção e a representação do artista, mesmo ao tentar ser fiel à realidade, são influenciadas por sua personalidade, estilo, contexto histórico e preferências técnicas (Gombrich, 2000).

Já no paradigma fotográfico, a presença de referentes reais pré-existentes é mandatória, sendo a fotografia resultado da captação de vestígios de luz emanados pelo mundo físico, transpostos num suporte físico-químico ou eletromagnético (Santaella, 1998). Barthes (1980) destaca uma mitologia da fotografia como irrefutável, capturando um “isso aconteceu” que seria visto como prova inegável da existência de seu referente. Segundo Martins (2009), a fotografia criou uma consciência visual própria da modernidade, supostamente retirando da produção imagética a dimensão fabulatória, em favor da precisão técnica cara à sociedade industrial. Ela passa a ser vista como documento, prova, flagrante. Como mostra o autor, o aparente realismo fotográfico é uma ilusão, já que a imaginação fotográfica utiliza recursos técnicos e estéticos, atravessados por um imaginário que precede a imagem produzida. Sontag (1973) também afirma que a captura do real pela fotografia é parcial e seletiva. O enquadramento, longe de ser neutro, molda ativamente o significado da imagem. As fotografias não apenas representam, mas modelam o mundo, estabelecendo novos padrões visuais e éticos que influenciam o que consideramos importante ver, alterando profundamente nossa percepção da realidade através do que Sontag chama de ética do olhar.

Hoje, fotografias seriam vistas como menos confiáveis. Segundo Farid (2009), vivemos uma era em que é difícil acreditar na realidade das imagens online. Embora a manipulação de imagens sempre tenha existido, ela evoluiu consideravelmente. Das laboriosas alterações em câmera obscura, passamos a técnicas digitais sofisticadas e acessíveis. A Internet atualmente está saturada de imagens e vídeos sintéticos, pertencentes ao que Santaella (1998) nomeia paradigma pós-fotográfico. Nessas imagens, não há objeto empírico pré-existente, não há um “isso aconteceu” no sentido de Barthes, mas operações abstratas, programas e cálculos algorítmicos. Nesse sentido, as imagens sintéticas seriam menos uma representação ou reprodução do referente, e mais uma simulação por modelização via matriz numérica: não representam cenas ou objetos que as antecedem, mas aproximações convincentes.

O debate também abrange os vieses produzidos e/ou reproduzidos nessas imagens, tanto na concepção dos modelos como na sua utilização, servindo ao reforço de preconceitos, opressões e hierarquias sociais. Nas imagens sintéticas, os rostos brancos masculinos são mais realistas, pois esses rostos estão super-representados nos dados de treinamento usados por essas ferramentas (Nightingale & Farid, 2022). Suresh e Guttag (2021) identificam o viés de implantação, que ocorre quando o uso de um modelo difere do previsto. Na fase de concepção, a formação dos modelos nem sempre leva em conta o futuro ambiente sociotécnico em que serão utilizados. Um exemplo é a utilização da ferramenta de avaliação de riscos Compass, inicialmente concebida para prever a probabilidade de reincidência de um acusado, mas utilizada por alguns juízes para determinar a duração das penas, desviando assim a ferramenta de sua finalidade original (Dika, 2020). No que diz respeito à IA generativa, foram observados vários usos para além do contexto inicial para o qual foram criadas. Estes usos derivados podem, por vezes, ser inerentes ao próprio modelo (Weidinger et al., 2022) e, outras vezes, ser conscientemente propostos pelos utilizadores (Ferrara, 2024).

Interessadas nos usos e apropriações sociais da inteligência artificial generativa por pessoas comuns, iniciamos um mapeamento exploratório de grupos em redes sociais dedicados ao compartilhamento de imagens geradas por IA a partir de prompts.3 Um deles nos chamou a atenção: um grupo público da rede social Facebook4 particularmente dinâmico, criado em 14 de janeiro de 2023 e contando com mais de novecentos mil membros. Mais do que simplesmente compartilhar resultados de criação de imagens por IA para, por exemplo, engrandecer a técnica ou os criadores, o objetivo do grupo é compartilhar resultados inesperados ou malsucedidos, frutos de prompts submetidos a diferentes tipos de IA generativa de imagens disponíveis ao grande público.

No interior do grupo, deparamo-nos com uma categoria de imagens que fugia do propósito inicial. Essa categoria, chamada found in the wild, dizia respeito a imagens encontradas fora do grupo, que eram geradas por IA, porém, utilizadas como se fossem fotografias reais. A expressão in the wild (“na natureza” ou “no meio natural”), remete à ideia de um uso indiscriminado, ou selvagem, de tais imagens, feito fora das fronteiras da domesticidade do grupo. Como exemplifica um de seus membros, “in the wild significa que eles descobriram [a imagem] num post não relacionado. Neste caso, uma dessas páginas de alienígenas antigos/conspiração achou a foto e a está tratando como real”. Em torno dessa categoria de publicações, os membros do grupo discutiam as eventuais anomalias que permitiam identificar uma imagem como sendo produzida por IA, mas também os equívocos dos humanos que recebem tais imagens, assim como dos critérios de reconhecimento ou não de uma imagem como sendo produzida por IA.

Em tempos de desinformação, o reconhecimento de imagens e textos como produzidos por IA é tema particularmente atual, mobilizando diversos atores sociais, incluindo professores, cientistas e políticos. Como dissemos, as imagens sintéticas são criações geradas por algoritmos, que não representam cenas ou objetos reais, mas sim aproximações convincentes, sendo por vezes utilizadas para criar perfis falsos, espalhar desinformação e realizar atividades fraudulentas (Porcile et al., 2024). Diante dessa ameaça, vários modelos de análise de machine learning foram desenvolvidos para identificar essas mídias sintéticas (Lin et al., 2024). No entanto, embora esses métodos apresentem resultados promissores, uma grande preocupação permanece: essas ferramentas podem se adaptar rapidamente para contornar as técnicas de detecção. Com esse artigo, não estamos propondo uma lista de elementos a considerar nesses processos de identificação, mas apenas compreender quais são os critérios utilizados pelos sujeitos que fazem parte do grupo, assim como os critérios de credibilidade, ou seja, que permitem que se passe uma imagem sintética por outra coisa.

Metodologia

Adotamos uma abordagem qualitativa, de inspiração etnográfica, para a construção dos dados dessa pesquisa. Para tanto, realizamos observações sistemáticas de um grupo do Facebook de junho de 2023 até maio de 2024. Nesse processo, foi produzido um corpus composto pelas publicações identificadas como found in the wild através de capturas de tela, assim como registro dos comentários que acompanhavam tais imagens. O corpus principal analisado é composto por 47 publicações – imagens e seus respectivos comentários – obtidas no grupo. Tentamos localizar sociodemograficamente as pessoas que publicaram essas imagens, visitando seus perfis e tomando nota das informações públicas relativas à nacionalidade e ao gênero informado. Dentre os que disponibilizavam tais informações, a maioria indicava ser de homens (71% dos perfis com informações públicas relativas ao gênero) vivendo nos Estados Unidos (62% dos perfis com informações públicas quanto à localização).

Além das publicações, coletamos 993 comentários, a maioria em inglês, provenientes de 531 perfis. Assim como no que diz respeito à autoria das publicações found in the wild, a maioria dos perfis de comentadores informava o gênero masculino (85% dos perfis com informações públicas) e a localização nos Estados Unidos (64% dos perfis com informações públicas). A seleção das publicações e dos comentários foi feita de modo manual, guiada por um processo de observação, compreendida por nós como uma estratégia de densificação de dados digitais (Wang, 2013). A abordagem de densificação de dados digitais surge em grande medida como reação à suposta desvalorização da pesquisa qualitativa em tempos de big data. Sem necessariamente contrapor big data e thick data, a proposta seria de adotar uma postura metodológica e epistemológica adaptada a cada tipo de objeto de estudo ou questão de pesquisa. Se, para alguns tipos de questionamentos, a coleta de dados massivos seria mais pertinente, para outros, um menor corpus de dados, interpretados a partir da observação a longo prazo, seria mais frutífera. Trata-se de uma abordagem inspirada na descrição densa de Geertz (1989), que pressupõe a interpretação como parte do processo de observação e coleta de dados. Seria ela que permitiria interpretar as múltiplas camadas de significado, sobrepondo texto e contexto. Assim como, segundo Geertz, a interpretação dos sentidos culturais seria fundamental para distinguir tiques nervosos de piscadelas, na densificação de dados digitais, poderíamos melhor compreender ironias, desvios e o humor contido nas ações, interações e expressões de um grupo determinado.

Assim, a observação das interações do grupo e as anotações em diário de campo serviram como estratégia de densificação, permitindo reconhecer os códigos e sentidos compartilhados pelos membros a longo prazo. Os termos utilizados e as referências mobilizadas nos comentários são, desse modo, compreendidos a partir do contexto e das práticas do grupo em questão, o que exige, por vezes, que se observe elementos que não estão diretamente relacionados às publicações de tipo found in the wild para compreendê-las.

Em seguida, o material coletado através da observação foi organizado em duas tabelas (comentários e imagens), e codificado a partir de uma análise temática (Paillé & Mucchielli, 2021) e de conteúdo (Bardin, 1977), gerando uma grade de análise cujas categorias abrangentes correspondem, em grande medida, à estruturação do artigo. O primeiro recorte de tematização concerne o conteúdo das imagens, abrangendo o que é representado e suas possíveis funções e usos in the wild. O segundo diz respeito aos critérios utilizados no grupo para classificar as imagens como sendo fruto de IA, principalmente divididos em contexto/bom senso e detalhes/atenção. Já o último eixo trata das dinâmicas sociais criadas em torno dessa categoria de imagens, como as dinâmicas de fronteira, restrição, desvio e trânsitos que essas imagens podem percorrer dentro e fora do grupo.

Em dezembro de 2023, as publicações found in the wild foram proibidas pela moderação. Como resultado, apesar do grande número de imagens desse tipo publicadas no início da vida do grupo, seu número caiu consideravelmente. Como a observação havia sido iniciada havia poucos meses, nossa primeira reação diante da proibição foi fatalista: teria o objeto mesmo da pesquisa se tornado extinto? Este é, aliás, um desafio frequente em pesquisas da área de ciências sociais quando o tema ou o campo empírico concerne às mídias digitais: plataformas, aplicações e fenômenos cuja velocidade de aparecimento, desaparecimento ou transformação é acelerada.

Para nossa surpresa, mesmo passando a ser proibidas, publicações found in the wild continuaram sendo feitas e continuaram a ser objeto de comentários. O objeto não estava extinto, mas havia uma nova questão metodológica. A temporalidade da coleta de dados precisou se adaptar à duração da existência das imagens, muito mais curta. Num prazo de alguns dias, por vezes, horas, elas eram periodicamente apagadas pelos moderados. A simples procura retrospectiva do termo found in the wild não era mais suficiente, exigindo uma postura vigilante e uma observação sistemática e constante, quase que como numa caçada contra a atividade de moderação, uma observação feita na brecha do tempo de reação dos moderadores.

Finalmente, como demonstra a seção deste artigo que trata das dinâmicas sociais, a proibição das publicações que nos interessavam foi tomada como um dado de pesquisa. Assim, debruçamo-nos brevemente sobre as razões da proibição, assim como sobre suas consequências para o grupo, em especial a criação, pelos membros deste, de novas categorias derivadas e autorreferidas.

Espécies de imagens found in the wild

Após a coleta das imagens found in the wild, procedemos a uma análise temática e organização destas ao nível de seu conteúdo. Num primeiro momento, estabelecemos duas grandes categorias que dizem respeito ao que é representado na imagem: “Criaturas”, com 24 imagens, e “Coisas e lugares”, com 20 imagens. Uma terceira categoria, “Outros”, bem menos representativa, com apenas 3 imagens, engloba sobretudo memes e histórias em quadrinhos.

Em criaturas, há seres fantásticos, mas também pessoas e animais. Os seres fantásticos são monstros, gigantes, extraterrestres, seres mitológicos e androides. Já as pessoas retratadas são sobretudo anônimas ou pessoas ordinárias. Uma característica comum das imagens de pessoas e animais é o caráter extremo ou excepcional destas, tanto em termos dos sujeitos (apresentando deformidades, tamanho que foge ao padrão da espécie ou idade muito avançada) quanto das situações, em geral perigosas, de risco ou pouco prováveis.

Na categoria coisas e lugares, foram repertoriados diferentes tipos de objetos e paisagens. Os objetos são sobretudo itens artesanais e artísticos (produtos de crochê, marcenaria, esculturas, decoração de interiores), além de tecnológicos (carros e aviões) e alimentos preparados ou cultivados (frutas e legumes de tamanho ou formas inusuais, pratos tecnicamente muito elaborados). Quanto aos lugares, são sobretudo paisagens onde a arquitetura se destaca. Chama a atenção o fato de não haver paisagens naturais, sem algum tipo de interferência humana por meio de construções ou intervenções visíveis. Uma característica tanto das coisas quanto dos lugares é o fato de representarem algum tipo de criação humana, habilidades humanas técnicas ou artísticas que tomam forma em objetos e paisagens.

Num contexto no qual muito se fala sobre os impactos da inteligência artificial no trabalho criativo humano – por exemplo, quando se aborda obras de arte criadas por IA –, é curioso que representações da atividade humana criadora e criativa sejam tão presentes. De um lado, presentes em grande número de imagens que se fazem passar por fotografias de objetos que existiriam fisicamente. De outro, justamente como o tipo de imagem que é mais denunciado como sendo criado por IA, a partir do questionamento sobre a impossibilidade de que tamanha habilidade técnica ou artística seja humana: esculturas excessivamente detalhadas, peças de crochê tão grandes que exigiriam anos de trabalho para serem confeccionadas, veículos cuja tecnologia seria demasiado avançada. Os trabalhos em crochê são, aliás, uma pequena obsessão do grupo: numerosas são as imagens found in the wild de senhoras idosas com suas monumentais obras manuais, identificadas ali como sendo fruto de IA, tanto as obras quanto suas criadoras.

Um elemento presente em muitas dessas imagens é uma certa distância temporal e/ou geográfica entre o suposto referente e a audiência consumidora das imagens. Poderíamos pensar nessa distância como uma exotização, recorrendo aos conceitos de exotismo geográfico e exotismo histórico propostos por Segalen (1995). O desconhecimento da realidade diversa é condição para que esta, sobretudo a partir da imaginação, possa ser objeto de exotização. No caso do exotismo geográfico, é a distância física e cultural que está no centro da representação. Com bastante frequência, as imagens produzidas por IA cujo estatuto de realidade é discutido mostram cenas e lugares cujas características remetem a paisagens longínquas, distantes dos grandes centros urbanos, ou que dificilmente seriam interpretadas como localizadas na Europa ou América do Norte. Áreas rurais, desertos, florestas genéricas, são bastante mais presentes do que lugares reais reconhecíveis. Elas evocam lugares, sem nunca localizá-los com precisão.

No denominado exotismo histórico, é a distância temporal que está em questão. Este se faz ainda mais presente nas imagens analisadas: o efeito exotizante se produz através de escolhas estéticas, como fotografias em preto e branco e sépia, efeitos de envelhecimento e desgaste da imagem, ou ainda nas roupas das pessoas representadas, que remetem a outras épocas e lugares. Tal artifício é utilizado tanto nas fotografias de criaturas quanto de objetos e lugares. Exemplar desse tipo de recurso é a imagem de um cachorro gigante, com cerca de duas vezes o tamanho do humano ao seu lado. Parecendo ser uma fotografia tirada em uma floresta, a imagem é em tons de sépia, e o homem ao lado do animal veste trajes que remetem aqueles utilizados nas primeiras décadas do século XX. Quando encontrada in the wild por um membro do grupo, a imagem vinha acompanhada da legenda “O último galgo cinzento irlandês gigante, 1902. Incrível!”. Ainda que a existência de um cachorro de mais de três metros de altura seja pouco crível, por sua tonalidade e pelo vestuário do homem que ali figura, a imagem poderia facilmente fazer-se passar por uma fotografia antiga. A indicação de que se trata do último da espécie também abre espaço para que o público que recebe a imagem cogite a possibilidade da existência, num passado relativamente distante, de tal espécie, quiçá atualmente extinta.

Figura 1
Cachorro gigante
Fonte: arquivo das autoras

Bastante semelhante é o que acontece com a imagem de um crânio gigante, compartilhada in the wild em uma página dedicada à arqueologia. A baixa qualidade da imagem, suas cores e as vestimentas dos homens que posam junto à caveira de 4 metros de altura reforçam a distância temporal desta com relação à audiência. A legenda completa o gap existente: “Um achado enigmático: arqueólogos posam ao lado de um crânio descoberto em 1838”. Além da distância temporal, a distância geográfica tem um papel na atribuição de credibilidade a essa imagem, já que o local retratado parece remeter a ruínas em meio a um deserto. O mesmo acontece com a imagem do gigante de Kandahar,5 publicada exaustivamente no grupo e objeto de centenas de comentários. A legenda da imagem indica ser uma fotografia tirada em 1923 no Afeganistão. E ele não é o único gigante. Outra imagem, que teria sido encontrada in the wild no site de um jornal sensacionalista, mostra uma figura humanoide com o rosto coberto por pelos ou galhos. Comparada aos outros personagens da cena, a figura do gigante teria facilmente seis metros de altura. Na fotografia monocromática ele está cercado por uma dezena de homens, todos vestidos com ternos que evocam roupas do final do século XIX.

Figura 2
O gigante de Kandahar
Fonte:  arquivo das autoras

Quando publicadas no interior do grupo, todas essas diferentes categorias de imagem têm a função de servir de matéria-prima para a discussão sobre serem fruto ou não de IA, ou ainda sobre a ingenuidade dos demais internautas, que acreditam em sua veracidade. Mas in the wild, elas têm outros propósitos. Analisando o tipo de imagem e as legendas que as acompanham quando usadas fora do grupo, percebemos uma característica comum que diz respeito à excepcionalidade daquilo que é retratado. Beirando uma espécie de sensacionalismo, seu uso parece ser uma estratégia para atrair a atenção do público. Aqui a excepcionalidade concerne o caráter raro e estranho de humanos e animais ordinários, ou daquilo que eles são capazes de fazer. Além das senhoras idosas com suas esculturas em crochê, homens idosos e crianças de todos os gêneros são mais frequentemente representados nesse tipo de imagem. É o caso, por exemplo, da suposta fotografia de um agricultor idoso que mostra orgulhoso o morango gigante que cultivou, compartilhada in the wild por uma página de jardinagem. Outro senhor idoso esculpindo em uma abóbora seu autorretrato, extremamente detalhado e realista, figura numa imagem cuja legenda diz “incrível artista”. Um terceiro exemplo concerne também um autorretrato ultrarrealista, mas dessa vez esculpido em areia por uma criança, acompanhado da legenda incitadora de likes “Fantástico trabalho! Vamos mostrar apreciação!”.

Figura 3
Autorretrato em abóbora
Fonte: arquivo das autoras

Figura 4
Obra em crochê
Fonte: arquivo das autoras

Nos comentários analisados, essa estratégia ou função geradora de likes é amplamente reconhecida, e mesmo denunciada, na maioria das vezes, em tom jocoso. Um membro comenta que, pelo número de likes e pelo caráter, segundo ele, explicitamente artificial da fotografia, as pessoas que deram like seriam provavelmente bots. A equação se complexifica, e, estando correta sua teoria, teríamos imagens geradas por IA que se fazem passar por imagens de coisas e pessoas reais, sendo curtidas por bots, ou seja, outras IA que se fazem passar por contas de pessoas reais nas redes sociais.

Critérios de identificação de IA

A análise dos comentários que discutem ser as imagens found in the wild criadas ou não por inteligência artificial nos leva a dois principais tipos de critérios, que propomos chamar de critérios dentro da imagem e critérios em torno da imagem. Os critérios dentro da imagem concernem anomalias ou padrões reconhecidos como frequentemente presentes em imagens geradas por IA. Já os critérios em torno da imagem remetem ao contexto e à sua verossimilhança, considerando elementos externos à imagem, como conhecimentos geográficos, físicos, históricos, de engenharia, entre outros. Em se tratando do primeiro tipo de critérios, os argumentos dos membros do grupo giram em torno da “atenção”, enquanto, para o segundo, os argumentos são comumente rotulados como “bom senso”. 

Falando sobre o segundo critério, os membros do grupo se queixam da ignorância daqueles que acreditam nas imagens falsas, salientando a sua falta de conhecimentos básicos de biologia e física. Por exemplo, um comentário sobre a imagem do cadáver de um familiar preservado em resina faz apelo ao processo de decomposição para indicar ter sido a imagem gerada por IA: “muitos resineiros amadores descobrem, para seu horror, que a resina não impede que as coisas apodreçam e, sobretudo, não impede que o apodrecimento produza gás, que acaba por fazer explodir a resina devido à pressão”. Da mesma forma, na imagem de um veículo automotor hipertecnológico, os membros do grupo questionam a possibilidade de uma máquina daquelas funcionar: “Nenhum automobilista sério acreditaria [...], faltam demasiadas peças, e há tubos que levam a lugar nenhum”.

Quanto mais verossímil, ou viável, for aquilo que é retratado, menor é o consenso no grupo. Os critérios e argumentos mobilizados remetem à discussão sobre semelhança e parecença tal qual proposta por Menezes (2003). Antes da fotografia, a relação entre o real e sua representação se colocava mais em termos de semelhanças, no sentido de propriedades compartilhadas ou características comuns evocadas. As coisas seriam semelhantes porque possuem algum tipo de afinidade, e não porque são idênticas. Segundo Benjamin (2013), a faculdade mimética humana executa o estabelecimento de semelhanças, como nas correspondências mágicas entre coisas que não são iguais, mas se assemelham. Com a ampla difusão da fotografia ao longo do século XX, haveria um deslocamento dessa relação entre representação e referente, instaurando-se uma obsessão com a semelhança tomada como parecença (Menezes, 2003). Tal como a fotografia passou a ser percebida pelo senso comum, para que a representação fosse considerada acurada, a imagem resultante precisaria ser parecida com o objeto representado. Na pintura, essa relação se daria muito mais entre duas imagens do que entre imagem e real: relação de correspondências entre imagem pictórica e imagem mental (Gombrich, 2000). Como poucas pessoas podiam verificar a exatidão dessas representações, como no caso dos retratos da nobreza, os artistas tinham certa liberdade interpretativa. O que se considerava uma representação acurada ou crível estaria baseado muito mais nas correspondências entre esses retratos e as expectativas com relação às pessoas, objetos ou lugares retratados. Mais do que verificar se a imagem pictórica do rei é parecida com a pessoa do monarca, estaria em questão a correspondência de elementos como as cores e tipos de roupas, os gestos e disposição do corpo, entre outros, à imagem mental do que seria esperado dele.

No paradigma pós-fotográfico, como dissemos anteriormente, não há um referente real que possa ser comparado à simulação imagética das pessoas, lugares ou objetos retratados. Mas há grandes conjuntos de dados que alimentam os modelos matemáticos geradores de imagens. A partir de padrões estatísticos, alguns elementos desses conjuntos de dados serão associados, colocados em correspondência, podendo o resultado coincidir ou não com algo cuja existência é crível. Os argumentos evocados em torno da imagem, assim, não dizem tanto respeito à semelhança como parecença, e mais à verossimilhança como plausibilidade. Na imagem de um piso de cozinha com flores de cerejeira preservadas em resina, o debate sobre a veracidade da imagem é intenso, ao contrário das outras imagens cuja natureza artificial é óbvia para o grupo. Alguns comentários afirmam que a imagem poderia ser real, já que exequível: “Isto pode ser IA, mas é exequível... Mas toda aquela resina epóxi custaria uma fortuna e pesaria uma tonelada”. Outro acrescentou: “Já vi pavimentos semelhantes na vida real, mas depois de algum tráfego o aspecto transparente desaparece”. Outros comentários afirmam que a imagem é gerada por IA, indicando onde olhar para identificar a artificialidade: “Os botões na frente do fogão”, “Normalmente, procuro nos reflexo dos objetos”.

Figura 5
Piso de flores
Fonte: arquivo das autoras

Tanto os botões quanto os reflexos já nos levam para os critérios que dizem respeito aos detalhes das imagens, ou seja, o exame de elementos que estão contidos no interior das próprias imagens. Um conselho frequente é parar, olhar com atenção e, sobretudo, dar zoom. Tratando do paradigma indiciário, Ginzburg (1989) discute o método morelliano, que sugeria examinar detalhes secundários de uma pintura, como o lóbulo da orelha num retrato, para conferir autenticidade a uma obra de arte. Nas imagens criadas por IA, uma série de pequenos indícios mínimos, mas reveladores, são igualmente interpretados como pistas pelos membros do grupo. O mais conhecido destes indícios, espécie de lóbulo da orelha da IA generativa, diz respeito aos membros do corpo, especialmente dedos dos pés e das mãos. A contagem dos dedos é de longe o elemento mais enumerado entre os critérios de identificação. Por exemplo, para a imagem do cadáver da vovó preservado em resina, um membro do grupo diz “Antes de mais nada, contem o maldito número de dedos”. Sob a imagem de um homem segurando um morango enorme, outro comentário menciona: “os DEDOS”. Outro membro do grupo sugere, com bom humor, que “deveria haver uma lei exigindo que a IA sempre faça seis dedos, para que todos possam saber quando uma imagem foi feita por IA”.

Figura 6
Cadáver preservado em resina
Fonte:  arquivo das autoras

Figura 7
Agricultor com morango e dedos gigantes
Fonte: arquivo das autoras

Outros detalhes também podem denunciar uma imagem gerada por uma IA, como por exemplo sequências de caracteres mal colocados, o que leva à afirmação frequente de que “a IA não sabe escrever”, ao menos quando está gerando imagens a partir de um prompt textual. Além do número de dedos e das palavras e frases, citam proporções corporais, assimetria de roupas, forma dos pés, joelho e cotovelos, acessórios como óculos e máscaras que se fusionam ao rosto etc. Os detalhes do rosto também são utilizados como critério, razão pela qual os membros do grupo sugerem sempre dar zoom nas imagens. O argumento é que, como a IA generativa trabalha a partir de bancos de imagens, frequentemente o rosto de celebridades e figuras públicas apresentaria menos falhas, já que uma quantidade maior de imagens-fonte está disponível, mas em se tratando do rosto de pessoas comuns, o resultado não seria o mesmo.

Figura 8
Imagem identificando erros
Fonte: arquivo das autoras

Tratando dos glitchs algorítmicos, Meunier et al. (2019) analisam como as pessoas dão sentido ao hiato existente entre o mundo calculado e o mundo sensível, partilhando com outros usuários anedotas que descrevem como as supostas “falhas” algorítmicas geram um sentimento de estranheza cômica. Quando a imagem gerada por IA tem dedos demais, três pernas, ou escreve errado o que foi pedido, a reação frequente é o riso. A própria existência do grupo se baseia nessa premissa, já que seu propósito inicial é a sociabilidade em torno do compartilhamento de anomalias.

Os glitches não dizem respeito a um mau funcionamento dos algoritmos (Meunier et al., 2019), mas à percepção de uma estranheza e de um descompasso com relação ao resultado humanamente esperado, quando o algoritmo faz exatamente o que é programado para fazer. Quanto ao exemplo da escrita, a IA generativa de imagens está programada para gerar formas, não palavras ou frases. O mesmo acontece com relação às mãos, ou aos detalhes do rosto. As mãos podem ser retratadas em muitas posições e ângulos diferentes, tendo como resultado uma variação significativa do número de dedos visíveis ou escondidos (bloqueados por outros dedos, dobrados de diversas formas). O que será colocado em evidência no resultado são os padrões estatísticos a partir dos quais a IA é treinada. Por isso, preferimos nos referir aos glitches como anomalias ou descompassos do que como erros, já que não se trata de um erro em termos de cálculo, mas sim desse hiato entre o cálculo e o resultado humamente percebido.

Poderíamos inclusive pensar numa aproximação entre o glitch, no contexto das imagens sintéticas, e o que Barthes (1980) chama de punctum, no paradigma fotográfico. O studium, para o autor, seria o vocabulário cultural compartilhado que torna uma foto inteligível, compreensivel. Já o punctum, do latim, marca ou ferida deixada por um instrumento pungente, seria uma espécie de quebra do studium: aquele pequeno elemento aleatório ou detalhe peturbador que atrai os olhos, pica, cutuca o espectador, produzindo alguma afecção. O punctum, de acordo com o autor, seria o que torna algumas fotografias especiais, mais tocantes do que outras. O glitch também cutuca o espectador. Como uma espécie de quebra da quarta parede, nele a tecnologia se reintroduz na cena. Uma diferença significativa, no entanto, é que o punctum pode tanto ser um resultado fortuito do acaso (como o glitch), ou, ao contrário, conter intencionalidade, funcionando como decodificador simbólico do que o artista deseja transmitir (Martins, 2009).

O studium, nas imagens produzidas por IA, remete à homogeneidade coerente que permite à imagem se fazer passar pela representação fotográfica de um referente. Evidentemente, nas imagens de tipo found in the wild, o glitch é indício de que não o são. Ele é perturbador demais para que a ilusão seja mantida. Porém, toda a sociabilidade do grupo, como dissemos, funda-se no compartilhamento dessas anomalias e perturbações. Ou seja, quando as imagens produzidas por IA não se fazem passar por outra coisa, sendo tomadas simplesmente pelo que são, suas anomalias perturbam, mas também fascinam, cutucam, fazem rir.

No que concerne aos critérios de identificação, assim, podemos dizer que essa sociabilidade em torno do glitch funciona como um processo de educação da atenção (Ingold, 2001) que permite saber para onde e como olhar quando querem localizar o descompasso, bricolando a partir de saberes que se originam da percepção sensível e dos conhecimentos coletivos produzidos no interior do grupo. O que parece se formar é uma espécie de comunidade de prática (Wenger, 2010), baseada nas trocas sociais do grupo e nas negociações dinâmicas do sentido dado às experiências de seus membros. Um regime de competências particular é elaborado no âmbito do grupo, o que gera, como discutiremos a seguir, também processos de identificação e delimitação de fronteiras de pertencimento entre aqueles que participam e aqueles que não participam de tal regime.

Dinâmicas sociais em torno de imagens found in the wild

Além das discussões sobre os critérios de identificação de imagens produzidas por inteligência artificial generativa, no interior do grupo muito se debate sobre as pessoas que usam essas imagens como se fossem reais, ou as percebem enquanto tal. Esse tipo de dinâmica serve para demarcar fronteiras entre os que pertencem ao grupo e outros usuários das redes sociais, tratados muitas vezes com desdém. Outros grupos online são criticados, como os de Criptozoologia,6 acusados de espalhar informações falsas: “Sigo um grupo de criptídeos [...]. Mas ultimamente vejo uma foto aqui e 20 minutos depois está lá e as pessoas confirmam que é uma foto recentemente descoberta”. Alguns expressam nostalgia pelos dias em que as imagens na Internet eram mais fiáveis: “Pics or it didn’t happen era um bom grupo antes de as fotos de IA começarem a inundá-lo”. A própria existência de um grupo chamado “fotos ou isso não aconteceu” testemunha a permanência do pressuposto positivista da cultura visual moderna, que toma a fotografia como registro fidedigno e documental da realidade, como mencionado por Martins (2009). Mas a infiltração nele de imagens sintéticas não apenas ressalta o artifício delas, mas, de certo modo, “questiona a verdade da fotografia como documento, como evidência, como atestado de existência prévia do objeto fotografado” (Machado, 1998, p. 320).

Pode parecer paradoxal que, num ambiente no qual a sociabilidade depende da troca de imagens sintéticas, essa obsessão em diferenciar o “real” do produzido por IA seja tão proeminente. No entanto, essa diferenciação não visa provar a realidade dos lugares, pessoas e objetos nas fotos compartilhadas, mas, no caminho contrário, provar a realidade do modo de produção da imagem sintética. Um tipo de imagem onde a evidência da prova é inquestionável é aquela que poderíamos chamar de “ferais”, ampliando a metáfora êmica sobre imagens encontradas in the wild. Trata-se de imagens produzidas pelos próprios membros do grupo e compartilhadas nele, que escapam às suas fronteiras, circulando na Internet como se fossem reais e, depois de algum tempo, retornando ao grupo após terem circulado “na natureza”. De acordo com Tsing et al. (2020), a feralidade “descreve uma situação em que uma entidade, cultivada e transformada por um projeto infraestrutural feito pelos humanos, assume uma trajetória fora do controle humano”. Como diz outro membro do grupo, “a imagem não é realmente wild se foi originada neste grupo”, mas apenas  “escapou desse grupo, e, em algum outro lugar fora dele, as pessoas acreditam nela”.

Há certa preocupação com relação à credulidade dos demais, por exemplo, quanto ao potencial de imagens geradas por IA promoverem desinformação e, em particular, uma reflexão sobre a responsabilidade do próprio grupo com relação à criação e circulação desse tipo de conteúdo. Fala-se sobre o grupo ter se tornado “raiz de todas as fakenews” e sobre um tipo de produção que tinha uma finalidade irônica, sabidamente artificial, de repente, fugir do controle, alimentando as “ideias conspiracionistas das pessoas que acreditam nessas imagens”.  Fazendo referência às imagens domesticamente criadas no grupo e que escapam rumo à natureza, circulando fora do seu controle, um membro comenta: “Realmente precisamos instalar cercas melhores”. Embora o comentário seja uma brincadeira bem-humorada, ele responde ao debate sobre as consequências das próprias criações do grupo e também fala sobre as fronteiras entre os que conhecem e reconhecem IA e os demais.

Quando percebemos que a proibição de publicações found in the wild fora instaurada, sabendo do teor de algumas discussões sobre desinformação, chegamos a pensar que ela poderia estar relacionada a formas de controlar ou minimizar a circulação de fakenews. Não é esse o caso. A justificativa concerne à originalidade das imagens. No grupo, permite-se apenas a publicação de imagens originais, ou seja, criadas por membros do grupo utilizando IA. Com exceção das imagens “ferais”, efetivamente as demais found in the wild não eram imagens criadas por membros do grupo, mas por outras pessoas e, por isso, não entrariam na categoria de imagens originais.

A questão da originalidade é por si só interessante. Considerando que as imagens criadas por IA generativa são baseadas em bancos de dados de milhões de outras imagens através das quais os modelos são treinados, o que seria compreendido como original nesse contexto?  A originalidade da imagem, em termos êmicos, baseia-se sobretudo na criação de um prompt que é fornecido a uma ferramenta de IA generativa.

Vários subterfúgios são utilizados com o objetivo de contornar os regulamentos relativos às imagens found in the wild e à ação da moderação. Um exemplo é o das imagens com o rótulo found in the basement (encontradas no porão). Estas publicações, que começaram a surgir após o advento da nova regra proibindo as found in the wild, apresentam histórias imaginárias que supostamente ocorreram no passado e cujas “provas” teriam sido encontradas recentemente no porão de alguma residência. Estas imagens, muitas vezes parecendo antigas, têm uma aura sombria e por vezes esotérica, remetendo a diversos filmes de horror que povoam nosso imaginário contemporâneo, tanto em termos estéticos quanto nas histórias do encontro fortuito.

Figura 9
Found in the basement
Fonte: arquivo das autoras

Outro subterfúgio diz respeito ao que o grupo chama de Attempting to recreate image found in the wild. Trata-se de criações de novas imagens originais através de IA, mas que imitam uma imagem found in the wild: os membros do grupo criam um novo prompt que descreve em detalhes a imagem, para que uma imitação proposital da que seria wild seja criada. Não contradizendo a regra que estipula a necessária originalidade dos prompts, as imagens de tipo Attempting to recreate image found in the wild não são deletadas pelos moderados. Nesse tipo de estratégia, podemos ver tanto uma provocação irônica à moderação quanto a expressão de pertencimentos através de códigos e referências comuns compartilhados, necessários para compreender a piada irônica por trás da prática. O que era inicialmente uma proibição com o intuito de limitar uma certa prática, gera, portanto, a multiplicação de novas práticas correlacionadas e diretamente referidas àquela proibida por meio da criação de novas categorias derivadas.

Conclusão

Ao longo deste artigo, debruçamo-nos sobre as trocas e dinâmicas sociais em torno de imagens geradas por inteligência artificial, em particular aquelas denominadas found in the wild. Essa categoria diz respeito a imagens encontradas fora do grupo, noutros locais da Internet, que aparentam ser fotografias, mas que, na verdade, foram produzidas por IA. Repertoriamos as diferentes categorias destas imagens e discutimos o recurso a escolhas estéticas que produzem uma exotização delas como estratégia de credibilidade.

Em seguida, procuramos evidenciar os critérios propostos pelos membros do grupo para identificar a origem artificial das imagens. Percebemos que os membros do grupo desenvolvem habilidades específicas para distinguir imagens geradas por IA baseando-se tanto em critérios visuais internos (como glitches ou características típicas de imagens geradas por IA) quanto em critérios contextuais (como a plausibilidade histórica ou física da imagem). Esse processo de identificação não é apenas técnico, mas também social, refletindo um regime de competências construído coletivamente dentro do grupo.

Por fim, documentamos algumas das reações e adaptações dos usuários às regras de moderação, ilustrando a sua capacidade de inovar e contornar os constrangimentos impostos. A proibição das postagens found in the wild pelo grupo moderador em dezembro de 2023 representou um desafio metodológico significativo. No entanto, essa restrição também nos permitiu observar como os membros do grupo adaptaram suas práticas para continuar compartilhando e discutindo essas imagens.

 A discussão proposta nesse artigo procurou contribuir para os debates mais amplos sobre como comunidades online negociam e constroem significados em torno de novas tecnologias, mostrando como os membros do grupo estudado se apropriam e reinterpretam as ferramentas de IA de maneiras criativas. No entanto, considerando o rápido desenvolvimento das tecnologias de IA, podemos esperar que os critérios e métodos utilizados para discernir as imagens sintéticas mudem, mesmo dentro deste grupo específico. Além disso, o fato de estarmos expostos a uma enorme quantidade de imagens nas redes sociais, muitas das quais podem ser geradas por IA, mas nem sempre dedicarmos tempo a examiná-las em pormenor, acentua os desafios associados à detecção e verificação da autenticidade das imagens publicadas online. Essa proliferação de imagens impacta consideravelmente o modo como percebemos e interpretamos o mundo em torno de nós.

Referências

Bahrini, Aram et al. (2023, 27-28 abr.). ChatGPT: Applications, opportunities, and threats [Artigo apresentado em simpósio]. IEEE – Systems and Information Engineering Design Symposium, Charlottesville, VA, EUA. https://doi.org/10.48550/arXiv.2304.09103

Bardin, Laurence. (1977). L’analyse de contenu. PUF.

Barthes, Roland. (1980). La chambre claire : Note sur la photographie. Gallimard.

Benjamin, Walter. (2013). La théorie de la ressemblance. In P. Lavelle (org.), Walter Benjamin (pp. 120-122). L’Herne.

Bommasani, Rishi et al. (2021). On the opportunities and risks of foundation models. arXiv, arXiv:2108.07258. https://doi.org/10.48550/arXiv.2108.07258

Borji, Ali. (2023). Qualitative failures of image generation models and their application in detecting deepfakes. Image and Vision Computing, 137. https://doi.org/10.1016/j.imavis.2023.104771

Braşoveanu, Adrian M., & Andonie, Rǎzvan. (2020, 7-11 set.). Visualizing transformers for NLP: A brief survey [Artigo apresentado em congresso]. 24th International Conference Information Visualisation (IV), Melbourne. https://doi.ieeecomputersociety.org/10.1109/IV51561.2020.00051

Geertz, Clifford. (1989). A interpretação das culturas. LTC.

Ginzburg, Carlo. (1989). Mitos, emblemas, sinais: morfologia e história. Companhia das Letras.

Dika, Khaled. (2020).  L’affaire Loomis : les fantômes de Descartes et de Grotius à l’assaut de la justice ? Archives ouvertes HAL, preprint, hal-02566382. https://hal.science/hal-02566382

Farid, Hany. (2009). Photo fakery and forensics. In M. Zelkowitz (ed.), Advances in Computers (Vol. 77, pp.1-55). https://doi.org/10.1016/S0065-2458(09)01201-7

Ferrer, Josep. (2024). How transformers work: A detailed exploration of transformer architecture. Datacamp. https://www.datacamp.com/tutorial/how-transformers-work

Ferrara, Emilio. (2024). GenAI against humanity: Nefarious applications of generative artificial intelligence and large language models. Journal of Computational Social Science, 7, 549-569. https://doi.org/10.1007/s42001-024-00250-1

Gombrich, Ernst Hans. (2000). Art and illusion: A study in the psychology of pictorial representation. Princeton University Press.

Harwell, Drew. (2022). He used AI to win a fine-arts competition. Was it cheating? The Washington Post. https://www.washingtonpost.com/technology/2022/09/02/midjourney-artificial-intelligence-state-fair-colorado/

Ingold, Timothy. (2010). Da transmissão de representações à educação da atenção. Educação, 33 (1), 6-25.

Lamri, Jeremy, Tertrais, Gaspard, & Silver, Aurora. (2023). Travailler à l'ère des IA génératives. EMS Editions.

Lin, Li et al. (2024). Detecting multimedia generated by large ai models: A survey. arXiv, preprint, arXiv:2402.00045. https://doi.org/10.48550/arXiv.2402.00045

Machado, Arlindo. (1998). A fotografia sob o impacto da eletrônica. In E. Samain (org), O fotográfico (pp. 317-326). Hucitec-CNPq.

Martins, José de S. (2009). Sociologia da fotografia e da imagem. Contexto.

Menezes, Paulo. (2003). Representificação: as relações (im)possíveis entre cinema documental e conhecimento. Revista Brasileira de Ciências Sociais, 18 (51), 87-97. https://doi.org/10.1590/S0102-69092003000100007

Meunier, Alex, Ricci, Donato, Cardon, Dominique, & Crépel, Maxime. (2019). Les glitchs, ces moments où les algorithmes tremblent. Techniques & Culture, (72), 200-203.

Nightingale, Sophie J., & Farid, Hany. (2022). AI-synthesized faces are indistinguishable from real faces and more trustworthy. Proceedings of the National Academy of Sciences, 119 (8), e2120481119. https://doi.org/10.1073/pnas.2120481119

Oppenlaender, Jonas. (2023). A taxonomy of prompt modifiers for text-to-image generation. Behaviour & Information Technology, 1–14. https://doi.org/10.1080/0144929X.2023.2286532

Paillé, Pierre, & Mucchielli, Alex. (2021). L’analyse qualitative en sciences humaines et sociales. Armand Colin.

Porcile, Gonzalo, Gindi, Jack, Mundra, Shivansh, Verbus, James R., & Farid, Hany. (2024). Finding AI-generated faces in the wild. arXiv, arXiv:2311.08577. https://arxiv.org/abs/2311.08577

Radio-Canada. (2023, 6 set.). IA : la fausse chanson de Drake et The Weeknd tente sa chance pour les Grammy. Radio-Canada. https://ici.radio-canada.ca/nouvelle/2008492/heart-on-my-sleeve-drake-the-weeknd-ghostwriter-intelligence-artificielle-prix-grammy

Santaella, Lucia. (1998). Os três paradigmas da imagem In E. Samain (org), O fotográfico (pp. 303-316). Hucitec-CNPq.

Segalen, Victor. (1995). Essai sur l’exotisme, une esthétique du divers. Bibliothèque artistique et littéraire.

Sontag, Susan. (1973). On photography. RosettaBooks.

Steinfeld, Kyle. (2023). Clever little tricks: A socio-technical history of text-to-image generative models. International Journal of Architectural Computing, 21 (2), 211-241. https://doi.org/10.1177/14780771231168230

Suresh, Harini, & Guttag, John. (2021, out.). A framework for understanding sources of harm throughout the machine learning life cycle [Artigo apresentado em congresso]. ACM Conference on Equity and Access in Algorithms, Mechanisms, and Optimization, Nova York. https://doi.org/10.1145/3465416.3483305

Tsing, Anna, Deger, Jennifer, Saxena, Alder K., & Zhou, Feifei. (2020). Feral Atlas.The More-than-Human Anthropocene. Stanford University Press.  https://feralatlas.org/

Wang, Tricia. (2013, 13 maio). Big data needs thick data. Ethnography Matters. disponível em http://ethnographymatters.net/blog/2013/05/13/big-data-needs-thickdata/

Weidinger, Laura et al. (2022, 21-24 jun.). Taxonomy of risks posed by language models [Artigo apresentado em congress]. ACM Conference on Fairness, Accountability, and Transparency, Seul. https://doi.org/10.1145/3531146.3533088

Wenger, Etienne. (2010). Communities of practice and social learning systems: The career of a concept. In C. Blackmore (org.), Social learning systems and communities of practice (pp. 179-198). Londres: Springer.

Notas

Notas de autor

krischke_leitao.debora.2@uqam.calandrys.fitiavanjanahary_daniella@courrier.uqam.ca