Publicado em 1890, O Retrato de Dorian Gray, de Oscar Wilde, costuma ser lembrado como uma história sobre beleza, juventude e decadência moral. No entanto, a obra também pode ser interpretada como uma reflexão sobre algo ainda mais profundo: o desejo humano de separar a aparência das consequências de seus atos.
Dorian Gray permanece jovem, belo e aparentemente intocado pelo tempo. Enquanto isso, um retrato escondido absorve cada sinal de envelhecimento, corrupção e crueldade acumulado ao longo de sua vida.
Mais de um século depois, essa imagem encontra um paralelo inquietante na relação que estamos construindo com a tecnologia e, sobretudo, com a inteligência artificial. Assim como Dorian, desejamos os benefícios visíveis do progresso sem necessariamente encarar tudo aquilo que vai sendo transferido para uma espécie de retrato oculto: os impactos humanos, sociais, ambientais e morais produzidos pelos sistemas que criamos.
O desejo de permanecer perfeito
No início da história, Dorian Gray é retratado como um jovem impressionável, admirado por sua beleza e ainda pouco consciente do poder que essa beleza exerce sobre os outros.
Ao perceber que envelhecerá enquanto seu retrato permanecerá jovem, Dorian manifesta o desejo de que aconteça o contrário. Ele gostaria de conservar para sempre sua aparência e deixar que a pintura sofresse os efeitos do tempo em seu lugar.
Esse desejo não é tão diferente da promessa que acompanha boa parte da tecnologia contemporânea. Queremos máquinas que trabalhem por nós, sistemas que tomem decisões rapidamente, algoritmos que antecipem nossas preferências e inteligências artificiais capazes de escrever, programar, criar imagens, responder perguntas e realizar tarefas que antes exigiam esforço humano.
Buscamos velocidade, eficiência e conveniência. Desejamos eliminar erros, atrasos, limitações e até mesmo o desconforto de pensar profundamente sobre determinadas escolhas.
A tecnologia surge, assim, como uma maneira de preservar uma imagem idealizada de nós mesmos: mais produtivos, mais inteligentes, mais criativos e mais capazes do que realmente somos.
O problema começa quando a máquina não apenas amplia nossas capacidades, mas também passa a esconder nossas fragilidades.
A inteligência artificial como um retrato
A inteligência artificial pode ser comparada ao retrato de Dorian Gray não porque seja necessariamente maligna, mas porque tende a absorver características da sociedade que a criou.
Os sistemas de IA são treinados com enormes quantidades de textos, imagens, opiniões, comportamentos e decisões humanas. Neles estão presentes tanto o conhecimento, a criatividade e a capacidade de cooperação da humanidade quanto seus preconceitos, desigualdades, manipulações e contradições.
Quando uma inteligência artificial reproduz um estereótipo, apresenta uma informação falsa ou toma uma decisão injusta, ela pode estar revelando algo que preferiríamos não reconhecer em nós mesmos.
O retrato de Dorian não inventava sua corrupção. Apenas tornava visíveis as marcas de suas escolhas.
Da mesma forma, a inteligência artificial frequentemente não cria sozinha os problemas que manifesta. Ela os amplia, reorganiza e devolve à sociedade em uma escala muito maior.
A diferença é que, ao contrário da pintura escondida no sótão, os sistemas tecnológicos estão espalhados por empresas, escolas, redes sociais, governos e dispositivos pessoais. O retrato já não está guardado em um quarto secreto. Ele participa ativamente da vida pública.
A aparência de inteligência
Dorian Gray aprende a construir uma separação entre aquilo que demonstra ser e aquilo em que realmente se transforma.
Para as pessoas ao seu redor, ele continua jovem, elegante e admirável. Seu rosto não revela sua degradação interior. A aparência funciona como uma máscara, protegendo-o do julgamento social.
A inteligência artificial também pode produzir uma aparência extremamente convincente.
Um texto gerado por uma máquina pode parecer inteligente, mesmo quando contém erros. Uma voz artificial pode transmitir emoção sem sentir absolutamente nada. Uma imagem pode representar um acontecimento que nunca existiu. Um chatbot pode demonstrar atenção, empatia e segurança sem possuir consciência, experiência ou compreensão humana.
Essa capacidade de imitar comportamentos humanos cria uma nova dificuldade: passamos a confundir aparência com essência.
Uma resposta bem escrita pode parecer verdadeira. Uma imagem realista pode parecer uma prova. Uma voz acolhedora pode parecer uma relação humana. Um algoritmo eficiente pode parecer neutro ou justo.
Assim como os personagens da obra de Wilde julgam Dorian por sua aparência, nós também corremos o risco de julgar as tecnologias apenas pelos resultados que apresentam na superfície.
Quanto mais perfeita for a aparência da máquina, mais difícil poderá ser perceber aquilo que está sendo escondido por ela.
A perda gradual da responsabilidade
Um dos aspectos mais perturbadores da trajetória de Dorian é que sua transformação moral não acontece de uma única vez.
Ele não acorda repentinamente como uma pessoa completamente cruel. Sua humanidade vai sendo desgastada por pequenas decisões, justificativas e concessões. Como as consequências não aparecem em seu próprio rosto, ele sente que pode continuar agindo sem pagar o preço por seus atos.
Esse mecanismo também pode surgir na utilização da inteligência artificial.
Quando delegamos uma decisão a um sistema, torna-se fácil afirmar que foi o algoritmo que escolheu. Quando um conteúdo falso se espalha, os responsáveis podem dizer que apenas utilizaram uma ferramenta. Quando trabalhadores são substituídos, empresas podem apresentar o processo como uma consequência inevitável da inovação.
Pouco a pouco, a responsabilidade humana começa a desaparecer atrás da tecnologia.
No entanto, algoritmos não possuem consciência moral. Eles não sentem culpa, não compreendem sofrimento e não assumem responsabilidade pelas consequências de suas ações.
Toda decisão de criar, treinar, implementar ou utilizar uma inteligência artificial continua sendo uma decisão humana.
O perigo está em permitir que a tecnologia se transforme em uma espécie de retrato sobre o qual depositamos tudo aquilo que não queremos assumir.
O preço da conveniência
Dorian acredita que pode desfrutar da juventude eterna enquanto a pintura sofre em seu lugar. Porém, sua aparente liberdade possui um preço. Para manter sua imagem intacta, ele precisa esconder o retrato, afastar pessoas, alimentar mentiras e destruir qualquer elemento capaz de revelar sua verdadeira condição.
A conveniência tecnológica também pode cobrar preços que não aparecem imediatamente.
Um sistema automático pode economizar horas de trabalho, mas também pode reduzir a autonomia profissional. Uma plataforma pode aproximar pessoas distantes enquanto enfraquece relações presenciais. Uma inteligência artificial pode facilitar a produção de conteúdos, mas também pode tornar a criação mais padronizada e dependente de máquinas.
Quanto mais tarefas entregamos à tecnologia, maior se torna a necessidade de perguntar o que deixamos de exercitar.
Ao permitir que a inteligência artificial escreva constantemente por nós, podemos perder parte de nossa capacidade de organizar pensamentos. Ao delegar decisões, podemos enfraquecer nosso senso crítico. Ao substituir conversas humanas por interações artificiais, podemos tornar as relações mais práticas, mas também menos profundas.
A perda da humanidade provavelmente não acontecerá como uma grande ruptura dramática. Ela poderá ocorrer gradualmente, por meio de pequenas comodidades aceitas sem reflexão.
A tecnologia não é o verdadeiro vilão
Seria simplista afirmar que a inteligência artificial representa o retrato e que os seres humanos são apenas vítimas de sua influência.
No romance de Oscar Wilde, o retrato não obriga Dorian a fazer nada. Ele apenas registra suas decisões. A verdadeira causa de sua destruição está em sua recusa em assumir responsabilidade por aquilo que escolhe.
Da mesma maneira, a inteligência artificial não determina inevitavelmente o futuro da humanidade.
Ela pode auxiliar médicos, ampliar o acesso ao conhecimento, melhorar serviços públicos, ajudar pessoas com deficiência, automatizar trabalhos perigosos e apoiar descobertas científicas. Também pode ser usada para vigilância, manipulação, desinformação, concentração de poder e exploração econômica.
A diferença entre esses caminhos não depende exclusivamente da capacidade técnica das máquinas. Depende dos valores, limites e objetivos estabelecidos pelos seres humanos.
A pergunta principal não é apenas o que a inteligência artificial será capaz de fazer.
Precisamos perguntar quem decidirá o que ela fará, quem será beneficiado por suas decisões e quem pagará pelas consequências.
O medo de olhar para o retrato
Durante grande parte do romance, Dorian evita confrontar verdadeiramente a imagem que representa sua decadência.
Ele observa o retrato em alguns momentos, mas não utiliza aquilo como uma oportunidade de transformação. Em vez disso, tenta escondê-lo e destruí-lo. Sua maior preocupação não é recuperar sua humanidade, mas impedir que os outros descubram quem ele se tornou.
Existe um risco semelhante na discussão atual sobre tecnologia.
Muitas vezes, as críticas à inteligência artificial são tratadas como resistência ao progresso. Problemas éticos são apresentados como obstáculos que precisam ser superados rapidamente. Questões sobre emprego, privacidade, autoria, desigualdade e concentração de poder são colocadas em segundo plano diante da corrida pela inovação.
Agir dessa forma significa esconder o retrato no sótão.
Observar os impactos negativos da tecnologia não significa rejeitar o desenvolvimento tecnológico. Significa compreender que o verdadeiro progresso não pode ser medido apenas pela velocidade dos computadores, pelo tamanho dos modelos ou pela quantidade de tarefas automatizadas.
Uma sociedade tecnologicamente avançada também precisa ser capaz de reconhecer seus próprios limites e corrigir seus erros.
Preservar a humanidade em um mundo artificial
A maior lição de O Retrato de Dorian Gray talvez não seja uma condenação da beleza, do prazer ou da juventude. A obra mostra o perigo de desejar essas coisas sem aceitar responsabilidade, limite ou consequência.
O mesmo princípio pode ser aplicado à inteligência artificial.
Não precisamos abandonar a tecnologia para preservar nossa humanidade. Precisamos evitar que a tecnologia se transforme em um substituto para aquilo que nos torna humanos.
Pensar, criar, duvidar, errar, dialogar, sentir empatia e assumir responsabilidade são processos que não devem ser tratados apenas como ineficiências que precisam ser eliminadas.
A inteligência artificial pode aumentar nossas capacidades, mas não deve determinar sozinha nossos valores. Pode ajudar a produzir respostas, mas não deve eliminar nossa obrigação de fazer perguntas. Pode simular empatia, mas não deve substituir completamente o cuidado humano.
A questão não é impedir que as máquinas se pareçam cada vez mais conosco.
O verdadeiro desafio é impedir que, fascinados por sua perfeição aparente, sejamos nós que passemos a nos comportar cada vez mais como máquinas.
O retrato que ainda podemos transformar
Dorian Gray desejou separar sua aparência de suas consequências. Durante algum tempo, acreditou ter conseguido. Seu rosto permaneceu jovem, enquanto o retrato escondido carregava as marcas de tudo aquilo que ele não queria reconhecer.
A humanidade parece viver uma tentação semelhante.
Queremos inteligência sem esforço, produção sem demora, decisões sem incerteza e progresso sem consequências. Criamos sistemas capazes de absorver nossas tarefas, nossos dados, nossas palavras e, em certos casos, até mesmo nossas responsabilidades.
Porém, como no romance de Oscar Wilde, aquilo que escondemos não deixa de existir.
Cada preconceito reproduzido, cada trabalhador ignorado, cada relação substituída e cada decisão automatizada sem transparência acrescenta uma nova marca ao nosso retrato tecnológico.
A inteligência artificial poderá se tornar uma das maiores ferramentas já criadas pela humanidade. Mas isso dependerá de nossa disposição de olhar para o retrato, reconhecer o que ele revela e corrigir o rumo antes que a distância entre nossa aparência de progresso e nossa verdadeira condição humana se torne impossível de esconder.