IA e a morte do real

Desde a introdução do ChatGPT em novembro de 2022, o desenvolvimento da modelagem de inteligência artificial (IA) tornou-se uma fonte de debate considerável sobre seu potencial de revolucionar a maneira como interagimos com a tecnologia e nossa compreensão do que significa ser humano. Pode-se argumentar que esse debate atingiu seu apogeu com o lançamento de uma carta de signatário de importantes indivíduos do setor de tecnologia em março, pedindo uma pausa na experimentação gigante de IA.

No entanto, o cavalo está fora do celeiro proverbial com muitos campos saudando a IA como uma tecnologia transformadora que dará início a uma nova era de progresso e inovação. No entanto, uma questão igualmente importante e amplamente negligenciada é como a modelagem de IA afetará nossa compreensão da própria realidade.

Foi o sociólogo pós-moderno Jean Baudrillard quem primeiro alertou sobre como a tecnologia estava cada vez mais obscurecendo a distinção entre a vida real e a realidade simulada. Em 1981, Baudrillard publicou " Simulacra and Simulation ", no qual introduziu o conceito de "hiper-realidade". Segundo Baudrillard, a sociedade contemporânea é um mundo de predominância simbólica, onde imagens e signos substituíram "o real", tornando cada vez mais tênues as fronteiras entre "realidade" e "simulação", a ponto de se tornarem quase indistinguíveis.

Baudrillard sustentou que essa "hiperrealidade" de imagens, simulações e símbolos são separados de seus referentes originais e ganharam vida própria. Ele alertou para a criação de uma nova realidade, mais "real" do que a própria realidade. Isso importava para Baudrillard porque ele acreditava que a intensificação da hiper-realidade leva à perda de significados compartilhados e à dissolução dos valores tradicionais. O que resta é um mundo onde "o real" não é mais distinguível do simulado. As pessoas se tornam consumidores passivos de imagens e símbolos, em vez de participantes ativos da realidade. A hiper-realidade exemplifica uma forma de alienação social e cultural, onde as pessoas são desligadas do mundo real e umas das outras.

Se Baudrillard estivesse vivo, é seguro dizer que ele poderia argumentar que a ascensão dos modelos A representa o auge da confusão histórica entre o real e o hiper-real. Por exemplo, os modelos de IA envolvem a criação de uma realidade simulada. Esta simulação é criada através de algoritmos e processamento de dados. Assim como a concepção original de hiper-realidade de Baudrillard, que se baseava na proliferação de símbolos por meio da produção e consumo da cultura de massa, os modelos de IA envolvem uma proliferação análoga de uma realidade simulada por meio do processamento e reprodução de grandes quantidades de dados. Nesse sentido, ambos podem levar a uma sensação de alienação ou distanciamento da realidade.

As preocupações de Baudrillard sobre a substituição do "real" pela hiper-realidade imitam preocupações semelhantes feitas sobre os modelos de IA no presente. Embora os modelos de IA dependam da digestão de informações do mundo real, existe, no entanto, o potencial dos algoritmos para criar uma simulação separada da realidade.

Atualmente, modelos de IA como ChatGPT e DALL-E2 estão gerando textos e imagens facilmente acessíveis e cada vez mais realistas, onde os limites entre o real e o simulado são cada vez mais difíceis de distinguir. À medida que nos tornamos mais dependentes da IA, corremos o risco de perder contato com as qualidades fundamentais que nos tornam humanos – nossa criatividade, intuição e inteligência emocional. Em vez disso, dependemos cada vez mais de máquinas para tomar decisões por nós, para interpretar o mundo ao nosso redor e até mesmo para criar novas formas de arte e cultura.

O que a IA, juntamente com a proliferação anterior de plataformas de mídia social, está fazendo é aumentar nossa experiência do mundo por meio de telas e simulações, em vez de experiência direta ou nossa própria construção. Isso aumenta nossa ausência de significados compartilhados e encoraja um maior afastamento da realidade.

A IA representa uma forma emergente de produção de hiper-realidade porque tem a capacidade de criar e manipular imagens, sons e outras representações digitais de uma forma que confunde a linha entre realidade e simulação. A IA pode aprender a imitar o estilo, o tom e a linguagem da comunicação humana, levando-a a gerar conteúdo original indistinguível daquele criado pelo homem.

Além disso, a IA tem o potencial de criar uma nova forma de hiper-realidade em que as máquinas não apenas geram conteúdo, mas também o interpretam e organizam. À medida que a IA se torna mais sofisticada, ela pode aprender a analisar o comportamento, as preferências e as crenças humanas e usar essas informações para moldar as informações que vemos e com as quais interagimos. Isso tem o potencial de criar um mundo no qual nossas interações com a tecnologia são mediadas por representações hiper-reais separadas da realidade real.

Tecnologias adjacentes à IA, como realidade virtual e aumentada, já estão criando ambientes hiper-reais que simulam experiências do mundo real. Essas tecnologias podem criar uma sensação de imersão e presença que é difícil distinguir da realidade real, levando a uma maior indefinição das fronteiras entre os mundos real e simulado. Por exemplo, um relatório recente de Stanford documenta um aumento acentuado no número de incidentes de uso indevido de IA vinculados ao objetivo de espalhar desinformação.

Atualmente, os defensores da modelagem de IA argumentam que seus pontos fortes serão a sensação resultante de conveniência e eficiência que eles podem oferecer a seus usuários. Os modelos de IA são capazes de automatizar muitas tarefas, desde tentativas de dirigir até atendimento ao cliente. Argumenta-se que a IA será capaz de realizar essas tarefas com muito mais rapidez e precisão do que os humanos. À medida que a IA se torna mais sofisticada, ela pode ser usada para tomar decisões sobre tudo, desde cuidados de saúde até finanças pessoais.

A integração desses aplicativos em vários aspectos de nossas vidas aumenta nossa hiper-realidade criando um mundo mediado por simulações e modelos digitais. Tais modelos, por sua própria natureza, são projetados para tomar decisões com base em padrões e dados. Isso pode resultar em um nivelamento do esplendor e da complexidade que é a experiência humana. Essa perda das nuances e sutilezas da interação humana pode promover uma sensação de alienação e uma crescente divisão dos outros.

Já existe a preocupação de que uma futura dependência de modelos de IA reforce e replique as desigualdades sociais existentes, pois os modelos de IA são treinados em grandes conjuntos de dados que se manifestam a partir de preconceitos e desigualdades sociais existentes. Além disso, a crescente dependência de modelos de IA nos processos de tomada de decisão aumentará ainda mais a diminuição da agência e autonomia humanas. A crescente dependência de processos algorítmicos para a tomada de decisões enfraquece a necessidade de os indivíduos exercerem seu próprio julgamento, o que aumenta a sensação de impotência e privação de direitos, à medida que nos tornamos cada vez mais sujeitos aos caprichos dos algoritmos.

À medida que a IA se torna mais difundida em nossas vidas, é importante lembrar que a IA é tão boa quanto os dados nos quais é treinada e não é capaz de empatia, criatividade ou pensamento crítico como os humanos. À medida que a IA se torna melhor em prever nosso comportamento e desejos, ela também se torna mais capaz de nos manipular para obter ganhos comerciais ou políticos. É importante mantermos uma visão clara do potencial da IA. No entanto, devemos reconhecer que nossa relação com a tecnologia não é neutra e que as escolhas que fazemos sobre como a usamos têm profundas implicações. A morte do "real" não é uma inevitabilidade, mas certamente é um desafio a ser enfrentado de frente.

(Professor Kent Bausman de sociologia na Universidade de Maryville e membro do corpo docente colaborador de seu Programa de Sociologia Online .)