ChatGPT
AI Chatbots agora são usados para criar relatórios falsos para sites novos e informativos. IBTimes UK

Os chatbots de IA, como o amplamente popular ChatGPT, foram usados para criar uma série de sites de notícias e informações. Um número considerável desses sites foi publicado este ano, graças à popularidade das ferramentas de IA entre o público. Em seu relatório publicado recentemente, o grupo de classificação de notícias NewsGuard levantou questões sobre como os criminosos podem usar essa tecnologia para aprimorar suas técnicas de fraude existentes.

Bots de IA do tipo ChatGPT foram usados para criar 49 sites de notícias, que foram analisados pela Bloomberg . Esses sites se apresentam como agências de notícias com nomes genéricos como Daily Business Post e News Live 79. Outros sites publicam conteúdo patrocinado ou oferecem dicas de estilo de vida e notícias sobre celebridades.

Curiosamente, nenhum desses sites reconhece que seu conteúdo é gerado com a ajuda de chatbots de IA como o ChatGPT da OpenAI ou provavelmente o Google Bard da Alphabet. Esses chatbots são capazes de gerar texto com base em solicitações simples do usuário.

Como os chatbots de IA são usados para gerar falácias para artigos publicados

O NewsGuard descobriu que os chatbots de IA criaram informações falsas para artigos que foram publicados nesses sites em várias ocasiões. Por exemplo, o CelebritiesDeaths.com compartilhou um artigo afirmando que o presidente dos EUA, Joe Biden, "faleceu pacificamente enquanto dormia" em abril. Uma reportagem do Yahoo News afirmou que o artigo falso também indicava que Biden havia sido sucedido pelo vice-presidente Kamala Harris.

Da mesma forma, outro site gerou um obituário para um arquiteto com detalhes falsos sobre seu trabalho e vida. Além disso, TNewsNetwork construiu uma história não verificada sobre milhares de soldados mortos na guerra Rússia-Ucrânia. Este relatório foi baseado em um vídeo do YouTube.

A maioria desses sites de baixa qualidade parecem ser fazendas de conteúdo desenvolvidas por fontes anônimas. Como esperado, eles pretendem criar postagens que gerem receita publicitária. O relatório NewsGuard diz que esses sites estão localizados em diferentes partes do mundo. Além disso, eles compartilham conteúdo em vários idiomas, incluindo tailandês, tagalo, português e inglês.

Como esses sites ganham dinheiro?

Alguns desses sites conseguem gerar receita anunciando "postagens de convidados". ScoopEarth.com e alguns outros sites não pouparam esforços para construir seguidores nas redes sociais. A página do ScoopEarth no Facebook tem 124.000 seguidores. Mais de 50% desses sites geram receita exibindo anúncios programáticos, que são comprados e vendidos automaticamente usando algoritmos.

Esse método de geração de receita representa um desafio para o Google, cuja tecnologia de anúncios gera receita para metade dos sites. Ironicamente, o bot de IA do gigante das buscas, Bard, pode ter sido usado para criar artigos para esses sites. Portanto, o co-CEO da NewsGuard, Gordon Crovitz, diz que a OpenAI, o Google e outras empresas por trás dos chatbots de IA devem ser cautelosos quando se trata de treinar seus modelos.

De acordo com Crovitz, ex-editor do Wall Street Journal, essas empresas devem impedir que seus modelos fabriquem notícias. Crovitz afirma ainda que "usar modelos de IA conhecidos por inventar fatos para produzir o que apenas parecem sites de notícias é fraude disfarçada de jornalismo". A OpenAI esclareceu anteriormente que usa revisores humanos e sistemas automatizados para evitar o uso indevido de seu bot.

Ainda assim, os cibercriminosos vêm criando novos métodos para explorar as ferramentas de IA. Por exemplo, a tecnologia de clonagem de voz AI foi usada recentemente em um golpe de sequestro nos EUA. Da mesma forma, os golpistas estão usando chatbots de IA para criar e-mails de phishing de aparência confiável. O porta-voz do Google, Michael Aciman, disse à Bloomberg que a empresa restringe a exibição de anúncios em conteúdo com spam ou plagiado de outros sites.

Além disso, Aciman explicou que o Google se concentra mais na qualidade do conteúdo do que no processo de criação do conteúdo quando se trata de aplicar suas políticas. Além disso, a empresa remove ou bloqueia imediatamente os anúncios se encontrar alguma violação. A gigante tecnológica americana removeu recentemente anúncios de alguns sites onde detectou violações generalizadas.