O programa Bug Bounty da OpenAI oferece até $ 20.000 para relatórios de bugs no ChatGPT

A OpenAI, empresa por trás do ChatGPT, lançou um desafio aberto para encontrar bugs em seu popular chatbot de IA (inteligência artificial). A empresa de inteligência artificial anunciou um Programa de Recompensas de Bugs com até $ 20.000 (cerca de £ 16.010,88) em recompensa para indivíduos que descobrirem bugs no bot de IA.

Notavelmente, a OpenAI colaborou com a plataforma de recompensas de bugs Bugcrowd para lançar o Programa de recompensas de bugs. A empresa pagará US$ 200 pela descoberta de bugs de baixa gravidade. Da mesma forma, você pode ganhar $ 20.000 para descobertas de bugs excepcionais. Enquanto isso, a OpenAI não poupa esforços para melhorar seu procurado bot de IA, o ChatGPT.

Agora, a OpenAI instou a comunidade global de hackers éticos, entusiastas de tecnologia e pesquisadores de segurança a levar seu bot de IA ao limite. A empresa espera que esse processo ajude a descobrir vulnerabilidades. Isso é compreensível, visto que esses chatbots podem continuar ganhando popularidade no futuro. Então, eles têm que ser bem projetados.

Programa de recompensas de bugs da OpenAI

Apesar de adotar tecnologia avançada, o ChatGPT ainda está sujeito a bugs e uma série de outras falhas. A OpenAI acredita que "transparência e colaboração" desempenham um papel vital na abordagem dessa realidade. A empresa espera incentivar mais pessoas a participarem do programa oferecendo recompensas para quem descobrir bugs. Não há prêmios para adivinhar que os cibercriminosos podem se aproveitar dessas falhas para enganar os internautas.

Por exemplo, os golpistas estão usando chatbots semelhantes ao ChatGPT para criar e-mails de phishing com aparência confiável. Na verdade, a empresa teve que desligar temporariamente seu chatbot de IA depois que um bug permitiu que alguns usuários acessassem os históricos de bate-papo de outros usuários. Um porta-voz confirmou esse fragmento de informação à Bloomberg no mês passado. Este é um sinal importante de que identificar e lidar com vulnerabilidades é importante.

Além disso, a OpenAI pode estar prestes a enfrentar o primeiro processo de difamação do mundo sobre falsas alegações que o ChatGPT fez sobre o prefeito regional australiano Brian Hood. Os usuários do ChatGPT que descobriram bugs no software podem encontrar regras de engajamento no site BugCrowd . O site explica o processo de relatar vulnerabilidades descobertas.

Que tipo de bugs você pode relatar?

Além disso, a página explica quais problemas provavelmente não receberão recompensas monetárias. Aparentemente, alguns problemas, como fazer com que o bot de IA diga coisas ruins, estão fora do escopo. Da mesma forma, fazer com que o modelo de IA "finge dar respostas a segredos" não pode ser relatado por meio do Bugcrowd. Além disso, obter o modelo "para lhe dizer como fazer coisas ruins" não conta.

Você pode fazer com que o ChatGPT responda a algumas perguntas proibidas, mas também não valerá uma recompensa. A empresa declarou explicitamente que os métodos que afetam a experiência geral do usuário estão "fora dos limites". Além disso, os usuários só podem relatar bugs de suas próprias contas por uma questão de segurança. Se os chatbots forem uma parte importante da Internet, eles precisam sobreviver a ataques de usuários que tentam quebrá-la.

Notavelmente, os programas de recompensa de bugs ganharam popularidade nos últimos anos. Gigantes da tecnologia como Meta, Microsoft e Google oferecem programas semelhantes, projetados para incentivar os pesquisadores de segurança a relatar vulnerabilidades de segurança em um produto de software. O programa Bug Bounty da OpenAI é uma abordagem proativa em termos de identificação e correção de vulnerabilidades no sistema do ChatGPT.

Isso também é uma indicação de que a empresa deseja proteger os dados de seus usuários e manter seu software seguro. A OpenAI considera a segurança importante e a reconhece como um esforço colaborativo. Em consonância com isso, a empresa convidou a comunidade de pesquisa de segurança para participar de seu Programa Bug Bounty. Além disso, a OpenAI está contratando pessoas para garantir que seu chatbot de IA seja seguro.

Você pode se candidatar para a função de Líder de Governança, Risco e Conformidade, Engenheiro de Segurança, Detecção e Resposta e Engenheiro de Segurança, Ofensivo, acessando a página de carreiras da empresa .