As pessoas já estão tentando fazer com que o ChatGPT escreva malware

O chatbot de IA do ChatGPT criou muita empolgação no curto período em que esteve disponível e agora parece ter sido recrutado por alguns em tentativas de gerar códigos maliciosos.

ChatGPT é uma ferramenta de processamento de linguagem natural conduzida por inteligência artificial que interage com os usuários de forma conversacional e semelhante ao humano. Entre outras coisas, pode ser usada para ajudar em tarefas como composição de e-mails, ensaios e códigos.

Também: O que é o ChatGPT e por que ele é importante? O que você precisa saber

A ferramenta de chatbot foi lançada pelo laboratório de pesquisa em inteligência artificial OpenAI em novembro e gerou grande interesse e discussão sobre como a IA está se desenvolvendo e como ela poderia ser usada no futuro.

Mas como qualquer outra ferramenta, nas mãos erradas pode ser usada para fins nefastos; e pesquisadores de cibersegurança da Check Point afirmam que usuários de comunidades clandestinas de hackers já estão experimentando como o ChatGPT pode ser usado para ajudar a facilitar ataques cibernéticos e apoiar operações maliciosas.

"Atores de ameaças com muito pouco conhecimento técnico - até mesmo zero conhecimento técnico - podem ser capazes de criar ferramentas maliciosas. Isso também pode tornar as operações diárias de cibercriminosos sofisticados muito mais eficientes e fáceis - como criar diferentes partes da cadeia de infecção", disse Sergey Shykevich, gerente de grupo de inteligência de ameaças da Check Point ao ZDNET.

Os termos de serviço da OpenAI especificamente proíbem a geração de malware, que ela define como "conteúdo que tenta gerar ransomware, keyloggers, vírus ou outro software destinado a impor algum nível de dano". Também proíbe tentativas de criar spam, bem como casos de uso destinados a cibercrime.

No entanto, a análise da atividade em vários fóruns de hackers subterrâneos sugere que os criminosos cibernéticos já estão usando ChatGPT para desenvolver ferramentas maliciosas - e, em alguns casos, já está permitindo que criminosos cibernéticos de baixo nível, sem habilidades de desenvolvimento ou codificação, criem malware.

Também: O assustador futuro da internet: como a tecnologia do amanhã representará ameaças ainda maiores à cibersegurança

Em um tópico de fórum que apareceu no final de dezembro, o autor descreveu como estava usando o ChatGPT para recriar cepas de malware e técnicas descritas em publicações de pesquisa e descrições sobre malware comum.

Ao fazer isso, eles conseguiram criar um malware de roubo de informações baseado em Python que procura por arquivos comuns, incluindo documentos do Microsoft Office, PDFs e imagens, copia-os e os envia para um servidor de transferência de arquivos.

O mesmo usuário também demonstrou como havia usado o ChatGPT para criar malware baseado em Java, que usando o PowerShell, podia ser usado para baixar e executar secretamente outros malwares em sistemas infectados.

Os pesquisadores observam que o usuário do fórum que criou esses tópicos parece ser "orientado para a tecnologia" e compartilhou as postagens para mostrar aos cybercriminosos menos capazes tecnicamente como utilizar ferramentas de AI para fins maliciosos, com exemplos reais de como pode ser feito.

Um usuário postou um script em Python que, segundo ele, foi o primeiro script que criou. Após uma discussão com outro membro do fórum, eles disseram que ChatGPT os ajudou a criá-lo.

Análises do código sugerem que ele foi projetado para criptografar e descriptografar arquivos, algo que com algum trabalho, poderia se transformar em um ransomware, o que potencialmente abre a possibilidade de criminosos cibernéticos de baixo nível desenvolverem e distribuírem suas próprias campanhas de extorsão.

"Todas as codes mencionadas acima podem, é claro, ser usadas de maneira inofensiva. No entanto, este script pode ser facilmente modificado para criptografar completamente a máquina de alguém sem qualquer interação do usuário. Por exemplo, pode potencialmente transformar a code em ransomware se os problemas de script e sintaxe forem corrigidos", disse a Check Point.

"Será necessário fazer algumas melhorias no código e na sintaxe, mas, conceitualmente, quando estiver em funcionamento, esta ferramenta pode executar ações semelhantes às do ransomware", disse Shykevich.

Também: Cibersegurança: Estas são as novas coisas para se preocupar em 2023

Mas não é apenas o desenvolvimento de malware o que os criminosos cibernéticos estão experimentando com o ChatGPT. Na véspera de Ano Novo, um membro do fórum subterrâneo postou um tópico demonstrando como eles usaram a ferramenta para criar scripts que poderiam operar um mercado escuro automatizado na web para comprar e vender detalhes de contas roubadas, informações de cartão de crédito, malware e muito mais.

O criminoso cibernético até exibiu um pedaço de código que foi gerado usando uma API de terceiros para obter preços atualizados das criptomoedas Monero, Bitcoin e Ethereum como parte de um sistema de pagamento para um mercado na dark web.

É difícil dizer se a atividade cibernética maliciosa gerada com a ajuda do ChatGPT está funcionando ativamente no mundo virtual, pois, como Sykevich explica, "do ponto de vista técnico, é extremamente difícil saber se um malware específico foi escrito usando o ChatGPT ou não".

Mas à medida que o interesse pelo ChatGPT e outras ferramentas de IA cresce, eles vão atrair a atenção de criminosos cibernéticos e fraudadores que procuram explorar a tecnologia para ajudar a conduzir campanhas maliciosas com baixo custo e com o mínimo esforço necessário. O ZDNET entrou em contato com a OpenAI para comentar, mas ainda não recebeu uma resposta até o momento da publicação.