ChatGPT, um chatbot que utiliza técnicas de aprendizagem profunda para gerar texto e conversas que podem convencer basicamente qualquer pessoa de que foi escrito por uma pessoa real.
É agora possível utilizar um chatbot artificial disponível publicamente para gerar uma cadeia de infeção completa, possivelmente a começar com um e-mail de phishing de lança escrito em linguagem totalmente convincente, semelhante à humana, e eventualmente causar uma aquisição completa dos sistemas informáticos de uma empresa.
Os investigadores da Checkpoint criaram recentemente um e-mail de phishing tão plausível como um teste. Utilizaram apenas ChatGPT, um chatbot que utiliza técnicas de aprendizagem profunda para gerar texto e conversas que podem convencer basicamente qualquer pessoa de que foi escrito por uma pessoa real.
Na realidade, existem muitos perigos potenciais de cibersegurança envolvidos nesta impressionante tecnologia desenvolvida pela OpenAI e atualmente disponível online gratuitamente.
Aqui estão apenas alguns deles:
- Engenharia social: O poderoso modelo de linguagem ChatGPT pode ser utilizado para gerar mensagens de phishing realistas e convincentes, facilitar para os atacantes enganar as vítimas para que forneçam informações sensíveis ou descarregar malware.
- Engano: A geração de texto através dos modelos de linguagem do ChatGPT permite aos atacantes criar anúncios falsos, listagens e muitas outras formas de material de scamming.
- Personificação: O ChatGPT pode ser utilizado para criar uma cópia digital convincente do estilo de escrita de um indivíduo, permitir aos atacantes fazer-se passar pelo seu alvo numa configuração baseada em texto, tal como num e-mail ou mensagem de texto.
- Automatização de ataques: ChatGPT pode também ser utilizado para automatizar a criação de mensagens maliciosas e e-mails de phishing, tornar possível aos atacantes lançar ataques em grande escala de forma mais eficiente.
- Spamming: O modelo linguístico pode ser aperfeiçoado para produzir grandes quantidades de conteúdos de baixa qualidade, que podem ser utilizados numa variedade de contextos, incluindo como comentários de spam nos meios de comunicação social ou em campanhas de spam por correio eletrónico.
Todos os cinco pontos acima são ameaças legítimas às empresas e a todos os utilizadores da Internet que só se tornarão mais prevalecentes à medida que o OpenAI continuar a treinar o seu modelo.
Se a lista conseguiu convencê-lo, a tecnologia teve êxito no seu objetivo, embora neste caso não com intenção maliciosa.
Todo o texto dos pontos um a cinco foi de facto escrito pelo ChatGPT com ajustes mínimos para maior clareza. A ferramenta é tão poderosa que pode identificar de forma convincente e formular os seus próprios perigos inerentes à cibersegurança.
Contudo, há medidas mitigadoras que indivíduos e empresas podem tomar, incluindo a formação de sensibilização para a segurança nas novas escolas. O cibercrime está em movimento à velocidade da luz. Há alguns anos, os cibercriminosos costumavam especializar-se em roubo de identidade, mas agora tomam conta da rede da sua organização, invadem as suas contas bancárias e roubam dezenas ou centenas de milhares de dólares.
Uma plataforma inteligente como o ChatGPT pode ter sido criada com as melhores intenções, mas apenas aumenta o fardo dos utilizadores da Internet para se manterem sempre vigilantes, confiarem nos seus instintos e conhecerem sempre os riscos envolvidos em clicar em qualquer ligação ou em abrir um anexo.