imagem_computacao

A computação cognitiva, através de chatbots, pode apresentar riscos à segurança da informação?

Impulsionados pelo crescimento do mercado de mobile messaging, os chatbots — sistemas que utilizam computação cognitiva para simular um ser humano, respondendo automaticamente mensagens recebidas através de uma conversa — estão se tornando mais populares.

Esta solução tem sido adotada por diversas organizações para estabelecer uma relação mais próxima com os clientes, abrindo oportunidades para marketing, vendas e atendimento ao consumidor e trazendo muitos benefícios, como mais agilidade na prestação de serviços e repasse de informações.

No entanto, a utilização de chatbots também pode envolver alguns riscos e ameaças, aos quais precisamos estar sempre atentos para garantir que o canal de comunicação alcance seus objetivos.

A engenharia social, que pode ser definida como a arte de explorar a confiança das pessoas para obter informações ou executar uma ação maliciosa em nome do atacante¹, também pode ser aplicada nesse contexto.

Muitos usuários estão cientes dos cuidados necessários com e-mails, mas eles ainda precisam ser orientados em relação a redes sociais ou aplicativos de mensagens. O estudo de Jagatic, Johnson, Jakobsson e Menczer demonstrou que o contexto de uma rede social aumenta o sucesso de um ataque de phishing². Ações que auxiliam nessa identificação, como endereço de e-mail suspeito ou erros de escrita, não se aplicam quando se trata de redes sociais e aplicativos de mensagens; erros de digitação e palavras abreviadas, por exemplo, são considerados comuns. Por isso, o trabalho de conscientização do usuário é tão importante.

O chatbot é desenhado para ser amigável, tentando se aproximar da forma de conversar de um humano para estabelecer uma relação de confiança. Sem os cuidados e prevenções apropriadas da parte do gestor da plataforma de mensagens e do utilizador do bot, aumentam as chances de atacantes conseguirem que usuários disponibilizem informações sensíveis  ou cliquem em links que aparentemente estão no contexto da conversa, mas que podem conter um malware.

Outra questão que deve ser levada em consideração é que a utilização de inteligência artificial requer que uma rede neural seja treinada. Nesse contexto, é importante analisar a melhor forma de armazenamento dos dados vindos dos usuários do chatbot para serem utilizados para o treinamento, bem como estabelecer um controle de acesso a essas informações.

Como o desempenho do chatbot melhora à medida que é treinado com base nos dados vindos dos usuários, um atacante pode inserir dados para corromper a inteligência do chatbot, fazendo com que ele compreenda como verdadeiras informações falsas e prejudicando empresas e clientes. Um exemplo desse tipo de ataque ocorreu com a Tay, chatbot criado pela Microsoft para se passar por uma adolescente americana que interagia com os usuários através do Twitter. Em menos de 24 horas, sua inteligência artificial foi corrompida, passando a postar mensagens ofensivas.

Esse tipo de ataque pode por em risco a imagem de uma organização. Por isso, um acompanhamento cuidadoso das interações realizadas com o bot pode não apenas aprimorá-lo mas detectar esse risco e preveni-lo antes que cause maiores consequências.

A utilização de chatbots está aumentando a cada dia e, como comentamos, existem ameaças com relação à segurança da informação. Apesar da tecnologia ser absolutamente intuitiva e bastante útil para empresas e pessoas, é importante para o criador de um chatbot conhecer esses riscos, tanto para orientar os usuários quanto para implementar ações eficazes para prevenir esses ataques.

O que você achou desse post? Deixe sua opinião aqui nos comentários!

 

Referências
BI Intelligence. Messaging apps are now bigger than social networks. BI Intelligence. set. 2016. Disponível em:< http://www.businessinsider.com/the-messaging-app-report-2015-11> Acesso em: 5 nov. 2016.
¹HUBER, Markus; KOWALSKI, Stewart; NOHLBERG, Marcus; TJOA, Simon. 2009. Towards Automating Social Engineering Using Social Networking Sites. Proceedings of the 2009 International Conference on Computational Science and Engineering – Volume 03 (CSE ’09), Vol. 3. IEEE Computer Society, Washington, DC, USA, 117-124.
²JAGATIC, Tom; JOHNSON, Nathaniel; JAKOBSSON, Markus; MENSZER, Filippo. Social Phishing. Indiana University, Bloomington. December 12, 2005
³MANN, David. How to kill a bot with 10 http requests. 2016. Disponível em: < https://chatbotsmagazine.com/how-to-kill-a-bot-with-10-http-requests-ca7eb57c2ad1#.ck8mppgm9> Acesso em: 30 nov. 2016.
NUNES, Samantha. COMPUTAÇÃO COGNITIVA NO ÂMBITO CORPORATIVO: uma perspectiva em segurança da informação. December 2016

Samantha Nunes

Analista de QA

LinkedIn

 

 

 

 

 

 

 

 

Leia mais:

Chatbots e a importância do contexto

Aprendendo a testar chatbots

Os 3 níveis de um quebra-cabeça de chatbots

Comments (2)

Deixe uma resposta

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Share This
Navegação