14/03/2023
Atualmente, modelos que usam inteligência artificial (IA) tem se tornado populares ferramentas no dia a dia e para produtividade. Podem ser leitores de texto, criadores de narrações para podcasts e editores de imagem.
Recentemente, um artigo de Robert Lemos para o site DARKReading citou que dados confidenciais protegidos por privacidade foram fornecidos por colaboradores de empresas para grandes modelos de linguagem (LLMs), como o ChatGPT, e essas informações poderiam ser acessadas, caso houvesse uma pesquisa direcionada.
O artigo relata dois casos. Um executivo que recortou e colou no ChatGPT um documento de estratégia de negócios da empresa para 2023 e pediu que ele criasse uma apresentação em PowerPoint.
O outro foi um médico, que inseriu o nome de seu paciente e sua condição médica e pediu ao ChatGPT para redigir uma carta para a companhia de seguros do paciente.
Modelos LLM's podem usar os dados fornecidos pelos usuários e "aprender" com eles. Nesse caso, esse relatório confidencial e os dados do paciente (que são informações pessoais sensíveis), podem ser armazenados pela máquina e revelado a outros numa futura pesquisa.
Com isso, podemos considerar que, apesar de ferramentas com IA serem muito úteis, devemos refletir até que ponto devemos confiar ou expor informações nessas plataformas?
O primeiro risco associado a plataformas com IA é a confiabilidade e escopo das informações.
Deve-se confiar, por exemplo, a criação de políticas de segurança da empresa na mão do robô? Será que ele teria condições de avaliar a cultura, o contexto, o nível de ameaça e a maturidade de SI do negócio?
Certamente não. Isso poderia gerar um documento fraco, cheio de brechas e problemas de segurança, além de provavelmente ter que revelar informações internas da política da sua empresa, que poderiam ficar na base de dados da AI. Essa base poderia ser acessada de forma intencional por um agente malicioso externo através de perguntas específicas.
Um segundo ponto é a abundância de ferramentas lançadas que utilizam IA. Os hackers maliciosos estão se aproveitando do entusiasmo com o avanço da tecnologia para disseminar sites e links falsos, com a intenção de roubar dados ou instalar malwares.
Uma terceira questão levantada seria o riscos de usar plataformas de reputação duvidosa.
Similarmente ao anterior, a ferramenta escolhida pode até ser uma interface com solução AI, mas se não for de boa reputação, ela pode coletar dados indevidos ou até mesmo ser fonte de spywares ou malwares.
Por isso, como usar essas ferramentas de forma segura e sem comprometer seus dados?
