Shadow AI: O uso indiscriminado da Inteligência Artificial

Nos últimos anos, a ascensão da inteligência artificial generativa (IA) trouxe consigo uma enxurrada de ferramentas prometendo facilitar uma infinidade de tarefas laborais, o que em uma primeira análise, é excelente Este movimento, porém, traz à tona um paralelo com um fenômeno conhecido como Shadow IT.

Antes de falarmos de Shadow AI, vamos entender a origem do termo “Shadow IT”, onde funcionários utilizam serviços não autorizados ou desconhecidos pela empresa para otimizar suas atividades diárias, ou ainda, empregadores implementam serviços que, não monitorados, acabam caindo no vale do esquecimento, de maneira que sua mera existência pode comprometer a segurança de toda uma empresa.

Com isso em mente, o conceito de Shadow IA, consiste no fato de que colaboradores, em busca de maior eficiência, adotam aplicativos de IA sem a aprovação explícita da organização, ou, da mesma forma que anteriormente citado, empresas implementam soluções tecnológicas de inteligência artificial de maneira indiscriminada, desconsiderando os riscos que estas podem trazer, em detrimento da crença do aumento de produtividade.

Ambos os fenômenos são impulsionados pelo desejo de aumento de produtividade por parte dos colaboradores. Porém a falta de políticas claras por parte das empresas para regulamentar o uso dessas tecnologias cria uma potencial exposição a riscos de segurança cibernética devido à falta de controle e supervisão.

A velha disputa: Praticidade x Segurança

Enquanto a Shadow IT tradicionalmente envolve o uso de serviços e aplicativos externos, a Shadow IA refere-se especificamente à adoção de ferramentas de IA generativa para os mais variados fins, às quais hoje já contam com mais de 12.000 opções dos mais variados tipos.

Desde criação de avatares, conversão de arquivos, geração de roteiros de campanhas de marketing, até a integração com repositórios de desenvolvimento, dando inclusive acesso a essas ferramentas a chaves de acesso a áreas que devem possuir um nível alto de controle de acesso devido à importância dos dados lá contidos.

A complexidade técnica e os riscos associados podem ser mais acentuados na Shadow IA devido à natureza dos algoritmos de IA e ao potencial para manipulação de dados sensíveis, uma vez que a rápida proliferação de aplicativos de IA generativa supera a capacidade das empresas de controlá-los efetivamente.

Isso é evidenciado pelo fato de que muitos funcionários estão recorrendo a essas ferramentas sem a aprovação ou conhecimento de seus empregadores, ou ainda, empregadores adotando essas ferramentas sem a devida validação.

Quanto vale correr riscos em nome da produtividade?

A maioria desses aplicativos são derivados do ChatGPT, porém, com menos salvaguardas de segurança. E isso levanta preocupações sobre a privacidade e a proteção de dados corporativos, especialmente quando os funcionários carregam arquivos sensíveis para essas plataformas, por exemplo de como são tratados os dados enviados para ferramenta ao escanear um PDF, converter arquivos ou conectar serviços através de APIs.

Em uma época onde se fala muito sobre proteção e privacidade de dados, e com o advento de legislações como GDPR e LGPD, dentre outras, é necessário que as empresas adotem políticas claras e salvaguardas de segurança para lidar com o uso de ferramentas de IA generativa no ambiente de trabalho.

Os empregadores devem investir em programas de conscientização para educar os funcionários sobre os riscos que a Shadow IA pode proporcionar, e promover o uso responsável dessas tecnologias, bem como empregar de forma consciente o seu uso, avaliando as suas a forma como cada ferramenta trata os seus dados.

Visar estar sempre em compliance com regulações legais, não deve ser por mero cumprimento de requisitos, mas, uma vez alinhado com a legislação, também é uma forma de chancelar que se está em um nível de maturidade e segurança relativamente adequado.

Além disso, as empresas precisam implementar medidas de segurança robustas, como políticas de privacidade claras, revisões regulares de conformidade e o uso de autenticação multifator, para mitigar os riscos de segurança cibernética associados à Shadow IA.

Conclusão

Em última análise, uma abordagem equilibrada que combine educação, políticas claras e medidas de segurança eficazes para gerenciar os riscos e aproveitar os benefícios potenciais da adoção de ferramentas de IA generativa no local de trabalho, de maneira a aumentar a produtividade sem colocar em risco a segurança da empresa.

A Overnine oferece várias soluções de segurança para o seu ambiente. Caso tenha ficado com alguma dúvida ou busca uma solução robusta de segurança para seu ambiente, entre em contato conosco que estaremos prontos para lhe atender.

Clique aqui para ver outras matérias.