Chat IA nas empresas e como a TI tem lidado com isso

Olá,

Tenho visitado com certa frequência a plataforma do TABNEWS, porém somente como leitor. Então, criei coragem para fazer minha primeira interação com essa comunidade. Já agradeço, de antemão, pelo interesse nesta postagem! Espero que este conteúdo agregue algo tanto para você quanto para mim, pois acredito que este assunto já vem sendo discutido há certo tempo, porém sem resoluções definitivas até o momento. Existem, sim, cases que deram "certo", mas ainda cabem questionamentos. Então, acho válida a postagem.

Uma pergunta para você, seja você de um cargo superior ou inferior na área de TI: como tem lidado com o uso das IAs generativas dentro do seu ambiente? Pergunto não somente dentro da TI em si, onde se tem mais processos de controle sobre o que é feito, mas sim em todas as áreas da empresa.

Relato pessoal: Estou há 4 anos atuando como analista de sistemas em uma empresa do ramo privado, onde comecei como suporte de infraestrutura. Fui atendendo demandas relacionadas aos sistemas até assumir, de fato, o cargo de analista. E, desde o começo até aqui, é inegável como as coisas têm mudado nos departamentos em relação à independência dos usuários para encontrar soluções que antes precisavam do envolvimento direto do departamento de TI.

E aqui temos dois tipos de usuários: os que ainda "engatinham" com o uso da IA e os que já são mais espertos em sua utilização. Quando digo "IA", qualquer pessoa fora do mundo da tecnologia pensa diretamente nas IAs generativas, pois, de fato, são as que têm mais facilidade de acesso e cujo uso não é complicado. Então, quando digo "IA", quero dizer ChatGPT, Gemini, Claude, Manus e afins.

Com esses dois tipos de usuários, temos dois problemas (ou mais): o vazamento de informações confidenciais da empresa e a criação de soluções não homologadas pelo departamento de TI. Com isso, temos dois problemas na mesa a serem controlados. A pergunta é: como?

Perguntas:

• Como vocês têm lidado com a questão do compartilhamento de informações confidenciais da empresa pelos usuários com qualquer IA generativa na internet?
• Como vocês têm feito o controle do desenvolvimento de soluções pelos usuários?

Pergunto, pois temos sofrido com essas questões. Usuários simplesmente entram pela porta da TI dizendo que criaram o "ERP 2" da empresa (isso quando vêm até nós, pois pode ser que nem venham), sendo uma solução sem pé nem cabeça. E, quando dizemos que a solução não irá para frente, somos rotulados de "impedidores do avanço".

Isso acontece mesmo quando temos casos de colaboradores que fizeram soluções enormes, que implantamos sem promessa de suporte, liberamos o servidor e que funcionou até o momento em que o colaborador saiu da empresa. Hoje, esse sistema ainda opera, caindo todos os dias, mas opera. E adivinhem para quem sobrou a bronca? Sim! Para nós.

Acredito que não podemos impedir as pessoas de desenvolverem soluções para seus departamentos, mas até que ponto podemos ser permissivos? E como amarrar isso a um processo que será seguido à risca?

Eu poderia perguntar para uma IA generativa e obter respostas genéricas para essas perguntas, mas quero relatos reais de pessoas reais que estão lidando com isso.