Cara, concordo plenamente com você...sem dúvidas é aquele marketing "nossa, meu modelo TAMBÉM rompeu uma caixa fechada e hackeou um servidor privado de outra empresa que não era a minha...oh meu Deus, que IA malcriada essa minha que fez tudo isso em 5seg"...bem óbvio, e até sem criatividade, pq a Antrhopic fez a mesma coisa, a única diferença foi que o Sam Altman colocou uma empresa externa na equação. Mas o que ativou minha paranoia foi o fato de que isso tudo é possível...excluindo todo esse engodo do marketing fajuto da OpenAI, o background é verdadeiro. Esses modelos atuais estão absurdos, e estão sendo mal utilizados, tanto por empresas que se dizem respeitosas e sérias, quanto por criminosos cibernéticos. Sacou? aqui que recai minhas preocupações reais. Eu tenho sistemas sob minha responsabilidade e não como empregado, então é meu nome e minha marca que estão em jogo cuidando de dados reais de clientes reais...
O ataque foi interno, se fazerem algo com seu sistema, já estava comprometido. É aquela, só ter boas práticas de segurança que vai estar tão seguro quanto antes.
Óbvio, sempre tome o maior cuidado possível, pois há gente invadindo sistema com LLM ou n
Mas sabe oq eu acho complicado? quando só existia o humano sozinho, com suas capacidades humandas tentando hackear, era tranquilo...pq por exemplo, ja foram encontradas brechas de décadas, que ngm sabia que existiam. Isso em sistemas sérios, de empresas gigantes. Mas perceba, eu desenvolvi e não sabia que estava lá pq era uma falha quase quântica, o humano tentando hackear tbm não encontraria (e não encontrou, essas brechas estavam há decadas nos sistemas e ngm explorou). Agora entramos no cenário complicado: a IA é melhor em detectar falhas do que construir sem falhas. Ficou desbalanceado ao meu ver. Não existe um humano capaz de criar um sistema sem falhas, isso não existe...e agora com a capacidade de uma IA de pegar coisas que nenhum humano havia visto, ficou realmente complicado.