É só mais um marketing stunt das empresas de IA, ainda mais que modelos como o Kimi já ultrapassaram o Fable 5, mas sem as limitações.
Não é nada mais que um: "Código é um problema resolvido", "Programadores vão ser substituídos em 6 meses". Só que dessa vez com outras intenções, que dessa vez seriam fazer governos pelo mundo, em especial, os EUA, a bloquear as IAs open-source e assim ter um monopólio nas IA frontier.
Esses caras amam usar medo para controle: medo de perder o emprego, FOMO da "produtividade" gerada com IA, medo do fim de software seguro, etc.. O Dario Amodei já fazia fearmongering de modelos LLM desde muito tempo; ele fez isso com o GPT2!
No fim, são marketing stunts atrás de marketing stunts, eles querem colocar na sua cabeça que "tem que usar IA para trabalho real", e com isso vender mais tokens. Pode ver: Loop Engineering, vibecoding, IA enfiada em tudo. Não confio em uma palavra de um CEO de qualquer coisa.
A Hugging Face é um ecossistema do para a distribuição de modelos abertos. Eles não têm nenhum interesse comercial em fortalecer barreiras que beneficiem APIs fechadas. Muito pelo contrário. A HF validou e confirmou o incidente. Isso claramente não é so lobby em Washington.
Embora modelos como GLM e Kimi tenham atingido paridade de codificação, a capacidade de lidar com cenários adversariais é outra história:
Quando a frequência de um exploit crítico no Linux, por exemplo, salta de "um a cada dois anos" para "um a cada duas semanas" é claro que tem algo real acontecendo.
Isso não invalida a tese do marketing do medo e pressão por regulação através dela, os dois podem ser verdade ao mesmo tempo.
A Anthropic liberar o Mythos apenas para um grupo seleto de empresas com a PEDRA não foi à toa. A empresa sabe das capacidades do modelo, foi proteger primeiramente quem sustenta ele, obvio, antes de liberar o monstro que eles criaram...o que restou foi: quem puder pagar, que se proteja (rindo de nervoso). Esse modelo fable é uma versão capada do Mythos e mesmo assim já faz coisas boas...o modelo que essas empresas usaram para se reforçarem, era superior e muito.
A Alphabet fez o mesmo processo agora, liberando primeiramente para as maiores investidoras, antes de soltar outro monstro no mundo.
Ambas as ações não são mero marketing vazio. Tem perigo real por trás disso.
Não acho que modelos de LLM são inúteis para usos em cybersegurança, mas acho que sua efetivadade é extremamente exagerada.
Sobre os exploits no Linux: é uma combinação de fatores, há mais gente trabalhando no kernel, mais audits de segurança, e mais. Também há o fator que a mídia quer vender a ideia de "IA híperinteligente", então as notícias de LLMs achando exploits vão criar estardalhaço.
Ou seja, a IA tem um fator nisso, mas, não é causa principal.
Humildemente discordo no ponto de atribuição exagerada. IA de fato possui extremas capacidades hoje em dia, ela só não faz sozinha. Não existe skynet ou rainha vermelha. Mas com os direcionamentos corretos, essa capacidade se torna concentrada. Ai o cenário muda de efeito e a eficácia é preocupante. Ai como comentei mais abaixo para você, a IA é melhor em achar falhas do que construir sem falhas, mesmo com direcinamentos. Quem defende precisa acertar todas, estatísticas jogam contra aqui de início. Quem ataca só precisa acertar uma vez.
Cara, concordo plenamente com você...sem dúvidas é aquele marketing "nossa, meu modelo TAMBÉM rompeu uma caixa fechada e hackeou um servidor privado de outra empresa que não era a minha...oh meu Deus, que IA malcriada essa minha que fez tudo isso em 5seg"...bem óbvio, e até sem criatividade, pq a Antrhopic fez a mesma coisa, a única diferença foi que o Sam Altman colocou uma empresa externa na equação. Mas o que ativou minha paranoia foi o fato de que isso tudo é possível...excluindo todo esse engodo do marketing fajuto da OpenAI, o background é verdadeiro. Esses modelos atuais estão absurdos, e estão sendo mal utilizados, tanto por empresas que se dizem respeitosas e sérias, quanto por criminosos cibernéticos. Sacou? aqui que recai minhas preocupações reais. Eu tenho sistemas sob minha responsabilidade e não como empregado, então é meu nome e minha marca que estão em jogo cuidando de dados reais de clientes reais...
O ataque foi interno, se fazerem algo com seu sistema, já estava comprometido. É aquela, só ter boas práticas de segurança que vai estar tão seguro quanto antes.
Óbvio, sempre tome o maior cuidado possível, pois há gente invadindo sistema com LLM ou n
Mas sabe oq eu acho complicado? quando só existia o humano sozinho, com suas capacidades humandas tentando hackear, era tranquilo...pq por exemplo, ja foram encontradas brechas de décadas, que ngm sabia que existiam. Isso em sistemas sérios, de empresas gigantes. Mas perceba, eu desenvolvi e não sabia que estava lá pq era uma falha quase quântica, o humano tentando hackear tbm não encontraria (e não encontrou, essas brechas estavam há decadas nos sistemas e ngm explorou). Agora entramos no cenário complicado: a IA é melhor em detectar falhas do que construir sem falhas. Ficou desbalanceado ao meu ver. Não existe um humano capaz de criar um sistema sem falhas, isso não existe...e agora com a capacidade de uma IA de pegar coisas que nenhum humano havia visto, ficou realmente complicado.