Executando verificação de segurança...
20

O problema de não ter senso crítico

Recentemente um post foi feito aqui no TabNews onde um garoto de 12 anos alegava ter desenvolvido um sistema operacional do zero. Além do próprio post ser gerado por IA, o código também era.

Não apenas o código era gerado por IA, como nem sequer era um sistema operacional de verdade. Era apenas um software gráfico bootável que simulava um sistema operacional. Ele também simulava ter um sistema de arquivos falso com uma array em memória.

O post foi excluído logo depois de eu apontar a farsa (não sei se pelo próprio autor ou pela moderação).


Pode até ter sido um caso fora da curva agora, mas farsas como essa são constantes em comunidades por aí. Antes de IA virar moda, já era muito comum as pessoas criarem um grande alarde como se o projeto delas fosse uma "grande revolução", mas você ia analisar o código e via mais do mesmo ou até pior do que as soluções que já existiam.

Antes isso já era muito comum, mas agora com os LLMs, isso está contecendo com uma frequência muito alta. Na área de segurança da informação, nem se fala. Todo dia alguém posta um projeto "fodão" de segurança que, quando você analisa, é só AI slop.

Quando eu sou crítico com conteúdos e projetos de baixa qualidade, normalmente a galera não-especializada no assunto vê com maus olhos. Mas gente: alguém tem que ser crítico.

Não dá para todo mundo cair em discurso bonito e vangloriar um projeto ruim como se fosse um "projeto fodão". Alguém tem que ler o código e apontar que não é grande coisa como o anúncio faz parecer.

Eu entendo quem tem a mentalidade de achar que eu estou sendo crítico com um iniciante tentando melhorar ou algo assim. Mas se tem uma coisa que eu nunca fiz na minha vida foi criticar gente tentando aprender ou iniciantes.

Eu só critico o cara que, claramente, tá mentindo para ganhar atenção.

O senso crítico sempre foi muito importante, mas agora com os LLMs, ele se tornou 9999% mais importante. Todo dia tem gente postando centenas de conteúdo lixo gerado por AI e centenas de projetos lixos gerados por AI tentando enganar as pessoas.

Não estou falando de gente que vibe codou algo que realmente acha que é útil. Estou falando de gente que propositalmente faz um projeto falso e engana as pessoas convencendo elas que fez algo "incrível". Isso acontece aos montes e não é a primeira vez que eu vejo isso acontecer no TabNews, nem será a última.

O único jeito de combater esse tipo de farsa é vocês pararem de achar que todo mundo que critica um conteúdo/projeto é um vilão de novela Mexicana e começarem a verificarem a veracidade das informações antes de acreditarem nelas.

Carregando publicação patrocinada...
5

Silva97, de toda esta situação, o que está mais me deixando feliz é saber que tem alguém na comunidade do TabNews como você com a capacidade de fazer uma avaliação profunda como você fez 💪

Obrigado de verdade pelo seu trabalho e sua participação, coloquei o máximo que pude de TabCoins nesta sua publicação 🤝

[edit]

Eu vi que o rapaz editou o README do repositório pessoal dele para adicionar isso, imagino que como efeito colateral da sua investigação:

3

O pior é que muitas vezes essas pessoas nao fazem de proposito, Elas nao sabem que estao mentindo elas realmente acham que sao fodas por conta da bajulação da ia

isso da bajulação e do delirio assistido ja foi comentado antes; e ter quem critique é muito importante.

é dificil criticar sem ser considerado chato; ainda mais quando toda resposta de llm começa com "otima pergunta"; "essa é uma ideia inovadora" e coisas assim

2

Você tem razão. Alguns são iludidos pela IA e precisam receber críticas para serem capazes de aprender. Senão ficam presos no efeito Dunning-Kruger pra sempre.

Mas outros fazem por desonestidade, mesmo. Alguns anos atrás eu já peguei outro falando ter desenvolvido um kernel de sistema operacional, e quando fui ver o código no GitHub era literalmente um hello world... Não estou exagerando, o programa bootava, mostrava um texto na tela e era só isso... Mas no LinkedIn o cara anunciou como se estivesse fazendo um projeto incrível e complexo de kernel.

E claro, um monte de gente reagiu e comentou no post dele elogiando. O cara teve a atenção que queria, e tudo o que teve que fazer foi escrever um hello world em assembly. kkkkk

2

Essa e muitas publicações servem como exemplo de que não podemos nos comparar com os outros. Quando eu li aquela publicação, pensei: "Porra, devo ser muito ruim mesmo, o moleque com 12 anos já criou um OS, e eu apanhando com meu REACT".

Quantas outras publicações não são exatamente aquilo que imaginamos?

2

Isso bate forte na gente, eu até comentei no post dele que eu com 12 anos estava comendo terra hahahaha...
Sendo sincero, mesmo usando IA ,ele está tendo interesses e acesso a muito mais conteúdos e obtendo muito mais conhecimento útil do que eu aos meus 12 anos.

2

Eis a minha crítica contra IA. Na verdade, eu não tenho nada contra o uso de LLMs em si; o problema é como as pessoas usam. Basicamente, como se fosse um wizard para qualquer coisa ("next, next, next, finish"). E é esse o problema: agora todo mundo acha que é gênio.

Vários clientes de diversas empresas de desenvolvimento somem por um tempo dizendo que irão fazer seus próprios sistemas. Depois de meses tentando resolver bugs, eles retornam. Blz!! 🙂

Hoje, minha principal fonte de renda é justamente corrigir sistemas bugados construídos na base do "vibe code". O problema é justamente que pessoas que não têm o menor conhecimento querem sair criando o próximo sucesso. É como se dessem um auto-tune para cada pé de cana em cada esquina, e todos eles saíssem achando que serão o próximo ganhador do Grammy.

E aí surge isso... Quando você vai analisar tecnicamente, sem nem ir tão fundo, não existe sistema operacional ali; existe uma aplicação simulando parcialmente alguns comportamentos de um SO — e ainda por cima claramente cospido por uma LLM.

Não é desmerecer o garoto. O problema é transformar qualquer protótipo gerado com assistência de IA em "gênio revolucionário da computação", e nesse caso especial a culpa é da midia... Criar um sistema operacional de verdade envolve gerenciamento de memória, scheduler, drivers, interrupções, syscall, bootloader, filesystem, arquitetura de kernel e uma quantidade absurda de engenharia que simplesmente não desaparece porque alguém escreveu um prompt.

A IA virou uma muleta tão forte que muita gente já não consegue diferenciar "eu construí" de "eu pedi para a IA montar e copiei o código dela". E isso está criando uma geração de pessoas que sabem copiar resultado, mas não entendem absolutamente nada do que estão executando e, quando quebra, não sabem consertar

2

Eu não tive a paciência que você teve, mas eu senti o fedor.

Eu até comecei escrever um comentário, mas logo no começo eu comecei achar aquilo estranho, apesar de que olhando por cima, parecia fazer sentido. Mas alguns pontos no texto começavam entregar.

O que está sendo levantado aqui é importante, porque mostra que a maioria das pessoas não se questiona e acredita em fake news o tempo todo, o que torna a criação delas interessante, já que tem público.

Outra questão é a credibilidade de quem cai nesses contos, especialmente quando a pessoa já é experiente, assim indicando que a experiência não é qualitativa. Algumas pessoas fazem questão de não ter senso crítico, você quase nunca vê a crítica partindo dessas pessoas.

De fato ser crítico acaba sendo criticado por alguns, ou pelo menos não bem visto.

S2


Farei algo que muitos pedem para aprender a programar corretamente, gratuitamente (não vendo nada, é retribuição na minha aposentadoria) (links aqui).

1

Percebi que era código feito por IA quando olhei o sitezinho que ele publicou, tinha algum trecho de código que era muito parecido com o que eu mesmo já havia obtido aqui em projetos com arquivos ps1 pra para automatizar processos de instalação no Rwindows.
Ao obter acesso ao código fonte do tal projeto, percebi os trechos comentados, a perfeição do código e os termos "estranhos" sendo usados, tratei de copiar uma parte e jogar no GPT apenas para validar a suspeita de código feito por IA.
O GPT foi categórico, é código feito ou orientado por IA, um humano não se preocuparia com a ordem didática dessa maneira tão perfeita ainda mais tendo pouca experiência.
Ainda assim preferi dar apoio ao jovem, ele mentiu sim, mas com 12 anos talvez nem ele tenha ideia do que estava fazendo, está apenas descobrindo essa área que tanto nos fascina.
RESPOSTA DO PRÓPRIO GPT

1

Não tinha percebido que a postagem foi apagada até ler sua postagem, mas quanto ao uso de IA na postagem citada, acreditei que foi uso do próprio Deschamps, que havia comentado que tinha editado a formatação da postagem como forma de melhorar.

1

Simples, no auge dos seus 12 anos você escreveria um texto livre de erros envolvendo os porquês do português e, além disso, sem erros de concordância?

Eu com 30 ainda deixo escapar, imagine aos 12.

1

Acho que não, porque o próprio teor da explicação passava muito a impressão de ser IA. Não era apenas uma questão de formatação de texto ou gramática.

Acho que o Deschamps só deve ter melhorado a formatação do texto, sem alterar o conteúdo usando IA.

0
-7

Melhor ainda é o Deschamps publicar na newsletter como se fosse verdade.
Literalmente espalhando fake news.
Provavelmente mais um que usa IA para fazer alguma coisa kkkkk

-7