O que os LLMs de baixa inteligência são bons para
Categories:
Depois de um ano lutando contra grandes modelos, finalmente entendi um fato: a saída do modelo é probabilística. Isso deveria ser óbvio, mas ainda me custou um bom tempo para aceitar. Só quando você realmente entende a natureza probabilística dos grandes modelos é que pode pensar no que eles são adequados.
Como a saída dos grandes modelos tende a produzir conteúdo com maior probabilidade de estar correto, suas respostas também são muito enganosas e difíceis de identificar. Alguns artigos são direcionados a um público mais sofisticado, que é muito sensível ao desperdício de esforço mental e tempo com conteúdo de baixa qualidade, e portanto resiste ao conteúdo gerado por IA. Outros leitores têm menor capacidade de discernir entre diferentes tipos de artigos e são mais propensos a aceitar conteúdo gerado por IA.
Portanto, ao usar grandes modelos para gerar conteúdo, é preciso considerar o público-alvo. Eles não são adequados para gerar conteúdo que exija rigor, como documentação técnica, artigos acadêmicos, tutoriais ou textos longos. São mais adequados para gerar notícias curtas, artigos de ciências sociais, comentários, etc. O problema da alucinação em grandes modelos limita ainda mais sua aplicação em cenários que exigem precisão factual.
A IA não deve tomar decisões pelas pessoas, mas auxiliar as pessoas a tomar decisões. O pensamento não deve ser delegado à IA, mas a IA deve auxiliar o pensamento humano. Não devemos perguntar à IA, mas fazer com que a IA nos faça perguntas. Tente fazer com que a IA formule perguntas, em vez de resolver problemas.
Deixe que IAs de baixa inteligência analisem conteúdo e formulem perguntas, mas não as deixe resolver problemas. Elas podem ser usadas como ferramentas de análise de conteúdo, ferramentas de lembrete, ferramentas de questionamento e para fornecer opções de escolha. Nesses cenários, o papel da IA é auxiliar os humanos a identificar pontos cegos, em vez de produzir conclusões diretamente.
No campo da escrita com IA, há discussões semelhantes e o controle de qualidade continua sendo um desafio-chave. Posicionar LLMs de baixa inteligência como ferramentas auxiliares, em vez de produtores de conteúdo, é a maneira de maximizar seu valor.