¿Para qué sirven los LLM de baja inteligencia?
Categories:
Después de un año de luchar contra los grandes modelos, finalmente entendí un hecho: la salida del modelo es probabilística. Esto debería haber sido obvio, pero me tomó mucho tiempo aceptarlo. Solo al comprender verdaderamente la naturaleza probabilística de los grandes modelos se puede pensar en lo que son adecuados.
Debido a que la salida de los grandes modelos tiende a producir contenido con mayor probabilidad de ser correcto, sus respuestas también son muy engañosas y difíciles de identificar. Algunos artículos están dirigidos a lectores de alto nivel, que son muy sensibles al desperdicio de esfuerzo mental y tiempo en artículos de baja calidad, y por eso se resisten al contenido generado por IA. Otros lectores tienen peor capacidad para distinguir entre diferentes tipos de artículos y son más propensos a aceptar contenido generado por IA.
Por lo tanto, al hacer que los grandes modelos generen contenido, se debe considerar el público objetivo. No son adecuados para generar contenido que requiera rigor, como documentación técnica, artículos académicos, tutoriales o textos largos. Son más adecuados para generar noticias breves, artículos de ciencias sociales, comentarios, etc. El problema de las alucinaciones de los grandes modelos limita aún más su aplicación en escenarios que requieren precisión fáctica.
No se debe permitir que la IA tome decisiones por las personas, sino que debe辅助 a las personas a tomar decisiones. No se debe delegar el pensamiento en la IA, sino que la IA debe辅助 a las personas a pensar. No se debe preguntar a la IA, sino que la IA debe hacer preguntas a las personas. Intentemos que la IA plantee preguntas, en lugar de resolver problemas.
Dejar que la IA de baja inteligencia analice contenido y plantee preguntas, pero no que resuelva problemas. Se puede intentar usarla como herramienta de análisis de contenido, herramienta de recordatorio, herramienta de preguntas, o para dar opciones múltiples. En estos escenarios, el papel de la IA es辅助 a los humanos a descubrir puntos ciegos, en lugar de producir conclusiones directamente.
En el campo de la escritura con IA también existe una discusión similar, y el control de calidad sigue siendo un desafío clave. Solo posicionando a los LLM de baja inteligencia como herramientas de asistencia en lugar de productores de contenido, se puede maximizar su valor.