Что можно делать с LLM низкого уровня интеллекта
Categories:
В течение года, сражаясь с большими моделями, я наконец понял один факт: вывод модели является вероятностным. Это было очевидно, но мне потребовалось много времени, чтобы это принять. Только по-настоящему поняв вероятностную природу больших моделей, можно задуматься о том, что они могут делать.
Поскольку большие модели склонны выводить контент с более высокой вероятностью правильности, их ответы также очень обманчивы и нелегко распознать. Некоторые статьи ориентированы на читателей с высоким уровнем, которые очень чувствительны к потере времени и умственных усилий на низкокачественные статьи, и поэтому они сопротивляются контенту, созданному ИИ. Некоторые читатели имеют более низкую способность различать различные типы статей и легче принимают контент, созданный ИИ.
Поэтому, позволяя большим моделям генерировать контент, необходимо учитывать целевую аудиторию. Они не подходят для создания контента, требующего строгого подхода, такого как техническая документация, научные статьи, руководства, длинные тексты и т.д., но подходят для создания кратких новостей, статей в области социальных наук, комментариев и т.д. Проблема галлюцинаций больших моделей дополнительно ограничивает их применение в сценариях, требующих фактической точности.
Не следует позволять ИИ принимать решения за людей, вместо этого ИИ должен помогать людям принимать решения. Не следует передавать мышление ИИ, вместо этого ИИ должен помогать людям мыслить. Не следует спрашивать ИИ, вместо этого ИИ должен задавать вопросы людям. Старайтесь, чтобы ИИ задавал вопросы, а не решал проблемы.
Позволяя ИИ с низким уровнем интеллекта анализировать контент и задавать вопросы, не стоит позволять ему решать проблемы. Можно попробовать использовать его как инструмент анализа контента, инструмент напоминаний, инструмент задавания вопросов, инструмент предоставления вариантов выбора. В этих сценариях роль ИИ - помогать людям обнаруживать слепые пятна, а не напрямую производить выводы.
В области написания текстов с помощью ИИ также ведутся подобные обсуждения, контроль качества остается ключевым вызовом. Только позиционируя LLM с низким уровнем интеллекта как вспомогательный инструмент, а не как производителя контента, можно в полной мере использовать его ценность.