Однотипные задачи не нужно отдавать флагманской модели через API
Сайт SpeShu.AI опубликовал статью автора SpeShuAI о карликовых языковых моделях. В ней сказано, что повторяющиеся узкие задачи, например разметка записей, проверка формата ответа или отнесение обращения к одной из десяти категорий, не стоит отдавать флагманской языковой модели через API. Автор сравнивает это с наймом нобелевского лауреата для ответа на однотипные звонки в колл-центр.
По данным системы, о материале известно из двух источников. Для компаний, которые автоматизируют такие задачи, из текста следует, что выбор модели под конкретную задачу — отдельное решение.
Источник: Habr AI
Новости этого рынка выходят у нас в телеграме первыми — @adposium_ai.