Alibaba выпустила Qwen с 2,4 триллиона параметров

Alibaba Cloud опубликовала обзор эволюции модели Qwen — от демо в апреле 2023 года до текущей версии с открытыми весами и 2,4 триллиона параметров. За три с половиной года разработки модель прошла несколько итераций, каждая из которых описана в материале.

Обзор показывает траекторию развития одной из крупнейших открытых языковых моделей.