Как улучшить точность моделей Qwen с помощью логит-пенализации

""После применения логит-пенализации на словах \"может быть\" и \"ждать\", с использованием формата BF16, точность модели Qwen увеличилась с 74% до 84%. В то же время, использование формата Q4_K_M также показало рост точности с 60% до 66%. Оказалось, что данный метод не только увеличивает точность, но и приводит к заметному снижению количества токенов, необходимых для размышлений, что может указывать на более оптимальную работу модели.""