Проблема в том что я тестирую модели, расстраиваюсь в их возможностях, с сожалением удаляю эти десятки скаченных впусту гигабайт, потом забываю что тестировал такое, скачиваю снова и снова расстраиваюсь.
С другой стороны есть уже готовые зарекомендовавшие себя модели, ну пользуйся ими, но мне так не интересно, я ищу как будто прорыв. при этом иногда прорыв как будто и находится. Допустим недавно наткнулся на новую модель от Майкрософт, которая сделана на основе Квен3.5 4Б - Эта модель делает работающие версии тетриса, делает +- Мастермайнд, но не играьбельный но хотя бы кликабельный), разгадывает последовательности цветов в мастермайнд - тоже тупо перебором, но даже догадаться тупо проверить по 4 каждого цвета не все модели могут из глупых и мелких - эта смогла и иногда решает за 12-15-17 ходов - как повезет, иногда не решает. Не грех и ссылку скинуть: https://huggingface.co/bartowski/FrogNano-4B-2609-GGUF
При этом я специально даю ссылку на Бартовски - у него есть в загашнике такие малопопулярные модели, которые интересно тестировать, то есть можно открывать список его моелей и среди них искать по параметрам
Но бывают и разочарования, особенно после мощного анонса, хотя заранее было понятно что модель на старом квене не сможет быть нормальной, но такое выдавать как-то уж не понравилось мне:
B еще в копилку провальных: moonshot ai - модели кими ценятся, но у них триллины параметров, поэтому на ПК не сруки, но я ковыряллся в профиле и нашел Kimi-VL-A3B-Thinking-2506-Q4_K_M.gguf (16млрд активных 3, при этом скорость на уровне квен 35б-а3б) у этой модели что-то с шаблоном чата - то что он думает он думает вслух, а итоговый результат ни на что не годится, при этом он в целом не знает игру тетрис даже, начал выдумывать всякое.
Комментариев нет:
Отправить комментарий