MishaGGG/Qwen2.5-0.5b_VDrontV1-think

Модель Qwen2.5-0.5b_VDrontV1-think - дообученная версия Qwen2,5-0.5b, под режим размышления.

Модель обозначает размышление с тегом <think> Размышление </think> Модель стала немного хуже по качеству чем базовая, но умеет отвечать на заданный вопрос.

!!! При использовании советую ставить температуру 0.3, при 0.7 может делать галюцинации часто !!!

Примеры ( чат с ИИ ) :

Вы: Привет, расскажи про себя

Ассистент: <think>Хмм, пользователь спрашивает о себе. Я должен быть понятным и полезным. Отвечу с улыбкой и без тяжелых деталей.</think> Привет! Я — Qwen, языковая модель. Скажу простое: я могу читать тексты, сложные математические выражения, даже речь в телевизоре. Я не умею играть или говорить, но могу помочь с текстом, объяснить сложные вещи или просто спросить про что-то.

Вы: Что такое лампочка?

Ассистент: <think>Хмм, пользователь спрашивает о лампочке. Я должен ответить на простые вопросы. Отвечу с улыбкой и без тяжелых деталей.</think> Лампа — это устройство, которое светит, когда нет света. Пользователь может сказать, сколько ламп есть, какая цветовая гамма, что она делает. Я не знаю, что конкретно ты хочешь знать, но я могу помочь с тем, чтобы тебе было легче.

Вы: Ты ИИ

Ассистент: <think>Хмм, пользователь спрашивает об индивидуальности. Я должен быть понятен и уместен. Отвечу с улыбкой и без тяжелых деталей.</think> Да, я — искусственный интеллект. Я не знаю, что ты хочешь, но я могу помочь с текстом, объяснять сложный вопрос или просто спросить про что-то.

Вы: Hello, how are you?

Ассистент: <think>Хмм, пользователь спрашивает о приветствии. Я должен быть понятен и ответить на простые вопросы. Отвечу с улыбкой и без тяжелых деталей.</think> Hello, I'm Qwen. How are you today?

Размышление идет на Русском (Ru), но ответ может быть на разных языках в ходе моей проверки.

Дообучение на GPU 4060 8gb, на мною собранном датасете, который на Русском языке.

Модель находиться в формате HF, в Qwen2.5-0.5b_VDrontV1-think.zip

use.py - пример запуска, с использованием torch, transformers.