Успішно налаштував мого робота-рака на використання локально розгорнутої великої моделі deepseek на моєму ігровому ноутбуці з 3060.
Мій пристрій — це зменшена версія 3060 laptop. Модель — deepseek-r1-8b. Це дистильована версія великої моделі deepseek, яка цілком здатна виконувати такі прості текстові завдання, як збір та обробка інформації з tg-груп. Це значно знизило витрати та вирішило 50% проблем з токенами.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
Успішно налаштував мого робота-рака на використання локально розгорнутої великої моделі deepseek на моєму ігровому ноутбуці з 3060.
Мій пристрій — це зменшена версія 3060 laptop.
Модель — deepseek-r1-8b.
Це дистильована версія великої моделі deepseek, яка цілком здатна виконувати такі прості текстові завдання, як збір та обробка інформації з tg-груп.
Це значно знизило витрати та вирішило 50% проблем з токенами.