Персональный бесплатный наставник по программированию

No video

Персональный бесплатный наставник по программированию | Ollama - Windows preview + Code Llama

Рет қаралды 4,894

5 ай бұрын

✨Внимание:
1.Если вы испытываете проблемы с просмотром ранее опубликованного видео в связи с замедлением KZfaq, пишите в кометы под нужным постом в Телеграм - и я залью туда это видео.
2.Приглашаю в Телеграм общаться по этой теме: t.me/AiExp01
3.Чат находится здесь: t.me/AiExp02

Пікірлер: 9

@kvoloshenko 5 ай бұрын

Все ссылки см. здесь: t.me/AiExp01/81

@palyaros02 5 ай бұрын

GPU тут не использовалась, это видно было в диспетчере зпдач на первой вкладке

@StanislavEremeev 5 ай бұрын

Спасибо) Что думаешь по поводу разработки от NVidia ChatWithRTX? У меня карта 3080 - работает ооооочень бодро.

@mr.grixakrushkas5667 5 ай бұрын

Но сам чат очень слабый, это скорее прокачанный поисковик по локальным файлам. Лучший вариант это oobabooga и интерфейс к нему типа SillyTavern. Да конечно она скорее для РП предназначенная, но функционала в ней больше всего. Можно вырубить все РП штуки и толкать бота в нужном направлении, через авторские заметки и другие инструменты.

@user-vz2pz8bd5q 5 ай бұрын

Не заработала Заcтопорилась на with rtx

@kvoloshenko 5 ай бұрын

Возможно будет интереснее дождасться в продаже LPU (Language Processing Unit) типа Groq, см. t.me/AiExp01/83

@mr.grixakrushkas5667 5 ай бұрын

@@kvoloshenko Это же серверное решение. И там сами блоки малую часть модели вмещают и их нужно в кластеры собирать. На редите считали и там огромная стоимость для 70b модели вышла, больше ляма баксов.