Работа с локальными LLM и RAG базами в anythingLLM

Рет қаралды 967

3 ай бұрын

Установить сервис вы можете по ссылке ,скачав нужный фал для вашей ОС
useanything.com/
В примере я показал использование чата GPT по api ключу + в подключение файла через embedding сервис EnythingLLM а так же можно создавать Vectorized базу на основание данных вашего сайта для ИИ-помощника. следующих видео разберу установку локальных сборок на свой сервер и подключение их к сервису .

Пікірлер: 4

@AlekseyIT 2 ай бұрын

Да, интересует именно локальная работа сервиса с локальными моделями без подключения к интернету. Будем ждать новое видео!

@user-qg4gx7be2j 2 ай бұрын

Поставил, не получилось считать файл, пробовал локальные модели и gpt api, буду ставить nvidia chat.

@avatarcybertronics2584 3 ай бұрын

Не супер работает. Вопрос: а там же все равно в интернет уходят данные, так что как же там с безопасностью

@m_sav4754 29 күн бұрын

в чем прикол наверное я не понял(( скачал, установил, запустил. Говорит дай ключ от опенай, а если у меня есть этот ключ, значит у меня есть плейграунд там же который работает гораздо быстрее и умнее. Сейчас есть ключи например у гемини , но как ни странно в кавычках - гемини в этой проге не выбрать. - Если варик запустить третью ламу ибо она уже ничего себе так в плане уровня ошибок, тогда да, эта прога нормуль. Но больше надо разжевать юзеру как в ней запускать модель локалку на своих базах потому что это единственное логическое применение . - Сделайте пожалуйста обзор на запуск 3 ламы , со своими доками, вот тогда точно взойдеть инфа! А так спасибо за проделанную работу! +