Нейросеть для разработчиков, встроенная в Chrome, работает без интернета и бесплатно

No video

Нейросеть для разработчиков, встроенная в Chrome, работает без интернета и бесплатно

Рет қаралды 37,051

Күн бұрын

Google встроила маленькую нейросеть для программистов Gemini Nano в свой браузер Chrome. И она работает локально, бесплатно, на javascript и без интернета.
НЕТ ВОЙНЕ!
Выразить благодарность
ko-fi.com/larc...
boosty.to/larc...
yoomoney.ru/to...
BTC: 127J5x79L9bb7T4jiYJ2U7jHNDLXEx4kT3
USDT (TRC20): TWRQit8o1JJGWjAph3DZFysygUxSwqiq9Q
TON: UQBDiFGDTLpp1zWLefv0LnH9TbEeUIcPSoO5uDNwhzktKP33
Как я стал программистом
• КАК Я СТАЛ ПРОГРАММИСТОМ
Как я переехал в Европу
• Как я переехал в Европу
Стрим: Карьера программиста
• Карьера программиста: ...
VPN, который я использую
get.surfshark....
➡️ Сайт: i.mobila.name/xT
➡️ Instagram: i.mobila.name/yp
➡️ Twitter: i.mobila.name/Ua
➡️ Telegram: i.mobila.name/b7d
👉🏻 Больше влогов здесь:
#larchankavlog #larchanka
👉🏻 Ежедневные влоги:
#larchankadaily
👉🏻 Чем я снимаю:
➡️ iPhone 14 Pro
➡️ Еще одна камера: DJi Osmo Action
➡️ Еще одна камера: Sony DSC-WX500

Пікірлер: 108

@vnbRdt Ай бұрын

чувствую в итоге мы будем делиться друг с другом промтами которые позволят убедить chrome не отключать adblock 😅

@RusLSystems Ай бұрын

Как бы не пришлось убеждать adblock не удалять chrome.

@vnbRdt Ай бұрын

@@RusLSystems крайне вероятный исход, на самом-то деле 👀

@nixaristix1819 Ай бұрын

нет рекламы на пол видоса, уже только за это лайк)

@tatar3352 Ай бұрын

Ниче сее стандарты)

@geek7807 Ай бұрын

А я на автомате промотал первые 40 секунд видео не глядя. Но там, оказывается, был контент, а не бесполезное интро. Возмутительно.

@user-bb2ho4ip8t Ай бұрын

Нейросеть посоветовала меньше рекламы вставлять😂

@Ty4kaGlucks Ай бұрын

Если в видосе нет рекламы, значит весь видос реклама (с) Джейсон Стетхем

@igobe4283 Ай бұрын

Спасибо за видео. Теперь я узнал столицу Австралии.

@rudinandrey Ай бұрын

надо было потыкать во вкладку Network, он точно никуда вопросы не отправляет? он все знания загрузил на компьютер?

@tyoma_yashin Ай бұрын

Про отдельный контекст - так везде устроено, llm изначально stateless. Нужно просто сохранить свои сообщения и ответы llm, а потом ей в начало контекста добавлять

@rtfdfhjrggth4220 Ай бұрын

Поддержу идею. Делай больше контента, когда не только пересказ, а что-то видно на экране.

@user-xg3er7dw8y Ай бұрын

Очень понравился формат видео. Если бы мог то поставил бы 2 лайка. Прикольно что можно самому побаловаться не ищя туториалов а воспользоваться тем что есть какая-то инструкция по шагам.

@ashimov1970 Ай бұрын

Замечательно! ♥

@HEX_CAT Ай бұрын

Спасибо за полезное видео❤

@redneck_prm5429 Ай бұрын

Знающие люди рассказывают, что LLM на 13 миллиардов параметров можно локально гонять на 4090, хоть и в потном для последнего режиме. Сетка при этом всё равно выходит довольно тупенькая. А на кой ляд в браузере нужен искусственный имбецил, который при работе будет ставить на колени клиентское железо - и вовсе непонятно.

@osad4enko Ай бұрын

маркетинг наше всьо

@vitalyl1327 Ай бұрын

там и 16Gb VRAM достаточно. И они далеко не тупенькие, если им инструменты выдать.

@MaruiInfantry Ай бұрын

Эти знающие люди, как ученые из советских НИИ и заводов. Если США не пришлют инструкции с переводом, то всё встанет раком.

@vlad-n-ag Ай бұрын

Локально можно запустить и 30B вообще на CPU, если есть 32Гб оперативки, если это квантизованные модели. Но скорость генерации будет несколько токенов в секунду. Для узко-специализированных задач тонко настроенная модель небольшого размера может вполне неплохо работать. Для этого хватит и видеокарты на 16 Гб. Где-то мне попадались тесты, что даже Intel Arc A770 выдаёт до 70 токенов/с при работе с Mistral 7B, с весами, сжатыми до INT4.

@tomasddf Ай бұрын

Да хрень это все. Годятся только для подкидывания идей да как интерактивное дополнение к уже написанному - это да, это лучше чем встроенные подсказки ide. Уже несколько десятков этих LLM перепробовал локально, все тупые, что 13B, что 30B. Гоняется оно локально на cpu+gpu, довольно шустро, через lamacpp, с поддержкой и nvidia и amd gpu - на гитхабе есть инструкции. Есть плагины для всяких ide, которые подключают такие сетки к ide и запихивают в контекст окружающие файлы. Но облачные сетки, как тот же codium или copilot, существенно адекватнее локальных. Может быть с распространением NPU, через несколько лет, можно будет локально запускать более умные сетки, с большим количеством параметров, от них толку явно будет больше.

@AvitoBot Ай бұрын

Интересно сколько придётся ждать ответ если адаптировать эту разработку под esp32

@Karrambol Ай бұрын

Поправьте, пожалуйста, панораму звука. Голос гуляет слева-направо

@user-hy8js0g59m Ай бұрын

Спасибо, Миша за видос!

@victorbrylew1775 Ай бұрын

В браузере AI я точно использовать не буду а вот встроенную в IDE - пока раздумываю . Поєтому вопрос: как тебе Codeium? Я заметил что он встроен в редактор и активен. Нравится?

@nurmukhammadxxx5046 Ай бұрын

Использую в качестве автокомплита. Как по мне чатжпт более компетентен и адекватнее.

@UserSo4reUsu75ry Ай бұрын

... встроена в хром и работает без интернета... Еще скажи, что режим инкогнито действительно анонимный и гугл ничего не видит )

@MaryJaneWat Ай бұрын

А почему вы решили что режим инкогнито в браузере = анонимность ? Речь ведь скорее про хранение истории

@user-oe7lz2vi3b Ай бұрын

Отключи интернет и пробуй.

@RaminChopurov Ай бұрын

Миша, спасибо за опыт и время. У меня такой вопрос, востребованы ли голанг разрабы в Европе? Что-то очень скудно по вакансиям (и по количеству и по зарплате). Есть ли вероятность, что к примеру Германия,всё же перестанет использовать допотопные технологии и перейдёт к цифровой революции?

@dmphxzrche288 Ай бұрын

Здравствуйте, подскажите, у вас есть курсы по солидити и работы с дюн?

@AlexanderBorshak Ай бұрын

А зачем это вообще надо?

@vitalyl1327 Ай бұрын

веб-макаки все в браузер тащат. Им от native страшно и некомфортно. Хорошо, что скоро их всех AI вытеснит, и можно наконец от bloatware будет избавиться.

@mrAndreaModa Ай бұрын

Гугл в гул засунули. Разумисты.

@MAI.I.IA-YOTA 27 күн бұрын

А какое практическое применение ? Если я пишу приложение, то у других пользователей эти параметры в браузере отключены.

@user-gv1vp6ut7w Ай бұрын

Приветствую. Вопрос. Есть гайд для того, чтобы обучиться тому, что писалось в html файлике?

@VoltaKing1 Ай бұрын

Самое страшное, что если это внедрят в использование, то браузеры начнут тупить с невиданной силой, и требовать топовое железо.

@AlexAlex-ei7zf Ай бұрын

так и будет, но, скорее всего, там будет какой - то переключатель: с ии и без.

@ssurrokk Ай бұрын

❤ прическа как у археолога Копай )

@Musicchannel-wp2je 4 күн бұрын

Интересно, вытащить бы её из браузера отдельно

@CAMOBAP795 Ай бұрын

Нахалеру гэта калі ёсць ollama?

@SYVlive Ай бұрын

По итогу имеем просто встроенный чат или нечто больше - парсинг сайта и занесения в контекст, напр.?

@user-ub2rg3eg8z Ай бұрын

А вот это бы чекнуть нужно, скормить ему html и попросить вернуть то что нужно

@adlhbgreqk Ай бұрын

Так где же эта первая страница, на которой ссылки на другие?

@phitrow Ай бұрын

на вопрос крутится ли Земля вокруг Солнца, разные браузеры дают разные ответы. среди них был ответ: Солнце на ночь уходит выпить кислоты с Меркурием.

@maris3926 Ай бұрын

Думаю, что в видео нет информации о том, сколько памяти эта нейросеть использует.

@Virass Ай бұрын

Вот так сходу не могу придумать куда это использовать? Может кто то поделится мыслью к какой ситуации это можно прикрутить такую нейронку?

@cblbopotka3915 Ай бұрын

Медленный, но глубокий поиск например. У вас есть ограниченный набор ключей, а пользователь делает почти произвольный запрос, который приводится нейросетью к одному из них. Пример запроса: "красный кандибобер", преобразуем в фразу "какая категория товара подразумевается во фразе красный кандибобер?" Ну а дальше снимаем сливки в виде ответа "головные уборы". Также помогает обрабатывать фразы с опечатками.

@Virass Ай бұрын

@@cblbopotka3915 но это ведь браузерный api для ai и что бы искать на фронте то нужно выгрузить на клиент кучу информации, не думаю что это хорошее решение по нагрузке для клиента и бэка в том числе постоянно отдавая много трафика

@digitalmushroom1757 Ай бұрын

Расширения с парсингом сайта и поиском основной инфы возможно... более крутой текст рыба чем лорем ипсум на сайте

@CheckTime Ай бұрын

Не понимаю природы, почему мне это нравится? 🥲

@dimax6792 24 күн бұрын

Optimization Guide On Device Model не появляется

@ostrotum 5 күн бұрын

Почему-то гугол скрыл комментарий UPD: а этот не скрыл. Странно, там был кусок кода с офсайта по теме. В общем, теперь всё немного по-другому, нужен API_KEY и импортировать @google/generative-ai

@boklagav Ай бұрын

в компонентах не нашел такого как в видео, но обратил внимание что модель уже обьясняет ошибки консоли ```const prompt = await aio Uncaught InvalidStateError: The session cannot be created. Explanation The "Uncaught InvalidStateError: The session cannot be created" error in your browser typically indicates an issue with establishing a WebRTC session. WebRTC is a technology that enables real-time communication (like video calls, voice chat, or file sharing) directly between browsers.```

@historymaker82 Ай бұрын

Это вообще входит в обязанности веб дизайнеров тоже?

@SV-13 Ай бұрын

Ничего не понял, но как же интересно!

@user-dj2ll1yu7c Ай бұрын

Миша Ларченко МЕЛКИЙ ШРИФТ В ВИДЕО

@vladimirmedvedev8908 Ай бұрын

столица Австралии - Камамбер!

@axel-11 Ай бұрын

кукумба!

@maxim_maximovych Ай бұрын

Камбоджа

@user-gx8gk9ur1n Ай бұрын

Live coding состоялся, ура)

@VladislavKusmin Ай бұрын

Я когда эту новость первый раз увидел (в четверг) подумал, что это розыгрыш, потому что ничего про скачивание модели не было и якобы отвечает сразу

@YangiyerBola Ай бұрын

Одно дело, когда оффлайн программа, другое когда браузер. Хотя браузер можно как просмотрщик файлов использовать

@user-ub3hd4sy4e Ай бұрын

Помните Скрепыша в Microsoft Office? Вот это оно и есть: бессмысленный, беспомощный, никому низачем не нужный инструмент. Баловство.

@user-manager Ай бұрын

Не обижай скрепыша 😓

@isvladxxe Ай бұрын

прикольно было б указывать на уровне системы и/или браузера какую ллм использовать не вижу ппроблемы в разных моделях, если ето доступно по выбору а не принудиловка а то будет скоро кто модерирует/политкоректирует самую массовую модельку - тот правит миром 😈

@fearmear Ай бұрын

Дурная немного идея. Мобилки и так не особо шустрые, а тут еще и какая-нибудь рандоманя либа сможет запускать процесс напрямую влияющий на производительность гпу (что важно в играх), да еще и кушать батарейку.

@Dmittry Ай бұрын

Будем собирать консилиум браузеров. И они будут ревьюить код друг-друга.

@user-gx8gk9ur1n Ай бұрын

Ждём решение от Mosaic )

@goncharovblog Ай бұрын

Надо микрофон, Миша

@FDR_alex 28 күн бұрын

Наверняка уже есть расширения ++

@alexander_stark Ай бұрын

пытался научить сверстать 1й экран чат гпт... потратил часа 4 .. в итоге оно сверстало номально шапку, а пнг так и не смогло прибить к краю хедера...

@DIMAZRU Ай бұрын

Claude 3.5 sonnet хорошо верстает по скриншоту

@vladwolf444 Ай бұрын

+ 1.5Гб в хром

@Germesych_game Ай бұрын

Миш, земеля, я уже все нашел.)) тебе досочно или RX580 amdFX8500 DDR3 16G, это прям ну реально дешево 200$ примерно.. протещено на ПК сына он дотку на нем стрмил и с ламкой общался все ок. проверил на тором ПК тоже летает. Llama3 8B + RAG это делается за пять сек, потом можно в pycharm встроить в пару кликов. по быстрее достаточно 3060 12G у меня оно сейчас, берешь дешевый проц и мать, DDR4 стоит гроши б\у над 16гиг и она прям ну вообще не уступает ChatGPT4.. до обучить будет стоит примерно 70$ (я спрашивал ребят 6к русских вышло подтянут русский выше GPT4). это гроши!!! я в ликедын посты кидал как на буке тестит это все с 3060 6G ноутбучной тоже летало. собрал не большой серверок себе домой, и наслаждайся!

@AlexanderJSk Ай бұрын

Так, кто помял Мишу и не погладил обратно?

@alexeis628 Ай бұрын

а в чем смысл локальной AI?

@leonidfofanov4929 Ай бұрын

Спросить про столицу Беларуси, находясь в Беловежской пущи. 😊

@MAI.I.IA-YOTA 27 күн бұрын

Я тоже не поняла. Ведь у всех этот параметр отключен. Я имею ввиду в браузере.

@tobytussr8473 Ай бұрын

А сорцы? [На самом деле переживу. Потому что ради «пощупать» Chrome ставить не буду. 🔥🦊 ✊]

@user-br9yl7fw4o Ай бұрын

Танцы с бубном...

@user-lq7xz1th4x Ай бұрын

Ai ai ai ai ai ai

@buendia8881 Ай бұрын

@pavelmolchanov7156 Ай бұрын

Нейросети не нужны

@ValkRover Ай бұрын

ИМХО локалки это весьма спорnый вопрос. NVIDIA тоже свою выпустила для RTX, там модель под 16G. Логика простая, если у меня Optic 1G интернет, зачем мне заморачиваться на локалке. Там же информация будет всегда устаревшая. А у меня всегда под рукой MS Copilot, Gemini, Cloude, OpenAI, You и т.д. Всегда сравниваю ответы.

@IgorAlentyev Ай бұрын

Придерживаюсь схожего мнения. Даже последние claude модели всё ещё туповаты, а всякие лламы3 даже на 70б это прям уровень детей который непонятно кому и зачем нужен. Единственный аргумент для локальных моделей - приватность, но как бы хз. Лучше пусть ЛЛМ учится на моих данных и становится лучше, чтобы через год я смог получить ещё более крутого ИИ ассистента.

@ValkRover Ай бұрын

@@IgorAlentyev Приватность это приятно, но нужно ее оценивать адекватно. (я страны с диктатурами не рассматриваю) Запрос порнухи с IP адреса несет некую информацию. Вопрос, как это влияет на хозяина квартиры? Так же и с AI. P.S. Privacy у нас в Канаде дело серьёзное. Ну да, мы вынуждены доверять некоторым компаниям...