O panie, dobry materiał. Chętnie się pobawię lokalnymi AI.

Łukasz, więcej takich filmów o AI!!! Ogromnie szanuje za tego AI benchmarka. Wydaje mi się że nikt takiego testu na yt nie zrobił.

Odswiezalbym ten film co pół roku, mega ciekawy temat. Pewnie dużo nowych narzędzi powstanie.

Ale sztos. Zaczęło się w zasadzie rok temu od publicznego chata gpt a do dzisiaj tyle tego powstało 😊😊😊😊😊

Bardzo bardzo bardzo bardzo fajny odcinek ❤❤❤❤

Zmaslo kiedy ten windows vista?

Dzięki za filmik. Nie wiedziałem, że jest to możliwe, a teraz na pewno skorzystam! 😃

Wypowiem się na temat Stable Diffusion na karcie AMD (rx 6650xt 8GB) z wykorzystaniem Automatic1111. Windows kompletnie odpada jeżeli ktoś planuje się tym bawić, testowałem rozwiązania takie jak wtyczka directml do bazowej wersji Automatic1111 i działało to przeciętnie - 1.2it/s przy obrazku 512x512. Maksimum przy którym nie wywalało błędu o braku VRAMu to było jakieś 640x768, a dodatkowym zastrzeżeniem było tutaj trzymanie się danego wymiaru, który musiał być podzielny przez 64 bo inaczej się wysypywało, więc odpadał jakikolwiek niestandardowy refine obrazka, a w dodatku prompt musiał być ograniczony do rozmiaru 75 bo takie ograniczenia zostały nałożone i nie było szans tego ominąć. Warto tu także wymienić to że upscaling obrazka odbywał się nie z wykorzystaniem GPU, a obliczenia przenoszone były na CPU i trwało to czasem nawet kilka minut. Było też inne rozwiązanie do niedawna promowane na blogu AMD, czyli pobranie pewnej wersji A1111 ze wsparciem dla ONNX w połączeniu z DirectML ale działało to trochę inaczej i zdecydowanie gorzej niż directml jako extension do bazowego A1111. Oba te rozwiązania wymagały transformacji modelu na format ONNX. Pierwszy z nich operuje na unet a drugi bodajże na modelu w formacie ONNX z rozszerzeniem .ckpt. Więc dochodzi jeszcze odpowiednia umiejętność konwersji między formatami, optymalizacji tego itd... Generalnie sporo zabawy żeby to w ogóle zaczęło działać i nie jest to tego warte na Windows. Stwierdziłem w pewnym momencie że nie ma możliwości żebym się tak męczył, więc wydzieliłem odpowiedni rozmiar dysku na partycję z Ubuntu, pobrałem rocm według zaleceń AMD i po odpowiednich drobnych modyfikacjach (podmiana identyfikatora karty na wspierany przez rocm - rx 6800 xt oraz wyłączenie secure boota, który blokował wykorzystanie sterowników w systemie) wszystko działa jak marzenie - 3.6it/s przy obrazku 512x512, 4x upscaling w dosłownie kilka sekund. Różnica jest kolosalna, a w dodatku można korzystać z pełnej palety funkcjonalności A1111, a wykorzystanie VRAM nawet przy generowaniu obrazka 1024x1024 nie przekroczyło 6.2GB i ani razu nie miałem problemu ze stabilnością tego wszystkiego.

Przetestuje, dzięki za wspaniały materiał, zmaślok :D

WIęcej, więcej, więcej tego contentu!

Dziękuję za świetny, wartościowy film!

Nie mogę się doczekać kiedy będzie retro, komp ze śmietnika czy vista ;)

Jestem głównym informatykiem w średniej fabryce i gpt dużo mi pomaga. Piszę budżety, odpowiada na e-maile, odpowiada na pytania odnośnie sieci, środowiska serwerowego, itp. Chętnie przetestuję to na swojej lokalnej maszynie :)

Skynet powoli przejmuje komputery domowe.

Wiecie może, czy istnieje już jakiś program A.I do tłumaczenia z automatu MANG na polski ??

Miłego wieczoru!

Bawię się w generowanie obrazków - WOW. RTX 4090 można spoko wykorzystać do generowania naprawdę dobrej jakości obrazów i maks co mi zajmuje na obrazek to 23 sekundy

1. można połączyć kilka komputerów aby generować na jednym, szybciej i lepiej? 2. Czy są modele pracujące tylko na CPU + j.w. czyli połączenie kilku dla szybszego/lepszego efektu?

fajną masz pasje, dzięki że sie nią dzielisz, super kanał :)

WhisperGUI świetne, na pewno kiedyś tego użyję jak już będę po remoncie w domu i wezmę się za hobby (yt/stream/gry/tech etc) - mam nadzieję znaleźć też podobny soft ale działający w czasie rzeczywistym. Stability Matrix i NMKD Stable Diffusion świetnie nadadzą się do prostych projektów, w sumie to nawet na steamie używam profilowych zdjęć które generowały AI.

Ooo, stary. Właśnie ostatnio szukałem czegoś o takiej tematyce.

Super materiał, dzięki!

LMstudio też służy do lokalnego uruchamiania LLM i pod czatem wyświetla benchmark w tokenach na sekundę. U mnie aktualnie: od 0,6tok/s na modelu 72B Q5 (największy jaki udało mi się odpalić, zajmuje 56GB RAMu) do 3tok/s przy trochę mniejszych modelach. Wszystko to na GTX1050Ti 4GB, Ryzen 3600, 64GB RAMu, z offloadingiem 1 warstwy do GPU i kontekstem ustawionym zawsze na domyślne 2048.

🤩czyli już wiem, że weekend zleci na próbie uruchomienia tego na VM z VGA passthrough na Linuxie w piwnicy...no Dzięki😅

Jak generujesz napisy używając AI to musisz popracować nad dykcją. Bo potem masz taki kwiatek jak: "usług w murze". W 2:44

Super materiał! Dzięki! :)

NMKD Stable Diffusion - nie ma już wersji z modelami. Ściągnąłem kilka dni temu, jest 3GB plik, ale modeli brak, inni też ściągali i też nie mają.

Używam już od dłuższego czasu stable diffiusion i powiem że mój model "wyuczył się" robić zajebiste cyberpunkowe i kosmiczne obrazy Jedno z takich obrazów nam na profilowym na steam

Ciekawa sprawa z tym odczytywaniem plików. Fajnie by było jakby była możłiwość wrzucenia ustaw naszego prawa i zadawać mu pytania i żeby odpowiadał na podstawie tych ustaw ze wskazaniem źródeł :D

Pięknie dziękuję. Fajnie objaśniłeś temat dla lajkoników. 👍

Jestem czynnym programistą i powiem Wam, że z jednej strony cieszę się na to jak rozwijają się narzędzia oparte o sieci neuronowe, z drugiej strony tempo tego rozwoju trochę mnie przeraża :D

Super materiał

Ja w pewnym sensie wykorzystuję lokalną sieć neuronową w postaci dodatku o nazwie... kurde nie pamiętam... w każdym razie dodatek do OBSa, współpracujący z osprzetem Elgato, a wchoidzacy w skład sterownika nVidia Studio i działający jedynie na kartach RTX. Co on daje? Otóż teoretycznie jakieś baery z dźwiękiem (ale nie mam mikrofonu od elgato), do czego ja go nie używam, ale przede wszystkim za pomoca algorytmów sieci neuronowych usuwa tło w bardzo skuteczny i dokładny sposób. Ptrymitywna wersja czegoś takiego jest wam pewnie znana z jakiegoś zooma, czy czegoś w tym styuku, ale to nie zawsze działa dobrze, czasami dziwnie ucina kawał głowy, czy podmienia część ubrania - a u mnie działą idelnie tak, jakbym miał green screena za plecami, co znacznie pomaga mi w prowadzeniu streamów, czy nagrywaniu treści na kanał, gdzie potrzebuję wrzucić siebie z czymś w tle. Wymaga jednak dobrego światła, ale nie jakiegoś wybitnego - u mnei to nawet nie jest profesjonalny softbox, a zwykła lapma z IKEI, z tym, ze z dużo mocniejszą żarówką ledową (bodajże 14,5W). Da sie bawić ustawieniami, ale ja jestem laikiem i mam po prostu ustawioną wysoką jakość a reszta domyślnie.

Ciekawy film. Masz ode mnie suba. 👍

super film

@ZMASLO 15:02 folder "płyta z PS5" i "film ps5.mp4" czyżby się szykował nowy odcinek o ps5😏

Niezwykle ciekawy materiał, dzięki! Jeśli mogę coś polecić, to nie puszczaj na telewizorze za sobą filmików, bo rozpraszają. Sam kilka razy złapałem się na tym, że przestałem Cię słuchać, bo skupiłem się na driftach z tyłu :) Keep up the good work!

Od kilku tygodni twoi widzowie czekają na film z linux gentoo

Nie musimy instalować Pythona, ale warto! :-) Warto uczyć się programowania! :)

Zmaslo, daj poradnik jak i jakich programów można użyć do rozbierania panienek!

Ja bym chciał AI działające w tle w Windowsie, monitorujące pracę systemu i wszystkie jego procesy, tak aby wykrywał i monitorował błędy, oraz pomagał lub rozwiązywał by problemy z działaniem systemu i aplikacji. Apka czy gra się wywala to AI informuje nas co to spowodowało i pyta czy rozwiązać problem oraz mówi jak to robi. Coś co pomaga optymalizować system lub może powiedzieć co zmienić w konfiguracji sprzętowej aby wyciągnąć jeszcze więcej z obecnego sprzętu ale żeby znało też granice, że np. RAM-u nie ma sensu więcej ładować albo mocniejsze GPU tu nic nie zmieni itp.

Jestem pod wrażeniem, jak to AI się rozwinęło przez tyle czasu. Na początku 2023 roku byłem do tego sceptycznie nastawiony, bo robił to... żle w większości sytuacji (a przynajmniej u mnie). A teraz nie dość, że to jest prostsze i lżejsze do generowania, to jeszcze wygląda to znacznie lepiej. Jak tylko będę miał czas, to zabawię się z tym raz jeszcze. :)

fajny t-shirt, też chcę :P

Hmm... warto spróbować. Mam nadzieję, że moja 3060 w wersji 12GB sobie sprawnie poradzi:) Ale mam inne pytanie - czy znasz drogi Łukaszu jaki dodatek do takiego modelu, czy ogólnei jakiś ciekawy program, współpracujący z jakimś asystentem głosowym - tak aby mi takie AI odpowiedziało nei tylko tekstem, ale i odczytało go na głos. Albo ogólnie coś, co po prostu czyta teksty z ekranu na głos.

Chętnie przejrzy historię Twojego przeglądania

poprosił bym o instrukcje z kobold bo ta strona jest chaotyczna, instrukcje nie jasne. błądzę i błądzę i cholera wie czy dobrze robie

Siemka, zainteresuj się burn w RUST, bazują na webgpu które tłumaczy na VULKAN, METAL czy Dirext12 np. Ogólnie biblioteka na razie w fazie alpha ale wiele rzeczy już działa naprawdę świetnie. Jest to co prawda coś na zasadzie PyTorch czyli służy naukowcom czy devom, ale mogę ci coś wyskrobać na testy początkowo pod linux'a a przy większej chęci na Window'a, choć osobiście nie mam tego systemu w domu, korzystam tylko z Linux'a na co dzień do pracy i Mac'a rekreacyjnie.

bardzo dobry odcinek🙂😉👍

Ja od siebie mogę polecić RVC-GUI, który pozwala powiedzieć dowolną rzecz dowolnym głosem (prawie dowolnym głosem bo najpierw ktoś musi zrobić model RVC do tego głosu bo samemu trudno taki zrobić).

super te modele językowe ważą więcej niż moje wolne miejsce na dysku (jeden taki który chciałem to waży z jakieś 80gb a mam tylko wolne 65gb)

@ZMASLO pytanie jak uważasz ma to sens na rx580?

Witaj. Dzięki za ten film. Czy znasz może "podobne" programy Ai do tworzenia prostych animacji? Pozdrawiam.

Powiadasz, że na starszym kompie idzie pogadać na czasie GPT? U mnie koboldcpp się zamyka gdy ładuję większość modeli. Mam Win 10, procesor Intel Xeon E3-1246 v3, grafikę GF RTX 2060 super. Mógłbyś zrobić jakiś film który szerzej by omawiał ten program? Jest tam trochę do ustawiania i może o czymś istotnym nie wspomniałeś w tym filmie? Zauważyłem np, że część modeli działa ale tylko jak ustawię dla grafiki presety Vulkan w nazwie. Pozostałe presety nie działają a program się zamyka natychmiast po kliknięciu w launch. A może trzeba dobrać odpowiedni model? Jest tych oznaczeń modeli co nie miara i trudno się w tym połapać. Wiem tylko, że im wyższa cyferka przy q tym mocniejszy sprzęt potrzebny. Tylko nie każdy model ma podaną literkę q. Te modele które działają, to akurat nie trafiłem na taki z językiem polskim. Bywa, że zamiast odpowiadać sypią jakimiś tekstami zupełnie haotycznymi, wygląda to czasem jak podsumowanie naszej rozmowy podane w dwóch językach plus znaki specjalne. Albo bot się zapętli i odpowiada niemal to samo tylko w różnych konfiguracjach, choć moje pytania są już inne. Zupełnie inaczej to wygląda jak np. na stronie czatkropkaai.

Wspominałeś o pamięci VRAM, że jest tutaj istotna, w takim razie jak rozumiem lepiej jest kupić przy składaniu kompa RTX 3060 zamiast nowszej karty RTX 4060? Czy może RTX 4060 ma jakieś przewagi i finalnie lepiej będzie sobie radził z algorytmami AI? Z góry dzięki za odpowiedź, pozdrawiam! :)

Jak się nazywa ten model Ai który potrafi wygenerować te klucze?

A co tam trzeba jeszcze ładować do pozostałych pól w programie koboldcpp np. pole lora itd? A jeśli w tym wypadku nic a czasem trzeba to w jakich wypadkach trzeba?

ZMASLO jak się nazywa model do generowania kluczy od WIndows XP

Czesć! a co sądzisz o nowych procesorach od qualcomma snapdragon X elite, które na CES pokazywały, że w kilka sekund generowały lokalnie na lapku treści uzywajac jakiejś standardowej Lamy?

Może w przyszłości jakiś materiał o home lab serwerze pod AI?

Cześć Zmaslo chciałbym zapytać czy była by możliwość abyś nagrał odcinek lub po prostu sprawdził ile zajmuje czasu generowanie tych obrazków na karcie K80?

Wszytko pięknie i ładnie, bajery, buzery itp. Wszyscy yutuberzy technologiczni i nie tylko opowiadają jakie to nie jest fajne, jakie to daje możliwości, jak to zrobić w domowym zaciszu. Ale jakoś nie widzę materiałów o negtywnych tego aspektach, a takowe niestyty są. I w miarę jak sztuczna inteligencja będzie rozwijana, implementowana w coraz większej ilości urządzeń i oprogramowaniu i stanie się nieodłączną częścią życia człowieka, dobrze byłoby, aby informować ludzi nie tylko o pozytywnych jak i o negatywnych cechach AI.

Co do programu Whisper Gui, to jaki język na wyjściu dostaniesz jeśli ustawisz na wejściu rozpoznawanie auto lub podasz jakiś język a odznaczysz j.angielski na wyjściu? Chodzi mi o to, że nie ma ten program opcji wyboru na jaki język ma być tłumaczony materiał. Tobie stworzył napisy pl przy pokazanym ustawieniu ale to jest transkrypcja a nie tłumaczenie. Z jakiego źródła pobierałeś program? W każdej z wersji na jaką trafiłem virustotal wykrył w pliku exe jakiegoś wirusa lub kilka sztuk. Są to fałszywe alerty? Z tego linka co podałeś w opisie też wykrył wirusy, sztuk 2.

Na bank jest lepsze od paździerza od Google... Gemini np nie widzi różnicy międz stalinizmem a wegetarianizmem czy patriarchatem.

Zmaslo zajebisty programem do generowania obrazu stacjonarnie Easy Diffusion V3 bardzo rozbudowany i prosty w użyciu i interfejs przyjazny użytkownikowi

8:16 umarłem ;D

zrobisz taki poradnik ale na macOS ?

1:55 już cue club miało bardziej zaawansowane ai gra o bilardzie z wirtualnym czatem z komputerem było bardziej zaawasnowane z roku 2000

Po tym filmie pierwszy raz zapchałem cały VRAM - 24GB 😎

Zmaslo ja chce taką koszulkę , skąd masz. Wiesz może jak zrobić dual boot na rog ally asus?😅

sztos

Hej zlaslo zaczalem sie bawic tym programem i probowalem pobrac jakies inne wersje zeby obrazki nie wygladaly tak zle i przy convertowaniu jest blad co to moze powodowac? NMKD stable diffiusion

U mnie na 9900K z 6700XT NMKD obciąża tylko procesor, karta śpi a generowanie trwa wieki. Jak kliknie AI implementations - for AMD GPUs to nie mogę wtedy wybrać modelname - brak wyboru stablediffusion. Jak ten program ogarnać żeby generowało na 6700xt a nie na procku?

Ja gram w totolotka dzieki AI i powiem wam, ze zakup 4090 zwrocil sie szybciej niz myslalem! Teraz to juz czysty zarobek... Ciagle wakacje i bujanie noga. Aktualnie mam 6 4090 grajacych w w totka i inne tego typu gry. Nie ma tygodnia bez wygranej... I bynajmniej nie sa to 3jki... :)))

Siema zmaslo mam pytanie zrobisz jeszcze film o hackintoshu a konkretnie czy to się opłaca?

o ile dobrze pamiętam, to 1660 Super ma 6GB VRAM'u a nie 8GB

Ten chat RTX będzie działać na plikach tekstowych czy tylko na tekście? Bo jeżeli na plikach to czuję potencjał do szybkiego tłumaczenia niektórych gier. Sam próbowałem tłumaczyć grę przy użyciu GPT i faktycznie nieźle szło ale ten non stop przerywał, gubił wątek lub zmieniał język na jakiś inny niezwiązany z tematem. Dodatkowo ilość linijek jakie może przerobić jest ograniczona. A jest model wyspecjalizowany w tłumaczeniu? Może wrócę do tłumaczenia? Niesiesz czy własne AI ma limit znaków do przyjęcia?

Mega, osiagnales mega fajny poziom, jestem zachwycony, mozesz mi podlinkowac twojego githuba na priv ?

Jak wrzucić bazę danych do tego Cobolt? Da radę nauczyć go obsługi strony i zarządzanie sklepem?

Ai przejmie naszą pracę, AI w 2:47 : Korzystając z usług w (ch?)murze

Polecacie jakiś model do KoboldCpp przeznaczony do tłumaczenia tekstu z/na angielski?

nie działa mi instalacja modeli, przy każdym mam że jest niekompletny

Mam już pewne doświadczenie z tymi darmowymi czatami offline i jak do tej pory trafiam na samych imbecyli a nie na normalną AI. To zupełnie inny poziom jak np. czat AI online. Trudno jest uzyskać jakąkolwiek pomoc. Co z tego, że mogę offline gadać bez końca jak bot się zaplącze i w kółko to samo gada albo nie pamięta co napisał zdanie wcześniej. lub nie umie policzyć do 30 itd.

Co myślisz o języku RUST ma to przyszłość?

reżyser terminatora wszystko przewidział

Mam paręnaście kart po koparkach można coś z tego ciekawego stworzyć ?

Dobrze że edukujesz ludzi, sam bawię się AI/ML od pól roku stablediffusion, whisper, xtts, wav2lip, xtts-webui, waifu-gui i masę innych, wszystko na gtx 1660S ;) bedę kupował 4070TIS. Niestety nvidia jak powiedziałeś góruje bezapelacyjnie w tym temacie. Co można wygenerować offline nie wygenerujesz online dużo ograniczeń i wszystko zostaje na ich serwerach.

SGUI nie polecam, program padł po wygenerowaniu paru obrazków na 4080. Mam nadzieje, ze nic nie uszkodził...

ZMASLO widziales chuwi minibook x ? smieszny maly laptop z intel celeron N100 4c\4t 3.4ghz

Który model polecisz do tego Kobolda? żeby był jak najbardziej rozbudowany a przy tym praktycznie niczym nie ograniczany

ZMASLO trochę za wcześnie wykonałeś ten filmik, 2 dni temu został wypuszczony na światło dzienne projekt ZLUDA który pozwala uruchomić programy oparte o biblioteki cuda na kartach amd bez modyfikacji programu

Czy można taki czat szkolić ? Bardzo proszę od odpowiedz .

Hej zmaslo kiedy kolejne gotowanie na karcie graficznej?

ja jako użytkownik gtx 1660ti powiem że da się odpalić stable diffusion tylko trzeba wpisać parametr startowy odpowiadający za pominięcie sprawdzania vram ale jaki on jest to nie powiem bo nie pamiętam

Adrian Kilar odrobinę szybciej hah (tak, wiem że jego film jest mocno inny but still)

Będzie 200k special?

Czas sprawdzić na nieocenzurowanym czacie gpt, gdzie ukrywa się Jacek Jaworek.

Witam ponieważ nie znam się na komputerach to mam pytanko do ciebie czy płyta główna msi b85 g43 procesor Intel cor i5 4570 plus pamięć RAM ddr3 8gb Nada się do podstawowych gier typu ETS2 Roblox i tym podobnych Pozdrawiam serdecznie

A NV Tesla K80 24GB VRAM się nada? Mam 3 sztuki w maszynach do Boinc.

1dzień czekania na e8400+ rtx4090😊

Jak uruchomić stable diffusion na Debianie? Mam kartę AMD i co nie zrobię to torch się pluje że nie może użyć karty graficznej