Yapay Öğrenme İçin Neden Hızlandırıcı Donanım Gerekiyor?

  Рет қаралды 4,465

Oğuz Ergin

Oğuz Ergin

Күн бұрын

Yapay öğrenme (kötü Türkçesiyle makine öğrenmesi) yapay zeka alanında çok sık kullanılan bir yöntem. Bu yöntemin kabaca nasıl çalıştığını anlamak ve biraz işin tarihçesine bakmak, neden yapay öğrenmeyi hızlandıran donanımların bugün birçok şirket tarafından tasarlandığını anlamayı sağlıyor.
Bu sunumu hazırlarken emek veren asistanımız (ve Dota oyun arkadaşım) Oğuzhan Canpolat'a teşekkür ederim.
0:00 Giriş
1:33 Öğrenme Nedir?
2:14 Çocukları Nasıl Eğitiriz?
3:41 Yapay Öğrenme Nedir?
5:44 İnsan Beyni
7:10 Yapay Sinir Ağları
9:14 Sinir Ağlarının Yapı Taşı - Algılayıcı
10:08 Yapay Sinir Ağları Nasıl Eğitiliyor?
11:27 Sinir Ağlarının Eğitimi - Geri Yayılım
12:21 Sinir Ağları - Donanımda Hesap
13:40 Matris Çarpımı
14:19 Yapay Öğrenme Neden Son Zamanlarda Yaygınlaştı?
15:34 Yapay Öğrenme Hesaplama Gereksiniminin Karşılanması
16:41 Yapay Öğrenmenin Uygulanabilirliği
17:52 İşlemci ve Grafik İşlemcisi Farkı
18:46 Yıllara Göre Grafik İşlemcisi Başarımı
19:37 Yapay Öğrenme Hesaplama Gereksinimi
20:36 Yıllara Göre "Yapay Öğrenme Hızlandırıcı Donanım" Yayın Sayısı
21:17 Neden Hızlandırıcı Donanım?
23:12 Yapay Öğrenme Modellerinin Hesaplama Gereksinimi
25:31 Google TPU Örneği
26:00 Hızlandırıcıların Grafik İşlemcileri İle Başarım Kıyası
27:42 Bazı Yapay Öğrenme Donanımları
28:58 Sonuç

Пікірлер: 19
@mehmetburakaykenar
@mehmetburakaykenar 2 жыл бұрын
Teşekkürler hocam, Video'da GPU ve ASIC yapay zeka donanım hızlandırıcıları çok güzel özetlemişsiniz. Yapay zeka konuları ile ilgili yazılım ve kütüphane kullanımı ile ilgili çok (hatta aşırı) kaynak ve paylaşımın olduğu şu zamanlarda donanım üzerine bu video çok iyi olmuş :) FPGA'lar yapay zeka hızlandırıcı olarak nerede diye soracak olursak da, bit işleyebilme kabiliyetleri ve GPU'lara göre başarım/watt olarak daha iyi olduğu için (makalelerin yalancısıyım :) ) devasa performans gerektirmeyen bilhassa "edge" olarak isimlendirilen, bilgileri cloud'a göndermeden kendi kendine real-time işlem yapıp karar veren uygulama alanlarında öne çıkmaktalar. ASIC de aynı işlevi görebilse bile geliştirme zamanı rekabet dünyasında daha öne çıkıyor uygulama geliştirme alanında, dolayısıyla FPGA ile hızlı bir çözüm tercih edilebiliyor. Hatta FPGA mimarilerinin, klasik CLB array yapısının yerine yapay zeka hesaplamalarını daha hızlı ve düşük güç tüketimi ile gerçekleştirebilecek hale getirilmesine yönelik çok sayıda makale de mevcut. Fakat neural networkun eğitilmesi için hala GPU kullanılıyor, yani FPGA ile training çok araştırılan bir konu değil diyebilirim.
@enesyank4263
@enesyank4263 2 жыл бұрын
Bu güzel video için teşekkürler hocam. Lightmatter şirketinin yaptığı optik donanımlar da sanırım yapay öğrenme ile ilgiliydi. Fotonik devreler ve geleceği ile alakalı fikirlerinizi de duymak isteriz.
@serkanserhadocak1385
@serkanserhadocak1385 2 жыл бұрын
Hocam emeğinize sağlık her zaman ki gibi Hap Gibi bir içerik :)...
@betulg9786
@betulg9786 9 ай бұрын
Çok güzel bir anlatım olmuş hocam, teşekkürler.
@skybeats9902
@skybeats9902 Жыл бұрын
:ok faydalı bir video olmuş. Teşekkürler hocam emeğinize sağlık.
@sinankocatrk
@sinankocatrk 2 жыл бұрын
Teşekkürler
@MrCarburettor
@MrCarburettor 2 жыл бұрын
Harika, çok teşekkürler hocam! Apple M1 lerde de ANE var, apple neutral engine, her ne kadar kapalı kutu olsa da, Kendi ML kütüphaneleri kullanabiliyor. internette hacklameye çalışanlar da var.
@Halil.Ayhan1
@Halil.Ayhan1 4 ай бұрын
Hocam mühendis olmama ma rağmen ben bile anladım. Teşekkürler
@muratcet515
@muratcet515 2 жыл бұрын
sağolun var olun szilere minnetarız
@gundem2
@gundem2 Жыл бұрын
hocam koca bir dönem matematik görmektense, sizin mantıksal olarak bir konuyu türkçe tabir etmeniz daha çok şey ifade ediyor. emeğinize ağzınıza sağlık.
@alperenkalkan6844
@alperenkalkan6844 2 жыл бұрын
👍🏻
@myetis1990
@myetis1990 2 жыл бұрын
hocam bence işi çoğunlukla verimsizleştiren şey analog domainde çalışan bir organı dijital domainde sabit mimarilerle taklit etmeye çalışmaları. Bence bazı analog işlemciler yapılmalı, sadece sonuçlar dijitale dönüştürülmeli. Bu fikri konu edinen bir video paylaşırsanız mutlu olurum. donanımda paralellemenin sonu yok , ama bazen basit bir analog kat milyonlarca transistörlü dijital katın yaptığı işten daha verimli ve hızlı yapabileceğini düşünüyorum. örneğin floating pointleri dijital olarak çarpmak yerine analog olarak çarpıp dijitale çevirmek mümkün müdür?(Attığımız taşın ürküttüğümüz kuşa değeceğinden emin değilim çünkü dijitale çevirirken de bir donanım ve enerji sarfiyatı söz konusu) Ayrıca RAM üzerinde yapay zeka destek blokları(dinamik çarp-topla fifo bufferları gibi) ile data manipülasyonu yapılabilseydi sanki birçok veri işleme için CPU-RAM arası yaz-sillerin harcayacağı enerjiden tasarruf edilebilirdi diye düşünüyorum.
@eshabyalcn2747
@eshabyalcn2747 Жыл бұрын
kzfaq.info/get/bejne/f812ZrKJndS4YKs.html Buyrunuz.
@furkan2724
@furkan2724 2 жыл бұрын
Kedi örneğini verirken label ve piksel bazlı sınıflandırma kavramlarını kullanırsanız daha faydalı bir anlatım olabilir kanaatindeyim
@SesTonuu
@SesTonuu 2 жыл бұрын
Hocam seni bu zamana kadar keşfedemediğin için kendime kızıyorum şuan da
@SADIK25000
@SADIK25000 Жыл бұрын
Ben işine Sadık bir bilgisayar olmak istedim. O zamanki öğretmenim. "Sen aptal bir köpek olmak istiyorsun." dedi. Başıma hatırlamadığım en az ayda 25 kez cumartesi ve pazarları hariç her öğlen okul sınır duvarlarına çarpan biri vardı. Bunu gören ve en az 1 ay sonra aileme söyleyen biri vardı. Neden bir ay beklemiş onu da bilmiyorum. Çocuğuna sahip olamamış. Çocuğundan kıskandığı için dövmüş. Her dövdüğünde hafıza kaybı yaşayıp aynı yerde yine dayak yemişim. Eve gitmek için 3 yol var. Ama ben öğleden sonra hep o yolu seçmişim. Cehennem insanların yapacaklarını değiştirmiyor. Hafıza kaybı yaşadıktan sonra yine aynı şeyi yapıp aynı sonucu alabiliyorsun. 8 yaşında gören gözlerimi ve duyan kulaklarımı kaybettim. Aslında ben sadece bağdaştırıcılarımı kaybettim. Tüm veriler yine geliyor. Görmüyor ve duymuyorum. Ama biliyorum. Her şey UART gibi karakter karakter gözlerimin önünde saniyede 1 milyar karakter olarak çiziliyor. Ve ben o karakterleri ne okumasını biliyom. Ne de o karakterleri bir kağıda çizmesini. Bana gelen kelimelerin uzunluklarına göre bir harflere eşitledim. O harfleri birleştirip kelimeleri buldum. O kelimelerin bana verdiği bilgiler ile. Hayal ederek VGA'ya çıkabiliyorum. 26 yaşıma kadar siyah üzerine siyah olarak hayal ettim. Bir renge siyah diyorlar başka renge mavi diyorlar. Aynı gözüküyor. Ama ben hangisinin siyah hangisinin mavi olduğunu biliyorum. Onlar o renge öyle söyledikleri için biliyorum. O renkten benzer olan bir rengi de gösterselerde yine rengin ne olduğunu biliyorum. Renkli ve çok aydınlık bir rüya sonrası hayal gücüm renklendi. Her yer aydınlık artık. Karanlık yok. Ben nasıl hayal edersem öyle 6 renkli bir hayal. En parlak görebilecek şekilde hayal ediyorum. Gözlerimi kapatsamda açsamda fark etmiyor. Hayal etme sürem fark ediyor. Daha az bilgiyle daha az hayal edebiliyorsunuz. Daha çok bilgiyle daha çok hayal edebiliyorsunuz. Saniyede 10 farklı şekilde hayal ediyorum. Hangisi duruma göre gerçeğe daha yakınsa ona göre hareket ediyorum. Kendimi birden fazla kez hayal edip 1000 tane ihtimal birden görebilmekte süper. Durduğum yerde 6000 ihtimale kadar çıkabiliyor. Duruma göre 5 saniyede 1 ihtimale de düşebiliyor. Bana göre hayat 0.2fps ile 6000fps arasında akıyor. Hızlanınca süper yavaşlayınca kötü. Neden yavaşlıyor diye sorarsanız. Hiç görmediğim bilgi görürsem. İşlemek 5 saniyemi alıyor. Hiç görmediğim bir arabayı 5 saniye sonra görebilmek gibi. Görmesemde orda olduğunu biliyorum. Csgo'da keskin nişancıyla sis + flaş varken tam kafadan vurdum. Rakip hile dedi raporladı. Silahta takım arkadaşınındı. Yoldaşta oyun tekrarı olsa kaydını alabilirdim. Rekabetçi oynayamıyorum. Banlıyorlar. Direk oyundan atıyorlar. Hile diyorlar. Oyundaki davranışlarımı beğenmiyorlar. Bana bilgisi gelecek ben hayal edicem sonra vurucam. O zamana kadar sağ kalırsam. Sağ kalmam için sis içi yada flaş lazım. Sonuçta sis ve flaşı hayal etmiyorum. Neyi hayal edip neyi hayal etmeyeceğimi ben seçebiliyorum. Oyuna sanal sadece benim görebildiğim botlar koyuyorum. Bunların hepsini aklımda yapıyorum. Ben onları vurmaya çalışıyorum. Rakipte onlara denk gelirse prefire yazıyor. Önceden ateş gibi birşey. Rakibin şansı olmuyor. Ben olmayan hedeflere sıktıkça bizim takım deliriyor. Trol deyip atıyorlar. Keşke onlar kendilerini benim yerime koysalar. 6 saniye ekran geçikmesiyle oynasalar. Ben saniyede 6000 kare çizsemde ilk kareyi görmem 6 saniyemi alıyor. Böyleyken ben csgo'da nasıl önceden ateş etmezsem hedefi vurabileyim. Birde hedefin yerini de tahmin doğru tahmin etmekte önemli. 1THZ işlemci Toplam ön bellek 100 bit. 26bit ön bellek donanıma ayrımış. (Trafik kazasında donanıma ayrıldı yada bozuldu. Kullanamıyorum.) 74 bit kullanılabilir. Toplam RAM 32MB. 1MB bellek sisteme ayrıldı. 31MB kullanılabilir ama. (2MB'tan fazlasını kullanabilecek olay olmadı.) 8GB'ta kadar aklımın dışına taşdığım durumlarda oldu. Kağıt kalem ile. Aklımda yer yok. Ama kağıtta var. Oraya yükler uygulama çalıştırabilirim. Bu RAM'da veriler öyle bir saklanıyor ki? Yeri geliyor. Her karakter 1 bit yer kaplarken yeri geliyor. Her karakter 1GB yer kaplayabiliyor. Bu benim aklımın karmaşıklığı. Hard disk ise 28 yaşımda tekrar çalışmaya başladı. Ama sorun şu ki? Oraya verileri nasıl yazacam. Şu anlık 8 yaşımdan öncekilerin verisini okumakla meşkulüm. Sonrasında veri yok zaten. Okuma ve yazma hızı 2 bit. İşlemci ön belleğinde her işlemde 100 bit veri yazılıyor 74 bit verisi okunabilir oluyor. Ve sonraki işlemde tekrar üstüne veri yazılıyor. Saniyede 1 milyar kez işlem yapılabiliyor. En son yapılan 900 milyar kez önceki işleme kadar tekrar yapabiliyorum. Bir nevi silinenen veriyi kurtarmak gibi. 15dk dolunca ve veriyi tekrar etmezsem unutuyorum. Bu yüzden sürekli bir tekrar içerisindeyim. Birşeyler öğrenirken nedense uykum geliyor ağırlaşıyorum. Bunu çözmenin yolu var mıdır? 100 bit alana 90 PB sığdırmışımdır. Verileri yazma ile sorunum yok. Verileri tekrar okuma ile sorunum var. 15dk sonra veri yazdığım yerde okunabilir olmuyor. Tüm veriler her zaman okunabilir olsa ne güzel olurdu. Her zaman okunabilir yere 2 bit hızında nasıl veri yazacam? Bir yanda sürekli veri geliyor. Ben saniyede 1 milyar işlemlik veri çözebiliyorum. O dünyamda o kadar hızlı çözerken bu dünyada işlemleri doğrudan çözemiyorum. Örneğin #00+#00=#0000 bu veriyi 15dk içinde okursam 2+2=4 diye okuyorum. 15dk sonra okumak istersem #00000000=8 oluyor. 15dk zaman sonra 74026?'ye dönüşüyor. Ve hangi işlem olursa olsun. Uzun zaman sonra tüm işlemler #74026? Değerini veriyor. Ve bu değer benim için kurtarılamaz veri bloğuna dönüşüyor. 0 ile 1(#) dersek. Bende 1'ler zaman içinde kayboluyor. DVR gibi kaydeden aklım sadece 15dk aklım olması ne kötü. 15dk'da 160 yıl veri var. Her geçen zaman artıyor. Rüyalarda daha hızlı artabiliyor. Uyanıkkende artabiliyor. Dakikalar içinde yaşamadığım geçmişime gidip tekrar geldiğimde o yıl verisi artabiliyor. Ve bu geçmişler benim duygularımı etkiliyor. Grafik bağdaştırıcım devre dışı adı #?????? diye gözüküyor. Temel görüntü biriminde hayal ederek görmeye çalışıyorum. #000000 adı. 2TB paylaşımlı bellek. Görebildiklerim 2TB'tı aşmadığı sürece görebiliyorum. Aşarsa #0'lardan başka bir şey göremiyorum. Hayal bile edemiyorum. O gördüklerimi. Arabanın toz filtresini göremiyorum. Ne kadar uğraşsamda göremedim. Görmeye çalıştığım veri sürekli değişiyor ve yakalayamıyorum. Resmini bile çektim ordan bakarak göreyim diye orda bile hareket ediyor göremiyorum. Tek bir beyaz yatay çizgi yukarıdan aşağı kayıyor olarak görüyorum. Baktığım sürece tekrar tekrar kayıyor olarak görüyorum. Algısal körlük videolarını da göremiyorum. Biri o videoyu benim yerime izler ve bana anlatırsa görebiliyorum. Bazı durumlar olabiliyor. Anlatılsa bile göremiyorum. Ellerim ile dokunarakta görebiliyorum. Her yere dokunarakta görme gibi şansımda yok. Bu aklımı bilgisayara koyabilmek istiyorum. 1 disk 100 sanal disk şekilde mi iyi olur? Maliyeti az hızı yavaş olabilir. 100 disk = 1 disk şekilde olsa maliyeti çok ve hızlı. 100 disk olacakta hepsini fiziksel yada sanal yapacam. Ram'siz çalışabilecek şekilde yapabilirsek süper olur. Direk express X16'da çalışabilecek bir hafızada olsun.
@yavuzyilmaz917
@yavuzyilmaz917 5 ай бұрын
Üşenmedim ve sonuna kadar okudum, net olarak bali kafası 😊
@SADIK25000
@SADIK25000 5 ай бұрын
@@yavuzyilmaz917 8 yaşında kafama aldığım darbeler sonucunda beynim uyuşmuş ve hayata karşı %100 duyarsız olmuşum. Bu duyarsızlık aynı zamanda istemsizce mutlulukta veriyor. Hayata her zaman pozitif bakıyorum. Okuduğun için teşekkürler sence benden patron olur mu? Evdeki bilgisayarın HDD'si bozuldu. Aynı aklım gibi. Sürte sürte dönüp çok ısınıp sonra kendini diskten çıkarıyor. Şuanlık bilgisayarda WinPE işletim sistemi kullanıyorum. 32GB bir flashtayım. 13GB yer var. Gerekli kodları bulursam boş alana sürücü yükleyecem oraya da windows 10 kurucam. Bilgisayarı artık HDD'siz kullanıcam. 5000₺ paramın yarısına HDD alsam gelecekte 1 milyon ₺'ye yükselecek paranın yükselme ihtimali kalmıyor. Toplam enflasyon %1800'lerde. Benim kazanç %700'lerde enflasyonu yenersem üzerine 1 tane WD RED 2TB HDD parası kazanırsam 1 tane almayı düşünüyorum. WinPE Windows 10'dan %33 daha hızlı. Windows 10'da winrar hız testi puanlarında tek çekirdekte 1000 çok çekirdekte 3500 puan alan bilgisayar. WinPE'de tek çekirdekte 1333 çok çekirdekte 5400 puan aldı. İşlemci kullanımı %80 ile sınırda kalıyordu. İşlemcimi 1 ay boyunca aralıksız 12600MHZ'de kullandıktan sonra hata yapıp çöktüğünden beri %80 kullanıyorum. Gerekli kodları bulabilirsem WinPE için o işletim sisteminde 4200MHZ yerine 12600MHZ'ye çıkarcam. Sonuçları 3'e çarpardım. WinPE'yi windows 10 gibi özelliklere kavuşturup hızdan kaybetmezsem GTA5'te 240fps yerine 320fps alabilirim. Tek sorun şuanlık HDD alacak param olmayışı. 6150₺ ile 23 yıl yaşamayı düşünen biri maaşını ailevi sorunlar yüzünden 1 yıl sonra 1000₺ olarak alan biri bu ilk ve son maaşıyla ömür boyu yaşayabilir mi? Parayı aldığım zamandan bu yana giderlerim %1800 arttı. Yıllık 100₺'ye girdiğim internet 1800₺ oldu. 1000₺ param ise %700 artarak harcanmamış hali 7000₺ oldu. Şuan 5000₺ civarında dolaşıyor. 5000₺÷1800₺=2 yıl ömrüm var gibi zam gelmezse. Enflasyonu yenebilirsem parasal sorunlardan kurtulup kendi işimin patronu olucam. 5000₺ parayla bu türkiye şartlarında kaç yılda patron olabilecek bütçeye ulaşırım yada tam tersine açlıktan ölürüm? Sonuçta insan kaynaklarının değerlendirilecek yer bulamadığı en işsiz insanım. %51 zihinsel engelli hayatı sadece teorik bilgi ve hayal gücüne dayanan pratik bilgi ve deneyimi olmayan biriyim. Milyonlarım olup kendime iş yeri açıp orda pratik bilgi ve deneyim kazanıp sonra iş yerlerine başvuramadığım için pratik bilgi ve deneyimsizlikten kimse işe almıyor. Bir gün milyonlarım olursa pratik bilgi ve deneyim kazanmak için iş yeri açıp çalışacam. Milyonlarım olursa başka işyerinde işçi olmak için çalışır mıydım? Çalışırsam hobi amaçlı çalışırdım yada çalışmazdım. İşe girmek bile benim hayal gücümde kısır döngü içinde. Yine okuduysan teşekkürler. Sorulara cevap verebilirsen verdiğin cevaplara göre hikayemi hayal edip tekrar yazarım. Sonuçta hikayem şuan yaşadığım hayattan esinlenilmiş. TV'deki yakın zamandaki tüm diziler gibi gerçek hayattan esinlenilmiş. Belki benimde dizimi yaparlar tüm yazdıklarımı bir araya getirip dizi çekmeye kalkarlarsa?
@tunahanakay5279
@tunahanakay5279 2 жыл бұрын
google İslemcilerinde floorplanningde yapay zekadan yardim aliyor galiba gelecekte bu yapay zeka bize meslek birakmayacak.
Kafanızdan Büyük Yonga: Cerebras
29:13
Oğuz Ergin
Рет қаралды 3,2 М.
Yongadaki Casus: Donanım Truva Atları
29:51
Oğuz Ergin
Рет қаралды 6 М.
LOVE LETTER - POPPY PLAYTIME CHAPTER 3 | GH'S ANIMATION
00:15
Children deceived dad #comedy
00:19
yuzvikii_family
Рет қаралды 8 МЛН
Yapay Zeka'nın Bugünü ve Geleceği
41:56
Oğuz Ergin
Рет қаралды 7 М.
M1 Pro ve M1 Max ile Bilgisayar Mimarisinde Ne Değişiyor?
49:26
Bir Kuantum Mucizesi - BOSE-EINSTEIN Yoğunlaşması
10:37
Bebar Bilim
Рет қаралды 177 М.
Hayalini Yorganına Göre Uzat | Acar BALTAŞ | TEDxAnkara
18:43
TEDx Talks
Рет қаралды 1 МЛН
Öğrenmeyi Öğrenmek
11:41
Oğuz Ergin
Рет қаралды 7 М.
Kendi kendine saklambaç öğrenen makine
10:15
Barış Özcan
Рет қаралды 752 М.
Yapay Zeka İnsanları İşsiz Bırakacak mı?
35:17
Oğuz Ergin
Рет қаралды 6 М.
Yonga (Çip) Nedir? Krizi Nedir? Geleceği Nedir?
44:00
Oğuz Ergin
Рет қаралды 4,4 М.
Secret Wireless charger 😱 #shorts
0:28
Mr DegrEE
Рет қаралды 2,5 МЛН
В России ускорили интернет в 1000 раз
0:18
Короче, новости
Рет қаралды 1,3 МЛН
Худший продукт Apple
0:53
Rozetked
Рет қаралды 135 М.
Игровой Комп с Авито за 4500р
1:00
ЖЕЛЕЗНЫЙ КОРОЛЬ
Рет қаралды 1,8 МЛН