Grundsätzlich richtig, aber es gibt ein paar Nachteile die konzeptionell zu berücksichtigen sind, also ggfs. andere oder weitere Varianten der ReLu erfordern oder andere Vorgehensweisen. Beispiele: -Dead Neurons: Manchmal können Neuronen inaktiv werden und nie wieder aktiviert werden, wenn sie einmal einen negativen Wert annehmen. Nicht gut. -Exploding Gradients: In sehr tiefen Netzwerken können die Gradienten zu groß werden und das Training destabilisieren. Auch nicht gut. -Wenig bis kaum relevant (ehrlicherweise): Nicht-differenzierbar bei Null. ReLU ist an der Stelle Null nicht glatt (hat keinen definierten Anstieg), was aber in der Praxis selten ein Problem ist.

Vielen lieben dank für diese ausführliche Erklärung <3 Ehrenmann Achja, und das Video war super

Diese werden zunächst mit Zufallswerten besetzt. Dafür gibt es auch eigene Libraries zum Beispiel von NVIDIA, damit die wirklich zufällig sind. Im weiteren Verlauf werden diese dann präzisiert. VG, Udo

Danke für das Lob, das freut mich! 😊

Hallo Herr Huber, ich stehe gerade noch auf dem Schlauch mit den Werten, die Angabe war bei 35:59 aber da habe ich diese Werte nicht. Übersehe ich da was? Generell ist es so, dass diese Darstellung natürlich anschaulich vereinfacht ist, damit man das nachvollziehen kann. Da wir wissen, dass wir ein X in der Eingangsinformation haben, ist die Abstimmung hier auch am stärksten. Ausgehend von den Werten, die auch die Pixeldarstellung für das X am stärksten repräsentieren.

Das freut mich, vielen Dank für das positive Feedback. Vielleicht für später mal: ich bin gerade in Cannes auf dem WAICF, dem weltgrößten AI Festival. Da gibt es so ziemlich "alles" in Bezug auf aktuelle KI Entwicklungen zu sehen. Bis dahin auf jeden Fall noch viel Spaß mit den Videos. Es werden noch weitere folgen aber aktuell fehlt mir leider die Zeit. Aber generative KI ist bereits in Vorbereitung.

Vielen Dank. Es kommen weitere, nur spannt mich gerade das aktuelle Thema Generative KI beruflcih stark ein. Aber ist auf dem Radar

Ich habe nie behauptet, das es einfach ist ;)

Ich schaue mir das mal am Wochenende an

Ganz tolles Feedback, vielen Dank dafür! :) Das freut mich!

Vielen Dank für das motivierende Feedback!

Danke für das tolle Feedback! :)

Noch nicht. Leider war das Jahr ziemlich busy (Beruf aber auch mein SmartHome, welches ich extrem ausgebaut habe. Überlege gerade, hier vielleicht einen Kanal zu machen), so dass ich mich noch nicht drum kümmern konnte. Im Herbst schaut es besser aus, dann habe ich wieder mehr Zeit das anzupassen. Ist tatsächlich eine Baustelle da Nvidia einiges aktualisiert hat und auch diverse andere Pakete aktualisiert werden müssen. Ich habe das im Blick, kann aber kurzfristig noch kein Update liefern.

Hallo Udo, vielen Dank für die schnelle Antwort. Dann bleibt es eben (zumindest bis auf Weiteres) erst mal bei dem Software-Stand aus Deinem Video. Ist ja kein Problem für den Beginn. Eine kurze Frage hätte ich noch. Würde aus Deiner Sicht hier ein Jetson Nano von der Performance her ausreichen oder wäre ein Jetson Xavier besser geeignet? Ich möchte gerne mehrere Kamera mit Objekterkennung betreiben. Viele Grüße

Der Nano macht IMO nicht wirklich Spaß, bei mir hat der auch nicht sehr lange gehalten. Entweder den NX oder Orion NX. Hängt auch immer mit dem finanziellen Budget zusammen, was man dafür ausgeben möchte. Oder eine Nvidia Karte für den PC und dann Linux installieren (wie in den Videos zu sehen) Nano also eher nicht

Hallo, gute Frage, danke dafür :) In diesem Kontext ist es das letztlich das Gleiche. Dazu habe ich einen Link, bei dem dieses Thema sehr ausführlich diskutiert wurde: stats.stackexchange.com/questions/154798/difference-between-kernel-and-filter-in-cnn/188216#188216 Streng genommen ist letztlich eine Konvolution die Anwendung eines Filters, welche die (Aktivierungs = Feature) Map bildet.

Vielen Dank, das freut mich :)

Danke schön. :) Das nächste Thema wird, ja klar, generative KI zum selber bauen

Das freut mich sehr! Alles Gute für die Abschlussarbeit :)

Das stimmt. Leider ein Tippfehler, daher habe ich den Video "Fragen und Antworten - Basiswissen Neuronale Netze" als Ergänzung dazu gemacht. Dort habe ich das korrigiert und auch weitere Fragen und Antworten berücksichtigt.

Das Netz lernt in diesem Beispiel generell Pixelkombinationen und deren Erklärung (ist ein L, ein Strich etc.) andererseits. Danach funktioniert das auch mit unbekannten Mustern. Das Beispiel mit 4 Pixeln ist relativ trivial wenn man sich Bilder z.B. in HD demgegenüber vorstellt. Entscheidend ist das Grundverständnis: Ein System lernt Pixelmuster und die dazu gegebenen Erläuterungen zum den jeweiligen Mustern ("was zeigt das Muster: L " oder was auch immer), bildet daraus Zahlenwerte (das Modell) und kann dann ähnliche Bilder ohne Erläuterung zuordnen, in dem das unbekannte Bild in Zahlenwerten analysiert wird und geprüft wird, ob es ähnliche, bereits gespeicherte (gelernte) Muster gibt die dann eine Prognose auf das neue Muster/Bild erlauben (Wahrscheinlichkeit). Das Geniale dabei ist, dass die Werte in dem Modell aufgrund der Eingangsinformation gebildet werden und dann Muster erkannt werden. Trainiert man zum Beispiel Katzenbilder, dann können nach dem Training idealerweise auch unbekannte, nicht trainiere Katzenbilder analysiert werden. Trainiert man Hunde, dann halt Hunde, oder Autos oder was auch immer. Das macht KI so flexibel

Linux ist da durchaus etwas aufwändiger, insbesondere wenn Pakete wechseln und dann bestimmte Abhängigkeiten existieren. Ich schaue mir den Script an und passe die erforderlichen Stellen an. Allerdings ist gerade viel los und das kann vermutlich eher März werden. Dann sollte das aber relativ einfach sein. Das Gute an Linux, meiner Meinung nach, ist die Tatsache dass man wirklich den Rechner kontrollieren kann und nicht irgendwelche Funktionen drin hat, die dauernd irgendwas an irgendwelche Cloud-Dienste schickt. Das gibt es zwar durchaus auch kann aber vom System unterbunden werden während bei anderen Betriebssystemen das von den Herstellern bereits fest eingebaut ist. Insofern mag ich Linux und benutze privat eine ARCH Variante.

​@ Ich würde mich auf jeden Fall sehr freuen, wenn die Stellen angepasst sind. Dann schaue ich mal in wenigen Monaten hier nochmal rüber. Bis dahin versuche ich ein bisschen mehr in Linux einzuarbeiten.