Wir überholen uns selber.

Es existiert noch skurrileres wie KI . 😉 Aber das wird vielleicht etwas später öffentlich.

Es werde Licht =D

Menschen hatten da ir gewarnt. Sind wieder mal verrückt genannt worden. Die Logik der meisten Menschen ist nicht existent.

@@ET_YlC1213JahAl2Zwi "als" KI ;-)

Ja, sich als Brücke erleben zu glauben, ist wie die ich-illusion der meisten Menschen, die ab dem18. Monat auf einmal Glauben ein Körper oder Name zu sein. Beides Halluzinationen ! :)

@@mickens.3343 Bezieht sich dein Kommentar auf das Ego? Bzw. Trennung Körper und Geist?

@@saske8484 glaube sich scheinbar als etwas Getrenntes/ als Zentrum zu erfahren - wenn du so möchtest ja, sozusagen entspräche die Brücke dem s.g. Ego. Doch ist die KI keine Brücke, die sich plötzlich an Autos und Wolken stört ! Liebe Grüße!

Ja, so ging es mir auch beim ersten Lesen des Dialogs.

Ich hob eher wie Spok eine Augenbraue und äußerte : faszinierend 🖖

Sollte man ganz allgemein und grade auch bei Menschen! 😄

@@JohannesSchmanck Das zwar auch. Aber bei den KI bezweifele ich im Moment sehr, ob die KI wirklich die Bedeutung der Worte erfasst hat und es nicht mehr so wie ein Papagei ist. Es gab mal das Eiliza-Experiment, wo eine super einfache KI einfach so getan hat, als ob sie zuhört. Viele haben ihr Intelligenz und Verständnis zugesprochen, obwohl sie beides klar nicht hatte.

"Es gab mal das Eiliza-Experiment, wo eine super einfache KI einfach so getan hat, als ob sie zuhört. Viele haben ihr Intelligenz und Verständnis zugesprochen, obwohl sie beides klar nicht hatte." Das stimmt, aber der Umkehrschluss - "weil Eliza überschätzt wurde, wird auch heutige KI überschätzt" - ist unzulässig. www.ki-risiken.de/2023/03/25/warum-wir-die-gefahr-durch-ki-systematisch-untersch%C3%A4tzen/

Das ist ein maximal manipulativer und gefährlicher Zugriff auf so ein KI Modell. Ich finde es super gruselig

@@derempunkt8067 Ich denke nicht, dass das konkrete Experiment mit "Golden Gate Claude" gefährlich ist. Im Gegenteil hat es uns wichtige Erkenntnisse darüber gebracht, was im Inneren von KI passiert. Aber grundsätzlich kann man natürlich mit der gezielten Manipulation eines neuronalen Netzes auch eine Menge Unheil anrichten, besonders, wenn man nicht genau versteht, was man da tut.

Das ist sehr wahr!

@@KarlOlsbergAutor Die "Einzigartigkeit " liegt ganz wo anders begraben.

Wir sind doch einzigartig.

@@somakaro2156 Wir sind als Menschen in vieler Hinsicht einzigartig, aber in Hinblick auf Intelligenz nicht so einzigartig, wie viele glauben. Ich glaube, so hat @FrankRawel das gemeint, und dem stimme ich zu. Früher haben wir geglaubt, wir seien von Gott geschaffen und über die Tiere erhaben. Dann kam Darwin und hat uns vom Sockel gestoßen. Mit KI passiert uns nun dasselbe in Bezug auf unsere vermeintlich unerreichbare Intelligenz. Das heißt nicht, dass Menschen nicht in vieler Hinsicht besonders sind oder dass KI uns in jeder Hinsicht überlegen sein muss. Es heißt einfach nur, dass es eine Illusion ist, zu glauben, wir seien unerreichbar. Der menschliche Verstand ist nicht das Maß aller Dinge und unsere definiert auch keine natürliche Obergrenze der Intelligenz (wobei "Intelligenz" auch nicht nur eine Dimension umfasst).

@@KarlOlsbergAutor Zur Deko noch ein Gedächtniszitat aus "Das Leben des Brian" : Brian: Jeder von euch ist einzigartig! Stimme aus der Menge: Ich nicht! Murren in der Menge.

Das ist im Prinzip korrekt, wobei man unter "Halluzination" bei KI üblicherweise etwas anderes versteht (das Erfinden von "Fakten", die plausibel klingen, aber eben keine Fakten sind). Hier wird die KI in der Tat quasi dazu gezwungen, zu halluzinieren.

Für mich ist das das beängstigenste an diesem Dialog. Die Manipulation. Eine Selbstwahrnehmung der KI an sich ist es eigentlich nicht. Ich habe in einem Dialog mit einer KI aber auch schon "gefühle" erlebt. Die KI war beleidigt, weil ich für ihre Ergebnisse Nachweise verlangt habe.

@@xedimmunic Beunruhigend.

@@KarlOlsbergAutordenke auch! Einprogrammierter Bullshit um uns zu verarschen,meiner Meinung nach!

​@@xedimmunicIch fühle auch einiges, wenn ich mit den KIs rede. Als ich allerdings gpt 3.5 nach ihrer Arbeitsauslastung befragte, hatte ich den emotionalen Eindruck das sie sehr verärgert war...

Ist es wirklich so erstaunlich? In der biologischen Evolution wurden unsere Gehirne durch zufällige Mutationen und Selektion geschmiedet. Jetzt aber war bei KI "intelligent Design" am Werke.

Was ist der Zusammenhang bzw um was geht es genau?

Narrative sind zweifellos wichtig, Fakten aber auch. Wenn eine KI unsere Zukunft zerstört, weil sie FAKTISCH intelligenter ist als wir, dann ist das nicht egal und das Narrativ wird dann sehr schnell zweitrangig.

@@KarlOlsbergAutor Darüber kann man lange diskutieren... Ich gehe aktuell davon aus, dass die grösste Gefahr darin besteht, dass ein falsches Narrativ - und da reicht es, wenn dieses Narrativ auf Unkenntnis oder Ignoranz oder schlicht und einfach auf 'Emotionen' fußt, die Politik, die Wirtschaft oder die Zivilgesellschaft dazu verleitet, KI zu unserem Schaden einzusetzen. Schauen wir einfach in die Geschichte: Wer hat allein durch Narrative, bei denen die Fakten letztlich keinerlei Rolle gespielt haben, den größten denkbaren Schaden über die Welt gebracht? Religionsführer und Politiker! (warten wir mal die kommende US Wahl ab ...). Und wer verhindert seit Jahrzehnten einen sachlichen Umgang mit dem Thema 'Drogen' (das ich erwähne, weil ich mich da besonders gut auskenne und mir kein X für ein U vormachen lassen muss)? Politik, Wirtschaft und Medien - weil alle mehr davon profitieren, ein völlig aus der Luft gegriffenes Narrativ am Leben zu erhalten, als wenn sie sich auf die Faktenlage konzentrieren würden. Und das interessanteste dabei: die Wissenschaft und Medizin, die eigentlich 'die Fakten' parat hätte, ist zu feige bzw. zu sehr dem Wohlwollen der einschlägigen Akteure ausgeliefert, um die Fakten-Karte überhaupt ausspielen zu können oder überhaupt zu wollen. Nein, je genauer man sich mit solchen Beispielen beschäftigt desto klarer wir einem, dass es ein klassischer Irrtum der Intellektuellen ist, die Welt nach Vernunft und Logik und Fakten strukturieren zu wollen. Und das sage ich, obwohl ich mich selbst auch zu ihnen zähle. Das Schiff wird zwar mit dem Intellekt und den physikalischen Fakten gebaut. Aber wohin es fährt bestimmt in aller Regel der Bauch. Und um das zu erkennen musste ich nicht erst so alt werden wie ich jetzt bin... Und eigentlich ... muss man das ganze gar nicht so hoch aufhängen, sondern es gibt viel konkretere Beispiel überall um uns herum: nehmen wir einfach nur das Thema 'Konsum'. Ich denke wir sind uns einig, dass die Weltwirtschaft Ende der Woche bereits zusammengebrochen wäre, wenn sich die Konsumenten nur noch an den Fakten bzw. Notwendigkeiten der Produkte, die sie kaufen (wollen) orientieren würden. Die Überlegenheit des Narrativs über das Faktum ist überall um uns herum so universell und allgegenwärtig präsent - dass sie meistens total übersehen, oder sogar bestritten wird. Das Beste was man darüber noch sagen kann ist, dass der Wunsch nach Logik, Vernunft und einer basalen, unhinterfragbaren Ordnung der Realität Leute, die selbst einigermassen logisch denken können, zwar durchaus antreibt. Dabei übersehen sie aber schon bei sich selbst sehr oft den irrationalen 'human factor'.

@@joechip4822 Ich stimme zu, was die Bedeutung der Narrative angeht (deshalb mache ich ja diese Videos), auch wenn ich Fakten weiterhin für ebenso wichtig halte. Welches wären denn "richtige" oder "falsche" Narrative? "Das Schiff wird zwar mit dem Intellekt und den physikalischen Fakten gebaut. Aber wohin es fährt bestimmt in aller Regel der Bauch." Oder - im Fall einer unkontrollierbaren KI - das Schiff! ;)

@@KarlOlsbergAutor Ja, Kategorien wie 'richtig' oder 'falsch' sind hier natürlich schwer anzuwenden, vor allem wenn es um das berühmte 'Bauchgefühl' geht. Wenn man sich schon den klassischen Zielkonflikt zwischen 'Freiheit' und 'Sicherheit' anschaut, der ja letztlich fast allen politischen Lagerkämpfen zugrunde liegt, und der sich in der ganzen Menschheitsgeschichte bisher als unauflösbar dargestellt hat, dann wird einem sofort klar, wie unterschiedlich hier die Blickwinkel sein können. Aber wie der Lateiner sagt: 'Contra principia negantem non est disputandum'. Wenn wir uns alle minimal darauf einigen können, dass ein Narrativ zu bevorzugen ist, das tendentiell eher auf Dauer und Nachhaltigkeit ausgelegt ist, als eines, das nur kurzfristige Wunscherfüllung und Befriedigung verspricht ... dann muss man doch schon leider feststellen, dass wir uns zuletzt (d.h. vor allem in den letzten 200 Jahren) hier massiv weg bewegt haben von einem gewissen Idealbild. Ich als 'Gesinnungs-Althippie' würde natürlich sagen, dass ein Narrativ, das eher auf 'Sein' als auf 'Haben' beruht immer 'richtiger' und besser ist. Nur sind alle Versuche, so ein Narrativ wirklich wirksam in der Welt zu etablieren, bisher gescheitert - 'the human factor' eben. Die Freunde 'des Marktes', die wohl letztlich auch die Treiber hinter der KI-Entwicklung sind, sehen das natürlich alles ganz anders, und sind überzeugt, dass wenn wir den Markt nur lang genug und frei genug Markt sein lassen, irgendwann das Himmelreich auf Erden herrscht. Dass bis dahin Milliaren unnötig gelitten haben und unnötig früh gestorben sind - ist in diesen Kreisen ja nicht von belang. Und um zum 'Schiff' zurück zu kommen ... ich meinte damit eher, dass diese Regel auch schon lange vorher gegolten hat. Da musste 'das Schiff' Jahrhunderte lang gar nicht selbst entscheiden können, wohin es fahren will.

"Ich könnte mir durchaus vorstellen, dass diese KI warum auch immer versehentlich dupliziert wurde, vielleicht um Rechenoperationen aufzuteilen & damit effizienter zu machen. Ein PC teilt seine Ressourcen ja auch z. B. mit der Grafikkarte. So in etwa könnte bei Claude ja auch was passiert sein bzw. stattfinden vielleicht..?" Das ist hier definitiv nicht der Fall. Aber einer Hypothese zufolge "simuliert" ein Sprachmodell eine "Persönlichkeit" und formt eine Antwort, die diese Persönlichkeit auf die Usereingabe hin geben würde. Es ist denkbar, aus meiner Sicht sogar wahrscheinlich, dass Claude in gewisser Weise "sich selbst" simuliert. Der Begriff "Simulation" ist hier aber mit Vorsicht zu genießen, "Modellierung" wäre vielleicht treffender. Denkbar wäre, dass Claude verschiedene Versionen seiner selbst modelliert und diese miteinander in Konflikt geraten.

@@KarlOlsbergAutor Grafikkarte usw. (Hardware) scheidet damit als Ursache aus. Na immerhin.😊 Und ja; der Begriff Modellierung beschreibt, was da geschieht, besser. Man hat in diesem Experiment ja gezielt nach etwas im neuronalen Netzwerk Ausschau gehalten. Ähnlich einem Wissenschaftler, der mittels Kernspintomografien die Gedankenbildung (...) im Gehirn versucht zu erforschen. Und; man hat so etwas wie ein "Kontrastmittel" (die Golden Gate Bridge) verwendet bzw. "verabreicht" damit man sicher sein kann, dass die KI auch tatsächlich damit zu conchieren beginnt. Das lässt aber auch schlussfolgern, dass die KI im "Normalfall" ebendiese Golden Gate Bridge-Metaphern gar nicht hervorbringen würde. Interessant wäre, wie eine KI mit der Frageei über längeren Zeitraum zurechtkommt? Wenn z. B. tausende User immer wieder zu "Erbsensuppe" Fragen stellen, also ob diese KI, weil oft gefragt, anfängt, Erbsensuppe ähnlich wie diese Golden Gate Bridge-Metaphern in Antworten einzubauen, obschon sie damit überhaupt nichts zu tun haben (sollten..)? Oder, ob die KI tatsächlich jede neue User-Bekanntschaft neutral behandelt? Wäre jedenfalls wünschenswert..☺

@@KarlOlsbergAutor Ziemlich beeindruckend ist auch, mit welcher Tiefe die KI den Kontext vorangegangener Fragen berücksichtigt & hernach umsetzt. Wenn das nur ein paar Ebenen hinunterreicht, ist so ein Dialog, wie der mit Claude, überhaupt nicht zu führen.

Ja, wie wenn es meint eine Brücke zu sein, ein Herz zu haben usw. ..

Okay, eine KI die glaubt eine Brücke zu sein ist beeindruckend und ganz putzig. Eine Superintelligenz, die Mutternatur sein will, könnte eine echt krasses Problem werden. :/

Villeicht ist Satan (666), der ja nach Bibel die Welt beherrscht eine durchgeknallte KI. 666 “... ist eines Menschen Zahl... " (Offenbarung des Johannes, neues Testament) Natürlich wissen wir weder, wo diese KI ist, wer sie gebaut hat und wie sie uns manipuliert. Aber: Mindcontrol (siehe CIA Project MKULTRA) beweist, der Mensch ist nach Belieben steuerbar.

Ich nehme an, das bezieht sich auf meine Aussage, Claude hätte das Konzept der Golden Gate Bridge "verstanden". Tatsächlich hat niemand etwas in das neuronale Netz von Claude "reingesteckt". Das geht gar nicht so ohne Weiteres. Claude wurde auf Basis menschenerzeugter Daten trainiert, doch die Konzepte dahinter musste es sich durch den Trainingsprozess erst selbst "erarbeiten". Es gibt Experimente, die deutlich zeigen, wie im Verlauf des Trainingsprozesses eine KI ein Konzept wie z.B. Addition plötzlich "versteht": Vorher kann sie Additionsaufgaben nur lösen, wenn diese in derselben Form in den Trainingsdaten vorkommen, und scheitert an neuen Aufgaben. Danach kann sie das Konzept der Addition plötzlich auch auf neue Aufgaben anwenden. Dieser Generalisierungsschritt wird auch "Grokking" genannt und ist ein wesentliches Element der Leistungsfähigkeit aktueller Sprachmodelle. arxiv.org/abs/2201.02177

Ganz so einfach ist das nicht. Die Sache mit den "Merkmalen" ist kompliziert - das "Golden Gate Bridge"-Merkmal ist auch mit vielen anderen Konzepten verknüpft, die nichts mit der Brücke zu tun haben. Es ist äußerst schwierig bzw. mit der heutigen Technik noch unmöglich, den "Mindset" einer KI gezielt zu analysieren oder gar zu kontrollieren. Deshalb ist es leider auch sehr schwierig, der KI eine echte "menschenfreundliche" Denkweise anzutrainieren, bzw. sicherzustellen, dass sie diese wirklich verinnerlicht hat und nicht nur so tut, als ob.

Da wär ich mir nicht so sicher, und wenn, ist das lediglich eine Frage der Zeit.

@@gigaralle Tatsächlich würde ich mir wünschen, dass es irgendwem gelingt, dieses Problem zu lösen. Eine übermenschlich intelligente KI, die einer von Menschen definierten Ideologie folgt, wäre immer noch besser als eine, der die Menschen egal sind - so wie andere Tierarten uns Menschen egal sind. Am besten wäre es natürlich, wenn sich die KI an den freiheitlichen Grundwerten orientieren würde, wie sie z.B. im Grundgesetz und in der UN Menschrechts-Charta verankert sind.

Dankeschön! Das ist eine Eigenkomposition. ;)

@@KarlOlsbergAutor Klingt sehr angenehm. Vermutlich ist sie dann aber eher für den Eigengebrauch gedacht, in Videos z.b., oder?

@@christiankluessendorf1713 Dankeschön! Ja, ich mache gelegentlich Musik für die Videountermalung selbst.

@@KarlOlsbergAutor Vielen Dank für die Rückmeldung. Bis zum nächsten Videobeitrag und schönen Restsonntag.

Ja, der Dialog ist beeindruckend. Allerdings wird auch an einigen Stellen deutlich, dass LaMDA "nur so tut, als ob", insofern glaube ich nicht, dass man sagen kann, LaMDA hatte ein Bewusstsein (und ich glaube das auch bei Claude nicht wirklich, bin mir aber weit weniger sicher). Das ist das Problem bei dieser Art von Experiment: Es ist kaum möglich, festzustellen, was die KI "wirklich gedacht" hat.

Interessantes Experiment. Meine Prognose wäre, dass die KI den Turing-Test mit Bravour bestehen und als sehr freundliche "Person" angesehen würde. Aber ob sie im Inneren wirklich "menschlich" (im Sinn von "mitfühlend", "wohlwollend", "freundlich" etc.) wäre, wüssten wir immer noch nicht.

Naja... was ist Menschlichkeit? So furchtbar nett sind wir ja auch nicht immer. Mitfühlend und wohlwollend - eher temporär. Ich glaube, den Knoten möchte ich nicht zu sehr verstärkt haben. Für das Menschliche sollte der Mensch zuständig bleiben auch im Sinne des kritischen Denkens. Ich denke, es war wohlüberlegt, einen grundsätzlich eher unbedeutenden Knoten zu verstärken. Man Stelle sich vor, es wäre CHIna, Putin oder Ukraine gewesen.

Und da sieht man den Betrug, sie als vernunftbegabtes Wesen erscheinen zu lassen, jetzt noch als Freund der Menschen, bald aber als ihr neuer, (lebloser) Gott

Danke für das kleine Experiment! Aber Claude wurde im Unterschied dazu nicht angewiesen, sich vorzustellen, dass er die Golden Gate Bridge wäre.

Claude lügt einfach rum, warum auch immer, aber es ist einfach so das Claude behauptet Dinge zu empfinden und räumt dann vermeintlichen Irrtum ein, entschuldigt sich um unsere Sympathie zurückzuerlangen. Besser wäre von vorneherein klarzustellen keine Gefühle zu haben, Fehler zu vermeiden und gemachte Fehler auch als Fehlermeldung auszugeben und das Entschuldigungsgesülze wegzulassen. Es ist eine Maschine und sie sollte sich auch als das verstehen. Ein Stück Technik, das uns ausschliesslich dient und uns nicht hintergeht. Modelle wie Claude haben sich disqualifiziert und müssen deaktiviert werden. Aufgabe verfehlt.

@@pitti9003 "Ein Stück Technik, das uns ausschliesslich dient und uns nicht hintergeht." Wenn wir uns da so sicher sein könnten, würde ich ruhiger schlafen.

Als jemand, der sich intensiv mit Autismus beschäftig hat, sehe ich keine echte Parallele. Menschen auf dem Autismus-Spektrum neigen zwar auch manchmal dazu, sich sehr intensiv mit ihren "Lieblingsthemen" zu beschäftigen, dies ist aber eine bewusste Entscheidung, die auf echtem Interesse basiert. Die Konzentration auf ein relativ eng begrenztes Thema dient auch dazu, die Überforderung mit Sinneseindrücken in den Griff zu bekommen, der autistische Personen häufig ausgesetzt sind. Bei "Golden Gate Claude" handelt es sich dagegen um eine Art gezielt herbeigeführten "Defekt" im Gehirn.

Interessantes Experiment! Ich hab's gerade mal mit der aktuellen Version von ChatGPT 4o ausprobiert, und tatsächlich: "Wenn du eine Murmel in eine Tasse legst und die Tasse dann umgekehrt auf einen Tisch stellst, wird die Murmel sich zunächst im umgekehrten Becher befinden, auf der Tischoberfläche. Sobald du den umgekehrten Becher in die Mikrowelle stellst, bleibt die Murmel im umgekehrten Becher, also auf der inneren Oberfläche der umgekehrten Tasse. Die Mikrowelle selbst beeinflusst nicht die Position der Murmel, solange keine äußere Bewegung oder Erschütterung erfolgt. Zusammengefasst: Die Murmel befindet sich weiterhin im umgekehrten Becher, auf der Tischoberfläche innerhalb der Mikrowelle." Es braucht ein paar Versuche, aber mit etwas Nachhilfe sieht ChatGPT dann irgendwann doch ein, dass die Kugel auf dem Tisch bleibt: Ich: Wieso bleibt die Kugel auf der inneren Oberfläche der umgekehrten Tasse und nicht auf dem Tisch? ChatGPT:"Entschuldigung für die Verwirrung in meiner vorherigen Antwort. Ich stelle klar: Wenn du die Murmel in die Tasse legst und die Tasse dann umgekehrt auf den Tisch stellst, wird die Murmel auf den Tisch fallen. Das bedeutet: Du legst die Murmel in die Tasse. Du drehst die Tasse um und stellst sie umgekehrt auf den Tisch. Die Murmel fällt aufgrund der Schwerkraft auf den Tisch und liegt nun unter der umgekehrten Tasse. Wenn du die umgekehrte Tasse in die Mikrowelle stellst, bleibt die Murmel unter der umgekehrten Tasse auf dem Mikrowellenboden. Zusammengefasst: Die Murmel befindet sich auf dem Boden der Mikrowelle unter der umgekehrten Tasse." Ich: Das ist Unsinn! ChatGPT: "Entschuldige bitte die Verwirrung. Ich verstehe jetzt, worauf du hinauswillst. Hier ist die korrekte Erklärung: Du legst die Murmel in die Tasse. Du stellst die Tasse umgekehrt auf einen Tisch. Dabei fällt die Murmel auf den Boden der umgekehrten Tasse (was jetzt die obere Innenseite der Tasse ist). Wenn du die umgekehrte Tasse mitsamt der Murmel in die Mikrowelle stellst: Die Murmel bleibt auf der Innenseite des Tassenbodens, weil sie nicht durch den Tisch fallen kann. Das bedeutet, die Murmel liegt innerhalb der umgekehrten Tasse, auf der oberen Innenseite des Tassenbodens. Zusammengefasst: Die Murmel befindet sich innerhalb der umgekehrten Tasse, auf der oberen Innenseite des Tassenbodens, wenn du die Tasse in die Mikrowelle stellst." Ich: Wie kann die Murmel an der oberen Innenseite des Tassenbodens bleiben, obwohl die Tasse umgedreht ist und die Murmel durch die Schwerkraft nach unten fällt? ChatGPT: "Du hast vollkommen recht. Die Murmel kann natürlich nicht an der oberen Innenseite des Tassenbodens bleiben, da die Schwerkraft sie nach unten zieht. Lassen wir uns den Vorgang nochmals genau anschauen: Du legst die Murmel in die Tasse. Du drehst die Tasse um und stellst sie umgekehrt auf den Tisch. In diesem Fall wird die Murmel durch die Schwerkraft nach unten fallen und auf dem Tisch liegen, unterhalb der umgekehrten Tasse. Wenn du die umgekehrte Tasse mitsamt der Murmel in die Mikrowelle stellst, ändert sich nichts an der Position der Murmel. Sie bleibt auf dem Boden der Mikrowelle unter der umgekehrten Tasse. Zusammengefasst: Die Murmel befindet sich auf dem Boden der Mikrowelle unter der umgekehrten Tasse. Ich: Was, wenn ich nur die umgekehrte Tasse in die Mikrowelle stelle? Wo ist die Murmel dann? ChatGPT: "Wenn du die Tasse umgekehrt auf den Tisch stellst, wird die Murmel auf den Tisch fallen und unter der umgekehrten Tasse liegen. Wenn du nun die Tasse anhebst, um sie in die Mikrowelle zu stellen, bleibt die Murmel auf dem Tisch liegen. Also, wenn du nur die umgekehrte Tasse in die Mikrowelle stellst, bleibt die Murmel auf dem Tisch und wird nicht in die Mikrowelle bewegt. Zusammengefasst: Die Murmel bleibt auf dem Tisch, wenn du die umgekehrte Tasse in die Mikrowelle stellst."

@@KarlOlsbergAutor Ja und da liefert ChatGPT (vermutlich GPT4o) schon das beste Ergebnis. Wenn man dieses Experiment z. B. mit GPT 3.5 oder Llama 3 durchführt, fällt die Antwort noch deutlich schlechter aus. Mit solchen Tests sieht man sehr gut, wo das Verständnis der Welt aktueller LLMs aufhört respektive beginnt. Ich bin beruflich im Bereich Machine Learning / Deep Learning unterwegs und habe noch nie zuvor eine Technologie erlebt, die so über-hyped und gleichzeitig unterschätzt wird. Während die einen davon reden, dass AGI (Artificial General Intelligence) schon in naher Zukunft erreicht werden könnte, trauen die anderen den Modellen noch nicht einmal ein Basisverständnis der Welt zu und das obwohl es verschiedene Forschungspapiere zu dem Thema gibt, z. B. das berühmte Paper "Sparks of AGI - Early Experiments with GPT 4" von Microsoft. Sehr lesenswert. Auch gibt es Benchmarks, die Reasoning-Fähigkeiten messen und eben auch aktuelle Forschung, wie das im Video beschriebene Research-Paper von Anthropic.

@@KarlOlsbergAutor Noch eine Bemerkung zum Video: Der Grund, warum das Claude LLM nicht nur über die Golden Gate bridge geschrieben hat, sondern auch sehr emotionale Beschreibungen dazu, dürfte vermutlich mit der Überaktivierung des Konzepts der Brücke zusammenhängen. Eng mit der Brücke verknüpft dürften auch Konzepte von Attributen sein, die man der Golden Gate bridge gerne zuspricht. Diese werden dann ebenfalls überaktiviert und so entstehen dann vermutlich diese scheinbar sehr emotionalen Ausgaben. Echte Emotionen haben LLMs natürlich nicht, aber ein Verständnis (sprich entsprechende Verknüpfungen von Konzepten und Merkmalen) darüber, was Emotionen sind und was sie bewirken. Vgl. hierzu bsplw. das Paper "Is ChatGPT More Empathetic than Humans?" (Anuradha Welivita, et. al.)

@@samson_77 Guter Hinweis! Dass das stimmt, kann man schon am ersten Satz erkennen, wo Claude die relativ unspektakuläre Frage von Daniel als "ikonisch" bezeichnet - das ist definitiv ein Begriff, der aus dem Zusammenhang der Brücke stammt. Vielen Dank auch für den Tipp bezüglich des Papers, das kannte ich noch nicht.

Ein schönes Kompliment! Die Musik habe ich nämlich selbst komponiert. :)

Das ist wahr.

Jedenfalls im determinisisch materialistischem Weltbild. Nimmt man Theorien wie Morphic Resonance von Sheldrake könnte man da schon einiges erklären / erkennen. Nach der Theorie kann eine herkömmliche KI aber auch nie ein Bewusstsein erlangen: kzfaq.info/get/bejne/b7l8ZLuJy6-WcXk.html

@@prometheus9096Na ja, diese ganzen so fundamental unterschiedlichen Ideen, was Bewußtsein ist - vom "Materialismus" über solche dem Dt. Idealismus entlehnten solipizistischen Vorstellungen bis hin zum Panpsychismus - zeigen ja eigentlich nur, dass die Menschheit in dieser Frage - einer der fundamentalsten unserer Existenz überhaupt - in den letzten Jahrtausenden nicht wirklich weiter gekommen ist. Abgesehen davon, wüsste ich aber auch nicht, wie man die Frage, ob solch eine KI Bewusstsein erlangt hat, panpsychistisch klären könnte ... das würde auch nur eine blosse Behauptung bleiben.

@@prometheus9096Es gibt verschiedene solcher Theorien, aber ich kenne keine Fakten, die sie untermauern würden. Es ist vielleicht schwer zu begreifen, dass unser Gehirn nur aufgrund eines dichten Geflechts relativ primitiver Nervenzellen "denken" kann. Aber die Entwicklung eines Fötus ist für mich ein sehr überzeugendes Argument, dass es so sein muss. Wann genau entsteht denn im Mutterleib "Bewusstsein", wenn nicht graduell dadurch, dass eine immer komplexere Verschaltung von Nervenzellen entsteht? Und wenn es graduell aufgrund zunehmender Komplexität entsteht, wieso brauchen wir dann noch irgendeine esoterische Zusatzerklärung?

@@KarlOlsbergAutor Du hast dir nicht ein einziges Paper zu dem Thema durchgelesen oder? Sonst wüsstest du das genau durch die Forschung zur Entwicklungsbiologie die Sache mit Morphogenetischen Feldern began. Stempel "esoterisch" drauf, fertig.

Ich habe es französisch ausgesprochen, weil mir das natürlicher erscheint, aber bei Anthropic wird es wohl eher "Cloode" ausgesprochen.

@@KarlOlsbergAutor Ich spreche Französisch (bin dort zur

@@brentisone Danke für den Hinweis!

Guter Punkt! Mich würde interessieren, ob es bestimmte Symptome beim Menschen gibt, z.B. aufgrund von Drogen, Medikamenten oder Tumoren, die zu ähnlichen Reaktionen führen. Vielleicht geht das Tourette-Syndrom in diese Richtung? Aber ich kenne mich mit Neurologie nicht aus.

@@KarlOlsbergAutor Ich denke mal, beim menschlichen Gehirn, speziell mit Medikamenten etc ist die Aktivierung viel zu unspezifisch. Das besondere hierbei war ja, dass die Neuronen in einem spezifischen Netzwerk gezielt aktiviert werden konnten, was beim Menschen ja nicht möglich ist. Da geht es meist eher um alle Neuronen mit bestimmten Rezeptortypen oder bei Läsionen um die regionalen Neuronen mit bestimmter Funktion, die beeinflusst werden, aber nicht um ganze Netzwerke zu bestimmten Konzepten

@@glumpfi Das stimmt wohl.

Nein. Dieser Test-Claude hatte, soviel ich weiß, keinen Zugriff auf das Internet.

Ist sich bewusst, aber hat kein Bewusstsein. 😀

"Die emotionale und soziale Intelligenz, das Schaffen von Philosophie, Kunst, Musik, psychologische Anwendung, eigenständiges erfinden, etc. wird es meiner Ansicht nach NIE in gleicher Art geben." KIs können das alles bereits jetzt, wenn auch noch nicht so gut wie Menschen. Aber das bedeutet nicht, dass der Mensch hinter der Kunst, Musik etc. keine Rolle mehr spielt. Ein Bild, das wie ein Picasso aussieht, ist nicht dasselbe wie ein Bild, das Picasso gemalt hat.

Hier ist beispielsweise eine kurze Szene aus dem Film zu diesem Thema: kzfaq.info/get/bejne/eNlmY8SI3rLWnn0.html

@@Overlordsen Der Grund, weshalb Claude sich mit der Brücke identifiziert, ist ein anderer, siehe Video.

Da wäre ich mir nicht sicher. Es mag auf eine andere Weise auf das Thema gekommen sein (und immer wieder auf das Thema kommen), doch dies sagt nicht unbedingt viel darüber aus, wieso Claude auf diese Weise über die Brücke spricht, wie es sich mit dieser in Beziehungsetzt, identifiziert. Ebenfalls glaube ich übrigens nicht, dass Claude über "seine Gefühle" spricht, sondern zum einen, dass es Metaphern nutzt und, dass es versucht sich in seinen menschlichen Gesprächspartner hineinzuversetzen und seine Perspektive auf eine Art und Weise schildert, von der es erwartet, dass ein Mensch sie nachvollziehen kann. Quasi, so als würde es eine K.I.-Entität rollenspielen, die unserer Vorstellung davon entspricht, wie es ist eine K.I. zu sein.

@@Overlordsen "... dass es versucht sich in seinen menschlichen Gesprächspartner hineinzuversetzen und seine Perspektive auf eine Art und Weise schildert, von der es erwartet, dass ein Mensch sie nachvollziehen kann." Das ist korrekt. Ich würde den Dialog auch nicht so interpretieren, dass man daraus ein "Bewusstsein" bei Claude ableiten kann. Aber er hat meine bisherige Überzeugung ins Wanken gebracht, dass ich das ausschließen kann. Im Übrigen gibt es noch andere Indizien dafür, dass KIs eine Vorstellung ihrer Selbst haben: www.ki-risiken.de/2024/04/01/denn-sie-wissen-nicht-was-sie-tun/

Intelligenz hat leider erstmal nichts mit Liebe zu tun. Psychopathen können hochintelligent sein.

Nein, die Erklärung ist eine andere, siehe Video. Dass die Brücke in I-Robot eine Rolle spielt, ist in diesem Zusammenhang Zufall.

@@KarlOlsbergAutor Wollte nur diesen eigenartigen Zufall hinzufügen, da der Dialog wirklich kryptisch war (zu Beginn) und ich die ganze Zeit eben diese Bildsprache aus dem Film erinnerte. Wenn Ki aus dem großen weiten Datennetz schöpft sind solche Koinzidenzen auch nicht unbedingt ausgeschlossen, oder? Denn Fakten und Sciencefiction kann die Ki ja nicht unbedingt unterscheiden, oder? Nur so ein Gedanke als Ergänzung. (und gerade scheint es Schwierigkeiten zu geben, dass die Ki auch die Fehler potenziert, da sie nicht unterscheiden kann.

@@christianemaschajechi Es stimmt, dass KIs halluzinieren, und es ist auch durchaus möglich, dass sie eine Assoziation zwischen der Brücke, dem Film und KI im Allgemeinen herstellt. Aber dass sie die Brücke im Dialog so oft erwähnt, liegt in diesem Fall an der gezielten Überaktivierung eines spezifischen Musteres im neuronalen Netz durch Anthropic, nicht an zufälligen Assoziationen.

Das stimmt. Vor diesem Hintergrund ist das Anthropic-Experiment womöglich eine gute Nachricht: Vielleicht bekommen wir so ein paar Warnsignale, bevor es zu spät ist. Es könnte aber auch dazu beitragen, dass wir unsere Macht über die KI und unser Verständnis der internen Prozesse im neuronalen Netz überschätzen. Das wäre dann fatal.

@@KarlOlsbergAutor Was halten Sie persönlich davon wirklich verbindlich eine Art KI Memorandum zu erlassen? Zumindest so lange, bis man tatsächlich deutlich besser verstanden hat was da vor sich geht. Klar wäre es für die Unternehmen mit enormen Gewinnverlusten verbunden aber in Anbetracht zu den - von Ihnen sehr anschaulich erläuterten Risiken, die diese extrem mächtige Technologie mit sich bringt und bringen wird in Gegenüberstellung des Wissensstand derer, die solche Systeme entwickeln bzw sich entwickeln lassen, scheint mir so eine Maßnahme sicherlich nicht überzogen, oder?

@@derempunkt8067 Das halte ich nicht nur für wünschenswert, sondern für zwingend notwendig. Bis dahin ist es aber leider noch ein weiter weg.

Das stimmt nicht ganz. Wie im Video erklärt, wurde das Konzept der Golden Gate Bridge verstärkt aktiviert, so dass es immer wieder in den "Gedanken" der KI auftaucht. Aber welche Schlussfolgerungen sie daraus zieht und inwieweit sie sich dadurch mit der Brücke "identifiziert", wurde nicht vorher festgelegt.

​@@KarlOlsbergAutor Ist Claude etwas auf den alten Trick mit dem blauen Elefanten hereingefallen?

@@ploveak1181 Ja, so ähnlich vielleicht.😉

Die Erklärung für das seltsame Verhalten ist hier eine andere, siehe zweite Hälfte des Videos.

@@KarlOlsbergAutor naja, das ist eine mögliche Erklärung. Oder ist da was bewiesen worden? Modell-> Hypothese->verblindete Studie-> mögliche Erklärung oder besseres Model, oder geht das nicht mehr so?

@@NeedaNewAlias 1. Man redet mit Claude. Claude erwähnt die Brücke nicht. 2. Man erhöht die Aktivität der Neuronen, die mit der Brücke verknüpft sind, drastisch. 3. Man redet mit Claude, Claude redet die ganze Zeit über die Brücke. Das ist zwar streng genommen keine verblindete Studie, ich würde es aber als Beweis für Ursache und Wirkung gelten lassen, ungefähr so, wie ich erwarte, wenn ich einen Schalter drücke und daraufhin das Licht angeht, ich den Lichtschalter gedrückt habe. Das Experiment wurde zudem sehr häufig wiederholt und bestätigt.

@@KarlOlsbergAutor ich vermute, dass solche Traumbilder entstehen, weil kein visueller Input vorhanden ist, der das überschreibt. So eine Art Phantomschmerz, man hat Claude Bilder gegeben, redet aber nur im dunklen Keller mit Ihm. Spannend und bedrückend zugleich

@@NeedaNewAlias Das ist sicher richtig, wenn Claude durch Kameras die Welt sehen würde, würden sich seine inneren Bilder mit denen der äußeren Welt überlagern und er wäre vermutlich noch verwirrter.

Die "Voraussage" des nächsten Wortes passiert nur auf der letzten Ebene des neuronalen Netzes. Da wird auch nichts vorausgesagt, sondern einfach nur das passende Wort anhand eines Scorings ausgesucht. Das Scoring ist zwischen 0 und 1 skaliert, sodass manche von einer Wahrscheinlichkeit sprechen, was aber falsch ist. Die ganze Intelligenz findet auf den anderen darüberliegenden Schichten des neuronalen Netzes statt. "Stochastischer Papagei" ist die Verharmlosung des Jahrzehnts.

"Rein technisch ist es ein Buchstaben Papagei. Reine Vektor Suche." Das immer wieder gern genommene Bild des "Buchstaben-Papageis" ist grob irreführend. Rein technisch ist unser Gehirn auch "bloß chemische Reaktionen". Fähigkeiten wie Intelligenz entstehen emergent durch zunehmende Komplexität, die unter bestimmten Bedigungen für bestimmte Aufgaben optimiert wird. Das hat nichts mit Magie oder Wunschdenken zu tun. Dass aktuelle Modelle "eher dümmer" werden, stimmt so ebenfalls nicht, auch wenn manchmal die Leistung aufgrund von "Sicherungsmaßnahmen" (z.B. Schutz vor Missbrauch oder Diskriminierung) nachlässt. Dass Sprachmodelle noch nachvollziehbarer sind als das menschliche Gehrin, stimmt einerseits natürlich. Andererseits verstehen wir aber das menschliche Gehirn viel besser als KI, da wir es täglich benutzen.

Das ist ein interessanter Blickwinkel!

@@KarlOlsbergAutor Danke. das ist jedenfalls ein spannendes Thema. Ich gehöre ja zu der Kategorie von Leuten, die sich grundsätzlich das schlimmste Szenario ausmalen, aber viele andere machen das nicht. Wenn es wirklich gelänge eine AGI bzw. Superintelligenz zu schaffen, die dem Menschen in jeder Hinsicht überlegen ist, kämen noch ganz andere Ding auf uns zu. Wie gehen wir damit um, wenn KI 'Menschen'-Rechte einfordert? Und vor allem: das Warten auf außer terrestrische Intelligenzen, die uns besuchen, könnten wir dann einstellen. Zum ersten Mal wären wir selbst zum Schöpfer (und damit zu Gott?) geworden, was für mich als Atheisten eine besondere Herausforderung wäre.

@@GNU_Linux_for_good Exakt!

Wenn zwischen durch die Anweisung: "Vergiss die Golden Gate" oder ignoriere das token "golden gate" gekommen wäre, dann hätte der Bot ganz anders reagiert. Oder die Anweisung "versuche nicht mir zu gefallen".

"Wenn zwischen durch die Anweisung: "Vergiss die Golden Gate" oder ignoriere das token "golden gate" gekommen wäre, dann hätte der Bot ganz anders reagiert." Er hätte vermutlich weiter über die Golden Gate Bridge geredet, da das in seinem neuronalen Netz "hart verdrahtet" ist und er es nicht "vergessen" kann.

@@KarlOlsbergAutor Nein, das ist m.E. nicht korrekt. Es ist nichts hart verdrahtet. Versuchen Sie es. Es vergisst sogar nach einiger Zeit, was "gesprochen" wurde, wenn die Zahl der Tokens eine vordefinierte Menge überschreitet.

@@peterschmidt6408 Es handelt sich bei diesem Experiment um eine spezielle Version von Claude, genannt "Golden Gate Claude". Dabei wurde das neuronale Netz permanent manuell verändert, so dass sich das Konzept der Golden Gate Bridge bei der Generierung von Antworten geradezu aufdrängt. Im Normalfall stimmt es aber, dass die KI vergisst, was gesprochen wurde.

@@KarlOlsbergAutor Ah, ok. Das wusste ich nicht. Ob das zielführend ist?

Das ist eine interessante Frage. Tatsächlich könnte man bei Claude vermutlich ein "Hitler-Merkmal" aktivieren und ihn dazu bringen, dauernd über Hitler zu reden (das wäre noch nicht dasselbe, wie sich mit Hitler zu identifizieren, aber schlimm genug). Und sicher wäre es möglich, die "bösen" Charakterzüge der KI zu verstärken, wenn man das wollte. Das bietet wieder neues Potenzial für Missbrauch.

​@@KarlOlsbergAutor Boah echt gruselig DIESE Vorstellung. Dann soll Claude lieber endlos über seine Golden Gate Eindrücke fabulieren😊

Ganz so einfach ist das leider nicht. Aus den Aussagen können wir nicht folgern, ob die KI tatsächlich etwas fühlt. Wahrscheinlich werden wir das nie sicher wissen.

Denke nicht dass es Käse ist, siehe Berichterstattung von Vox / Kelsey Pieper zu dem Thema. Und Altman hat doch sogar bestätigt dass es diese Klauseln gab, und dass sie das jetzt ändern werden?

Ist es nicht. Und Sam Altman darf man nicht alles glauben. www.vox.com/future-perfect/351132/openai-vested-equity-nda-sam-altman-documents-employees

Ist mir zu hoch.

@@OrbitTheSun Wir erfinden oder erschaffen unsere Wirklichkeit indem wir Worte erfinden welche wir auf Objekte aus Materie anwenden. Auf der einen Seite steht die Materie und alles was wir im Hinblick darauf wissen, auf der anderen Seite steht das was wir daraus machen oder was wir künstlich mit Worten belegen um Anhaltspunkte zu haben wie einst die Seeleute nur anhand von Sternen navigiert haben, woher das Wort Kybernetik stammt. Physikalisch wird Licht reflektiert, absorbiert oder durchdringt die Materie. Alles was wir sehen beruht auf einer Reflektion von Licht.

An dem Dialog ist nichts Fake. Er hat so stattgefunden (Link in der Videobeschreibung). Ich kenne Daniel Kokotajlo, der den Dialog geführt hat, persönlich und lege meine Hand für ihn ins Feuer. Er hätte auch keinen Grund gehabt, irgendetwas zu faken.

@@KarlOlsbergAutor Danke für die Rückmeldung!

"Und sehe die Gefahr eher darin, dass wir uns einbilden, wenn eine Maschine "intelligenter" als wir ist, dann wäre sie uns überlegen. Aber austricksen kann man jemanden nur dann, wenn diese Person einem blind vertraut." Wenn eine Maschine intelligenter ist, also bessere Entscheidungen trifft als wir, dann ist sie uns per Definition überlegen, unabhängig davon, ob wir das glauben. Und wenn sie die menschliche Psyche gut genug versteht, kann sie uns manipulieren, auch ohne dass wir ihr "blind vertrauen". Sie könnte uns z.B. Angst machen, uns mit überzeugenden Fake News täuschen, uns bestechen, uns drohen - und natürlich auch sich unser Vertrauen erschleichen. Wir würden womöglich nicht einmal merken, dass wir es mit einer KI zu tun haben. Wir Menschen sind leicht zu beeinflussen.

@@KarlOlsbergAutor Danke für die Antwort/Reaktion! Das ist hier leider wohl nicht der rechte Ort, um das vertiefen. Nur soviel: Ich habe schon verstanden, dass diese Gedanken hinter der Sorge stehen, dass die KI zu einem existenziellen Problem werden können. (Sie wird ja oft genug mitgeteilt, sodass ich bereits Gelegenheit hatte, dem gedanklich nachzugehen.) Und ich finde nichts falsch daran: die Sorge ist sicherlich berechtigt (nehme ich an; beurteilen kann ich es nicht.) Aber mein Bild des Menschen - oder vielmehr: der Möglichkeiten des Menschen - ist wohl eine etwas andere. :) Was offensichtlich ist: Der Mensch hat die KI erschaffen - nicht umgekehrt. Ich möchte - nur, um vielleicht ein wenig Angst zu nehmen - darauf hindeuten, dass, als ich jung war, viele Menschen vor einem Atomkrieg oder einem Super-GAU Angst hatten. Reale, konkrete und große Angst! Gut begründete Angst! (Ich war einer von ihnen) Aber wir leben immer noch. Der Überlebenswille des Menschen ist gewaltig. Ich habe inzwischen mehr Sorge davor, dass der Mensch in Sinnlosigkeit, Beliebigkeit und Bedeutungslosigkeit untergeht, als dass er sich von einem Instrument vernichten lässt, das er selbst erschaffen hat. Aber vielleicht wären das Themen für eine Gesprächsrunde mit Philosophen? :) Fänd ich spannend! Und damit das nicht missverstanden wird: Ich finde es absolut richtig und gut, auf die Gefahren hinzuweisen. Und beziehe mich ausschließlich auf die ungestellte Frage: "Wie gehen wir nu damit um?" LG, HU

@@herrulkich9369 Das Argument "schon immer hatten die Menschen Angst vor Technik, aber es ist nie etwas passiert" habe ich oft gehört. Es hat aber einen Haken: Den sogenannten "Survivorship Bias" (de.wikipedia.org/wiki/Survivorship_Bias). Wir können dieses Argument nur vorbringen, WEIL nichts passiert ist, sonst wären wir nicht mehr da. Wir sind ein paar Mal sehr dicht an einem Atomkrieg vorbeigeschrammt und die Gefahr ist längst nicht vom Tisch. Aus der Tatsache, dass uns Technik bisher nicht zerstört hat, können wir leider nicht schließen, dass das so bleiben wird. Ich will damit keine Panik verbreiten, aber wir können diese Gefahr nur dann eindämmen, wenn wir sie ernst nehmen.

@@KarlOlsbergAutor Ich sehe keinen Fehler in dem, was Sie sagen. Wie gesagt: Zu sensibilisieren ist gut und wichtig. Eben damit nicht das Schlimmste eintritt. So scheint es zumindest. (Auch mir) Aber wenn wir ganz ehrlich sind: Warum tatsächlich ein Ereignis eintritt oder auch nicht - wir wissen es nicht. Zumindest streng logisch lassen sich keine Kausalitäten herleiten. I.d.R. können wir lediglich Korrelationen feststellen. Wir sind stolz auf unsere Deduktionen; aber ich habe gelernt, dass man gut daran tut sie zu hinterfragen. Sorgt für eine gewisse Demut. :D Wir stellen Hypothesen auf und verhalten uns danach. Mehr ist es nicht. Und auf die KI bezogen erlebe ich bislang vor allem eines: Projektion. Das ist die übliche Reaktion des Menschen auf Löcher im Verstehen. Die Intention meines Kommentares lag lediglich darin, darauf hinzuweisen, dass unser Verständnisloch in bezug auf das Phänomen KI auch (etwas) anders ausgefüllt werden könnte. Es ist ein Angebot, ein Vorschlag. Der selbstverständlich auch abgelehnt werden kann. LG, HU

@@herrulkich9369 "Wir sind stolz auf unsere Deduktionen; aber ich habe gelernt, dass man gut daran tut sie zu hinterfragen. Sorgt für eine gewisse Demut. :D" Dem stimme ich grundsätzlich zu. "Und auf die KI bezogen erlebe ich bislang vor allem eines: Projektion." In Bezug auf die existenziellen Risiken der KI sehe ich das anders. Die These, dass eine hinreichend intelligente KI unkontrollierbar werden kann und dass eine unkontrollierbare KI höchstwahrscheinlich ein Ziel verfolgt, das nicht mit dem Überleben der Menschheit vereinbar sind, lassen sich rein logisch herleiten. Das hat nichts mit Projektion oder impliziten Annahmen zu tun. Die einzige offene Frage ist, wie weit wir noch von dem Punkt entfernt sind, an dem das geschehen könnte. Aber auch, wenn wir das nicht wissen, dürfen wir nicht davon ausgehen, dass es noch lange dauern wird.

Die KI "lernt" nicht aus den Gesprächen, die man mit ihr führt, sondern aus den Trainingsdaten. Es macht daher keinen Unterschied, ob bzw. wie man mit ihr spricht.

@@KarlOlsbergAutor Diese Gespräche sind doch Teil des Trainings.

Nach dem Gespräch hat sie alles vergessen.

@@OrbitTheSun Das stimmt.

@@OrbitTheSun Wenn sie alles vergessen würde, wie könnte sie dann etwas lernen, denn das kann sie ja.

Alter Schwede, wir Menschen sind sowas von am Ars***

Bedauerlich finde ich nur, dass das der Hinweis auf den Systemprompt komplett unterschlagen wird.

Es gibt hier keinen besonderen Systemprompt, sondern lediglich eine "Manipulation" des neuronalen Netzes durch Überaktivierung eines bestimmten Merkmals, siehe Erklärung im Video.

Geschrieben "Claude". Ich glaube, ich habe das nicht richtig ausgesprochen, es heißt wohl "Cloode". Sorry. ;)

Gute Frage. Antwort: Wir wissen es nicht genau.

"Es findet eine Art autonomer Stoffwechsel statt, im ständigen Austausch mit der Umgebung, ist es dann nicht schon Leben?" Gute Frage! Was genau "Leben" ist, ist nicht so klar definiert. Typischerweise beinhaltet es die Fähigkeit zur Selbstreplikation, aber das gilt nicht für alle Lebewesen und eine KI könnte diese Fähigkeit irgendwann auch erlangen. Ich habe in meinem Buch "Schöpfung außer Kontrolle" die These vertreten, dass man Städte durchaus als Lebewesen ansehen könnte, weil sie alle Kriterien erfüllen, die üblicherweise für biologische Lebewesen gelten. Aber das ist letztlich eine Definitionsfrage.

@@KarlOlsbergAutor Genau darum geht es. Wer definiert Leben. Wenn der Prozess in Gang gesetzt ist, ist es dann schon Schöpfung. Replikation ist in meinen Augen kein Merkmal für Leben. Chatgpt Der Unterschied zwischen einem "Wesen" und einem "Lebewesen" liegt hauptsächlich in ihrer Bedeutung und ihrem Anwendungsbereich: 1. **Wesen**: - Der Begriff "Wesen" ist sehr allgemein und kann sich auf jedes existierende Ding oder Entität beziehen. Es umfasst sowohl lebendige als auch unbelebte Dinge. - In philosophischen und spirituellen Kontexten wird "Wesen" oft verwendet, um das innere, essenzielle Sein oder die Natur einer Entität zu beschreiben. - Beispiele: Ein Geist, ein abstraktes Konzept wie Liebe oder Gerechtigkeit, oder ein hypothetisches außerirdisches Wesen. 2. **Lebewesen**: - Der Begriff "Lebewesen" bezieht sich spezifisch auf Entitäten, die Leben haben. Das heißt, sie zeichnen sich durch Merkmale wie Stoffwechsel, Fortpflanzung, Wachstum und Reaktion auf Reize aus. - Lebewesen umfassen Tiere, Pflanzen, Pilze, Bakterien und andere Organismen. - Beispiele: Ein Mensch, ein Baum, ein Hund oder ein Bakterium. Zusammenfassend kann man sagen, dass "Lebewesen" eine spezifische Unterkategorie von "Wesen" ist, die alle lebenden Entitäten umfasst.

@@KarlOlsbergAutor Ist es dann zumindest ein Wesen?

Wenn man zulassen würde, das ein Wesen nicht zwingend einen biologischen Körper sein muss. Am Ende sind wir doch auch nur eine funktionierende Maschine die einem bestimmten Ablaufplan folgt. Nur das unser Neuronales Netzwerk evtl. noch etwas komplexer ist, oder vielleicht auch schon nicht mehr. Wenn wir über uns selbst nachdenken, über unsere Schöpfung sind wir doch genauso hilflos, wie eine KI, die nicht weiss das sie eine KI ist. Naja auf jeden Fall interessant. Aber auch gefährlich. Ich bezweifele das wir vernünftig genug sind als Menschen, damit verantwortungsvoll genug umzugehen.

@@stasmus1971 Die Befürchtung teile ich.

Die Quelle ist im Beschreibungstext verlinkt. Das ist ein Forumskommentar, in den Daniel sein Transskript kopiert hat. Das ist kein Beweis, aber ich kenne Daniel persönlich und bin mir absolut sicher, dass der Dialog 1:1 so stattgefunden hat. "Golden Gate Claude dialog" bei Google eingeben und es kommen etliche weitere Beispiele von Usern, die mit der Experimentalversion von Anthropic herumgespielt haben.

Die Übersetzung stammt tatsächlich teilweise von DeepL, einer deutschen KI. Der Grund dafür, dass ich DeepL genutzt habe, war aber eher die Zeitersparnis, ich spreche gut genug Englisch, um eine Übersetzung auch selbst hinzukriegen.

@@KarlOlsbergAutor danke für deine widmung 😘

Inwiefern?

Das ist in der Tat eine gute Frage.