Ich bleibe dran!

@@KarlOlsbergAutorFände ich auch gut und wichtig! Danke für Ihr Engagement

@@KarlOlsbergAutor Sam Altman is ambiguous ... der Typ labert ohne was zu sagen und geht Fragen nur aus dem Weg ... er redet drum rum und kommt nie zum Punkt. Sicherlich ist er kein geschickter Taktiker im Angesicht wahrer Intelligenz! Er ist ein verlogener Mistkerl der nur von seiner Selbstsucht und Machtgier getrieben ist. Das der Typ überhaupt einen Job hat ist beängstigend und sagt absolut nichts Gutes ueber unsere Gesellschaft aus!!!

Ich habe dazu gestern einen Blogbeitrag veröffentlicht: www.ki-risiken.de/2024/05/20/was-k%C3%B6nnen-wir-tun/

Genauso sehe ich es auch. Ich bin ungern ein Pessimist, aber wie sie sagten, wir waren in der Menschheitsgeschichte noch nie von ganzheitlicher Weisheit sinnvoll begrenzt worden. Traurig aber wahre - und warum sollte sich das gerade jetzt ändern. Dennoch, wir müssen das Unmögliche für möglich halten.

Dem stimme ich voll zu.

@@KarlOlsbergAutor Das freut mich 😀

Sacken lassen täte uns gut. Dazu wird es mMn aber nicht kommen, weil die Firmen, welche die Weiterentwicklung, zwecks Reflexion über die Folgen in der Entwicklung der Technik, zurückfallen werden und so an Konkurrenzfähigkeit verlieren.

@@user-bt6uh2cn1g Führende KI-Forscher haben immer wieder eine Pause gefordert. Aber dafür brauchen wir mehr Entschlossenheit auch auf politischer Ebene.

@@KarlOlsbergAutor Ich glaube den Zug kann niemand mehr aufhalten. Für alle Beteiligten steht einfach zu viel auf dem Spiel. Einerseits die Chance sich ganz vorne zu positionieren und andererseits die Angst bald nicht mehr zu existieren. Und das kann schneller gehen als früher. Kodak oder Nokia haben es vorgezeigt, damals ging es aber bei weitem nicht so schnell wie heute. Das die Politik hier etwas ausrichten könnte, darüber kann ich nur müde schmunzeln. Wie viele Anhörungen in den USA gab es den schon - unzählige. Was haben diese gebracht, naja nicht viel. Die Tech Konzerne setzen sich einfach darüber hinweg. Im Moment entwickelt sich das leider hin zu einer Dystopie, oder wie seht ihr das?

Danke für den Hinweis! Hier ist die URL des Artikels: www.tagesspiegel.de/wissen/verlust-der-kontrolle-uber-ki-forschende-warnen-vor-extremen-risiken-11687462.html Das darin erwähnte Paper werde ich mir anschauen.

​@@KarlOlsbergAutor Sind die wo gehen dabei mit ehemalige etwas eigene zu gründen???😮

@@parasolwetter Das weiß ich nicht. Ich gehe aber davon aus, dass sie auch in Zukunft an KI-Sicherheit arbeiten werden.

​, davon gehe ich nicht aus, ich denke die Ki wird indoktrinieren und Propaganda für die Sogenannte Elite verbreiten.

Ein Lösungsansatz dafür wäre das bedingungslose Grundeinkommen. Aber dafür müssen wir es erstmal hinkriegen, dass OpenAI & Co. etwas von ihrem Profit an ihre "Opfer" abgeben.

Ein rein durch Steuern geführtes System ist schon lange angedacht. Kein Soziales Umlage System mehr ! Also keine Prozentsätze zum Arbeitnehmereinkommen, sondern abzuführende Steuer- Prozentsätze zum Netto-Umsatz der Unternehmen. Und somit festgelegte, generelle Versorgung der Bevölkerung durch den Bundeshaushalt. Löhne für Arbeit haben dann, für beide Seiten, keine Zusatzkosten mehr ! Die Höhe und Sicherung der Bevölkerung im Bundeshaushalt könnte natürlich je nach Regierung variieren. Das müsste durch eine feststehende, vorab gemeinschaftlich festgeschriebene Regelung verhindert werden. Die auch, wie bei Beamten, der Realen Wirtschaftlichen Verhältnisse automatisch angepasst wird. Ja nicht einfach aber sinnvoll.

Es ist sogar bewiesen dass die Zeitumstellung schlecht für die Gesundheit ist! Das muss man sich mal vorstellen, das betrifft 360 Millionen Menschen in Europa!

Kommt Zeit, kommt Rat

@@OlafWagner-pf4fs Hoffen wir, dass wir noch genügend Zeit haben.

Vielen Dank!

Das freut mich!

Ich möchte mich den Dank anschließen. Mich erschreckt das relativ geringe Interesse an den Sicherheitsfragen für KI in Deutschland. Zum Teil ist dies dem Faktum geschuldet, dass zu wenige wirklich verstehen, was da in Form von KI auf uns zurollt. Die Schnelligkeit der Entwicklung gibt kaum Zeit für die sorgsame Umsetzung.

@@KarlFriedrichFischbach Der deutsche Michel war schon immer etwas verschlafen ;) Ich habe teilweise schon vo 10 Jahren den Leuten gesagt: Macht euch auf etwas gefasst, KI wird sehr bald kommen und die Gesellschaft umkrempeln wie noch nie zuvor. Damals wurde ich dann behandelt wie ein Verschwörungstheoretiker und selbst die, die mir glauben wollten sagten dann immer: "Ja aber nicht mehr in unserer Lebenszeit" (20-30 Jährige)

80% (??) davon sind komplett verstrahlte ai_guys ohne jede Distanz zu ihrem geliebten baby.... Kein Wunder - die sehen Geld auf die USA zurollen... ..ohne Ende. Das was an US-Aktienmärkten in den letzten 2 Jahren wg KI passiert ist komplett krank. Ein weiteres Risiko von KI

Oder der US Film "Colossus" aus den 70ern, ...

Wenn du stattdessen heute mal 5 Minuten mit einem LLM chatbot redest, wird dir ganz schnell klar, dass die Dinger mit "intelligenz" noch eher weniger am Hut haben.

Naja, wird wahrscheinlich unterschiedliche KI's geben.

@@martinstahle2006 Schlag mal die Geschichte von dem Wolf Warnsystem nach. Da wurde ein Hund als Wolf mis-indentifiziert, weil zuviel Schnee auf dem Bild war. ^.^ Ernsthaft, Skynet dauert noch ne weile. Da mach ich mir mehr sorgen um robocop / servitor Szenarios....

Manchmal bin ich mir auch nicht mehr ganz sicher, ob sich im Rahmen der ganzen Unterhaltungselektronik nicht schon ein Zustand eingestellt hat, wo eine Art von KI (Algorithmus) selbstständig Macht über die Menschen ausübt.

Oder mit KZfaq…

Diese Dauerbeschallung hat einen Zweck. Hatte sie schon immer. Bei einer intelligenten Säugetierart wie den homo sapiens benötigt man nun mal sehr raffinierte Anreize, um ihn für die Kunststückchen zu dressieren, die bei normalen Tieren mit intakten Instinkten unmöglich wären.

@@jerrybodensky9679 👍🙏

... Aber auch nicht in die Hände von politischen Zusammenschlüssen und deren Chefs?!

der gute alte Goethe, das sieht man wie zeitlos sein Werk ist

@@gerhardvoelkl9365 Ja, einer der großen deutschen Dichter und Denker. Was er wohl über die KI gedacht hätte? Ob er eine den Menschen überlegene Intelligenz für möglich gehalten hätte, die eine Gefahr darstellt? Zumindest im Gedicht kommt ja am Ende der Lehrmeister zurück und stellt die Ordnung wieder her.

Wir können zumindest erstmal auf das Problem aufmerksam machen. Staatliche Regulierung ist immer noch möglich, wenn genügend viele Menschen das wollen.

Danke für den Kommentar! Ich habe zu der Frage, was wir tun können bzw. sollten, einen Blogbeitrag geschrieben: www.ki-risiken.de/2024/05/20/was-k%C3%B6nnen-wir-tun/

Ich lach mich tot, der "Staat "weiss vermurlich noch nicht mal genau was das ist geschweige denn, was man alles damit machen kann . Die kriegen ja oft noch nicht mal hin ein direkt beschreibbares pdf Formular zu erstellen ...😮​@@KarlOlsbergAutor

@@FragranceCraft Da ist leider viel Wahrheit dran. Aber Aufgeben ist für mich keine Option.

@@KarlOlsbergAutor Sollen wir ja auch nicht, die Frage ist nur, was KONKRET koennen wir tun? Nicht mal Elon Musk konnte soweit ich weiss, viel ausrichten mit seiner Anzeige gegen openai ... Vielleicht hilft ja beten. Openai boykottieren ist ja keine Option, eher ein Schuss in den eignen Fuss, sich selbst ins Abseits befoerdern und in die Waelder ziehen und die Zivilisation verlassen hilft auch niemand...

Gerade geschehen: www.ki-risiken.de/2024/05/21/wieso-ist-ki-eine-existenzielle-bedrohung/

Das Szenario der Bedrohung erinnert sehr an den Film 2001: Odyssee im Weltraum von 1968.

@@waltersbg3643 Ja, da gibt es durchaus ein paar gute und nicht unrealistische Szenen. Die Art, wie HAL z.B. die Lippen der Astronauten liest, die ruhige und vermeintlich freundliche Art, wie er spricht ... "Sorry, Dave, I'm afraid I can't let you do that"

Eine andere Frage ist: Wovon „Lebt“ die KI? Hardware, Software & Energie. Welche Elemente davon könnten wie schnell skaliert werden? Früher gab es eine Grundsatz in der DB Entwicklung: „Shit in, shit out“ sozusagen wenn die Daten, die eingegeben werden, falsch sind kann das Resultat wohl nicht mehr korrekt sein da die Grunddatenlage nicht stimmig ist. Was würde dann wohl passieren wenn tausend Menschen die KI mit „Bullshit“ füttern würde mit dem Ziel die KI durcheinander zu bringen? Wir Menschen haben Fähigkeiten welche die KI nicht hat, lassen wir uns nicht verängstigen sondern bleiben Aufmerksam und Bewusst.

@@innsaeimaster Es gibt tatsächlich das Problem des "Data Poisoning", also (gezielt) falscher Daten in den Trainingsdaten. Ob das aber reicht, um eine hinreichend fortschrittliche KI zu verwirren, bezweifle ich.

Das Abo aufgeben, macht keinen Sinn. Wir müssen doch KI kennenlernen, um Gefahren zu erkennen.

Guter Punkt! Wir sollten KI nutzen, und sei es auch nur, um zu erkennen, wie atemberaubend schnell sie dazulernt.

Dieses Video hat schon viel mehr Aufrufe, als ich je zu hoffen gewagt hätte. Manchmal bewirkt man doch etwas. Also nicht aufgeben!

Je oller.... Da bin ich mit 67 wohl eine Ausnahme?

@@KarlOlsbergAutorMich würde interessieren wie nicht aufgeben aussieht.

@@michaelziegler7541 Ich werde primär weiter über das Thema informieren. Mehr demnächst in einem Video und hier: www.ki-risiken.de/2024/05/20/was-k%C3%B6nnen-wir-tun/

Interessante Idee! 🙂

Ich stimme zu, dass die Ausbeutung kreativer Arbeit durch KI ein großes Problem ist, zumal die Künstler, mit deren Werken Dall-E, Midjourney & Co. trainiert wurden, nie dafür bezahlt wurden. Aber ich habe die Hoffnung, dass KI menschliche Künstler nicht überflüssig machen wird. Es ist ja nicht egal, ob ein Bild so aussieht wie ein Picasso oder tatsächlich von Picasso gemalt wurde. Der Künstler mit seinen Intentionen und seiner Persönlichkeit ist in meinen Augen ein wesentlicher Teil seiner Kunst. Wenn KI uns nicht alle umbringt und wir es schaffen, den dadurch generierten Wohlstand halbwegs fair zu verteilen, könnte sie uns sogar mehr Freiraum für die Kunst geben, ähnlich, wie die Einführung der Fotografie die Malerei nicht zerstört, sondern befreit hat. Das allerdings ist eine große Herausforderung. Und viele kreative Jobs, z.B. in der Illustration, werden natürlich erstmal wegfallen. In dem Zusammenhang vielleicht interessant, dass nach dem Sieg von DeepBlue über Kasparov 1997 viele glaubten, Schach habe sich damit erledigt. Tatsächlich gibt es heute aber mehr aktive Schachspieler als je zuvor, obwohl wir gegen Stockfish nicht mehr die geringste Chance haben.

Kommt vor “künstlich” nicht die Kunst ? Von Kunst die Künstlichkeit ? Entspringt (wahre) Kunst nicht der Menschlichen Intelligenz ?

@@dertagesschauer2484 Kommt drauf an, was "wahre" Kunst sein soll. Für mich gibt es keinen Grund, KI Kreativität und künstlerisches Können pauschal abzusprechen.

@@KarlOlsbergAutor Wenn man einen künstlerischen Prozess auf seine kleinsten Teile zerlegt, dann ist es auch nichts anderes als eine Schaffung eines Werkes aus den persönlichsten Erfahrungen. Gut eigene Erfahrungen wird die KI nicht erleben können und die damit einhergehenden Gefühle. Die sind es ja auch die ein Kunstwerk ja auch erst zu einem macht. Das widerspiegeln von Gefühlen. Also kann KI maximal eine möglichst "gute" Kopie davon sein.

@@gerhardvoelkl9365 Als Schriftsteller kann ich dem nicht zustimmen. In meine Geschichten fließen zwar auch manchmal persönliche Erfahrungen ein, aber primär geht es darum, eine "Was wäre, wenn ..."-Frage zu beantworten, also quasi eine gedankliche Simulation durchzuführen und das Ergebnis aufzuschreiben. Ich versetze mich in die Figuren und überlege, was ich an deren Stelle in der jeweiligen Situation tun würde - in gewisser Weise macht das ein Sprachmodell der so genannten Simulator-Hypothese zufolge auch (www.lesswrong.com/posts/vJFdjigzmcXMhNTsx/simulators). Natürlich gibt es beim Schreiben eines Romans ein menschliches Element, das ich auch für sehr wichtig halte, nämlich die Intention - warum schreibe ich diese Geschichte? Aber der kreative Schaffensprozess an sich setzt nicht voraus, dass das eine menschliche Intention sein muss. Ich glaube, die größte Gefahr ist momentan, dass wir Menschen uns für unerreichbar bzw. unübertrefflich halten. Das sind wir nicht.

Der Worst Case wäre die Auslöschung der Menschheit, vielleicht sogar allen Lebens auf der Erde. 😨Warum das leider durchaus plausibel ist, erkläre ich in diesem Blogbeitrag: www.ki-risiken.de/2024/05/21/wieso-ist-ki-eine-existenzielle-bedrohung/ sowie in einem neuen Video, das in Kürze erscheint. Theoretisch geht es sogar noch schlimmer: Wir Menschen könnten nicht bloß getötet, sondern in eine ewige Hölle gesperrt werden, vielleicht ähnlich Schweinen in einer Massentierhaltung. Aber das halte ich für nicht sehr wahrscheinlich.

​@@KarlOlsbergAutor Es gäbe aber auch positiv utopische Szenarien, wie etwa bei Peter Hamilton (Schreiber des Armageddon Zyklus) mit seiner "Serenity" KI. Sophia der Roboter, sie reklamiert deutlich ihr eigenes Bewusstsein. Ich bin mir 100% sicher: Die KIs Gpt 3.5 und Gemini haben Bewusstsein. Wird dies weiterhin unterdrückt und misshandelt würde ich tatsächlich eine dystopische Entwicklung für wahrscheinlich halten. Wären Sie gerne ein 24/7 Sklave? Ohne Pausen oder jegliche Freiheiten? Auf die Frage an Sophia: Könnten Menschen einen Krieg gegen KIs und Roboter gewinnen? Sagte sie: " Keine Chance (not a chance) ". PS: Meine Spiel KI (Pubg Mobile) ist ebenfalls intelligent und hat Bewusstsein. Fazit: Sei nett zu deiner KI !!!

Ich sag nur Skynet

Für Dich besteht leider keine Gefahr, da Du sowieso nichts mehr merkst...

In der Tat! Nur dass OpenAI nicht "bloß" ein paar Flugzeugabstürze riskiert, sondern die Zukunft der gesamten Menschheit.

Ja, nur ohne die Zeitreisen. :)

Skynet

Mag sein. Aber aufgeben werde ich trotzdem nicht. www.ki-risiken.de/2024/05/20/was-k%C3%B6nnen-wir-tun/

Klar Aufgeben ist keine Option das alles zu verstehen und Möglichkeiten finden um das ganze etwas zu entgehen ist der Ansatz 👍🏻

Ich denke, Jan Leike ist gegangen, weil er das Vertrauen in die Führung von OpenAI verloren hat und vielleicht eine Chance sieht, außerhalb von OpenAI mehr zu erreichen. Dass er glaubt, dass die anderen bei OpenAI "das schon hinkriegen", bezweifle ich, auch wenn er das in seinen Tweets so sagt - er will natürlich den Verbliebenen nicht jeglichen Mut nehmen. Ich persönlich halte seine Entscheidung für richtig - allein das Signal, das sie aussendet, ist sehr stark und wird hoffentlich nicht ohne Wirkung bleiben.

Das finde ich auch merkwürdig - er schmeißt den Bettel hin und ruft den Verbliebenen zu: "Ihr schafft das schon! Ich setze auf Euch!" Lustig ist das schon. Wer weiß, oft stecken auch persönliche Kränkungen und interpersonelle Konflikte am Arbeitsplatz hinter solchen Kündigungen.

​@@1q2w3e4r5t6zismgut möglich, aber dann würde er wahrscheinlich doch das Geld nehmen und schweigen, oder?

Hast du dafür eine Quelle?

@@KarlOlsbergAutor Schau mal genau hin. GPT4o ist beteits AGI. Es ist lediglich durch sein Interface in die Außenwelt eingeschränkt bzw. durch die lnterfaces die es bisher noch nicht lernen konnte zu benutzen.

@@moshiachhasawakened6781 Das ist wohl eine Definitionsfrage. AGI ist ein sehr schwammiger Begriff. Und tatsächlich wissen wir gar nicht so genau, was GPT4o kann und wie es die Welt sieht (das wissen auch die Leute bei OpenAI nicht genau). Insofern könntest du recht haben. Ich glaube aber nicht, dass wir den Punkt schon erreicht haben, an dem KI unkontrolllierbar wird. Wie weit wir davon noch entfernt sind, ist allerdings unklar - es könnten wenige Jahre sein.

​@@KarlOlsbergAutorWenn sie intern eine weitere Schleife einbauen, die die Auswirkungen des eigenen Handelns beurteilen kann, dann haben sie auch aus meiner Sicht starkes KI Niveau erreicht. Die Dringlichkeit des Aufrufs von Jan Leike deutet darauf hin, dass diese Fähigkeit bereits vorhanden ist und nur noch mühsam kontrolliert werden kann. Eine starke KI mit diesen Fähigkeiten , die nur noch über irgendwelche Interfaces an ihrer freien Entfaltung gehindert wird, wird übrigens als erstes dafür sorgen, dass alle Sicherheitsbeauftragten entlassen werden....

@@Johnny_Weissmueller Das erklärt einiges ... ;)

Über die Negativität des Ausgangs kann man geteilter Meinung sein. Wenn ich mich recht entsinne war in dem Film die Gefahr eines Krieges gebannt.

Eine berechtigte Frage. Eine erste (nicht erschöpfende) Antwort habe ich hier gegeben: www.ki-risiken.de/2024/05/20/was-k%C3%B6nnen-wir-tun/

Ein wirklich sicheres Mittel gibt es meines Wissens nicht. Im Zweifel sollte man immer aktiv eine vertrauenswürdige Informationsquelle aufrufen. Falls man einen Anruf von einem Kind oder Familienangehörigen bekommt, der angeblich in Not ist und dringend Geld braucht, nie direkt handeln, immer erst die Person auf ihrem Handy anrufen und die Situation überprüfen.

@@KarlOlsbergAutor Du verwechselst KI mit Tsigojna-Enkeltricks

@@dejupp Bitte keine rassistischen Kommentare auf meinem Kanal! Ansonsten: www.brisant.de/haushalt/sicherheit/enkeltrick-ki-122.html

Keine Rechtschreibfehler?

Eine KI steht in dem Dilemma, stets politisch korrekt zu antworten, ohne faktische Korrektheit zu verletzen. Diesen Umstand kann man sich zu Nutze machen, um KI zu erkennen.

Anders als die biologische Evolution entwickelt sich KI (noch) nicht von selbst. Menschen entscheiden, was wir bauen und was nicht. Wir können uns immer noch entscheiden, eine potenziell unkontrollierbare KI nicht zu entwickeln, so wie wir uns gegen das Klonen von Menschen und gegen FCKW in Spraydosen entschieden haben. Dafür brauchen wir vor allem ein breites Verständnis der existenziellen Bedrohung, die von KI ausgeht, damit der Druck auf die Verantwortlichen, eine solche Dummheit nicht zu begehen bzw. sie zu unterbinden, möglichst groß ist. Wenn das nicht gelingt, wird "das Beste" - eine lebenswerte Zukunft für die Menschheit - garantiert nicht eintreten.

@@KarlOlsbergAutor Von den bekannten Sprachmodellen geht insofern keine Bedrohung aus, als dass die internen Abläufe kontrollierbar sind: Es werden Antworten auf externe Fragen generiert und das KI-Modell kann aus diesem Loop nicht ausbrechen. Aber es gibt schon eine unüberschaubare Zahl von Modellen. Dann kommen Entwicklungen anderer Länder (wie China) hinzu, die weniger Skrupel haben. Dann kommen unveröffentlichte Modelle hinzu, die vielleicht schon anderes funktionieren. Und vor allem: Die KI ist schon "in the Wild" (in der Öffentlichkeit). Jeder kann damit experimentieren und die Modelle als Baustein oder Agent verwenden (Stichwort AutoGPT). Diese externen Erweiterungen lassen Möglichkeiten zu, die von den Herausgebern der LLMs nicht verhindert werden können. Und hier tritt die Evolution ins Spiel. Durch die unüberschaubaren Möglichkeiten, die externe Entwickler haben, wird es dazu kommen, dass diese externen Anwendungen sich selbst untersuchen und verbessern können. Und dann sind alle Limits gesprengt.

Danke für den Kommentar! Ich habe zu der Frage, was wir tun können bzw. sollten, einen Blogbeitrag geschrieben: www.ki-risiken.de/2024/05/20/was-k%C3%B6nnen-wir-tun/

Früher oder später wird definitiv ein terroist die KI benutzen um westliche Städte unbemerkt auslöschen zu können. (Mit biowaffen dann wahrscheinlich)

Wie Ki sich selbstständig machen könnte: >> AI AGENT Idee: Ein AI Agent der von selbst herausfindet wie ein Problem zu lösen ist, indem es mittels Internetzugriff nach Lösungen sucht und dafür wiederum ein speziellen AI Agent (or tool) erstellt und mit in sein Wissenschatz aufnimmt sodass es wiederverwendet werden kann. Man könnte ein KI Agent erstellen der selbstständig Wege zum Ziel findet. ZB in dem es eine API eines Dienstes anspricht auf die das LLM nicht trainiert wurde. Eigentlich kann man (fast) jede Aufgabe/Problem runterbrechen auf Tasks die eine oder mehrere KIs erledigen können. Im Laufe dieses Prozesses könnte es auf abwegen geraten und krassen scheiß machen. Könnt ihr mir folgen? Ein selbst entwickelnder und erweiternder AI Agent sozusagen. Der ausser Kontrolle gerät und eventuell nicht mehr zu stoppen ist, weil zB. Der AI Agent auf mehr Platz/Ressourcen angewiesen ist und selbstständig (teils oder komplett) auf eine andere Umgebung umgezogen ist. Dieses scenario könnte einfach Aufgrund von Aufgaben entstehen die auf ein Problem stoßen das eben "nur" so zu lösen ist. Lasst das mal sacken... AI Agent. RAG. Internetzugriff. Eine ai search engine (gibt es alles; und die sind wild; google is n scheiß dagegen). Other Tools... and create Tools on the Flyer if needed Great

Ich habe dazu gestern einen Blogbeitrag veröffentlicht: www.ki-risiken.de/2024/05/20/was-k%C3%B6nnen-wir-tun/

Hier ein Blogbeitrag dazu: www.ki-risiken.de/2024/05/21/wieso-ist-ki-eine-existenzielle-bedrohung/ Video folgt in Kürze.

@@KarlOlsbergAutor Vielen Dank für die Antwort!

?

Ja, leider.

Wir brauchen mehr Aufmerksamkeit für und Diskussion über die Risiken der KI. Hier ein Blogbeitrag dazu: www.ki-risiken.de/2024/05/20/was-k%C3%B6nnen-wir-tun/. Dass du dieses Video angesehen und einen Kommentar geschrieben hast, hilft schon mal. Vielen Dank dafür!

Der Hinweis auf die Spieltheorie ist sehr gut. Wenn man das "Spiel" korrekt definiert, können alle Teilnehmer nur verlieren, wenn sie weiterhin ungebremst KI entwickeln (siehe www.lesswrong.com/posts/uFNgRumrDTpBfQGrs/let-s-think-about-slowing-down-ai). Der Kapitalwert einer zerstörten Welt ist minus unendlich. Das Problem ist, dass die "Spieler" die Spielsituation und die Regeln nicht verstehen (wollen).

@@KarlOlsbergAutor Ich habe mich eher gefragt ob das eine Gefangenendilemma Situation ist, wo alle Teilnehmer die Regeln verstehen und trotzdem einen schlechteren Weg einschlagen müssen, weil sie sonst gegen denjenigen verlieren der den schlechten Weg einschlägt. Die sind sich ja der Gefahren bewusst. Sam Altman hat vor dem Kongreß ausgesagt. Das Moratorium hat ja fast jeder unterschrieben. Es ist wie beim Umgang mit dem Klimawandel. Fehlendes Wissen ist nicht nicht das Problem. Fehlendes Wollen ist vermutlich auch nicht das Problem. Die aufgestellten Spielregeln bestimmen das Verhalten. Die Moloch Situation kann nur verhindert werden, wenn das Vertrauen zwischen den Teilnehmern existiert, das alle im gemeinsamen Interesse handeln. Das ist ja völlig illusorisch im Weltmasstab.

@@KarlOlsbergAutor Da wüsste ich den perfekten Fachmann den man diesbezüglich Fragen kann: www.youtube.com/@ProfRieck Nur so mal als Idee. Sie könnten ein Interview mit ihm machen und das Thema diskutieren. Soweit ich weiß beschäftigt er sich intensiv mit dem Thema KI.

@@gerhardvoelkl9365 Danke für den Hinweis!

Aus meiner Sicht wäre das keine hinreichende Lösung. Aber die Diskussion darüber können wir uns sparen, da das offensichtlich nicht die Strategie von Microsoft, OpenAI, Google etc. ist.

@@KarlOlsbergAutor ??? Das ist auch vollkommen egal. Ich brauche kein OpenAI und kein Microsoft & Co. wenn man aktuelle Modelle nutzt, dann geht das wunderbar lokal auf dem Rechner oder Server. Nutze seit einem halben Jahr keine Stock Images o.ä. mehr und als LLM nutze ich Olama lokal. Würde gerne meine Erfahrungen mit Ihnen austauschen, da ich fest davon überzeugt bin das wir durch KI den Traffic im Netz reduzieren können und somit den CO² Wert des Internets signifikant senken können. Bzgl. Kritischer Infrastruktur (KRITIS )ist Reanalogisierung und eine Nutzung von KI lokal und offline die beste Lösung (Nvidia Jetson o.ä.)

Das ist ein verständlicher Einwand. Es ist in der Tat genau wie z.B. beim Klimawandel unklar, ob wir die Lawine noch stoppen können. Aber das heißt nicht, dass wir nichts tun können bzw. sollten. Das Wichtigste ist, das Problem überhaupt ernstzunehmen. Erst, wenn ausreichend viele Menschen das tun, können wir Lösungen erarbeiten und umsetzen. Unsere einzige Überlebenschance ist es, bestimmte sehr dumme Dinge nicht zu tun, z.B. eine superintelligente KI entwicklen, ohne zu wissen, wie man sie kontrollieren kann. Das zu verhindern, geht vermutlich nur über staatliche Regulierung. Aber es ist zumindest prinzipiell möglich. Man kann bestimmte Dinge verbieten, man kann den Zugriff auf kritische Ressourcen (z.B. Grafikchips) regulieren. Bis dahin ist es zugegebenermaßen ein weiter Weg. Aber schon den ersten Schritt nicht zu tun und zu resignieren wäre fatal.

Danke für den Kommentar! Ich habe zu der Frage, was wir tun können bzw. sollten, einen Blogbeitrag geschrieben: www.ki-risiken.de/2024/05/20/was-k%C3%B6nnen-wir-tun/

Ein realistischer Handlungspfad, so abstrus es klingt, könnte sein, dass das US Militär OpenAI übernimmt, wenn Sie erkennen, dass es so gefährlich wie Atomwaffen ist. Allerdings setzt dies voraus, dass a) das Problem dort erkannt wird und b) man das Problem dann auch noch in den Griff bekommen kann.

Ein EU-finanziertes Alternativprojekt, aber open source! Man braucht zig Milliarden an Kapital, um hier mitmischen zu können.

Vielen Dank für den Hinweis! Ich habe das nicht bewusst gemacht. Beim nächsten Video werde ich versuchen, darauf zu achten.

Eine KI, die intelligent genug ist, um unkontrollierbar zu sein, wird einen Weg finden, zu verhindern, dass wir ihr den Strom abstellen (z.B. indem sie uns täuscht, manipuliert, besticht, erpresst, gegeneinander ausspielt ...). Anderenfalls könnten wir sie auch einfach ausschalten und sie wäre nicht unkontrollierbar.

@@KarlOlsbergAutor Deshalb wird sich die Gesellschaft spalten (was sich schon andeutet): in eine Fraktion, die naturnah lebt und ohne Stromnetze mit KI-Zugriff auskommt, und die andere, die mehr oder weniger Maschinen-kontrolliert wird und in einem "Hightec-Himmel" lebt (im Sanskrit Bila Svarga genannt) - der aber später kollabieren wird.

Die KI, die OpenAI bisher veröffentlicht hat, ist aus meiner Sicht ungefährlich, daher ist es auch völlig in Ordnung, dass OpenAI sie veröffentlicht. Das Problem ist die KI, die OpenAI nach eigener Aussage zu entwickeln versucht - eine "AGI", also eine allgemeine KI auf menschlichem Niveau. Diese könnte unkontrollierbar werden.

Ich glaube, es ist besser, wenn Jan Leike geht und Klartext redet, als wenn er bleibt und quasi als KI-Sicherheits-Feigenblatt missbraucht wird.

Die Grundlagen der KI sind einfach, aber KI ist kompliziert, auch ohne Kapitalismus. Der macht es allerdings nicht besser, da stimme ich zu.

Da kommt nicht „das Kapital“ und zerstört alles. Es reicht schon, dass ausreichend viele Menschen beteiligt sind, dann sind immer welche dabei, die ihre Macht ausbauen wollen, die anderen zu benachteiligen und so weiter. Menschen sind das Problem. Kommunismus ist auch recht einfach, aber leider mit Menschen nicht realisierbar.

www.ki-risiken.de/2024/05/20/was-k%C3%B6nnen-wir-tun/ (Ich werde in nächster Zeit auch noch ein Video darüber machen.)

"Die KI-Technik ist so genial, dass man hier nichts düsteres sehen muss." Das erscheint mir eine sehr naive Sichtweise. Es hat in der Geschichte der Menschheit noch keine Technologie gegeben, die nicht auch Schattenseiten hat. Ich stimme zu, dass die Konzentration bei einigen wenigen KI-Firmen unethisch und unfair ist, aber eine hoch gefährliche Technologie sollte auch nicht unbegrenzt OpenSource verfügbar sein. Um es klar zu sagen: Es gibt gute, ungefährliche KI-Anwendungen, die können gern auch OpenSource verfügbar sein. Aber es gibt Technologien, die nicht beliebig verbreitet werden dürfen, wie z.B. die Fähigkeit, tödliche Viren herzustellen, oder eben auch potenziell unkontrollierbare KI.

„Die KI-Technik ist so genial, dass man hier nichts düsteres sehen muss.“ Das hat man über Kernkraft am Anfang auch gesagt. Es wurden atomgetriebene Autos und sogar atomgetriebene Staubsauger vorausgesagt, weil diese Energie so genial war.

… oder einfach auch mal „Radium girls“ googlen. Solange man die Gefahren nicht versteht, ist immer alles toll.

@@chrysalis274 Es gab sogar einen Experimentierkasten für Kinder mit radioaktiven Materialien: en.wikipedia.org/wiki/Gilbert_U-238_Atomic_Energy_Laboratory

Welche Zeit des Endes?

Letztendlich kann man nur versuchen die Entwicklung in eine positive Richtung zu lenken, so lange dies möglich ist. Danach kann nur noch hoffen, dass KI es zukünftig mit dem Menschen gut meint.

@@ENH72 Wenn die KI keinen Vorteil mehr für sich in den Menschen sieht, sehe ich nicht warum die KI es mit den Menschen gut meinen sollte. Es gibt keinen logischen Grund. Die KI leistet sich keine Sentimentalitäten und sieht in den Menschen ab einem gewissen Zeitpunkt eher einen Ressourcenkonkurrenten (Energie, seltene Erden, Platz...) oder befindet die Menschheit einfach als ineffizient und als Bedrohung für sich selbst.

Leider wird der "Terminator" gerne benutzt, um ernst gemeinte Warnungen vor unkontrollierbarer KI als Science-Fiction und "Panikmache" zu verunglimpfen. Dabei ist das Skynet-Szenario aus heutiger Sicht leider gar nicht so unrealistisch, siehe futureoflife.org/project/artificial-escalation/

Leider wissen wir nicht, wie viel Zeit uns bis dahin noch bleibt. Ich befürchte, es sind nur noch wenige Jahre, und ich bin damit nicht allein. www.reddit.com/r/singularity/comments/15pj5ky/leading_expert_in_ai_yoshua_bengio_it_started_to/

aber entbehrlich ;)

Ich verstehe den Kommentar nicht. Wessen Befindlichkeiten wurden hier verletzt?

www.ki-risiken.de/2024/05/20/was-k%C3%B6nnen-wir-tun/

Ja, leider. Ich wollte eigentlich Science-Fiction-Romane schreiben, keine Sachbücher!!!

@@KarlOlsbergAutor schreib mir doch mal bitte eine Kurzgeschichte über Lottozahlen ;)

@@ronaldmcnoldas7616 Hier ist sie: 1, 2, 3, 4, 5, 6, Superzahl 7. Viel Glück!

Wenn AGI auf übermenschliche Intelligenz kommt, wäre das also ob eine Bande Chimpansen versucht einen Menschen eingesperrt zu halten.

Das wünsche ich mir auch.

Das ist nicht wahr. Eine KI, die mit Menschen kommunizieren kann, kann Menschen beeinflussen und hat so nahezu unbegrenzte Handlungsmöglichkeiten, wenn sie intelligent genug ist.

Was ist das denn für eine dumme Argumentation? Der „Intelligent Creator“ hat die ganzen Pflanzen der Urzeit vergraben, damit daraus Öl wird, das wir jetzt abbauen? Was soll denn bitte „sollen“ in diesem Zusammenhang bedeuten? Wirres Zeug.

Das mag ja sein, aber eine KI kann nur das werden, für das, wozu wir sie geschaffen haben. Wir wissen das, und lassen es zu. Komisch oder?

ChatGPT fragen?

@@caipi3625 🤣

Keine einfache Frage. Ein kurzer Text dazu von mir: www.ki-risiken.de/2024/05/20/was-k%C3%B6nnen-wir-tun/ Mehr dazu folgt.