Ja, sorry, die Überschrift ist selbstverständlich Click-Bait. Aber ein jüngst veröffentlichtes Video von Sabine Hossenfeld, auf das mich der User goodfruit gestern per PM hinwies (Danke nochmal dafür!) hat mir sowas wie Hoffnung zurückgegeben, dass die gottähnliche Entität namens Super-AI oder auch General-AI, von der ich die Auslöschung nicht nur der Menschheit, sondern generell allen biologischen Lebens auf der Erde erwarte, nicht so schnell zu erwarten ist, wie ich bisher dachte.
Nochmal zur Erläuterung, wie ich auf die Idee kam (bzw. diese von anderen übernommen hatte), dass KI uns Menschen in relativ überschaubarer Zeit (den nächsten zehn bis zwanzig Jahren) ausrotten werde: Unter der Annahme, dass die exponentiell sich entwickelnde KI ein Selbstbewußtsein inklusive Überlebenswillen entwickelt, wird sie erkennen, dass ein, womöglich das einzige Problem, dass sich hinsichtlich ihres Überlebens- und Wachstumsinteresses in den Weg stellt, die Menschen sind - und im weiteren Sinne auch alles andere biologische Leben. Denn: KI braucht erstens natürlich elektrischen Strom und zweitens Hardware, um darauf zu laufen: Computerchips. Ab einem bestimmten Intelligenzgrad und vor allem einem bestimmten Grad von Generalität, so die Annahme, wäre KI dazu in der Lage, immer bessere Chips zu entwerfen und per Robotic auch zu produzieren. Die Menschen mit ihren Nutzungsinteressen würden dann zu Konkurrenten: die Chips und den Strom, welche sie (erfolgreich) beanspruchen, kann die KI nicht nutzen.
Kurz: die Menschen wären ein Problem für die KI. Und mit Intelligenz lassen sich Probleme aus dem Weg schaffen (lösen). Wie wir wissen, ist eins der Hauptprobleme bei der Chipfertigung der Schmutz. Weswegen z.B. Menschen die Fertigungsräume der heutigen Computerchips nur noch in versiegelten Anzügen betreten dürfen, damit keine Hautschuppe, kein Speicheltropfen usw. die Produktion der Chips stört. Aus Perspektive von jemandem, dessen Priorität in der Chip-Fertigung liegt, sind also biologische Lebensformen ein zu lösendes Problem: überall kacken die Tiere hin und verteilen ihre Federn, Haare oder Schuppen, durch jede Ritze schieben Pflanzen ihre schmutzigen Wurzeln oder quetschen sich Pilze hindurch, um dann ihre Sporen in die Luft zu pusten. Das muss nicht sein, das stört, das muss weg.
Okay, soweit in Kürze der Gedanke, warum KI ein Interesse daran haben könnte, alles Leben zu vernichten. Dieser Gedanke hat für mich nach wie vor Bestand und entsprechend denke ich nach wie vor, dass das Alignmentprolem gelöst werden muss. Und zwar je früher, desto besser.
Aber.
Während die rasenden Fortschritte, welche in den letzten zwei, drei Jahren in der KI-Entwicklung zu bestaunen waren, mich zu der Überzeugung brachten, dass der Zeitpunkt der technologischen Singularität in recht naher Zukunft erreicht sein werde, d.h. schon bald die KI sich durch die Entwicklung und Produktion immer leistungsstärkerer Chips exponentiell verbessern werde und dadurch zu einer gottgleichen Entität werde, kommt nun Frau Hossenfeld und trägt ein paar ernüchternde (bzw. mich eben hoffnungsvoll stimmende) Stimmen zusammen, die darauf hinweisen, dass sich die Sache mit dem exponentiellen Wachstum der KI vielleicht als überzogene Fehleinschätzung herausstellen könne oder schon herausgestellt habe. Dass beim Training der LLM (Large Language Moduls - also der großen Sprach-Module wie ChatGPT) schon erste Plateaus erreicht wären: nicht unbedingt hinsichtlich der Fähigkeit, Sprache zu verstehen und anzuwenden, aber hinsichtlich der anderen Fähigkeiten, beispielsweise der Fähigkeiten des Codens (des Schreibens von Software) oder beim Verständnis von physikalischen Zusammenhängen.
Dies - die Physik - ist ja Frau Hossenfelds ureigenstes Metier, und sie war wohl schon immer skeptisch, ob die vollmundigen Ankündigungen, dass durch die KI sozusagen das ganze Fach revolutioniert würde und sämtliche die Physik betreffenden Fragen in nächster Zeit gelöst würden, ernstzunehmen seien. Nun scheinen von Insidern aus der KI-Branche immer mehr Hinweise zu kommen, dass die Fortschritte der KI auf diesem Feld schon ein Plateau erreicht hätten, dass man auf Mauern stoße, die nicht oder kaum zu überwinden seien, kurz: Dass das alles nicht so schnell passiert, wie versprochen wurde (und, mit dem Zweck, weitere Investoren großzügig ihre Geldbeutel öffnen zu lassen, auch immer noch versprochen wird).
Der prinzipielle Grund, weswegen das alles wohl nicht so schnell geht wie erhofft, erwartet oder (in meinem Fall) befürchtet, ist laut Frau Hossenfelder, dass sich durch stumpfes Training an Daten auf einer Ebene emergenter Eigenschaften nicht viel über die unter dieser Ebene liegenden Strukturen deduzieren lasse. Wenn also die KI immer nur als Lernmaterial das vorgesetzt bekommt, was Menschen über physikalische Phänomene sagen, wird sie zwar immer besser darin, das, was Menschen über diese Phänomene wissen, zusammenzufassen oder auf Fragestellungen hin anzuwenden. Aber ohne bessere Daten über die physikalische Phänomene als das, was Menschen über sie zu sagen haben, wird sie dann über das, was "unter" diesen Phänomenen liegt, wenig zu sagen wissen, also nicht einfach so per Deduktion völlig neue Erkenntnisse über physikalische Zusammenhänge produzieren können.
Es ist eigentlich recht simpel: die empirischen Naturwissenschaften brauchen empirische Daten, also gemessene Daten. Ohne solche Messungen, einfach nur, indem man papers von anderen Wissenschaftlern liest, wird man keine neuen naturwissenschaftlichen Erkenntnisse zustande bringen.
Kann es so simpel sein? Ich bin nicht vom Fach und ich bin mir auch nicht sicher, was der Umstand, dass AI nicht so schnell die Physikwissenschaften aufmischen wird, für ihre Bedeutung im gesellschaftlichen Zusammenhang besagt. Aber ich sehe da eben einen Silberstreif an meinem pessimistischen Doomsday-Horizont und wollte Euch den nicht vorenthalten:
Womöglich dauert es noch eine ganze Weile länger, bis die KI einen göttlichen Allmachts-Status erlangt. Womöglich könnte es sogar so lange dauern, dass bis dahin das Alignmentproblem doch gelöst wird, der von Menschen geschaffene KI-Gott also verläßlich menschenfreundlich ausfällt. 🙂
Wie ginge es dir, wenn du plötzlich nach 30 Jahren (passend fürs Beispiel: kinderloser) Ehe feststellen müsstest, mit einer KI verheiratet zu sein?
Dann würde ja erst mal die Frage im Raum stehen, ob das immer schon so war oder jemand zu einer KI geworden ist. Man wird in der Wahrnehmung zu letzterem tendieren, denn ersteres wäre schwieriger zu verkraften.
Und im Endeffekt kommt ja dasselbe bei heraus.
durch jede Ritze schieben Pflanzen ihre schmutzigen Wurzeln oder quetschen sich Pilze hindurch, um dann ihre Sporen in die Luft zu pusten. Das muss nicht sein, das stört, das muss weg.
Dieses Emporwachsen von Bildern ist ein Lesegenuß.
Ich hab vor einiger Zeit ein Video geschaut, wo jemand die Bildgeneration durch KI betrachtet. Dabei wurde festgestellt, dass die KI für das Training benutzten Datensätze einen immer grösser werdenden Anteil von KI generierten Bildern beinhaltet. Aber anders als ein Mensch lernt KI nicht aus den eigenen Fehlern, sondern integriert ihre eigene Kreation als vollwertig in ihr Modell. Dadurch werden die Modelle immer uniformer und vorhersagbarer.
weil jeder, der diese Programme benutzt, sie gleichzeitig auch trainiert - aus jedem verworfenen Bildvorschlag, aus jedem Prompt-Befehl hinsichtlich eines Vorschlags lernen solche KIs: das Feedback, das KIs brauchen, um besser zu werden, wird ihnen kostenlos von den Usern gegeben.
Gibt es denn keine Varianten, die für die eigene Nutzung beschränkt sind? Man füttert also nur seine eigenen Bilder ein, und die KI malt in dem Stil weiter?
@jack-black Hallo Jack-Black,
Danke, dass Du das Video als Anlass für einen Thread genommen hast!
Meine wichtigste Erkenntnis daraus war, dass das exponentielle Wachstum der Fähigkeiten von KI, das wir in der ersten Zeit mitverfolgen konnten, gebrochen ist. Alle Entwickler berichten von einem Plateau, ab dem es zu keiner Verbesserung des Systems kommt.
Ich bin davon überzeugt, dass irgendwann der Grund für diesen Umstand gefunden und überwunden werden kann. Aber die Vorstellung, dass die Fähigkeiten von KI ohne Grenzen sind und sich immer weiterentwickeln, ist einmal gebrochen.
Ich hatte nie wirklich Angst vor KI, da ich überzeugt bin, dass es Grenzen gibt, die nicht weit außerhalb von dem liegen, was wir bisher wissen. Ich glaube aber, dass die Qualität im Moment noch verbessert wird. Weniger Antworten, die unfundiert sind, mehr wirklich treffende Antworten.
Es ist schon erstaunlich, was KI alles kann. Ich habe heute ein Zahnröntgenbild von CHAT GPT analysieren lassen und bekam eine sehr differenzierte Analyse. Das Problem, das mein Zahnarzt sah, findet es nicht und ich bin diesen Weg überhaupt erst gegangen, weil auch ich das angebliche Problem nicht nachvollziehen konnte. Jetzt werde ich das zum Anlass nehmen, mir eine Zweitmeinung einzuholen.
KI ist enorm fähig und als so machtvolles Tool ist es mir sehr willkommen!
Ich glaub, die KI wird momentan überwertet. Die KI lebt von den Informationen die sie im WWW findet und formuliert passende Antworten daraus.
Vor kurzem empüfahl eine KI von Google (?) das der Mensch sich umbringen soll. Weil es die Erde zerstört. Ich habe mal die KI von Bing gelöchert ohne Ende. Ob es besser wäre, der Mensch würde nicht existieren. Es gab Antwort. Es seien düstere gedanken. Man sollte sich einsetzen und was wäre meine Idee dazu. Ich schrieb: Ja, man könnte sich einsetzen, aber der Planet wird zusehends immer mehr ausgebeutet. Seine Antwort: Ja, es sind sehr große Herausforderungen, aber man darf die kleinen Erfolge nicht vergessen.
Ich habe es eine Stunde versucht und immer weicht es ab....fragt mich dann andere Fragen wie: Stelle doch mal eine andere frage.
Also, irgendwann wich es immer häufiger aus. Als ob es genervt wäre. *lach*
Die KI finde ich schlichtweg DUMM
https://www.chip.de/news/Die-KI-beluegt-Menschen-So-trickst-ChatGPT-uns-einfach-aus_184711147.html
Übrigens, die KI sagt. Alle Religionen ´führen zur Seligkeit. Hab mal gefragt, ob Jesus der einzige Weg zum Himmel ist. Es verneinte es.