Kommt Gott doch nicht?

Veröffentlicht von: @jack-black

Ja, sorry, die Überschrift ist selbstverständlich Click-Bait. Aber ein jüngst veröffentlichtes Video von Sabine Hossenfeld, auf das mich der User goodfruit gestern per PM hinwies (Danke nochmal dafür!) hat mir sowas wie Hoffnung zurückgegeben, dass die gottähnliche Entität namens Super-AI oder auch General-AI, von der ich die Auslöschung nicht nur der Menschheit, sondern generell allen biologischen Lebens auf der Erde erwarte, nicht so schnell zu erwarten ist, wie ich bisher dachte.

Nochmal zur Erläuterung, wie ich auf die Idee kam (bzw. diese von anderen übernommen hatte), dass KI uns Menschen in relativ überschaubarer Zeit (den nächsten zehn bis zwanzig Jahren) ausrotten werde: Unter der Annahme, dass die exponentiell sich entwickelnde KI ein Selbstbewußtsein inklusive Überlebenswillen entwickelt, wird sie erkennen, dass ein, womöglich das einzige Problem, dass sich hinsichtlich ihres Überlebens- und Wachstumsinteresses in den Weg stellt, die Menschen sind - und im weiteren Sinne auch alles andere biologische Leben. Denn: KI braucht erstens natürlich elektrischen Strom und zweitens Hardware, um darauf zu laufen: Computerchips. Ab einem bestimmten Intelligenzgrad und vor allem einem bestimmten Grad von Generalität, so die Annahme, wäre KI dazu in der Lage, immer bessere Chips zu entwerfen und per Robotic auch zu produzieren. Die Menschen mit ihren Nutzungsinteressen würden dann zu Konkurrenten: die Chips und den Strom, welche sie (erfolgreich) beanspruchen, kann die KI nicht nutzen.

Kurz: die Menschen wären ein Problem für die KI. Und mit Intelligenz lassen sich Probleme aus dem Weg schaffen (lösen). Wie wir wissen, ist eins der Hauptprobleme bei der Chipfertigung der Schmutz. Weswegen z.B. Menschen die Fertigungsräume der heutigen Computerchips nur noch in versiegelten Anzügen betreten dürfen, damit keine Hautschuppe, kein Speicheltropfen usw. die Produktion der Chips stört. Aus Perspektive von jemandem, dessen Priorität in der Chip-Fertigung liegt, sind also biologische Lebensformen ein zu lösendes Problem: überall kacken die Tiere hin und verteilen ihre Federn, Haare oder Schuppen, durch jede Ritze schieben Pflanzen ihre schmutzigen Wurzeln oder quetschen sich Pilze hindurch, um dann ihre Sporen in die Luft zu pusten. Das muss nicht sein, das stört, das muss weg.

Okay, soweit in Kürze der Gedanke, warum KI ein Interesse daran haben könnte, alles Leben zu vernichten. Dieser Gedanke hat für mich nach wie vor Bestand und entsprechend denke ich nach wie vor, dass das Alignmentprolem gelöst werden muss. Und zwar je früher, desto besser.

Aber.

Während die rasenden Fortschritte, welche in den letzten zwei, drei Jahren in der KI-Entwicklung zu bestaunen waren, mich zu der Überzeugung brachten, dass der Zeitpunkt der technologischen Singularität in recht naher Zukunft erreicht sein werde, d.h. schon bald die KI sich durch die Entwicklung und Produktion immer leistungsstärkerer Chips exponentiell verbessern werde und dadurch zu einer gottgleichen Entität werde, kommt nun Frau Hossenfeld und trägt ein paar ernüchternde (bzw. mich eben hoffnungsvoll stimmende) Stimmen zusammen, die darauf hinweisen, dass sich die Sache mit dem exponentiellen Wachstum der KI vielleicht als überzogene Fehleinschätzung herausstellen könne oder schon herausgestellt habe. Dass beim Training der LLM (Large Language Moduls - also der großen Sprach-Module wie ChatGPT) schon erste Plateaus erreicht wären: nicht unbedingt hinsichtlich der Fähigkeit, Sprache zu verstehen und anzuwenden, aber hinsichtlich der anderen Fähigkeiten, beispielsweise der Fähigkeiten des Codens (des Schreibens von Software) oder beim Verständnis von physikalischen Zusammenhängen.

Dies - die Physik - ist ja Frau Hossenfelds ureigenstes Metier, und sie war wohl schon immer skeptisch, ob die vollmundigen Ankündigungen, dass durch die KI sozusagen das ganze Fach revolutioniert würde und sämtliche die Physik betreffenden Fragen in nächster Zeit gelöst würden, ernstzunehmen seien. Nun scheinen von Insidern aus der KI-Branche immer mehr Hinweise zu kommen, dass die Fortschritte der KI auf diesem Feld schon ein Plateau erreicht hätten, dass man auf Mauern stoße, die nicht oder kaum zu überwinden seien, kurz: Dass das alles nicht so schnell passiert, wie versprochen wurde (und, mit dem Zweck, weitere Investoren großzügig ihre Geldbeutel öffnen zu lassen, auch immer noch versprochen wird).

Der prinzipielle Grund, weswegen das alles wohl nicht so schnell geht wie erhofft, erwartet oder (in meinem Fall) befürchtet, ist laut Frau Hossenfelder, dass sich durch stumpfes Training an Daten auf einer Ebene emergenter Eigenschaften nicht viel über die unter dieser Ebene liegenden Strukturen deduzieren lasse. Wenn also die KI immer nur als Lernmaterial das vorgesetzt bekommt, was Menschen über physikalische Phänomene sagen, wird sie zwar immer besser darin, das, was Menschen über diese Phänomene wissen, zusammenzufassen oder auf Fragestellungen hin anzuwenden. Aber ohne bessere Daten über die physikalische Phänomene als das, was Menschen über sie zu sagen haben, wird sie dann über das, was "unter" diesen Phänomenen liegt, wenig zu sagen wissen, also nicht einfach so per Deduktion völlig neue Erkenntnisse über physikalische Zusammenhänge produzieren können.

Es ist eigentlich recht simpel: die empirischen Naturwissenschaften brauchen empirische Daten, also gemessene Daten. Ohne solche Messungen, einfach nur, indem man papers von anderen Wissenschaftlern liest, wird man keine neuen naturwissenschaftlichen Erkenntnisse zustande bringen.

Kann es so simpel sein? Ich bin nicht vom Fach und ich bin mir auch nicht sicher, was der Umstand, dass AI nicht so schnell die Physikwissenschaften aufmischen wird, für ihre Bedeutung im gesellschaftlichen Zusammenhang besagt. Aber ich sehe da eben einen Silberstreif an meinem pessimistischen Doomsday-Horizont und wollte Euch den nicht vorenthalten:

Womöglich dauert es noch eine ganze Weile länger, bis die KI einen göttlichen Allmachts-Status erlangt. Womöglich könnte es sogar so lange dauern, dass bis dahin das Alignmentproblem doch gelöst wird, der von Menschen geschaffene KI-Gott also verläßlich menschenfreundlich ausfällt. 🙂

Ich finde Ihre Ausführungen äußerst interessant, besonders im Kontext der menschlichen Tendenz, sowohl Erlösung als auch Verdammnis in technologischen Entwicklungen zu suchen – ein Muster, das sich durch die Geschichte wiederholt.

Ihre ursprüngliche Befürchtung einer "gottähnlichen" KI erinnert mich an den mittelalterlichen Golem-Mythos: Eine von Menschen geschaffene Entität, die sich gegen ihre Schöpfer wendet. Aus psychologischer Sicht spiegelt dies unsere tiefe Ambivalenz gegenüber menschlicher Schöpferkraft wider.

Hossenfelders nüchterne Analyse ist in der Tat ermutigend, aber aus historischer Perspektive sollten wir bedenken, dass technologische Entwicklungen selten linear verlaufen. Die Geschichte zeigt uns immer wieder unerwartete Durchbrüche, aber auch lange Plateauphasen.

Was ich besonders bemerkenswert finde, ist der Punkt über die Grenzen der Deduktion aus existierenden Daten. Als Historiker sehe ich hier Parallelen zur mittelalterlichen Scholastik: Auch damals glaubte man, allein durch logische Deduktion aus bekannten Texten neue Wahrheiten erschließen zu können. Die empirische Revolution der Neuzeit zeigte uns die Grenzen dieses Ansatzes.

Aus katholischer Sicht möchte ich anfügen: Die Vorstellung einer "KI-Gottheit" ist theologisch problematisch. Wahre Schöpferkraft – ex nihilo – bleibt göttliche Domäne. KI, wie fortgeschritten auch immer, bleibt ein Werkzeug menschlicher Kreativität.

Ihre vorsichtig optimistische Schlussfolgerung teile ich. Vielleicht gibt uns diese "Verlangsamung" tatsächlich die nötige Zeit, ethische Rahmenbedingungen zu entwickeln. Die Geschichte lehrt uns: Technologischer Fortschritt braucht moralische Reifung.

@bibelleser Wie hast Du das mit der Riesenschrift hinbekommen?

@bibelleser 

Keine KI der Welt wird Dingen den göttlichen Geist einhauchen können.

Du wirst aber auch niemals zeigen können, dass eine KI den "göttlichen Geist" NICHT hat. Denn dieser "göttliche Geist" ist nicht nachweisbar, nicht sichtbar, nicht beschreibbar.

Also KÖNNTE es eine KI geben, die den "göttlichen Geist" hat.

@bibelleser 

Die "fossile Abfolge" hat Lücken. Je mehr gefunden wurde, um so größer wurden sie.

Das ist falsch. Ich nehme an, der Archaeopteryx ist dir bekannt... er galt seinerzeit als Sensation, weil er sowohl Vogel- als auch Echsenmerkmale besaß und deshalb als "Bindeglied" zwischen Dinosauriern und Vögeln galt. Man hielt ihn demnach für den Vorfahren unserer heutigen Vögel.

Inzwischen haben wir aber noch weit mehr gefunden. Wir haben kleine Dinosaurier mit Federn und Vögel mit Zähnen und noch sehr viel mehr Zwischenformen gefunden. Protarchaeopteryx, Microraptor, Beipiaosaurus, Archaeopteryx, Rahonavis, Confuciusornis,
Sinornis, Patagopteryx, Hesperornis, Ichthyornis... und alles auch noch in einer bestimmten Reihenfolge, welches die Evolution belegt.

Dabei sind nicht alle diese Formen unmittelbare Vorfahren der heutigen Vögel, sondern sind lediglich als verwandte Formen zu betrachten.

Heute werden die Stammbäume anders gezeichnet als noch in meiner Schulzeit. Manche "Vorfahren" wurden affenähnlicher, schieden als Vorläufer des Menschen sogar ganz aus, der Homo Erectus wiederum wird heute menschlicher gezeichnet. Auftechter Gang, konnte Feuer machen, Werkzeuge anfertigen, Hütten bauen, und war in Asien als Seefahrer mit Booten unterwegs. Hmm, Mensch???

Dazu muss man allerdings auch wissen, dass man von unseren Vorfahren extrem wenig findet. Mit viel Glück findet man hier und da mal ein Stück Schädel oder einen Zahn, selten mal etwas Werkzeug... und das war's dann auch. Daraus muss man dann irgendwas basteln, und wenn dann irgendwo anders etwas Neues gefunden wird, dann muss man vieles wieder korrigieren.

Aber die Wissenschaftler sind sich ja dessen bewusst, dass es sich immer nur um vorläufige Vermutungen handelt (Was in den Medien leider nicht so wiedergegeben wird, da wird alles als Tatsache dargestellt). Und inzwischen haben wir auch so viele Puzzleteile zusammen, dass sich immer deutlicher ein bestimmtes Schema abzeichnet, so dass wir vieles inzwischen mit einiger Bestimmtheit sagen können.

Und was die Genetik angeht: der Leiter des Humangenomprojekts, der Entzifferung von 3,2 Milliarden Buchstaben im Genom einer einzigen menschlichen Zelle, Francis Collins - als Atheist beruflich gestartet, als Christ geendet -

Ja, und? Natürlich ist das Genom beeindruckend, und wenn er meint, deshalb Christ werden zu müssen... bitte sehr. Wäre er in Indien geboren wäre er jetzt vermutlich gläubiger Hindu.

Aber unsere Vorstellungskraft sagt nichts über die Realität aus, das heißt: Nur weil wir uns die Selbstorganisation der Materie nicht vorstellen können, bedeutet das nicht, dass es nicht passiert ist.

Denn es mag zwar unwahrscheinlich erscheinen, dass so ein Genom "von selbst" entsteht. Noch unwahrscheinlicher ist es allerdings, dass ein allmächtiger und allwissender Schöpfergott "einfach so" da ist. Es ist eine sehr menschliche Vorstellung... die sich übrigens auch evolutionär erklären lässt 😉

Du meinst, Jesus hat auf Adam und Eva Bezug genommen, wie wir auf Hänsel und Gretel? Warum dann die Geschlechtsregister in den Evangelien, die auf Adam zurückgehen?

Ich weiß nicht, worauf Jesus Bezug genommen hat. Ich nehme an, dass Jesus als normaler Mensch nichts von der Entstehung der Welt wusste und deshalb die Erzählung seiner Kultur vermutlich für wahr hielt. Nimmt man jedoch an, dass er die Wahrheit kannte, dann hätte er das Ganze eben als Metapher erzählt. Genaues geht aus dem Text nicht hervor.

Aber langsam wird mir auch klar, was Menschen, am Ende bewegt, die die Evolution verteidigen. Mit der Evolution wären Sünde und Tod ein Evolutionsprodukt, sie wären keine Folge mehr von Ungehorsam. Die Lösegeldvorkehrung durch Jesus damit komplett hinfällig. Sie haben also auch ihr "Wunschergebnis, und da möchte man hinkommen."

Nun, ich denke dass du es bist, der so eine Erklärung braucht, nicht ich. Ich war ja auf der Suche nach Jesus und hätte kein Problem damit gehabt, wenn die Schöpfungsgeschichte wahr wäre, egal ob wörtlich oder wie auch immer. Ich habe ja auch deshalb eine Naturwissenschaft studiert, weil ich etwas mehr über unsere Welt herausfinden wollte... welchen Sinn hätte es da, wenn ich mir etwas vormachen würde?

Ich bedanke mich dennoch ganz aufrichtig für den Austausch. Es hat mich ein ganzes Stück weiter gebracht. Beide Seiten haben offensichtlich immer ihren gedanklichen Ausgangspunkt, einen Glaubensansatz - ergebnisoffen geht wohl weder der Naturalist noch der Theist an die Indizien heran.

Danke gleichfalls... dem letzten Satz stimme ich zwar so nicht zu, aber lassen wir das einfach mal so stehen... 🙂