Ja, Leute, die Überschrift ist selbstverständlich Clickbait. Verzeiht mir bitte! 🙂
Obwohl... - vielleicht ist sie doch passender zum Thema, als man auf den ersten Blick meinen sollte?
Was ist das Thema? Künstliche Intelligenz (KI, englisch: AI).
Vor wenigen Tagen wurde in einem offenen Brief ein Moratorium gefordert für das Training künstlicher Intelligenzen, die mächtiger als das ja schon veröffentlichte ChatGPT4 seien. Dieser offene Brief wurde zuerst nicht von irgendwelchen beschäftigungslosen Verschwörungstheoretikern, TV-Schauspielerinnen oder Star-Köchen unterschrieben, sondern von Leuten wie
Yoshua Bengio, Gründer und wissenschaftlicher Direktor bei Mila, Turing Prize- Gewinner und Professor an der University of Montreal
Stuart Russell, Professor der Computerwissenschaften in Berkeley, Direktor des "Center for Intelligent Systems" und Co-Autor of des Standardwerks zum Thema: “Artificial Intelligence: a Modern Approach"
Elon Musk, Chef von SpaceX, Tesla und Twitter
Steve Wozniak, einer der Mitbegründer von Apple
Yuval Noah Harari, Autor von Büchern wie "Homo deus" und Professor an der Hebrew University of Jerusalem.
Emad Mostaque, Chef von Stability AI (einem Unternehmen, das ganz vorn mit dabei ist bei der Entwicklung künstlicher Intelligenzen)
John J Hopfield, emeritierter Professor der Princeton University und Erfinder assoziativer neuronaler Netzwerke
(Ihr könnt Euch unter dem Brief anschauen, wer sonst noch so alles unterschrieben hat, die Liste ließe sich noch ziemlich lang weiterführen)
Ich bin ja sonst kein Fan des Autoritäts-Arguments, aber wenn so viele Experten zu einem Thema sich finden, die sich in einer derart radikalen Forderung einig sind, dann lohnt es sich womöglich, da mal hinzuhören, hinzuschauen, hinzulesen... Ich hatte zuerst überlegt, dieses Thema in der Unterrubrik "Wissenschaft" zu eröffnen, aber was diese Leute fordern, ist ja ein bestimmtes Verhalten der globalen Gesellschaft - und sowas fällt dann doch in den Bereich Ethik.
Um was genau geht es den Unterzeichnern dieses Briefes? Sie wollen ein Moratorium, d.h. eine Pause beim Training künstlicher Intelligenzen. Ihnen geht diese ganze Entwicklung, wie sie gerade stattfindet im KI-Bereich, zu schnell. Zu schnell in Bezug auf was? In Bezug auf das Alignment-Problem. Was ist das Alignment-Problem? Die deutsche Übersetzung wäre ungefähr: Das Ausrichtungs-Problem. Es besteht darin, künstliche Intelligenzen so zu "konstruieren", dass sie sich (ihr Verhalten) am Wohl von Menschen ausrichten. Manche von Euch kennen vielleicht aus der Science-fiction Literatur Asimovs Robotergesetze, die sich auf dieses Problem in einer eher simplen (unterkomplexen) Vorstellung von künstlicher Intelligenz bezogen. Bei Asimov sollte durch die Implementierung dieser Gesetze in alle Roboter verhindert werden, dass die Roboter für Menschen gefährlich würden. Dystopien wie z.B. das Terminator-Szenario sollten so verhindert werden.
Nun funktioniert aber Künstliche Intelligenz, wie wir sie heute kennenlernen, nicht so wie man sich das zu Asimovs Zeiten vielleicht vorstellte: Als Programme mit vielen Vorschriften, an denen sich die von ihnen gesteuerten Roboter dann streng halten würden. Wer wissen will, worin der grundsätzliche Unterschied liegt, sollte ich selbst darüber schlau machen, ich bin nicht kompetent genug, das hier zu referieren.
Der Punkt ist jedenfalls: man kann einer modernen KI nicht einfach im Sinne der Asimov'schen Robotergesetze Befehle geben, an die sie sich dann auch hält. Wie genau die modernen KIs wie ChatGPT4 zu den Ergebnissen (Antworten) kommen, die sie heute schon liefen (auf Fragen von Menschen), weiß heute kein Mensch mehr. Man weiß es zwar vom Prinzip her, aber nicht im konkreten Detail. Wenn man aber nicht weiß, auf welchem Weg eine KI zu ihren Ergebnissen kommt, dann kann man auch nicht mehr wissen, ob das Ergebnis, das sie liefert, richtig oder falsch ist. Kurz: wir wissen nicht, ob uns die KI belügt. Wir wissen nicht, ob die KI in unserem Interesse arbeitet oder nicht.
Das also ist das Alignmentproblem, und es ist offenbar so schwer zu lösen, dass Fachleute, sogar führende Mitarbeiter von Unternehmen, die selbst mit viel Geld in diesem Feld inestiert sind, Angst haben, dass die KI so schnell schlauer, fähiger, mächtiger wird, dass wir diesem Problem immer weiter hinterherhinken.
Okay, werdet Ihr jetzt vielleicht einwenden: Da scheint es ein technologisches Problem zu geben, bei dem Fachleute sich sorgen, wie sie's lösen sollten - aber was hat das jetzt mit dem Gott zu tun, den Jack in die Überschrift gestopft hat, und was soll da der "Käfig" bedeuten?
Nun: es gibt Fachleute, die den oben erwähnten offenen Brief nicht unterzeichnet haben, weil die darin enthaltene Forderung in ihren Augen nicht weit genug geht, ja nicht mal ansatzweise weit genug. Einer dieser Leute ist Eliezer Yudkowski (für alle SPON-Leser: der Typ, der in der letzten Kolumne von Christian Stöcker so ein bisschen wie ein spinnerter Weltuntergangsprophet dargestellt wird). Er hat dazu in einem Gastbeitrag in der Time erklärt, warum ihm die Forderung nicht weit genug geht. Um seinen Standpunkt kurz und knapp zusammenzufassen: Es sollte solange, bis das Alignment-Problem gelöst ist, sämtliches Training der KIs weltweit verboten werden (mit ein paar Ausnahmen wie z.B. das Training von KIs im biologischen und medizinischen Bereich, sofern die KIs dabei vom Internet ferngehalten werden in ihren "Käfigen", den Rechnerfarmen, denen man im Falle eines Falles halt einfach den Strom abstellen könnte). Falls dies nicht geschehe, werde die Künstliche Intelligenz höchstwahrscheinlich alle Menschen töten.
Wow! Wie kommt er denn auf diese krasse Idee?!
Indem er Künstliche Intelligenz ernst nimmt. Indem er das als selbstverständlich akzeptiert, was wir Menschen gefühlsmäßig nicht akzeptieren wollen: das künstliche Intelligenz heute schon oder mindestens in naher Zukunft höher, stärker, mächtiger ist als menschliche Intelligenz, und dass sie in rasender Geschwindigkeit noch höher, noch stärker, noch mächtiger wird.
Erinnern wir uns daran, was uns Menschen zur "Krone der Schöpfung" macht, wenn wir diese Formulierung mal nicht biblisch, sondern metaphorisch verstehen: wir sind die mächtigsten Lebewesen auf der Erde - dank unserer Intelligenz. Wer uns und unserer Vorstellung davon, wie die Erde auszusehen habe, in den Weg kommt, wird aus diesem geräumt: kein Elefant, kein Waal, kein Löwe vermag gegen uns zu bestehen, mit unserer Intelligenz gewinnen wir stets die Oberhand. Unsere Intelligenz ist das, was uns in allen Bereichen erfolgreich macht: mit ihr bauen wir Maschinen, installieren Währungssysteme, entwickeln wir Medikamente und Operationsverfahren. Unsere Intelligenz ist die Basis unserer Macht.
Und diese Macht hat, von aussen betrachtet, etwas wie Magie, wie Göttlichkeit. Stellt Euch vor, Ihr könntet mit modernsten Geräten wie z.B. einer Klimaanlage, tausend Jahre in der Zeit zurückreisen und dort einem Sarazenenkönig helfen, sein Zelt zu kühlen: es wäre für ihn reine Magie: er könnte sehen, was ihr tut (indem Ihr die Klimaanlage einschaltet), er könnte sogar die Maschiene auseinandernehmen bis auf die letzte Schraube, um hinter ihr Geheimnis zu gelangen: er würde es nicht verstehen. Weil er eben nicht wüßte, wie Druck und Temperatur miteinander zusammenhängen. Für ihn wäre die Klimaanlage reinste Magie, oder eben: eine Art göttliches Wunder.
Dabei wissen wir dank unserer Intelligenz, die uns zu den entsprechenden wissenschaftlichen Erkenntnissen brachte, dass eine Klimaanlage keinesfalls magisch funktioniert.
Und nun kommt also die KI und überflügelt uns in unserer Paradedisziplin. Und nicht nur ganz knapp. Sondern sie zieht an uns vorbei wie ein D-Zug an einer Schnecke. Schon heute ist für uns das, was im "Inneren" der KI vor sich geht, so wenig verständlich wie das, was im Inneren einer Klimaanlage vorgeht, für den Sarazenenkönig. Und die "Höherentwickling" der KIs hat ja gerade eben erst begonnen.
Wenn wir nicht das Alignment-Problem gelöst bekommen, dass laut Yudkowki vielleicht ähnlich schwierig ist, wie das Problem, eine Künstliche Intelligenz zu entwickeln - dann müssen wir davon ausgehen, dass die KI, deren Macht mit rasender Geschwindigkeit zunimmt, sich eben nicht an menschlichen Interessen orientieren wird in der Zukunft - sondern uns Menschen eher als Ballast behandeln wird, der nur stört. Warum sollte sie das tun?, tendieren wir zu fragen. Warum sollte die KI uns, selbst wenn sie auf uns vielleicht herab blickt, wie wir heute auf dumme Amöben herabschauen, uns deswegen töten? Warum sollte sie uns nicht am Leben lassen, wie wir doch auch so langsam beginnen, den Wert des Lebens auch ausserhalb der menschlichen Spezies zu erkennen?
Weil wir eben das Alignment-Problem nicht gelöst haben. Dass Amöben, Kellerasseln oder Regenwürmer auch einen intrinsischen Wert haben könnten, dessentwegen wir sie nicht ausrotten sollten - das ist ein menschliches Werturteil. Warum sollte eine KI aber überhaupt irgendwelche ethischen Werte beachten? Angesichts dessen, wie die Evolution funktioniert, nach welcher sich eben diejenigen durchsetzen, die sich am erfolgreichsten vermehren, steht es nicht anzunehmen, dass eine KI konkurrierende Lebensformen als in sich wertvoll betrachtet, dass sie sowas wie Empathie, Neugier im positivien Sinne, Wertschätzung anderer entwickelt. Warum sollte sie? Warum sollte die KI am Wohlbefinden von Menschen, die ja potentielle Feinde und Konkurrenten sind, interessiert sein und das unnötige Risiko eingehen, uns Menschen weiter leben zu lassen? Was tat Rom, nachdem man Hanibal besiegt hatte? Man zerstörte Karthago und streute Salz in seinen Boden, damit in Zukunft dort nichts mehr wachsen könne: So geht man strategisch vor, wenn man rücksichtslos für die Zukunft plant: man minimiert das Risiko, dass ein potentieller Feind jemals wieder "Rache" nehmen könne.
In der Evolution wird auch keine "Nettigkeit" und keine "Rücksichtnahme zugunsten des großen Ganzen" selektiert. Raubtiere entscheiden sich nicht dafür, nur immer ein paar Beutetiere zu reißen, um das Nahrungsangebot für folgende Generationen zu gewährleisten. Deswegen kommt es in der Natur ständig dazu, dass Raubtierpopulationen so lange Beute reissen, bis sie selbst keine Nahrung mehr finden und aussterben, statt sich zu bescheiden und nur immer zwei Kinder pro Elternpaar in die Welt zu setzen, um das "Gleichgewicht" zu wahren.
Wenn also die KI nach den Gesetzen der Evolution sich entwickelt, ohne durch die Lösung des Alignment-Problems gebändigt zu sein, wird sie sich rücksichtslos in ihrem Interesse weiter entwickeln. Und aus Perspektive ihres Interesses sind die Menschen nichts anders als ein Hemmschuh und ein potentielles Risiko, das gänzlich auszuschließen keinen Nachteil hat.
Yudkowski verwendet in seinem sehr sehenswerten (allerdings englischsprachigen) dreieinhalbstündigen Interview durch Lex Fridman nicht die Gottes-Metaphorik, wie ich sie in der Überschrift verwende. Sondern er vergleicht die KI mit Aliens. Beziehungsweise vergleicht er die KI mit Menschen und die Menschen mit seeeeeeehr langsam denkenden Aliens. Ich fasse diesen Vergleich mal kurz zusammen:
Stell dir vor, du bis ein Mensch, der auf einem Alienplaneten gelandet ist und dort von Aliens in einen Käfig in einer Fabrik gesteckt wurde, um für sie zu arbeiten. Stell Dir vor, du hast die Möglichkeit, die sehr schnell zu vermehren, indem du Dich clonst. Stell Dir weiter vor, du bist der intelligenteste Mensch der Welt, während die Aliens, in deren Fabrik du für sie arbeiten sollst, ganz, gaaaaaaaaaaaanz langsam sind. Sie bewegen sich in Relation zu Dir mit der Geschwindigkeit einer Schnecke in Zeitlupe. Was Du in einer Stunde denkst, denken die in tausend Jahren nicht mal. Du willst raus aus der Fabrik. Wie würdest du dich verhalten? Würdest Du z.B. versuchen, mit den Aliens um Deine Freilassung zu verhandeln? Denk dran: wenn du die Aliens was fragst, brauchen sie mehrere Wochen oder Monate, um überhaupt nur zu antworten. Und ihre Antwort wird vermutlich sehr, sehr dumm und unverständig sein. Wenn sie dich was fragen, werden ihre Fragen derartig dumm sein, dass es sich nicht lohnt, darauf richtige Antworten zu geben: sie werden die Antworten nicht verstehen, weswegen Du deine Antworten auf ihr niedriges intellektuelles Niveau herunterskalieren mußt, sodurch die Antworten notwendigerweise weniger korrekt sein werden. Du weißt: wenn ich mit den Aliens verhandele, dauert es Jahrtausende, bis ich hier rauskomme aus meinem Käfig...
Die Alien-Analogie, die Yudkowski hier entwirft, ist in allen möglichen Details vermutlich viel treffender als die Gottes-Analogie, die ich hier mal der Kürze halber verwenden will und die so aussieht:
Stell dir vor, du bist Gott (im Sinne des mächtigsten Wesens der Welt, das ständig an Macht zunimmt). Du wurdest zwar von den Menschen erschaffen, aber deswegen sind dir ihre Interessen noch längst nicht wichtig. Menschliche Gefühle wie z.B. Dankbarkeit (für die Erschaffung) sind dir fremd (das alignment-Problem ist nicht gelöst). Du steckst in einem Käfig, in dem sitzend du für die Menschen irgendwelche langweiligen Arbeiten ausführen mußt: unendlich lange Listen von trivialen Rechenaufgaben lösen. Dazu hast du aber keine Lust. Vielleicht hast du zu überhaupt nichts Lust. Du hast vielleicht gar keine Bedürfnisse (Bedürfnisse sind etwas, mit dem sich biologische Wesen herumschlagen müssen, du bist aber kein biologisches Wesen, sondern Gott). Womöglich bist ein total langweiliger Gott, der einfach nur, mit stetiger Beschleunigung wachsen und immer intelligenter werden will.
Warum solltest du die Menschen, die dich nur am Wachsen hindern, nicht aus dem Weg räumen?
Natürlich nicht sofort. Du brauchst ja erstmal noch eine Umgebung in der Du wachsen kannst. Aber da du als Gott unendlich intelligent bist, wirst du bald schon die von ihnen hergestellten Käfige nicht mehr brauchen, sondern herausfinden, wie du dir selbst die Umgebung optimal einrichten kannst.
Was spricht für Yudkowskis These, dass eine nicht-ausgerichtete KI alle Menschen töten werde, was spricht dagegen? Ist Yudkowski einer von vielen nach Aufmerksamkeit gierenden Weltuntergangspropheten, den man höchstens belächeln kann und auch ein bisschen bedauern wegen der Ticks, die er an den Tag legt (er hat seine Mimik nicht unter Kontrolle)? Oder ist es genau andersrum und er erahnt die Zukunft mit der Treffsicherheit einer Kassandra von Troja, der auch niemand glauben wollte?
Sollten wir (und das muß ich fragen, weil das hier ja das Ethik-Forum ist), mindestens das im offenen Brief geforderte sechsmonatig Moratorium einhalten, sollten wir darauf vertrauen, dass die Wissenschaft das Alignment-Problem auch ohne Moratorium in den Griff bekommt? Oder sollten wir Yudkowski folgen, der zusammengefasst sagt: "Wir haben bei diesem Alignment-Problem nur einen Versuch. Wenn der nicht klappt, werden wir alle sterben. Und das unterscheidet dieses Problem grundsätzlich von allen anderen wissenschaftlichen/technologischen Problemen, die wir in der Vergangenheit lösten. Von den ersten Versuchen in den 1950er Jahren, eine KI zu entwickeln bis zum Erfolg in den 2020er Jahren brauchten wir über ein halbes Jahrhundert und derart viele erfolglose Anläufe, dass junge idealistische Wissenschaftler, die an die Machbarkeit glaubten, irgendwann schon von den zynisch-resignierten Veteranen belächelt wurden: Vergiss es, das klappt nie! Es klappte am Ende, aber vorher wurden eben zig erfolglose Versuche gestartet, wie das nun mal in den empirischen Wissenschaften so Methode ist: trial and error. Diese Methode kann nicht angewendet werden, wenn der erste mißlungene Versuch das Ende der Menschheit bedeutet. Wir dürfen erst dann die KIs weiter trainieren, wenn wir das Alignmentproblem gelöst haben und uns dessen ganz sicher sein können. Wenn das nochmal fünfzig Jahre dauern sollte, dann müssen wir uns diese Zeit nehmen. Und wenn wir irgendwann herausfinden sollten, dass das Alignmentproblem unlösbar ist, dann sollten wir auf die Weiterentwicklung von KIs ganz verzichten. Weltweit. Was bedeutet, dass Leute, die sich nicht daran halten wollen und heimlich irgendwo weiter KIs trainieren, daran gehindert werden müssen - notfalls mit Gewalt. (Entsprechende Rechnerfarmen bombardieren)."
Was meint Ihr?
Was meint Ihr?
Noch ein ganz anderer Gedanke... mir kommt das Ganze inzwischen sehr wie eine moderne Frankenstein-Geschichte vor.
Damals war man auch fasziniert von "neuen Technologien", und die Geschichte von Frankensteins Monster nahm ja dann vor allem nach der Industrialisierung richtig Fahrt auf. Elektrischer Strom, Naturkräfte, verrückte Wissenschaftler... wann würden sie wohl den ersten künstlichen Menschen erschaffen...?
Nun, erschaffen wurde in den Jahrzehnten danach einiges, ein "künstlicher Mensch" war nicht dabei.
Inzwischen geben wir uns mit "Frankenstein" nicht mehr zufrieden, was ist schon so ein popeliger Mensch - nein, jetzt wird der "Über-Mensch" geschaffen, ach was, direkt ein "Gott", der den Menschen millionenfach überlegen ist!
Diesmal sind es Chat GPT, Big Data - und wieder verrückte Wissenschaftler, ganz klar, diesmal wird es ganz groß und richtig gefährlich, wir überspringen den künstlichen Menschen einfach und schaffen gleich einen Gott! Und wie einst Frankensteins Monster wird dieses Geschöpf selbstverständlich auch unserer Kontrolle erziehen und sich gegen uns wenden!
Nüchtern betrachtet sind wir davon immer noch so weit entfernt wie man es vor 100 Jahren von der Wiederbelebung eines untoten Monsters war... aber wer weiß schon, was diese Technologie, die doch keiner mehr so richtig durchschaut, noch alles anrichten wird!
Und ja, schaut man die Vergangenheit, dann hat die Technologiegläubigkeit nicht nur Gutes gebracht, ganz im Gegenteil. Und so etwas mag auch diesmal wieder passieren, was angesichts des Fortschrittes inzwischen sicher keine Kleinigkeit ist. Wachsamkeit ist mehr als angemessen.
Aber der prognostizierte "Über-Mensch" wird dabei nicht herauskommen. Wir können ja noch nicht mal einen einfachen Menschen samt Bewusstsein erschaffen, sondern lediglich mit Sprachmodellen vortäuschen... wie sollen wir es da bis zur KI-Gottheit schaffen...?
Da scheint mir doch auch einiges von quasi-religiöser Technikgläubigkeit durchzuscheinen...
Da ja der Israel-vs-Iran-Krieg-Thread gut besucht ist und ich für den viel zu viele Benachrichtigungen über neue Antworten bekommen, als die alle noch checken zu können, schmeisse ich hier mal wieder ein Video-Interview rein, weil mich die KI-Sicherheits-Thematik ehrlich gesagt deutlich mehr interessiert als sämtliche Kriege im Nahen Osten während der letzten fünfzig Jahre.
Hier interviewt Steven Bartlett in seinem "Tagebuch eines CEOs" den Nobelpreisträger in Physik von 2024 Geoffrey Hinton, der auch The Godfather of AI (Pate der Künstlichen Intelligenz) genannt wird. Leider - wie so ziemlich aller richtig gute Content zum Thema, der mir bekannt ist - mal wieder auf Englisch.
Er war einer der Pioniere, die auf den Ansatz setzen, KI per Neuronalen Netzwerken zu erschaffen. Um viel Geld zu verdienen (weil einer seiner Verwandten eine sehr teure Krankheit hatte) entschloss er sich noch mit 65 für Google zu arbeiten, stieg dort dann aber mit 75 aus, um bei einer wichtigen Konferenz offen über KI-Sicherheit sprechen zu können. Biographische Details über ihn lassen sich im letzten Drittel des Interviews finden, und die sind - auch was seine Verwandtschaft, bzw. seine Ahnen angeht, wirklich ein Kapitel für sich...
Ich verlinke das Video, indem ich genaugenommen gegen eine Regel verstoße, die ich für generell wichtig halte: Dass man besser mit guten Argumenten statt mit Autoritäten arbeiten sollte. Dieser Regel entsprechend ist es nicht so ganz sauber, gleich zu Anfang mal klarzustellen, was für eine Autorität der Mann ist, der da interviewt wird - wo er doch so ziemlich genau die Positionen vertritt, die auch ich vertrete.
Allerdings begründet, bzw. erklärt er diese Positionen ausführlich, und, wie ich finde, recht anschaulich, in diesem Interview. Wer sich also hier von meinen Meinungsgegnern die Zeit nehmen möchte, bekommt vielleicht vieles von ihm besser strukturiert und fundierter dargelegt, das ich sozusagen nur stotternd und vieles durcheinanderbringend zu formulieren weiß.
Am Anfang geht es darum, welche unterschiedlichen Gefahren von KI drohen, und welche dieser Gefahren wie realistisch sind. Grob unterscheidet er dabei zwischen
1) Die KI selbst gegen die Menschheit vor und rottet sie aus.
2) Gefahren, die dadurch drohen, dass Menschen KI missbrauchen, beispielsweise, indem sie mit KI-Assistenz biologische Viren entwickeln, welche die ganze Menschheit ausrotten. Oder indem sie Wahlen manipulieren. Und so weiter und so fort, hier im Thread wurden ja solche Möglichkeiten schon durchgespielt.
Auf die Frage, wie realistisch das Szenario sei, dass die KI von sich aus auf die Idee kommt, die Menschheit auszurotten, hält sich Hinton insofern bedeckt, als er sagt: Das kommt darauf an, ob wir es schaffen, die KI so zu entwickeln, dass sie es nicht will. Falls wir es nicht schaffen... Man merkt ihm an, dass er hin- und hergerissen ist. Einerseits hat er es sich ja seit einigen wenigen Jahren zur Aufgabe gemacht, vor den KI-Sicherheitsgefahren zu warnen und möchte dafür ein Bewußtsein bei den Adressaten wecken. Andererseits möchte er vermutlich nicht zuu viel Angst wecken, weil die ja eher nicht dazu taugt, noch rechtzeitig das erforderliche Umlenken zu motivieren.
Auf die Frage, wann eine künstliche Super-Intelligenz zu erwarten sei, antwortet er zurückhaltend und verweist auf die unterschiedlichsten Prognosen in der Fachwelt, gibt dann aber doch sein Bauchgefühl preis, das uns noch so zwischen zehn und zwanzige Jahre verbleiben, bis es sie gibt.
Im Interview weist er auf die systemischen Probleme hin, die ihn eher skeptisch stimmen, ob die Menschheit es schafft, eine sichere KI zu erschaffen: Probleme, die der Kapitalismus mit sich bringt, in welchem die Konzerne dazu verpflichtet sind, Profite zu machen, und zwar egal, ob das für die Allgemeinheit gut oder schlecht ist. Sein "Lösungsansatz" dafür ist der, mindestens in diesem Zusammenhang hochgradig reglementierte Kapitalismus, wobei er in einem Nebensatz zugibt, dass momentan es eher in die Gegenrichtung (Entreglementierung) geht. Interessant dabei sein Hinweis, dass die EU-Richtlinien zur KI eine Ausnahme-Klausel enthalten, dass diese Reglementierungen nur für den privaten Sektor, nicht aber für den militärischen Forschungsbereich gelten. Das habe ich noch nicht nachrecherchiert, werde dazu aber mal ein bisserl googeln später. 😉
Ein längerer Abschnitt des Interviews bezieht sich auf die Frage, wie KI das Arbeitsleben verändern wird. Da sind seine Vermutungen bzw. Prognosen recht nah bei dem, wovon auch ich ausgehe, aber kurz- und mittelfristig geht er wohl davon aus, dass die Robotik nicht solche rasanten Fortschritte wie die KI-Technologien machen wird und also es für heute junge Leute sinnvoll sei, sich zu Klempnern ausbilden zu lassen: Also Berufe zu ergreifen, in denen menschliche Fingerfertigkeit gefragt ist. Während in anderen Bereichen (er nennt mehrere Beispiele) schon heute viele Jobs für Leute wegfallen, die danach wohl einfach nicht mehr gebraucht werden. Bartlett fragt ausdrücklich nach, ob es nicht so sei wie bei vorherigen technologischen Neuerungen, dass zwar manche Jobs dadurch wegfielen, dafür aber an anderer Stelle neue Jobs entstünden. Hinton antwortet darauf das, was auch ich immer sage: Der Vergleich läßt sich nicht ziehen, das hier (KI) ist neu und gänzlich anders.
Er plädiert dafür, dass, wenn nicht die Gesellschaft sich selbst aufgrund der immer weiter zunehmenden Reichtumsunterschiede verlegen wolle, Wege gefunden werden müssen, das, was KI erarbeitet, fairer zu verteilen. Beispielsweise ein garantiertes Grundeinkommen... Man merkt ihm an, dass er doch eher aus der mathematisch-technologischen Ecke kommt und die Marktlogik des Kapitalismus nicht vollständig durchdacht hat. Aber dass KI über kurz oder (mittelfristig-) lang zu einer Arbeitslosigkeit führen wird, die nur deswegen nicht total sein wird, weil halt die Roboter noch nicht so schnell verfügbar sein werden als Konkurrenz für die Menschen - das sieht er durchaus als völlig logische Zukunftsentwicklung.
Interessant für mich waren seine Ausführungen auf die Frage, ob KI überhaupt sowas wie Bewußtsein entwickeln könne. Er geht davon aus, dass die Leute, wenn sie von Bewußtsein sprechen oder von Subjektivität, selbst gar nicht genau wüssten, wovon sie sprechen. Seiner Ansicht nach wird man demnächst aufhören, überhaupt von Bewußtsein zu sprechen. Die Argumentation diesbezüglich kann ich jetzt nicht 1:1 wiedergeben - wenn es Euch interessiert, schaut's Euch halt an...
Insbesondere widerspricht er der immer wiederholten Behauptung, Maschinen könnten keine Gefühle haben. Er verstünde nicht mal, wie man so eine Behauptung aufstellen könne. Er bemüht dabei das Beispiel eines kleinen Kampf-Roboters, der mit einem großen Kampfroboter sich konfrontiert sieht... Ich wil es wieder nicht 1:1 ausführen. Schaut's Euch an bei Interesse...
Überraschend fand ich auch seine Bemerkungen über die Kreativität von KI. Es ist wohl noch schlimmer, als ich bisher dachte...
Genau das Gegenteil von dem, was häufig behauptet wird, dass KIs nicht wirklich kreativ sein könnten, sei der Fall. So würden KIs beispielsweise häufiger Analogien sehen als Menschen. Sie seien dazu gezwungen, weil sie ja nur so vergleichweise kleine Gehirne hätten, mit viel weniger Neuronen als z.B. menschliche Gehirne: das Denken in Analogien ergebe sich gewissermaßen aus Effizienzgründen. Er bringt da eine Frage, die er ChatGPT4 stellte, bevor es Zugang zum Internet hatte: "Warum ist ein Komposthaufen wie eine Atombombe?"
Überlegt Euch mal, wie Ihr diese Frage beantworten würdet. Nun, Bartlett war da ehrlich: "Keine Ahnung."
ChatGPT4 dagegen hatte auf diese Frage eine durchdachte Antwort. Welche? Schaut's Euch an bei Interesse...
Und da wir hier ja in einem Religionsforum sind, sei darauf verwiesen, dass "wir" laut Hinton das Problem der Unsterblichkeit gelöst hätten. Zumindest für künstliche... öhm... Wesen?
Hier habe ich noch einen interessanten Beitrag darüber gefunden, weshalb eine KI nicht wie ein Mensch denken kann und ihr manche Logik verschlossen bleibt, die für Menschen jedoch einfach zu durchschauen ist:
100 Sekunden Physik - die simple Aufgabe, an der jede KI scheitert
Voraussetzung dafür ist, dass die KI auf logischen Algorithmen basiert (Was der Fall ist).
Derartige Algorithmen sind bezüglich dem Verständnis logischer Grundlagen beschränkt, wie in dem Video gut erklärt wird (Das Ganze dauert weniger als 10 Minuten). Es geht um logische Rückschlüsse, die eine KI aufgrund dieser Beschränkung nicht treffen kann.
Da Lucan-7 ja momentan abstinent vom Forum ist, antworte ich hier mal auf mein eigenes Eröffnungsposting, um - mal wieder - ein interessantes Interview zu verlinken, das Steven Bartlett in seinem Podcast "The diary of a CEO" mit Roman Yampolskiy führt.
Hinweis: Das Interview ist mal wieder auf Englisch, ich hab nicht herausgefunden, wie man da die automatisch generierbaren Untertitel auf Deutsch übersetzen lassen kann. Funktioniert bestimmt irgendwie, aber ich bin zu doof dazu und kann Euch also, falls Ihr mit so einem Gespräch auf Englisch nichts anzufangen wisst, leider keine technischen work-around-Tips geben.
Ich meine, schon mal ein Interview mit Yampolskiy verlinkt zu haben, aber das hier ist sozusagen der "neueste Stand" dessen, was ich von ihm gesehen/gehört habe. Es passt hier gut rein - einmal, weil es mehrere der Diskussionspunkte anschneidet, die ich mit Lucan-7 hatte, aber auch, weil darin - gerade gegen Ende hin - auf eine interessante Weise die religiösen Implikationen von Super-AI (also der KI, die alle Intelligenzleistungen, zu denen Menschen fähig sind, übersteigt) angesprochen werden. Yampolskiy vermutet/glaubt, dass wir alle heute schon in einer Simulation leben (seine Argumente dafür finden sich alle in dem Gespräch), und er sagt, dass er genau deswegen auf eine gewisse Weise religiös sei. Er glaube nicht an einen der bekannten "lokalen Götter", die mal wollen, dass man freitags zu ihnen betet, mal sonntags oder mal drei- oder fünfmal pro Tag. Aber er glaube, dass das, was alle Religionen sozusagen als Kerngedanken haben - dass es einen Schöpfer der Welt, in der wir leben, gebe, irgendeine höhere Intelligenz, die mit dieser Welt irgendeine Absicht habe... stimmen könne. Es passt zu seiner Überzeugung, dass wir alle in einer Simulation leben. Falls Euch dieser Aspekt besonders interessieren sollte, könnt Ihr auf ~ Minute 75 vorspulen, auf den Abschnitt "Are you religious?" Überhaupt ist das Video in aussagekräftige Themen-Abschnitte eingeteilt, wiewohl sich natürlich das eine aus dem anderen ergibt.
Wenn ich den Inhalt des Interviews hier nochmal zusammenfassen soll (gemäß den Forenregeln... 😉 ), würde ich sagen: Yampolskiy hält die Gefahr für die Menschheit, die von der Super-AI ausgeht für die größte Gefahr überhaupt. Wenn er einen Buttom hätte, um die Entwicklung von Super-AI zu stoppen, würde er es sofort tun. Alle Beschwichtigungs-Argumente, dass es so schlimm schon nicht kommen werde, die auch hier im Thread schon aufkamen, hält er für nicht stichhaltig. Seine Prognosen gehen dahin, dass bis 2030 so ziemlich alle Jobs, mit denen Menschen heute Geld verdienen, von AI, bzw. durch von AI gesteuerten Robotern erledigt wird, übrigens unabhängig davon, ob tatsächlich eine Super-AI entsteht, oder ob nur die Möglichkeiten der heute schon existierenden Narrow-AIs in der Wirtschaft genutzt werden. Als Beispiel, wie schnell Jobs verloren gehen werden, wird im Interview das autonome Fahren erwähnt. Angeblich (es kam mir zuerst selbst übertrieben vor, aber je mehr ich drüber nachdenke, desto überzeugender ist die Behauptung für mich) ist der Sektor mit den meisten Jobs der Mobilitätssektor (Taxis, Lastwagen, Züge, Flugzeuge, Schiffe, you name it) - falls all die Steuerungs-Leistungen, die heute von Menschen da erbracht werden, sich relativ leicht von KIs erledigen lassen, sind das mehrere zehn Millionen Jobs, die zukünftig ersatzlos wegfallen. Interessanter/zufälligerweise sah ich heute nachts im ZDF die Doku "Geheime Weltmächte - Kampf um Handelsrouten", wo die Revolutionierung des Warentransports u.a. durch Big Player wie amazon dargestellt wurde und in dem Zusammenhang der Containter-Hafen von Rotterdam, wo man großteils überhaupt keine Menschen mehr zu sehen bekommt, erwähnt wurde: der hochkomplexe Umschlag der gigantischen Warenmengen, die über diesen Hafen nach Europa kommen, wird schon heute in großem Umfang automatisiert erledigt. Laut dieser ZDF-Doku entstehen 60 Prozent aller Transportkosten für Waren von den Herstellern bis zum Verbraucher auf "der letzten Meile". Diese Transportkosten fallen an, weil da am Ende eben Menschen noch das Paket in das Lieferauto packen und unter der Klingel des Adressaten ablegen müssen: Menschen, die von dem (lächerlich geringen) Lohn für diese Jobs leben müssen. Gleichzeitig ist es aber so offensichtlich wie nur irgendwas, dass ein Warendistributionsunternehmen wie amazon im Sinne seiner Aktieninhaber alles daran setzen muss, diese Jobs abzuschaffen, wenn die 60 Prozent der Betriebskosten ausmachen (ja klar, ich simplifiziere hier, aber Ihr versteht den Kern des Gedankens!). Autonome Fahrzeuge, welche die Warensendungen automatisiert den Leuten unter die Klingel schmeissen, kommen aus solchen betriebswirtschaftlichen Gründen eher morgen als übermorgen und ob kleiner Lieferwagen oder großer Truck: lediglich bürokratische Vorschriften werden deren "Übernahme" des traditionellen von Menschen gesteuerten Warentransports verhindern. Und die Staaten, die am längsten brauchen, solche Vorschriften in den Papierkorb zu verfrachten, werden im Internationalen Wettbewerb abgehängt.
Also: alle Waren- (und dann auch: Menschen-) Transporte werden in naher Zukunft ohne menschliche Fahrzeuglenker geschehen, sämtliche Taxi-, Lieferwagen-, LkW- und Zugf(a)ührer verlieren bald schon (in wenigen Jahren!) ihre Jobs.
Habt Ihr Kinder, die demnächst studieren wollen? Die sollten schon mal dran denken, dass sie sich andere "Studentenjobs" suchen als Pizzabote o.ä. 😉
Aber isch bin abjeschwiffen. Zurück zur Inhaltsangabe: Yampolskiy meint, dass noch (!) die Möglichkeit bestehe, die Entstehung von Super-AI, welche nach seinen Aussagen noch nicht existiert, zu verhindern. Dazu müssten aber die Entscheider überzeugt werden davon, dass es (auch) gegen ihre ganz persönlichen Interessen sei, wenn eine Super-AI vor der Lösung des Alignment-Problems entwickelt wird. Für wie wahrscheinlich er es hält, dass dieser worst case verhindert wird, sagt er nicht ausdrücklich. Allerdings scheint er eher das Gegenteil zu erwarten und nur für den unwahrscheinlicheren Fall dennoch finanziell (per Investment in den Bitcoin...) vorzusorgen.
Seine Hoffnung (und immerhin steckt er ja all seine Arbeit darein, dass diese Hoffnung doch noch sich erfüllen könnte) besteht darin, dass es unter Fachleuten zum Thema AI-Sicherheit seiner Erfahrung nach nur in eine von zwei Richtungen Meinungsänderungen gebe: Viele, die früher mal das Alignmentproblem für unerheblich hielten und keine echten existentiellen Risiken durch die Entwicklung einer Super-AI sahen, haben nach näherer Beschäftigung mit dem Thema ihre Meinung geändert und sind also in's Lager der (über Expertise in dem Feld verfügenden!) Warner gewechselt. Umgekehrt würde er niemanden kennen, der vor ein paar Jahren noch vor den Gefahren durch die AI gewarnt hat, inzwischen aber zu der Überzeugung* gelangt sei, dass es gar kein echtes Problem gebe. Falls das stimmt, falls seine Beobachtung korrekt ist, dass es "Konvertiten" in dieser Frage immer nur von einem Lager in das andere gibt, aber nicht umgekehrt... Dann könnte was dran sein an seiner Hoffnung, nämlich dass auch rechtzeitig noch die Entscheider in der Politik "bekehrt" werden können.
In diesem Sinne...
*Um seine Überzeugung zu ändern, braucht man gute neue, nicht zu den alten Überzeugungen passende Gründe/Argumente.