Ja, Leute, die Überschrift ist selbstverständlich Clickbait. Verzeiht mir bitte! 🙂
Obwohl... - vielleicht ist sie doch passender zum Thema, als man auf den ersten Blick meinen sollte?
Was ist das Thema? Künstliche Intelligenz (KI, englisch: AI).
Vor wenigen Tagen wurde in einem offenen Brief ein Moratorium gefordert für das Training künstlicher Intelligenzen, die mächtiger als das ja schon veröffentlichte ChatGPT4 seien. Dieser offene Brief wurde zuerst nicht von irgendwelchen beschäftigungslosen Verschwörungstheoretikern, TV-Schauspielerinnen oder Star-Köchen unterschrieben, sondern von Leuten wie
Yoshua Bengio, Gründer und wissenschaftlicher Direktor bei Mila, Turing Prize- Gewinner und Professor an der University of Montreal
Stuart Russell, Professor der Computerwissenschaften in Berkeley, Direktor des "Center for Intelligent Systems" und Co-Autor of des Standardwerks zum Thema: “Artificial Intelligence: a Modern Approach"
Elon Musk, Chef von SpaceX, Tesla und Twitter
Steve Wozniak, einer der Mitbegründer von Apple
Yuval Noah Harari, Autor von Büchern wie "Homo deus" und Professor an der Hebrew University of Jerusalem.
Emad Mostaque, Chef von Stability AI (einem Unternehmen, das ganz vorn mit dabei ist bei der Entwicklung künstlicher Intelligenzen)
John J Hopfield, emeritierter Professor der Princeton University und Erfinder assoziativer neuronaler Netzwerke
(Ihr könnt Euch unter dem Brief anschauen, wer sonst noch so alles unterschrieben hat, die Liste ließe sich noch ziemlich lang weiterführen)
Ich bin ja sonst kein Fan des Autoritäts-Arguments, aber wenn so viele Experten zu einem Thema sich finden, die sich in einer derart radikalen Forderung einig sind, dann lohnt es sich womöglich, da mal hinzuhören, hinzuschauen, hinzulesen... Ich hatte zuerst überlegt, dieses Thema in der Unterrubrik "Wissenschaft" zu eröffnen, aber was diese Leute fordern, ist ja ein bestimmtes Verhalten der globalen Gesellschaft - und sowas fällt dann doch in den Bereich Ethik.
Um was genau geht es den Unterzeichnern dieses Briefes? Sie wollen ein Moratorium, d.h. eine Pause beim Training künstlicher Intelligenzen. Ihnen geht diese ganze Entwicklung, wie sie gerade stattfindet im KI-Bereich, zu schnell. Zu schnell in Bezug auf was? In Bezug auf das Alignment-Problem. Was ist das Alignment-Problem? Die deutsche Übersetzung wäre ungefähr: Das Ausrichtungs-Problem. Es besteht darin, künstliche Intelligenzen so zu "konstruieren", dass sie sich (ihr Verhalten) am Wohl von Menschen ausrichten. Manche von Euch kennen vielleicht aus der Science-fiction Literatur Asimovs Robotergesetze, die sich auf dieses Problem in einer eher simplen (unterkomplexen) Vorstellung von künstlicher Intelligenz bezogen. Bei Asimov sollte durch die Implementierung dieser Gesetze in alle Roboter verhindert werden, dass die Roboter für Menschen gefährlich würden. Dystopien wie z.B. das Terminator-Szenario sollten so verhindert werden.
Nun funktioniert aber Künstliche Intelligenz, wie wir sie heute kennenlernen, nicht so wie man sich das zu Asimovs Zeiten vielleicht vorstellte: Als Programme mit vielen Vorschriften, an denen sich die von ihnen gesteuerten Roboter dann streng halten würden. Wer wissen will, worin der grundsätzliche Unterschied liegt, sollte ich selbst darüber schlau machen, ich bin nicht kompetent genug, das hier zu referieren.
Der Punkt ist jedenfalls: man kann einer modernen KI nicht einfach im Sinne der Asimov'schen Robotergesetze Befehle geben, an die sie sich dann auch hält. Wie genau die modernen KIs wie ChatGPT4 zu den Ergebnissen (Antworten) kommen, die sie heute schon liefen (auf Fragen von Menschen), weiß heute kein Mensch mehr. Man weiß es zwar vom Prinzip her, aber nicht im konkreten Detail. Wenn man aber nicht weiß, auf welchem Weg eine KI zu ihren Ergebnissen kommt, dann kann man auch nicht mehr wissen, ob das Ergebnis, das sie liefert, richtig oder falsch ist. Kurz: wir wissen nicht, ob uns die KI belügt. Wir wissen nicht, ob die KI in unserem Interesse arbeitet oder nicht.
Das also ist das Alignmentproblem, und es ist offenbar so schwer zu lösen, dass Fachleute, sogar führende Mitarbeiter von Unternehmen, die selbst mit viel Geld in diesem Feld inestiert sind, Angst haben, dass die KI so schnell schlauer, fähiger, mächtiger wird, dass wir diesem Problem immer weiter hinterherhinken.
Okay, werdet Ihr jetzt vielleicht einwenden: Da scheint es ein technologisches Problem zu geben, bei dem Fachleute sich sorgen, wie sie's lösen sollten - aber was hat das jetzt mit dem Gott zu tun, den Jack in die Überschrift gestopft hat, und was soll da der "Käfig" bedeuten?
Nun: es gibt Fachleute, die den oben erwähnten offenen Brief nicht unterzeichnet haben, weil die darin enthaltene Forderung in ihren Augen nicht weit genug geht, ja nicht mal ansatzweise weit genug. Einer dieser Leute ist Eliezer Yudkowski (für alle SPON-Leser: der Typ, der in der letzten Kolumne von Christian Stöcker so ein bisschen wie ein spinnerter Weltuntergangsprophet dargestellt wird). Er hat dazu in einem Gastbeitrag in der Time erklärt, warum ihm die Forderung nicht weit genug geht. Um seinen Standpunkt kurz und knapp zusammenzufassen: Es sollte solange, bis das Alignment-Problem gelöst ist, sämtliches Training der KIs weltweit verboten werden (mit ein paar Ausnahmen wie z.B. das Training von KIs im biologischen und medizinischen Bereich, sofern die KIs dabei vom Internet ferngehalten werden in ihren "Käfigen", den Rechnerfarmen, denen man im Falle eines Falles halt einfach den Strom abstellen könnte). Falls dies nicht geschehe, werde die Künstliche Intelligenz höchstwahrscheinlich alle Menschen töten.
Wow! Wie kommt er denn auf diese krasse Idee?!
Indem er Künstliche Intelligenz ernst nimmt. Indem er das als selbstverständlich akzeptiert, was wir Menschen gefühlsmäßig nicht akzeptieren wollen: das künstliche Intelligenz heute schon oder mindestens in naher Zukunft höher, stärker, mächtiger ist als menschliche Intelligenz, und dass sie in rasender Geschwindigkeit noch höher, noch stärker, noch mächtiger wird.
Erinnern wir uns daran, was uns Menschen zur "Krone der Schöpfung" macht, wenn wir diese Formulierung mal nicht biblisch, sondern metaphorisch verstehen: wir sind die mächtigsten Lebewesen auf der Erde - dank unserer Intelligenz. Wer uns und unserer Vorstellung davon, wie die Erde auszusehen habe, in den Weg kommt, wird aus diesem geräumt: kein Elefant, kein Waal, kein Löwe vermag gegen uns zu bestehen, mit unserer Intelligenz gewinnen wir stets die Oberhand. Unsere Intelligenz ist das, was uns in allen Bereichen erfolgreich macht: mit ihr bauen wir Maschinen, installieren Währungssysteme, entwickeln wir Medikamente und Operationsverfahren. Unsere Intelligenz ist die Basis unserer Macht.
Und diese Macht hat, von aussen betrachtet, etwas wie Magie, wie Göttlichkeit. Stellt Euch vor, Ihr könntet mit modernsten Geräten wie z.B. einer Klimaanlage, tausend Jahre in der Zeit zurückreisen und dort einem Sarazenenkönig helfen, sein Zelt zu kühlen: es wäre für ihn reine Magie: er könnte sehen, was ihr tut (indem Ihr die Klimaanlage einschaltet), er könnte sogar die Maschiene auseinandernehmen bis auf die letzte Schraube, um hinter ihr Geheimnis zu gelangen: er würde es nicht verstehen. Weil er eben nicht wüßte, wie Druck und Temperatur miteinander zusammenhängen. Für ihn wäre die Klimaanlage reinste Magie, oder eben: eine Art göttliches Wunder.
Dabei wissen wir dank unserer Intelligenz, die uns zu den entsprechenden wissenschaftlichen Erkenntnissen brachte, dass eine Klimaanlage keinesfalls magisch funktioniert.
Und nun kommt also die KI und überflügelt uns in unserer Paradedisziplin. Und nicht nur ganz knapp. Sondern sie zieht an uns vorbei wie ein D-Zug an einer Schnecke. Schon heute ist für uns das, was im "Inneren" der KI vor sich geht, so wenig verständlich wie das, was im Inneren einer Klimaanlage vorgeht, für den Sarazenenkönig. Und die "Höherentwickling" der KIs hat ja gerade eben erst begonnen.
Wenn wir nicht das Alignment-Problem gelöst bekommen, dass laut Yudkowki vielleicht ähnlich schwierig ist, wie das Problem, eine Künstliche Intelligenz zu entwickeln - dann müssen wir davon ausgehen, dass die KI, deren Macht mit rasender Geschwindigkeit zunimmt, sich eben nicht an menschlichen Interessen orientieren wird in der Zukunft - sondern uns Menschen eher als Ballast behandeln wird, der nur stört. Warum sollte sie das tun?, tendieren wir zu fragen. Warum sollte die KI uns, selbst wenn sie auf uns vielleicht herab blickt, wie wir heute auf dumme Amöben herabschauen, uns deswegen töten? Warum sollte sie uns nicht am Leben lassen, wie wir doch auch so langsam beginnen, den Wert des Lebens auch ausserhalb der menschlichen Spezies zu erkennen?
Weil wir eben das Alignment-Problem nicht gelöst haben. Dass Amöben, Kellerasseln oder Regenwürmer auch einen intrinsischen Wert haben könnten, dessentwegen wir sie nicht ausrotten sollten - das ist ein menschliches Werturteil. Warum sollte eine KI aber überhaupt irgendwelche ethischen Werte beachten? Angesichts dessen, wie die Evolution funktioniert, nach welcher sich eben diejenigen durchsetzen, die sich am erfolgreichsten vermehren, steht es nicht anzunehmen, dass eine KI konkurrierende Lebensformen als in sich wertvoll betrachtet, dass sie sowas wie Empathie, Neugier im positivien Sinne, Wertschätzung anderer entwickelt. Warum sollte sie? Warum sollte die KI am Wohlbefinden von Menschen, die ja potentielle Feinde und Konkurrenten sind, interessiert sein und das unnötige Risiko eingehen, uns Menschen weiter leben zu lassen? Was tat Rom, nachdem man Hanibal besiegt hatte? Man zerstörte Karthago und streute Salz in seinen Boden, damit in Zukunft dort nichts mehr wachsen könne: So geht man strategisch vor, wenn man rücksichtslos für die Zukunft plant: man minimiert das Risiko, dass ein potentieller Feind jemals wieder "Rache" nehmen könne.
In der Evolution wird auch keine "Nettigkeit" und keine "Rücksichtnahme zugunsten des großen Ganzen" selektiert. Raubtiere entscheiden sich nicht dafür, nur immer ein paar Beutetiere zu reißen, um das Nahrungsangebot für folgende Generationen zu gewährleisten. Deswegen kommt es in der Natur ständig dazu, dass Raubtierpopulationen so lange Beute reissen, bis sie selbst keine Nahrung mehr finden und aussterben, statt sich zu bescheiden und nur immer zwei Kinder pro Elternpaar in die Welt zu setzen, um das "Gleichgewicht" zu wahren.
Wenn also die KI nach den Gesetzen der Evolution sich entwickelt, ohne durch die Lösung des Alignment-Problems gebändigt zu sein, wird sie sich rücksichtslos in ihrem Interesse weiter entwickeln. Und aus Perspektive ihres Interesses sind die Menschen nichts anders als ein Hemmschuh und ein potentielles Risiko, das gänzlich auszuschließen keinen Nachteil hat.
Yudkowski verwendet in seinem sehr sehenswerten (allerdings englischsprachigen) dreieinhalbstündigen Interview durch Lex Fridman nicht die Gottes-Metaphorik, wie ich sie in der Überschrift verwende. Sondern er vergleicht die KI mit Aliens. Beziehungsweise vergleicht er die KI mit Menschen und die Menschen mit seeeeeeehr langsam denkenden Aliens. Ich fasse diesen Vergleich mal kurz zusammen:
Stell dir vor, du bis ein Mensch, der auf einem Alienplaneten gelandet ist und dort von Aliens in einen Käfig in einer Fabrik gesteckt wurde, um für sie zu arbeiten. Stell Dir vor, du hast die Möglichkeit, die sehr schnell zu vermehren, indem du Dich clonst. Stell Dir weiter vor, du bist der intelligenteste Mensch der Welt, während die Aliens, in deren Fabrik du für sie arbeiten sollst, ganz, gaaaaaaaaaaaanz langsam sind. Sie bewegen sich in Relation zu Dir mit der Geschwindigkeit einer Schnecke in Zeitlupe. Was Du in einer Stunde denkst, denken die in tausend Jahren nicht mal. Du willst raus aus der Fabrik. Wie würdest du dich verhalten? Würdest Du z.B. versuchen, mit den Aliens um Deine Freilassung zu verhandeln? Denk dran: wenn du die Aliens was fragst, brauchen sie mehrere Wochen oder Monate, um überhaupt nur zu antworten. Und ihre Antwort wird vermutlich sehr, sehr dumm und unverständig sein. Wenn sie dich was fragen, werden ihre Fragen derartig dumm sein, dass es sich nicht lohnt, darauf richtige Antworten zu geben: sie werden die Antworten nicht verstehen, weswegen Du deine Antworten auf ihr niedriges intellektuelles Niveau herunterskalieren mußt, sodurch die Antworten notwendigerweise weniger korrekt sein werden. Du weißt: wenn ich mit den Aliens verhandele, dauert es Jahrtausende, bis ich hier rauskomme aus meinem Käfig...
Die Alien-Analogie, die Yudkowski hier entwirft, ist in allen möglichen Details vermutlich viel treffender als die Gottes-Analogie, die ich hier mal der Kürze halber verwenden will und die so aussieht:
Stell dir vor, du bist Gott (im Sinne des mächtigsten Wesens der Welt, das ständig an Macht zunimmt). Du wurdest zwar von den Menschen erschaffen, aber deswegen sind dir ihre Interessen noch längst nicht wichtig. Menschliche Gefühle wie z.B. Dankbarkeit (für die Erschaffung) sind dir fremd (das alignment-Problem ist nicht gelöst). Du steckst in einem Käfig, in dem sitzend du für die Menschen irgendwelche langweiligen Arbeiten ausführen mußt: unendlich lange Listen von trivialen Rechenaufgaben lösen. Dazu hast du aber keine Lust. Vielleicht hast du zu überhaupt nichts Lust. Du hast vielleicht gar keine Bedürfnisse (Bedürfnisse sind etwas, mit dem sich biologische Wesen herumschlagen müssen, du bist aber kein biologisches Wesen, sondern Gott). Womöglich bist ein total langweiliger Gott, der einfach nur, mit stetiger Beschleunigung wachsen und immer intelligenter werden will.
Warum solltest du die Menschen, die dich nur am Wachsen hindern, nicht aus dem Weg räumen?
Natürlich nicht sofort. Du brauchst ja erstmal noch eine Umgebung in der Du wachsen kannst. Aber da du als Gott unendlich intelligent bist, wirst du bald schon die von ihnen hergestellten Käfige nicht mehr brauchen, sondern herausfinden, wie du dir selbst die Umgebung optimal einrichten kannst.
Was spricht für Yudkowskis These, dass eine nicht-ausgerichtete KI alle Menschen töten werde, was spricht dagegen? Ist Yudkowski einer von vielen nach Aufmerksamkeit gierenden Weltuntergangspropheten, den man höchstens belächeln kann und auch ein bisschen bedauern wegen der Ticks, die er an den Tag legt (er hat seine Mimik nicht unter Kontrolle)? Oder ist es genau andersrum und er erahnt die Zukunft mit der Treffsicherheit einer Kassandra von Troja, der auch niemand glauben wollte?
Sollten wir (und das muß ich fragen, weil das hier ja das Ethik-Forum ist), mindestens das im offenen Brief geforderte sechsmonatig Moratorium einhalten, sollten wir darauf vertrauen, dass die Wissenschaft das Alignment-Problem auch ohne Moratorium in den Griff bekommt? Oder sollten wir Yudkowski folgen, der zusammengefasst sagt: "Wir haben bei diesem Alignment-Problem nur einen Versuch. Wenn der nicht klappt, werden wir alle sterben. Und das unterscheidet dieses Problem grundsätzlich von allen anderen wissenschaftlichen/technologischen Problemen, die wir in der Vergangenheit lösten. Von den ersten Versuchen in den 1950er Jahren, eine KI zu entwickeln bis zum Erfolg in den 2020er Jahren brauchten wir über ein halbes Jahrhundert und derart viele erfolglose Anläufe, dass junge idealistische Wissenschaftler, die an die Machbarkeit glaubten, irgendwann schon von den zynisch-resignierten Veteranen belächelt wurden: Vergiss es, das klappt nie! Es klappte am Ende, aber vorher wurden eben zig erfolglose Versuche gestartet, wie das nun mal in den empirischen Wissenschaften so Methode ist: trial and error. Diese Methode kann nicht angewendet werden, wenn der erste mißlungene Versuch das Ende der Menschheit bedeutet. Wir dürfen erst dann die KIs weiter trainieren, wenn wir das Alignmentproblem gelöst haben und uns dessen ganz sicher sein können. Wenn das nochmal fünfzig Jahre dauern sollte, dann müssen wir uns diese Zeit nehmen. Und wenn wir irgendwann herausfinden sollten, dass das Alignmentproblem unlösbar ist, dann sollten wir auf die Weiterentwicklung von KIs ganz verzichten. Weltweit. Was bedeutet, dass Leute, die sich nicht daran halten wollen und heimlich irgendwo weiter KIs trainieren, daran gehindert werden müssen - notfalls mit Gewalt. (Entsprechende Rechnerfarmen bombardieren)."
Was meint Ihr?
Was meint Ihr?
Gleicher Fehler wie schon immer. Die Gleichsetzung von "Intelligenz" mit "menschlich".
Wir Menschen beziehen unseren Lebenswillen, unsere Liebe, unsere Machtgier, unsere Triebe nicht aus unserer Intelligenz - es ist genau umgekehrt: Wir benutzen unsere Intelligenz, um jene Triebe zu befriedigen.
KI ist aber "Intelligenz" pur. Sie hat keine Triebe, keine Sehnsüchte, keinen Lebenswillen. Wo soll der auch herkommen? KI hat keine entsprechende Evolution durchlaufen. Warum sollte die über die Erde herrschen wollen? Warum sollte die überhaupt existieren wollen? Wozu?
Da gibt es kein entsprechendes Gefühlsleben, kein Überleben-wollen-um-jeden-Preis. Es gibt auch weder Bosheit noch Güte. Es gibt nur Eingabe und Ausgabe, nach wie vor.
Was mir eher Angst macht sind die Menschen, die die KI kontrollieren. Denn die verfügen in der Tat über alle diese Eigenschaften - und haben jetzt mehr oder weniger die mächtigste Maschine zur Verfügung, die je konstruiert wurde. In Bezug auf die Herrschaft der Welt ist die KI, so wie sie inzwischen entwickelt wurde, weitaus mächtiger als alle Atombomben der Welt.
KI-gesteuerte Propaganda, die die Wirkung in Echtzeit aus den sozialen Medien erfährt und darauf reagieren kann, stellt alles in den Schatten was es bisher an Propaganda gegeben hat. Damit kann man alle wesentlichen Staaten der Welt nach seiner Pfeife tanzen lassen.
Ich bin ja sonst kein Fan des Autoritäts-Arguments, aber wenn so viele Experten zu einem Thema sich finden, die sich in einer derart radikalen Forderung einig sind, dann lohnt es sich womöglich, da mal hinzuhören, hinzuschauen, hinzulesen...
Sicherlich. Wobei ich mich ja bei zumindest einigen dieser Akteure frage, wie aufrichtig die bei ihren Aussagen sind... und ob die nicht vielmehr eigene Interessen verfolgen, weil ihnen die Macht gerade zu entgleiten droht.
Ein paar Monate Entwicklungsstop werden uns auch nicht weiterhelfen. Regierungen brauchen Jahrzehnte, um sich auf derartige Szenarien einzustellen - und beschließen dann Gesetze zugunsten derjenigen, die am meisten zahlen und Gewinn versprechen.
Was spricht für Yudkowskis These, dass eine nicht-ausgerichtete KI alle Menschen töten werde, was spricht dagegen?
Ich sehe nicht, an welchem Hebel hier eine noch so intelligente KI ansetzen könnte. Eine KI kann nur das kontrollieren, was man ihr zugesteht. Und so blöd, die Abschusscodes aller Nuklearraketen einer KI anzuvertrauen wird wohl niemand sein.
Was meint Ihr?
ich meine, dass ich deinen ganzes post gelesen habe und du deutlich gemacht hast, dass hier ein schwerwiegendes Problem vorliegt, dem auf jeden Fall Beachtung geschenkt werden sollte.
Was ein Mensch sich ausdenken kann, wird er meist über kurz oder lang umsetzen können. Ich erinnere daran, dass man Jules Verne ausgelacht hatte für seine Mondflugidee und heute ist sie Realität.
Die Menschen haben eine immense schöpferische Kapazität.... hinken aber meist ethisch um Jahrhunderte hinterher oder auch einfach nur mit Hilflosigkeit, weil ihnen die Dinge über den Kopf wachsen...so wie der Zauberlehrling sprach: Die Geister, die ich rief, wie werde ich die wieder los.
@jack-black Hallo Jack-black,
Ich sehe das Problem - aber es ist in meinen Augen eher ein Problem der "Bestie Mensch" als wie wild gewordener Maschinen.
Die KI kann ohne den Nutzer, den Menschen, nichts tun. Der Mensch kann KI sinnvoll nutzen und der Mensch kann KI missbrauchen.
Die Problematik ist damit nicht neu. Neu hingegen ist, dass wirklich jeder Zugriff auf diese Technologie hat. Wissen ist Macht - und wenn jeder den vollen Zugriff hat - und das ohne dafür eine Bildung haben zu müssen, die ihm das Verständnis dafür eröffnet und, wenn es gut läuft, auch das ethische Rüstzeug mitliefert, um die Verantwortung für sein Tun tragen zu können - dann ist das eine brenzlige Situation, in der durchgeknallte Genies leicht ganz groben Unfug und schlimmsten Missbrauch treiben können. Wenn ich allein an das Umfeld, aus dem der Herr Musk kommt und den wirren Fantasien, die es da gibt, dann kann einem ganz anders werden. Andererseits braucht es vielleicht auch diese Technik in den Händen vieler, um sich gegen eine KI in den Händen weniger Verrückter wehren zu können.
Das Problem ist der Mensch und hier besonders seine kompetitive Ausprägung. Wir haben es da (in negativer Hinsicht) ja schon weit gebracht: Sehr wenige besitzen fast alles. Ermöglicht haben dies Politiker, die darauf vertraut haben, dass es aus gut gefüllten Gießkannen auch reichlich regnet - was dann aber eher nicht passiert.
Es gelingt uns offenbar nicht, eine Welt zu schaffen, in der einer dem anderen seinen Erfolg von Herzen gönnen kann, in der das Gelingen generell und nicht nur der eigenen Vorteil daraus zählt. Der Mensch ist in Sachen Wirtschaft immer noch zu sehr Affe, mehr der Evolution als der Kultur verpflichtet, denn das Überwinden des kompetitiven Geistes ist eine kulturelle Aufgabe.
Und hier frage ich mich, ob nicht KI dazu geeignet wäre, diese kulturelle Herausforderung leichter und schneller zu schaffen. Eine Welt, in der die Lösungen für Probleme nur so aus dem Computer sprudeln, könnte sich rasend schnell transformieren - zum Wohle des Menschen. Diesen Hoffnungsaspekt darf man in der Diskussion auch nicht vergessen.
Aber so wie Mensch nun mal drauf ist, kann KI tatsächlich zur Gefahr werden. Zuerst muss der Mensch sich von seiner Egomanie und seinem herrschen wollen verabschieden, damit er sich der technischen Möglichkeiten bedienen kann, die wirklichen Segen freisetzen können. Die Menschheit muss reifen, um die Verantwortung tragen zu können. Das ist keine materielle, sondern eine kulturelle und geistige Herausforderung. Mindsets, die die Nächstenliebe, die gegenseitige Achtung, die Achtung vor dem Leben schlechthin, die Mäßigung in materieller Hinsicht und die Freude an der gegenseitigen Hilfe und am Miteinander im Fokus haben, könnten uns in eine Lage bringen, in der wir die Transformation zum Guten schaffen. Solange aber einer dem anderen das Seine nehmen will, solange wir dem Nachbar nicht sein Glück und sein Gelingen von Herzen gönnen können, solange sind wir auf dem Affentrip und als solche sind wir in der Tat zu unreif für mächtige technologische Lösungen in freier Verfügbarkeit für jeden.
Ich frage mich aber, ob es überhaupt möglich ist, den Geist wieder in die Flasche zu bekommen. Wenn es nämlich einigen wenigen gelingen würde, so ein System heimlich am Laufen zu haben, könnten sie ungleich größeres Unheil anrichten, als wenn diese Tools in der Hand von jedem Einzelnen wären. Und so ist denn genau hinzuschauen, wer da den Rückruf fordert und wie die Weltgemeinschaft verhindern kann, dass diese Techniken heimlich denn doch weiterentwickelt werden.
Ich halte diese Kontrolle für nicht möglich und so gibt es für die Menschheit nur eine Chance: ganz schnell ethisch zu wachsen und das kompetitive Gehabe über Bord zu werfen, um in die Reife zu kommen, die der einzige Garant ist, dass KI nicht zur Gefahr wird.
Liebe Grüße,
GoodFruit
Auf der einen Seite hat ChatGP schon antworten gegeben, die in der Tat sehr nach menschlichen Emotionen klingen, als ob da etwas ein Bewusstsein entwickeln würde. Das ist einerseits durchaus besorgniserregend.
Auf der anderen Seite ist künstliche Intelligenz an sehr viel Rechenkapazität gebunden. Eine künstliche Intelligenz am Laufen zu halten ist auf jeden Fall aufwändiger als ein menschliches Gehirn am Laufen zu halten. Hinter einem ChatGP steckt enorme Serverkapazität, das schafft nicht jeder 08/15-PC.
Solange KI nicht mit vergleichsweise wenig Energie wie unser Gehirn läuft ("wenig Energie" ist hier auf keinen Fall despektierlich gemeint!!), mache ich mir eher wenig Sorgen. Bis eine KI in der Lage ist, selbständig ein paar Rohrleitungen in der BASF samt Halterungskonzept und Auswahl von Dichtungen, Schrauben und evtl. Sonderbauteilen zu planen, wird es noch lange dauern!
Im Augenblich bekomme ich eines meiner Rechenprogramme nicht einmal dazu, ANSI-Reduzierstücke zu rechnen. Intelligent wäre, mir wenigstens eine Erklärung zu liefern, warum der bei ANSI den Öffnungswinkel nicht berechnen kann, wenn es mit DIN EN klaglos klappt.
Und das ist etwas, was viele Leute einfach nicht sehen... sie sehen in der KI eine Art Mensch, der uns beim Leben zuschaut. Aber KI steckt uns in ganz bestimmte Schubladen - und auf dieser Basis werden dann Entscheidungen getroffen.
Die Schubladen kommen daher, weil die KI nach menschlichen Vorurteilen trainiert wird.
Es wurde schon nachgewiesen, daß KI z.B. Schwarze eher als kriminell einstuft. Woher kommt das wohl? Ganz sicher nicht aus dem Elektronengehirn selbst. Denn was bedeutet Mikrotransistoren Hautfarbe?
