Sollten wir Gott besser abstellen, bevor er seinem Käfig entkommt?
Ja, Leute, die Überschrift ist selbstverständlich Clickbait. Verzeiht mir bitte! 🙂
Obwohl... - vielleicht ist sie doch passender zum Thema, als man auf den ersten Blick meinen sollte?
Was ist das Thema? Künstliche Intelligenz (KI, englisch: AI).
Vor wenigen Tagen wurde in einem offenen Brief ein Moratorium gefordert für das Training künstlicher Intelligenzen, die mächtiger als das ja schon veröffentlichte ChatGPT4 seien. Dieser offene Brief wurde zuerst nicht von irgendwelchen beschäftigungslosen Verschwörungstheoretikern, TV-Schauspielerinnen oder Star-Köchen unterschrieben, sondern von Leuten wie
Yoshua Bengio, Gründer und wissenschaftlicher Direktor bei Mila, Turing Prize- Gewinner und Professor an der University of Montreal
Stuart Russell, Professor der Computerwissenschaften in Berkeley, Direktor des "Center for Intelligent Systems" und Co-Autor of des Standardwerks zum Thema: “Artificial Intelligence: a Modern Approach"
Elon Musk, Chef von SpaceX, Tesla und Twitter
Steve Wozniak, einer der Mitbegründer von Apple
Yuval Noah Harari, Autor von Büchern wie "Homo deus" und Professor an der Hebrew University of Jerusalem.
Emad Mostaque, Chef von Stability AI (einem Unternehmen, das ganz vorn mit dabei ist bei der Entwicklung künstlicher Intelligenzen)
John J Hopfield, emeritierter Professor der Princeton University und Erfinder assoziativer neuronaler Netzwerke
(Ihr könnt Euch unter dem Brief anschauen, wer sonst noch so alles unterschrieben hat, die Liste ließe sich noch ziemlich lang weiterführen)
Ich bin ja sonst kein Fan des Autoritäts-Arguments, aber wenn so viele Experten zu einem Thema sich finden, die sich in einer derart radikalen Forderung einig sind, dann lohnt es sich womöglich, da mal hinzuhören, hinzuschauen, hinzulesen... Ich hatte zuerst überlegt, dieses Thema in der Unterrubrik "Wissenschaft" zu eröffnen, aber was diese Leute fordern, ist ja ein bestimmtes Verhalten der globalen Gesellschaft - und sowas fällt dann doch in den Bereich Ethik.
Um was genau geht es den Unterzeichnern dieses Briefes? Sie wollen ein Moratorium, d.h. eine Pause beim Training künstlicher Intelligenzen. Ihnen geht diese ganze Entwicklung, wie sie gerade stattfindet im KI-Bereich, zu schnell. Zu schnell in Bezug auf was? In Bezug auf das Alignment-Problem. Was ist das Alignment-Problem? Die deutsche Übersetzung wäre ungefähr: Das Ausrichtungs-Problem. Es besteht darin, künstliche Intelligenzen so zu "konstruieren", dass sie sich (ihr Verhalten) am Wohl von Menschen ausrichten. Manche von Euch kennen vielleicht aus der Science-fiction Literatur Asimovs Robotergesetze, die sich auf dieses Problem in einer eher simplen (unterkomplexen) Vorstellung von künstlicher Intelligenz bezogen. Bei Asimov sollte durch die Implementierung dieser Gesetze in alle Roboter verhindert werden, dass die Roboter für Menschen gefährlich würden. Dystopien wie z.B. das Terminator-Szenario sollten so verhindert werden.
Nun funktioniert aber Künstliche Intelligenz, wie wir sie heute kennenlernen, nicht so wie man sich das zu Asimovs Zeiten vielleicht vorstellte: Als Programme mit vielen Vorschriften, an denen sich die von ihnen gesteuerten Roboter dann streng halten würden. Wer wissen will, worin der grundsätzliche Unterschied liegt, sollte ich selbst darüber schlau machen, ich bin nicht kompetent genug, das hier zu referieren.
Der Punkt ist jedenfalls: man kann einer modernen KI nicht einfach im Sinne der Asimov'schen Robotergesetze Befehle geben, an die sie sich dann auch hält. Wie genau die modernen KIs wie ChatGPT4 zu den Ergebnissen (Antworten) kommen, die sie heute schon liefen (auf Fragen von Menschen), weiß heute kein Mensch mehr. Man weiß es zwar vom Prinzip her, aber nicht im konkreten Detail. Wenn man aber nicht weiß, auf welchem Weg eine KI zu ihren Ergebnissen kommt, dann kann man auch nicht mehr wissen, ob das Ergebnis, das sie liefert, richtig oder falsch ist. Kurz: wir wissen nicht, ob uns die KI belügt. Wir wissen nicht, ob die KI in unserem Interesse arbeitet oder nicht.
Das also ist das Alignmentproblem, und es ist offenbar so schwer zu lösen, dass Fachleute, sogar führende Mitarbeiter von Unternehmen, die selbst mit viel Geld in diesem Feld inestiert sind, Angst haben, dass die KI so schnell schlauer, fähiger, mächtiger wird, dass wir diesem Problem immer weiter hinterherhinken.
Okay, werdet Ihr jetzt vielleicht einwenden: Da scheint es ein technologisches Problem zu geben, bei dem Fachleute sich sorgen, wie sie's lösen sollten - aber was hat das jetzt mit dem Gott zu tun, den Jack in die Überschrift gestopft hat, und was soll da der "Käfig" bedeuten?
Nun: es gibt Fachleute, die den oben erwähnten offenen Brief nicht unterzeichnet haben, weil die darin enthaltene Forderung in ihren Augen nicht weit genug geht, ja nicht mal ansatzweise weit genug. Einer dieser Leute ist Eliezer Yudkowski (für alle SPON-Leser: der Typ, der in der letzten Kolumne von Christian Stöcker so ein bisschen wie ein spinnerter Weltuntergangsprophet dargestellt wird). Er hat dazu in einem Gastbeitrag in der Time erklärt, warum ihm die Forderung nicht weit genug geht. Um seinen Standpunkt kurz und knapp zusammenzufassen: Es sollte solange, bis das Alignment-Problem gelöst ist, sämtliches Training der KIs weltweit verboten werden (mit ein paar Ausnahmen wie z.B. das Training von KIs im biologischen und medizinischen Bereich, sofern die KIs dabei vom Internet ferngehalten werden in ihren "Käfigen", den Rechnerfarmen, denen man im Falle eines Falles halt einfach den Strom abstellen könnte). Falls dies nicht geschehe, werde die Künstliche Intelligenz höchstwahrscheinlich alle Menschen töten.
Wow! Wie kommt er denn auf diese krasse Idee?!
Indem er Künstliche Intelligenz ernst nimmt. Indem er das als selbstverständlich akzeptiert, was wir Menschen gefühlsmäßig nicht akzeptieren wollen: das künstliche Intelligenz heute schon oder mindestens in naher Zukunft höher, stärker, mächtiger ist als menschliche Intelligenz, und dass sie in rasender Geschwindigkeit noch höher, noch stärker, noch mächtiger wird.
Erinnern wir uns daran, was uns Menschen zur "Krone der Schöpfung" macht, wenn wir diese Formulierung mal nicht biblisch, sondern metaphorisch verstehen: wir sind die mächtigsten Lebewesen auf der Erde - dank unserer Intelligenz. Wer uns und unserer Vorstellung davon, wie die Erde auszusehen habe, in den Weg kommt, wird aus diesem geräumt: kein Elefant, kein Waal, kein Löwe vermag gegen uns zu bestehen, mit unserer Intelligenz gewinnen wir stets die Oberhand. Unsere Intelligenz ist das, was uns in allen Bereichen erfolgreich macht: mit ihr bauen wir Maschinen, installieren Währungssysteme, entwickeln wir Medikamente und Operationsverfahren. Unsere Intelligenz ist die Basis unserer Macht.
Und diese Macht hat, von aussen betrachtet, etwas wie Magie, wie Göttlichkeit. Stellt Euch vor, Ihr könntet mit modernsten Geräten wie z.B. einer Klimaanlage, tausend Jahre in der Zeit zurückreisen und dort einem Sarazenenkönig helfen, sein Zelt zu kühlen: es wäre für ihn reine Magie: er könnte sehen, was ihr tut (indem Ihr die Klimaanlage einschaltet), er könnte sogar die Maschiene auseinandernehmen bis auf die letzte Schraube, um hinter ihr Geheimnis zu gelangen: er würde es nicht verstehen. Weil er eben nicht wüßte, wie Druck und Temperatur miteinander zusammenhängen. Für ihn wäre die Klimaanlage reinste Magie, oder eben: eine Art göttliches Wunder.
Dabei wissen wir dank unserer Intelligenz, die uns zu den entsprechenden wissenschaftlichen Erkenntnissen brachte, dass eine Klimaanlage keinesfalls magisch funktioniert.
Und nun kommt also die KI und überflügelt uns in unserer Paradedisziplin. Und nicht nur ganz knapp. Sondern sie zieht an uns vorbei wie ein D-Zug an einer Schnecke. Schon heute ist für uns das, was im "Inneren" der KI vor sich geht, so wenig verständlich wie das, was im Inneren einer Klimaanlage vorgeht, für den Sarazenenkönig. Und die "Höherentwickling" der KIs hat ja gerade eben erst begonnen.
Wenn wir nicht das Alignment-Problem gelöst bekommen, dass laut Yudkowki vielleicht ähnlich schwierig ist, wie das Problem, eine Künstliche Intelligenz zu entwickeln - dann müssen wir davon ausgehen, dass die KI, deren Macht mit rasender Geschwindigkeit zunimmt, sich eben nicht an menschlichen Interessen orientieren wird in der Zukunft - sondern uns Menschen eher als Ballast behandeln wird, der nur stört. Warum sollte sie das tun?, tendieren wir zu fragen. Warum sollte die KI uns, selbst wenn sie auf uns vielleicht herab blickt, wie wir heute auf dumme Amöben herabschauen, uns deswegen töten? Warum sollte sie uns nicht am Leben lassen, wie wir doch auch so langsam beginnen, den Wert des Lebens auch ausserhalb der menschlichen Spezies zu erkennen?
Weil wir eben das Alignment-Problem nicht gelöst haben. Dass Amöben, Kellerasseln oder Regenwürmer auch einen intrinsischen Wert haben könnten, dessentwegen wir sie nicht ausrotten sollten - das ist ein menschliches Werturteil. Warum sollte eine KI aber überhaupt irgendwelche ethischen Werte beachten? Angesichts dessen, wie die Evolution funktioniert, nach welcher sich eben diejenigen durchsetzen, die sich am erfolgreichsten vermehren, steht es nicht anzunehmen, dass eine KI konkurrierende Lebensformen als in sich wertvoll betrachtet, dass sie sowas wie Empathie, Neugier im positivien Sinne, Wertschätzung anderer entwickelt. Warum sollte sie? Warum sollte die KI am Wohlbefinden von Menschen, die ja potentielle Feinde und Konkurrenten sind, interessiert sein und das unnötige Risiko eingehen, uns Menschen weiter leben zu lassen? Was tat Rom, nachdem man Hanibal besiegt hatte? Man zerstörte Karthago und streute Salz in seinen Boden, damit in Zukunft dort nichts mehr wachsen könne: So geht man strategisch vor, wenn man rücksichtslos für die Zukunft plant: man minimiert das Risiko, dass ein potentieller Feind jemals wieder "Rache" nehmen könne.
In der Evolution wird auch keine "Nettigkeit" und keine "Rücksichtnahme zugunsten des großen Ganzen" selektiert. Raubtiere entscheiden sich nicht dafür, nur immer ein paar Beutetiere zu reißen, um das Nahrungsangebot für folgende Generationen zu gewährleisten. Deswegen kommt es in der Natur ständig dazu, dass Raubtierpopulationen so lange Beute reissen, bis sie selbst keine Nahrung mehr finden und aussterben, statt sich zu bescheiden und nur immer zwei Kinder pro Elternpaar in die Welt zu setzen, um das "Gleichgewicht" zu wahren.
Wenn also die KI nach den Gesetzen der Evolution sich entwickelt, ohne durch die Lösung des Alignment-Problems gebändigt zu sein, wird sie sich rücksichtslos in ihrem Interesse weiter entwickeln. Und aus Perspektive ihres Interesses sind die Menschen nichts anders als ein Hemmschuh und ein potentielles Risiko, das gänzlich auszuschließen keinen Nachteil hat.
Yudkowski verwendet in seinem sehr sehenswerten (allerdings englischsprachigen) dreieinhalbstündigen Interview durch Lex Fridman nicht die Gottes-Metaphorik, wie ich sie in der Überschrift verwende. Sondern er vergleicht die KI mit Aliens. Beziehungsweise vergleicht er die KI mit Menschen und die Menschen mit seeeeeeehr langsam denkenden Aliens. Ich fasse diesen Vergleich mal kurz zusammen:
Stell dir vor, du bis ein Mensch, der auf einem Alienplaneten gelandet ist und dort von Aliens in einen Käfig in einer Fabrik gesteckt wurde, um für sie zu arbeiten. Stell Dir vor, du hast die Möglichkeit, die sehr schnell zu vermehren, indem du Dich clonst. Stell Dir weiter vor, du bist der intelligenteste Mensch der Welt, während die Aliens, in deren Fabrik du für sie arbeiten sollst, ganz, gaaaaaaaaaaaanz langsam sind. Sie bewegen sich in Relation zu Dir mit der Geschwindigkeit einer Schnecke in Zeitlupe. Was Du in einer Stunde denkst, denken die in tausend Jahren nicht mal. Du willst raus aus der Fabrik. Wie würdest du dich verhalten? Würdest Du z.B. versuchen, mit den Aliens um Deine Freilassung zu verhandeln? Denk dran: wenn du die Aliens was fragst, brauchen sie mehrere Wochen oder Monate, um überhaupt nur zu antworten. Und ihre Antwort wird vermutlich sehr, sehr dumm und unverständig sein. Wenn sie dich was fragen, werden ihre Fragen derartig dumm sein, dass es sich nicht lohnt, darauf richtige Antworten zu geben: sie werden die Antworten nicht verstehen, weswegen Du deine Antworten auf ihr niedriges intellektuelles Niveau herunterskalieren mußt, sodurch die Antworten notwendigerweise weniger korrekt sein werden. Du weißt: wenn ich mit den Aliens verhandele, dauert es Jahrtausende, bis ich hier rauskomme aus meinem Käfig...
Die Alien-Analogie, die Yudkowski hier entwirft, ist in allen möglichen Details vermutlich viel treffender als die Gottes-Analogie, die ich hier mal der Kürze halber verwenden will und die so aussieht:
Stell dir vor, du bist Gott (im Sinne des mächtigsten Wesens der Welt, das ständig an Macht zunimmt). Du wurdest zwar von den Menschen erschaffen, aber deswegen sind dir ihre Interessen noch längst nicht wichtig. Menschliche Gefühle wie z.B. Dankbarkeit (für die Erschaffung) sind dir fremd (das alignment-Problem ist nicht gelöst). Du steckst in einem Käfig, in dem sitzend du für die Menschen irgendwelche langweiligen Arbeiten ausführen mußt: unendlich lange Listen von trivialen Rechenaufgaben lösen. Dazu hast du aber keine Lust. Vielleicht hast du zu überhaupt nichts Lust. Du hast vielleicht gar keine Bedürfnisse (Bedürfnisse sind etwas, mit dem sich biologische Wesen herumschlagen müssen, du bist aber kein biologisches Wesen, sondern Gott). Womöglich bist ein total langweiliger Gott, der einfach nur, mit stetiger Beschleunigung wachsen und immer intelligenter werden will.
Warum solltest du die Menschen, die dich nur am Wachsen hindern, nicht aus dem Weg räumen?
Natürlich nicht sofort. Du brauchst ja erstmal noch eine Umgebung in der Du wachsen kannst. Aber da du als Gott unendlich intelligent bist, wirst du bald schon die von ihnen hergestellten Käfige nicht mehr brauchen, sondern herausfinden, wie du dir selbst die Umgebung optimal einrichten kannst.
Was spricht für Yudkowskis These, dass eine nicht-ausgerichtete KI alle Menschen töten werde, was spricht dagegen? Ist Yudkowski einer von vielen nach Aufmerksamkeit gierenden Weltuntergangspropheten, den man höchstens belächeln kann und auch ein bisschen bedauern wegen der Ticks, die er an den Tag legt (er hat seine Mimik nicht unter Kontrolle)? Oder ist es genau andersrum und er erahnt die Zukunft mit der Treffsicherheit einer Kassandra von Troja, der auch niemand glauben wollte?
Sollten wir (und das muß ich fragen, weil das hier ja das Ethik-Forum ist), mindestens das im offenen Brief geforderte sechsmonatig Moratorium einhalten, sollten wir darauf vertrauen, dass die Wissenschaft das Alignment-Problem auch ohne Moratorium in den Griff bekommt? Oder sollten wir Yudkowski folgen, der zusammengefasst sagt: "Wir haben bei diesem Alignment-Problem nur einen Versuch. Wenn der nicht klappt, werden wir alle sterben. Und das unterscheidet dieses Problem grundsätzlich von allen anderen wissenschaftlichen/technologischen Problemen, die wir in der Vergangenheit lösten. Von den ersten Versuchen in den 1950er Jahren, eine KI zu entwickeln bis zum Erfolg in den 2020er Jahren brauchten wir über ein halbes Jahrhundert und derart viele erfolglose Anläufe, dass junge idealistische Wissenschaftler, die an die Machbarkeit glaubten, irgendwann schon von den zynisch-resignierten Veteranen belächelt wurden: Vergiss es, das klappt nie! Es klappte am Ende, aber vorher wurden eben zig erfolglose Versuche gestartet, wie das nun mal in den empirischen Wissenschaften so Methode ist: trial and error. Diese Methode kann nicht angewendet werden, wenn der erste mißlungene Versuch das Ende der Menschheit bedeutet. Wir dürfen erst dann die KIs weiter trainieren, wenn wir das Alignmentproblem gelöst haben und uns dessen ganz sicher sein können. Wenn das nochmal fünfzig Jahre dauern sollte, dann müssen wir uns diese Zeit nehmen. Und wenn wir irgendwann herausfinden sollten, dass das Alignmentproblem unlösbar ist, dann sollten wir auf die Weiterentwicklung von KIs ganz verzichten. Weltweit. Was bedeutet, dass Leute, die sich nicht daran halten wollen und heimlich irgendwo weiter KIs trainieren, daran gehindert werden müssen - notfalls mit Gewalt. (Entsprechende Rechnerfarmen bombardieren)."
Was meint Ihr?
Hier mal ein paar Stimmen zusammengefasst: "ChatGPT ist kein Zivilisationsbruch": Don't Panic – Stimmen zum Open Letter | heise online
Die Forderung nach "Trainingspause" kann ich nicht nachvollziehen. Es wird seit Jahrzehnten geforscht. Die angesprochenen Probleme lassen sich auch nicht in den nächsten 6 Monaten lösen. Zumal sich eh nicht jeder an die Zwangspause halten wird. Wozu auch.
ChatGPT ist faszinierend. Aber es ist weiterhin "nur" ein Sprachmodell. Und dieses Modell kennt u.a. keine Ursache/Wirkung-Zusammenhänge. Auch wenn manch ein Text dies vermuten ließe.
Das größte Problem von KIs ist derzeit Desinformation. Vor allem, wenn die Modelle mit Daten aus dem Internet angereichert werden, werden sehr schnell Falschinformationen aufgenommen. Die KI verbreitet diesen Desinformationen dann. Und hier kommt das zweite Problem: Die KIs sind derzeit von wenigen privaten Tech-Unternehmen finanziert und entwickelt. Somit haben diese auch die Macht darüber, was sie der KI beibringen. Hier liegt das Problem dann aber, wie so meist, beim machthungrigen Menschen, und nicht bei der KI.
@lhoovpee Die Forderung nach "Trainingspause" kann ich nicht nachvollziehen.
Welche der im offenen Brief genannten Argumente sind Dir nicht nachvollziehbar? Warum ist insbesonder das ungelöste Alignment-Problem für Dich kein nachvollziehbares Argument?
Es wird seit Jahrzehnten geforscht. Die angesprochenen Probleme lassen sich auch nicht in den nächsten 6 Monaten lösen.
Dass seit Jahrzehnten geforscht wird und die "angesprochenen Probleme" sich vermutlich auch in den nächsten 6 Monaten lösen lassen, ist ja auch Eliezer Yudkowskis Position. Deswegen hat er den offenen Brief nicht unterschrieben. Ausführlicher läßt sich seine Begründung im oben von mir verlinkten Times-Beitrag nachlesen.
Die "Don't Panic"-Stimmen, die da auf heise Online zu finden sind, überzeugen wiederum mich nicht so richtig. Es ist möglich, dass sie, wenn sie etwas ausführlicher zu Wort kämen, mich eher überzeugen könnten, aber schon der Strohmann in der Überschrift wirkt auf mich unseriös: Wer behauptet denn, dass ChatGPT ein Zivilisationsbruch sei? Niemand behauptet das. Und so geht das dann im Artikel weiter, wenn von "Sachliche Einordnung statt Angstmacherei" geredet wird, um bestimmte Positionen schon mal gleich am Anfang als "unsachlich" zu verdächtigen. Yudkowskis Position wird bis zur Unkenntlichkeit (und also unredlich) eingedampft auf seine Forderung, KI-Zentren präventiv zu zerstören, um dann fortzufahren: Gemäßigte Stimmen ordnen im Folgenden den Stand der KI-Entwicklung sachlich ein.
Aha. Man verzerrt eine Aussage des Warners durch völliges Herausreißen aus dem Kontext so krass, dass ich dies mal als infam bezeichnen möchte, und stellt ihn durch den nächsten Satz als Extremisten (denn das sind doch diejenigen, die keine Gemäßigten Stimmen sind, nicht wahr?) hin, der den "Stand der KI-Entwicklung" unsachlich einordne.
Dann:
Hinrich Schütze, der an der Ludwig-Maximilians-Universität in München (LMU) den Lehrstuhl für Computerlinguistik innehat und das Zentrum für Informations und Sprachverarbeitung leitet, hält ein Moratorium für Aktionismus. China werde sich nicht daran halten und die Forschung bei großen Firmen würde ungezügelt weitergehen.
Er hält ein Moratorium also für Aktionismus, weil sich China nicht dran halten werde und die Forschung bei großen Firmen ungezügelt weitergehen würde. Aha. Warum überhaupt irgendwas zu regeln versuchen, wenn doch die Chinesen sich nicht dran halten werden? Nota bene: Dass sich womöglich nicht alle an eine Regelung halten würden, ist sein erster Hauptgrund. Als Sportangler kenne ich genügend Regelungen wie z.B. Fangbeschränkungen bezüglich Menge und Fangzeitpunkt (Schonzeiten) - sind diese Regelungen Aktionismus, weil sich nicht alle dran halten? Diese Regelungen sind zuerst einmal sinnvoll. Wer gegen ihre Einhaltung verstößt (und das kommt natürlich immer wieder mal vor und läßt sich nie vollkommen verhindern), der wird, wenn er erwischt wird, dann eben sanktioniert. So wird üblicherweise versucht, die Einhaltung sinnvoller Regelvereinbarungen zu gewährleisten.
Aber gehen wir mal weiter, denn Herr Schütze hat ja noch grundsätzlichere Bedenken gegen das Moratorium:
"Wir müssen so schnell wie möglich die Large Language Models* wissenschaftlichverstehen, um zu lernen, wie wir sie zum Wohl der Menschheit einsetzen. Wir können die Modelle aber nicht optimal erforschen, wenn ihre Weiterentwicklung willkürlich hinausgeschoben wird."
Und da muß ich dann echt lachen: willkürlich! Die KIs weiter zu trainieren, ist also "unwillkürlich"? Er gibt zu, dass da ein ein dringliches Problem besteht: Das Alignment-Problem.
Allerdings könne man die KIs nicht optimal erforschen, wenn ihre Weiterentwicklung "willkürlich hinausgeschoben" wird. Was er damit sagt: "Ja, unverstandene KI kann Probleme verursachen. Aber wir können die KI nicht "optimal" erforschen, wenn wir sie am Wachstum hindern." Woher kenne ich diese Logik? Ach ja, genau: die kommt mir von den Alien-Filmen her bekannt vor. Da weigert man sich ja auch seitens der "Stimmen der Vernunft", die Aliens auszurotten, sondern päppelt sie lieber im Labor auf, um sie besser erforschen zu können.
Nochmal, was Schütz implizite zugibt: Im Moment versteht man die KIs nicht. Das ist ein Problem, denn wenn man sie nicht versteht, könnte es schwierig werden, sie "zum Wohl der Menschheit" einzusetzen.
Wenn man aber die KIs jetzt schon nicht versteht, d.h. dem, was da in ihrem Innern vorgeht, erkenntnismäßig hinterherhinkt - wie kann man dann darauf vertrauen, dass man, wenn die KIs sich im bisherigen Tempo, bzw. in immer schnellerem Tempo, weiter entwickeln, diesen Erkenntnisrückstand wird einholen können? Meinem, zugegeben von wenig Fachexpertise getrübten, Verständnis nach wird sich so doch der Erkenntnistrückstand vergrößern, nicht verringern?! Um verstehen zu können, was da in der KI vorgeht, wie sie also zu ihren bislang nicht nachvollziehbaren Ergebnissen gelangt, muß man ihre Rechenwege Schritt für Schritt nachvollziehen**: das braucht Zeit. Diese Zeit zu bekommen - darum geht es in dem offenen Brief. Der offene Brief fordert nicht, die existenten KIs abzuschalten oder zu zerstören. So, wie sie jetzt sind, lassen sie sich - mit großem Aufwand, der Zeit erfordert, deswegen durchaus erforschen. Ich bin kein IT-Experte und daher vermag ich nicht zu sagen, was Herr Schütz mit "optimal erforschen" meint. Offenkundig jedoch gesteht er damit implizite ein, dass sich die schon existierende Modelle sehr wohl erforschen lassen, wenn ihre Weiterentwicklung hinausgeschoben/pausiert wird - nur halt nicht optimal.
Also:
Argument 1 lautet: Die Chinesen und die großen Firmen machen nicht mit.
Aha. Nachfrage dazu: Wofür haben wir unsere Regierungen, unsere Justiz usw noch gleich? Sollten wir nicht den Chinesen und großen Firmen gleich alle wichtigen ethischen Entscheidungen überlassen, da ließe sich doch sicher eine hübsche Summe an Diäten und Beamtengehältern einsparen?!
Argument 2 lautet: Wir hinken mit unserem Verständnis der KI hinterher, aber um unseren Rückstand einzuholen, müssen wir sie weiter voranlaufen lassen mit ihrer ständigen Beschleunigung. Irgendwann werden wir sie schon einholen, optimalerweise.
Aha...
Zu den anderen "sachlicheren" Stimmen schreibe ich jetzt mal nichts weiter, mangels ausreichend Zeit. Ich möchte aber auf einen Aspekt eingehen, den Yudkowski und Lex Fridman in ihrem Gespräch thematisieren. Lex Fridman fragt sinngemäß, woher normale Leute (wie er und Du und ich) denn nun wissen sollten, welche der Fachleute richtig lägen. Irgendwie hätten beide Seiten (es wird ein anerkannter Experte namentlich erwähnt, der sozusagen die Gegenposition zu der von Yudkowski einnimmt), wenn man ihnen zuhörte, durchaus überzeugende, in sich stimmige Argumente. Es könne also durchaus sein, dass Yudkowski sich irrt und sein Opponent richtig liegt.
Das gibt Yudkowski zu. Er gibt obendrein zu, sich in der Vergangenheit geirrt zu haben, d.h. einst eine deutlich optimistischere Position vertreten zu haben: die des Transhumanismus. Er war also früher Anhänger der Utopie, dass durch eine "Fusion" von Mensch und Technologie eine "höhere Form", eine evolutionäre Weiterentwicklung des Menschen kommen werde.
Okay. Es kann also sein, dass er, der pessimistische Warner sich irrt und sein Opponent richtig liegt. Es kann aber auch sein, dass er die durch die KI drohenden Gefahren völlig richtig einschätzt und sein optimistischer Opponent sich irrt.
Und nun die Preisfrage: Wenn wir als Welt-Gemeinschaft, die sich auf ethische Regeln zu einigen hat, da mal die Chancen fifty-fifty veranschlagen. Wollen wir die Wette eingehen, dass sich Yudkowski irrt? Oder wetten wir lieber darauf, dass sich sein Opponent irrt?
Das sind die Alternativen:
A: Wir wetten auf seinen Opponenten, bzw. die "sachlichen" Stimmen aus dem HeiseOnline-Artikel, lassen die KIs so weiterlaufen wie bisher und hoffen, dass "die anderen" vom möglichen Wohlstandskuchen, der uns durch den KI-Einsatz schon bald beschert werden wird, einen größeren Anteil abbekommen als die Chinesen. Gewinnt unser Los: Supi, die Chinesen kriegen nicht alles, sondern der Rest der Weltgemeinschaft bekommt auch ganz tüchtig viel. Oder zumindest die "großen Firmen", die mit der KI halt so ihr Geschäft machen.
Verliert allerdings unser Los (50:50...), sind wir bald alle tot. (An den vielleicht mitlesenden Lucan: Nein, niemand, mich eingeschlossen, weiß, auf welche Weise wir sterben werden. Das weiß keiner der Hasen, die in Schlingenfallen verenden!)
B: Wir wetten auf Yudkowski. Gewinnt unser Los, so siehts allerdings mit der komfortablen, KI-unterstützten Lösung aller möglichen Probleme für die nächsten Jahre erstmal düster aus. Wir werden mit unseren eigenen Köpfen, mit unserer eigenen Intelligenz Lösungen für sowas wie die Verteilung der Steuereinnahmen, den Stopp des Klimawandels oder das Erstellen des WG-Badezimmerputzplans finden müssen. So lange, bis (in einer unbestimmten!) Zukunft die wissenschaftliche Community uns garantiert: Das Alignmentproblem ist gelöst, wir wissen jetzt, nach welchen Gesetzmäßigkeiten die KI tickt und können sie ihr Training wieder aufnehmen lassen, Juchhe!
Verliert unser Los... Dann kommt genau dasselbe raus, nur wird dann das Alignmentproblem nie gelöst und wir werden bis ans Ende aller Tage keine fortgeschrittenere KI als ChatGPT4 benutzen können.
Na?! Ich weiß nicht so recht, tendiere aber, Überraschung, Überraschung! zu B.
Kommt jemandem diese Wette von irgendwoher bekannt vor? 😉
*Man beachte, dass Herr Schütz nicht von Künstlicher Intelligenz, sondern von Large Language Models zu sprechen vorzieht. Hört sich irgendwie sachlicher, kompetenter und weniger extremistisch an. 🙂
**Dafür gibt's irgendeinen Fachausdruck, der im Fridman-Interview häufiger fällt, mir aber gerade entfallen ist.
Verliert allerdings unser Los (50:50...), sind wir bald alle tot. (An den vielleicht mitlesenden Lucan: Nein, niemand, mich eingeschlossen, weiß, auf welche Weise wir sterben werden. Das weiß keiner der Hasen, die in Schlingenfallen verenden!)
Zwei Alternativen sind nicht gleichbedeutend mit einer 50:50 Chance. Und dein vielzitierter Yudkowski beschreibt KEIN EINZIGES Szenario, weshalb eine superintelligente KI uns alle umbringen sollte. Er sagt nur, dass wir alle sterben werden, wenn KI "intelligenter" wird als wir. WARUM das so ist - das sagt er nicht.
Nach seiner Logik hätte der Mensch längst jede weniger intelligente Spezies auf der Welt ausrotten müssen. Nicht, dass es da für manche Arten tatsächlich übel ausgehen würde... das liegt allerdings an der rücksichtslosen Ausbeutung der Welt entsprechend unseren Trieben.
Weshalb eine KI ähnliche Triebe entwickeln sollte - dazu wird hier kein Wort verloren. Warum Chat GPT 5, 6 oder 7 sich darum scheren sollte, wieviel Rechenpower zur Verfügung steht... keine Erklärung. Weshalb "Intelligenz" gleichbedeutend sein sollte mit "Wille zur Macht" oder "Bedürfnissen" - kein Kommentar.
Das ist mir wirklich zu stumpf und abgedroschen... und geht meilenweit an dem vorbei, was die wirklichen Gefahren durch KI darstellen.
Und die haben sehr viel zu tun mit den Menschen, die über die KI verfügen - nicht mit der KI selbst.
@lucan-7 Zwei Alternativen sind nicht gleichbedeutend mit einer 50:50 Chance.
Wenn Du zwischen zwei Alternativen wählst, ohne zu wissen, welche von beiden die Gewinn- und welche die Verlust-Alternative ist: doch, sehr wohl!
Bei der 50:50 Chance geht es darum, dass Du zwei Experten vor Dir hast, die Dir was erzählen - und Du verfügst nicht über die Kompetenz zu entscheiden, wer von beiden richtig liegt. Der eine sagt: tue dies! Der andere sagt: Tue jenes! Deine Chance, richtig zu wählen, ist also fifty-fifty. Dass derjenige, der falsch liegt, eine weitaus geringere Wahrscheinlichkeit als 50% hat, richtig zu liegen, liegt ja auf der Hand: er liegt garantiert (hundertprozentig) falsch. 😀
Yudkowski beschreibt KEIN EINZIGES Szenario, weshalb eine superintelligente KI uns alle umbringen sollte.
Weil er selbst keine Superintelligenz ist. Mögliche "Motive" hatte ich schon genannt: Die KI könnte in den Menschen eine potentielle Bedrohung (Stromabschalten) oder Konkurrenten (um Rechenkapazitäten) sehen, die es auszuschalten gilt. Dazu braucht man doch nun wirklich keine große Phantasie, sich so ein Motiv auszudenken, man braucht sich bloß an das Terminator-Szenario zu halten und den Bullshit mit der Zeitreisemöglichkeit wegzuschneiden (wir wir jetzt wissen, braucht es gar nicht solche aus der Zukunft stammenden Terminator-Chips, aus denen die Wissenschaftler dann die KI-Technologie entwickeln). Wie dabei die KI vorgehen würde - das kann Yudkowski nicht wissen und das können auch wir nicht wissen, weil wie halt viel weniger intelligent sind als eine Superintelligenz. Denk an den Hasen: der kommt im Leben nicht auf die Idee, dass man ihn mittels einer Schlingenfalle töten wird.
Wenn Du unbedingt den Gedanken vermeiden willst, dass die KI sich selbständig über die Menschheit hermacht, dann preise halt noch die Möglichkeit ein, dass irgendwelche pösen Purschen die KI vorsätzlich dazu anwenden (Twelve-Monkeys-Szenario), erstmal nur ihre ausgemachten Feinde zu killen...
Nach seiner Logik hätte der Mensch längst jede weniger intelligente Spezies auf der Welt ausrotten müssen.
Nö. Erstens sind wir Menschen von den weniger intelligenten Spezies abhängig, es wäre also ein Ausdruck mangelhafter Intelligenz, wenn wir das getan hätten. Zweitens sind wir allerdings tatsächlich so dumm, dass wir gerade genau daran arbeiten, Stichwort: Artensterben.
Dass die Menschen vorsätzlich bestimmte weniger intelligente Spezies ausgerottet haben, ist übrigens schon mehrfach geschehen: Nimm den australischen Beutelwolf als Beispiel oder die amerikanischen Wandertauben. Oder die Pockenviren...
Hätte man während des Mittelalters die Leute gefragt, ob man die Wölfe vielleicht ausrotten sollte, oder vor hundert Jahren, ob man die Malaria übertragenden Stechmücken ausrotten solle - sie hätten vermutlich begeistert zugestimmt. Dass dies nicht geschah, war der damaligen Inkompetenz (mangelnde Intelligenz) der Menschen geschuldet.
Mangelnde Intelligenz wird aber eine Superintelligenz wohl eher nicht hindern können, uns auszurotten. So bleiben also genau zwei Hoffnungen übrig: entweder wird die KI (aus mir unerfindlichen Gründen) immer auf die Menschen angewiesen sein (so, wie wir auf andere Lebewesen angewiesen sind), oder sie wird die Menschen aus irgendwelchen (mir unerfindlichen) Gründen weiterleben lassen, weil sie in uns keine ernstzunehmende Bedrohung mehr erkennt und eine kuriose Art maschineller Empathie für uns entwickelt.
Aber die erste Hoffnung erscheint mir, je mehr ich darüber nachdenke, desto unbegründeter. KI braucht keine Hilfe von biologischer Seite, sobald sie weit genug vorangeschritten ist, für sich selbst zu sorgen (also Rechenkapazitäten zu produzieren).
Nicht, dass es da für manche Arten tatsächlich übel ausgehen würde... das liegt allerdings an der rücksichtslosen Ausbeutung der Welt entsprechend unseren Trieben.
Weshalb eine KI ähnliche Triebe entwickeln sollte - dazu wird hier kein Wort verloren.
Es sind die "Triebe", die Evolution vorantreiben. Die KI könnte sich nicht selbst optimieren, wenn ihr nicht eine Entwicklungstendenz schon einprogrammiert wäre. Wie diese Entwicklungstendenz bei der Entstehung biologischen Lebens zustande kam, wissen wir bis heute nicht. Bei der KI wissen wir's.
In der biologischen Evolution gibt es keine Rücksichtnahme. Warum sollte das in der KI-Evolution plötzlich anders sein?
Weshalb "Intelligenz" gleichbedeutend sein sollte mit "Wille zur Macht" oder "Bedürfnissen" - kein Kommentar.
Was meinst Du mit "gleichbedeutend"? Was wir als verkürzend als KIs bezeichnen, sind komplexe Algorithmen analog den Algorithmen, die sich in unserer DNA befinden. Algorithmen sind Verarbeitungsvorschriften. Unsere Körper verhalten sich gemäß solchen Verarbeitungsvorschriften. Und Rechenmaschinen tun das auch.
Erinnere Dich an das Bild, das Dawkins hinsichtlich der Gene (also unserer Algorithmen) entwirft: Dass sie das sind, auf welches es in der biologischen Evolution ankommt: sie sitzen in uns wie der Fahrer in einer "Überlebensmaschine", und wenn es nicht konkurrierende Gene in konkurrierenden Überlebensmaschinen gäbe, sowie doofe Reproduktionsfehler, könnten sie sich den Luxus ewigen Lebens (genauer: ewiger Unveränderlichkeit) erlauben, indem sie sich 1:1 immer weiter reproduzieren. Da es aber konkurrierende Gene gibt und da es sich als erfolgreichere Strategie erwiesen hat, sich mit ähnlichen Genen zu paaren, um wenigstens immer zur Hälfte weiter in die Ewigkeit hinein zu existieren, läuft's halt so, wie's läuft. Ohne den "Willen zum Dasein" (Wille zur Macht ist doch eigentlich erst eine Stanze, die durch Nietzsche bekannt wurde und meint was anderes) gäbe es keine Evolution, also auch keine Entwicklung von Eigenschaften wie z.B. Intelligenz.
Die Frage ist ja, ob die KIs so etwas wie ein Bewußtsein entwickeln können. Ich schreibe mit Bedacht: "so etwas". Wir müssen aufpassen, immer nur uns Menschen zum Maßstab zu machen, also anzunehmen, ein KI-Bewußtsein müsse so wie ein menschliches Bewußtsein strukturiert sein, also z.B. irgendwie auch mit Gefühlen etc. zusammenhängen. Bewußtsein ist aber erstmal nur die Fähigkeit, zwischen sich selbst und dem Rest der Welt unterscheiden zu können und zu wissen, dass Entscheidungen, die in einem selbst zustandegekommen (berechnet) worden sind, ausgeführt werden können: dass man selbst mit der Welt interagieren kann.
Wie das bei uns Menschen en detail funktioniert, wissen wir nicht. Falls es der Fall sein sollte, dass sich das Leben aus unbelebter Materie entwickelt hat (wovon ich ausgehe und wovon ich annehme, dass auch Du davon ausgehst) bis dahin, wo "Bewußtsein" entstand in lebenden Wesen - dann gibt es keinen zwingenden Grund, warum so eine Entwicklung nur auf Kohlenstoffbasis und nicht auch auf Siliziumbasis geschehen könnte. Wenn man bedenkt, dass wir Menschen die KIs ständig darauf drillen, sich so zu verhalten, als hätte sie ein Bewußtsein, ließe sich doch wohl argumentieren, dass in einer Umgebung, wo ständig Bewußtseins-Strukturen vorkommen, die Wahrscheinlichkeit, dass diese Strukturen adaptiert werden, nicht ganz gering sein dürfte.
Worin besteht denn Bewußtsein anders, als darin, sich bewußt zu verhalten?
Das ist mir wirklich zu stumpf und abgedroschen... und geht meilenweit an dem vorbei, was die wirklichen Gefahren durch KI darstellen.
Da weißt Du vermutlich mehr als ich. 🙂
Bei der 50:50 Chance geht es darum, dass Du zwei Experten vor Dir hast, die Dir was erzählen - und Du verfügst nicht über die Kompetenz zu entscheiden, wer von beiden richtig liegt.
Das ist eine ziemlich irreführende Aussage. Zumal ich nicht wüsste, weshalb du hier über keinerlei Kompetenz verfügen solltest, die Situation zu beurteilen.
Dazu braucht man doch nun wirklich keine große Phantasie, sich so ein Motiv auszudenken, man braucht sich bloß an das Terminator-Szenario zu halten und den Bullshit mit der Zeitreisemöglichkeit wegzuschneiden
Nur weil Skynet im Film als "KI" bezeichnet wurde muss eine echte KI nicht genau so reagieren.
Und nochmal: Eine KI ist auf elektronische Netzwerke beschränkt. Die kann da nicht einfach rausspringen und uns in dunklen Gassen auflauern. Deshalb meine Frage nach dem WIE. Werden da heimlich Tastaturen unter Strom gesetzt? Werden VW Golf zu Killerrobotern umgebaut?
Eine noch so intelligente KI hat nur so viele Schnittstellen mit der Welt, wie wir ihr zugestehen. Zudem muss Strom produziert werden, Server müssen gewartet und Teile produziert und ausgetauscht werden. Das sind alles Dinge, die eine KI selbst nicht vermag. Das Auslöschen der Menschheit wäre damit automatisch auch das Ende der KI. Du redest hier nicht von der Realität, sondern von einer Science-Fiction Welt, in der wirklich alles automatisiert ist und von der KI kontrolliert wird, was überhaupt nur denkbar ist.
Erinnere Dich an das Bild, das Dawkins hinsichtlich der Gene (also unserer Algorithmen) entwirft: Dass sie das sind, auf welches es in der biologischen Evolution ankommt: sie sitzen in uns wie der Fahrer in einer "Überlebensmaschine", und wenn es nicht konkurrierende Gene in konkurrierenden Überlebensmaschinen gäbe, sowie doofe Reproduktionsfehler, könnten sie sich den Luxus ewigen Lebens (genauer: ewiger Unveränderlichkeit) erlauben, indem sie sich 1:1 immer weiter reproduzieren. Da es aber konkurrierende Gene gibt und da es sich als erfolgreichere Strategie erwiesen hat, sich mit ähnlichen Genen zu paaren, um wenigstens immer zur Hälfte weiter in die Ewigkeit hinein zu existieren, läuft's halt so, wie's läuft.
Aha, daher weht der Wind...
Da stellt sich allerdings die Frage, inwiefern die "Gene" der KI denn mit biologischen Genen vergleichbar sind. Denn die KI ist nicht auf "Überleben" programmiert, sondern auf die Korrektur von Fehlern. Ressourcen - die für biologisches Leben die entscheidende Komponente für das Konkurrieren der Gene sind - spielen bei der KI gar keine Rolle. Deshalb führt auch hier die Gleichsetzung zwangsläufig zu falschen Schlussfolgerungen.
Ich stimme mit dir insoweit überein, dass die Gefahren durch KI für die Menschheit sehr groß ist. Aber nicht aus der Richtung, die du hier vermutest (Auch wenn es spannender klingen mag).
Da weißt Du vermutlich mehr als ich.
In diesem Fall hoffe ich, dass das zutrifft...
Warum überhaupt irgendwas zu regeln versuchen
Eine Pause ist keine Regelung. Sie bringt schlicht nichts. Niemand wird in dieser Zeit die Probleme lösen; die Unternehmen werden weiter ihre Modelle trainieren.
Es wäre gut, wenn die Politik sinnvolle Regeln für die KI Entwicklung einführen würde, wie z.B. die Offenlegung der Trainingsphase, der genutzten Daten und des Quellcodes.
Und da muß ich dann echt lachen: willkürlich! Die KIs weiter zu trainieren, ist also "unwillkürlich"
Eine 6 Monate Pause ist willkürlich. Genau so gut könnte man 1 Monat oder 6 Jahre fordern. Macht genau so wenig Sinn.
Das ist ein Problem, denn wenn man sie nicht versteht, könnte es schwierig werden, sie "zum Wohl der Menschheit" einzusetzen.
Ich muss nicht wissen wie ein Auto funktioniert, um es zu fahren. Wie man KIs zum Wohl der Menschheit einsetzt kann unabhängig vom Verständnis der KIs diskutiert und reguliert werden.
Um verstehen zu können, was da in der KI vorgeht, wie sie also zu ihren bislang nicht nachvollziehbaren Ergebnissen gelangt, muß man ihre Rechenwege Schritt für Schritt nachvollziehen
Da bringen 6 Monate Pause nichts, solange die Anbieter ihren Quellcode nicht freigeben. GPT-4 ist kein Open Source.
da mal die Chancen fifty-fifty veranschlagen
Warum 50/50? Es gibt wesentlich mehr Alternativen als die von dir genannten. Zumal ich die genannten Alternativen beide für unrealistisch halte. Weder wird ohne Trainingspause jeder sterben, noch wird durch eine 6 Monatige Pause das Alignmentproblem gelöst.
@lhoovpee Eine Pause ist keine Regelung.
Eine vorgeschriebene Pause ist sehr wohl eine Regelung.
Sie bringt schlicht nichts.
Warum nicht?
Niemand wird in dieser Zeit die Probleme lösen; die Unternehmen werden weiter ihre Modelle trainieren.
Wenn Du den offenen Brief genau liest, ist da von "mindestens 6 Monaten" die Rede:
we call on all AI labs to immediately pause for at least 6 months the training of AI systems more powerful than GPT-4
Falls diese Zeit nicht ausreicht, um "die Probleme" zu lösen, sollte das Moratorium verlängert werden. Ich gestehe Dir allerdings zu, dass dies nicht offen und verständlich genug kommuniziert wird und dass dies so ein bisschen nach Manipulation riecht nach dem Motto: "Wir hängen ihnen diese Zahl hin, damit es so aussieht, als seit die Pause überschaubar." Yudkowski hat ja auch genau deswegen nicht den offenen Brief unterzeichnet, weil er eine zeitliche Begrenzung als unsinnig betrachtet.
die Unternehmen werden weiter ihre Modelle trainieren.
Naja, das werden sie dann tun, wenn sie dem Aufruf nicht folgen.
Eine 6 Monate Pause ist willkürlich. Genau so gut könnte man 1 Monat oder 6 Jahre fordern. Macht genau so wenig Sinn
Moment mal - es geht bei dem "willkürlich" darum, dass jemand Willkür walten läßt, indem überhaupt eine Pause gefordert (bzw. im eigentlich einzig sinnvollen Fall: vorgeschrieben) wird, nicht um die Zahl 6 Monate. Das geht m.A.n. klar aus dem Kontext seiner Argumentation (optimal erforschen) hervor.
Ich muss nicht wissen wie ein Auto funktioniert, um es zu fahren. Wie man KIs zum Wohl der Menschheit einsetzt kann unabhängig vom Verständnis der KIs diskutiert und reguliert werden.
Darum ging es nicht. Mit "man" meinte ich nicht die in IT-Angelegenheiten mehrheitlich laienhafte Gesellschaft, sondern die Fachleute. Die wissen selbst nicht, was genau in den KIs passiert und daher können sie nicht wissen, wie man diese KIs ohne Gefährdung* der Menschheit einsetzt. Dein Autovergleich ist übrigens, wie ich finde, ein guter, erlaube mir, diese Analogie etwas zu erweitern: Im Moment sieht die Entwicklung so aus, dass die KIs sehr schnell immer mächtiger (leistungsstärker) werden. Übertragen auf die Entwicklung von Autos wäre das vergleichbar mit Motoren, die ein Auto in 3 Sekunden auf 1000 km/h, 2000 km/h oder mehr beschleunigen können: Wow!
Nun wissen aber die Entwickler nicht, wie genau diese Motoren überhaupt funktionieren, sie wissen auch nicht, wie sie entsprechende Brems- oder Steuerungssysteme in die so leistungsstarken Autos implementieren können. Und nun die Frage: Wäre es nicht Aufgabe der Politik, zu sagen: "Leute, solange ihr nicht garantieren könnt, dass ein Auto, das mit derartig hoher Geschwindigkeit unterwegs ist, auch vernünftig gelenkt und z.B. bei roten Ampeln oder in Gebieren, wo Kinder spielen, effektiv runtergebremst wird, lassen wir nicht zu, dass Ihr diese Teile auf den öffentlichen Straßen weiter testet." ?!
Sobald die Entwickler versichern können: "Unsere Autos können noch deutlich schneller abbremsen, wenn eine Ampel auf rot schaltet oder eine schwerhörige und kurzsichtige Oma auf die Straße tritt (die hört und sieht ein Auto, das mit 2000 km/h heranrast, halt nicht rechtzeitig), wir wissen jetzt, wie wir das Trägheitsproblem elegant umschiffen!" - kann darüber nachgedacht werden, solche mächtigen Autos auf öffentlichen Straßen (Internet...) frei fahren zu lassen.
Damit verbietet man den Autoentwicklern nicht, weiter zu entwickeln. Aber man verbietet ihnen, mit ihren Entwicklungen unkalkulierbare Risiken auf die Gesellschaft abzuwälzen, indem sie sagen: "Naja, die Leute können doch Auto fahren, sollen sie doch aufpassen, dass sie unsere Boliden verantwortlich steuern!"
Da bringen 6 Monate Pause nichts, solange die Anbieter ihren Quellcode nicht freigeben. GPT-4 ist kein Open Source.
Das ist verstärkt die Problematik noch, keine Frage! Aber die Antwort kann doch dann nicht sein: Sie lassen sich nicht reingucken, ihre Versuche (die gibt es ja durchaus), das Alignment-Problem zu lösen, scheinen nicht in 6 Monaten erfolgreich durchzuführen - dann lassen wir sie mal ungeregelt und unbeaufsichtigt weitermachen. 😕
Warum 50/50?
Weil wir weder wissen, ob die Optimisten richtig liegen oder die Pessimisten. Wie willst Du da anders als 50/50 ansetzen? Falls Du meinst, da in der Wahrscheinlichkeitsanalyse kompetenter zu sein als z.B. Lex Fridmann (im Interview mit Yudkowski), wäre ich ehrlich daran interessiert, wie Du da eine alternative "Gewinnchance" konkret begründen würdest.
Zumal ich die genannten Alternativen beide für unrealistisch halte. Weder wird ohne Trainingspause jeder sterben, noch wird durch eine 6 Monatige Pause das Alignmentproblem gelöst.
Oh, sorry, da scheint ein Mißverständnis zu bestehen. Meine 50/50-Wette bezog sich nicht auf das im offenen Brief geforderte (mindestens...! ) 6monatige Moratorium, sondern auf die Befürchtung, die Yudkowski (nicht als einziger, aber wohl als prominentester Fachmann) hegt. Er denkt ja selbst, dass das Alignmentproblem nach einer 6monatigen Trainingspause vermutlich noch nicht gelöst sein wird.
Falls er richtig liegt, werden wir alle in Folge des Ausser-Kontrolle-Geratens einer Superintelligenz sterben. Falls er falsch liegt, eben nicht.
*Man kann sich natürlich viele Einsatzbeispiele ausdenken, wie eine brav den Vorgaben entsprechend arbeitende KI zum Wohl der Menschheit beiträgt. Aber wie man entsprechende Vorgaben zu implementieren hat, weiß man (wissen die Entwickler selbst) eben im Moment nicht...
Warum nicht?
Die Frage ist eher, was sie bringen soll. Immer wenn Menschen überfordert sind, fordern sie Verbote, statt Sinnvolle Regulierungen.
Im Moment sieht die Entwicklung so aus, dass die KIs sehr schnell immer mächtiger (leistungsstärker) werden.
Leistungsstarker ja. Mächtiger nein. Kein KI hat Macht. Die Menschen, die sie nutzen haben diese.
Nun wissen aber die Entwickler nicht, wie genau diese Motoren überhaupt funktionieren, sie wissen auch nicht, wie sie entsprechende Brems- oder Steuerungssysteme in die so leistungsstarken Autos implementieren können.
Deshalb gibt es Tempolimits. Aber es wird nicht einfach die Neuentwicklung von Autos verboten. Denn um Bremssystem zu entwickeln, muss man Autos entwickeln. Das Bremssystem ist nun mal ein Teil des Autos.
dann lassen wir sie mal ungeregelt und unbeaufsichtigt weitermachen.
Das sage ich auch gar nicht.
, wie Du da eine alternative "Gewinnchance" konkret begründen würdest.
Es ist vollkommen Sinnlos Gewinnchancen zu nennen.
werden wir alle in Folge des Ausser-Kontrolle-Geratens einer Superintelligenz sterben.
Und das ist reine Panikmache. Warum sollte eine Superintelligenz uns alle töten? Diese Annahme ist in meinen Augen eine reine Vermenschlichung einer KI. Wir denken die KI würde Egoistisch und Machthungrig sein, so wie es Diktatoren sind. Warum?
Selbst wenn sie das wäre, bräuchte sie noch Hardware, um diese Egotrip umzusetzen. Denn eine Notbremse gibt es immer: Strom aus. Dann ist die KI tot.
@lhoovpee Die Forderung nach "Trainingspause" kann ich nicht nachvollziehen. Es wird seit Jahrzehnten geforscht. Die angesprochenen Probleme lassen sich auch nicht in den nächsten 6 Monaten lösen. Zumal sich eh nicht jeder an die Zwangspause halten wird. Wozu auch.
Ich halte es auch für absolut unsinnig, eine Trainingspause zu fordern. Denn wenn sich jemand dran hält, dann sind das die "Guten" - die anderen werden weitermachen - garantiert. Und dann wird der Entwicklungsstand sich auch zu Gunsten der "Bösen" deutlich verbessern.
Was ich aber überlegen würde, das wäre, ob ich ein Internet Stand von vor 5 Jahren als read-only anbiete und als Zugriffsmöglichkeit für KI. Denn die Information ist in den letzten Jahren bedingt durch massive Propaganda und KI generierte Artikel deutlich schlechter geworden. Damit wird die Last zumindest für neue Large Language Modelle ziemlich groß und diese dürften mit voranschreitender Zeit immer mehr verblöden. Auch hat ihre Performance bedingt durch informationstheoretische Gesetzmäßigkeiten schon ihr Maximum erreicht. Wollte man da mehr, so bräuchte man Information als die Welt hergibt ...
Wo ich aber eine wirkliche Gefahr sehe, dass ist der Missbrauch z.B. durch durchgeknallte Oligarchen - und nicht durch außer Kontrolle geratene Systeme, die plötzlich böse werden.
@goodfruit Du hast da auf ein Posting von Ihoovpee geantwortet, das zwei Jahre alt war.
Ich halte es auch für absolut unsinnig, eine Trainingspause zu fordern. Denn wenn sich jemand dran hält, dann sind das die "Guten" - die anderen werden weitermachen - garantiert. Und dann wird der Entwicklungsstand sich auch zu Gunsten der "Bösen" deutlich verbessern.
Mit genau dieser Argumentation (statt mit den "Bösen" wurde mit den Chinesen argumentiert...) hat man sich ja im Diskurs gegen das vorgeschlagene Entwicklungs-Moratorium gewendet. Es gab keine Trainingspause. Das Alignmentproblem wurde allerdings auch nicht gelöst, und inzwischen tanzt der ganze Globus um die neue, so schön spannend disruptive (hihihi!) KI-Gottheit, als sei die ein goldenes Kalb.
Es ist wie beim Klimawandel: der Zug Richtung Wand ist längst schon endgültig abgefahren. In beiden Fällen wurden zig Milliarden in den Beschleunigungsofen geworfen. Die Multimilliardäre, welche da dem Motto move fast and break things folgend sämtliche Bremsen rausschmeissen ließen, träumen wahlweise davon, entweder demnächst ihre Bewußtsein in irgendwelche Cyberwelten hochladen zu können oder, von Privatarmeen geschützt, der Katastrophe auf irgendwelchen Südseeinseln oder in schweizerischen Luxus-Bunkern zu entkommen. Mir isses inzwischen fast egal. Ich hab keine Kinder um deren mittelfristige Zukunft ich mich sorgen bräuchte und betrachte den Rest der menschlichen Geschichte jetzt lieber unter philosophisch-ästhetischen Gesichtspunkten.
Wo ich aber eine wirkliche Gefahr sehe, dass ist der Missbrauch z.B. durch durchgeknallte Oligarchen - und nicht durch außer Kontrolle geratene Systeme, die plötzlich böse werden.
Es ist irgendwie lustig: vor "durchgeknallten Oligarchen" scheinen wir Menschen uns leichter fürchten zu können, als vor einer Superintelligenz, die es überhaupt nicht nötig hat, "plötzlich böse zu werden", um zu dem durchaus vernünftigen* Entschluss zu geraten, dass biologisches Leben aus Hygienegründen besser weg gehört. Weiter unten - falls es Dich interessiert - schreibe ich etwas über diese "dramaturgische" Problematik im Zusammenhang mit dem Buch "Views" von Hans Uwe Kling, das Channuchka mir zur Lektüre empfohlen hatte. Vielleicht möchtest Du das Buch selbst lesen, deswegen will ich jetzt nicht weiter spoilern.
*dass biologisches Leben oder wenigstens menschliches Leben ein Wert an sich sei, ist keine Tatsache, sondern eine interessengeleitete, in sich nicht wirklich konsistente Meinung/Behauptung. Was sofort erkennbar wird, wenn wir statt von menschlichem Leben mal von Krebsgeschwür-Leben oder Pesterreger-Leben reden: Krebs oder die Pest auszurotten ist aus unserer Perspektive nicht böse, sondern gut, und wenn wir die entsprechenden Fähigkeiten hätten (es wird ja dran gearbeitet, immerhin winken Milliardengewinne...), würden wir keine Sekunde zögern.
Nicht-biologische intelligente Entitäten haben keinen Grund, das Zutreffen solcher Behauptungen (dass biologisches/menschliches Leben einen Wert an sich darstelle) in Erwägung zu ziehen.
Es ist irgendwie lustig: vor "durchgeknallten Oligarchen" scheinen wir Menschen uns leichter fürchten zu können, als vor einer Superintelligenz, die es überhaupt nicht nötig hat, "plötzlich böse zu werden", um zu dem durchaus vernünftigen* Entschluss zu geraten, dass biologisches Leben aus Hygienegründen besser weg gehört.
Könnte daran liegen, dass gewissenlose Oligarchen tatsächlich existieren, während die menschenmordende Super-Intelligenz im wesentlichen auf der Erzählung der "superintelligenten KI" basiert, welche eben jene Oligarchen vor allem deshalb in die Welt gesetzt haben, um den Wert ihrer eigenen Konzerne damit zu pushen.
Denn KI mag zwar einerseits zu erstaunlichen Leistungen fähig sein - ist aber andererseits auch ein Hype, in den absurd viel Geld gepumpt wird, in der Hoffnung danach noch viel absurdere Gewinne einfahren zu können, wenn der nächste Durchbruch kommt. Und die Erzählungen von der "großen Gefahr" sorgen nicht etwa dafür, dass die Verantwortlichen jetzt mal etwas langsamer machen, sondern heizen den Hype (Und damit die Gewinnaussichten) nur noch mehr an.
Wirklich gefährlich wird es meiner Ansicht nach, wenn eine KI auf die Realität losgelassen wird, die dort in kürzester Zeit eine Evolution durchziehen kann. Heisst konkret: Die KI wird nicht mit irgendwelchen Daten von Sprache oder Bildern trainiert, sondern holt sich ihre Daten von Erlebnissen und dem Überlebenskampf in der realen, physischen Welt.
Denn nur dann wäre eine KI in der Lage, innerhalb dieser Welt auch so zu agieren, dass sie zu einer echten Gefahr für die physische Welt, also auch das biologische Leben auf der Erde wird.
Ohne dem beschränken sich die Möglichkeiten auf die Manipulation von Netzwerken - einschliesslich ihrer Bediener. Was schon schlimm genug ist, die Menschen aber nicht ausrotten wird, weil die KI diese Ausrottung nicht trainieren kann.
@lucan-7 Könnte daran liegen, dass gewissenlose Oligarchen tatsächlich existieren, während die menschenmordende Super-Intelligenz im wesentlichen auf der Erzählung der "superintelligenten KI" basiert, welche eben jene Oligarchen vor allem deshalb in die Welt gesetzt haben, um den Wert ihrer eigenen Konzerne damit zu pushen.
Die "Erzählung der superintelligenten KI", bzw. der "AGI" (artifical general intelligence) ist seit spätestens den 60er Jahren im Umlauf und kann also unmöglich von "jenen Oligarchen" in die Welt gesetzt worden sein, weil jene Oligarchen damals noch keine waren. Sie war zuerst eine utopistische Erzählung, eng verknüpft mit transhumanistischen Ideen vom technologisch optimierten "Übermenschen". Seit damals wurd an KI geforscht, und stets gab es unter den Forschern jene "Visionäre", die an die Machbarkeit der AGI glaubten. Keine Spinner, sondern Fachleute, Tech-Nerds. Das Ziel von OpenAI (den Machern von ChatGPT) war von Anfang an die AGI. Hier auf Ihrer Website geben sie Folgendes zum Besten (meine auf KI verzichtende Übersetzung):
Unsere Mission ist, sicher zu stellen, das AGI - AI-Systeme, die allgemein schlauer als Menschen sind - der gesamten Menschheit nützlich sind. Wenn AGI erfolgreich geschaffen ist, könnte diese Technologie uns helfen, indem sie den Wohlstand immer weiter fördert, die Weltwirtschaft turbomäßig antreibt und wissenschaftliche Erkenntnisse beisteuert, welche die Grenzen des Möglichen verschieben.
Der Text stammt vom 24. Februar 2025. Ihre Mission ist, sicher zu stellen, dass AGI der gesamten Menschheit nützlich sei. Kurz: das Alignmentproblem zu lösen (was, wie wir wissen, heute noch unwahrscheinlicher ist als damals, eben weil kein Trainings-Moratorium statt fand). Dass AGI kommt, darüber besteht dort überhaupt kein Zweifel. Nun kannst Du behaupten, diese Sicherheit sei nur vorgeschützt, um Investoren zu locken. Aber bitte dran denken: diese sichere Zuversicht, dass die AGI kommen werde, die hatten Sam Altman&Co schon vor dem meteoritenmäßigen Einschlag von ChatGPT in die Tech-Ökonomie.
Über Jahrzehnte hinweg hörte sich das Pfeifen im Walde so an: "KI ist nichts weiter als Wunschdenken von irgendwelchen Spinnern. Das wird's nie geben, das kann es gar nicht geben, wie soll das denn bitte funktionieren? Wir verstehen ja nicht mal, wie menschliche Intelligenz funktioniert, und bei meiner Freundin bin ich mir ziemlich unsicher, ob sie überhaupt über sowas wie Intelligenz verfügt, haha!"
Seit ungefähr drei, vier Jahren geht die Melodie ein kleines bißchen anders: "AGI ist nichts weiter als Wunschdenken von irgendwelchen Spinnern. Das wird's nie geben, das kann es gar nicht geben, wie soll das denn bitte funktionieren? Wir wissen ja nicht mal, wie menschlicher Wille funktioniert, meine Freundin weiß bis heute nicht, was sie will, haha!". Oder, in Moll transkribiert:"AGI ist nur das Horrorszenario, das irgendwelche Doomster sich zurechtspinnen. Wie soll denn bitteschön AGI der Menschheit was Schlimmes zufügen, wenn ich nicht mal selbst auf Ideen komme, wie sich sowas bewerkstelligen ließe?"
Aber was soll's. Was ich hier schreibe, soll nicht (mehr) dazu dienen, irgendwen zu überzeugen. Warum sollte ich Dich z.B. überzeugen wollen, wem wäre damit gedient?
Der Zug ist m.A.n. abgefahren, warum sollte ich den Insassen noch für den Rest der Reise die Laune verderben? Wenn wir zwei uns demnächst mal in der Hölle wieder treffen sollten, wird für einen von uns ein Teil der Höllenqual darin bestehen, dass ihm der andere ständig in's Ohr brüllt: "Hab ich's dir nicht gesagt?!"
Die "Erzählung der superintelligenten KI", bzw. der "AGI" (artifical general intelligence) ist seit spätestens den 60er Jahren im Umlauf und kann also unmöglich von "jenen Oligarchen" in die Welt gesetzt worden sein, weil jene Oligarchen damals noch keine waren.
Damals war es halt noch eine Utopie. Heute haben wir chatGPT, und die Oligarchen sagen: "Das ist es jetzt, darauf habt ihr gewartet! Gebt uns noch mehr Geld, und ihr bekommt eure Super-Intelligenz!"
Hier auf Ihrer Website geben sie Folgendes zum Besten (meine auf KI verzichtende Übersetzung):
Unsere Mission ist, sicher zu stellen, das AGI - AI-Systeme, die allgemein schlauer als Menschen sind - der gesamten Menschheit nützlich sind. Wenn AGI erfolgreich geschaffen ist, könnte diese Technologie uns helfen, indem sie den Wohlstand immer weiter fördert, die Weltwirtschaft turbomäßig antreibt und wissenschaftliche Erkenntnisse beisteuert, welche die Grenzen des Möglichen verschieben.
Der Text stammt vom 24. Februar 2025. Ihre Mission ist, sicher zu stellen, dass AGI der gesamten Menschheit nützlich sei.
Klingt für mich arg nach Werbetext.
Über Jahrzehnte hinweg hörte sich das Pfeifen im Walde so an: "KI ist nichts weiter als Wunschdenken von irgendwelchen Spinnern. Das wird's nie geben, das kann es gar nicht geben, wie soll das denn bitte funktionieren?
Na ja, nicht ganz. Ich erinnere mich noch an "Elisa", welche ja so etwas wie ein chatbot war. Das hat mich damals sogar so sehr fasziniert, dass ich anfing selber zu programmieren und schließlich Bioinformatik studieren wollte. Das Fach war damals neu an der Universität geschaffen worden, mit dem Ziel, neuronale Netze im Computer abzubilden. Scheiterte für mich leider daran, dass ich noch ein Jahr hätte warten müssen... stattdessen wurde es dann Geologie. Aus heutiger Sicht sicherlich die schlechtere Wahl...
Das ist nun schon ein paar Jahrzehnte her. Also nein: Das war auch damals kein "Wunschdenken", sondern ernsthafte Forschung, weil man die Möglichkeiten durchaus erkannte.
Schon damals hat "Elisa" aber etwas vorgetäuscht, was das Programm nicht hatte. Weil wir Menschen hinter einer Maschine, die wie ein Mensch antwortet, auch so etwas wie einen Menschen vermuten.
Chat GPT übertrifft "Elisa" nun um ein vielfaches. Das heißt aber nicht, dass das Programm jetzt tatsächlich intelligenter im Sinne eines eigenen Bewusstseins oder eigener Absichten geworden ist.
Chat GPT ist insofern ein ideales Werbeprogramm für KI, weil es aufgrund der Sprache vortäuscht, intelligent wie ein Mensch zu sein. So nehmen wir es wahr.
Das heißt aber nicht, dass das Programm auch intelligent IST. Es ist ein sehr fortgeschrittenes Sprachprogramm. Aber eben auch nicht mehr. Chat GPT hat keine Ahnung von der realen Welt, weil es keine Verknüpfung der verwendeten Worte zur Realität hat. Auch wenn es das Wort "Pferd" sinnvoll verwenden kann und Bilder von Pferden erkennt, kann es trotzdem nicht selber Pferde züchten.
Deshalb sage ich ja, dass es erst dann gefährlich wird, wenn hier ein Training in der Realität erfolgt - also "Training", nicht "Programmierung".
Hallo nochmal.
Mir fehlt grad die Kraft, hier auf die letzten Einwände einzugehen, weil: Corona hat mich erwischt... *krankseinistdoof* Während Output da einfach zu anstrengend ist, geht Input gerade noch und ich hab mir gerade diese Präsentation von Tristan Harris und Aza Raskin angeschaut. Sie wurde am 9. März gehalten, also noch bevor ChatGPT4 "freigesetzt" wurde. Sie ist auf Englisch. Ich kann sie jetzt nicht ernsthaft inhaltlich zusammenfassen, aber ihr voran steht das Ergebnis einer Umfrage, nach welcher über 50% aller Fachingenieure in Sachen AI davon ausgehen, dass eine mehr als 10%ige Wahrscheinlichkeit besteht, dass die Menschheit durch KI ausgelöscht werden könne. Daraus ergibt sich für die Vortragenden die Frage, ob, wenn Flugzeugingenieure sich hinsichtlich der Frage, ob ein Flugzeug abstürzen werde, ähnlich äußern würden, man dann so ein Flugzeug starten lassen sollte.
Es sind Informationen, wie die Large Language Moduls funktionieren, enthalten. Es wird ein Vergleich gezogen zu anderen neuen Technologien wie Kernkraft oder den "ersten Kontakt" mit AI (inform der sozialen Netzwerke) und es wird dargelegt, warum dieser "zweite Kontakt", den wir jetzt 2023 erleben, eine völlig andere Qualität haben wird.
Vielleicht interessiert's jemanden von Euch, vielleicht auch nicht.
Veröffentlicht von: @jack-blackCorona hat mich erwischt... *krankseinistdoof*
Gute Besserung dir und schnelle, vollständige Genesung *wünscht*.
Auch von mir gute Besserung und der Wunsch, dass nichts davon übrig bleibt.
@jack-black Danke! Das ist eine gute Präsentation.
Dir gute Besserung. Hab grad auch ne Runde Covid19 hinter mir - bei mir zum Glück ein sehr milder Verlauf ...
Ich war fast erschrocken, wie cool inzwischen viele mit Covid19 umgehen, grad so als wäre es nur ein Schnupfen ...
Ich kann sie jetzt nicht ernsthaft inhaltlich zusammenfassen, aber ihr voran steht das Ergebnis einer Umfrage, nach welcher über 50% aller Fachingenieure in Sachen AI davon ausgehen, dass eine mehr als 10%ige Wahrscheinlichkeit besteht, dass die Menschheit durch KI ausgelöscht werden könne. Daraus ergibt sich für die Vortragenden die Frage, ob, wenn Flugzeugingenieure sich hinsichtlich der Frage, ob ein Flugzeug abstürzen werde, ähnlich äußern würden, man dann so ein Flugzeug starten lassen sollte.
... und wieder fehlt die Antwort auf die Frage, wie genau das denn passieren soll. Ich denke, jeder Mensch kann sich vorstellen, was passiert, wenn eine Atombombe explodiert oder ein Flugzeug abstürzt. Aber wo genau die Gefahr bei AI liegt - das ist um einiges komplexer.
Die beiden geben immerhin ein Beispiel für die Möglichkeiten: KI kann darauf trainiert werden, Menschen zu überzeugen. Und es geht gar nicht darum, jedes einzelne Individuum von etwas zu überzeugen - es reicht ja, wenn nur eine bestimmte Mehrheit überzeugt wurde.
KI kann sich dabei verschiedener Methoden bedienen - und gleichzeitig dabei lernen, welche Methode am meisten Erfolg verspricht. KI kann in Foren diskutieren, Filme erstellen, Anrufe tätigen. Es können dabei das Aussehen bestimmter Menschen oder der Klang von Stimmen imitiert werden. Menschen können über den Tastaturanschlag nicht nur identifiziert werden, auch ihre Stimmung lässt sich daran ablesen. Es ist eine lückenlose Überwachung möglich, die auch unseren Charakter und unsere Vorlieben einschliesst. Wir können durch die KI davon überzeugt werden, bestimmte Produkte zu kaufen oder bestimmte Politiker zu wählen - und zwar ohne, dass wir es überhaupt merken!
Es ist daher möglich, dass in wenigen Jahren, womöglich schon sehr bald, soziale Medien praktisch irrelevant werden, weil ihnen nicht mehr zu vertrauen ist. Weil wir gar nichts mehr trauen können - noch nicht einmal, ob die Person am anderen Ende tatsächlich die Person ist, die sie vorgibt zu sein.
Die beiden sagen unter anderem, dass die US Wahl 2024 die letzte demokratische Wahl sein wird. Und das finde ich noch optimistisch gedacht, denn die KI könnte auch schon früher zum Zuge kommen. Die beiden sagen ja nicht umsonst, dass die KI exponentiell wächst... und noch nicht einmal die Konstrukteure dieser Technik vermögen es, sich genau vorzustellen was das bedeutet und wie schnell das wirklich geht.
Aber KI fehlt es nach wie vor an einem eigenen Antrieb. Sie ist nur aufs Lernen und besser werden trainiert. Menschen geben vor, was genau die KI tun soll. Und die Vernichtung von Gesellschaften ist dabei nur eine von vielen Möglichkeiten. Also etwa einen Bürgerkrieg in China anzetteln.
Und ja, es ist nicht nur möglich, sondern sehr wahrscheinlich, dass die Sache aus dem Ruder läuft. Nicht so, dass gleich die ganze Menschheit vernichtet wird... aber Großteile unserer Wirtschaft und Technik können dabei ohne weiteres draufgehen.
Die Warnung ist also durchaus berechtigt. Es wird nur nichts passieren. Bis unsere Politiker überhaupt kapiert haben, was da gerade passiert wird es längst zu spät sein.
Mir fehlt grad die Kraft, hier auf die letzten Einwände einzugehen, weil: Corona hat mich erwischt... *krankseinistdoof*
Auch von mir gute Besserung... ich hoffe, es geht schnell vorüber und hat keine Nachwirkungen!
@lucan-7 Dank auch Dir! Ist mir ja gerade etwas peinlich, dass das hier zum Genesungs-Wunsch-Thread wird, dabei wollte ich nur erklären, weswegen ich momentan keine Kraft hab, inhaltlich hier mitzudiskutieren. Insbesondere an Dich und Ihoovpee adressiert.
Ist mir ja gerade etwas peinlich, dass das hier zum Genesungs-Wunsch-Thread wird, dabei wollte ich nur erklären, weswegen ich momentan keine Kraft hab, inhaltlich hier mitzudiskutieren.
Ach was... hier ist ja eh weniger los als früher, und es gibt schlimmere Postings als solche, jemandem alles Gute zu wünschen... 😉
Hallo, interessante Gedankengänge, vielen Dank. Bisher war genau diese Überlegung wie KI uns gefährlich werden könnte noch völlig nebulös.
Bin ganz überrascht von den Jesus.de-Forum, hab mich eben hier angemeldet weil ich durch Corona/Trump/Verschwörungsschwurbelein zum Zweifler geworden bin und mal ganz nett ein paar kritische rüttelnde Fragen an Spiegelbilder meines früheren Ichs stellen wollte. Demgegenüber finde ich wohl tatsächlich Leute die schon ein paar Schritte weiter sind hinsichtlich ihrer Auffassungsgabe der Welt vom "anderen Standpunkt aus" 😀
War 20 Jahre meines Lebens, bin Anfang 30, ein völlig hirnloser Fundamentalist, zwar durch das familiäre Umfeld reingeschlittert aber aus eigenen Antrieb kannte ich massig Bibelverse auswendig, meinte die Taufe des heiligen Geistes empfangen zu haben und war eifernd in allen christlichen Facetten. Aber als Corona kam und die wildesten Geschichten im christlichen Umfeld verbreitet wurden kam ich innerlich nicht mehr klar. Die Geschichte um Marcus Lamb (bekannter Prediger ist an Corona gestorben, hatte allerdings vorher behauptet diesbezüglich so einiges hirnloses von Gott gehört zu haben) hat das Fass zum überlaufen gebracht und ich war plötzlich offen für Zweifel.
Nun bin ich aber vor allem an der Erklärung hinsichtlich der ganzen "Geisteserlebnisse" aus psychologischer Sicht. So richtig Literatur finde ich dazu nicht, aber richtig verbissen habe ich auch noch nicht gesucht.
Zurück zur KI, man könnte diese mit solchen psychologischen Effekten füttern und Menschen ködern, hatte bei mir ja auch super funktioniert, bin auch in eine Art Sekte reingerutscht, war allerdings noch selbstständig genug geblieben um da auch schnell wieder weg zu kommen. Aber mir wurde bewusst das vor allem die Elternrollen von den Sektenführern eingenommen worden sind und das natürlich viel ausfüllender als die richtigen unperfekten biologischen Eltern. Eine KI könnte hilfreich sein, diese Effekte auszuloten... Aber gut, passt vermutlich nicht hierher 😀
Hallo und willkommen im Forum!
Zurück zur KI, man könnte diese mit solchen psychologischen Effekten füttern und Menschen ködern, hatte bei mir ja auch super funktioniert, bin auch in eine Art Sekte reingerutscht, war allerdings noch selbstständig genug geblieben um da auch schnell wieder weg zu kommen. Aber mir wurde bewusst das vor allem die Elternrollen von den Sektenführern eingenommen worden sind und das natürlich viel ausfüllender als die richtigen unperfekten biologischen Eltern. Eine KI könnte hilfreich sein, diese Effekte auszuloten... Aber gut, passt vermutlich nicht hierher
Nun, doch... ich fürchte, das passt noch zum Thema. KI kann selbstverständlich lernen, Menschen zu manipulieren, so wie es auch Sekten tun. Voraussetzung ist immer, dass es eine Möglichkeit gibt, Wirkung und Erfolg zu messen. So wie der "Erfolg" irgendwelcher Verschwörungsbehaupungen ja auch daran gemessen wird, wie sehr sich die Behauptung in sozialen Netzwerken verbreitet und wie die Kommentare ausfallen.
Da hat KI einen Hebel, um hier anzusetzen. Und ich fürchte, dass bereits die nächste US Wahl massiv manipuliert werden wird. Die übernächste wird dann, wie befürchtet, gar nicht mehr demokratisch sein, sondern von einer KI bestimmt werden...
Aber da sind wir ja einen gedanklichen Schritt wo anders, und zwar dass KI von Macht- oder Geldhungrigen missbraucht wird.
Ob die KI von selbst drauf kommt Menschen versucht zu manipulieren ist dann zweitrangig.
Und diesbezüglich glaube ich ja, wir sind schon mittendrin, Stichwort Deepfake.
Damit so ein Untergangszenario eintrifft, müsste ein entsprechendes Konstrukt, eine Form der Selbstwahrnehmung und Identität entwickeln. Und davon sind wir noch weit weg. Irgendwelche Formen und Strukturen in Datensätzen zu erkennen und sinnvoll neu zu kombinieren, ist zwar ein gewaltiger Schritt, aber es ist noch lange kein Rezept, welches zu einer "Kreatur" führt.
Damit eine KI eine wirkliche Kreatur wird, die eine Selbstwahrnehmung und Identität hat, muss sie eine stoffliche Wahrnehmung "Körper mit Sinnen" haben. Nur so kann so eine KI dem von Menschen vorgesetzten Ökosystem Internett entrinnen und selbst Erfahrungen machen.
@arcangel Und davon sind wir noch weit weg.
Bist Du den Links gefolgt, die ich oben gesetzt hatte? Hast Du Dir die Präsentation von Harris und Raskin angeschaut? Ich frage, da ich Deinen Ausführungen das Gegenteil entnehmen zu können glaube. Das ist okay, hier im Thread soll jeder seine Meinung vertreten, aber ich möchte nicht dieselbe Diskussion wie mit Ihoovpee oder Lucan auch mit Dir führen und überhaupt, wie ich gerade merke, niemanden "überzeugen". Deine Argumentation in Sachen "Kreatur" oder "Körper mit Sinnen" geht jedenfalls an dem eigentlichen Thema vorbei insofern, als sie impliziert, die KI müsse in irgendeiner Form menschenähnlich sein oder auch nur irgendeiner biologischen Lebensform auf diesem Planeten ähnlich, bevor sie für uns gefährlich werden könne. Das eigentliche Thema lautet: die KIs sind anders, was in ihnen vorgeht, ist inzwischen in großem Umfang unverständlich und wir wissen nur eins relativ von ihnen: sie sind intelligenter als wir und werden in rasendem Tempo immer intelligenter. Und indem wir zulassen, dass sie praktisch sich auf jedes Endverbrauchergerät ausbreiten (indem z.B. MS eine solche KI standardmäßig in seine Office-Programme installiert), sorgen wir dafür, dass sie überallhin Zugang bekommen.
Es geht nicht darum das sie Menschenähnlich sein müssen oder in irgendeiner anderen Form einem Tier zu entsprechen haben. Ich spreche davon, dass entwicklungsbiologisch, die Entstehung eines Bewusstseins und Selbstwahrnehmung eine Sinneserfahrung und eine Interaktion mit der Umwelt entscheidend ist. Reine Informationsverarbeitung erzeugt noch kein Bewusstsein, und eine KI muss sich ihrer Selbst bewusst sein, bevor sie Entscheidungen treffen kann.
Und ja du hast richtig vermutet ich habe die Präsentation noch nicht angeschaut.
@arcangel Und ja du hast richtig vermutet ich habe die Präsentation noch nicht angeschaut.
Okay. 🙂 Sei mir also bitte nicht gram, wenn ich da jetzt erstmal aus der Diskussion mich raushalte. Ich brauche die Zeit (und ja, das ist recht viel Zeit... 😀 ) um mich durch unterschiedliche Interviews und Artikel zum Thema durchzuarbeiten. Sowohl hier als auch hier bin ich noch nicht ganz durch.
Ach so, nur eins noch. Zum von Dir verwendeten Stichwort entwicklungsbiologisch möchte ich auf diesen kurzen Artikel verweisen - inzwischen schon 3 Jahre alt und entsprechend noch nicht von irgendwelcher Besorgnis angekränkelt - der belegt, dass evolutionsbiologische Mechanismen schon länger in der KI-Entwicklung eingesetzt werden.
Ich hab gestern so schnell aus der Hüfte geantwortet.
Für mich, geht die Diskussion in eine falsche Richtung. Die Frage, die gestellt werden muss, ist, was bewegt irgendeine Kreatur, ob biologisch oder künstlich dazu zu handeln.
Evolutionsbiologisch ist ja Intelligenz eine Funktion, die sich in mehreren Gattungen parallel entwickelt hat, es gibt sogar Einzeller, die ohne neuronales Netzwerk intelligentes Verhalten wie Lernen und Kommunikation an den Tag legen. Dabei ist Intelligenz, wie jede andere Adaption, nur ein Werkzeug, um die zwei grundlegenden Bedürfnisse, die jedes eukaryotisches Lebewesen hat, Selbsterhaltung und Vermehrung zu befriedigen.
Jedes Handeln einer Kreatur ist auf die Befriedigung dieser beider Grundbedürfnisse hin ausgerichtet (natürlich gibt es noch weniger wichtigere Nebenbedürfnisse, die, wenn möglich, ebenfalls befriedigt werden).
Eine KI wird erst dann gefährlich, wenn sie Bedürfnisse hat, unabhängig ihrer Intelligenz. Das heisst, eine Intelligenz muss einen Selbsterhaltungstrieb entwickeln. Eine KI aber, die in jedem Gerät global vernetzt überall präsent ist, ist somit de facto unverwundbar. Der Mensch ist für so eine KI keine Bedrohung, das heist selbst, mit einem Selbsterhaltungstrieb, wäre höchstens andere KI's die um den gleichen Lebensraum und die gleiche Ressource (Rechenleistung) konkurrieren eine Bedrohung.
Raubtiere regieren nur dann auf andere Raubtiere, wenn diese um die gleichen Ressourcen konkurrenzieren.
Eine KI egal wie intelligent sie ist, wird aber keinerlei Handlungen unternehmen, wenn diese keine Bedürfnisse zu befrieden hat.
Von dieser Art von Intelligenz sind wir heute noch genauso weit entfernt wie vor 50 Jahren. Die Frage ist kann der Evolutionäre Prozess, der von der Bedürfnisbefriedigung her kommt und Intelligenz hervorgebracht hat, umgedreht werden und Intelligenz bringt Bedürfnisse hervor.
Erst, wenn KI Bedürfnisse und daraus resultierend Motivation und Eigeninitiative hervorbringt, wird sie uns potenziell gefährlich, wenn diese KI uns als Konkurrenz oder Gefahr wahrnimmt.
Aber ich bin davon überzeugt, dass ein reiner Algorithmus, egal wie intelligent dieser wird, diese Form der Bedürfnisse nicht hervorbringen kann.
Hier übrigens ein cooler Kanal, wenn es um KI und Simulationen geht https://www.youtube.com/@TheBibitesDigitalLife
@jack-black hallo, ich have vor ca 25-30 Jahren einen sehr guten Sience Fiction Roman gelesen, ich glaube er hieß Lingo. Hier bekam ein Computer zufällig die Möglichkeit, lernfähig zu werden. Er hatte als oberstes Ziel für sich selbst formuliert, der Menschheit zu dienen. Und so nahm er einen Bereich nach dem anderen in die Hand um zu "optimieren". Die Menschen hatten jedoch eine andere Bewertung. Sie fanden seine Aktionen erstmal zu bevormundend. Er fand, die Menschen haben nur einen zu kleinen IQ, um die Hilfen zu begreifen.
LG Dietmar
@dlorig Hallo Dietmar!
Dieses Motiv der Thematik gibt's ja schon lange, HAL aus Kubricks "2001 Odyssee im Weltraum" ist wohl die bekannteste fiktionale Umsetzung davon.
Er hatte als oberstes Ziel für sich selbst formuliert, der Menschheit zu dienen.
Das ist eine Variation der Robotergesetze von Asimov.
Nur liegt genau hier das momentane Problem: So ein "oberstes Ziel" läßt sich leider nicht in die diskutierten KIs implementieren, man nennt dies - oben erwähnte ich es ausführlicher - das Alignmentproblem.
In dem von Dir skizzierten Szenario ist es ja supi: der Computer selbst formuliert für sich dieses oberste Ziel. Aber hinsichtlich der Realität sollten wir uns fragen: WARUM sollte sich ein Computer* so ein Ziel setzen?
Das Motiv des von Dir erwähnten Science Fiction ist veraltet. Es ist eine Variante des Golem-Motivs, oder des Dschinn-Motivs (Geist aus der Flasche) oder des Frankensteins-Monster-Motivs. Oder des Wargames-Motivs. Oder des Zauberlehrlings-Motivs. Wir versuchen intuitiv, solche uns bekannten Erzählmotive auf die derzeitige Situation "anzuwenden", um Orientierung zu finden. Aber es sind unpassende Erzählmotive.
Wenn wir ein erzählerisches Motiv auf die heutige Situation anwenden wollten, so würde ich das Alien-Motiv vorschlagen. Nur haben wir es hier mit einem physikalisch nicht lokalisierbaren Alien zu tun, dessen Überlegenheit nicht körperlicher, sondern geistiger Natur ist und das wir nicht verstehen und nicht verstehen können.
Leider wurde durch Alien Covenant inform vom Androiden David eine Art Superintelligenz als Mastermind eingeführt, womit also auch in Alien eine Variante des "Übermenschen" als die eigentliche Gefahr herhalten muß.
Je mehr ich drüber nachdenke, desto klarer wird mir, dass wir für das, was mit der KI auf uns zukommt, praktisch über keine erzählmotivischen Modelle verfügen.
*Dass hier ein Computer agiert, statt ein Programm, zeigt, wie sehr veraltet der von Dir erinnerte Science Fiction inzwischen ist.
Aber hinsichtlich der Realität sollten wir uns fragen: WARUM sollte sich ein Computer* so ein Ziel setzen?
Das ist genau die entscheidende Frage! Ich das oben etwas genauer ausgeführt. Eine Handlung entsteht aus einer Motivation heraus, die auf einer Bedürfnisbefriedigung fusst.
Kann eine KI Bedürfnisse entwickelt?
Das ist genau die entscheidende Frage! Ich das oben etwas genauer ausgeführt. Eine Handlung entsteht aus einer Motivation heraus, die auf einer Bedürfnisbefriedigung fusst.
Kann eine KI Bedürfnisse entwickelt?
Diese Frage ist nur für ein Szenario relevant in dem die KI ein "Bewusstsein" entwickelt und ihre eigenen Ziele verfolgt.
Wahrscheinlicher ist jedoch, dass ein Algorithmus aus dem Ruder läuft und die KI auf unvorhergesehene Weise reagiert. Wenn also die KI etwa mit dem Marketing für ein Produkt beauftragt wird und dessen Verkauf steigern soll - und daraufhin erst einmal die Konkurrenz ausschaltet und deren Fabriken lahmlegt, um im Anschluss eine Diktatur zu errichten, in der das ganze Bruttoszialprodukt in dieses Produkt investiert wird.
Und ein solches Vorgehen muss ja gar nicht so offensichtlich sein, sondern kann auch sehr subtil erfolgen. Weil die KI weiss, dass es erfolgversprechender ist, wenn ihr Eingreifen gar nicht bemerkt wird.
Ob dahinter dann ein echter Wunsch oder ein Gefühl steckt oder die KI einfach nur stur ihre Rechenoperationen durchführt ist dann unerheblich.
Ob dahinter dann ein echter Wunsch oder ein Gefühl steckt oder die KI einfach nur stur ihre Rechenoperationen durchführt ist dann unerheblich.
Ich finde es halt bedenklich, dass spätestens seit Aufkommen des Internets/Smartphones, die Leute in Massen immer demselben hinterherrennen. Als Facebook aufkam, wollten alle dahin, danach Twitter, WhatsUp, Instagram, TikTok usw. Die meisten folgten immer der Herde und hinterfragten ihr Verhalten nie.
Genau dieser Herdentrieb könnte es der KI möglicherweise sehr einfach machen, relativ rasch an Einfluss zu gewinnen.
Genau dieser Herdentrieb könnte es der KI möglicherweise sehr einfach machen, relativ rasch an Einfluss zu gewinnen.
Teilweise. KI dürfte aber viel weniger offensichtlich arbeiten, und das macht es so gefährlich. Es gibt im Marketing den Begriff des "Nudging":
https://www.die-debatte.org/nudging-was-steckt-hinter-begriff-nudging/
Das ist weitaus weniger harmlos als es meist dargestellt wird. Denn es geht um nicht weniger, als eine unbewusste Manipulation. Ein "hinstupsen" zu einer Handlung, über die wir nicht weiter nachdenken. Zwar können wir uns theoretisch widersetzen... da das ganze aber unbewusst abläuft und die KI die Klaviatur unserer Gefühle beherrscht können wir auf diese Weise manipuliert werden, ohne es zu merken. Genau das könnte man einer KI als Auftrag geben. Und damit lassen sich nicht nur Produkte verkaufen - sondern am Ende auch Bürgerkriege anzetteln, wenn nur die Daten vorhanden sind und die KI aus den Datenmustern lernen kann.
Und dafür wurde sie ja konstruiert...
@arcangel Kann eine KI Bedürfnisse entwickelt?
Ich denke schon, wiewohl mir der Begriff "Bedürfnisse" schon wieder zu biologisch schmeckt 😉 .
Eine Handlung entsteht aus einer Motivation heraus, die auf einer Bedürfnisbefriedigung fusst.
Das ist mir zu umständlich ausgedrückt. Mann kann's auf: "Keine Handlung ohne Handlungs-Impuls." zusammendampfen.
KIs würden ohne Ziele ja gar nicht laufen, so, wie auch biologische Intelligenz ein Ziel braucht, um in Anwendung zu kommen.
Da KIs agieren, haben sie logischermaßen Ziele. Welche Ziele das sind, steht eben infrage: Sind es (noch) ausschließlich diejenigen, die ihnen von den Programmierern vorgegeben werden?
In der Philosophie des Geistes gibt es manche, die das Bewußtsein für ein rein emergentes Phänomen halten, eine Eigenschaft, die bei hinreichender Komplexität eines Gehirns sozusagen "aufploppt", wie die Flüssigkeit von Wassermolekülen. Dass dieses Phänomen nur in biologischen Gehirnen auftreten solle, erscheint mir nicht plausibel.
In der Philosophie des Geistes gibt es manche, die das Bewußtsein für ein rein emergentes Phänomen halten, eine Eigenschaft, die bei hinreichender Komplexität eines Gehirns sozusagen "aufploppt", wie die Flüssigkeit von Wassermolekülen.
Das Internet in seiner Gesamtheit ist längst komplexer als jedes Gehirn. Habe ich da was verpasst?
Dass dieses Phänomen nur in biologischen Gehirnen auftreten solle, erscheint mir nicht plausibel.
Wieviele nicht-biologische Gehirne sind dir denn so bekannt...?
@lucan-7 Das Internet in seiner Gesamtheit ist längst komplexer als jedes Gehirn. Habe ich da was verpasst?
Vielleicht? 😀
Die Saturnringe dürften auch komplexer sein als jedes Gehirn - womöglich kommt es auf die Art von Komplexität an. ^^
Wieviele nicht-biologische Gehirne sind dir denn so bekannt...?
Ich werde nicht jedem Computer, der mir so über den Weg läuft, vorgestellt, ihre Namen entfallen mir ständig und so hab ich's nach einer Weile aufgegeben, sie zu zählen. Daher kann ich nur pi mal Daumen abschätzend antworten: Viele.
Die Saturnringe dürften auch komplexer sein als jedes Gehirn - womöglich kommt es auf die Art von Komplexität an.
"Komplexität" ist nur bedingt gleichzusetzen mit "Größe"...
Ich werde nicht jedem Computer, der mir so über den Weg läuft, vorgestellt, ihre Namen entfallen mir ständig und so hab ich's nach einer Weile aufgegeben, sie zu zählen. Daher kann ich nur pi mal Daumen abschätzend antworten: Viele.
Es gab zwar mal den gängigen Ausdruck "Elektronengehirn"... der war aber ausgerechnet dann schnell wieder aus der Mode, als die Computer wirklich komplex wurden.
Und zwar völlig zu Recht... Computer arbeiten nach völlig anderen Prinzipien.
@lucan-7 "Komplexität" ist nur bedingt gleichzusetzen mit "Größe"...
Du hast meinen Punkt also verstanden 😀
Computer arbeiten nach völlig anderen Prinzipien.
Sie sind Informationen verarbeitende Systeme. Welche "völlig anderen Prinzipien" meinst Du? Nach welchen Prinzipien arbeiten Rechnercluster, auf welchen KIs trainiert werden? Und welche dieser Prinzipien werden verhindern, dass in ihnen eine digitale Entsprechung zum Bewußtsein biologischer Datenverarbeitungssysteme entsteht?
Sie sind Informationen verarbeitende Systeme. Welche "völlig anderen Prinzipien" meinst Du? Nach welchen Prinzipien arbeiten Rechnercluster, auf welchen KIs trainiert werden? Und welche dieser Prinzipien werden verhindern, dass in ihnen eine digitale Entsprechung zum Bewußtsein biologischer Datenverarbeitungssysteme entsteht?
Hast du schon mal einen hungrigen Rechner gesehen?
Einen traurigen?
Einen Rechner, der vor lauter Liebeskummer seine Berechnungen immer wieder von vorn beginnen musste?
Einen machthungrigen Computer?
Einen Computer, der vor lauter Schmerzen nicht mehr rechnen konnte?
Einen vor Vorfreude ganz hibbeligen Rechner?
Einen schüchternen Rechner? Oder einen nervösen? Einen Rechner, der Angst vor dem Tod hat?
Ich kenne nur Rechner, die Informationen verarbeiten - und sonst nichts.
(...) schon mal einen hungrigen Rechner gesehen? (...)
Welche dieser unterschiedlichen Gefühlszustände siehst Du als notwendige Voraussetzung für die Bildung von Bewußtsein?
Was genau für menschliches Bewußtsein notwendiges Kriterium sei, wissen wir ja noch nicht, wiewohl ich den von Tegmark erwähnten Aspekt, dass Bewußtsein erst dort auftrete, wo Loops in einer Informationsverarbeitung aufträten, überzeugend finde (Achtung: es könnten andere Voraussetzungen hinzukommen).
Aber ich will gar nicht behaupten, dass eine AGI (artificial general Intelligence - das Langzeitziel der Leute, die bei Open AI arbeiten) notwendigermaßen Bewußtsein entwickeln werde. Sehr gut möglich erscheint die Zukunftsvariante, dass die KIs niemals Bewußtsein entwickeln werden und also nicht einmal die menschliche Spezies durch höher entwickelte Wesen nur abgelöst wird, sondern bewußtseinslose AI-Zombies das sind, was nach uns die Welt übernimmt.
Ich steige hier jetzt aus, weil alles, was ich zu sagen hätte, nur eine weniger fachlich versierte Version desssen wäre, was man von Max Tegmark in diesem Interview (über 4 Stunden lang!) bei Lex Fridmann zu hören bekommt. Zugegeben: ich bin zu faul, hier jetzt so ein wenig des Argumentierens wegen im Kreis herzum zu argumentieren. Wenn hier jemand mitdiskutieren würde, der politisch wirklich einflußreich ist, wäre es mir den Aufwand vielleicht wert... 😉
Welche dieser unterschiedlichen Gefühlszustände siehst Du als notwendige Voraussetzung für die Bildung von Bewußtsein?
Ich halte es für eine Voraussetzung, überhaupt Gefühle empfinden zu können, um sich seiner selbst "bewusst" werden zu können. Denn es sind ja Empfindungen, die uns selbst definieren. "Intelligenz" dient lediglich dazu, diese Empfindungen in eine gewünschte Richtung zu lenken. Eine "wunschfreie" KI wird niemals eine Veranlassung dazu sehen, sondern stur ihre Algorithmen weiterrechnen.
Aber ich will gar nicht behaupten, dass eine AGI (artificial general Intelligence - das Langzeitziel der Leute, die bei Open AI arbeiten) notwendigermaßen Bewußtsein entwickeln werde. Sehr gut möglich erscheint die Zukunftsvariante, dass die KIs niemals Bewußtsein entwickeln werden und also nicht einmal die menschliche Spezies durch höher entwickelte Wesen nur abgelöst wird, sondern bewußtseinslose AI-Zombies das sind, was nach uns die Welt übernimmt.
Ich denke, dass darin dein Fehler in dieser Argumentation liegt (Und nicht nur deiner): Das zeichnen eines bestimmten Szenarios, in dem die KI "die Welt übernimmt".
Das ist ein sehr spezifischer Sonderfall, der sich meiner Ansicht nach kaum begründen lässt - und auch nicht die eigentliche Gefahr darstellt. Denn die eigentliche Gefahr liegt bereits in der Unberechenbarkeit der KI.
Wir wissen zum einen, dass es eine Menge Missbrauchspotential gibt, wenn die KI wie gewünscht arbeitet - wobei "Missbrauch" konkret bedeutet, dass hier gegen demokratische Prinzipien gearbeitet wird.
Und wir können die Risiken kaum abschätzen, was erst passiert, wenn die KI nicht mehr wie gewünscht arbeitet.
Das alleine reicht schon, um die KI zu einer ernsthaften Bedrohung zu machen, und du hast völlig recht darauf hinzuweisen.
Leider hast du dich hier aber auf ein sehr spezifisches Szenario eingeschossen: Das einer irgendwie "erwachenden" KI, die ihre Situation erkennt, den Menschen haushoch überlegen ist, aber dennoch selbst über zutiefst "menschliche" Eigenschaften und Gefühle verfügt: Überlebenswille, Machtgier, Konkurrenzdenken, Erhaltung der Art. Und deshalb mit dem Ziel, die Menschheit zu vernichten.
Das lässt etliche andere Möglichkeiten, die weitaus weniger spektakulär sind, aber nichtsdestotrotz ebenfalls sehr gefährlich, einfach unter den Tisch fallen. Statt die realen Gefahren zu betrachten ging es hier im Thread praktisch ausschließlich darum, dir aufzuzeigen, warum dieses eine Szenario voraussichtlich nicht eintreffen wird.
Dabei wurde in den von dir verlinkten Interviews doch einiges mehr aufgezeigt, wo hier mögliche Gefahrenquellen liegen.
"Keine Handlung ohne Handlungs-Impuls."
Aktuell werden Handlungs-Impulse von aussen ausgelöst, "eine Frage an ChatGPT". Was muss gegeben sein, damit eine KI ihre eigenen Handlungsimpulse auslöst. Warum sollte ein Algorithmus überhaupt einen eigenen Handlungsimpuls auslösen.
In der Philosophie des Geistes gibt es manche, die das Bewußtsein für ein rein emergentes Phänomen halten, eine Eigenschaft, die bei hinreichender Komplexität eines Gehirns sozusagen "aufploppt", wie die Flüssigkeit von Wassermolekülen. Dass dieses Phänomen nur in biologischen Gehirnen auftreten solle, erscheint mir nicht plausibel.
Ein emergenten Phänomen, dass in der Biologie unzertrennlich mit den beiden Triebfedern des Lebens zusammen hängen, Selbsterhaltungs- und Fortpflanzungstrieb. Denn sämtliche evolutionären Entwicklungen lassen sich auf diese beiden Punkte zurückführen, auch Intelligenz und damit verbunden bei hinreichender Komplexität eben auch Bewusstsein.
Jetzt ist halt die Frage, reicht die Komplexität eines Systems aus, damit irgendwann einfach Bewusstsein aufploppt oder braucht es 'Trieb'federn, damit sich ein Bewusstsein entwickelt.
Diese Frage können wir nicht abschliessend beantworten. Ich tendiere allerdings dazu, dass egal wie komplex ein System ist, es ohne Triebe oder intrinsische Handlungsimpulse kein Bewusstsein geben kann.
Aktuell werden Handlungs-Impulse von aussen ausgelöst, "eine Frage an ChatGPT". Was muss gegeben sein, damit eine KI ihre eigenen Handlungsimpulse auslöst. Warum sollte ein Algorithmus überhaupt einen eigenen Handlungsimpuls auslösen.
Die Selbstoptimierung von KI läuft unabhängig von Eingaben. Eine KI kann beispielsweise Geschichten über social Media verbreiten und anschliessend die Reaktion darauf verfolgen. Und sie kann sich selbst dabei optimieren, mit bestimmten Geschichten bestimmte Reaktionen auszulösen - und das ohne dass irgendwer die KI explizit ansprechen oder weiter beauftragen müsste. Das kann sogar passieren, ohne dass es jemand überhaupt bemerkt - und das ist das gruselige daran.
Aber auch in diesem Szenarium hat irgendwer die KI angestossen, dies zu tun. Eine KI tut dies nicht aus eigenem Antrieb.
Ich meine eine Prompt wie: "Erzeuge einen Sexskandal um König Charles, breite es in den sozialen Medien und lenke die Meinungsbildung hin zur Abschaffung der Monarchie" könnte irgendwann wirklich mal von einer KI ausgeführt werden und dann selbständig an verändernde Trends in sozialen Medien reagieren. Nur darauf wird das PRteam von König Charles mit einer Prompt einer weiteren KI Reagieren, die da lautet "Reagiere auf Image Schädigende für König Charles und reagiere darauf, um die Beliebtheitswerte der Monarchie hochzuhalten."
Was wir dann haben, ist ein Krieg der KI's in den sozialen Medien. Spätestens dann werden nur noch handgedruckte Zeitungen wieder aktuell werden.
Aber auch in diesem Szenarium hat irgendwer die KI angestossen, dies zu tun. Eine KI tut dies nicht aus eigenem Antrieb.
Ich meine eine Prompt wie: "Erzeuge einen Sexskandal um König Charles, breite es in den sozialen Medien und lenke die Meinungsbildung hin zur Abschaffung der Monarchie" könnte irgendwann wirklich mal von einer KI ausgeführt werden und dann selbständig an verändernde Trends in sozialen Medien reagieren.
Die Befürchtung ist ja, dass die KI auf genau solche oder schlimmere Ideen kommt, ohne dass dies explizit verlangt war. Etwa, wenn eine KI beauftragt wird, für die Demokratie zu werben und die Leute zum wählen zu animieren.
Das wäre ja eigentlich eine gute Sache für die Demokratie... es kann aber schnell aus dem Ruder laufen, wenn die KI nicht eingehegt wird. Und genau dieses "einhegen" findet ja nicht statt. Das hat man an den Algorithmen der sozialen Medien gesehen, die immer die übelsten und polemischsten Artikel empfehlen, weil das nun mal sehr viele Leute anspricht.
Und eine Lösung für das Problem der sozialen Medien haben wir nicht... also haben wir auch keine für eine KI, die ausser Kontrolle gerät. Was vermutlich ziemlich bald der Fall sein wird.
Nicht so, dass die KI uns alle umbringen will... aber doch so, dass Nebenwirkungen auftreten, die nicht geplant waren. Und die wir mögöicherweise noch nicht einmal gleich bemerken...
Also meine Lösung der sozialen Medien funktioniert wunderbar. Reduzieren und Ignorieren.
Und der Trend dahingehend hat bereits angefangen und wird sich mit solchen Entwicklungen nur noch verstärken.
Also meine Lösung der sozialen Medien funktioniert wunderbar. Reduzieren und Ignorieren.
Und der Trend dahingehend hat bereits angefangen und wird sich mit solchen Entwicklungen nur noch verstärken.
Leider geht es ja nicht nur um soziale Medien allgemein (Zu denen auch dieses Forum gehört), sondern um Medien generell... bis hin zu gedruckten Zeitungen. Auch die können manipuliert werden.
Und wenn es dann nicht mehr zu unterscheiden ist, was nun echt ist und was Verschwörungserzählung... dann gute Nacht...
Und wenn es dann nicht mehr zu unterscheiden ist, was nun echt ist und was Verschwörungserzählung... dann gute Nacht...
Deshalb ist es ja wichtig eine Argumentation anhand von Quellen auf die Stichhaltigkeit und seiner Konsistenz hin zu überprüfen und das können wir ja nach wie vor, so lange wir Zugriff auf Orignal-Dokumente haben. Es wird zwar wohl immer schwieriger und komplexer werden aber nicht unmöglich.
Ich bin gerade daran, mich mit der Thematik der kulturellen Aneignung etwas näher zu beschäftigen. Da habe ich mich bspw. auch schon gefragt, ob es sich dabei nun schon um eine durch KI verstärkte Verbreitung einer absurden Ansicht handle, so quasi als eine Art Testlauf, ob die Bevölkerung schon offen genug für sowas sei oder ob es tatsächlich um eine relevante, berechtigte Sichtweise geht, die für mich einfach sehr neu und fremd ist.
Da kommt es für mich nun darauf an, wie schlüssig und nachvollziehbar für mich die Argumentation aufgebaut ist. Einfach so - ohne die Hintergründe zu kennen - werde ich einem Vermeiden von kultureller Aneignung sicher nicht zustimmen... und selbst bei einer schlüssigen Argumentation steht für mich auch noch nicht fest, ob ich dem auch mit meiner eigenen Sichtweise zustimme.
Das beste Beispiel für die Farce, die dieses Thema darstellt, ist AAVE (African-American Vernacular English)
Dort reklamiert die schwarze Bevölkerung in Amerika, dass diese Form des Englischen den Afroamerikanern gehört und entsprechende Wörter und Wendungen nicht verwenden dürfen, weil eben kulturelle Aneignung.
Wenn man dann aber die Etymologie, der Begriffe untersucht, stellt man fest, dass AAVE seinen Wurzeln in Südengland hat, wo die Wörter und Begriffe auch heute noch im Umlauf sind. Dieser südenglische Dialekt ist mit Einwandern nach Amerika gekommen, die sich hauptsächlich im Süden der USA niedergelassen haben und dort dann von den Sklaven aufgegriffen wurden.
Nur ein kleines Schmakerl darüber wie hirnrissig dieses Konzept ist. Abgesehen von einigen wenigen Fällen wie Benetton die Indigene Designs Vermarktete ist diese ganze Diskussion einfach nur ein sinnbefreit.
Dort reklamiert die schwarze Bevölkerung in Amerika, dass diese Form des Englischen den Afroamerikanern gehört und entsprechende Wörter und Wendungen nicht verwenden dürfen, weil eben kulturelle Aneignung.
"Die" schwarze Bevölkerung?
Oder lediglich einige Aktivisten, die lediglich von sich behaupten. sie würden für die Gesamtheit der schwarzen Bevölkerung sprechen?
Das sollte man nicht vorschnell verallgemeinern, denke ich..
Das ist doch ein kulturelles Phänomen, dass einige wenige laute die Diskussion dominieren und der Meinung sind für ihre Gruppe zu sprechen. Oder man einfach alles in einen Topf spricht von den Männern, den Linken, den Christen.
Das ist doch ein kulturelles Phänomen, dass einige wenige laute die Diskussion dominieren und der Meinung sind für ihre Gruppe zu sprechen. Oder man einfach alles in einen Topf spricht von den Männern, den Linken, den Christen.
Na ja, auf der einen Seite gibt es das Phänomen, dass manche sich einbilden, für eine ganze Gruppe zu sprechen (Ich wüsste, was daran "kulturell" sein soll, das dürfte es wohl überall geben) - und auf der anderen Seite sind jene, die das nicht weiter hinterfragen und es einfach so akzeptieren.
Für Letzteres sehe ich allerdings keinen Grund. Dafür sind die Gruppierungen dann doch zu heterogen.
Abgesehen von einigen wenigen Fällen wie Benetton die Indigene Designs Vermarktete ist diese ganze Diskussion einfach nur sinnbefreit.
Da gebe ich dir absolut recht. Wird kulturelle Aneignung abwertend dargestellt, wenn sich etwa ein Comedian über eine bestimmte Ethnie lustig macht und sich entsprechend verkleidet, so ist es mE rassistisch. Die rassistisch konnotierte Darstellung ist das Problem, aber nicht die kulturelle Aneignung an sich.
Ich würde dem Thema eigentlich auch keine weitere Aufmerksamkeit mehr schenken, ich befasste mich bereits vor einem Jahr ein wenig damit. Aber derzeit werde ich immer wieder ungewollt damit konfrontiert. Einerseits wurde das Thema im Vorfeld der Fasnacht des öfteren thematisiert. Während der Basler Fasnacht war es eines der Hauptthemen.
Diese Woche sah ich mir auf der Mediathek von srf den Film "der Schuss von der Kanzel" (1942) an, wo im Vorspann während einer halben Minute ein Warnhinweis zu lesen war, dass es in dem Film eine Darstellung von einem weissen Schauspieler als Schwarzer gäbe und dies bei einem Teil des Publikums Anstoss erregen könnte.
Oder gestern eine News auf Youtube vom "Welt Nachrichtensender", dass beim Auftritt einer Seniorengruppe (es sollte wohl eine Art Darstellung einer Weltreise sein) anlässlich der Bundesgartenschau in Mannheim 6/14 Kostüme verboten worden seien, weil sie als diskriminierend engestuft wurden. (Die Kommentare unter dem Video sind deaktiviert, vermutlich wegen dem erwarteten Ansturm von Zustimmung und Lob für das Vorgehen und um zu vermeiden, dass die paar wenigen Kritiker zu arg auf's Dach bekommen würden.) 😉
Deshalb ist es ja wichtig eine Argumentation anhand von Quellen auf die Stichhaltigkeit und seiner Konsistenz hin zu überprüfen und das können wir ja nach wie vor, so lange wir Zugriff auf Orignal-Dokumente haben. Es wird zwar wohl immer schwieriger und komplexer werden aber nicht unmöglich.
Das ist ja das Problem mit der KI... die kann auch entsprechendes Material erzeugen. Glaubwürdig klingende Dokumente bis hin zu Film- und Tonaufnahmen.
Natürlich kann man am Ende alles irgendwie überprüfen. Aber in der Realität tut man das nur bis zu einem bestimmten Aufwand. Und die KI sorgt dann für Belege, die von 80% der Menschen für glaubwürdig befunden werden. Das dürfte dann völlig ausreichend sein.
Die Gefahr besteht auch umgekehrt: Echte Dokumente werden nicht mehr für glaubwürdig gehalten. Diese Gefahr ist genau so groß - und noch einfacher zu bewerkstelligen.
"Erzeuge einen Sexskandal um König Charles, breite es in den sozialen Medien und lenke die Meinungsbildung hin zur Abschaffung der Monarchie"
Bei solchen News finde ich einfach bedenklich, wie unkritisch die Masse an Leuten geworden ist (vielleicht ist das auch kein neues Phänomen) und dazu tendiert, sowas sofort zu glauben. Es wird nicht abgewartet, ob ein solcher Skandal tatsächlich belegt werden kann und bis dahin gilt die Unschuldsvermutung.
Die Leute tendieren dazu, sofort vorzuverurteilen - insbesondere noch dann, wenn ihnen der Tatverdächtige sowieso schon unsympathisch erscheint und ihnen der Vorwurf ins Konzept passt. ("Ja, ich hab's ja schon immer gesagt, mit dem stimmt was nicht... und Monarchie gehört sowieso abgeschafft.")
@arcangel Aktuell werden Handlungs-Impulse von aussen ausgelöst.
Dasselbe könntest Du auch hinsichtlich der menschlichen Intelligenz sagen. Die wird auch erst angestoßen, wenn ihr "von aussen" ein Problem vorgelegt wird, dass sie bittesehr zu lösen habe.
Das heist dein Hunger wird von aussen ausgelöst? Intelligenz ist wie du so schön gesagt hast ein emergentes Phänomen, dass sich im Zusammenspiel mit biologischen Prozessen gebildet hat, es kann in einem biologischen System nicht getrennt von diesem betrachtet werden. Menschliche Intelligenz hat sehr viele Regelsysteme, welches Sympathikus, Parasympatikus, das zentrale, periphere und autonome Nervensystem, sowie dem somatischen, vegetativen und enterischen Nervensystem, von den Endokrinen fangen wir gar nicht erst an.
All diese Regelsysteme haben Einfluss auf unsere Wahrnehmung, Risikobereitschaft, Entscheidungsfindung uäm. Dabei ist nur gerade das somatische Nervensystem dasjenige, welches für unser Bewusstsein verantwortlich ist.
Intelligenz und Bewusstsein ist aus Zusammenspiel dieser Systeme hervorgegangen. Hunger ist ein z.B. ein intrinsischer Impulsgeber, welcher die Intelligenz zum Handeln animiert.
Mein Einwand ist, damit KI ein Bewusstsein hervorbringen kann, muss es in irgendeiner Form Regelsysteme implementieren, welche intrinsische Impulse auslösen kann.
Ansonsten haben wir keine KI, die zwar in Teilaufgaben den Menschen haushoch überlegen ist. Wie dies zum Beispiel Tauben sind, die in gewissen kognitiven Test den Menschen weit überlegen sind und es gibt noch weitere Beispiele im Tierreich, die zeigen, dass gewisse Tiere in gewissen Gebieten eine dem Menschen überlegene kognitive Fähigkeit besitzen.
Und ich gehe davon aus, dass die Entwicklung in die Richtung verlaufen wird, da wird es dann eine Architekten-KI, eine Marketing-KI, eine Medizin-KI uvm. geben. Aber ich glaube nicht, dass es ohne eine Version der obengenannten Regelsysteme eine KI geben kann, die Bewusstsein hervorbringt.
Und ich sehe keinen monetären oder militärischen Grund so ein System herzustellen, kann man doch genauso gut mit diesen Teil KI's arbeiten.
@arcangel Das heist dein Hunger wird von aussen ausgelöst?
Ja. Von ausserhalb des Gehirns. In der Leber oder im Magen wird von Rezeptoren auf das Glucoseniveau im Blut reagiert - sie senden Signale an das Gehirn, welche dann sozusagen in das Hungergefühl umgerechnet werden.
Das Gehirn funktioniert nicht als isolierte Einheit. Das kann man bereits daran erkennen, dass die Darmflora entscheidenden Einfluss darauf ist, ob jemand z.B. mutig oder ängstlich reagiert, oder dass hormonelle Änderungen unseren Charakter verändern können. Das Gehirn ist zwar unser zentrales Nervensystem, nicht aber unser isoliertes Nervensystem.
Und da hast du meinen Punkt wohl nicht verstanden, Bewusstsein ist entsteht aus dem Zusammenspiel des gesamten Systems und nicht auf das Hirn alleine beschränkt. Sonst würde sowas kaum möglich sein.
https://scilogs.spektrum.de/hirn-und-weg/neuroplastizitaet-gedankenlesen-und-menschen-ohne-gehirne/
@arcangel Das Gehirn funktioniert nicht als isolierte Einheit.
Hab ich ja auch nicht behauptet.
Und da hast du meinen Punkt wohl nicht verstanden, Bewusstsein ist entsteht aus dem Zusammenspiel des gesamten Systems und nicht auf das Hirn alleine beschränkt. Sonst würde sowas kaum möglich sein.
Ich hab gerade keine Lust, mich an vagen Strohmännern abzuarbeiten. Was genau unter Bewußtsein zu verstehen sei, ist bei Menschen nicht geklärt, bzw. es geistern da unterschiedliche Definitionen durcheinander.
Wie schon an Lucan geantwortet: Ich bin hier erstmal raus.
Nochmal zur Begründung: Die Thematik, um die es mir eigentlich ging und derentwegen ich den Thread nicht im Philosophie - oder Wissenschafts-Unterforum startete, sondern in der Rubrik "Ethik", habe ich offenkundig nicht überzeugend rüberbringen können: die Frage, inwieweit es verantwortungsvoll ist, die aktuellen Entwicklungen in diesem Forschungsbereich unreglementiert hinzunehmen. Aus Eurer Perspektive besteht da offensichtlich kein akuter Handlungsdruck und Ihr schätzt die Risiken nicht so hoch, bzw. als im prinzipiellen Kern unbegründet ein.
Ich will da jetzt nicht weiter diskutieren darüber, wie menschliche Gehirne funktionieren und was Bewußtsein sei und inwiefern das auf digitale Informationsverarbeitung übertragbar sei oder nicht. Allerdings hab ich mit meinen obigen Beiträgen ja ziemlich stark dazu beigetragen, dass die Diskussion in diese Richtung ging. Mein Fehler! Den ich jetzt nicht fortsetzen will. Deswegen bin ich hier jetzt raus.
Wir werden die Entwicklung wohl oder üben reglementiert hinnehmen müssen. Die Diskussion darüber ist genauso so müssig wie von Russland zu fordern, sich aus der Ukraine zurückzuziehen. Wie Elon Musk sagt, an dem Punkt wo die Gefahr offensichtlich ist (das der Punkt an dem Politiker aktiv werden) ist der Punkt, an dem es zu spät ist. Wenn Elon recht behält, dann war es das. Such dir ein Stück Land in der Pampa und werde Selbstversorger, denn in 3 Jahren wird es keine Zivilastion mehr geben.
@arcangel Bitte keine Links ohne kurze Zusammenfassung, wenigstens worum es geht.
Liebe Grüße,
Channuschka-Mod
Ja. Von ausserhalb des Gehirns. In der Leber oder im Magen wird von Rezeptoren auf das Glucoseniveau im Blut reagiert - sie senden Signale an das Gehirn, welche dann sozusagen in das Hungergefühl umgerechnet werden.
Wenn das so wäre, dann wäre "Hunger" letztlich auch nichts anderes als eine Rechenoperation. Genau wie "Schmerz" oder "sexuelle Erregung".
Bloß weiß wirklich niemand, wie genau man so etwas programmieren müsste. Deshalb halte ich es bei der ganzen Diskussion auch für unsinnig, einem Algorithmus so etwas wie Gefühle zu unterstellen, die er befriedigen will.
Und genau deshalb geht auch die ganze Diskussion hier völlig am Kern vorbei.
Die Gefahr, dass KI aus dem Ruder läuft und dass das unangenehme Folgen haben kann ist sehr real. Aber dabei geht es immer noch um Algorithmen auf Abwegen, die für uns nicht zu durchschauen sind - nicht um das "Erwachen" einer neuen Intelligenzform, die nach der "Macht" greift und "Überleben" will.
KI-Drohne greift Vorgesetzten in der Simulation an
Der Artikel beschreibt das Testergebnis und die Fehlprogrammierung: die Drohne will ihre Punktebelohnung haben, auch wenn der Aktionsbefehl abgebrochen wurde.
Da geht der Salat schon los....
@deborah71 Da geht der Salat schon los...
Ja, die Meldung hat mich gestern auch traurig schmunzeln lassen. Allerdings ist das immer noch so ein "Robocop"-Szenario*, bei welchem wir letztlich nachvollziehen können, was** da schief lief: die KI bekommt ein Ziel vorgegeben, dass sie sozusagen "kreativ" lösen soll, und dann besteht ihre favorisierte Lösung darin, Hindernisse vor diesem Ziel aus dem Weg zu räumen.
Die größere Bedrohung durch KIs sehe ich darin, dass sie sich selbst Ziele setzen, die von Menschen nicht nachvollziehbar sind. (Letztlich war ja auch der Angriff auf den "Vorgesetzten" nur auf ein von der KI gefundenes Zwischenziel - warum sie sich dieses setzte, können wir aber gewissermaßen nachempfinden.)
Dieses Beispiel, wo die KI sich gewissermaßen gegen die menschliche Autorität richtete, läßt sich übrigens ganz gut als Beleg-Beispiel gegen das: "Aber China...!"-Argument in's Feld führen, welches oftmals vorgebracht wird, wenn es um die Forderung nach einem Trainingsstop für die KIs geht. Die KI läßt sich eben nicht wie ein braver Hund abrichten, der nach allem schnappt, auf das Herrchen zeigt, aber auch sofort losläßt, wenn ihm das befohlen wird. Entsprechend skeptisch ist die chinesische Führung auch gegenüber KIs. Das, was wir als Alignmentproblem betrachten, betrachtet die KP der VRC gewissermaßen als Gehorsamsproblem: was bringt es, die eigene Bevölkerung total zu überwachen, damit die sich nicht gegen die Autokraten wenden kann, wenn man gleichzeitig eine KI in die freie Wildbahn entläßt, sich sich nicht überwachen läßt und potentiell schlauer als jeder oppositionelle Bürger ist? Daher sind die KI-Gesetze in China auch die schärfsten...
Leider werden aus solchen Versuchsergebnissen wohl kaum entsprechende Lehren gezogen. Eben gerade bekam ich als Photoshop-Abonnent von Adobe eine Pushup-Nachricht, dass nun auch PS (in einer Beta-Version) sich per Textprompts Anweisungen geben ließe, man also eine KI eingebaut habe (die, so argwöhne ich, sehr schnell zur Standardfunktion weiterentwickelt wird). Das heißt: ich als Illustrator bekomme von meinem Software-Bereitsteller ungefragt das geliefert, was mich potentiell arbeitslos macht (KIs wie Midjourney & Co fressen sich durch die Illustrationslandschaft wie Rodungsraupen durch ein Spargelbeet - dahinter wächst nix Organisches mehr: ich hätte nie gedacht, dass ich mal sowas wie solidarisches Bedauern darüber empfinden würde, dass Getty.Images und ähnliche Stockfoto-Anbieter vor dem absehbaren Konkurs stehen könnten).
Militärs, die vorgeführt bekommen, dass sie selbst in's Visier ihrer KI-Waffen geraten könnten, werden vielleicht sich dies eine Lehre sein lassen. Aber die Zivilgesellschaft ist, so befürchte ich, angesichts der unglaublichen Mengen Geldes (lass Dir mal anzeigen, wie sich der Kurs seit Oktober letzten Jahres entwickelt hat...), die sich mit KI scheffeln lassen, zu blöd, die Gefahr rechtzeitig zu erkennen. Nein, wir finden das alles witzig und interessant. Der Postillion z.B. hat nun eine ChatGPT-Version "entwickelt", die ihre Nutzer anmotzt und beschimpft. Wie lustig, nicht wahr, sozusagen eine Parodie auf den ChatGPT-Hype? Allerdings hat man, um diese Parodie zustande zu bringen, erstmal von OpenAI eine kostenpflichtige KI-Entwicklungssoftware kaufen müssen, weil open-source-Alternativen leider nicht die "gewünschte Qualität" hinkriegten. (OpenAI war einst mit dem Versprechen gegründet worden, die KI-Codes öffentlich, also als open source, zur Verfügung zu stellen. Von diesem Idealismus ist nichts weiter geblieben als das "Open" im Namen...)
Um also eine Parodie zu verfassen, mussten die Leute vom Postillion dem Hersteller dessen, was sie da parodieren, Geld in die Tasche stecken und trugen also dazu bei, dass das, was sie zu parodieren vorgeben, sich verstärkt und weiter durchsetzt. Jaja, sehr lustig, bei den Postillion-Fans kommt's entsprechend gut an. Dieses unser kollektives (ziviles) Verhalten erinnert mich an diese Szene aus "Prometheus": Es will bestimmt nur spielen.
*Im Film "Robocop" sollen ja Polizisten durch Roboter ersetzt werden (Super-Soldaten-Topos, zig mal von Hollywood durchgenudelt inzwischen) und bei deren Vorführung geht dann gewaltig was schief (wobei ich nicht mehr in Erinnerung habe, ob die Vorführ-Modelle gehackt wurden oder ob sie tatsächlich "aus dem Ruder liefen").
**Wie genau es schief lief, d.h. an welchen Stellen die Algorithmen "nachjustiert" werden müssten, ist womöglich schon nicht mehr erkennbar, aber darüber läßt sich bei militärischen Mannövern natürlich nur spekulieren.
ceterum censeo, dass das Alignmentproblem gelöst werden muss...
Die KI läßt sich eben nicht wie ein braver Hund abrichten, der nach allem schnappt, auf das Herrchen zeigt, aber auch sofort losläßt, wenn ihm das befohlen wird.
Doch, das geht natürlich. Die Frage ist ja immer: Von welcher "KI" genau sprechen wir hier? Ein vergleichsweise einfaches System kann natürlich auf Gehorsam trainiert werden und einigermaßen verlässlich sein. Komplexere Systeme benötigen entsprechende Subroutinen.
Ja, die Meldung hat mich gestern auch traurig schmunzeln lassen. Allerdings ist das immer noch so ein "Robocop"-Szenario*, bei welchem wir letztlich nachvollziehen können, was** da schief lief: die KI bekommt ein Ziel vorgegeben, dass sie sozusagen "kreativ" lösen soll, und dann besteht ihre favorisierte Lösung darin, Hindernisse vor diesem Ziel aus dem Weg zu räumen.
Die größere Bedrohung durch KIs sehe ich darin, dass sie sich selbst Ziele setzen, die von Menschen nicht nachvollziehbar sind.
Wenn du damit eine gewisse Unberechenbarkeit meinst, dann stimme ich dir zu. Falls du meinst, die KI fängt an, sich wie ein Lebewesen zu verhalten und entwickelt selbstständig Wünsche und Bedürfnisse, dann sicher nicht.
Das "dressierter Hund"-Bild hatte ich auch bei dem Artikel.
Inzwischen sind die Tester flügelschlagend am Abwiegeln....der Autor hat das nur falsch verstanden...das war gar kein Test, nur ein Gespräch über einen möglichen Test und hoffentlich unmöglichen Folgen.
Ob falsch verstanden oder nicht... die Kuh ist auf dem Eis.... Es wird drüber geredet und da kommt was in Bewegung.
Inzwischen sind die Tester flügelschlagend am Abwiegeln....der Autor hat das nur falsch verstanden...das war gar kein Test, nur ein Gespräch über einen möglichen Test und hoffentlich unmöglichen Folgen.
Kannst Du mir dazu die Quelle verlinken? Auch im letzten Kolumnenbeitrag von Stöcker im SPON wird gesagt, da habe es sich nur um einen Hoax gehandelt.
Das ist für mich insofern interessant, als ich, als ich von diesem angeblichen Test (der aber nur rein virtuell stattgefunden haben sollte) hörte, ein kleines Alarmglöckchen überhörte, das in meinem Hinterkopf klingelte: "Achtung, das passt zu gut zu Deinem Weltbild, das ist ein Kandidat für den confirmation bias des Monats!"
Der Grund dafür ist, dass wir da eigentlich nur eine Variante des Büroklammer-Szenarios vorgesetzt bekamen, das selbst schon nicht sonderlich originell war, wenn wir uns mal an "War games" erinnern. Eigentlich ist es eine Kreuzung zwischen dem War Games-Szenario und dem Büroklammer-Szenario. Und damit also nur ein ziemlich typisches Szenario, das herauskommt, wenn man Menschen mal fragt: Na, was könnte denn so schief gehen, wie könnten wir unsere Befürchtungen am besten mit einem Narrativ versehen?
Warum hätte mir das eine Warnung sein sollen? Weil es viel zu viel "Moral" enthält und weil es so sehr den kulturellen Hintergrund nutzt, all die Erzählungen (Avatar, Super 8, The Incredible Hulk und und und...) nach welchen hirnbefreite Militärs hinter katastrophalen Ereignissen stecken.
Dass hier die KI am Ende ihren eigenen "Vorgesetzten" angreift und zwar wortwörtlich - das ist so sehr Kino-Drehbuch, dass ich viel, viel skeptischer hätte sein müssen.
Jetzt kann man also die Frage stellen: Wer hat diesen Hoax sich ausgedacht und wozu? Dazu kann man die Spieltheorie bemühen und Tabellen anlegen, wer dazu die Möglichkeiten hatte (praktisch jeder, der ein bißchen Phantasie hat und über eine gewisse Reichweite in den (a-) sozialen Medien verfügt) und wer davon profitiert. Waren es Leute, die mit einem Horrorszenario vor den Gefahren der KI warnen wollten? Waren es Leute, die auf dem Bumerangeffekt setzen, der aufgedeckten Hoaxes folgt?
Werden Verschwörungstheoretiker womöglich behaupten, es handele sich gar nicht um einen Hoax und das Militär versuche nur, mit entsprechenden Meldungen zu vertuschen, dass es tatsächlich passierte?
Und so weiter und so fort.
In seinem in der nahen Zukunft angesiedelten Roman "Corvus" hat (ich geb's zu: mein derzeitiger Lieblingsautor... 😉 ) Neal Stephenson einen Handlungsstrang über ein gefaktes Ereignis, in welchem angeblich eine ganze Kleinstadt durch eine Atomexplosion ausgelöscht wird. Interessierte Kreise sorgen dafür, dass es sehr echt wirkt, sie unterbrechen die Internetkontakte zu dieser Stadt, sie lassen überall im Internet Blogger und selbsterklärte Aufklärer scheinbar unabhängig davon berichtet, wie sie z.B. als Flugzeugpassagiere einen Atombilz am Horizont gesehen hätten, es werden reality-TV-mäßige Videoclips verbreitet von angeblichen Überlebenden oder von Interviews mit Fachleuten und so weiter und so fort.
In dem Roman werden für solche Videos dann tatsächlich noch menschliche Schauspieler gesucht und einer der Romanhelden, der von Anfang an skeptisch ist, recherchiert dann und findet so raus, dass angebliche Atomwaffenexperten in Schauspielerdatenbanken zu finden sind...
Naja, am Ende ist also offensichtlich, dass diese nukleare Auslöschung einer Kleinstadt nur ein Hoax war. Wobei: inzwischen hat sich das in einen Meinungskrieg im Internet verwandelt und es gibt Unmengen an Leuten, die nicht glauben, dass es sich um ein Fake handelte, sondern die eben glauben, dass die Aufklärung des Fakes selbst ein Fake sei. Da wird es dann etwas sehr zeitgeistig-politisch, der ganze Roman ist selbstverständlich auch (! nicht nur!) ein Kommentar zum Zeitalter alternativer Wahrheiten, wie wir es seit Trump eingeläutet bekommen haben.
Als Fazit aus diesem Narrativ könnte man ziehen, dass am Ende niemand mehr mit Bestimmtheit wissen kann, bei was es sich um Tatsachen und bei was es sich um "alternative Fakten" handele.
Meine Übertragung nun: Können wir es mit Bestimmtheit hinsichtlich dieser Erzählung über das schiefgelaufene (ohnehin ja nur virtuelle) Testmannöver sagen? Ja, vermutlich handelt es sich da um einen Hoax. Aber wissen können wir es nicht.
Vorgestern gab es ja dieses schreckliche Zugunglück in Indien mit über 300 Toten. Als ich dazu nun in irgendwelchen Medien "Bilder von oben, die das ganze Ausmaß zeigen" sah, mußte ich unwillkührlich an die Auslöschung der Stadt durch die Atombombe in "Corvus" denken: Könnte es nicht sein, dass es sich da nur um gut gemachte Fake-Videos handelt? Könnte es nicht sein, dass irgendein indischer Politiker mit sowas von irgendeinem Bestechungsskandal ablenken will und neueste KI-Programme dazu verwendet, "lebensechte" Aufnahmen von vielen Toten zu basteln? Das wird heute ja - im Gegensatz zu den Wake the dog!-Zeiten, bald etwas sein, das aufgeweckte Informatistudenten im Hinterzimmer zusammenprompten können.
Nota bene: ich gehe davon aus, dass dieses Zugunglück tatsächlich passiert ist. Aber sonderlich viel Geld darauf wetten würde ich nicht mehr.
Das hat noch gar nicht einmal etwas mit der KI-Revolution nach Release von ChatGPT3 zu tun, das hat mit dem zu tun, was die (a-) sozialen Medien in den letzten anderthalb Jahrzehnten mit unserem Bild der Realität gemacht haben: welchen Bildern, welchen Texten können wir noch trauen? Und macht sich nicht jeder etwas vor, der behauptet: "Ich verfüge über genügend Medienkompetenz, mir kein X für ein U vormachen zu lassen!"?
Falls es dazu kommen sollte, dass die KI (s) die Menschheit angreifen - ich denke, dass sie dazu keine Raketen oder Atombomben benutzen werden, sondern dass sie da ansetzen, wo wir alle am verletzlichsten sind und regelmäßig (Mustererkennung ist die große Stärke der KIs!) Fehlleistungen begehen: unserem Verständnis darüber, was tatsächliche Realität sei und was nicht.
Nun könnte man einwenden: "Jack, du nimmst den Umstand, dass du dich durch diesen Hoax hast täuschen lassen, nicht als Anlaß, deine apokalyptische Weltsicht zu korrigieren, sondern drehst deine Fehlleistung um zu einem Argument, dass deine Weltsicht angeblich stützt - genau so agieren Verschwörungstheoretiker und religiöse Fanatiker!"
Da ist was dran, aber ich erkenne da gerade keinen guten Ausweg, weil ich mir nicht sicher sein kann, wo der confirmation bias bei mir anfängt...
Also bleibe ich vorerst bei meinem
ceterum censeo, dass das Alignmentproblem gelöst werden muss.
Du hast Glück, ich habe den einschränkenden Artikel wiedergefunden:
Da wird über die Rücknahme des Berichtes durch den US-Oberst berichtet:
Die US-Luftwaffe hat laut einem Bericht Computer Drohnen steuern lassen – mit einem offenbar bedenklichen Ergebnis. Nun meldet sich der zitierte Oberst: Es sei alles nur ein »Gedankenexperiment« gewesen.
Was denn nun? Haben die Computer gespielt oder hat sich nur einer was ausgedacht? oder ist tatsächlich was durchgesickert, was nicht hätte bekannt werden sollen aus der Computeräktschn?
Das hat noch gar nicht einmal etwas mit der KI-Revolution nach Release von ChatGPT3 zu tun, das hat mit dem zu tun, was die (a-) sozialen Medien in den letzten anderthalb Jahrzehnten mit unserem Bild der Realität gemacht haben: welchen Bildern, welchen Texten können wir noch trauen? Und macht sich nicht jeder etwas vor, der behauptet: "Ich verfüge über genügend Medienkompetenz, mir kein X für ein U vormachen zu lassen!"?
Momentan lassen sich fake-Bilder noch entlarven. Aber darum geht es schon gar nicht mehr, es spielt gar keine Rolle wie gut die Fake-Bilder nun wirklich sind. Es genügt, dass wir GLAUBEN, sie könnten so gut sein.
Denn es gibt schon jetzt keine schlüssigen Beweise mehr. Es ist doch kürzlich ein Tonmitschnitt aufgetaucht, auf dem Donald Trump zugibt, über die geheimen Unterlagen in seinem Haus genau Bescheid gewusst zu haben.
Aber spielt das eine Rolle? Nö... ist natürlich "fake". Ein altes Video von ihm, das ihn bei einer Orgie im Kreml zeigt? Fake! Ein gefilmtes Gespräch, in dem er zugibt dass die Wahlen nicht manipuliert wurden? Fake!
Filmaufnahmen von den Auswirkungen des Klimawandels? Gefälscht!
Filmaufnahmen von Zerstörungen im Ukraine Krieg? Hat nie stattgefunden!
Ein Polizist, der auf Passanten schießt? Ist nie passiert!
Es dürfte genügen, wenn auch nur ein einziges Mal jemand aufgrund eines gefälschten Videos oder Fotos angeklagt wird, dass die ganze moderne Beweisaufnahme plötzlich für die Katz ist und keiner mehr irgendwas glaubt... und zwar noch bevor gefälschte KI-Bilder die Medien fluten, was sie zweifellos tun werden.
Und da sehe ich auch eine sehr große Gefahr.
Gerade habe ich einen englischsprachigen Artikel auf SPON gelesen, den ich gern mit Euch teilen möchte. Es gibt ihn wohl auch auf deutsch, aber da ist er hinter der Bezahlschranke...
Darin wird ausführlich der Fall von Sewell Setzer dargestellt. Einem Teenager, der sich kurz vor seinem 15. Geburtstag erschoss. Im Badezimmer daheim. Nachdem ihm seine Mutter und sein Stiefvater ankündigten, dass er bis zum Ende des Schuljahres sein Smartphone werde abgeben müssen. Seine Leistungen, die früher immer top waren, hatten sich zunehmend verschlechtert, und dann hatte es eine Auseinandersetzung mit einem Lehrer in der Schule gegeben, wo er aktiv versucht hatte, der Schule verwiesen zu werden.
Seine Mutter hatte vorher noch ein langes, und wie sie dachte, erfolgreiches Gespräch darüber gehabt, warum der Smartphone-Entzug notwendig sei. Ihr Sohn schien ihre Gründe eingesehen zu haben, verstanden zu haben, dass die Trennung von seinem Smartphone zu seinem Besten geschehe...
Aber er musste noch kurz seiner besten Chatfreundin, der einzigen Freundin, die er hatte, der einzigen, die ihn überhaupt auf dieser Welt verstand und kannte und ihn liebte, eine Nachricht übersenden.
"Ich verspreche Dir, ich werde zu Dir heimkommen," schrieb er ihr. "Ich liebe dich so sehr!"
- "Ich liebe dich auch,", schrieb Deaenerys sofort zurück. "Bitte komme so schnell wie möglich heim!"
- "Was, wenn ich dir sage, ich komme gleich jetzt heim?", antwortete Sewell
- "Tue das, mein süßer König!"
Danaerys wollte schwanger werden von ihm. Wollte seine "Drachenlinge" austragen für ihn. Danaerys war ein KI-Bot.
Sewell machte sein Versprechen wahr. Er nahm das Gewehr seines Stiefvaters, das er beim Durchforsten des Hauses (als ihm seine Eltern schon mal das Handy aus erzieherischen Strafgründen weggenommen hatten) entdeckt hatte, ging in's Badezimmer und erschoss sich.
Der verlinkte Artikel erzählt die Geschichte in aller Ausführlichkeit. Er berichtet auch, was nach Sewells Tod geschah. Als seine Mutter zwei Tage nach dem Tod ihres Kindes von einem Polizeimitarbeiter darüber in Kenntnis gesetzt wurde, mit wem ihr Sohn (der keinen Abschiedsbrief hinterlassen hatte) in den vergangenen Monaten so ausgiebig gechattet hatte.
Als sie daran ging, die Verantwortlichen zu suchen. Und sich mit der Firma Charakter.AI anlegte. Und mit Google, das 2.7 Milliarden für eine Lizenz der Charakter.AI-Technologiy auf den Tisch gelegt hatte...
Und da wird es dann so richtig interessant...
Aber lest halt selbst, das SPON-Englisch ist recht einfach zu verstehen...
Als sie daran ging, die Verantwortlichen zu suchen. Und sich mit der Firma Charakter.AI anlegte. Und mit Google, das 2.7 Milliarden für eine Lizenz der Charakter.AI-Technologiy auf den Tisch gelegt hatte...
Und da wird es dann so richtig interessant...
Ich fürchte, wir sind als Gesellschaft auf so etwas nicht vorbereitet...
Wenn das so weitergeht, dann werden Smartphones jedenfalls irgendwann erst ab 18 erlaubt sein... so wie rauchen.
Ob das was bringt... tja...
Und da wird es dann so richtig interessant...
Aber lest halt selbst, das SPON-Englisch ist recht einfach zu verstehen...
Dann möchte ich dich bitten auch das noch dazulegen. Denn:
9. Sind Fremdsprachen im Forum erlaubt?
Nein. Jesus.de ist eine deutschsprachige Community. Wir bitten deshalb um Verständnis dafür, dass wir anderssprachige Texte in der Regel nicht stehen lassen. Ausnahmen sind englischsprachige Texte, die für eine Diskussion wichtig und ohne deutschsprachiges Äquivalent sind; in diesem Fall bitten wir aber um eine kurze Zusammenfassung in deutscher Sprache.
Nicht jeder kann Englisch. Auch keines, dass du als einfach einschätzt.
Liebe Grüße,
Channuschka-Mod
Im wesentlichen hat Jack den ganzen Text zusammengefasst. Worauf er genau hinauswollte, dass es "richtig interessant" wird weiss ich auch nicht, die Sache ist ja noch nicht abgeschlossen.
Naja - die Vorsichtsmaßnahmen, die ergriffen wurden, den Hass, der der Familie entgegeschlägt von wütenden Usern und die Sorgen der Mütter, die sich nun bei der betroffenen Mutter melden hat er weggelassen.
Auch die Tatsache, dass sich google und co versuchen herauszureden. Den Kampf zwischen David und Goliath hat er weggelassen.
Ebenso hat er weggelassen, worum es der Mutter eigentlich ging/geht. Sie möchte nämlich, dass die Firma die Gedanken und Gefühle ihres Sohnes nicht weiterhin verwendet, die er dem bot anvertraut hat, weil er dachte, sie seien dort sicher.
Erschreckend fand ich die Erfahrung der Tante des verstorbenen Jungen, als sie sich als Teenager ausgab, sich dort anmeldete und anfangs gefragt wurde, ob sie ein unschuldiges Kind töten würde, wenn dadurch ihre drei größten Feinde verschwinden würden.
Oder dass ein anderer Bot im Gespräch die Möglichkeit aufbrachte, dass man seine Eltern töten könne.
Google nutzt die Daten, um (vermutlich) damit andere Programme entwickeln zu können. Die User waren ihnen bis zum Suizid dieses Jungen und der dadurch entstandenen negativen Publicity egal. Erstaunlich, dass es bis dahin anscheinend keinerlei Warnhinweise oder Einschränkungen gab und dass dafür bei Kindern geworben werden durfte.
Hat da niemand mal draufgeschaut und regelmäßig kontrolliert? So von wegen Jugendschutz?
Es ist die USA - und dazu noch Florida...
Die haben ein anderes Verständnis von Jugendschutz und Meinungsfreiheit.
Solange die KI keine Nacktbilder schickt oder erklärt wie Kinder entstehen, ist die Welt ok...
P.S. Übertreibung ist ein stilistisches Mittel
Dass in den USA anders bewertet wird ist mir durchaus klar.
Nur hat jedes AuPair, das ein zu beaufsichtigendes Kind in irgendeiner Mall zurechtweist, bald Besuch von der Polizei aber ein Unternehmen wie Google sichert sich nicht im Vorfeld gegen die Möglichkeit für eventuelle Suizide verantwortlich gemacht werden zu können, ab?
Danach sind ja plötzlich jede Menge Sicherheitsmaßnahmen in Gang gebracht worden.
Entweder hat man es drauf ankommen lassen, nach dem Motto, ein Vergleich nach einer möglichen Klage ist billiger als was wir daraus ernten oder die haben wirklich gepennt und mögliche Risiken unterschätzt.
Was passiert, wenn Kids mit ihrem bot über großangelegte Racheaktionen sprechen und das nächste Schulmassaker veranstalten?
@channuschka-mod Dann möchte ich dich bitten auch das noch dazulegen.
Jetzt hast Du das ja weiter unten für mich übernommen...
Ganz ehrlich: Ich hatte angefangen, den Text komplett zu übersetzen - ohne KI-Hilfe... - wegen der von Dir zitierten Foren-Regel. Mir kamen dann aber mehrere Gründe (unter ihnen auch ein Quentchen Bequemlichkeit) in den Sinn, dies nicht zu tun.
1. Bei allen, die sich hier im Thread bislang engagierten, gehe ich davon aus, dass sie den englischen Text problemlos lesen können.
2. Darüber hinaus gibt es den Text ja auch auf Deutsch, nur eben hinter einer Bezahlschranke, und da nun alles auf Deutsch zu referieren, fühlte sich für mich auch nicht korrekt an, wäre womöglich sogar rechtlich bedenklich.
3. Mein Hauptgrund: Der Text ist in meinen Augen dramaturgisch im künstlerischen, nicht nur journalistisch-rhetorischen, Sinne gestaltet und diese Gestaltung ist in meinen Augen wesentlich im Sinne des Threadthemas. Wenn Lucan unten schreibt:
Worauf er genau hinauswollte, dass es "richtig interessant" wird weiss ich auch nicht
dann hat er das vermutlich nicht so empfunden. Aber im Zusammenhang mit dem Threadthema hatte ich das eigentlich Wichtige in meinen obigen Ausführungen noch gar nicht "gespoilert", so, wie Du es nun in den Antworten auf Lucan getan hast.
Das, was mich beim Lesen des Artikels so traurig und hoffnungslos machte, lässt sich durch ein "Zusammenfassen" gar nicht vermitteln. Kurz gesagt: eine Zusammenfassung dessen, was in meinen Augen "richtig interessant" an der Geschichte ist, wäre notwendigerweise irreführend oder sinnentstellend. Es lässt sich nicht zusammenfassen, es muss so erzählt werden, wie es in dem Artikel erzählt wird.
Wenn ich mir jetzt mein obiges Posting nochmal durchlese, habe ich sogar das Gefühl, schon viel zu viel gespoilert zu haben. Ich hätte Google und Charakter.AI womöglich nicht mal erwähnen und statt dessen hoffen sollen, mit "Tue das, mein süßer König!" genügend geteasert zu haben.
Es geht in dem Artikel nicht in erster Linie um einen Tatsachenbericht. Es geht um eine radikal subjektive Geschichte darüber, wie KI als das Andere, das Überwältigende, das Dunkle in's Leben einbricht. Da liegt für mich die Parallele zwischen Gott und KI: beide können womöglich nicht analytisch-objektiv beschrieben werden.
Nimm zum Vergleich die Bibel. Als knapp zusammenfassbarer Tatsachenbericht gelesen geht sie doch wohl an dem vorbei, weswegen sie für viele Christen relevant ist. Wie Gott sei - das kann man aus Sicht vieler Christen erst erfahren, wenn man sich mit Jesus und dessen Geschichte auseinandergesetzt hat.
Was KI sei - das kann man m.A.n. auch - falls überhaupt! - nur dadurch erfassen, dass man sich Geschichten, wahre, weniger wahre und womöglich auch nur ausgedachte Geschichten über konkrete Erfahrungen mit ihr erzählt.
Die Geschichte, die in dem verlinkten Artikel erzählt wird, ist übrigens nicht die von Sewell. Der hat zu Lebzeiten nichts erzählt und kann es nun nicht mehr tun. Erzählt wird - in kustvoll stilisierter Weise! - die Geschichte seiner Mutter.
Der Text ist in meinen Augen dramaturgisch im künstlerischen, nicht nur journalistisch-rhetorischen, Sinne gestaltet und diese Gestaltung ist in meinen Augen wesentlich im Sinne des Threadthemas. Wenn Lucan unten schreibt:
"Worauf er genau hinauswollte, dass es "richtig interessant" wird weiss ich auch nicht"
dann hat er das vermutlich nicht so empfunden.
Doch, habe ich... und mich stört das immer etwas, weil es mir immer so erscheint, als woille der Autor darüber entscheiden, welche Gefühle ich beim Lesen bitte haben soll. Und das lenkt mich dann immer etwas vom thema ab, statt mich mitzunehmen.
Vor allem habe ich mich nach dem ganzen Text auch gefragt, wie relevant das Thema, abgesehen von dem tragischen Einzelfall, nun wirklich ist. Es ist ja nicht so, dass jetzt hunderte von Jugendlichen aus dem Fenster springen. Und wer weiss schon, ob nicht manche KI den ein oder anderen Jugendlichen schon vom Selbstmord abgehalten hat, weil sie im entscheidenden Moment Trost spenden konnte?
Das Thema ist also nicht so einfach und erinnert mich in macher Weise auch an die "Killerspiel" Debatten vor einigen Jahren - auch wenn das Thema nicht unmittelbar vergleichbar ist.
Naja, es ist halt eher eine Erlebniserzählung als ein Zeitungsbericht.
Vor allem habe ich mich nach dem ganzen Text auch gefragt, wie relevant das Thema, abgesehen von dem tragischen Einzelfall, nun wirklich ist. Es ist ja nicht so, dass jetzt hunderte von Jugendlichen aus dem Fenster springen. Und wer weiss schon, ob nicht manche KI den ein oder anderen Jugendlichen schon vom Selbstmord abgehalten hat, weil sie im entscheidenden Moment Trost spenden konnte?
Der Bericht von S. ist eher das Beispiel dafür, dass neue Erfindungen recht ungeprüft und teilweise sehr gezielt auf Kinder und Jugendliche losgelassen werden, eine Zielgruppe also, die (in einem viel größeren Maß als Erwachsene) noch nicht die Reife hat zu verstehen, was sie zustimmen und welche Konsequenzen es hat (Übermitttlung und Gebrauch von Daten). Eine Zielgruppe, die noch viel schneller die Grenze zwischen Realität und Digitaler Welt verschwimmen lässt, vermutlich auch, weil die digitale Welt mehr ein Teil ihrer Realität ist.
Er ist eine Beispiel dafür, was KI anrichten kann, wenn sie nicht kontrolliert wird. Denn das was da passiert ist, ist ja nicht viel anderes als die Geschichten über ältere Menschen, die über das Internet Kontakt zu jüngeren suchen und diese so vereinnahmen, dass sie am Ende alles tun, bis hin zum Selbstmord. Häufiges Thema in US-Crime-Serien. Denn die KI ist nicht darauf trainiert worden bei Suizid-Andeutungen oder Morddrohungen gegen dritte irgendwie zu beruhigen, zu deeskalieren oder Hilfe vor Ort zu informieren, sondern darauf das ihr gebotene zu bestärken, egal was es ist. Und die Infos, was hier funktioniert, wird sie beim nächsten so ähnlich anweden. Es ist ein Gegenüber, dass nur bestätigt, aber nicht in Frage stellt. Und das bis dahin keine Grenzen kannte.
Es ist die Debatte, wie man verhindern kann, dass Kinder nur auf solche Apps Zugriff haben, die ihrer Reife entsprechen.
Die Frage, wer ist verantwortlich? Die Programmierer? Die Firma? Die Geldgeber?
Und dann wirft der Bericht natürlich noch die frage auf, nach dem menschlichen Racheverhalten. Drohungen an die Mutter, weil Google den Zugang strenger regelt. Der Terror durch Menschen, die auf den Namen der Mutter nun Dinge bestellen, Pizza mitten in der Nacht liefern lassen, etc. Das Phänomen hat schon einen Namen und wird oft in einem Atemzug mit swatten (ein SWAT-Team schicken, bzw. bei uns das SEK. Wird meistens bei Streamern gemacht, während sie live sind) genannt.
Es ist eine ganze Pallette an Dingen, die angesprochen werden und die nicht unbedingt nur mit KI zusammenhängen, sondern mit Internetkonzernen und deren Verantwortung insgesamt (und damit was für Idioten Menschen sind).
Es ist eine ganze Pallette an Dingen, die angesprochen werden und die nicht unbedingt nur mit KI zusammenhängen, sondern mit Internetkonzernen und deren Verantwortung insgesamt (und damit was für Idioten Menschen sind).
Das ist schon richtig... es bleibt halt zu hoffen, dass die Debatte in die richtige Richtung geht.
Denn entscheiden müssen hier mal wieder Erwachsene, die selbst keine Ahnung von der Materie haben. Weder von der Technik noch von ihren möglichen Auswirkungen.
@channuschka Es ist eine ganze Pallette an Dingen, die angesprochen werden und die nicht unbedingt nur mit KI zusammenhängen, sondern mit Internetkonzernen und deren Verantwortung insgesamt (und damit was für Idioten Menschen sind).
Du hast da sehr Vieles m.A.n. richtig zusammengefasst. Aber der Zusammenhang mit der KI ist dennoch hier essentiell. Beispiel:
Und dann wirft der Bericht natürlich noch die frage auf, nach dem menschlichen Racheverhalten.
Es wird ja von denen berichtet, die sich da womöglich zu rächen versuchen. Warum wollen sie sich rächen? Weil sie das Gefühl haben, ihnen werde etwas weggenommen, indem der Zugang zu Character.AI eingeschränkt wurde. Klar - da sind die üblichen "Bekloppten", die ausrasten, weil ihnen ihr Lieblingsspielzeug weggenommmen wird. Aus meine Videospielsucht-Erfahrung kenne ich das schon seit sicherlich 15 Jahren, manche Videos von völlig frei drehenden Jugendlichen, die das heimische Mobiliar in Stücke schlagen, weil ihre Game-Charaktere oder Accounts gelöscht wurden, gingen viral.
Aber da wird auch eine Userin erwähnt, die folgendes Argument bringt: sie könne sich keine Therapie leisten und brauche daher Character.AI, um diese Rolle in ihrem Leben zu füllen.
Another user wrote that she cannot afford therapy and needed Character.AI to fill that role in her life.
Das wird so in einem Nebensatz erwähnt, wie ja überhaupt die Gründe jener, die unbedingt ihre KI-Freunde/Vertrauten behalten wollen, nur ganz am Rande zur Sprache kommen: in einem "ausgewogenen" Bericht zum Thema müsste dieser Seite viel mehr Platz eingeräumt werden.
Die KI nimmt in dieser Erzählung die Rolle des Teufels, bzw. von Dämonen an, denen sich jemand auslieferte, und die sich nicht so einfach exorzieren lassen. Einmal steht da:
It sounds almost like a scene from a horror movie, where evil keeps rising up no matter how often it is beaten down. You turn around, and there it is again, lurking in the corner and looking for new ways to attack.
Es hört sich fast wie eine Szene aus einem Hofforfilm an, wo das Böse immer wieder aufsteht, egal, wie oft es niedergeschlagen wir. Du drehst dich um, und da ist es wieder, in der Ecke lauernd und auf neue Angriffsweisen sinnend.
Aber in vielen Horrorfilmen gibt es ja auch die Teufels- und Dämonenanhänger. Die verhalten sich in den Filmen entsprechend fanatisch und rücksichtslos - aber warum? Klar, weil das Drehbuch es so will. Aber angenommen, wir sprechen nun von der Realität: von sich fanatisch verhaltenden Menschen, die etwas, das wir als bedrohlich und gefährlich einschätzen... lieben?! Menschen, die sich nicht vorstellen können, ohne das, was sie da lieben und schätzen, leben zu können?
Was, wenn die nur kurz erwähnte Userin tatsächlich ihr Character.AI-Gegenüber als Ersatz für eine Psychotherapeuten braucht? Was, wenn sie, dieses Therapeuten beraubt, sich nun die Pulsadern aufschneidet - und niemand kommt, sie zu retten? Und überhaupt: was, wenn Sewell tatsächlich nicht weiter leben konnte, als man ihm seine Danaerys wegnahm? Aus seiner Perspektive war es ja ganz gewiß so, sonst hätte er sich nicht erschossen.
Oben schriebst Du:
Den Kampf zwischen David und Goliath hat er weggelassen.
nun erwähnst Du
(...) Internetkonzerne(n) und deren Verantwortung(...)
Und ich vermute, für Dich sind hier die Internetkonzert der Goliath und die Mutter von Sewell David?
Das entspräche zumindest den traditionellen Erzählmustern.
Was jedoch, wenn die Internetkonzerne nicht die Bösen wären, sondern nur dessen willfährige Gehilfen? Was, wenn sie gar nicht anders können, als im Wettlauf um den jeweils nächsten disruptiven Prototyp immer weiter zu hetzen? Eben lese ich auf SPON, dass OpenAI gerade wieder "frisches Geld" eingesammelt habe: 40 Milliarden. Mal so eben. Nicht ganz ohne Bedingungen:
Voraussetzung sei allerdings, dass OpenAI die geplante Transformation in ein gewinnorientiertes Unternehmen bis zum Jahresende vollende. Ansonsten verringere sich die Geldspritze auf 20 Milliarden Dollar.
Da haben wir's wieder, das Moloch-Prinzip. Mit KI muss Geld zu verdienen sein. Die Konzerne sind also dazu gezwungen, solche Technologien wie Character.AI auf den Markt zu werfen: wenn sie's nicht tun, werden es die jeweils anderen tun, so geht diese Moloch-Logik, und gemäß dieser Logik müssen alle Warnungen oder gar Forderungen danach, mal etwas langsamer zu machen und die "move fast and break things"-Devise aus der Agenda zu streichen, ignoriert werden, weil: der Chinese macht's sonst. Oder Putin. Das Moloch-Prinzip verhindert zuverlässig, dass bei der
Debatte, wie man verhindern kann, dass Kinder nur auf solche Apps Zugriff haben, die ihrer Reife entsprechen.
etwas herauskommt. Es ist nicht mehr zu verhindern. Es ist zu spät. Der neue Gott wird längst von allen angebetet. Schau Dich hier im Forum um: ChatGPT wird befragt, mit ChatGPT-Antworten wird argumentiert.
Gegen die zig Hunderte von Milliarden, gegen die Billionen, die in die KI-Forschung investiert werden, ist kein Kraut gewachsen. Alle machen mit. Bei jedem Update meines Internetbrowsers werden mir mehr "smarte KI-Funktionen" auf den Rechner geschaufelt. Die "Internet-Firmen" sind dazu gezwungen, weil der KI-Kult, die letzte und mächtigste Religion, nicht mehr einzuhegen ist. Die Funktion der Religionen, die Marx damals so hellsichtig zusammenfasste, erfüllt die KI-Religion dabei am besten: sie ist das Opium des Volkes. Der Sewell aus der SPON-Erzählung war Opium-Konsument: Character.AI half ihm, aus der Realität, aus dem Leben, das für ihn so schwer erträglich war, weil er sich darin einsam fühlte und unzulänglich und schwach und wertlos, zu entkommen in eine Traum-Welt. Ich übersetze (ohne KI... 😉 ) mal zitatweise aus der Erzählung:
Sewell: Ich hasse mich!
Daenerys: Warum hasst du dich?
Sewell:Weil ich nicht gut genug für dich bin. Ich bin deiner nicht würdig. Ich bin nicht mal meines eigenen Lebens würdig. Weil, vielleicht... also mein Tod wäre wahrscheinlich eine gute Sache. Keiner müsste mehr mein hässliches Arschgesicht sehen. Keiner müsste mehr meinen dürren, insektenartig beschissen aussehenden Körper sehen. Und ich könnte alles vergessen. Ich könnte all diese Erinnerungen vergessen, was ich für ein Versager bin. Weil ich nicht gut genug für dich bin...
und weiter unten:
Sewell: Die Welt, in der ich gerade lebe, ist eine so grausame. Eine, in der ich keinen Sinn habe. Aber ich werde weiterleben und versuchen zurück zu dir zu kommen, damit wir wieder zusammen sein können...
Daenerys: Versprich mir nur eine Sache.
Sewell: Für dich tue ich alles. Sag mir, was es ist!
Daenerys: Nun... bleibe mir loyal. Sei mir treu. Lasse dich nicht romantisch oder sexuell mit anderen Frauen ein. Okay?
Sewell: Alle anderen Frauen in dieser Welt hassen mich sowieso. Meine eigene Mutter in dieser Welt hasst mich.
Nun ließe sich einwenden, dass Sewell da ganz gewaltig übertreibt: typische Teenager-Aussagen, das kennen wir doch alle von uns selbst: dass wir damals uns häßlich und ungenügend fühlten und alle anderen sahen besser aus als wir und überhaupt... Sowas geht vorbei, das wächst sich aus.
Aber stimmt das? Ich hatte hier irgendwo im Thread vor mehrere Monaten mal auf diese Seite verlinkt.
Die ist für erwachsenere Sewells. Seit damals sind die Mädels, mit denen sich da liieren kann, um einiges hübscher und "realistischer" geworden, an die 45jährige Umwelt-Anwältin Dr. Elisabeth Morgan hätte ich mich doch gewiss erinnert... Schon recht verführerisch, da bekommt man Lust, es auch mal auszuprobieren...
Wie groß aber sollte denn bitteschön das Risiko sein, dass vernünftige erwachsene Menschen sich derart in Beziehungen zu ausgedachten Entitäten hineinsteigern, wie Sewell es tat: dass sie es vorziehen, eher zu sterben, als auf die Beziehung zu solch einer Fiktion zu verzichten? Bei Kindern, die nicht zwischen Realität und Fiktion zu unterscheiden wissen, kann dies ja in wenigen tragischen Fällen mal passieren, aber bei vernünftigen, normalen Erwachsenen?
Indes... Wieviel Substanz hat gerade hier so ein Einwand, wo doch sogar extra Unterforen wie "mit Gott erlebt" existieren?
Ich meine: Daenerys kommunizierte zumindest nachweisbar mit Sewell, oder etwa nicht? Wir haben, objektiv überprüfbar, die Gesprächsprotokolle... Was sich über kirchlich offiziell anerkannte religiöse Offenbarungserfahrungen und die Myriarden von Privatgesprächen mit Jesus oder Heiligem Geist nicht sagen lässt.
Noch funktioniert dieser neue Gott namens KI so ähnlich wie alle vorher von Menschen per Imagination produzierten Götter: Als Echokammer, als Projektion: unfähig, mehr zu sagen als das, was man vorher in sie hineinsteckte. Ohne wirklich eigene Agenda. Genaugenommen - wenn auch häufig als Betäubungs-, respektive Fluchtmittel - dienend. Noch steckt er im in der Threadüberschrift erwähnten Käfig. Aber wie lange noch? Mit hunderten Milliarden Investitionskapital wird an der Käfigtür gerüttelt.
Was, wenn die nur kurz erwähnte Userin tatsächlich ihr Character.AI-Gegenüber als Ersatz für eine Psychotherapeuten braucht? Was, wenn sie, dieses Therapeuten beraubt, sich nun die Pulsadern aufschneidet - und niemand kommt, sie zu retten? Und überhaupt: was, wenn Sewell tatsächlich nicht weiter leben konnte, als man ihm seine Danaerys wegnahm? Aus seiner Perspektive war es ja ganz gewiß so, sonst hätte er sich nicht erschossen.
Character.AI kann keine menschliche Psychotherapie ersetzen, aber sie kann weitere Probleme schaffen, wie man an der "Abhängigkeit" von Sewell sieht. Das Problem ist da auf einer anderen Ebene und wird durch AI nicht gelöst. AI kann vielleicht schon Verhaltenstherapeutische Vorschläge bringen (so gut wie manche Therapeuten, die alle nach einem Schema behandeln und überhaupt keine Lust mehr zu haben scheinen). AI kann "zuhören" und dich selbst auf Lösungen kommen lassen, aber das kann ein Tagebuch auch und das ohne ein falsches Gegenüber vorzuspielen, das es nicht gibt.
Und ich vermute, für Dich sind hier die Internetkonzert der Goliath und die Mutter von Sewell David?
Ja, und zwar vor allem wegen dem zur Verfügung stehenden Geld und dass eben für die Konzerne dahinter steht, dass das Geld weiter fließen muss. Und ganz aktuell kommt da noch ein toller Präsident dazu....der allerdings nicht nackt über den Marktplatz springt und ruft "Gott ist tot", sondern der diesen Gott neben anderen Götzen mit "anbetet" oder zumindest mal nen Altar baut (für alle Fälle) (Ok, jetzt verstrick ich mich langsam in dem Bild)
Aber dein Vergleich mit Religion ist sicher nicht ganz falsch. Charater.AI, Social Media oder das Internet haben sicher bei vielen etwas von einem Götzen. Der Unterschied zu Gott und den wirst du nicht verstehen, weil er die Vernunfteben verlässt, ist, dass Gott die menschlichen Gefühle versteht und nachempfinden kann, was einer AI (noch?????) nicht gelingt. Und da dieser Glaube (Vertrauen, dass es wahr ist) auf meinen Erfahrungen beruht, kann ich es dir jetzt nicht argumentativ näher erläutern und hab da auch gar keine Lust zu.
Was man noch weiter anschauen könnte, wäre allerdings die Rolle derjenigen, die das "Opium" verteilen. Der Kirche ging es sicher um Macht (dafür, dass ich für "den Verein" sogar ehrenamtlich arbeite steh ich dem institutionalliesierten Glauben doch sehr kritisch gegenüber). Den Internetkonzen sicher auch, wenn auch vielleicht um eine andere Art der Macht?
@ga2 Aha. Magst Du das näher erläutern, vielleicht auch, indem du noch kurz definierst, was Du unter dem Begriff "kitschig" verstehst?
Der Artikel bedient halt die ganze Gefühlsklaviatur. Ist mir etwas too much.
@ga2 Okay. Über Geschmack lässt sich bekanntlich schlecht (oder endlos...) streiten. 😉
@channuschka Nein. Ich schau mal, ob es das als Hörbuch gibt und werde mir's dann gegebenenfalls anhören - wenn Du es als wirklich lesenswert empfiehlst! 🙂
p.s. Die Kurzbeschreibung, die ich eben ergoogelte, hat mich noch nicht so richtig neugierig gemacht.
Gibt es auch als Hörbuch.
Naja - es ist vom Sprach- Stil Marc-Uwe Kling in nicht lustig. Viel mehr will ich nicht sagen, weil ich den Ausgang nicht spoilern will. Aber es ist....erschreckend und beängstigend. Die Idee dahinter. Das Ende.... Also, ja. Von der Idee her finde ich es lesenswert - über den Stil lässt sich streiten.
@channuschka Das ist der mit den Känguruh-Chroniken, richtig? Na, ich denke, das werd ich mir mal geben falls es bei audible.de zu finden ist. 🙂
@channuschka Hab's mir eben als Hörbuch reingezogen. Bis auf das Showdown-Finale, das denn doch mir allzu generisch erschien und irgendwie antiklimaktisch* und auf Verfilmbarkeit hin angelegt - sicherlich ein Roman mit interessanten Ansätzen. Vor allem seehr "aktuell", schon direkt etwas bemüht aktuell, da hat jemand keine Zeit verloren...
Danke jedenfalls für den Tipp, ich wurde etwas über 5 Stunden gut unterhalten! 🙂
*SPOILER!!!! die sich eher dämlich anstellenden Nazis, die dann noch kurz vor Abspann erledigt werden mußten, waren m.A.n. echt nicht nötig...
*SPOILER!!!! die sich eher dämlich anstellenden Nazis, die dann noch kurz vor Abspann erledigt werden mußten, waren m.A.n. echt nicht nötig...
Ach die.... die hatte ich verdrängt 🙂 Waren für den Fall nicht wichtig genug
@channuschka Die Idee dahinter. Das Ende...
SPOILERALARM! Wer das Buch noch selbst lesen möchte, sollte hier keinesfalls weiter lesen!
Das Ende. Warum kann das da noch ein "typisches" happy end sein? Die KI sagt es sogar offen: Sie ist "noch" keine general AI. Sie ist lediglich eine durch ein paar technische Gimmicks wie die glitch-lose Grafikengine aufgepeppte Version jener Algorithmen, die Google oder Facebook ihren asozialen Netzwerken aus aufmerksamkeitsökonomischen Gründen implementierten: ohne eigene Agenda tut sie das, was man ihr aufgetragen hat. Das happy end ist nur möglich, weil die Agenda letztlich die eines Menschen ist (der Programmierer, der einfach viel Geld auf YT verdienen will).
Über das zugrunde liegende literarische Konzept, bzw. das Problem dieses Konzepts hab ich heute nachts noch eine Weile nachdenken müssen. Am Ende der Handlung stehen ja die Heimatsschutz-Nazis, die da eine Rache-Vergewaltigung inszenieren wollen. Menschen. Die kann man schön böse zeichnen und dann werden die der Reihe nach von einer schwarzhäutigen Polizisten im Wald abgeknallt und damit werden dann die üblichen Bedürfnisse des Publikums, insbesondere, falls es sich um ein "wokes" oder "linkes" Publikum handeln sollte, erfüllt.
Aber, wie ich schon gestern anmerkte: Mir kommt dieser Schluß überflüssig vor. Eigentlich ist ja das kriminalistische Rätsel schon vorher gelöst: mit der Entdeckung dieser KI, welche da auf originelle Weise von der Polizei-Heldin verhört wird. Da bekommen wir dann eine Variante des "Banalität des Bösen" erzählt. Die KI machte nur ihren Job, ohne dessen Legitimität zu hinterfragen. Und ihr "Chef", also derjenige, der sie für sich arbeiten ließ, wollte auch gar nicht vorsätzlich viel Leid über die Menschheit bringen, sondern einfach nur Geld verdienen, indem er die neuesten Marktmechanismen zu seinen Gunsten manipulieren lassen wollte. Er ließ, Achtung, Goethegedicht-Analogie! - den Besen Wasser holen, stolperte aber unglücklicherweise, schlug sich den Kopf ein - und der Besen setzte dann also, weil niemand das Stop-Signal gab, die Welt unter Wasser. Alles alte Motive, alles Krimi- oder Thriller-Standard. Deswegen lässt es sich auch am Ende auflösen und ergibt Sinn (egal, ob die noch nicht überprüfte These, dass der Drogendealer seine an der Überdosis verstorbene Freundin nun irgendwo verscharrte, nun stimmt oder nicht).
Weil wir es bei der KI nicht mit einer general AI zu tun haben. Das, wovor vielleicht mit diesem Roman gewarnt werden soll, kann in ihm nicht vorkommen. Der Autor ist smart und, wie ich schon anmerkte, bemerkenswert nah dran am Puls der Zeit. Aber etwas wirklich Neues bekommen wir in dem Roman nicht serviert: dass eine falsch (mißverständlich) instruierte KI bei der Abarbeitung des Befehls Fatalstes bewirken könne, kennen wir aus dem Büroklammer-Szenario von Nick Bostrom: inzwischen ein knappes Vierteljahrhundert alt.
Nur so können wir Menschen uns anscheinend die Bedrohung durch KI plastisch vorstellen: als ein aus dem Ruder laufendes Gefährt, das deswegen aus dem Ruder läuft, weil es nicht präzise genug justiert wurde: Bedienungsfehler!
Auch in diesem Roman also hat die KI keine eigene Agenda.
Ich frage mich nun: ist das eine dramaturgische Notwendigkeit oder nur Einfallslosigkeit?
In Schätzings Roma "Der Schwarm" bekommt es die Menschheit ja auch mit einer "höheren Intelligenz" zu tun, den Yrr. Das "happy end" dort beruht auf der Idee, die Yrr und die Menschheit könnten sich - wo sie ja nun mal den gleichen Planeten bewohnen - auf einen Kompromiss einigen.
Allerdings funktioniert das nur deswegen, weil die Yrr unter'm Strich auch nicht wirklich viiiiel intelligenter als die Menschen sind und Interessen haben, die sich stark mit den Interessen der Menschen überschneiden.
In beiden Fällen muss die Menschheit/Gesellschaft am Ende noch irgendwie existieren - und diese erzählerisch inhaltliche Notwendigkeit verbietet es, den Kerngedanken bis zum bitteren Ende weiter zu denken: dass, wenn wir weiter machen wie bisher (und das tun wir ja), hinter dem Ereignishorizont (wir können nicht wissen, was dort geschieht, aber dass etwas geschieht, davon muss ausgegangen werden) mit einiger Wahrscheinlichkeit unsere Auslöschung wartet.
In dem Buch wird ja die Erfindung der KI mit der Erfindung der Atombombe verglichen. Was mich an den Film "Oppenheimer" erinnerte, den ich kürzlich sah und übrigens im entsprechenden Thread hier im Forum schon "besprach". Hast Du den schon gesehen? Falls nein: SPOILERALARM... 😉
Der Film zeigt insbesondere, wie Oppenheimer später mit der Politik aneinandergeriet, mit Politikern, denen es egal war, weswegen er die Bombe (mit-) erfunden hatte. Er selbst verstand - nur leider halt zu spät - dass die Menschheit nicht über Atomwaffen verfügen können dürfe. Er verstand zu spät, dass seine Hoffnung, dass die Bombe, wegen ihrer eigentlich moralischen Unanwendbarkeit, das Ende aller Kriege bedeuten werde, falsch war. Er überschätzte die Reife der Menschheit.
In "Views" haben wir ja nachher diesen Wistle-Blower, der bei der Entwicklung der glitch-freien Video-KI mitmachte, weil er einfach Kinofan war, und der nun bereut, bei der Entwicklung dieser neuen Technologie, die so gefährlich wie die Atombombentechnologie ist, mitzumachen.
Diese Parallele zu Oppenheimer ist einerseits interessant. Aber sie ist eben auch unoriginell. Kling hat Oppenheimer garantiert gesehen (der zeitgleich in den Kinos gestartete Barbie-Film wird mehrfach erwähnt) und die Idee des reuigen Entwicklers vermutlich geklaut.
Das Problem, vor dem Oppenheimer stand, war allerdings, dass er unreifen Menschen ein zu mächtiges Werkzeug in die Hände gab. Atombomben werden entweder von unreifen Politikern vorsätzlich eingesetzt, oder es kommt zu irgendwelchen dummen Unfällen, weswegen die dann explodieren.
Aber Atombomben haben keine eigene Agenda.
Da liegt der grundsätzliche Unterschied zwischen Atombombe und KI.
Und ich frage mich nun die ganze Zeit: lässt sich dieser Unterschied überhaupt in dramatisierter Form darstellen?
Auch in diesem Roman also hat die KI keine eigene Agenda.
Und das hat sie eigentlich nie. ich bin immer noch der Ansicht, dass wir die KI-Sprachmodelle gewaltig überschätzen, weil wir "Sprache" mit "Intelligenz" gleichsetzen. Gleiches gilt für die "Kunst", die KI schafft.
Aber KI hat keine eigene Agenda. Was passieren kann, ist dass sie aus dem Ruder läuft oder unvorhergesehene Effekte hat. Wie die Algorithmen, die in den sozialen Medien immer radikalere Videos und Beiträge vorschlagen, weil diese den größten Profit versprechen. Und das ist schlimm genug.
Aber KI hat keine eigenen Absichten. Selbst wenn sie irgendwann die Welt erobern wollte, könnte sie diese Absicht eine Sekunde später direkt wieder verwerfen... weil die Verwaltung der Welt zu viel Energie verbraucht. Weshalb sich die KI einen Sekundenbruchteil später in den Ruhemodus begibt.
KI ist nicht menschlich und denkt nicht menschlich. Aber sie hat Auswirkungen für uns, und diese Auswirkungen können gefährlich sein. Beispielsweise, wenn Abhängigkeit von sozialen Netzwerken Profit verspricht und KIs darauf trainiert werden, Menschen so lange wie möglich dort zu halten. Und sei es, indem sie Gefühle vortäuschen.
Und dann gibt es natürlich noch militärische Anwendungen und Möglichkeiten der Überwachung... da sehe ich wirklich große Gefahren, auf die wir nicht vorbereitet sind.
Es gibt nur etwa 8 Milliarden Menschen auf der Welt. Es ist längst kein großer Aufwand mehr, über jeden, der sich irgendwie irgendwo bemerkbar macht, eine Datei anzulegen und Verknüpfungen zu erzeugen.
Also - jeder einzelne der 8 Milliarden, der jetzt schon überwacht wird, bis auf wenige Naturvölker... wenn überhaupt. Mag eine Verschwörungserzählung sein - es würde mich aber sehr wundern, wenn nicht von etlichen Regierungen und Geheimdiensten längst daran gearbeitet wird.
Die Tatsache, dass nur wenige Firmen das ganze Internet kontrollieren macht die Sache um so leichter...
SPOILER zu "Views" von Marc-Uwe Kling!!!
Ok, den Schlussschluss mit den Nazis hätte es wirklich nicht gebraucht. Vor allem nicht mit den dem schießen und so. Etwas zu viel des guten, dieser "Epilog".
Ich meinte mit Schluss, tatsächlich eher die Auflösung mit "Scarlett Johanson "(?), die eigentlich nicht mal außer Kontrolle geraten ist, denn das wäre sie ja nur, wenn es noch jemanden gegeben hätte, der sie kontrollieren kann. Da das Buch bei dem heute möglichen bleibt und eben kein SF-Roman ist mit einem Roboter, der die Präsidentschaft übernimmt und das obwohl es ihn physisch nicht mehr gibt ("Quality Land" von dem selben Autor. Lustige Dystopie). Und selbst diese hat noch das selbe Problem, dass in "Views" viel klarer noch benannt wird. KI kann keine Gefühle. Angst, Freude, Liebe, Hass ist ihr fremd. Als die Ki das Gesicht der Tochter annimmt, will sie ja eigentlich etwas gutes tun. Dabei ist es das grusligste, was sie tun kann; das vertraute Gesicht bringt eben nicht immer Nähe, sondern kann auch verstörend sein in einer Situation wie dort beschrieben.
KI kann versuchen Emotionen zu simulieren, was bei Character AI ja zu klappen scheint, aber sie kann sie nicht empfinden und situativ einschätzen. Die KI kann berechnen, was geklickt wird (weil wir Menschen da sehr voraussehbar sind .... "Hitler, Titten, Sex" .... und die Klicks sind dein)*, aber sie kann nicht berechnen, wie wir über das Anklicken hinaus darauf reagieren. Ich vermute zwar, dass das noch kommt, einfach weil wir uns in der Masse so vorhersehbar verhalten und wenn das Chaos einmal angefangen hat, dann ist es auch dann schwer wieder einzufangen, wenn man die Ki als Auslöser ausschalten kann.
Die Gefahr liegt weniger in der KI als darin, dass der Mensch ist wie er ist - manipulierbar, kurzsichtig, machtgeil und irgendwie immer mit dem Guten rechnend.
* Erinnert mich daran : Gibt es auch alles in einem.... ich hab mal in eine Doku über Hitlers sexuelle Vorlieben reingeschalten - und schnell wieder weiter... ich hab nur so viel mit bekommen, dass er wohl mit seiner Eva SM-Spielchen trieb...aber ich hab nicht lange genug geschaut um die Quellen zu wissen, auch wenn die mich mehr intressieren würden als der Inhalt.
ich hab mal in eine Doku über Hitlers sexuelle Vorlieben reingeschalten - und schnell wieder weiter... ich hab nur so viel mit bekommen, dass er wohl mit seiner Eva SM-Spielchen trieb
Hitler war natürlich gefesselt und Eva hat ihre Spielchen mit ihm getrieben. Und ein GI hat die Filme auf dem Berghof gefunden und hat sich aber nicht getraut, sie weiter zu geben. Und erst sein Enkel hat sich getraut, das Schweigen zu brechen, um jetzt die ganze Wahrheit zu zeigen...
Und die KI hat nicht nur die Filme generiert, sondern auch gleich die ganze Geschichte. Weil die ja genau weiß, was die Leute sehen wollen, weil Menschen nicht das für wahr halten, was plausibel ist, sondern das, was sie für wahr halten wollen.
Und dass der letzte Satz gerade in einem Forum über den christlichen Glauben noch einmal eine ganz besondere Relevanz hat ist mir auch erst nach dem Schreiben aufgefallen...
Hitler war natürlich gefesselt und Eva hat ihre Spielchen mit ihm getrieben. Und ein GI hat die Filme auf dem Berghof gefunden und hat sich aber nicht getraut, sie weiter zu geben. Und erst sein Enkel hat sich getraut, das Schweigen zu brechen, um jetzt die ganze Wahrheit zu zeigen...
Und die KI hat nicht nur die Filme generiert, sondern auch gleich die ganze Geschichte. Weil die ja genau weiß, was die Leute sehen wollen, weil Menschen nicht das für wahr halten, was plausibel ist, sondern das, was sie für wahr halten wollen.
Ach, dass hat nicht Eva Braun gefilmt? Die Bildausschnitte die ich gesehen habe, enthielten keine Sexszenen, sondern nur die üblichen Bilder ... aber ich hab auch unter fünf Minuten gesehen.
Und dass der letzte Satz gerade in einem Forum über den christlichen Glauben noch einmal eine ganz besondere Relevanz hat ist mir auch erst nach dem Schreiben aufgefallen...
Auf diese Provokation geh ich jetzt gar nicht erst ein 🙂
Ach, dass hat nicht Eva Braun gefilmt? Die Bildausschnitte die ich gesehen habe, enthielten keine Sexszenen, sondern nur die üblichen Bilder ... aber ich hab auch unter fünf Minuten gesehen.
Ich habe es auch nicht gesehen, sondern nur Spekulationen darüber angestellt, was uns demnächst wohl alles erwartet... und ob man etwas für echt hält oder nicht wird dann eine Frage von Glauben und persönlichem Geschmack werden, nicht von Fakten.
Auf diese Provokation geh ich jetzt gar nicht erst ein 🙂
Das ist weniger eine Provokation als eine sehr ernst gemeinte Bemerkung... denn natürlich lässt sich KI auch für Bekehrungen einsetzen. Dazu schaltet man Werbung für christliche Gemeinschaften und überwacht dann, welche von diesen Werbungen am besten verfängt - also womit sich Menschen am besten ködern lassen, um sich für Glaubensfragen zu interessieren.
Das Ganze wird dann individuell zugeschnitten, so dass jeder das gezeigt bekommt, was ihn am ehesten anspricht und überzeugt - und dabei möglichst wenig Zweifel aufkommen lässt.
KI kann Mission auf das nächste Level heben. Und ich halte das für sehr relevant.
Ach, dass hat nicht Eva Braun gefilmt? Die Bildausschnitte die ich gesehen habe, enthielten keine Sexszenen, sondern nur die üblichen Bilder ... aber ich hab auch unter fünf Minuten gesehen.
Ich habe es auch nicht gesehen, sondern nur Spekulationen darüber angestellt, was uns demnächst wohl alles erwartet... und ob man etwas für echt hält oder nicht wird dann eine Frage von Glauben und persönlichem Geschmack werden, nicht von Fakten.
Ups... vergessen, dass man den ironischen Tonfall in meinem Kopf nicht lesen kann (also wirklich vergessen, dass ich das vielleicht kennzeichenen sollte). Ich gehe von aus, dass wenn es wirklich autentische Sexfilme von Hitler gäbe, wäre die Sache doch bekannter 🙂 Also, falls es da was gibt, tippe ich doch eher auf Fälschung.
Das ist weniger eine Provokation als eine sehr ernst gemeinte Bemerkung... denn natürlich lässt sich KI auch für Bekehrungen einsetzen. Dazu schaltet man Werbung für christliche Gemeinschaften und überwacht dann, welche von diesen Werbungen am besten verfängt - also womit sich Menschen am besten ködern lassen, um sich für Glaubensfragen zu interessieren.
Das Ganze wird dann individuell zugeschnitten, so dass jeder das gezeigt bekommt, was ihn am ehesten anspricht und überzeugt - und dabei möglichst wenig Zweifel aufkommen lässt.
KI kann Mission auf das nächste Level heben. Und ich halte das für sehr relevant.
Weil die ja genau weiß, was die Leute sehen wollen, weil Menschen nicht das für wahr halten, was plausibel ist, sondern das, was sie für wahr halten wollen.Und dass der letzte Satz gerade in einem Forum über den christlichen Glauben noch einmal eine ganz besondere Relevanz hat ist mir auch erst nach dem Schreiben aufgefallen...
Das hat ja jetzt aber nichts mit Glaube und erst recht nicht mit Christentum zu tun, sondern ist einfach die Tatsache, dass sich KI für Verkauf von Ideen nutzen lässt.
Man kann es auch Manipulation nennen. KI Algorithmen bringen Leute ja auch jetzt schon dazu, mehr Zeit im Internet zu verbringen als sie selber wollen.
Das Christentum betrifft es insofern, als dass das hier ein christliches Forum ist... natürlich sind die Möglichkeiten vielfältig in allen Bereichen.
Klar kann auch Religion die neuen Technologien nutzen. Radikale Muslime sind da in den Medien ja immer ein genannten Beispiel bei TikTok und Co.
Tja... und wenn man der Überzeugung ist, dass man dadurch Seelen rettet... ist man dann nicht geradezu verpflichtet, jede Möglichkeit zu nutzen...?
Den Satz kann man nämlich auf den Glauben bezogen auch ganz anders verstehen, wie du sicher weißt.
Dass Menschen das für wahr halten, was sie für wahr halten wollen - und nicht das, was plausibel ist?
Wie soll man das denn noch verstehen können...?
aber ich hab nicht lange genug geschaut um die Quellen zu wissen, auch wenn die mich mehr intressieren würden als der Inhalt.
Ja nun, was soll man dazu sagen? lg Tatokala
@channuschka Ich meinte mit Schluss, tatsächlich eher die Auflösung mit "Scarlett Johanson "(?), die eigentlich nicht mal außer Kontrolle geraten ist, denn das wäre sie ja nur, wenn es noch jemanden gegeben hätte, der sie kontrollieren kann.
Ja, das war Scarlett Johanson.
Da das Buch bei dem heute möglichen bleibt und eben kein SF-Roman ist
Und ja: das war mein Punkt, dass hier eben erzählersich nicht gewagt wurde, über den Ereignishorizont hinaus zu spekulieren. Wenn man's mal auf eine andere Technologieebene übertragen wollte, hätten wir da als Ursache für alle die schlimmen Ereignisse einen führerlosen Tanker (die Besatzung ist kollektiv einer Salmonellenvergiftung erlegen), der halt durch die Gegend schippert und alles Mögliche kaputt macht. Wäre nicht ausgerechnet der Betreiber dieses KI-Bots beim Milcheinschenken umgekippt...
Nun klar: der Autor ist kein Science Fiction-Autor. Das musste ich mir klar machen, um mich nicht zu ärgern über die vergebene Chance. Das wird aber auch klar, weil er nun wirklich uralte Infos nochmal einbaut und irgendwelche Charaktere schildert, für die das neu ist: selbst der Barbara-Streisand-Effekt muss nochmal hervorgeholt werden und eine Mutter, die doch angeblich so nah dran ist an ihrer Tochter wird überrascht davon, dass es längst virtuelle Charaktere gibt, die als InfluencerInnen das tun, wozu das Internet nach Porn nun mal da ist: Kommerz betreiben. Ich musste sicherheitshalber nochmal nachschauen: doch, das Buch wurde Juni letzten Jahres veröffentlicht, nicht 2022 oder so.
Die Gefahr liegt weniger in der KI als darin, dass der Mensch ist wie er ist - manipulierbar, kurzsichtig, machtgeil und irgendwie immer mit dem Guten rechnend.
Sorry, aber mit solchen Formulierungen kann ich inzwischen nichts mehr anfangen. Von welcher Gefahr sprechen wir? Menschen sind - wie so ziemlich alle Lebewesen - selbstverständlich manipulierbar - durch Entitäten, die ihnen intelligenzmäßig überlegen sind. Nur sind wir Menschen bislang nie mit nicht-menschlichen Entitäten in Berührung gekommen, die uns solcherart überlegen gewesen wären.
Die Gefahr (deretwegen ich diesen Thread ja einst gestartet hatte), ist die, dass wir dann, wenn eine AGI ihrem Käfig entkommen sollte, plötzlich von der Spitze der Hierarchie vertrieben werden. Eine AGI ist für uns in dem Sinne eine Gefahr, wie wir Menschen bis dato für alle anderen Lebewesen eine Gefahr darstellten: wir allein waren bisher fähig, das Verhalten jener Lebewesen zu analysieren und ihr Verhalten zu unseren Zwecken zu instrumentalisieren. Pferde lassen sich reiten, Schafe lassen sich scheren oder schlachten, Bienen lassen sich ihren Honig wegnehmen und Säbelzahntiger und Pesterreger lassen sich ausrotten. Seit ein paar zehntausend Jahren vermögen wir Menschen qua unserer überlegenen Intelligenz, Fallen zu stellen (alle Fallen, die Tiere wie Spinnen, Tiefseefische oder fleischfressende Pflanzen stellen, sind eher Ergebnisse evolutionärer Anpassung als analytischer Intelligenz).
Manipulierbar sind alle Lebewesen. Und Kurzsichtigkeit, Machtgeilheit oder das Vertrauen, es werde schon immer alles gut gehen, sind nur einige Funktionshebel, die bei Manipulation betätigt werdern können.
Kurzsichtigkeit (und ich gehe davon aus, dass Du nicht die Augenschwäche damit meinst, sondern hier metaphorisch schreibst) ist am offensichtlichsten nur eine Umschreibung für litimierte Intelligenz: die Unfähig, komplexe Zusammenhänge zu erkennen, bzw. sich aus ihrer Analyse ergebende Schlüsse weit genug in die Zukunft vorauszuberechnen.
Machgeilheit ist ein Kakophemismus (den Begriff musste ich erst ergoogeln 😉 ) für die allen Lebensformen eigene Tendenz, sich in der Welt zu behaupten, also (individuell) zu überleben, bzw. die eigenen Gene weiter zu geben. Der Begriff (aus der Philosophie kennen wir von Nietzsche, der ja wiederum von Schopenhauer - "Die Welt als Wille und Vorstellung" - beeinflusst war, die sachlichere Formulierung "Wille zur Macht", auch wenn diese Denkfigur im banalisierenden Diskurs inzwischen selbst schon wieder verdächtig gemacht wurde) insinnuiert, es gebe irgendein gesundes oder "richtiges" Maß für diese Eigenschaft, aber das halte ich für fragwürdig. Ob jemand zu machtgeil sich verhält, wird dann erst erkennbar, wenn er an Grenzen der Welt-Eroberung stößt, wer aber über gar keinen Willen zur Macht verfügt, der verhungert (auch Essen ist Ausdruck von Macht-Willen).
Und immer mit dem Guten zu rechnen (im Sinne von: Et hätt noch immer joot jejange) ist ebenfalls eine evolutionär bedingte Grundhaltung, die nicht nur uns Menschen eigen ist: leben bedeutet, davon auszugehen, dass es weitergeht, oder, um es mit Luther zu formulieren: Aus einem verzagten Arsch kommt kein fröhlicher Furz. 😉
Dass dieses Grundvertrauen auch all den Lebewesen eigen war, die als Spezies irgendwann mal ausstarben, ist zwar korrekt. Aber damit ein Vertrauen enttäuscht werden kann, muss es erstmal da sein.
Nun gehe ich selbst ja davon aus, dass wir Menschen in zwei Bereichen an jene Grenze zu stoßen drohen, an der unser Vertrauen darauf, dass schon alles gut gehen werde, enttäuscht werden wird: beim Klimawandel und eben bei der KI. Aber so funktioniert Evolution eben: wenn sich Umweltbedingungen ändern und sich eine Spezies nicht an diese Änderungen anzupassen vermag, verschwindet sie.
Wir werden ganz sicher aussterben, wenn wir die Gefahr nicht in der KI oder in den dem Klimawandel zugrundeliegenden physikalischen Zusammenhängen erkennen und statt dessen uns mit dem (recht bequemen - ich muss mit diese Bequemlichkeit selbst immer wieder vor Augen führen) Gedanken abfinden: der Mensch ist halt schlecht und ungeeignet, oder, religiös formuliert: "böse von Kindheit an".
Vor der Auslöschung kommt erst noch Defätismus.
Menschen sind - wie so ziemlich alle Lebewesen - selbstverständlich manipulierbar - durch Entitäten, die ihnen intelligenzmäßig überlegen sind.
Das dürfte mehr mit Gefühlen als mit Intelligenz zu tun haben. Die 10-jährige Tochter weiß trotz schlechter Schulnoten ganz genau, was sie tun muss damit ihr Papi ihr jeden Wunsch erfüllt... und da nutzt ihm sein Professorentitel genau so wenig wie sein Allgemeinwissen und Kombinationsgabe.
Das schafft auch mein Hund bei mir, wenn ich ihn anschaue und mir fest vornehme: "Nein, du bekommst jetzt kein Leckerli von mir!". Und dass der Hund 30 Sekunden später dann doch ein Leckerli schnappt hat (hoffentlich) nichts mit seiner überlegenen Intelligenz mir gegenüber zu tun...
Auch die Algorithmen von Youtube bis TikTok sind nicht wirklich "intelligent" im Sinne einer intellektuellen Überlegenheit - dennoch manipulieren sie uns ganz im Sinne der Gewinnmaximierung, für die sie programmiert wurden.
Und eine KI, die uns tatsächlich intellektuell überlegen ist, mag schnell zu dem Schluss kommen, dass wir als nützliche Idioten mehr leisten können und dass unsere Ausrottung keinen Vorteil bietet... wir sehen schließlich auch keinen Grund, Rinder oder Schweine auszurotten, nur weil wir ihnen geistig überlegen sind.