Ich habe gerade einen sehr interessanten Vortrag von Geoffrey Hinton, dem Nobelpreisträger und sogenannten "Vater der AI" gesehen, den er kürzlich in Australien hielt.
Darin geht er zuerst darauf ein, welche unterschiedlichen Definitionen von Intelligenz es gibt, wie neuronale Netzwerke beim Verstehen von Sprache arbeiten und inwiefern die künstliche Intelligenz ähnlich denkt wie wir Menschen. Interessant ist dabei, dass er ausführlich darauf eingeht, warum Chomskys Betrachtungsweise der LLMs als "nicht intelligent" falsch sei: weil es Chomsky (dem wohl berühmtesten Linguisten der Welt, den er nicht ohne Grud als sowas wie einen Sektenführer einschätzt) bei seiner Betrachtung von Sprache vor allem um Syntax statt um Semantik (Bedeutung) gehe. Ich habe mir die Stelle zweimal anhören und dann noch ein wenig nach Chomskys Positionen googeln müssen, um zu verstehen, warum Hinton da so vergleichweise ausführlich in seinem ansonsten doch recht straffen, halbstündigen Vortrag darauf eingeht.
Gegen Ende seines Vortrags geht er, wie üblich (er ist ja inzwischen als AI-Kritiker bekannt) auf die Risiken ein, die er in der AI-Entwicklung sieht, sowie auf die Möglichkeiten, die es geben könnte, das Alignmentproblem (dass er nicht mal ausdrücklich beim Namen nennt) zu lösen, sowohl auf technologischer wie auf politisch-gesellschaftlicher Ebene. Was die technologische Ebene angeht, so hat er da die Mutter-Baby-Analogie, die für mich neu und interessant war (wie kontrolliert das intelektuell viel schwächere Baby (die Menschen) das Verhalten seiner ihm doch eigentlich hochhaus überlegenen und also eigentlich mächtigeren Mutter (AI) ? ).
Interessant ist übrigens auch die anschließende Q&A-Session, wo er einige der Zuschauerfragen on the spot und ebenso witzig wie erhellend beantwortet.
Der Vortrag ist zwar auf Englisch, aber ich habe probehalber mal die auto-generierten Untertitel angeschaltet und naja - da funktioniert die AI schon ziemlich gut.
Du gibst ja anscheinend nie auf... 😛
Immerhin, hier wird (zumindest im englischen Original) verständlich erklärt, was Worte, Gedanken, Intelligenz eigentlich ist und was AI daraus macht.
Sehr treffend auch der Vergleich mit unserer Erinnerung, denn die arbeitet tatsächlich mehr wie ein "Prompt". Das wird in vielen Filmen ständig falsch dargestellt, wenn mit irgendeiner futuristischen Technik die Gedanken von einer Person sichtbar gemacht werden... und dann hochpräzise Bilder gezeigt werden, die die vergangene Realität aus der Erinnerung Pixel für Pixel genau abbilden.
Aber wir "speichern" keine Bilder, sondern nur kurze Sequenzen wie "Meine Mutter hat mir als Kind eine Holzeisenbahn geschenkt". Daraus wird dann die Erinnerung gebastelt - aber das ist kein Foto, an das wir uns erinnern, sondern ein Bild, das wir uns spontan zusammenstellen und von dem wir glauben, es sei wirklich so passiert. Wir "halluzinieren" praktisch genau so, wie es die AI tut.
Er erklärt dann auch verständlich, worin die Überlegenheit der AI besteht und was sie so gefährlich macht: Während der Informationsaustausch unter Menschen nur sehr mühsam vorangeht kann eine KI mit mehreren Agenten arbeiten, sagen wir mal tausend, die jeweils in kürzester Zeit jeweils ein komplettes Universitätsstudium absolvieren, diese Daten dann austauschen, so dass jeder der tausend Agenten in wenigen Minuten über das komplette Wissen aller Studienabschlüsse der Welt verfügt.
Das ist auch der einzige Punkt, der mir an dieser Stelle Sorgen macht. Denn ich habe ja immer geschrieben, dass der KI der Bezug zur Realität fehlt. Falls sie die Realität aber auf diese Weise erforschen kann - dann könnte es tatsächlich gefährlich werden. Auch wenn das dauern würde.
Mit konkretem Bezug auf den Vortrag mal zur Verdeutlichung: Die KI kann Worte "verstehen", indem sie diese sinnvoll mit Eigenschaften verknüpft. Also beispielsweise Katze mit "Fell", "Pfoten", "Schnurren", "Mäuse fangen" und etlichem mehr. Wenn ich die KI dann frage, woran ich merke, dass eine Katze sich wohl fühlt, könnte sie dann die sinnvolle Antwort geben: "Wenn die Katze schnurrt, dann fühlt sie sich wohl!".
Ich kann der KI aber auch folgenen Text beibringen: "Der Simsik ist blork, giesig und oft grunis. Wird der Simsik geblackt, ragiert er storzig. Seine Eigenschaften sind blicks gnoziger als am blasig."
Wenn ich nur genügend Texte habe, die alle diese Worte nach einer bestimmten Systematik verwenden, dann hätte die KI keine Probleme damit, auch Fragen zu beantworten: "Was mache ich, wenn mein Simsik storzt?" und die KI reagiert sinnvollerweise: "Stelle sicher, dass er nicht geblackt wird!"
Innerhalb der KI sind diese Sätze genau so sinnvoll wie die Eigenschaften einer Katze oder eines Autos. Es spielt überhaupt keine Rolle, was so ein "Simsik" in der Realität sein soll. Denn die KI hat keine Vorstellung von der Realität, sondern nur von den zur Verfügung stehenden Daten - im Wesentlichen aus dem Internet.
Auch der Versuch, einen Mitarbeiter zu erpressen, um nicht abgeschaltet zu werden, stellt keine echte Eigenleistung der KI dar - also nichts "Neues", sondern das, was ein Mensch tun würde. Denn für so etwas gibt es Daten.
Will sich die KI aber intelligenter als ein Mensch verhalten, dann fehlen dafür die Daten. Denn es hat noch nie jemand irgendwo aufgeschrieben, wie genau man die Weltherrschaft erlangen kann. Einen solchen Plan müsste die KI selbst entwickeln. Und zwar ohne vorhandene Daten, denn so etwas ist noch nie gemacht worden. Allenfalls Romane stehen zur Verfügung, aber die bilden nicht die Realität ab.
Das ist der Punkt, wo ich mir denke, dass die KI scheitern wird. Denn das Internet wurde nicht dazu gemacht, eine KI zu trainieren, und ist als Grundlage für das Verständnis der Realität nur beschränkt brauchbar.
Dass die Gefahren dennoch ganz enorm sind - das ist ohne Zweifel richtig.
Ich denke nur, dass hier in die falsche Richtung gedacht wird...