In den Medien ist ja überall von den Gefahren durch KI die Rede, wobei aber praktisch nur eine einzige immer wieder genannt wird: Dass KI die ganze Menschheit auslöschen könnte. Wie genau das passieren könnte, das wird nicht gesagt. Und auch nicht, warum eine KI dieses Ziel haben sollte.
Meiner Ansicht nach lenkt das viel zu sehr von den eigentlichen Gefahren durch KI ab, die auch nicht zu knapp sind (Und auch Menschenleben gefährden, wenn auch nicht unbedingt die ganze Menschheit).
Was ich konkret erwarte ist, dass Internet und damit verknüpfte Netzwerke demnächst weitgehend unbrauchbar werden. KI-generierte Nachrichten werden immer echter aussehen, das heißt, dass Nachrichten generell nicht mehr zu trauen ist, sobald ihre vermeintliche Herkunft manipuliert werden kann. Manipulation wird neue Level erreichen. Am Ende wird es womöglich wieder Zeitungen auf Papier geben, basierend auf Berichten analoger Speichermedien. Gleiches gilt für Banküberweisungen und alles Andere.
Krieg wird auf ein neues Level gehoben. Spionage von Industriegeheimnissen, Einschleusung von immer neuen Computerviren, Ausfall ganzer Industrien und damit verbundener Katastrophen.
Dass KI die Kontrolle über Waffen übernimmt wird wohl eher die Ausnahme sein, aber die Möglichkeiten dafür werden immer vielfältiger. In der Ukraine entstehen neue Generationen vernetzter, KI gesteuerter Kampfroboter... auch wenn manches davon noch Propaganda ist. Denn manche vermeintlich "KI-gesteuerten" Systeme werden nach wie vor von Hand in ihre Ziele gesteuert.
Aber die Gefahr, KI selbst als Angriffswaffe zu verwenden, um gegenüber anderen Ländern im (vermeintlichen) Vorteil zu bleiben ist wohl tatsächlich real - und daraus würden für Millionen Menschen (oder mehr) tatsächlich ganz reale Katastrophen folgen.
Und das wäre dann tatsächlich mit der Atombombe vergleichbar.
Das sehe ich ähnlich. Die KI tut grundsätzlich das, was man ihr aufträgt.
Allerdings tut sie es nicht immer so wie gedacht. um einen Vergleich mit Menschen heranzuziehen: Wenn ich jemanden bitte, mir etwas zu besorgen, und der das einfach klaut, um es mir zu geben, dann war das nicht meine Absicht - ist natürlich ein hypothetisches Beispiel.
Bekannte Beispiele bei KI-Ausbrechern sind meist in der Kategorie von »Schummeln«: Etwa wenn eine KI gelernt hat, Bilder von Krebs und von harmlosen Knoten anhand der Metadaten der Bilder zu unterscheiden, in denen zu erkennen war, welche Bilder aus der Onkologie stammen … auch der Angriff auf Hugging face hatte ja das Ziel, an eine schon existierende Lösung zu kommen, statt sie selber recherchieren zu müssen.
Je spezialisierter eine KI ist, desto geringer der mögliche Schaden - mit einem Tool zur Verjüngung von Gesichtern kann man keine Stromnetze lahmlegen.
Die erste Gefahr ist KI, die gezielt als Waffe angesetzt wird. Da muss man schon aufpassen, dass die am Ende nicht auch den Auftraggeber angreift … das dürfte das einzige Szenario sein, in dem am Ende die Menschheit ausgerottet werden könnte. Wahrscheinlicher ist da schon, dass beide Kriegsparteien sich gegenseitig so angreifen, dass nur noch Abschalten der internationalen Internetverbindungen hilft.
Die zweite Gefahr ist eine KI, die ein Subziel anstrebt, dass überhaupt nicht geplant war, bei den generellen KIs der großen Tech-Konzerne sind da offenbar jetzt schon Dinge möglich, die sich »niemand« vorher vorstellen konnte. Bis zur Auslöschung der Menschheit wird das wohl kaum gehen, aber auch ohne das kann da schon viel Schaden angerichtet werden,
Was ich konkret erwarte ist, dass Internet und damit verknüpfte Netzwerke demnächst weitgehend unbrauchbar werden. KI-generierte Nachrichten werden immer echter aussehen
Wenn es dazu kommt, hat das auch Auswirkungen über reine Nachrichten hinaus. KI-erzeugte Daten, die scheinbar von einer Firmenfiliale kommen und so eine ganz neue Art von »Phishing« in der Firmenzentrale ermöglichen, oder mindestens das Vertrauen in Netzwerkverbindungen zwischen Firmen zerstören, werden mindestens genauso zerstörerisch (im Sinne von »wird unbrauchbar«) sein. Im schlimmsten Fall geht technologischer Fortschritt wieder verloren.
Am Ende wird es womöglich wieder Zeitungen auf Papier geben, basierend auf Berichten analoger Speichermedien
Nur wer wird solchen Zeitungen vertrauen? Auch analog kann man belogen werden, Fake News, Desinformation, Korruption bei Nachrichtenverbreitern wird durch » alles analog« nicht aus der Welt geschafft. Am Ende wird es eine Welt von lokalen Wahrheiten und globalen Gerüchten sein. Und daraus wieder ein weltweites seriöses Netzwerk aufzubauen, wie es das mit Presseagenturen etc. gab, wird dauern.
Und KI als Waffe kann ja nicht nur von Staaten angewandt werden, Ein »Botnet«, dass in erster Linie ein virtuelles Rechenzentrum für KI-Aufgaben darstellen, und dann mit Hilfe dieser Ki die eigentlichen Ziele anzugehen: ist noch Zukunftsmusik, aber durchaus denkbar, und das könnte auch etwas werden, was eine Terroristengruppe beherrscht. Natürlich nach entsprechender Vorarbeit von ganz legalen KI-Unternehmen. Und was, wenn die organisierte Kriminalität einige Milliarden an »gewaschenem« Geld in KI investiert?
Am Ende könnte es einen Zivilisationsbruch geben, in dem zuerst Internet und IT-Wissen verloren gehen, und als Folge davon weiteres wissen. Katastrophen, Flüchtlingsströme, Angriffe der Verlierer gegen die (noch) Wohlhabenden, klar, irgendwann wird die Abwärtsspirale stoppen, aber wann?
Am Ende wird es womöglich wieder Zeitungen auf Papier geben, basierend auf Berichten analoger Speichermedien.
Die Frage ist nicht, ob die Nachricht über Papier oder Digital zu dir kommt, sondern wie sie entsteht. Ich kann genau so gut KI generierten Müll auf Papier und Flyer drucken. Hat mit Propaganda früher auch wunderbar geklappt.
Gleiches gilt für Banküberweisungen und alles Andere.
Wo siehst du da jetzt den Zusammenhang zur KI? Eine Banküberweisung ist Kryptographisch abgesichert. Ein Bankkonto einer echten Person zugewiesen.
Krieg wird auf ein neues Level gehoben. Spionage von Industriegeheimnissen, Einschleusung von immer neuen Computerviren, Ausfall ganzer Industrien und damit verbundener Katastrophen.
Oder schlicht eine falsche Auswertung durch die KI und ein darauf basierter Befehl eines Menschen.
Aber die durch KI massenhaft entdeckten 0-Day-Lücken können auch ein große Gefahr werden. Nicht nur fürs Militär, auch für die Wirtschaft.