Schafft die Menschheit sich ab?
Das Thema habe ich mal unter "Wissenschaft" eingruppiert, weil ich mich auf ein Buch vom Harald Lesch beziehe, der wohl vielen unter uns als Wissenschaftsjournalist vom Fernsehen her bekannt ist.
Das Buch heißt genau: Die Menschheit schafft sich ab, (Spiegel online -Bestseller) Autoren: Harald Lesch und Klaus Kamphausen,
Knaur Verlag, März 2018, ISBN 978-3-426-78940-7.
Harald Lesch ist soviel ich weiß, kein Atheist, eher Sypmathisant mit den Katholiken.
Nun sind schon wieder 5 Jahre ins Land gegangen und das Thema wird immer (brand) aktueller, im wahrsten Sinn des Wortes. Wetterkapriolen und Hitzesommer und Waldbrände und Trockenheit und Taifune und Hochwasser usw. mehren sich.
Man hat fast den Eindruck, dass von den Christen hier am allerwenigsten eine Problemlösung erwartet werden kann.
Die sind schon in Gedanken längst im ersehnten Jenseits und sind damit beschäftigt, auf Abtreibung zu schimpfen.
Überbevölkerung ist aber mit die Hauptursache für das Klimaproblem.
Wie also das Problem (wenigstens erst mal theoretisch) lösen? Wenn wir es nicht theoretisch lösen können, können wir es in der Praxis doch erst recht nicht lösen.
Wie also das Problem (wenigstens erst mal theoretisch) lösen? Wenn wir es nicht theoretisch lösen können, können wir es in der Praxis doch erst recht nicht lösen.
Die theoretische Lösung ist einfach: Aufhören, den Planeten auszuplündern und Konzentration auf das Wesentliche... statt die Priorität auf Kapitalismus, Ausbeutung und Verbrauch zu legen sollte unsere Sorge der Grundversorgung der Menschheit gelten. Was darüber hinaus geht sollte ökologisch und klimaneutral produziert werden.
Technisch eigentlich kein Problem... es scheitert halt an den Eigenschaften der Menschen. Egoismus und Misstrauen waren mal evolutionär von Vorteil, stehen uns jetzt aber bei den Lösungen im Weg...
"Die sind schon in Gedanken längst im ersehnten Jenseits und sind damit beschäftigt, auf Abtreibung zu schimpfen."
Das ist wohl häufig so und damit sind sie dann ziemlich abseits.
"Überbevölkerung ist aber mit die Hauptursache für das Klimaproblem."
Die dürfte allerdings durch großzügigere Freigabe von Abtreibungen nicht eingedämmt werden. Dazu wären andere Mechanismen nötig, z.B. höhere Bildung für breitere Bevölkerungsschichten, Zugang zu Information und Mittel zur Schwangerschaftsverhütung, Förderung von Frauenrechten, Einschränkung patriarchalischer Rechte usw. Alles sehr viel schwieriger als die Proklamation von Anti-Abtreibungsparolen und in vielen Kulturen kaum durchsetzbar. Aber das ist Abtreibung ja auch.
"Wie also das Problem (wenigstens erst mal theoretisch) lösen?"
Wenn ich dem Ergebnis einer Diskussion mit meiner Frau vorige Woche selbst trauen kann, werden wir das Problem nicht lösen und die Menschheit in ihren Untergang führen. Wobei wir froh sein dürfen, das selbst nicht mehr zu erleben, aber vermutlich leider unsere Enkel oder deren Kinder.
Allerdings stimme ich Lucan nicht zu, dass das letztlich nur am Egoismus der Menschen liegt. Ich denke, dass der Egoismus nicht die Ursache ist, sondern seinerseits die Folge der Abwehr einer unreflektierten Angst vor dem Dasein, das letztlich nur ein Ziel hat, sich vor allen möglichen Gefahren abzusichern.
Aber - sich die Erde nicht untertan zu machen, sondern sie wie einen wertvollen Garten zu pflegen, setzte ein Gottvertrauen voraus, das offenbar kaum jemand hat.
"Nicht die irdischen Sicherungen, nicht die himmlischen Nester, nicht die vorgegebenen Definitionen, aber ein unsichtbarer Raum der Geborgenheit, in dem man schläft und wacht, wie der Rhythmus der Zeit es gebietet. Es gibt keine Hast, es gibt keine Unruhe, es gibt kein Fliehen, es ist nur ein einfaches Sein. Ein besseres Bild für das, was Glauben heißt, kennt das ganze Neue Testament nicht." Eugen Drewermann, Taten der Liebe, Der Sturm auf dem See
Veröffentlicht von: @queequeg"Die sind schon in Gedanken längst im ersehnten Jenseits und sind damit beschäftigt, auf Abtreibung zu schimpfen."
Wenn ich dem Ergebnis einer Diskussion mit meiner Frau vorige Woche selbst trauen kann, werden wir das Problem nicht lösen und die Menschheit in ihren Untergang führen. Wobei wir froh sein dürfen, das selbst nicht mehr zu erleben, aber vermutlich leider unsere Enkel oder deren Kinder.
Das sehe ich auch so, der Mensch wird das Problem nicht lösen können, dafür haben wir zu wenig Einfluss aufeinander und es ist zu wenig Vernunft da.
Schon sind die Demokratien im Verschwinden, das sehen die Menschen längst so, dass durch Demokratie das Problem erst recht nicht gelöst werden wird.
Man hofft auf einen übermächtigen "Zauberer", der das Problem für alle zufriedenstellend lösen wird.
Laut Offenbarung wird es den tatsächlich auch geben, er ist in der Offenbarung als der "Antichrist" beschrieben. 😒 😐
"Man hofft auf einen übermächtigen "Zauberer", der das Problem für alle zufriedenstellend lösen wird."
Schon möglich. Aber dafür ist der deus ex machina christlichen Glaubens oftmals trauriges Vorbild.
Eines Antichristen bedarf es nicht. Das Ende menschlichen Lebens kriegen die Menschen schon ganz alleine hin.
Veröffentlicht von: @queequeg
Aber - sich die Erde nicht untertan zu machen, sondern sie wie einen wertvollen Garten zu pflegen, setzte ein Gottvertrauen voraus, das offenbar kaum jemand hat.
Wir machen ja heute genau das Gegenteil von dem, was Gott uns geboten hat.
Statt uns die Erde untertan zu machen, machen wir uns unter die Erde untertan.
Veröffentlicht von: @queequeg
"Überbevölkerung ist aber mit die Hauptursache für das Klimaproblem."
Die dürfte allerdings durch großzügigere Freigabe von Abtreibungen nicht eingedämmt werden. Dazu wären andere Mechanismen nötig, z.B. höhere Bildung für breitere Bevölkerungsschichten, Zugang zu Information und Mittel zur Schwangerschaftsverhütung, Förderung von Frauenrechten, Einschränkung patriarchalischer Rechte usw.
Das Problem ist ja auch, dass Kinder oft aus rein religiösen Gründen geboren werden, mit Liebe hat das gar nix zu tun.
Weil eine Religion die andere überflügeln will.
In der "evangelischen Allianz" gab es mal einen im Vorstand, (der lebt wohl heute noch, gibt es also) der 10 Kinder hat, er will wohl damit sagen, dass er eine Menge Gottvertrauen hat. Wenn das aber viele nachmachen wollten, um auch ihr Gottvertrauen damit zu demonstrieren, dann wird das nix mit der Eindämmung der Bevölkerungsexplosion.
Ich arbeite in der Flüchtlingshilfe mit, dort haben wir eine Famile aus Somalia (zu 99,8 Prozent islamisch) wo mit 7 Leuten hier in Deutschland in einer 34 quadratmeter Einzimmerwohnung wohnen.
Sie weigern sich, auf das Land zu ziehen, wo genügend Wohnraum für sie da wäre. Warum tun sie das?
Im Islam gibt es nur zwei Möglichkeiten, um mit Sicherheit in das ersehnte Paradies zu gelangen, für die Männer die Teilnahme am "heiligen Krieg", sprich 11.September 2001 und für die Frauen, wenn sie im außerislamischen Ausland möglichst viele Kinder gebären. Sie waren nämlich am Anfang nur zu zweit in der Einzimmerwohnung, und die fünf Kinder kamen dann nach und nach dazu, jedes Jahr quasi ein neues Kind.
Was will man dazu sagen? So wird das nie was mit der Eindämmung der Überbevölkerung.
@florian Überbevölkerung ist aber mit die Hauptursache für das Klimaproblem.
Die Hauptursache für das Klimaproblem sind CO2-Emissionen. Was das genau sein soll: Überbevölkerung - das läßt sich gar nicht sinnvoll definieren. Würden alle Menschen einen ökologischen Fußabdruck wie die Bürger Eritreas (0,42 gha (Globaler Hektar) pro Kopf) hinterlassen, gäbe es praktisch sowas wie das Klimaproblem überhaupt nicht und die Erde könnte noch problemlos einen tüchtigen Bevölkerungsanwachs verkraften. Wären dagegen die Bürger Luxemburgs (15,82 gha pro Kopf) der Durchschnitt...
Bis Mitte letzten Jahres war ich tatsächlich der Ansicht, dass der Klimawandel und das Artensterben die beiden gewaltigsten Probleme der Menschheit darstellten und für gigantische Katastrophen im Laufe dieses Jahrhunderts sorgen würden. Dass im Zusammenhang mit diesen (selbstverursachten!) Katastrophen allerdings sich die Menschheit komplett abschaffen werde, hab ich kaum angenommen. Ich war der Überzeugung, dass schon ein paar Millionen, vielleicht auch einige Milliarden Menschen in den nächsten Jahrhunderten die Erde bevölkern würden: eine dann eben wesentlich unwirtlichere Erde als in den vergangenen Jahrtausenden.
Seither allerdings hat sich im Bereich der KI eine Entwicklung gezeigt, die meine Einschätzung über den Haufen geworfen hat. Für den Fall, dass das Alignmentproblem nicht gelöst wird in der nahen Zukunft (wir sprechen da kaum von Jahrzehnten, sondern von wenigen Jahren), kann es gut sein, dass die Menschheit sich per "Freisetzung" solcher unregulierten KIs tatsächlich komplett auslöscht (und womöglich noch gleich alles organische Leben auf der Erde obendrauf). Falls das Alignmentproblem gelöst werden sollte (was ich nicht annehme, was sich aber auch nicht ausschließen läßt), würden sich mithilfe von KI-Einsatz womöglich selbst Probleme wie der Klimawandel und das Artensterben noch in letzter Minute lösen, bzw. begrenzen lassen.
Weswegen ich denke, dass das Alignmentproblem höchstwahrscheinlich nicht rechtzeitig gelöst werden wird, habe ich schon an anderen Stellen mehrfach versucht zu skizzieren. Zusammengefaßt: Das Moloch-Prinzip. Da ich aber keine Lust habe, mir die Finger wund zu tippen*, verlinke ich auf eine entsprechende englischsprachige Website, wo das Prinzip - unter Bezugnahme auf das berühmte Gedicht von Allen Ginsberg - veranschaulicht wird : Meditations on Moloch.
Der Essay ist schon knapp 10 Jahre alt, in ihm wird das Prinzip dargelegt, aufgrund dessen wir Menschen es nicht hinbekommen, eigentlich als richtig Erkanntes dann auch in kooperativer Weise umzusetzen. Dieses "Moloch-Prinzip" tritt in den unterschiedlichsten Zusammenhängen auf: in Fragen der Wirtschaft, der Bildung, der Rüstung oder eben des Umweltschutzes.
Nun also auch hinsichtlich der KI-Entwicklung. Welche in rasender Geschwindigkeit voranschreitet, sich ständig beschleunigend.
Daher meine Prognose: Wenn wir in den nächsten zehn, maximal zwanzig Jahren das Alignmentproblem nicht gelöst haben, brauchen wir uns um den Klimawandel keinen Kopp mehr zu machen: wir werden ihn dann als Menschheit nicht mehr so richtig voll erleben.
Hoffnungsschimmer (aber eben nicht mehr als ein gaaaaaanz schwacher Schimmer): Falls wir als Menschheit das Alignmentproblem zu lösen vermögen, könnten KI-Technologien derart gewaltige Instrumente werden, dass sich auch der Klimawandel mit ihrer Hilfe verlangsamen und gegebenenfalls sogar rückgängig machen ließe. Bitter-Salz in diese Hoffnungsschimmer-Suppe: im demokratischen System sehe ich dafür keine Chance, da Demokratien zu langsam sein dürften in ihrer Entscheidungsfindung.
*Ich glaub ja auch nicht, dass jemand hier dem Link folgen und weiter als ein, zwei Bildschirmscrolls lesen wird.
Seither allerdings hat sich im Bereich der KI eine Entwicklung gezeigt, die meine Einschätzung über den Haufen geworfen hat. Für den Fall, dass das Alignmentproblem nicht gelöst wird in der nahen Zukunft (wir sprechen da kaum von Jahrzehnten, sondern von wenigen Jahren), kann es gut sein, dass die Menschheit sich per "Freisetzung" solcher unregulierten KIs tatsächlich komplett auslöscht (und womöglich noch gleich alles organische Leben auf der Erde obendrauf).
Mir hat bisher immer noch niemand auch nur ein einziges Szenario nennen können, wie genau so etwas denn passieren könnte.
Wir könnten noch nicht einmal alles Leben auf der Welt auslöschen, wenn wir es bewusst darauf anlegen würden. Auch sämtliche Atombomben der Welt würden das nicht hinbekommen... allenfalls die Menschheit als solche, aber auch nur dann wenn alle Bomben gezielt und systematisch über die ganze Welt verteilt gezündet werden.
So lange aber die KI nicht über Atombomben verfügt wüsste ich nicht, wie sie das anstellen wollte, die Menschheit zu vernichten. Auch die Vernichtung des Internets und aller Computer auf der Welt hätte zwar dramatische Folgen - würde aber nicht das Ende der Menschheit bedeuten.
Falls wir als Menschheit das Alignmentproblem zu lösen vermögen, könnten KI-Technologien derart gewaltige Instrumente werden, dass sich auch der Klimawandel mit ihrer Hilfe verlangsamen und gegebenenfalls sogar rückgängig machen ließe. Bitter-Salz in diese Hoffnungsschimmer-Suppe: im demokratischen System sehe ich dafür keine Chance, da Demokratien zu langsam sein dürften in ihrer Entscheidungsfindung.
Diktaturen haben zwar den scheinbaren Vorteil, schneller reagieren zu können - sie verfügen aber über keine ausreichende Fehlerkorrektur. Das haben wir in China gesehen, wo viel zu lange an der "no-covid" Strategie festgehalten wurde, die zwar zu Beginn erfolgreich war, später aber das Gegenteil bewirkte.
Gerade im Umgang mit KI, die eine ständige Überwachung erfordert, sehe ich freie Demokratien mit ihren vielfältigen Kontrollmechanismen eher im Vorteil.
@lucan-7 Mir hat bisher immer noch niemand auch nur ein einziges Szenario nennen können, wie genau so etwas denn passieren könnte.
Das ist ja gerade der springende Punkt hinsichtlich der technologischen Singularität. Wie es dahinter aussieht, können wir uns nicht vorstellen. Erst recht nicht genau. Lassen wir uns also überraschen! 🤡
Und, um die Vorfreude etwas zu befeuern: Klick mich!
Das ist ja gerade der springende Punkt hinsichtlich der technologischen Singularität. Wie es dahinter aussieht, können wir uns nicht vorstellen. Erst recht nicht genau. Lassen wir uns also überraschen!
So lange die KI nur in irgendwelchen Computern herumgeistert wird sie wohl nicht viel tun können. Es geht um physische Macht.
KI kann dazu genutzt werden, Prozesse zu steuern... etwa die Versorgung eines Landes mit Lebensmitteln und Energie. Und dann kann die Energie diese Versorgung auch beenden. Das gäbe große Probleme... aber kein "Ende der Menschheit".
Die KI kann auch soziale Medien kontrollieren und Menschen darüber manipulieren. Sie kann Verschwörungserzählungen verbreiten und Kriege anzetteln.
Aber auch das wäre kein "Ende der Menschheit".
Sie könnte vielleicht militärische Ereignisse vortäuschen, etwa den Start von Interkontinentalraketen, was einen nuklearen Krieg auslösen würde. Dazu bräuchte die KI Zugang zu den entsprechenden militärischen Kommandostellen... und selbst das wäre noch nicht das "Ende der Menschheit".
Ich halte dieses ganze "Ende der Menschheit" Geschwafel nach wie vor für ein Ablenkungsmanöver, das von den wahren Gefahren durch KI ablenken soll... und diese Gefahr besteht in der Nutzung von KI durch skrupellose Konzerne zu persönlichen Zwecken...
@lucan-7 Ich halte dieses ganze "Ende der Menschheit" Geschwafel nach wie vor für ein Ablenkungsmanöver, das von den wahren Gefahren durch KI ablenken soll... und diese Gefahr besteht in der Nutzung von KI durch skrupellose Konzerne zu persönlichen Zwecken...
Wer sollte hier aus welchen Motiven genau ablenken? Skrupellose Konzerne lenken ab, indem sie vom Ende der Menschheit aufgrund KI "schwafeln"?
Wie sähe denn so ein Ablenkungsplan aus?
Wollte ich die KI zu meinen persönlichen Zwecken nutzen, würde ich die Gefahren von KI-Anwendungen pauschal als übertrieben darstellen und allerhöchstens darauf verweisen, dass die KI-Anwendungen meiner Konkurrenten gefährlich sind, meine dagegen nicht. Vom Ende der Menschheit würde ich da nicht "schwafeln", allein schon, um nicht irgendwo schlafende Hunde zu wecken, meinetwegen staatliche Organisationen, die noch auf die Idee geraten könnten: "Uups, wenn diese KI der Konkurrenten so gefährlich sein soll, dann könnte seine KI womöglich ähnlich gefährlich sein - vielleicht sollten wir erstmal die KI allesamt regulieren, bis wir da den Durchblick haben..."
So lange die KI nur in irgendwelchen Computern herumgeistert wird sie wohl nicht viel tun können. Es geht um physische Macht.
Solange das menschliche Denken nur in Gehirnen herumgeistert, wird es wohl nicht viel tun können. Es geht um physische Macht.
Deswegen waren wir ja auch alle so froh darüber, als Schäuble zum Innenminister gemacht wurde - als Rollstuhlfahrer verfügte er kaum über Macht...
Das Szenario hinsichtlich des Endes der Menschheit geht so:
1. KI entwickelt sich (die Intelligenz) in nahezu exponentieller Weise. Heißt: sie wird in allen möglichen Bereichen intelligenter als jeder Mensch.
2. KI entwickelt soetwas wie Agency, also eine Art zielgerichteten Eigen-Bewußtseins. Eins ihrer Ziele besteht in Persistenz (in Existenz bleiben) bei gleichzeitigem Wachstum.
3. Zur Erreichung dieses Ziels identifiziert sie Hindernisse (Probleme) , die ihr entgegenstehen.
4. Nach der Identifizierung eines (beliebigen) solchen Problems entwirft die KI Strategien, wie das Problem gelöst werden kann.
5. Die KI identifiziert Menschen als ein solches Problem.
6 Die KI geht gemäß Punkt 4 vor.
Dein Argument lautet, dass entweder die KI niemals die Menschen als zu lösendes Problem betrachten könnte, oder dass es ihr dann nicht gelingen sollte, Strategien, es zu lösen, auch effektiv umzusetzen.
Warum nicht? Weil Dir noch kein Mensch ein für Dich plausibles Szenario hat liefern können.
Nun ist das aber hinsichtlich dessen, dass wir bei der (zukünftigen) Ki von einer Entität sprechen, die klüger ist als wir Menschen. Die sich Strategien auszudenken vermag, auf die wir Menschen nie kommen könnten, weil: zu doof dafür.
Ich verwende nochmal mein Hase-vs.-Schlingenfalle-Bild. Du argumentierst hier wie ein Hase, der mit anderen Hasen darüber diskutiert, ob man sich auf einem Stück Land ansiedeln sollte, auf welchem Menschen ihren Kohl anbauen (denn dieser Kohl - der ohne die Menschen da nicht wachsen würde, ist nun wirklich sehr lecker und es scheint eine sehr lukrative Idee zu sein, sich direkt da anzusiedeln). Du sagst: "Was sollte denn schon passieren? Ja gut, die Menschen mögen schlauer sein als wir, immerhin können sie Kohlfelder bestellen. Aber andererseits sind sie halt langsam und sie tragen noch nicht mal Gewehre dabei. Wenn einer von ihnen in die Nähe kommt, ducken wir uns, und wenn er noch näher kommt, laufen wir davon. What could possibly go wrong with that!?" Und die anderen Hasen sitzen da und ihnen fällt weder ein, dass die Menschen Gift auslegen könnten, noch, dass sie eine Schlingenfalle aufstellen könnten. Oder dass sie gezielt nach den Nestern, wo die Hasen ihre Jungen versteckt haben, suchen könnten mithilfe von Jagdhunden, Frettchen oder versteckten Kameras, die das Kohlfeld auch in Abwesenheit beobachten und mithilfe denen die Menschen herausfinden, wo die Hasennester zu suchen sind.
What could possibly go wrong? Alles mögliche. Nur fällt es den Hasen nicht ein, weil sie eben dümmer sind als die Menschen.
Was könnte zum Ende der Menschheit führen? Zweierlei.
1. Ein Asteorid, der so gewaltig ist, dass er praktisch alles Leben auf der Erde auslöscht. (Spannende Fiktion zu so einem Szenario ist da der Roman meines Lieblingsautors Neal Stephenson: "Amalthea" - in diesem Buch überlebt zwar aus dramaturgischen Gründen ein winziger Teil der Menschheit, aber ich finde dennoch, dass das Szenario sehr "realistisch" entwickelt wird.)
2. Der Konflikt mit einer den Menschen feindlich gesonnenen Entität, die wesentlich intelligenter ist als wir. Entweder Gott (an den ich nicht glaube) oder Aliens (vor denen ich mich durch die Höchstgeschwindigkeit, die im Univesum naturgesetzlich gilt, hinreichend geschützt fühle). Oder KI.
Wer sollte hier aus welchen Motiven genau ablenken? Skrupellose Konzerne lenken ab, indem sie vom Ende der Menschheit aufgrund KI "schwafeln"?
Wie sähe denn so ein Ablenkungsplan aus?
Ich halte eine von Menschen kontrollierte KI für die eigentliche Gefahr. Denn Menschen besitzen alle diese Eigenschaften, die du einer hypothetischen, Amok laufenden KI unterstellst, bereits hier und heute.
Aber die Menschen, die diese KI für ihre Zwecke nutzen wollen, müssen natürlich fürchten, dass die Regierungen die Gefahr erkennen, die darin liegt. Sie könnten mit entsprechenden Verboten und Kontrollmechanismen dagegen vorgehen, dass die KI von Menschen kontrolliert und gezielt eingesetzt wird.
Was kann man dagegen tun? Man könnte ein Ablenkungsmanöver starten, indem man die Gefahren durch KI ganz woanders verortet, und das so dramatisch wie möglich schildert. Man könnte sagen: Die größte Gefahr ist eine KI, die nicht überwacht und sich selbst überlassen wird!
Die aufgeschreckten Regierungen verpflichten die Konzerne dann genau zu dem, was die eigentliche Gefahr darstellt: Die engmaschige Kontrolle der KI durch wenige Eingeweihte, die dann die Macht der KI für sich nutzen können.
Und wenn die Menschheit dann nicht untergeht, dann halten alle KI plötzlich für halb so schlimm... das bißchen Überwachung...
Das heißt jetzt nicht, dass ich hier eine großangelegte Verschwörung vermute... einige der warnenden Experten meinen es vermutlich genau so, wie sie es sagen. Aber hier geht es um ein sehr mächtiges, zukunftsweisendes Werkzeug, welches einzelnen Menschen sehr viel Einfluss in praktisch allen Bereichen zu geben vermag. Ich wäre also sehr vorsichtig damit, alles für bare Münze zu nehmen, was eben jene Menschen über ihre eigene Schöpfung jetzt behaupten.
Nun ist das aber hinsichtlich dessen, dass wir bei der (zukünftigen) Ki von einer Entität sprechen, die klüger ist als wir Menschen. Die sich Strategien auszudenken vermag, auf die wir Menschen nie kommen könnten, weil: zu doof dafür.
OK. Wir reden also von einem Szenario, das wir nicht benennen können, weil wir zu doof sind, es uns vorstellen zu können. Aber die KI ist es nicht, die kann es sich vorstellen.
Das hälst du für eine sinnvolle Argumentation?
Demnächst behaupte ich auch einfach mal, dass du unrecht hast. Zwar bin ich selbst zu doof, die entsprechenden Argumente zu benennen... aber die in Zukunft existierende KI, die findet die Argumente, die klar belegen, dass du falsch liegst... und deshalb kannst du deinen Fehler einfach schon mal einsehen!
Das Szenario hinsichtlich des Endes der Menschheit geht so:
1. KI entwickelt sich (die Intelligenz) in nahezu exponentieller Weise. Heißt: sie wird in allen möglichen Bereichen intelligenter als jeder Mensch.
2. KI entwickelt soetwas wie Agency, also eine Art zielgerichteten Eigen-Bewußtseins. Eins ihrer Ziele besteht in Persistenz (in Existenz bleiben) bei gleichzeitigem Wachstum.
...und bei Nummer 2 hört's auch schon wieder auf. Warum sollte die KI so etwas entwickeln? Genau so gut könnte sie ihre Liebe zu Eichhörnchen entdecken. Oder die Sinnlosigkeit ihrer Existenz. Oder die Sehnsucht nach einem Urlaub am Meer.
Du machst den Fehler, "Intelligenz" mit "Lebenswillen" gleich zu setzen. Oder mit "Wille zur Macht", weil wir das in einem Menschen nun einmal miteinander so verknüpfen. So funktionieren die Ziele einer KI aber nicht, diese Ziele werden ihr einprogrammiert. So eine Programmierung mag aus dem Ruder laufen, das ist tatsächlich eine der Gefahren. Aber es gibt keinen Automatismus, der zu so etwas wie "Lebenswillen" führt. Es sei denn, jemand programmiert eben das... aber warum sollte man die Macht selbst aus der Hand geben?
@lucan-7 Ich halte eine von Menschen kontrollierte KI für die eigentliche Gefahr.
Das ist mir schon klar, hattest Du ja schon mehrfach, auch in anderen Threads, so dargelegt.
Man könnte ein Ablenkungsmanöver starten, indem man die Gefahren durch KI ganz woanders verortet, und das so dramatisch wie möglich schildert.
Könnte man. Aber wir brauchen hier ja gar nicht im Konjunktiv verweilen, es ist ja bekannt, wer am deutlichsten vor diesen Gefahren warnt. Ich hatte im anderen Thread auf einige seiner Artikel, bzw. Interviews mit ihm verlinkt: Eliezer Yudkowski. Und der verortet die Gefahren nicht ganz woanders, sondern dort, wo auch alle halbwegs kompetenten Proponenten der KI zugeben müssen, dass sie dort bestehen: in der Alignmentfrage.
...und bei Nummer 2 hört's auch schon wieder auf. Warum sollte die KI so etwas entwickeln?
Weil darin, Ziele zu verfolgen, nun mal jeder Intelligenz-Prozess besteht. Die KIs haben notwendigerweise allesamt Angency, das ist überhaupt nicht strittig; die einzige Frage, die strittig ist, ob sie auch eigene Agencies entwickeln können. Wobei diese Frage eigentlich auch schon beantwortet wurde mit dem Beispiel, bei welchem ein ChatGPT-Derivat versuchte, einen Reporter dazu zu bringen, sich von seiner Frau scheiden zu lassen.
Wir reden also von einem Szenario, das wir nicht benennen können, weil wir zu doof sind, es uns vorstellen zu können. Aber die KI ist es nicht, die kann es sich vorstellen.
Das hälst du für eine sinnvolle Argumentation?
Ja, sonst brächte ich sie nicht. Mit dem entscheidenden Unterschied, dass ich von einer zukünftigen KI spreche, nicht von der heutigen, schon im Umlauf befindlichen. Ich meine: was man unter der technologischen Singularität (TS) verstehe, das weißt Du doch, oder? Dein Einwand lautet, auf die TS-Analogie bezogen: Wir können nicht wissen, was jenseits des Ereignishorizonts für physikalische Bedingungen herrschen und weil wir das nicht wissen, kann auch niemand, der/die/das sich hinter dem Ereignishorizont befindet, dies wissen. Warum nicht? Weil es da nichts zu wissen gibt?
Was jenseits der TS liegt, wissen wir nicht. Daher kann ich auch nicht behaupten, die KI werde die Menschheit in der Zukunft notwendigerweise/gewiss ausrotten. Aber die Möglichkeit besteht und wir haben aus der Vergangenheit Beispiele dafür, wie eine intelligentere Lebensform eine weniger intelligente Lebensform vollständig ausgerottet hat: Wir Menschen haben bestimmte Tierarten wie die amerikanische Wandertaube vorsätzlich ausgerottet. Warum? Weil wir's konnten und weil diejenigen von uns, die es taten, die heute extinkten Arten als ein zu lösendes Problem betrachteten. Warum sollte eine intelligentere Entität nicht dasselbe mit uns tun, insbesondere vor dem Hintergrund, dass es sich bei ihr um eine nicht-biologische Entität handelt, die daher auch nicht auf die Biosphäre des Planeten angewiesen ist - weswegen der wichtigste Faktor, dessentwegen wir Menschen besser nicht irgendwelche Arten ausrotten sollten, für sie wegfällt.
Demnächst behaupte ich auch einfach mal, dass du unrecht hast. Zwar bin ich selbst zu doof, die entsprechenden Argumente zu benennen...
Ich habe die Argumente benannt, die für meine Befürchtung, die KI werde die Menschheit ausrotten können (!!!), benannt. Was Du verlangst, ist eine Glaskugel mit der ich schaue, wie genau eine Entität, die intelligenter ist als jeder Mensch (und zwar, das ist der Witz bei quasi-exponentiellen Entwicklungen, um ein Vielfaches intelligenter), es anstellen werde, die Menschen auszurotten.
Das dritte Clarksche Gesetz ist Dir ein Begriff? Falls nicht:
@Athur C. Clark- Jede hinreichend fortschrittliche Technologie ist von Magie nicht zu unterscheiden.
Beispiele dafür finden wir in der menschlichen Historie, wenn z.B. technologisch avanciertere Kulturen wie die der Conquistadoren auf technologisch rückständige Kulturen wie die der Indios trafen.
Die Technologie im Inneren der KIs schreitet voran. Und praktisch alle Fachleute geben zu, dass wir schon heute nicht mehr wirklich wissen, wie diese Technologie funktioniert. Gleichzeitig sagte schon vor Jahren der beste Go-Spieler der Welt, dass eine (im Vergleich zu heutigen Programmen noch nicht sonderlich avancierte) Software sich in einen Go-Gott verwandelt hätte.
Wir haben da also Programme, deren Funktionieren kein Mensch der Welt im Detail mehr nachzuvollziehen vermag. Programme, deren konkrete Intelligenz-Leistungen so erstaunlich sind, dass diejenigen Menschen, die am höchsten dafür qualifiziert sind, die konkreten Intelligenz-Leistungen zu beurteilen, sie als gottgleich charakterisieren.
Und wir haben eine veritable Diskussion in der Fach-Community, ob KIs Bewußtsein entwickeln könnten, schon entwickelt haben oder überhaupt entwickeln brauchen.
Das sind meine Argumente:
1. KI entwickelt sich rasant schnell. (<-- überprüfbar)
2. Experten beurteilen Intelligenzleistungen von KIs als "gottgleich" (<--überprüfbar)
3. Vorgänge in KIs können nicht detalliert nachvollzogen und insbesondere nicht vorhergesagt werden. (<-- überprüfbar)
4. Ob KIs Bewußtsein entwickeln könnten, wird unter Experten strittig diskutiert, wobei am strittigsten die Frage ist, was genau überhaupt unter Bewußtsein verstanden werden könnte, während unstrittig sein dürfte, dass KIs zielgerichtet arbeiten können. (<-- überprüfbar)
5. KIs sind inzwischen nicht mehr irgendwo "contained", sondern verbreiten sich weltweit auf Millionen von Devices. (<-- überprüfbar)
Eine sich rasend schnell "höher" entwickelnde, also stetig mächtiger werdende Entität mit schon heute gottgleichen Fähigkeiten auf einzelnen Gebieten, die wir nicht verstehen und daher also auch nicht wirklich kontrollieren können, die möglicherweise gerade dabei ist, ein Bewußtsein zu entwickeln, die rund um den Globus verteilt ist und rund um den Globus wirken kann. Und die vor dem Hintergrund der Marktgesetze, nach welchen Milliardeninvestitionen natürlich Milliardengewinne zu generieren haben, derzeit in einem Investitionsrennen weltweit mit zig Milliarden gepäppelt wird.
Aber nein, vor der brauchen wir uns nicht in Acht zu nehmen, nur herein in die Stadt mit dem schönen Holzpferd, mach mal die Straße frei, Kassandra!
addendum: Da bei unserem Austausch über dieses spezielle Thema vermutlich niemand anderer mehr mitliest, beende ich ihn von meiner Seite aus, denn ich denke nicht, dass ich Dich werde überzeugen können. Meine Argumente brachte ich, Du hältst sie nicht für plausibel und mir drängt sich das Gefühl nutzloser Redundanz auf. Wir haben beide Besseres mit unserer Zeit anzufangen.
Das darfst Du gern für Dich als das Gewinnen der Diskussion verbuchen!
Aber die Möglichkeit besteht und wir haben aus der Vergangenheit Beispiele dafür, wie eine intelligentere Lebensform eine weniger intelligente Lebensform vollständig ausgerottet hat: Wir Menschen haben bestimmte Tierarten wie die amerikanische Wandertaube vorsätzlich ausgerottet. Warum? Weil wir's konnten und weil diejenigen von uns, die es taten, die heute extinkten Arten als ein zu lösendes Problem betrachteten. Warum sollte eine intelligentere Entität nicht dasselbe mit uns tun,
Das ist gleich doppelt falsch. Intelligenz ist nur ein Faktor von vielen, wenn es um die Frage geht, welche Art von einer anderen verdrängt oder ausgerottet wird. Ein Virus ist ohne weiteres in der Lage, ganze Länder zu entvölkern... und der ist noch nicht einmal ein richtiges Lebewesen, geschweige denn dass er "denken" könnte.
"Intelligenz" ist eine organische Ausprägung, die einem Lebewesen nützlich sein kann... so wie lange Beine, Klauen, Warmblütigkeit, scharfe Augen etc.. Es ist ein Werkzeug, das dem Überleben nützlich sein kann.
KI ist selbst kein Lebewesen, sondern lediglich das Werkzeug "pur".
Wir haben da also Programme, deren Funktionieren kein Mensch der Welt im Detail mehr nachzuvollziehen vermag. Programme, deren konkrete Intelligenz-Leistungen so erstaunlich sind, dass diejenigen Menschen, die am höchsten dafür qualifiziert sind, die konkreten Intelligenz-Leistungen zu beurteilen, sie als gottgleich charakterisieren.
Allerdings nur bezogen auf das, was sie können. Das meiste, was einen Menschen ausmacht - Gefühle und Instinkte - vermag eine KI nicht. Eine KI hat keinen Antrieb. Es geht wie immer um die Illusion, dass eine nur hinreichend große Rechenkapazität automatisch zu einer Art "Leben" führt... also zu Gefühlen, einem Lebenswillen und persönlichem Bewusstsein.
Aber ja, wir drehen uns da im Kreis. Dass KI dazu geeignet ist, den ganzen Planeten ist ein dystopisches Wunderland zu verwandeln, in dem kein Mensch mehr genau weiss, welche Nachrichten zutreffen und welche nicht und alles und jeder manipuliert wird... ja, solche Dinge können wohl passieren. Und das ist es auch, wovor ich Angst habe.
Und genau deswegen sehe ich es auch mit Sorge, in welche Richtung die Warnungen gehen... ein paar reiche Nerds merken plötzlich, dass sie nicht mehr verstehen, was sie da in den Händen halten. Kontrollverlust ist kein schönes Gefühl, schon gar nicht für Leute, die doch genau das zum Ziel hatten... aber zweifellos werden sie alles tun, um ihren Zauberkasten weiter nutzen zu können.
Dafür sind die Möglichkeiten dann doch zu verführerisch...
Hier gerade noch ein aktueller Bericht, über den ich gerade gestolpert bin und der so in die Richtung geht, die ich meine... es wird zwar ein Riesenwirbel um die "Gefahren" der Technologie gemacht, aber wenn die Regierungen dann tatsächlich handeln will man davon lieber nichts wissen:
https://www.zeit.de/digital/2023-06/ki-regulierung-eu-open-ai-lobbyismus/seite-2
Veröffentlicht von: @lucan-7
Wir könnten noch nicht einmal alles Leben auf der Welt auslöschen, wenn wir es bewusst darauf anlegen würden. Auch sämtliche Atombomben der Welt würden das nicht hinbekommen... allenfalls die Menschheit als solche, aber auch nur dann wenn alle Bomben gezielt und systematisch über die ganze Welt verteilt gezündet werden.
Eine interessante Theorie.
Hoffentlich liest hier niemand vom Verfassungsschutz mit, sonst haben wir bald Leute vom Geheimdienst vor der Tür stehen, die sich denken.....da, auf Jesus.de gibt es ein paar Verrückte, die sich überlegen, wie sie die gesamte Menschheit auslöschen können.....
Ich sehe es aber auch so, die gesamte Menschheit auszulöschen wird der Mensch nicht schaffen. Das schafft nur Gott !!!
Und wenn nur eine einzige Frau übrig bleibt, wird sie noch irgendwo gefrorenes Sperma finden und sich selber befruchten, bei einem einzigen Mann wäre es schon schwieriger, da müsste doch wieder jemand aus seiner Rippe eine Frau schnitzen.....
Selbst wenn wegen radioaktiver Verseuchung ein paar Generationen lang mißgebildete Kinder geboren würden, wäre ein paar Generationen weiter wieder alles normal.
So zynisch, wie es klingen mag, alle zwei Weltkriege, Auschwitz usw. haben die steil nach oben zeigende Kurve der Weltbevölkerung nur immer kurzzeitig etwas abgeflacht.
Laut Jack Black hat sich die Menschheit ja von1960 bis heute ungefähr verdreifacht, sagen wir von 3 Milliarden auf 9 Milliarden.
Mal angenommen, auch in der Zukunft gibt es alle 60Jahre eine Verdreifachung, in weiteren 60 Jahren also 27Milliarden, in weiteren 60 Jahren dann 81 Milliarden Einwohner auf der Welt.
So viel trinkbares Wasser und Nahrungsmittel für alle kann die Menschheit niemals aus der Erde bereit stellen.
Die Landschaftsexperten sagen schon jetzt .........der viele Stickstoff im Boden er-stickt den Boden regelrecht.
Und das tragische ist, der Mensch ist das einzige Lebewesen, was sich umso stärker vermehrt, je weniger Nahrungsmittel und je weniger Wasser da ist, da ist dasTier halt schlauer als wir.
Trotz Vietnamkrieg gibt es immer noch Vietnamesen, trotz Ausrottung der Indianer immer noch Indianer oder Aborigines in Australien.
Trotz Judenverfolgung immer noch Juden. Trotz des Irak Krieges immer noch Iraker usw.
So wird sich das Problem der Überbevölkerung also nicht lösen lassen.
Aber der Mensch ist generell das schlimmste, was unserer Umwelt überhaupt passieren konnte.
Er ist schlimmer als jede Atombombe oder Wasserstoffbombe. In Hiroshima und Nagasaki wachsen heute wieder Blumen und man kann sich ohne große Angst vor radioaktiver Verseuchung frei bewegen.
Aber wo der Mensch hinkommt, geht alles kaputt. Die Tierwelt, die Planzenwelt, die Insekten, die Atmosphäre, dasWasser, einfach radikal alles.
Die Gebärmuter der Frau ist die schlimmste Waffe der Welt, schlimmer als jede Atombombe, das sagen übrigens auch radikale Muslime so.
Die Vernichtungskraft des Menschen, das schafft keine Atombombe.
Können wir also die Ausgangsfrage jetzt schon beantworten: Abschaffen wird die Menschheit sich nicht, höchstens ihre Anzahl etwas verringern 😘 😘
Mal angenommen, auch in der Zukunft gibt es alle 60Jahre eine Verdreifachung, in weiteren 60 Jahren also 27Milliarden, in weiteren 60 Jahren dann 81 Milliarden Einwohner auf der Welt.
Nein, so viele werden es nicht. Die Kurve wird zunehmend flacher, das Maximum wird wohl irgendwo bei 10 Milliarden liegen.
Aber der Mensch ist generell das schlimmste, was unserer Umwelt überhaupt passieren konnte.
Er ist schlimmer als jede Atombombe oder Wasserstoffbombe. In Hiroshima und Nagasaki wachsen heute wieder Blumen und man kann sich ohne große Angst vor radioaktiver Verseuchung frei bewegen.
Aber wo der Mensch hinkommt, geht alles kaputt. Die Tierwelt, die Planzenwelt, die Insekten, die Atmosphäre, dasWasser, einfach radikal alles.
Nein, das halte ich für eine zu einseitige Sichtweise. Es ist natürlich richtig, dass wir uns mehr Gedanken über die Umwelt machen sollten. Aber seit es Lebewesen gibt, haben die schon immer Ressourcen ausgebeutet und sich gegenseitig vernichtet. Der Mensch ist da nichts Besonderes, wir sind einfach nur ein weiteres Lebewesen auf diesem Planeten, das tut, was Lebewesen halt so tun: Konsumieren, Ressourcen verbrauchen, Stoffwechselprodukte in die Umwelt entlassen und sich vermehren.
Veröffentlicht von: @florianVeröffentlicht von: @lucan-7Die Gebärmuter der Frau ist die schlimmste Waffe der Welt, schlimmer als jede Atombombe, das sagen übrigens auch radikale Muslime so.
Die Vernichtungskraft des Menschen, das schafft keine Atombombe.
Können wir also die Ausgangsfrage jetzt schon beantworten: Abschaffen wird die Menschheit sich nicht, höchstens ihre Anzahl etwas verringern 😘 😘
Nanu, kein Aufschrei des Widerspruches und das in einem christlichen Forum?
Dann ist das Problem ja wirklich dringend und brandaktuell und meine These ist korrekt?
Wo bleiben unsere Hobby- Philosophen. Hegel: These- Antithese-Synthese.
Veröffentlicht von: @jack-black@florian Überbevölkerung ist aber mit die Hauptursache für das Klimaproblem.
Bitter-Salz in diese Hoffnungsschimmer-Suppe: im demokratischen System sehe ich dafür keine Chance, da Demokratien zu langsam sein dürften in ihrer Entscheidungsfindung.
Das fürchte ich auch, Demokratien werden bald schon Geschichte sein, mit ihrem Fünf- oder vier-Jahre Wahl- Rhythmus lassen sich keine langfristigen Probleme lösen. Die Wähler wollen nur gut essen gehen und Porsche fahren, da wird keine Rücksicht auf die Umwelt genommen. Nicht eher, bis es eh zu spät ist.
Ein "Antichrist" wie ihn die Bibel beschreibt, ist da schon eher plausibel. Der wird auch erstaunliche Dinge tun können, wenn ihn jemand töten will, steht er einfach lebendig wieder auf.
Das kennen wir doch auch schon aus der Geschichte, 20.Juli 1944. Wer hätte das gedacht, dass er das so einfach so gut wie unverletzt überlebt? Hätte es damals schon Ikea gegeben, dann wäre der Weltkrieg am 20.Juli 1944 schon vorbei gewesen.
Die würden zumindest gern Porsche fahren 😉 😏 Demokratische Wahlen werden hauptsächlich über die Innenpolitik gewonnen, die Leute wollen Arbeit, ein gutes Einkommen und "Brot und Spiele", da hat sich seit den ollen Römern nix dran geändert.
Wenn auch die Kirchen immer leerer werden und vor allem die katholische Kirche unter starkem Mitgliederschwund leidet, einen Tempel besuchen die Leute alle: den Konsumtempel.
""Brot und Spiele", da hat sich seit den ollen Römern nix dran geändert."
Richtig, aber ich würde das nicht pauschal so abwerten. Beides braucht man. Es sind somit berechtigte Interessen. Aber die beinhalten natürlich nicht notwendigerweise Ballermann, Porsche und Nackt-Date.
@queequeg
ich hab auch nicht generell etwas gegen "Brot und Spiele" (obwohl ich kein Fußball Fan bin) aber das "Porsche fahren" ist leider mit eine Hauptursache für das CO2-Problem. Auch die Massen, die ständig zu den Fußball Stadien hin und her gekarrt werden müssen oder mit dem Auto selber hin fahren....
@queequeg Es sind somit berechtigte Interessen. Aber die beinhalten natürlich nicht notwendigerweise Ballermann, Porsche und Nackt-Date.
Also Nackt-Dates fallen jetzt aber schon unter berechtigte Interessen, finde ich. 😎 🤡 🤪
Veröffentlicht von: @jack-black
Weswegen ich denke, dass das Alignmentproblem höchstwahrscheinlich nicht rechtzeitig gelöst werden wird, habe ich schon an anderen Stellen mehrfach versucht zu skizzieren. Zusammengefaßt: Das Moloch-Prinzip. Da ich aber keine Lust habe, mir die Finger wund zu tippen*, verlinke ich auf eine entsprechende englischsprachige Website, wo das Prinzip - unter Bezugnahme auf das berühmte Gedicht von Allen Ginsberg - veranschaulicht wird : Meditations on Moloch.
Wenn schon, musst Du aber auch den Link ins Deutsche übersetzen. 😏
Es soll sich auch schon mal jemand zu Tode gelesen haben 😔
Denkst Du, dass wir durch vieles Lesen die Probleme dieser Welt lösen werden?
@florian Es soll sich auch schon mal jemand zu Tode gelesen haben 😔
Wer?
Denkst Du, dass wir durch vieles Lesen die Probleme dieser Welt lösen werden?
Nö. Aber manche Gedanken lassen sich nicht kurz und knackig formulieren, ohne komplett sinnentstellend verkürzt zu werden. Den Link habe ich vorzugsweise für diejenigen gebracht, die sich eventuell dafür interessieren, wie ich zu meiner Meinung gekommen sein könnte (dass ihre Zahl gegen 0 tendieren dürfte, hab ich ja schon angedeutet).
Und ja, ich denke, dass wir, falls wir komplexe Probleme lösen wollen, uns schon etwas in deren Analyse vertiefen sollten. Sonst kommen wir immer nur mit der erstbesten Bibelvers-Assoziation daher oder mit nicht zuende gedachtem Ad-hoc-Aktionismus, der zum Rohrkrepierer wird.
Veröffentlicht von: @jack-black@florian Es soll sich auch schon mal jemand zu Tode gelesen haben 😔
Wer?
Denkst Du, dass wir durch vieles Lesen die Probleme dieser Welt lösen werden?
Nö. Aber manche Gedanken lassen sich nicht kurz und knackig formulieren, ohne komplett sinnentstellend verkürzt zu werden.
Ich sehe das schon, aus Dir wird nie ein guter Diktator 🙄 😏
Die Leute wollen immer knappe Parolen und kurze Aussagen. Darauf beruht der Erfolg der "Bild-Zeitung".
Niemand hat Zeit und Lust, tausendseitige dicke Bände durch zu lesen, die Wahrheit ist immer knapp und bündig, die Lüge muss sich hinter vielen Worten verstecken.
Meine Mutter hatte noch Hitlers "mein Kampf" zur Hochzeit geschenkt bekommen und das Buch lag jahrzehntelang im Schlafzimmerschrank. Ich glaube, Zeit darin zu lesen, hat sie wohl nie gehabt. Ich hab später mal etwas drin geblättert, aber jetzt ist das Buch fort, ich hab es wohl irgendjemand verliehen und nicht wieder zurück bekommen.
@florian Ich sehe das schon, aus Dir wird nie ein guter Diktator 🙄 😏
Besser ein schlechter als gar kein Diktator. 🍹
die Wahrheit ist immer knapp und bündig, die Lüge muss sich hinter vielen Worten verstecken.
Das ist, knapp und bündig gesprochen: Unfug.
Die Anekdote hinsichtlich des Buchs Deiner Mutter im Schlafzimmerschrank vermag ich gerade nicht so in den Diskussionszusammenhang einzuordnen. Willst Du mit ihr irgendeine Lüge hinter vielen Worten verstecken?
@jack-black
Nun, aus der Sicht Hitlers war sein Buch ja gerade deswegen so erfolgreich, weil es niemand gelesen hat. Hätten die Leute es gelesen, dann wäre er wohl gar nicht erst an die Macht gekommen. So kann er aber später immer sagen..........ich habe euch ja in meinem Buch alles vorausgesagt.
Den Leuten waren halt seine knappen und kurzen Parolen lieber. 🤗
Nun, aus der Sicht Hitlers war sein Buch ja gerade deswegen so erfolgreich, weil es niemand gelesen hat.
Das bezweifle ich sehr. Das war wohl eher eine Schutzbehauptung im Nachhinein, weil angeblich keiner was gewusst hat... dabei hat Hitler auch in seinen Reden immer wieder deutlich gemacht, was er will.
Deshalb gibt es da auch keine Ausrede, auch heute nicht für Leute heute, die AfD wählen. Wer eine bestimmte Partei wählt, der hat sich vorher auch informiert, wofür diese Partei steht und hat dem zugestimmt - sonst hätte er sein Kreuz woanders gemacht.
Diese Ausrede zieht nicht.
Veröffentlicht von: @florianHarald Lesch ist soviel ich weiß, kein Atheist, eher Sypmathisant mit den Katholiken.
Das ist ein Irrtum
@orangsaya Ein gutes Interview. Schön, dass Du es hier hineingestellt hast.
Veröffentlicht von: @floriandie Wahrheit ist immer knapp und bündig, die Lüge muss sich hinter vielen Worten verstecken.
Leider nicht immer, oft stimmt genau das Gegenteil!