Hallo zusammen,
Ich habe vor einiger Zeit mal in einem Internetartikel was davon gelesen, dass sich eine Frau, welche keine sonderlich großen psychischen Auffälligkeiten hatte, mal auf so einer KI-Bot Plattform angemeldet hat, glaube das war Character AI oder zumindest so eine ähnliche. Jedenfalls hat sie dann einen KI Bot von irgendeiner prominenten Person genommen oder selber erstellt und mit diesem gechattet. Was als harmloses Rollenspiel begann, soll dann später wohl regelrecht ausgeartet sein, so dass sie anfing die reale Person, auf welcher der Bot angelehnt war, zu stalken und zu bedrohen, weil sie wohl irgendwie eine fiktive Erpressung dort durchgespielt hatte...Ich weiß es nicht mehr so genau, vielleicht kennt jemand den Artikel. In einem anderen Fall, soll es sogar zu einer Entführung gekommen sein, weil sich durch diesen Chatbot ein Mann in einen Promi verliebt haben soll.
Ich frage mich, wie sowas passieren kann, obwohl die Leute ja eigentlich wissen sollten, dass es sich nicht um die reale Person handelt und das ja auch immerwieder als Hinweis aufploppt. Aber wie können Leute, die ja allem Anschein nach mit beiden Beinen feste im Leben stehen, sich so leicht aus der Bahn bringen lassen?
Kann es sein, dass an der Theorie, dass man, wenn man mit diesem Chatbot komuniziert, man sich in wirklichkeit mit einem Dämon unterhält? Habe das selbst mal aus Jux und Tollerei auf Character AI ausprobiert und muss sagen, dass das teilweise wirklich unheimlich echt gewirkt hat.
Kann es sein, dass an der Theorie, dass man, wenn man mit diesem Chatbot komuniziert, man sich in wirklichkeit mit einem Dämon unterhält? Habe das selbst mal aus Jux und Tollerei auf Character AI ausprobiert und muss sagen, dass das teilweise wirklich unheimlich echt gewirkt hat.
ein Dämon ist ein Dämon und ein Chatbot ist ein Chatbot. Das eine sind Algorythmen, das andere Geistwesen.
Ich finde es gut, dass man das trennt.
Sonst könntest du auch annehmen, dass du über diese Bots mit Gott kommunizieren könntest- denn was einem Dämon möglich ist, ist Gott doch sicher auch möglich. Wieso sollte er weniger dazu in der Lage sein?
Wenn man sich bewusst macht, dass das sicherlich nicht auf diese Weise funktioniert, dann ist einem auch bewusst, dass da kein Dämon auf der anderen Seite sitzt - sondern eben ein Computer, der einfach nur sehr gut auswerten kann, welches Wort als nächstes am wahrscheinlichsten ist.
Kann es sein, dass an der Theorie, dass man, wenn man mit diesem Chatbot komuniziert, man sich in wirklichkeit mit einem Dämon unterhält? Habe das selbst mal aus Jux und Tollerei auf Character AI ausprobiert und muss sagen, dass das teilweise wirklich unheimlich echt gewirkt hat.
Du schreibst selbst:
"glaube das war Character AI oder zumindest so eine ähnliche"
"Ich weiß es nicht mehr so genau"
"soll es sogar zu einer Entführung gekommen sein"
Das heisst, es fehlt dir an genauen Informationen zu diesem Fall. Und das wäre schon nötig, damit man das Ganze genauer beurteilen kann, also was genau überhaupt in diesem Fall passiert ist.
Dass so ein chat mit einer KI "echt" wirkt ist ja der Sinn hinter so einer KI.
Was das Ganze jetzt mit einem "Dämon" zu tun hat und was das für einen Unterschied machen soll ist mir auch nicht ganz klar... du hast das hier unter "Wissenschaft" gepostet, und in der Wissenschaft sind Dämonen nicht bekannt. Das ist eine Glaubensfrage, das lässt sich hier auch nicht beantworten.
Es gibt zahlreiche Betrüger, die auf neue Entwicklungen setzen um Menschen zu schikanieren oder ihnen mit Romance-Scam das Geld aus der Tasche zu ziehen.
Aktuell beispielsweise mit einer Plattform, die es Fans ermöglicht hat mit ihrem Idol auf WhatsApp zu chatten. Stattdessen machen das Agenturen in intensiver Absprache mit den Promis und sorgen dafür, dass damit viel Geld verdient wird. Richtig viel.
Keine Ahnung was du meinst, wenn du von einer Unterhaltung mit einem Dämon sprichst. Ja sicherlich spricht man über seine Sehnsüchte und spricht vertrauensvoll und vielleicht intim.
Der Irrtum könnte nicht größer sein. Er ist aber verständlich, wenn jemand nicht an die Existenz Gottes glaubt und keine persönliche Erfahrung gemacht hat. Er verstärkt die Selbstimmunisierung und offenbart ein Nähe-Distanz-Problem.
Ein vermeintlicher Irrtum, den du allerdings nicht zu belegen vermagst... wie halt so üblich, bei dieser Thematik.
Abgesehen davon.... die Programmierer nehmen offensichtlich die Quelle der Ursprungsinformation ernster als du und Jack.
Ich nehme an, die nehmen einfach die Bibel wie sie halt so ist... was immer dabei herauskommt ist eine Frage der Perspektive.
Jesus sagte nicht, wir sollen seine Beweiser sein, sondern seine Zeugen.
Kann man wohl so sehen... 😎
Aber sollten die Wundertätigkeiten der Jünger in seinem Namen nicht so etwas wie einen Beleg darstellen?
Zwar bin ich der Ansicht, dass auch so etwas kein Beleg wäre... aber es hat ja den Anspruch zweifellos unterstrichen.
@zahsen94 Kann es sein, dass an der Theorie, dass man, wenn man mit diesem Chatbot komuniziert, man sich in wirklichkeit mit einem Dämon unterhält?
Abgesehen davon, dass diesem Satz ein paar Wörter fehlen (an der Theorie was dran sein könnte), wäre zu sagen: Da handelt es sich nicht im wissenschaftlichen Sinne um eine Theorie, sondern allenfalls um eine wilde Spekulation, bei der die Begriffe nicht mal geklärt zu sein scheinen. Was soll denn Deiner Ansicht nach ein solcher Dämon sein und wie ließe er sich von einem Nicht-Dämon unterscheiden?
Interessanterweise hat Stern einen plausiblen Einwand gebracht, zumindest ist er in sich stimmig:
Sonst könntest du auch annehmen, dass du über diese Bots mit Gott kommunizieren könntest- denn was einem Dämon möglich ist, ist Gott doch sicher auch möglich. Wieso sollte er weniger dazu in der Lage sein?
In sich stimmig meint hier allerdings: Falls irgendwelche transzendenten Entitäten (Götter, Dämonen, Engel, Ahnen-Geister, you name it) nicht per Chat-Bot mit Menschen kommunizieren können, können Dämonen dies auch nicht. Umgekehrt gilt freilich meines Wissens die Aussage über Gott, dass seine Wege unergründlich seien, dass der Heilige Geist weht wo er will und so fort. Und entsprechend müssten religiös Gläubige zumindest die Möglichkeit akzeptieren, dass Gott auch per Chatbot mit Menschen in Kontakt treten könne - wer wollte es ihm verwehren? Paulus ließ er bekanntermaßen einfach so umfallen, damit der jenseitige Jesus sich mit ihm unterhalten konnte, oder er schickte Maria geflügtelte (oder ungeflügelte?) Chatbots, um sie von der bevorstehenden himmlischen Schwangerschaft in Kenntnis zu setzen. Und darüber hinaus benutzen Millionen, wenn nicht Milliarden von Menschen regelmäßig ein technologisches Device, um direkt oder per Vermittlung des Heiligen Geists mit Gott persönlich zu kommunizieren. Nennt sich: Bibellesen.
Also: Wenn Gott sich aussuchen kann, wie, wo und wann er mit den Leuten in Kontakt kommen will, dann wäre es vollkommen logisch anzuerkennen, dass er dies selbst verständlich auch per Chatbot tun kann. Und wenn man von der Existenz irgendwelcher Dämonen ausgeht, die Menschen persönlich ansprechen und irgendwie verführen, verderben oder einfach nur den Nachmittag versauen wollen, dann ist es vollkommen logisch, anzunehmen, dass sie sich dazu der Gadgets à la mode bedienen. Soviel zu dem religiösen Aspekt der Angelegenheit.
Nun fragst Du hier allerdings im Unterforum "Wissenschaft" nach, und wissenschaftlich betratet gibt's keine Dämonen. Damit wäre Deine Frage also schnell beantwortet.
Allerdings steht in der Überschrift des Threads ja auch die "menschliche Psyche". Und deren Beeinflussbarkeit durch gefakte Entitäten ist ein sehr interessanter Forschungsbereich. Schon das in den Sechziger Jahren von Weizenbaum entwickelte Computerprogramm ELIZA (benannt nach einer Figur aus Bernard Shaws Verarbeitung des Pygmalion-Motivs) vermochte es, bei vielen Usern Reaktionen auszulösen, die denen ähnelten, die sich bei Interaktionen mit menschlichen Gegenübern gehabt hätten. Seit damals wird dieser psychologische Effekt sogar als Eliza-Effekt bezeichnet. Sprachliche Interaktion ist für uns Menschen gewissermaßen das Menschlichste, was es gibt. Man kann Tiere streicheln, man kann in ihrer Mimik und Gestik lesen und so einiges über ihre jeweilige Gefühlslage usw. herausfinden. Aber sprechen können sie halt nicht. Kurz: Wer mit uns spricht, ist uns Mensch. Selbst, wenn jemand Unsinn redet, gehen wir davon aus, dass er ein Mensch ist und womöglich nur gerade verwirrt. Oder dass wir ihn aus irgendeinem anderen - prinzipiell erklärbaren - Grund nur gerade jetzt nicht verstehen.
Wenn allerdings das, was er uns sagt, aus unserer Perspektive Sinn ergibt, dann ist es uns psychologisch kaum möglich, ihn nicht für einen Menschen zu halten. Näheres dazu lässt sich hier im dem Wikipedia-Artikel zum Turing-Test nachlesen. (Die von Turin vorgeschlagene Experimentaufstellung unterscheidet sich übrigens - wie ich finde: sehr interessanterweise - deutlich von dem, was wir seither allgemein unter Turing-Test zu verstehen gelernt haben.)
Man kann darin, dass Menschen sich sehr leicht von AI-Bots zu der falschen Annahme verleiten lassen, auf der anderen Seite säße eine "echte" Person, mit guten Gründen eine Gefahr sehen. Und dass hochkomplexe LLMs wie ChatGPT oder Gemini 3 praktisch unbeaufsichtigt auf die Menschheit losgelassen wurden und werden, halte ich persönlich - wegen der existentiellen Gefährdungspotentiale solcher Technologien - für ein Verbrechen.
Jedoch: Die Anwendungsmöglichkeiten solcher Technologien im positiven Sinne sollte man nicht unterschätzen. Gerade im psychotheapeutischen Bereich fehlen bekanntermaßen Behandlungsplätze. Alignte* Psychotherapie-AI-Bots könnten da womöglich für Hunderttausende vpsychisch Erkrankter, die sich keinen "echten" Therapeuten leisen können, ein Segen sein. Experimentell wurde z.B. schon aufgezeigt, dass AI-Bots von Usern als verständnisvoller, geduldiger und empathischer empfunden wurden als echte, menschliche Psychotherapeuten. Wenn wir nun mal annehmen, dass entsprechende Psychotherapie-AI-Agenten zurückgreifen können auf die allerneusten psychologischen Erkenntnisse, dass sie immer 100%ig bei der Sache sind, nie "einen schlechten Tag" haben, nie müde oder gelangweilt von den Ausführungen ihrer Patienten sein können... Vermutlich werden solche Bots schon in naher Zukunft die besseren Therapeuten sein in einer Gesellschaft, wo die Leute ohnehin kaum noch ihren Blick auf ihre Gegenüber richten, sondern gewohnheitsmäßig auf ihr Smartphone-Display.
Gestern unterhielt ich mich genau darüber mit einer Frau, deren Nichte gerade ihre Psychotherapeuten-Ausbildung macht - eine langwierige, aufwändige und entsprechend Ausbildung (weswegen dann später halt auch die Therapie-Stunden immer so teuer sind, dass die Krankenkassen versuchen, möglichst wenige von denen bezahlen zu müssen...). Das Argument dieser Frau, warum nicht nur kurz- sondern auch mittelfristig nicht menschliche Ärzte durch KIs und Roboter ersetzt werden würden, lautete: Berührung. Nur menschliche Ärzte/Thearpeuten könnten Menschen berühren, also in einem helfenden, beruhigenden oder simulierenden Sinne: die Hand halten, das Gesicht streicheln, einfach nur die Hand auf die Brust oder den Kopf legen...
Okay, sagte ich, bis Roboter dazu in der Lage seien, könne es noch ein Weilchen dauern, und ob dann die haptische Sensation ausreiche oder nicht doch für die Patienten wesentlich sei, dass sie von einem Menschen statt einer Maschine ausgelöst werde, könnte man als fraglicht betrachten. Aber: um den Leuten über die Wange streicheln zu können, braucht niemand eine mehrjährige Fachausbildung. Die ideale pychotherapeutische Behandlung der Zukunft könnte also vielleicht so aussehen, dass sich eine AI mit dem Patienten unterhält und ein menschlicher Assistenz immer dann streichelt oder knetet oder handhält, wenn er von der AI dazu aufgefordert wird. Ungelernte Tagelöhner könnten diesen Job ausführen, die Behandlungskosten könnten entsprechend stark sinken. Dazu musste sie lachen.
*Da liegt die Crux. Denn das Alignmentproblem wurde bislang nicht gelöst und seine Lösung erscheint von Tag für Tag in weitere Ferne zu rücken.
Habe das selbst mal aus Jux und Tollerei auf Character AI ausprobiert und muss sagen, dass das teilweise wirklich unheimlich echt gewirkt hat.
Genau das ist der Sinn von Chatbots. Sie sollen echt wirken. Dafür wurden die Algorithmen geschaffen und die Modelle trainiert.
Warum du da jetzt irgend welche Dämonen rein interpretierst bleibt wohl dein Geheimnis.
Aber wie können Leute, die ja allem Anschein nach mit beiden Beinen feste im Leben stehen, sich so leicht aus der Bahn bringen lassen?
Zu den konkreten Fällen kann man ohne weitere Infos nichts sagen.
Allgemein besteht bei solchen Beziehungen die Gefahr der "emotionalen Abhängigkeit".
https://www.tagesschau.de/kultur/ki-liebe-100.html