Palantir: Chance oder Bedrohung?
Ein recht komplexes Thema, über das man mal immer wieder in den Medien stößt, ist die Firma Palantir und ihre Produkte, die allerdings so komplex sind, dass keiner so richtig durchsteigt was das eigentlich ist und was es ermöglicht..
Dazu mal ein Beispiel:
Eine junge Frau geht nachts durch einen Park. Auf sie kommt ein Mann zu, was ihr etwas unheimlich ist.
Nun ist dieser Park allerdings mit Überwachungskameras ausgestattet. Und auf diese Kameras greift eine Plattform zur Datenanalyse zu, die umfangreiche Auswertungen ermöglicht.
Die Datenanalyse führt eine Gesichtserkennung durch. Der Mann ist verheiratet, hat zwei Kinder, und wohnt in der Nähe des Parks. Zehn Minuten zuvor hat er Brot und Milch gekauft, dabei hat er mit seiner Frau telefoniert. Er befindet sich auf direktem Weg nach Hause. Ergebnis der Analyse: Zu 92% keine Gefahr.
Oder das Ergebnis lautet anders: Der Mann wohnt in einem ganz anderen Stadtteil. Er hat Klebeband, ein Cuttermesser und Kabelbinder gekauft. Den ganzen Tag über war er auf Internetseiten unterwegs, die Gewalt an Frauen zeigen und verherrlichen. Ein Abgleich mit Polizeidaten zeigt, dass der Mann mehrfach wegen Vergewaltigung vorbestraft ist. Eine halbe Stunde vorher hat er außerdem eine Flasche Wodka gekauft. Ergebnis der Analyse: zu 98 % Gefahr, Alarm, die nächste Polizeistreife wird alarmiert und begibt sich sofort zum Park, um nach dem Rechten zu sehen.
So oder ähnlich könnte wohl ein Werbevideo der Firma Palantir aussehen, denn mehr oder weniger ist das genau das, was etwa das Programm "Palantir Gotham" leisten kann, welches jetzt auch in Deutschland verstärkt eingesetzt werden soll. Zwar sehen die geplanten Szenarien dafür etwas anders aus, was ich hier geschildert habe liegt aber im Bereich dessen, was möglich wäre. Ziel des Ganzen ist in erster Linie Terrorismusbekämpfung.
Wenn also in Deutschland ein Video eines Jugendlichen auftaucht, welcher verkündet, dass er sich dem IS anschließen wird, dann kann die Software zum Einsatz kommen und Verknüpfungen herstellen. Mit welchen Leuten hat der Jugendliche telefoniert, und mit welchen Leuten haben diese gesprochen? Dann findet man beispielsweise heraus, dass er den gleichen Friseur besucht wie ein Mann, der verdächtige Chemikalien gekauft hat. Zwar nicht in großer Menge, aber der Friseur hat mit einem Mann telefoniert, der die gleichen Chemikalien gekauft hat. Und dessen Bruder ist erst kürzlich in die Türkei gefahren, wobei er zwei Wochen lang an einem unbekannten Ort war.
Die Software ist in der Lage, Filme, Texte, Bilder, pdfs, Mobilfunkdaten, Rechnungen, Surfverhalten und alles, was irgendwo irgendwelche digitale Spuren hinterlässt, sinnvoll zusammenzuführen und zu analysieren. Wer sich je gefragt hat, wie denn der US Geheimdienst an die Informationen kommt, die er dann und wann an die deutschen Behörden weiterleitet: Es ist genau diese Software.
Nun ist der Kampf gegen Terrorismus und andere Kriminelle eine lobenswerte Sache. Aber man braucht nicht viel Fantasie, um zu erkennen, was man damit noch alles anstellen kann. In den USA wird die Software jetzt unter Trump dazu verwendet, "illegale Einwanderer" aufzuspüren. Auch solche Leute, die zwar keine Papiere haben, aber einfach nur ein anständiges und normales Leben führen.
Denkbar ist aber noch viel mehr. Also beispielsweise Leute aufspüren, die schlecht über Trump geredet haben. Oder die die Demokraten wählen. Oder transgender sind.
Es ist mal wieder die Abwägung zwischen Freiheit und Sicherheit... nur dass die Entscheidung immer extremer wird: Keine Freiheit mehr im Tausch gegen totale Überwachung.
Und nur die Mächtigen entscheiden dann noch, gegen wen sich der Terror richten wird...
An der Stelle müsste ich jetzt eigentlich etliche Quellen angeben... es ist etwas mühsam, sich das alles zusammenzusuchen.
Der Wikipediaartikel verweist auf eine Doku über einen der Gründer, Alexander Karp... ich finde sie allerdings recht nichtssagend, im Grunde ist es eine Doku darüber, dass es keine Doku geben wird... aber das war der Ausgangspunkt für mich, mich näher mit der Sache zu beschäftigen:
https://de.wikipedia.org/wiki/Palantir_Technologies
Wie seht ihr das Thema?
Ist es der "Kampf gegen den Terrorismus" wert, ein solches Werkzeug einzusetzen, das auch leicht missbraucht werden kann...?
@lucan-7 Ist es der "Kampf gegen den Terrorismus" wert, ein solches Werkzeug einzusetzen, das auch leicht missbraucht werden kann...?
Nein.
Nein.
Hast du mal Teile davon oder die ganze Serie gesehen: Person of Interest?
Hauptspieler James Caviezel als John Reese und Michael Emerson als Harold Finch.
Da ist genau das Thema der totalen Videoüberwachung mit MultiInformationen und KI verarbeitet. Die Serie lief von 2011 - 2016. Sehr eindrücklich und auch bedrückend.
Hast du mal Teile davon oder die ganze Serie gesehen: Person of Interest?
Nein... aber das Thema ist tatsächlich das gleiche. Nur dass Palantir halt die reale Version ist.
Da ist genau das Thema der totalen Videoüberwachung mit MultiInformationen und KI verarbeitet. Die Serie lief von 2011 - 2016. Sehr eindrücklich und auch bedrückend.
Das Schlimme ist, dass ich bereits vor vielen Jahren dachte: "Was, wenn alle digitalen Informationen irgendwann mal zusammengeführt werden...?"
Und das ist dann ja tatsächlich so ziemlich alles, was wir tun: Einkaufen, Auto anmelden, Versicherung, Gesichtserkennung, Ablesen des Nummernschildes, polizeiliches Führungszeugnis, Bewegungsprofil des Mobiltelefons, Anrufe, Flüge, Bahnreisen, Surfverhalten, Bestellungen im Internet, Erfassung von Geldscheinen aufgrund der Nummer, Kinobesuch, Kommentare in Internetforen, Dienstmitteilungen, Krankenversicherung... und die gleichen Daten von allen Personen, mit denen wir jemals zu tun hatten.
Was dann auch Straftäter sein können.
Dabei ist natürlich nicht jede Erfassung legal - aber das kümmert Geheimdienste nicht so sehr.
Ist ja alles für einen guten Zweck...
Wird der unbescholtene Normalbürger nicht durch dieses Überwachungssystem automatisch kriminalisiert?
und: Je nachdem, wie der Algorythmus gefüttert ist, kann er völlig harmlose Dinge zu einem Verdacht oder Fall aufbauschen?
Wird der unbescholtene Normalbürger nicht durch dieses Überwachungssystem automatisch kriminalisiert?
Ja, in diesem System ist niemand unverdächtig.
und: Je nachdem, wie der Algorythmus gefüttert ist, kann er völlig harmlose Dinge zu einem Verdacht oder Fall aufbauschen?
Ja. Und wir können in Kategorien eingeteilt werden. Alles zwischen "Vorbildlicher Staatsbürger" und "Kriminelles Subjekt".
Die Gleichheit vor dem Gesetz wäre nicht mehr gegeben. Das ist zwar nicht das, was Palantir zur Zeit in Deutschland macht, so ehrlich sollte man sein... aber der Schritt wäre nicht mehr weit.
Es wäre quasi nur noch einen Knopfdruck entfernt...
Und unser Sicherheitsbedürfnis ist ein hervorragender Köder.
Ja, die Stichworte "Terrorismus" und "Pädophile" ziehen immer. Und das Dumme an der Sache ist: In beiden Fällen kann Palantir helfen, Kriminelle zu schnappen und Leid zu verhindern. Das macht es ja so schwer, dagegen zu argumentieren... denn Palantir kann halt umgekehrt auch sehr großes Leid verursachen.
Wenn dann aber Leute sagen: "Na ja, egal... ich habe mir ja nichts zu schulden kommen lassen! Mich betrifft das nicht!" - dann haben sie nichts verstanden...
Das ist ein Fall von deutlicher Güterabwägung, da ein Mißbrauch von Palantir unsere Freiheitsrechte im Grundgesetz beschädigt.
Ja. Aber das Schlimme ist, dass etliche Leute auf dem Standpunkt stehen: "Die wissen doch eh schon alles... dann sollen sie halt die Verbrecher bekämpfen!"
Was nicht ganz falsch ist. Die USA werden das System nutzen, so oder so. Und damit auch uns ausspionieren und überwachen. Was sie ja bereits tun.
Was wir also bräuchten, wäre ein eigenes System, am besten auf europäischer Ebene, das aber schon während der Entwicklung kontrolliert wird und anschliessend transparent eingesetzt und von einer unabhängigen Kommission überwacht wird.
Das Problem ist, dass für ein völlig neues System kaum Daten zur Verfügung stehen, mit denen das Programm trainiert werden kann. Das hat Palantir schon alles durch - und das lässt sich kaum aufholen. Schon gar nicht unter Beachtung von Datenschutzbestimmungen.
Fallbezogene Überwachung ist ja schon aktiv, wenn genehmigt.
Interessehalber könnte man mal seinen pc durchleuchten nach sogenannten Keyloggern, habe ich gerade gelesen. Was auch immer das ist. Die meisten pc-Fachbegriffe haben für mich keinen Inhalt.
Fallbezogene Überwachung ist ja schon aktiv, wenn genehmigt.
Ja, aber das gilt dann nur für einzelne Personen. Palantir leuchtet aber zusätzlich noch das ganze Umfeld aus.
Das ist bei Terrorismusverdacht natürlich sinnvoll, auch wenn dadurch kurzzeitig Unschuldige ins Visier geraten können.
Aber es würde halt eine Institution benötigen, die das Ganze überwacht - und zwar JEDE Eingabe, die da gemacht wird. So wie ja auch erst mal ein Richter eine Hausdruchsuchung genehmigen muss.
Aber das ist halt zu viel, um alles lückenlos und transparent kontrollieren zu können. Und es fehlen ja auch genaue Vorgaben, wie weit diese Überwachung eigentlich gehen darf, und an welchem Punkt man eingreifen müsste.
Interessehalber könnte man mal seinen pc durchleuchten nach sogenannten Keyloggern, habe ich gerade gelesen. Was auch immer das ist. Die meisten pc-Fachbegriffe haben für mich keinen Inhalt.
Keylogger senden ales weiter, was man an einem Computer schreibt. Aber so viel ich weiss greifen die US Geheimdienste auch direkt auf die Datencenter zu, etwa bei Frankfurt, um einfach das ganze Internet auszulesen...
Könnte man (Macht-) Missbrauch und Vorverurteilung ausschließen würde ich mit „Ja“ stimmen. Da man das leider nicht ausschließen kann, muss es „Nein“ heissen, weil die Nachteile zu gravierend und menschenrechtsverletzend sind.
Wir nutzen die Überwachung schon freiwillig in bestimmten Gebieten (Smartwatches, Standorte, Bildschirmzeiten), weil wir es selbst so wollen. Es ist kein so grosser Schritt mehr, alles zu vernetzen- und auch öffentlich zu teilen. Und wer möchte nicht weniger Kriminalität, weniger Gefahr, mehr Transparenz? All das hat seine guten Seiten - aber in meinen Augen gibt es keine überzeugende Antwort darauf, wie der Mensch vor den Fehlern dieses Systems geschützt werden kann. Deshalb klar Nein.
Mal schauen, wie lange noch…und ob wir eine Wahl haben werden.
Könnte man (Macht-) Missbrauch und Vorverurteilung ausschließen würde ich mit „Ja“ stimmen.
Eben.
Gäbe es einen transparenten Kontrollmechanismus, dann wäre die Anwendung eigentlich kein Problem.
Nur: Weder Palantir noch der Staat haben die Absicht, einen solchen Kontrollmechanismus zu etablieren... und wenn doch, dann nicht ohne Hintertür.
Das ist also illusorisch... leider.
Wie seht ihr das Thema?
DIe DDR war ein Kindergarten dagegen. Niemand braucht eine Stasi 2.0.
Ist es der "Kampf gegen den Terrorismus" wert, ein solches Werkzeug einzusetzen,
Selbstverständlich nicht.
das auch leicht missbraucht werden kann...?
Es kann nicht missbraucht werden. Es ist Missbrauch.
Bevor man von schweren Verbrechen von Schwerverbrechern missbraucht wird, ist Palantir vielleicht eine Möglichkeit diese zu reduzieren. Da ist mir der Datenschutz schnurz. Der Bürger sagt zum Staat, sie sollen endlich was tun. Palantir ist eine Möglichkeit Verbrecher zu jagen. Oder will man wirklich diese Partei und dann eine Art SS? Ich wähle das kleinere Übel.
Bevor man von schweren Verbrechen von Schwerverbrechern missbraucht wird, ist Palantir vielleicht eine Möglichkeit diese zu reduzieren.
Palantir verhindert jetzt schon bereits Terroranschläge, weil die deutschen Behörden von den US Geheimdiensten informiert werden. Was übrigens im Umkehrschluss bedeutet, dass uns die USA längst ausspähen. Die machen an Landesgrenzen nicht halt.
Die Verhinderung von Attentaten sorgt aber nicht dafür, dass die AfD nicht mehr gewählt wird. Verbrechen, die nicht passieren, finden keine Beachtung.
Der Bürger sagt zum Staat, sie sollen endlich was tun. Palantir ist eine Möglichkeit Verbrecher zu jagen.
Palantir ist eine Möglichkeit, Bürger zu filtern und zu klassifizieren.
Oder will man wirklich diese Partei und dann eine Art SS? Ich wähle das kleinere Übel.
Wie wäre es mit Beidem? AfD an der Macht, und die haben dann Palantir zur Verfügung?
Das Überwachungssystem wird von den Bundesländern angeschafft. Und die AfD steht kurz davor, in den östlichen Bundesländern die Regierung zu stellen. Mit Palantir hätten sie dann die Möglichkeit, politische Gegner und unerwünschte Leute herauszufiltern und denen das Leben so schwer zu machen, dass sie freiwillig gehen.
Alles im Namen der "Terrorbekämpfung"...