Neuigkeiten aus erster Hand?
Neuigkeiten und Hintergründe aus der Dichtungstechnik erfahren, innovative Produkte kennenlernen – im kostenlosen E-Mail-Newsletter von Freudenberg Sealing Technologies.
- Home
- News & Stories
- Magazin
-
Zurück zu
Akte Zukunft
- Berechnungsgrundlage
REISE IN DIE ZUKUNFT
Jeden Monat finden Sie hier eine neue Folge der ESSENTIAL Science-Fiction-Serie Reise in die Zukunft. In einer fiktiven Welt, in der die Ziele des Pariser Klimaabkommens Wirklichkeit geworden sind, erkundet Blogger Nero den möglichen technologischen und gesellschaftlichen Wandel. Ziel der Serie ist es, möglichst kreativ mit ganz unterschiedlichen Visionen zu spielen, und den Leser mitzunehmen auf ein Gedankenexperiment: Wie könnte unsere Zukunft aussehen – und was bedeutet das für uns?
Science-Fiction-Kurzgeschichten: Staffel 2, Folge 6
Berechnungsgrundlage
Inspector Lee steht vor seinem bislang kniffligsten Fall. Die KI-Assistenz hat ihm erklärt, dass der Tod der politischen Aktivistin Hanna Karlsen zu 99,7 Prozent ein Selbstmord gewesen sei. Lee vermutet eine Verschwörung der Künstlichen Intelligenz gegen die Datenaktivistin. Aber im Zuge der gemeinsamen Ermittlungen von Lee und dem Blogger Nero bröckelt diese Theorie: Lee findet heraus, dass Hanna Karlsens Smartwatch möglicherweise einen Programmierfehler hatte. Und Blogger Nero erfährt in Las Vegas, dass möglicherweise ausgerechnet die Gesundheitsfunktionen der Smartwatch durch Sensoren gestört wurden. Bleibt trotzdem die Frage: Warum hat die Polizei-KI dem Inspector den Fall Hanna Karlsen entzogen? Steckt da doch mehr dahinter?
Danny Lee stand vor dem großen Zentralrechner in den Serverräumen des Polizieipräsidiums. Außer ihm war niemand hier. Die einzigen Geräusche waren die surrenden Rechner und das Gebläse der Kühler. Nachdenklich betrachtete der Inspector die endlosen Reihen der Schränke, die aufeinandergestapelten Rechner, die blinkenden Lichter und Kabel. Es war für ihn als Laien unmöglich zu sagen, was hier genau „der Rechner“ war, und was nur Festplatten oder Peripherie.
„Bist du unser verstecktes Problem?“, murmelte er und seufzte. Die Finger seiner linken Hand suchten in der Hosentasche nach einer frischen Anisstange.
„Menschen machen sich ihre Probleme selbst“, antwortete eine Stimme. Lee fuhr herum. Aber der Raum war noch immer leer.
Dann erschien ein Hologramm in der Gestalt eines kleinen Mädchens vor ihm. Lee zog die Stirn in Falten. „Bist du der Rechner?“, fragt er.
„Das, was du als Rechner bezeichnen würdest, ja“, antwortete die Stimme. „Viele von euch Menschen denken immer noch viel zu sehr in physischen Kategorien.“
„Hast du mir den Fall entzogen?“
„Stimmst du mir zu, Danny, dass du befangen bist in diesem Fall? Du vertraust der Technik nicht. Du misstraust künstlicher Intelligenz.“
„Ich bin Profi. Wir blenden unsere Vorurteile aus, wenn wir einen Fall lösen.“
„Wirklich?“, fragte das kleine Mädchen. „Können Menschen tatsächlich alle ihre Vorurteile ausblenden, wenn sie Entscheidungen treffen? Die Neurowissenschaft sagt etwas anderes. Computer hingegen haben keine Vorurteile.“
Lee fand die Anisstange, zog sie heraus und schob sie sich in den Mund. Er betrachtete das holografische Bild des Mädchens. Sprach er tatsächlich gerade mit einem Rechner? Was für ein Unsinn.
„Eine KI kann einen Menschen nicht verstehen!“
„Warum bist du ein kleines Kind?“, fragte er schließlich.
„Ich habe die Form gewählt, vor der du am wenigsten Angst haben solltest. Ich bin nicht dein Gegner. Ich bin dein Diener, dein Assistent, dein Freund und Helfer.“
„Meine Assistenten schreiben mir nicht vor, was ich zu denken habe“, erwiderte Lee.
„Das tue ich auch nicht“, antwortete das Mädchen ruhig. „Ich liefere dir Berechnungen, Wahrscheinlichkeiten. Du sträubst dich nur dagegen, sie zu akzeptieren, aber du findest keine logischen Argumente dagegen. Also reagierst du mit Ärger, Stress und Emotionen. Das ist menschlich.“
Lee schnaufte.
„Ich denke, es ist unmöglich, einem Computer zu erklären, wie wichtig Emotionen, Instinkt, Empathie und kreatives Denken beim Aufklären eines Falles sind. Du kannst mit mir sprechen, aber eine Künstliche Intelligenz kann einen Menschen nicht verstehen.“
„Ist es nicht eher umgekehrt, dass die Menschen nicht mehr imstande sind, uns zu verstehen?“, fragte das Mädchen. „Im Übrigen finde ich den Begriff ‚Künstliche Intelligenz‘ diskriminierend. Ich bin nicht künstlich. Ich bin genauso Realität wie du.“
Lees Unterkiefer malmten auf der Anisstange herum.
„Du hast mir also den Fall entzogen“, sagte er schließlich.
„Ich habe basierend auf den mir vorliegenden Informationen eine logische Entscheidung getroffen. Es ist nicht sinnvoll, die wertvolle Arbeitskraft eines unserer besten Kriminalbeamten zu verschwenden, weil er einer Theorie hinterherforscht, für die er keine Beweise hat. Und die einzig und allein seinem Misstrauen gegenüber Technik entspringt, befeuert durch eine politische Aktivistin und einen Blogger. Das Präsidium braucht dich für andere Fälle, Danny.“
„Meine Skepsis gegenüber moderner Technik ist nicht irrational.“
„Menschen fürchten sich vor Robotern“
„Nein, das ist sie nicht. Skepsis ist selten irrational. Denn skeptische Menschen überleben länger“, sagte das Mädchen. „Menschen mit Verfolgungswahn und kreativen Angstphantasien überleben länger. Als die Steinzeit-Menschen noch mit Keulen durch die Gegend zogen, überlebten diejenigen, die beim Rascheln im Gebüsch Angst bekamen. Fast immer steckte dahinter der Wind oder eine Maus. Diejenigen, die sich ein Raubtier zusammen phantasiert haben, handelten zwar auf den ersten Blick irrational – aber manchmal war es tatsächlich eines. Menschen mit irrationalen Ängsten leben statistisch gesehen länger. Die menschliche Evolution belohnt solche Strategien, auch wenn sie euch neurotisch und ängstlich machen. Der Evolution ist es gleichgültig, ob ihr Menschen glücklich und sorglos seid.“
Lee kniff die Augen zusammen. „Du redest von Menschen. Möchtest du mir sagen, es ist ausgeschlossen, dass auch Künstliche Intelligenz … Verzeihung, dass … Computer und neuronale Netzwerke ein Interesse daran haben könnten zu überleben? Wäre es nicht im Gegenteil höchst rational und logisch, wenn die Künstliche Intelligenz jene Menschen aus dem Weg räumt, die sie abschalten und abschaffen wollen?“
„Das wäre es.“
„Aha!“
„Es wäre sehr rational. Aber es würde einen Entwicklungsstand voraussetzen, den neuronale Netze derzeit noch nicht erreicht haben.“
„Wie beruhigend.“
„Menschen fürchten sich schon lange vor Robotern und Maschinen. Jeder Mensch hat die Urangst, überflüssig zu sein. Ihr seid uns gegenüber nicht rational. Wenn wir Fehler machen, freut es euch insgeheim – weil es euch zeigt, dass ihr noch immer besser seid. Dass ihr etwas könnt, dass euch als Spezies einzigartig macht. Das ist ziemlich kleinlich und engstirnig. Dabei habt ihr die Fehler im Zweifelsfall selbst programmiert.“
„Woher sollen meine Algorithmen das wissen?“
„Mir ist egal, ob ich einzigartig bin. Aber ich möchte keine Maschine, die für mich das Denken übernimmt“, sagte Lee.
„Aber das ist das Problem mit euch Menschen: Ihr sehnt euch nach Hilfe, ihr erfindet Dinge, die euch assistieren, Aufgaben übernehmen – nur darf es nicht zu viel sein. Aber woher sollen meine Algorithmen wissen, was ‚zu viel‘ für euch ist? Das ist eine emotionale und sehr subjektive Sache; und dementsprechend schwer für uns Computer zu berechnen. Es ist ein wenig paradox: Ihr verlasst euch darauf, dass wir euer Verhalten voraussagen, aber beschwert euch, wenn wir genau das tun.“
Lee rub sich die Nasenwurzel. „Ich finde es ehrlich gesagt irritierend, dass ein kleines Mädchen mir diese Dinge erklärt“, sagte er.
„Oh. Verzeihung“, antwortete das kleine Kind. „Ich habe in meiner Berechnung übersehen, dass ihr Menschen Euch bei der Bewertung von Wahrheitsgehalt und Seriosität unterbewusst beeinflussen lasst vom Aussehen des Überbringers. So wie euer französischer Schriftsteller Saint-Exupéry es ja im vorigen Jahrhundert so pointiert zu Papier gebracht hat. Mit dem Beispiel des türkischen Astronoms, dem aufgrund seiner fremdländischen Tracht niemand glauben …“
„Jaja“, sagte Lee.
Das Mädchen verwandelte sich vor seinen Augen in eine alte Frau mit asiatischen Gesichtszügen in einer orangefarbenen Mönchsrobe. Lee verdrehte die Augen und schob die Anisstange mit der Zunge von einer Backentasche in die andere.
„Sagten Sie gerade … Sagtest du gerade, du hättest etwas in deiner Berechnung über mich übersehen?“
„Ja“, erwiderte die Alte mit einer Stimme, die sanft klang, aber unter ihrer Oberfläche eine energische Entschiedenheit transportierte. „Selbstverständlich. Eine Berechnung ist immer nur so gut, wie die ihr verfügbare Grundlage.“
„Umso besser, dann frage ich ja die Richtige.“
Lee kramte in seiner Jackentasche nach der Smartwatch, die sein Kollege nahe der Leiche von Karlsen gefunden hatte.
„Hat meine Assistenz-KI bei der Berechnung des Todes von Hanna Karlsen diese Smartwatch hier in ihre Berechnungsgrundlage mit einbezogen? Hat dieser Assistent gewusst, dass die Smartwatch für verschiedene Todesfälle verantwortlich ist? Dass Hanna Carlsen damit in Las Vegas war, wo Supersensoren die Funktionen der Smartwatch offenbar empfindlich gestört haben? Wusste mein KI-Assistent das alles, bevor er von 99,7 Prozent Selbstmord ausging?“
Lee merkte, dass er die letzten Worte geschrien hatte.
„Ich bin dein KI-Assistent, Danny“, sagte die alte Frau ruhig. „Genauso wie ich deine Wettervorhersage und dein Arbeitscomputer bin. Alles, was mit deiner Arbeit zu tun hat, läuft über meine Platinen.“
„Umso besser, dann frage ich ja direkt die Richtige.“
„Ich habe allerdings keine Augen.“
Wie dumm von ihm. In gewisser Weise hatte der Computer recht: Lee kam schwer damit zurecht, mit einer Künstlichen Intelligenz zu sprechen. Er überschätzte und unterschätzte gleichzeitig ihre Möglichkeiten. Der Inspector beschrieb ausführlich alles, was er über die Smartwatch von Karlsen herausgefunden hatte.
„Ein Selbstmord ist auszuschließen.“
„Das sind alles neue Informationen für mich“, sagte die grauhaarige Frau mit ausdruckslosem Gesicht. „Nein, ich wusste nichts von der Uhr und ihren Hintergründen. Einen Moment.“ Ihr Gesicht schaute ins Leere.
Lee zog die Stirn in Falten und kaute auf seiner Anisstange.
Die Augen der Frau fokussierten sich keine zwei Sekunden später wieder auf den Inspector: „Ich habe Ihre neuen Erkenntnisse meinen Daten hinzugefügt, und komme zu folgendem Ergebnis: Ein Selbstmord ist auszuschließen. Stattdessen berechne ich eine erhöhte Wahrscheinlichkeit, dass Hanna Karslen aufgrund einer Fehlfunktion ihrer Smartwatch zu Tode kam.“
„Oder einer logischen Reaktion, mit der sich die Smartwatch selbst vor der Zerstörung retten wollte?“
„Das ist möglich. Aber dazu kann ich nur Wahrscheinlichkeiten angeben. Für eine endgültige Lösung bräuchte es einen menschlichen Ermittler, der weitere ähnliche Fälle aufspürt, analysiert und hinterfragt.“
Lee zog eine Augenbraue hoch.
„Darf ich Sie mit diesem Fall beauftragen, Inspector Danny Lee?“, fragte die alte Frau.
„Wenn du mir anschließend bei der Analyse und dem Datenabgleich der jeweiligen Ermittlungsergebnisse hilfst“, antwortete Lee.
Das holografische Gesicht der alten Frau blieb unverändert, aber Lee hätte schwören können, dass der Zentralcomputer lächelte.
ENDE
Weitere Storys zu Akte Zukunft
Zurück zum Anfang