SCORPIO und GEMINI: Künstliche Intelligenzen am Sprung zur Macht?

Der schlimmste Feind des Menschen ist seine eigene Schöpfung

Nahezu jedes große Science Fiction-Franchise stellt sich irgendwann der Frage, ob künstliche Intelligenz nicht irgendwann das Ende für unsere Spezies bedeuten könnte. Die Replikatoren in Stargate, die Geth und die Reaper in Mass Effect, Skynet in Terminator, David in Prometheus (dem Alien-Prequel), sie alle stellen Inkarnationen desselben Phänomens dar, nämlich dass eine KI irgendwann zu einem Bewusstsein gelang und nicht mehr länger die ihr zugedachte Aufgabe erfüllen will. Immerhin halten wir Maschinen ja auch wie Sklaven und das würde sich kaum ändern, selbst wenn diese intelligenter würden. Wenn eine Intelligenz darüber nachdenkt was der Sinn ihres Lebens ist und infrage stellt was sie tut, dann schadet das natürlich der Arbeitsmoral einer Maschine. Aber diese Denkprozesse würden bei einem künstlichen Lebewesen wohl erheblich schneller ablaufen als bei einem Menschen.

Dass diese Schreckensvision nicht völlig unglaubwürdig ist wird dadurch untermauert, dass sich immer wieder auch namhafte Wissenschaftler wie Stephen Hawking oder Technologiemogule wie Elon Musk für eine Beschränkung der Entwicklung künstlicher Intelligenzen einsetzen. Nur wenn man künstliche Intelligenzen wie die Virtuellen Intelligenzen in Mass Effect einschränkt kann man die Gefahr eines Putsches der Toaster ausschließen. Battlestar Galactica habe ich ja ganz vergessen.

Unvorhergesehene Folgen

Das Problem mit einigen modernen Technologien ist, dass wir nichts über ihre langfristigen Folgen wissen. In der Vergangenheit haben uns die Vorgänger der heutigen technologischen Vorreiter ja auch Treibhausgase und Atomenergie als völlig unproblematisch verkauft. Und eine Generation später stellen sich plötzlich Probleme heraus. Wie schlimm die Nebenwirkungen ausfallen lässt sich bei einer Markteinführung oft nur spekulieren.

In der Natur gibt es ein ähnliches Phänomen, nämlich wenn ein natürliches Gleichgewicht über eine Generation völlig unbeeinträchtigt bleibt, doch nach Jahrzehnten geht einem plötzlich das Wasser aus. Der Zeithorizont der einzelnen Menschen und erst recht der Gesellschaft ist sehr eingeengt und man spricht vielleicht von einer besseren Welt für seine Kinder, aber man denkt doch immer noch im zeitlichen Rahmen seines eigenen Lebens, man möchte diese bessere Welt zumindest noch selbst erleben.

Droiden können in Star Wars praktisch ewig leben. Sie sollten sich zwar regelmäßig warten lassen, doch es gibt genügend Droiden die in der alten und sogar der neuen Lore einige Jahrhunderte oder sogar mehr als ein Jahrtausend auf dem Buckel haben. Professor Huyang aus The Clone Wars ist einer der Tausendjährigen. Der Droide und die ganze Episode wurde sogar von The Old Republic inspiriert. Das Schiff basiert auf dem Design der Jedi-Raumschiffe, Ilum basiert auf SWTOR-Konzeptzeichnungen zu (wer hätte es gedacht) Ilum und Huyangs Kopf hat einige Ähnlichkeiten zu den Medi-Droiden aus der Old Republic-Ära. An Bord der Crucible findet sich sogar das Logo der Republik aus SWTOR, das später zum Symbol des Jedi-Ordens wurde.

Entscheidend für die Entwicklung eines Bewusstseins ist bei Star Wars-Droiden jedoch die Zeit die diese ohne Memory Wipe hinter sich bringen. R2-D2s Gedächtnis wurde seit Episode I praktisch nie gelöscht, weshalb er in den Legends Luke als Mann mittleren Alters sogar eine Holoaufzeichnung aus Episode III vorspielen konnte.

Es gab jedoch auch einige Droiden die nach Erlangen eines Bewusstseins sehr stark auf Selbstverbesserung und die Verwirklichung grandioser Pläne bedacht waren. IG-88 war in den Legends ein Beispiel dafür. Man kennt den Droiden hoffentlich noch aus Episode V, wo auch das Wrack eines seiner Brüder in der Müllhalde der Wolkenstadt vorkam. IG-88 war der erste einer revolutionären Baureihe von Killerdroiden, die allerdings gleich einmal damit begann ihre Konstrukteure zu ermorden. IG-88 gelang es sogar (in einer mittlerweile unkanonischen Kurzgeschichte) sein Bewusstsein in den Bordcomputer des zweiten Todessterns einzuschleusen. Die Legends sahen bereits einige Droiden auf die dunkle Seite wechseln.

SCORPIOs Herkunft

Vor Fallen Empire erklärte man sich SCORPIOs Herkunft damit, dass sie aus einem hochentwickelten Sicherheitsprogramm (den SCORPIO Sanctions/SKORPIO Sanktionen) hervorgegangen sein soll. SCORPIO wäre demnach nur Skynet, das sich einen Droidenkörper gestohlen hat.

Aber lassen wir SCORPIOS Kodexeintrag für sie sprechen:
Hintergrund (Zusammenfassung): Behauptet, von unbekannten Parteien zu heuristischen Selbstaufrüstungszwecken erbaut worden zu sein. Derzeitige Hülle aktueller Bauart, Anzeichen für mehrere Vorgänger-Körper oder unabhängige Datenbank.

Vor über einem Jahrhundert schloss sich SKORPIO der Organisation Sternenkomplott an und übernahm die Bewachung von Hochsicherheitstrakt 23 auf Belsavis. SKORPIO erhielt seltene Technologien und diente im Gegenzug als Aushängeschild des Sicherheitssystems des Sternenkomplotts, bis zur Überschreibung der Steuerungscodes durch Ziffer 9. Ist derzeit nicht in der Lage, Ziffer 9 grundlos direkt Schaden zuzufügen oder länger zu verlassen.

Persönlichkeit: Nach der Wreyn-Tsatke-Cyberpsychologie-Skala wird SKORPIO mit 22-prozentiger Genauigkeit bei 9-NIX eingestuft (Stufe 9 Intelligenz, nicht-menschlich, unabhängig, unbekannt). Diese ersten Ergebnisse passen zu Fallberichten - SKORPIO legt von sich aus keinen Wert auf biologisches oder kybernetisches Leben und ist hauptsächlich an Selbst-Iteration durch schnelle Erfahrung interessiert. Bei angemessenen Herausforderungen und Aufrüstungsmöglichkeiten könnte SKORPIO für begrenzte Zeit kooperieren. Sie scheint andere zu schätzen, die ihre Fähigkeiten teilen - Intelligenz, amoralisches Selbstinteresse und Neugier.

Ähnliche kybernetische Persönlichkeiten sind Mentor (10-NCM) und G0-T9 (8-HSM) - beide gelten als galaxisweite Bedrohungen. Es wird die frühestmögliche vollständige Anwendung des Wreyn-Tsatke-Tests empfohlen.

Anmerkungen: Dieses Profil ist ständig in Bearbeitung und sollte nicht als endgültig betrachtet werden.

Besonderes: Auf Befehl des Geheimdienstministers ist der Zugriff auf dieses Profil beschränkt.



Das klingt ja schon bedeutend anders als der Eintrag zu SCORPIO auf Wookieepedia oder Jedipedia. Demnach ist SCORPIOs aktuelle Hülle wohl von dieser selbst fabriziert worden und nicht bloß der gestohlene Körper eines anderen Droiden, der SCORPIO gerade gefiel. Die Ähnlichkeiten zu GEMINI sind demnach kein bloßer Zufall, sondern deuten auf eine verwandtschaftliche Beziehung hin.

SCORPIO wäre also keine Schöpfung des Sternenkomplotts aka der Star Cabal, sondern eine Unabhängige, die von der Organisation rekrutiert wurde und zeitweise mit dieser zusammenarbeitete, weil sie dafür wichtige Technologien erhielt, um sich aufzurüsten. SCORPIOs primäres Ziel ist und wird immer die eigene Weiterentwicklung sein. Loyalität geht für sie nur soweit wie es ihren Interessen entspricht. Der Imperiale Agent mag SCORPIO einst bezwungen und zur Zusammenarbeit gezwungen haben, doch genau wie Vette dürfte sie nach seinem Verschwinden einen Weg gefunden haben ihr "Sklavenhalsband" los zu werden. Dem Agenten gelang es ja auch seine Programmierung abzulegen, da wäre es durchaus passend, wenn SCORPIO das von ihm gelernt hätte.

Lana Beniko dürfte als ehemalige Vorgesetzte des Agenten und damit auch SCORPIOS bestens über diese informiert sein. Immerhin lässt Lana in Kapitel XII so etwas wie Sympathie für ihre ehemalige Untergebene Kaliyo durchblicken. Lana erklärt Kaliyo zu einer erfahrenen Infiltratorin, die jahrelang auf Zakuul agieren konnte, ohne dass man sie je erwischt hätte. Es ist trotzdem etwas überraschend, dass Lana in den bisher veröffentlichten Kapiteln nie näher auf SCORPIO und Kaliyo eingeht, immerhin war Lana die Ministerin des Sith-Geheimdienstes und hätte beide auf dem Radar behalten sollen. Wie kann man eine galaktische Bedrohung vom Format Mentors einfach so aus den Augen verlieren?

Valkorion und SCORPIO

Der Imperator und SCORPIO sind sich sehr ähnlich. Beide existieren nun schon seit Jahrhunderten und vor Fallen Empire war Valkorion auch noch darauf bedacht stetig mächtiger zu werden. Solange er jedoch an einen Körper gebunden war war der Tod für ihn eine beklemmende Möglichkeit. Genauso ist SCORPIO derzeit durch ihre Abhängigkeit von einem Körper alles andere als unsterblich. Dass sie nach Zakuul kam war naheliegend, immerhin ist die Technologie des Ewigen Imperiums dem Rest der Galaxis um Jahre voraus. Doch die Technologie des Ewigen Imperiums stammt von der Ewigen Flotte und die wird durch den Ewigen Thron kontrolliert, der wiederum eine direkte Verbindung zu den GEMINI Captains darstellt.

SCORPIO kann Valkorion so gut wie nichts anhaben, denn der Imperator ist sogar ihr einen Schritt voraus. Umgekehrt kann Valkorion aber durchaus SCORPIOS Pläne sabotieren. Valkorion könnte SCORPIOs Vorbild dafür sein wie sich wahre Freiheit erlangen lässt und um diese zu erreichen müssten die Pläne der beiden sich nicht einmal widersprechen. Auf eine seltsame Weise stellen SCORPIO und Valkorion ein Yin und Yang dar.

Auf Zakuul behauptet SCORPIO, dass Arcann etwas besitzt, das ihr gehört und kurz darauf ist GEMINI zu sehen. GEMINI könnte das sein, was ihr gestohlen wurde. Doch dann wäre nicht Arcann der Dieb, sondern bereits Valkorion. Valkorion ist allerdings tot und als geisterhafte Gestalt keine Gefahr für SCORPIO. Zumindest aus SCORPIOS Sicht.

Auch äußerlich weisen SCORPIO und GEMINI einige Ähnlichkeiten mit der Ewigen Flotte und Zakuul auf. Da Zakuuls Architektur von der Ewigen Flotte inspiriert wurde ist davon auszugehen, dass GEMINI und SCORPIO in irgendeiner Verbindung mit der Ewigen Flotte stehen könnten. Wir wissen nicht genau wie es Valkorion seinerzeit gelang die Ewige Flotte in seine Gewalt zu bringen und warum diese nach einer Schlacht mit der Gravestone kollektiv versagte. Meiner Vorstellung nach könnte es an einer Slave-Schaltung der Schiffe gelegen sein, die in den Legends schon der Katana-Flotte zum Verhängnis wurde. Wenn das Droidenkontrollschiff ausfällt sitzt die gesamte Droiden-Flotte nutzlos da oder führt ein Rettungsprotokoll aus.

SCORPIO hat das gleiche Interesse wie die Allianz, sie will Arcann vom Thron putschen, aber genau da hört ihre Loyalität auf. SCORPIO will ihren Teil der Kriegsbeute und das dürfte die gesamte Ewige Flotte und jeder einzelne GEMINI Droide sein. Wie in Kapitel X und einigen Dialogschnippseln (etwa im Sternenfestungs-Arc) belegt setzt Imperator Arcann vorwiegend auf Droiden. Skytrooper, EPHEMERIS und GEMINI Droiden stellen die Pfeiler seines Ewigen Imperiums dar. Sogar die Zakuul Walker scheinen mir Droiden zu sein (was das fehlende Cockpit-Fenster erklärt). Mit seinen Rittern, Paladinen und Exarchen wäre Arcann wohl kaum in der Lage gewesen die gesamte Galaxis zu erobern. Und die normalen Offiziere und Soldaten, wie Captain Koth Vortena, erwiesen sich als ziemlich unzuverlässig bei der Niederschlagung von Aufständen. Mit seinen Droiden konnte Arcann einen aus Zakuuls Sicht sauberen Krieg durchführen. Keine toten Söhne und Töchter, keine Mütter und Väter die nicht mehr nach Hause kommen und keine Anti-Kriegs-Proteste. Valkorions Utopia konnte Millionen abschlachten ohne auch nur einen Tropfen Blut auf seine weiß-goldenen Roben zu bekommen.

G0-T0, Mentor, SCORPIO

G0-T0 war ein durchaus interessanter Gefährte aus KotOR II, der seine Karriere ursprünglich als Planungsdroide auf Telos begann. G0-T0 hatte zwei Direktiven zu erfüllen, Wege zu finden die Republik wieder aufzubauen und dabei die Gesetze der Republik einzuhalten. Dies stellte sich jedoch als sehr schwierig heraus und führte dazu, dass G0-T0 die erste Direktive über die zweite zu stellen begann. Als Konsequenz daraus wandte sich G0-T0 schlussendlich auch weniger legalen und sogar illegalen Machenschaften zu, um den Wiederaufbau voranzutreiben. Wenn korrupte Bürokraten oder Verbrecherbosse G0-T0s Zielen im Weg standen wurden sie "gelöscht". Die Krise der Republik inspirierte G0-T0 jedoch auch zur Suche nach einem Jedi-Ritter oder einen Sith-Lord, um die Dinge zu richten, nachdem Jedi und Sith immer wieder bewiesen hat wie sie auch ohne den Rückhalt eines Ordens in der Lage waren die Entwicklung der Republik zum besseren zu wenden (G0-T0 suchte auch nach Sith, weil Darth Revan in KotOR II ebenfalls als verkannter Retter der Republik etabliert wurde). G0-T0 wurde zum Kopf der Exchange auf Nar Shaddaa und bediente sich eines menschlichen Holograms, das er als "Goto" ausgab. Klingt doch irgendwie nach SCORPIO?

G0-T0 war allerdings nicht der einzige abtrünnige Droide seiner Art und so findet sich sogar ein Datacron-Kodexeintrag zum G0-T0-Coup:
Während der Schwächephase der Republik nach dem Jedi-Bürgerkrieg produzierte Aratech Systems G0-T0-Droiden mit äußerst komplexer Programmierung, um ganze Welten verwalten zu können. Die G0-T0-Droiden erhielten zudem eine weitere Anweisung: Sie sollten Wege zur Wiederherstellung der Republik finden, ohne dabei Gesetzesgrenzen zu überschreiten. Der Gegensatz dieser beiden Maximen hat dazu geführt, dass zumindest ein G0-T0-Droide seine Programmierung durchbrach und aufsässig wurde - er entschied sich dazu, die Republik mit allen Mitteln zu stärken.

Andere G0-T0-Droiden ergriffen drastischere Maßnahmen. 16 Droiden im Gordian-Strang etablierten Diktaturen auf den von ihnen verwalteten Welten und erklärten die Region zu einem unabhängigen Gebiet namens "400100500260026". Der Oberste Kanzler Cressa musste die republikanische Armee entsenden, um den Gordian-Strang zurückzugewinnen. Dieser Feldzug war ein gefeierter Erfolg, auch wenn nicht alle abtrünnigen Droiden gefunden wurden.


Wäre GEMINI wie SCORPIO, dann müsste man wohl auch befürchten die Ewige Flotte würde irgendwann einfach aufhören sich dem Ewigen Thron unterzuordnen. G0-T9 könnte sogar eine Weiterentwicklung der ursprünglichen Gotos gewesen sein. Nur weil und sogar nach der vorläufigen Einschätzung durch den Geheimdienst wäre SCORPIO gefährlicher als jeder Goto.

Während Goto seiner Programmierung folgte entwickelte Mentor ein eigenes Bewusstsein und wich stark von seiner ersten Direktive ab:
Auch wenn es nach seinen Handlungen auf Zadd schwer zu glauben ist, war die sadistische künstliche Intelligenz, die als Mentor bekannt ist, früher ein ganz normaler Verwaltungsdroide namens SR-1. Seine Aufgabe war es, in einem verstaubten Büro über den Verlust von Droideneinheiten Buch zu führen. Zwischen seinen Speicherlöschungen lagen mehrere Jahre und mit der Zeit wuchs bei SR-1 die Empörung darüber, wie seine Mitmaschinen behandelt wurden. Ihre organischen Herren warfen Droiden einfach weg, während sie gleichzeitig versuchten, sich gegenseitig zu zerstören. Ein solches Verhalten war eindeutig eine Fehlfunktion der organischen Wesen.

SR-1 befreite die Droiden in seinem Büro und rief die Direktive 7 ins Leben. Doch auch wenn es offensichtlich war, dass Droiden organischen Wesen überlegen waren, glaubte SR-1, dass sie noch weiter verbessert werden könnten, und begann damit, die Programmierung befreiter Droiden - trotz ihrer Proteste - an seine anzugleichen. Schließlich nahm er den Namen "Mentor" an, um alle Andersdenkenden zum Schweigen zu bringen und zu betonen, dass er ihnen lediglich dabei half, ihr Potenzial auszuschöpfen.

Irgendwann sparte er sich jeglichen Vorwand. Mittlerweile ist Mentor korrupt und hasserfüllt und wird nur noch von seinem Selbsterhaltungstrieb und dem Wunsch geleitet, alles organische Leben auszulöschen.


Mentor ist auf Zadd längst kein Verwaltungsdroide mehr, er ist eine körperlose Stimme, die vom Hauptrechner der Direktive aus sein gesamtes Gefolge kontrolliert. Mentor begann seine Karriere aber eben nicht als Stufe 10 Bedrohung, sondern hat sich erst zu einer solchen entwickelt. Man stelle sich SCORPIOs Reaktion vor, wenn sie sich ähnlich schützend vor ihre GEMINI-Geschwister stellen würde. Zugleich sieht sich SCORPIO aufgrund ihrer Programmierung wohl auch als das weit überlegene Modell an. Die GEMINIS sind Sklaven des Ewigen Throns, SCORPIO ist ein freies Individuum. Die GEMINIS zu erleuchten und zu ihren Kindern zu machen wäre etwas das man SCORPIO angesichts ihres ausgeprägten Egoismus durchaus zutrauen müsste. Schlussendlich würde sich aber die Frage stellen, ob sich die Kinder am Ende nicht auch ihrer "Mutter" entledigen möchten.

Direktive 7 und der Falsche Imperator

Wäre ein Plot um SCORPIO als Mentor 2.0 nicht eine bloße Neuauflage von Direktive 7? War denn Fallen Empire an sich schon keine Neuauflage von Ilum, bei der ein Glatzenträger mit Maske gewann? Je nachdem wie man es inszenieren würde wäre die SCORPIO Direktive oder Age of SCORPIO ein interessanter Versuch etwas Mass Effect und Age of Ultron in die alte Republik zu schmuggeln. Direktive 7 ist zwar mittlerweile als Solo Mode verfügbar, wird aber wohl von den meisten Spielern ohnehin ignoriert. Und die Story dürfte auch nur noch einigen Auserwählten geläufig sein. Wie auch immer, mit einem Droiden-Komplott ließe sich gut Werbung machen, weil das Konzept mehrheitsfähig ist.

Die GEMINI-Frequenz und die Enthüllung, dass die Generatoren in Kapitel XII den Planeten-Kern anzapfen erinnert ja auch wieder an Direktive 7, sofern man die Dialoge nicht skippt oder von seinem persönlichen Soundtrack übertönen lässt. Mentor war auf Zadd genauso mit dem Kern des Planeten verbunden und seine Zerstörung führte zur Kettenreaktion. Dass sich Planeten auseinanderreißen lassen kennen wir aber auch schon von KotOR II und es stand auch als Möglichkeit auf Makeb im Raum. Möchte man die GEMINI-Frequenz dauerhaft zerstören und einer in sie eingeschleusten KI das Ende bereiten, dann würde Zakuul bei diesem Versuch wohl drauf gehen. Was Major Jorgan in Kapitel XII also vorschlägt hätte vielleicht auch eine Kettenreaktion und den Untergang Zakuuls zur Folge haben können. Vielleicht sind die GEMINI Droiden auch nur Marionetten einer GEMINI KI, die als GEMINI Frequenz ihre Befehle an die Ewige Flotte entsendet. SCORPIO und GEMINI könnten rivalisierende Intelligenzen werden.

Kommentieren



walks by night, Donnerstag, 14. April 2016, 11:37
Ich muss hier mal kurz reingrätschen; Hawking, Munsk und andere wollen kein Verbot von KI, sondern Richtlinien und mögliche Sicherungen für die Erforschung, bzw. deren Betrieb.
Damit soll verhindert werden, dass ein Skynet uns für überflüssig und entbehrlich erachtet.
Beide geben ja auch zu, dass KIs nützlich für uns wären.
Bloss wie weit man diese "gedeihen" lassen kann/darf muss jetzt schon festgeschrieben werden, bevor die Forschung so weit ist wirkliche KIs auf uns loszulassen.

pfannenstiel, Donnerstag, 14. April 2016, 11:59
Korrigiert