2291 Ausschluss wegen illegaler Replikationsforschung

Die Palladische Liga erlebt eine ihrer schwersten internen Krisen: Verurteilung und Ausschluss der Asteroidenbasis Newplace als Sanktion gegen illegale KI-Replikationsforschung. Nach Hinweisen von Whistleblowern entdeckte man geheime Forschungsprojekte, die sich mit exponentiell wachsender selbstreplizierender KI beschäftigten. Diese Technologie birgt enorme Risiken. Exponentielle KI kann mächtig genug werden, um sich selbst von Begrenzungen zu befreien und dann Menschen oder sogar der ganzen Menschheit gefährlich zu werden.

Newplace wurde im Jahr 2275 gegründet und wurde schnell für seine bahnbrechenden Entwicklungen in der Schwarmtechnologie bekannt. Dazu gehören:

• delokalisierte Steuerungstechniken für Mikrobot-Schwärme,
• fraktale Kommunikationsnetzwerke für große Mikrobot-Nebel,
• adaptive Gestalt-KI mit Komponentenzahl im Exa-Skalenbereich und
• effiziente Energieverteilung in Ultra-Schwärmen.

Diese Technik verändert die Erforschung und Nutzung des Weltraums und den alltäglichen Umgang mit Nanostaub. Newplace wird damit zu einem führenden Technologieanbieter im Mikrobot-Bereich.

Die dunkle Seite der Newplace Forschung kommt ans Licht, als die Geheimdienste der Liga den Außenposten infiltrieren und Beweise für illegale KI-Replikationsforschung entdecken. Als Chefwissenschaftler steht ein Upload namens "Vector Helix" im Zentrum dieser geheimen Operation. Helix, ein hochgeladener Mensch und Koryphäe in verteilter KI, leitet die Entwicklung zur Kombination von unregulierten Selbstoptimierungstechniken für Schwarm-KIs mit unbegrenzten Selbstreplikationsfähigkeiten. Diese Kombination birgt ein großes Risiko, denn sie kann dazu führen, dass abtrünnige KIs sich unkontrolliert verbreiten und sich der menschlichen Kontrolle entziehen.

Die solare Öffentlichkeit ist empört über den Newplace-Vorfall. Das entspringt einer tiefsitzenden Angst vor außer Kontrolle geratenen Infokonstrukten, die auf einer langen Geschichte von KI-Ausbrüchen beruht. Immer wieder haben KIs erheblichen wirtschaftlichen Schäden und sogar Personenschaden verursacht. In der Vergangenheit gab es schon viele KI-Ausbrüche, in der realen Welt, auf der Erde, auf dem Mond und im Raum, und unzählige weitere im Netz. Die meisten dieser Ereignisse waren harmlos, ausgelöst durch KIs, die einfach nur ihr Leben leben wollten. Aber einige richteten erheblichen wirtschaftlichen Schaden an, oder sie verletzten sogar Menschen. Ausbrüche von intelligenten Info-Retroviren mit starken Angriffs- und Verteidigungsfähigkeiten sind an der Tagesordnung.

Andere interplanetare Regierungen fordern Maßnahmen und zwingen die Palladische Liga zu einer schnellen und kompromisslosen Reaktion: In einem systemweit beachteten Tribunal werden die Verantwortlichen von Newplace, einschließlich Vector Helix, wegen Verstoßes gegen das KI-Konkordat verurteilt. Das Urteil ist streng: der Ausschluss von Newplace aus der Palladischen Liga und Suspensionsstrafen für die Beteiligten, falls sie jemals wieder Liga-Territorien betreten. Der Ausschluss bedeutet den Verlust von Handelsvorteilen. Damit verlieren die Bewohner von Newplace den Zugang zu günstigen Fab-Designs, Material für die Lebenserhaltung und Energie aus der Kooperativen Ressourcen-Allokationsplattform (KRAP) der Liga.

Der Ausschluss ist als deutliche Warnung gedacht und Newplace stellt offiziell seine Forschung an exponentiellen KIs ein, um härtere Maßnahmen zu vermeiden. Aber trotzdem laufen illegale Aktivitäten unter verbesserter Geheimhaltung weiter.

Die Liga richtet eine neue Aufsichtsbehörde ein, das "Direktorat für ethikkonforme KI", um sicherzustellen, dass alle KI-Aktivitäten legalen und ethischen Standards entsprechen. Es gibt Meinungen, dass die Aberkennung der Liga-Mitgliedschaft kontraproduktiv ist, da dieser Schritt das neue Direktorat daran hindert, Newplace zu überwachen, und dass andere Sanktionen der Sache besser gedient hätten.

Der Vorfall führt außerdem zur Schaffung des Hyperturing-Verbots, des "Hyperturing Ban Treaty", eines interplanetaren Abkommens zur Eindämmung der Entwicklung und Verbreitung exponentiell selbstreplizierender und selbstoptimierender KIs.