Ray Kurzweil, ein Computerwissenschaftler und Unternehmer, veröffentlichte 2005 einen prophetischen Text über das, was er "Singularität" nannte. Kurzweil sagte einen Moment in naher Zukunft voraus, in dem superintelligente Technologie alle denkbaren menschlichen Fähigkeiten übertreffen, die Menschheit in ihre Operationen einbeziehen und ihre Meisterschaft über das gesamte Universum ausweiten würde. Der Titel seines Buches, "The Singularity is Near", deutete auf die Unvermeidlichkeit dieses Ereignisses hin, mit einem vorhergesagten Datum: das Jahr 2045.

In diesem Jahr, fast auf halbem Weg zwischen 2005 und 2045, veröffentlichte Kurzweil ein Update seiner Prognose. Der Titel des Buches ist nun etwas weniger bedrohlich: "The Singularity is Nearer".

Um Kurzweil und die Techno-Propheten, die seinem Beispiel folgten, zu verstehen, lohnt es sich, über die Natur der Prophezeiung nachzudenken. Selbst in ihren alten und religiösen Formen war der Zweck der Prophezeiung nie, die Zukunft vorherzusagen. Es ging immer darum, die Gegenwart zu beeinflussen - die Menschen zu überzeugen, ihr Leben heute anders zu leben, indem sie sich auf ein Morgen vorbereiten, das nur hypothetisch sein könnte.

In diesem Kontext ist es interessant zu fragen, warum so viele Diskurse über neue Technologien so apokalyptisch geworden sind. Was kann ein solcher Diskurs erreichen? Gibt die Vorhersage des bevorstehenden Untergangs der Menschheit jemandem einen Grund, jetzt zu handeln oder irgendeinen Aspekt seines Lebens zu ändern? Oder ist die Projektion der Unvermeidlichkeit eher geeignet, die Menschen zu überzeugen, dass nichts, was sie tun, Konsequenzen haben kann?

Es besteht kein Zweifel, dass es etwas Dunkel Anziehendes an den Verkündigungen vom Ende der Zeiten gibt. Ihre Allgegenwärtigkeit in der gesamten Menschheitsgeschichte legt dies nahe. Aber es gibt produktivere, ausgewogenere - wenn auch weniger sensationelle - Wege des Denkens und Redens.

Marcus Smith
Marcus Smiths neues Buch "Techno: Humans and Technology" ist einer der moderateren Ansätze zu diesem Thema.

Natürlich schlägt Smith wie alle anderen in diesem Genre schnell vor, dass der gegenwärtige Moment außergewöhnlich und einzigartig ist. Der erste Satz seines Buches lautet: "Wir leben mitten in einer technologischen Revolution." Verweise auf das Konzept der "Revolution" sind im Text verstreut.

Aber das zentrale Argument von Techno ist, dass wir die Technologie regulieren müssen. Noch wichtiger ist, dass Smith argumentiert, dass wir es können. Als außerordentlicher Professor für Recht an der Charles Sturt University schlägt er vor, dass das Recht mehr als genug Ressourcen hat, um Maschinen unter menschliche Kontrolle zu bringen.

Tatsächlich ist Australien laut Smith einzigartig positioniert, um die Welt in der technologischen Regulierung anzuführen, gerade weil es nicht die Heimat der großen Technologieunternehmen ist, die die amerikanische und europäische Gesellschaft dominieren. Dies erklärt, warum Australien, in Smiths Worten, "über seine Gewichtsklasse hinaus schlägt" in diesem Bereich.

Bedrohung für die Demokratie
Smith teilt sein Buch in drei streng strukturierte Teile, die die Beziehung der Technologie zur Regierung, zum Individuum und zur Gesellschaft untersuchen.

Im ersten Teil befasst er sich mit großen politischen Fragen wie vom Menschen verursachten Klimawandel, der Anwendung von KI auf jeden Aspekt des öffentlichen Lebens und sozialen Kreditsystemen, die durch digitale Überwachung und Big Data ermöglicht werden.

Vielleicht ist das interessanteste Argument hier die Ähnlichkeit zwischen dem berüchtigten sozialen Kreditsystem der chinesischen Regierung und den von kommerziellen Kräften entwickelten sozialen Kreditsystemen.

Es ist leicht, eine Regierung zu kritisieren, die eine Reihe technologischer Methoden verwendet, um das Verhalten ihrer Bürger zu beobachten, zu bewerten und zu regulieren. Aber sammeln Banken nicht ständig Daten und fällen Urteile über potenzielle Kunden - oft mit tief diskriminierenden Ergebnissen? Und nutzen Plattformen wie eBay, Uber und Airbnb nicht auch Reputations-Kreditbewertungen als Teil ihres Geschäftsmodells?

Für Smith ist die Frage nicht, ob soziale Kreditsysteme existieren werden. Es ist fast unvermeidlich, dass sie es tun werden. Er fordert uns auf, lange und gründlich darüber nachzudenken, wie wir solche Systeme regulieren werden und sicherstellen, dass sie nicht die "Kernwerte" der liberalen Demokratie übertreffen dürfen. Zu diesen zählt Smith "Redefreiheit, Bewegungsfreiheit und Versammlungsfreiheit" sowie "Rechtsstaatlichkeit, Gewaltenteilung, Pressefreiheit und freien Markt".

Der zweite Teil von Techno konzentriert sich auf das Individuum und die Bedrohung, die neue Technologien für die Privatsphäre darstellen. Die Hauptsorge hier ist die riesige Menge an Daten, die jedes Mal über uns gesammelt wird, wenn wir uns mit dem Internet verbinden - was für die meisten von uns mehr oder weniger die ganze Zeit bedeutet.

Wie Smith feststellt, hat Australien zwar offensichtlich ein globales Phänomen, aber die zweifelhafte Ehre, die liberalen Demokratien der Welt in der Gesetzgebung zu führen, die den staatlichen Zugang zu diesen Daten ermöglicht. Private Technologieunternehmen in Australien sind gesetzlich verpflichtet, Hintertüren in die verschlüsselten Aktivitäten ihrer Kunden einzufügen. Strafverfolgungsbehörden haben die Macht, Konten zu übernehmen und diese Aktivitäten zu stören.

"Die Tatsache ist, dass liberaldemokratische Regierungen genauso handeln wie die autoritären Regime, die sie kritisieren", schreibt Smith:

Sie können behaupten, dass sie dies nur in bestimmten und gerechtfertigten Fällen unter einem Haftbefehl tun, aber sobald die Technologie verfügbar wird, ist es wahrscheinlich, dass irgendeine Regierungsbehörde ihre Befugnisse erweitern wird, in dem Glauben, dass ihre Handlungen durch den Nutzen, den ihre Arbeit der Gemeinschaft bringt, gerechtfertigt sind.

Der Aufstieg von Big Data drängt liberale Demokratien so zwangsläufig zu einer autoritäreren Haltung". Aber für Smith ist die Lösung klar:

Wenn Rechte wie Privatsphäre und Autonomie erhalten bleiben sollen, dann sind neue Vorschriften der Schlüssel zur Bewältigung dieser neuen Fragen der Privatsphäre, Sicherheit und Politik.

Praktische Schwierigkeiten
Der letzte Teil von Techno konzentriert sich auf die Beziehung zwischen Technologie und Gesellschaft, wobei Smith hauptsächlich die Wirtschaft und Märkte meint.

Er bietet einen nützlichen Überblick über die Blockchain-Technologie, die von Kryptowährungen verwendet wird, die versprochen haben, Ungleichheit zu lindern und Wachstum zu schaffen, indem sie den Austausch dezentralisieren. Auch hier vermeidet Smith einen triumphalistischen oder katastrophalen Ansatz. Er stellt vernünftige Fragen dazu, wie Regierungen solche Aktivitäten vermitteln und innerhalb der Grenzen des Rechtsstaates halten könnten.

Er verweist auf Beispiele aus China und der Europäischen Union als zwei mögliche Modelle. Das erste betont die Rolle des Staates; das zweite versucht, gesetzgeberische Bedingungen für digitale Märkte zu schaffen. Und während beide ernsthafte Einschränkungen haben, ist eine Kombination dieser beiden Modelle wahrscheinlich am erfolgreichsten.

Aber tatsächlich tritt am Ende des Buches Smiths zentrale Sorge - Regulierung - in den Vordergrund. Er hat keine Schwierigkeiten, die Bedeutung seiner Arbeit auszudrücken. "Die Regulierung der Technologie", schreibt er, "ist wahrscheinlich die wichtigste öffentliche politische Frage, der sich die Menschheit heute gegenübersieht".

Zu sagen, dass wir die Technologie regulieren müssen, ist jedoch viel einfacher, als zu erklären, wie wir das tun können.

Techno bietet eine sehr breite Skizze des Letzteren. Smith schlägt vor, dass dies "die Einbeziehung wichtiger Akteure" (einschließlich Technologen, Unternehmen und Ethikern), "Regulierung durch Technologie" (d. h. die Nutzung technologischer Mittel zur Durchsetzung von Gesetzen auf technologische Systeme) und die Einrichtung einer "besonderen internationalen Agentur" zur Koordinierung von Regulierungsprozessen erfordern würde.

Aber Smith geht nicht wirklich auf die Komplexität der Umsetzung einer dieser Empfehlungen in der Praxis ein. Darüber hinaus ist es möglich, dass sein Ansatz trotz seiner beträchtlichen Ambition das wahre Ausmaß des Problems nicht umfasst. Wie eine andere australische Akademikerin, Kate Crawford, kürzlich argumentierte, können wir intelligente Technologien nicht einfach als Objekte oder Werkzeuge verstehen - einen Computer, eine Plattform, ein Programm. Dies liegt daran, dass sie nicht unabhängig von den komplizierten Netzwerken der Beziehungen zwischen Menschen und der Welt existieren.

Diese Netzwerke erstrecken sich bis zu den Lithiumminen, die die Mineralien abbauen, die die Technologie funktionsfähig machen, Amazon-Lagerhäusern, die Komponenten weltweit liefern, und digitalen Sweatshops, in denen Menschen ein Trinkgeld bezahlt wird, um die Illusion mechanischer Intelligenz zu erzeugen. All dies schadet der Umwelt, verschärft Ungleichheiten und erleichtert den Abbau der demokratischen Regierungsführung.

Wenn ein Regulierungsprojekt Phänomene dieser Art berühren sollte, müsste es viel umfassender und umfassender sein, als selbst Smith vorschlägt. Es könnte bedeuten, einige von dem, was Smith als unsere "Kernwerte" bezeichnet, neu zu überdenken, anstatt einfach zu versuchen, sie zu sichern. Es könnte erfordern, Fragen zu stellen, ob unsere Demokratien jemals wirklich demokratisch waren, ob unsere Gesellschaften jemals wirklich auf Gleichheit abzielten und ob wir weiterhin an den sogenannten "freien Markt" glauben können.

Solche Fragen zu stellen würde sicherlich nicht das Ende der Welt bedeuten, aber es könnte eine Revolution bedeuten.

Original:
Charles Barbour
Außerordentlicher Professor, Philosophie, Western Sydney University