Warum ich dir dabei helfe, nicht mein Kunde werden zu müssen

Statt mein Produkt zu verteidigen, mache ich mir lieber selbst Konkurrenz darin, das Bedürfnis meiner Kunden noch besser zu stillen. Denn wenn ich es nicht tue, dann tut es irgendwann jemand anderes.

Man nennt mich Seriengründer, tatsächlich bin ich eher ein Potentialfinder.

Also jemand, der etwas sieht, was es zwar noch nicht gibt, wohl aber geben könnte.

Also jemand, der einen Konjunktiv erkennt.

Meine Aufgabe ist es dann, diesen Konjunktiv in einen Indikativ zu verwandeln.

Konkret habe ich 11 Firmen gegründet, davon 7 im Tourismus. Eine davon ist Radweg-Reisen, ein Veranstalter von Fahrradreisen, der als 1-Mann-Unternehmen begann und binnen weniger Jahre zum europäischen Marktführer wuchs.

Das Aha-Erlebnis

Noch bevor ich diese, noch bevor ich irgendeine meiner Firmen gegründet hatte, war etwas passiert, was mir die Augen geöffnet hat für eines der so genannten Geheimnisse meines Erfolgs: nämlich die kompromisslose Konzentration auf die Bedürfnisse meiner Kunden. Und die Betonung liegt in diesem Satz übrigens nicht auf den Bedürfnissen, sondern auf der Kompromisslosigkeit.

Damals war ich Student der Mathematik und Philosophie an der Uni Konstanz und verbrachte einen Teil meiner Sommerferien mit einem Aushilfsjob. Ich jobbte als Fahrradmechaniker bei einer Firma, die damals Deutschlands größter Veranstalter von Fahrradreisen war und ihre Zentrale in Konstanz hatte.

Und während ich dort mit ölverschmierten Fingern Lager und Schaltungen von Fahrrädern reparierte, hörte ich zufällig, wie der Geschäftsführer und Inhaber dieser Firma laut schnaubend durch den Hof lief und vor Ärger brüllte.

Ihm war eben aufgefallen, dass ein Kunde eine seiner Fahrradreisen um den Bodensee gebucht hatte. Darauf bekam jener mit der Buchungsbestätigung auch die Reiseunterlagen zugesendet. Doch statt nun die darin enthaltene Rechnung für die Anzahlung des Reisepreises zu begleichen, hatte der Kunde die Reise sofort wieder storniert.

Und der Geschäftsführer war nun wütend, weil der Kunde nur die Reiseunterlagen erhaschen wollte, um dann ohne dafür zu bezahlen mit dem darin enthaltenen Know-How seine Radreise rund um den Bodensee in Eigenregie zu planen und durchzuführen.

Der Kunde hatte also ein Bedürfnis, das mit dem Produkt der Firma nur entfernt zu tun hatte.

Die Firma fühlte sich nun betrogen und beraubt. Und sie reagierte so darauf, dass ihr dies in Zukunft nicht mehr passieren konnte: Der Geschäftsführer beschloss die Reiseunterlagen künftig erst dann an seine Kunden zu versenden, wenn die Stornokosten für die gebuchten Reisen bereits hoch genug seien, dass es sich nicht lohne, sie für die Reiseunterlagen zu bezahlen.

Ich stand damals mit meinen ölverschmierten Händen neben ihm im Hof, und mir war sofort unwohl bei dem Gedanken, dass dieser Mann alle seine Kunden als Feinde betrachtete, vor denen er sein Produkt schützen wollte.

Das ist falsch

Noch heute kann ich mich genau daran erinnern, wie ich dachte: „Das ist falsch, ich würde das ganz anders machen.“

Zwar wusste ich damals noch nicht, dass ich selbst einmal Unternehmer werden würde. Doch als es 2001 soweit war, da erinnerte ich mich noch genau an diesen Moment. Und ich überlegte, was denn das größtmögliche Gegenteil sei von diesem Misstrauen, das man der eigenen Zielgruppe entgegenbringen kann.

Und genau hier hakte ich ein: ich tat das Gegenteil.

Statt für mein Startup eine Webseite mit dem Katalog aller unserer pauschalen Bodensee-Radreisen zu erstellen, baute ich eine Webseite, auf der nur die Destination Bodensee-Radweg beschrieben stand. Ich erstellte sozusagen einen digitalen und kostenlosen Reiseführer für Radler am Bodensee. Das Verzeichnis aller Hotels, aller Jugendherbergen, aller Campingsplätze und Ferienwohnungen, die Landkarten, die Tipps und Tricks und einfach alles, was man wissen musste, um eine selbst-organisierte Radreise um den Bodensee zu unternehmen.

Ich tat also alles, um dem Besucher meiner Webseite dabei zu helfen, nicht mein Kunde werden zu müssen.

Ganz bestimmt verlor ich damit den einen oder anderen Kunden, der nach einer Pauschalreise gesucht hatte und schließlich lernte, wie er günstiger, flexibler und individueller um den Bodensee radeln konnte ohne etwas von mir zu kaufen.

Die Befürchtung vom wütenden Geschäftsführer trat also gewiss ein. Dieser eine Kunde von damals, den hätte ich so nie überzeugt mein Produkt zu kaufen.

Tatsächlich aber ist die Zahl der Individualtouristen am Bodensee-Radweg etwa 20 Mal größer als die der Pauschaltouristen. Ich zielte mit meiner Webseite also auf eine 20 Mal größere Zielgruppe. Und meine Seite war auch in kürzester Zeit weit über 20 Mal so frequentiert, wie die der Konkurrenz.

Während ich also einzelne Kunden verloren haben mag, sind etliche Hunderttausend neuer Kunden in derselben Zeit so erst auf mein Angebot aufmerksam geworden. Und viele von ihnen haben meine Reisen gebucht. Sehr viele übrigens.

Genau genommen sogar so viele, dass ich bereits wenige Jahre nach der Firmengründung meines 1-Mann-Unternehmens das Bürogebäude von meinem ehemaligen Konkurrenten übernommen hatte. Und viele der Mitarbeiter. Und fast alle Vertriebspartner.

Bald war meine Firma nicht nur größer geworden als seine, sondern sogar der größte Radreiseveranstalter Europas.

Und warum genau?

Weil ich mich darauf fokussierte, die Bedürfnisse meiner Zielgruppe erkennen und erfüllen, statt auf die Verteidigung meiner Produkte.

Investment von Bikemap – und seine Geschichte

Speedinvest und mehrere Angels haben in Bikemap investiert. Hier ist die Geschichte von der Gründung bis zur aktuellsten Version von Bikemap, die heute online ging.

Heute verkünden wir, was letzten Herbst und Winter unterzeichnet wurde: der Frühphaseninvestor Speedinvest ist in Bikemap eingestiegen.

Ebenfalls investiert haben die Angel Markus Wagner, Alexander Igelsböck, Thomas Kastenhofer, Jürgen Habichler und ich. Wir haben Bikemap mit noch mehr Kapital ausgestattet, um ein noch schnelleres und vor allem internationales Wachstum zu ermöglichen.

Die Geschichte von Bikemap

Mit meiner 2001 gegründeten Firma Radweg-Reisen hatte ich von Anfang an darauf abgezielt, im Web nicht nur unsere Produkte (also Pauschalreisen) anzubieten, sondern ganz gezielt die Bedürfnisse unserer Kunden zu erkennen und auf eigenen Webseiten zu stillen.

Ich half damit einerseits unserer Zielgruppe dabei, dass sie nicht unsere Kunden werden mussten, indem ich ihnen alle Information bereitstellte, die man zur eigenen Organisation einer Radreise in einer bestimmten Region braucht.

Andererseits vergrößerte ich damit aber insbesondere die Reichweite unseres Angebots um den Faktor 20, und es stellte sich heraus, dass wir durch diese Offenheit weit mehr Kunden gewannen als verloren.

Radweg-Reisen wuchs so von einem Ein-Mann-Unternehmen binnen weniger Jahre zum internationalen Marktführer. Und im Jahr 2013 habe ich die Firma verkauft.

Konkret habe ich damals dem weltweit wichtigsten Radweg eine eigene (und damit die erste) Webseite erstellt, dem Bodensee-Radweg. Dort präsentierte ich alle Inspirationen („warum?“) und Informationen (wie?“) zu Radreisen am Bodensee. Und nebenbei offerierte ich meiner derart gewachsenen Zielgruppe auch noch unsere Pauschalreisen als eine bequeme Option für ihre Reise.

Diese Strategie ging so gut auf, dass ich in den kommenden Jahren die Zahl der Radweg-Webseiten bis auf 30 erhöhte. Das machte eine Menge Arbeit, kostete eine Menge Geld, aber es funktionierte prächtig.

Doch bei der Zahl 30 begann meine manuelle Strategie an die Grenze ihrer Profitabilität zu stoßen.

Alle folgenden Radwege, also alle ab dem 31-sten, waren einfach nicht mehr populär genug, um den Aufwand von je einer eigenen Webseite zu rechtfertigen.

In anderen Worten: meine erfolgreiche Marketing-Strategie stieß an den Long-Tail.

Und ich konnte ausrechnen, dass auf den Radwegen 1 bis 30 nur etwa ein Drittel meiner Zielgruppe radelte.

In anderen Worten: der Long-Tail war doppelt so groß wie der Bestseller-Bereich.

Es brauchte also eine ganz andere Strategie, um dort Marketing zu betreiben.

Im August 2006 kam ich auf die zündende Idee, als ich von Jogmap.de las und mit überheblichem Optimismus auf meinem Blog schrieb:

Insgesamt eine ziemlich gute Umsetzung einer tollen Idee. Drei Monate Programmierung, ein halbes Jahr begleiten und dann sechsstellig an Nike verkaufen…!

Darauf fragte ich meinen „Blogvater“ Helge um Rat, wie man eine solche Idee für Radler umsetzen könne. Ich wollte es den Usern selbst überlassen, dass sie ihre Radwege und Radtouren online stellten. Und mir damit tausendfach Suchergebnisse für diese Touren lieferten.

Bei unserem ersten echten Treffen im Oktober 2006 und unserem ersten Tischfußballspiel. Es sollten viele Hundert folgen, von denen Helge alle gewann.
Bei unserem ersten echten Treffen im Oktober 2006 in Wien und unserem ersten Tischfußballspiel. Es sollten viele Hundert folgen – die Helge alle gewann.

Helge und ich verstanden uns so gut, dass er im Oktober 2006 von mir den Auftrag bekam, Bikemap zu entwickeln und die Umsetzung zu leiten.

Darauf reisten wir im Januar und Februar 2007 miteinander durch West-Afrika und stellten fest, dass unsere Ideen, unsere Kommunikation, unser Humor und vor allem auch unsere Art zu reisen und unser Unwille zur Seriosität gut zusammen passte.

Im Taxi von Ghana nach Burkina Faso
Bei der 12-stündigen Fahrt im Taxi von Ghana nach Burkina Faso.
In einem Dorf bei Ouagadougou mit lokal gebrautem "Bier"
In einem Dorf bei Ouagadougou mit lokal gebrautem „Bier“.

Bikemap ging Anfang 2007 online, und die Seite bestand damals im Wesentlichen aus einer großen Karte und den zwei Funktionen „Route finden“ und „Route anlegen“.

Diese fantastische Reduktion war Helges Geheimnis für unseren schnellen Erfolg mit Bikemap, der sich schon nach wenigen Wochen zeigte.

Die erste Version von Bikemap, wie sie 2007 online ging
Die erste Version von Bikemap V1, wie sie 2007 online ging.

Als wir sahen, dass Bikemap sogar als ein eigenes Startup taugte und damit viel zu schade war, um „nur“ ein Marketing-Vehikel für meine andere Firma zu sein, beschlossen wir daraus ein eigenes Startup zu machen.

Wir gründeten also 2007 die Toursprung GmbH, die als Produkt Bikemap entwickelte und betrieb. Wir wissen bis heute nicht, ob der Firmenname aus einer Überdosis Alkohol oder Taurin entstand. Vielleicht auch beides.

Auf jeden Fall aber war Bikemap nun nicht mehr länger mein eigenes Projekt, sondern Helge und ich teilten es uns.

Eine der ersten Sessions an Bikemap
Weil es damals noch keine Club Mate gab (oder wir sie zumindest noch nicht kannten)…
...halfen wir uns mit Taurin, einem Art Redbull-Konzentrat.
…halfen wir uns mit Taurin, einem Art Redbull-Konzentrat.

Sehr schnell zeigte sich, dass die zentrale Karte in Bikemap auch die zentrale Herausforderung war. Die API von Google-Maps ließ damals noch nicht alles zu, was wir brauchten. Und darum programmierten Helge und unser Team in Wien das Ding einfach selbst.

Wobei das eigentlich gar nicht einfach war.

Aber wir schufen dennoch gute Lösungen, und es dauerte nicht lange, bis dies auch anderen Firmen auffiel. Sie kontaktierten uns in der Folge immer häufiger und fragten, ob wir auch für sie solche Kartenanwendungen programmieren könnten.

Unsere Antwort blieb so lange ein „Nein“, wie wir dachten, dass wir nur ein Produkt (Bikemap) und keine Stunden (als Agentur) verkaufen wollen würden.

Bald merkten wir jedoch, wie uns diese Nachfrage darauf aufmerksam machte, dass wir ein neues Produkt entwickelt hatten.

Damit begann die ganz eigene Geschichte von Toursprung als digitaler Kartenanbieter mit unserem Produkt Maptoolkit. Die Firma Toursprung, die ich 2015 verkauft habe, lebt und wächst bis heute damit und davon.

Derweil lief und wuchs Bikemap irgendwie zunehmend als ein Nebenprojekt von Toursprung weiter.

Im Jahr 2010 kam Felix Krause als 15-jähriger Praktikant zu uns, und wir waren nach wenigen Momenten überzeugt von seinem Talent.

Die futurzone.at zitierte schon damals Helge Fahrnberger:

Wir leben in Zeiten, in denen 16-Jährige uns Software-Firmen zeigen, wo der Hammer hängt.

So entwickelte Felix in 300 Stunden unsere erste Bikemap App, die in den ersten elf Tagen bereits 3.200 Mal mal installiert wurde, und die unser erster Schritt in das mobile Bikemap war.

Die erste App von Bikemap
Die erste App von Bikemap.

Später entwickelte Felix übrigens Fastlane, das er 2015 an Twitter verkaufte, wo er mittlerweile auch arbeitet.

Wir stellten zwar 2011 auch eine neue Version vom Web-basierten Bikemap online, doch die Herausforderung für ein sich selbst finanzierendes Web-Projekt von dieser Größe war enorm. Wir erkannten das in den kommenden Jahren immer deutlicher, und bald schon waren wir nicht mehr wirklich zufrieden damit, wie sich Bikemap online präsentierte.

Bikemap V2, wie es ab 2011 online war
Bikemap V2, wie es ab 2011 online war.

Dennoch wuchs Bikemap immer weiter, und uns wurde langsam klar, dass wir mit Bikemap entweder noch viel mehr Gas geben müssten, oder unser „Window Of Opportunity“ würde sich eines Tages wieder schließen.

Darum gründeten wir Bikemap Anfang 2015 in eine eigene GmbH aus und vertrauten bei der Geschäftsführung auf Christof Hinterplattner. Völlig zu Recht, wie sich sofort zeigte.

Ab 2015 hatte Bikemap drei Väter
Ab 2015 hatte Bikemap drei Väter.

Außerdem legte ich als Investor in Bikemap nochmals nach, um das Team weiter zu vergrößern. In der Zwischenzeit begann die Arbeit an Bikemap V3, in der sprichwörtlich jeder Ziegelstein neu programmiert wurde – bis hin zu den Apps.

Im Dezember 2015 schließlich überzeugten wir nicht nur den Frühphaseninvestor Speedinvest zu einem Investment in Bikemap, sondern wir gewannen auch die Angel Markus Wagner (i5invest), Alexander Igelsböck (Adspired, Runtastic), Thomas Kastenhofer (Jumio) und Jürgen Habichler (European Investment AG).

Die neuen Gesellschafter von Bikemap
Nun hat Bikemap noch mehr Väter, also ab 2016.

Damit ist Bikemap nun besser aufgestellt denn je, und eine messerscharfe Runde von Gesellschaftern unterstützt nun das weitere und internationale Wachstum.

Und heute, am 1. April 2016 ging auch die neueste und beste Version von Bikemap online, die es je gab.

Bikemap V3, online seit Abril 2016
Bikemap V3, online seit Abril 2016.

Ich bin dankbar und stolz zugleich für unser großartiges Team und das tolle Ergebnis der vergangenen Monate.

Und ich kann es kaum erwarten bis online geht, was alles bereits in der Pipeline steckt.

Künstliche Intelligenz wird uns töten – oder unsterblich machen

Dies ist der zweite Teil der beiden Artikel über Superintelligenz. Du solltest zuerst Teil 1 lesen und dann diesen hier.

Weiter geht es mit der Übersetzung des zweiten Teils von WaitButWhy.com:


 

Wir stehen einem extrem schwierigen Problem gegenüber, von dem – ohne dass wir wissen, wieviel Zeit uns zu seiner Lösung bleibt – in einem ganz realen Sinne die gesamte Zukunft der Menschheit abhängt. – Nick Bostrom

Willkommen zum zweiten Teil von „Das soll realistisch sein? Aber warum sprechen nicht alle Leute darüber?“

Teil 1 begann ganz unschuldig mit Enger Künstlicher Intelligenz (EKI). Also KI, die sich auf eine engbegrenzte Aufgabe spezialisiert, wie die Berechnung der optimalen Fahrtroute oder das Schachspielen, und uns allgegenwärtig im Alltag begleitet.

Dann sind wir der Frage nachgegangen, warum es so schwer ist von EKI zu Allgemeiner Künstlicher Intelligenz (AKI) zu kommen. Also zu einer KI, die intellektuell in allen Bereichen mindestens genauso fähig ist wie ein Mensch. Überdies haben wir geklärt, warum vor dem Hintergrund des exponentiellen technischen Fortschritts, den wir schon erlebt haben, eine AKI nicht so weit in der Zukunft liegen muss, wie es zuerst erscheint.

Teil 1 endete damit, dass ich dich mit der Tatsache konfrontiert habe, dass Maschinen, sobald sie menschliche Intelligenz erreicht haben, Folgendes tun könnten:

ki_2-01

ki2-02

ki2-03

ki2-04

Das lies uns staunend zurück: die schwerwiegende Idee, dass in unserer Lebenszeit noch Künstliche Superintelligenz entstehen könnte. Also KI, die viel klüger ist als jeder Mensch, in jeder Hinsicht. Und wir mussten uns überlegen, wie wir nun emotional dazu stehen.

Bevor wir tiefer einsteigen, möchte ich nochmal daran erinnern, was es für eine Maschine bedeuten würde, superintelligent zu sein.

Eine wichtige Unterscheidung ist die zwischen Geschwindigkeitssuperintelligenz und Qualitätssuperintelligenz.

Oftmals denken Leute, wenn sie sich einen super-schlauen Computer vorstellen, an etwas, das genauso intelligent wie ein Mensch ist, aber viel, viel schneller arbeitet. Sie stellen sich eine Maschine vor, die wie ein Mensch denkt, nur eine Million Mal schneller. Was bedeutet, dass die Maschine in fünf Minuten lösen kann, wofür ein Mensch ein Jahrzehnt benötigt.

Das klingt beeindruckend und KSI würde viel schneller denken als jeder Mensch. Der wahre Unterschied wäre aber die Qualität der Intelligenz.

Und das ist etwas komplett Verschiedenes.

Was uns Menschen so viel intelligenter macht als einen Schimpansen ist nicht der Geschwindigkeitsunterschied unseres Denkens – es sind die zusätzlichen kognitiven Module des menschlichen Gehirns, die im Unterschied zum Schimpansen komplexe linguistische Repräsentationen oder langfristiges Planen und abstraktes Denken ermöglichen.

Selbst wenn wir das Schimpansen-Gehirn um den Faktor 1.000 beschleunigen würden, könnte dieses immer noch nicht auf unserem Niveau arbeiten. Nicht in 10 Jahren wäre es in der Lage, mit speziellen Werkzeugen ein verzwicktes Modell zusammenzubauen, obwohl dies ein Mensch in wenigen Stunden fertigbringt.

Und es gibt viele Bereiche der menschlichen Kognition, in die ein Schimpanse niemals vordringen könnte, egal wie lange er sich damit beschäftigen würde. Aber ein Schimpanse scheitert nicht nur dabei, Dinge zu tun, die wir Menschen können. Sein Gehirn hat nicht einmal eine Ahnung, dass diese Welten existieren. Ein Schimpanse kann mit einem Menschen vertraut sein, oder mit einem Wolkenkratzer. Er wäre aber nie in der Lage, zu begreifen, dass der Wolkenkratzer von Menschen gebaut wurde. In seiner Vorstellung sind alle Dinge dieser Größenordnung ein Teil der Natur. Punkt. Und es ist ihm nicht nur nicht möglich, einen Wolkenkratzer selbst zu bauen, er kann sich nicht einmal vorstellen, dass irgendjemand einen Wolkenkratzer bauen kann.

Das liegt an dem kleinen Unterschied in der Qualität der Intelligenz.

Wenn man sich das ganze Spektrum der Intelligenz, über das wir heute sprechen, vor Augen führt, dann ist der Unterschied in der Intelligenz zwischen einem Schimpansen und einem Menschen winzig.

Das trifft selbst dann zu, wenn man nur das Spektrum der Intelligenz aller Lebewesen betrachtet.

In einem früheren Artikel habe ich die Bandbreite der kognitiven Fähigkeiten mit Hilfe einer Treppe visualisiert:

ki2-05 Kopie

Um dir klar zu machen, was für eine große Sache eine superintelligente Maschine wäre, stelle dir eine Maschine, zwei Stufen über dem Menschen, auf der dunkelgrünen Stufe vor.

Diese Maschine wäre nur ein bisschen superintelligent, aber die gesteigerten kognitiven Fähigkeiten wären genauso weitreichend wie zwischen Mensch und Schimpanse.

Ein Schimpanse ist nicht in der Lage, sich den Bau eines Hochhauses vorzustellen. Genauso könnten wir niemals die Dinge begreifen, die eine Maschine auf der dunkelgrünen Stufe vollbringen könnte. Selbst dann nicht, wenn die Maschine versuchen würde, es uns zu erklären. Und diese Dinge selbst zu tun, wäre genauso unmöglich. Und das nur zwei Stufen über uns.

Eine Maschine auf der zweithöchsten Stufe der obigen Darstellung stände zu uns so, wie wir zu einer Ameise stehen – sie könnte jahrelang versuchen, uns die allereinfachsten Dinge aus ihrer Gedankenwelt beizubringen und es bestünde doch keinerlei Hoffnung auf Erfolg.

Aber die Art von Superintelligenz über die wir heute sprechen wollen, ist der obigen Treppendarstellung weit enteilt.

Vergegenwärtige dir eine Explosion der Intelligenz, in der eine Maschine mit jedem Intelligenzfortschritt noch schneller intelligenter wird, bis die Intelligenz der Maschine in die Höhe schnellt. In diesem Prozess könnte es anfangs Jahre dauern, bis der Schritt vom Schimpansen zum Menschen erreicht wird. Dann aber nur noch Stunden, um vom Niveau des Menschen auf die dunkelgrüne Stufe knapp über ihm zu gelangen. Und wenn sie dann zehn Stufen über unserem Niveau wäre, könnte sie vielleicht pro Sekunde schon vier weitere Stufen erklimmen.

Deshalb muss uns folgendes klar sein: Es ist durchaus möglich, dass wir kurz nach der ersten Berichterstattung über erfolgreiche menschenähnliche AKI schon in realer Koexistenz leben könnten mit etwas, das sich auf unserer Treppe etwa dort befindet (oder eine Million Mal höher):

ki2-07

Und da wir gerade schon gesehen haben, dass es ein hoffnungsloses Unterfangen ist, eine Maschine verstehen zu wollen, die nur zwei Stufen über unserer arbeitet, möchte ich hier ganz konkret und unmissverständlich festhalten, dass es überhaupt keinen Weg gibt, zu wissen, was eine AKI tun wird oder was die Konsequenzen für uns sein werden.

Jeder, der dem widerspricht, versteht nicht, was Superintelligenz bedeutet.

Die Evolution hat das biologische Gehirn im Laufe von hunderten Millionen von Jahren nach und nach verbessert. Und in diesem Sinne werden wir Menschen, wenn wir AKI erschaffen, der Evolution kräftig auf die Füße treten. Oder vielleicht ist es ein Teil der Evolution, dass die Intelligenz mühsam nach oben krabbelt bis sie das Niveau erreicht, um superintelligente Maschinen zu erschaffen. Und dieses Niveau gleicht einem Stolperdraht, der eine weltweite, grundlegende Veränderung auslöst und uns mit allen anderen Lebewesen in eine neue Zukunft katapultiert:

k2-08

Und aus Gründen, die wir später besprechen werden, glaubt ein großer Teil der wissenschaftlichen Gemeinschaft, dass es keine Frage ist, ob wir diesen Stolperdraht erreichen, sondern nur eine Frage des Zeitpunktes.

Ziemlich verrückte Neuigkeiten.

Also, wie stehen wir nun dazu?

Nun, niemand auf dieser Erde, und ich schon gar nicht, kann dir sagen, was passieren wird, wenn wir diesen Stolperdraht auslösen.

Aber der Philosoph der Universität Oxford und führende Vordenker der KI Nick Bostrom glaubt, dass es möglich ist, alle Szenarien in zwei weitgefasste Kategorien zu packen:

Erstens, wenn wir zurückblicken, dann sehen wir, dass das Leben folgendermaßen funktioniert: Spezies entstehen, existieren für eine Weile und nach einiger Zeit fallen sie vom Schwebebalken der Existenz und stürzen in die Extinktion, sterben also aus.

ki2-09

„Jede Spezies stirbt früher oder später aus“ war als Regel fast genauso zuverlässig während gesamten Geschichte wie „Alle Menschen sterben früher oder später“.

Bis jetzt sind 99.9% aller Spezies in die Extinktion gestürzt. Und es scheint ziemlich offensichtlich, dass es nur eine Frage der Zeit ist, bis eine Spezies, die den Balken immer länger entlang schwankt, von irgendeiner anderen Spezies, einer Laune der Natur oder einem Asteroiden heruntergestoßen wird.

Bostrom nennt die Extinktion einen Attraktor-Zustand – ein Ort, dem alle Spezies entgegentaumeln und von dem niemand je zurückgekehrt ist.

Und obwohl die meisten Wissenschaftler, mit denen ich gesprochen habe, die Perspektive des Aussterbens durch AKI anerkennen, glauben zahlreiche Wissenschaftler, dass die Möglichkeiten von AKI, wenn sie wohlwollend genutzt werden, uns als Spezies und einzelne Menschen in einen zweiten Attraktor-Zustand bringen könnten – nämlich die Unsterblichkeit der Spezies. Bostrom glaubt, dass die Unsterblichkeit einer Spezies genauso ein Attraktor- Zustand ist wie die Extinktion der Spezies.

Das heißt, wenn wir ihn erreichen, werden wir dem Aussterben für immer entkommen sein – wir werden die Sterblichkeit besiegt und den Zufall überwunden haben.

Obwohl also alle Spezies bis jetzt von dem Schwebebalken gefallen und in die Extinktion gestürzt sind, glaubt Bostrom, dass es eine zweite Seite des Balkens gibt. Nur auf der Erde war bisher noch niemand intelligent genug, um es zu schaffen, auf der anderen Seite herunterzufallen.

ki2-09 2

Wenn Bostrom und andere recht haben, und das deckt sich auch mit allem, was ich gelesen habe, dann scheint es so zu sein, dass wir zwei ziemlich schockierende Fakten verdauen müssen:

  1. Die Ankunft von AKI wird zum ersten Mal einer Spezies die Möglichkeit eröffnen, in Richtung Unsterblichkeit vom Balken zu stürzen.
  2. Die Ankunft von AKI wird so ein unvorstellbar großer Einschlag werden, dass die Menschheit mit hoher Wahrscheinlichkeit vom Balken fallen wird – in die eine Richtung oder die andere.

Es kann gut sein, dass mit dem Auslösen des Stolperdrahts die Beziehung der Menschheit zum Schwebebalken der Existenz endet und eine neue Welt entsteht – mit Menschen oder ohne Menschen.

Es macht den Eindruck, als sollte sich jeder Mensch im Augenblick nur eine Frage stellen: Wann werden wir den Stolperdraht auslösen und auf welcher Seite werden wir dann landen?

Niemand auf der Erde kennt auch nur die Antwort auf einen der beiden Teile dieser Frage. Jedoch haben viele der klügsten Menschen schon Jahrzehnte investiert, um darüber nachzudenken.

Der restliche Artikel wird dem nachgehen, was dabei herausgekommen ist.

—–

Sprich: Wie lange wird es dauern, bis die erste Maschine Superintelligenz erreicht?

Wenig überraschend gehen die Meinungen dazu weit auseinander. Und die Debatte wird von den Wissenschaftlern und Vordenkern hitzig geführt. Viele, wie Professor Vernor Vinge, der Wissenschaftler Ben Goertzel, der Mitgründer von Sun Microsystems Bill Joy, oder vielleicht als Prominentester, der Erfinder und Zukunftsforscher Ray Kurzweil, stimmen mit dem Experten für Maschinenlernen Jeremy Howard überein, der in seinem TED-Talk folgendes vorschlägt:

ki2-11

Diese Leute glauben, dass dies bald passieren wird – das exponentielle Wachstum ist am Werk, und Maschinenlernen wird innerhalb der nächsten Jahrzehnte an uns vorbeischießen, obwohl es sich im Moment nur langsam an uns heranschleicht.

Andere, wie der Mitgründer von Microsoft Paul Allen, der Forscher und Psychologe Gary Marcus, der Informatiker an der NYU Ernest Davis und der Technologie-Unternehmer Mitch Kapor glauben, dass Vordenker wie Kurzweil das Ausmaß der Herausforderungen gewaltig unterschätzen und glauben stattdessen, dass wir uns in Wirklichkeit nicht so knapp vor dem Stolperdraht befinden.

Die Fraktion um Kurzweil würde dem entgegnen, dass ausschließlich das Wachstum in seiner exponentiellen Art unterschätzt wird. Und sie würden die Zweifler mit denen vergleichen, die beim Anblick des langsam keimenden Samens des Internets im Jahr 1985 die Meinung vertraten, dass daraus unter keinen Umständen in der nahen Zukunft irgendetwas Wirkungsvolles entstehen würde.

Die Zweifler könnten daraufhin erwidern, dass das Ausmaß an Fortschritt, das nötig ist, um die Intelligenz zu steigern, ebenfalls exponentiell mit jedem Schritt wächst. Wodurch die exponentielle Natur des technischen Fortschrittes nivelliert wird.

Und so weiter.

Ein drittes Lager, dem Nick Bostrom angehört, glaubt, dass sich keine der beiden vorherigen Fraktionen auch nur im Geringsten bezüglich des weiteren zeitlichen Ablaufes sicher sein kann. Er erkennt an, dass es A) sowohl in der nahen Zukunft schon so weit sein könnte und dass es B) keine Garantie dafür gibt; es ist auch möglich, dass es noch viel länger dauert.

Und wieder andere, wie der Philosoph Hubert Dreyfus, glauben, dass alle drei der obigen Gruppen naiv sind, zu glauben, dass es so etwas wie einen Stolperdraht überhaupt gäbe. Sie vertreten die Überzeugung, dass es wahrscheinlicher ist, dass AKI niemals Realität werden wird.

Also was ergibt sich, wenn wir all diese Meinungen zusammenbringen?

Im Jahr 2013 haben Vincent C. Müller und Nick Bostrom auf einer Reihe von Konferenzen eine Umfrage unter hunderten KI-Experten durchgeführt. Sie stellten darin die folgende Frage: „Nehmen Sie für diese Frage an, dass die wissenschaftliche Aktivität des Menschen ohne bedeutende negative Störung weitergeht. In welchem Jahr liegt nach Ihrer Einschätzung die Wahrscheinlichkeit für existierende MMI4 bei (10% / 50% / 90%)?“

Es wurde also nach einem optimistischen Jahr gefragt, in dem die Wahrscheinlichkeit für existierende AKI bei 10% liegt, einer realistischen Schätzung, bei dem die Wahrscheinlichkeit bei 50% liegt und einer sicheren Schätzung, bei der man schon mit 90% Wahrscheinlichkeit sagen kann, dass es AKI gibt.

Zusammengefasst in einem Datensatz erhält man das folgende Ergebnis:

Der Median des optimistischen Jahres (10% Wahrscheinlichkeit): 2022
Der Median des realistischen Jahres (50% Wahrscheinlichkeit): 2040
Der Median des pessimistischen Jahres (90% Wahrscheinlichkeit): 2075

Der Median-Teilnehmer der Umfrage denkt also, dass wir in 25 Jahren eher AKI haben als nicht.

Die 90%-Median-Antwort von 2075 bedeutet, dass du als heutiger Teenager in deiner Lebenszeit fast mit Sicherheit noch AKI erleben wirst. Und diese Meinung hat nicht nur der Median-Teilnehmer, sondern auch die Hälfte der KI-Experten aus der Umfrage.

Eine andere Studie, die von dem Autoren James Barrat während der jährlichen AGI- Konferenz von Ben Goertzel durchgeführt wurde, interessierte sich nicht für Wahrscheinlichkeiten und fragte direkt, wann AKI erreicht sein würde: bis 2030, bis 2050, bis 2100, nach 2100 oder nie.

Die Ergebnisse:

Bis 2030: 42% der Befragten
Bis 2050: 25%
Bis 2100: 20%
Nach 2100: 10%
Nie: 2%

Also keine großen Unterschiede zu den Ergebnissen von Müller und Bostrom.

In der Umfrage von Barrat glauben über zwei Drittel der Teilnehmer, dass AKI bis 2050 erreicht werden wird. Und etwas weniger als die Hälfte sagen voraus, dass AKI in den nächsten 15 Jahren erreicht wird.

Bemerkenswert ist auch, dass nur etwa 2% denken, dass AKI nicht Teil unserer Zukunft sein wird.

Aber AKI ist nicht der Stolperdraht. Das ist erst KSI.

Wann glauben also die Experten, dass wir KSI erreichen?

Müller und Bostrom fragten die Experten auch, für wie Wahrscheinlich sie es halten, dass wir KSI erreichen

A) spätestens zwei Jahre nach erreichen von AKI (was einer nahezu unmittelbaren Intelligenz-Explosion gleichkäme) und B) innerhalb von 30 Jahren.

Die Ergebnisse: Die Median-Antwort ergab für einen schnellen AKI-KSI-Übergang innerhalb von zwei Jahren nur eine 10-prozentige Wahrscheinlichkeit. Ein langsamerer Übergang von maximal 30 Jahren aber eine Wahrscheinlichkeit von 75%.

Aus den obigen Daten können wir nicht ablesen, welche Übergangsdauer vom Median- Teilnehmer mit 50% Wahrscheinlichkeit angegeben worden wäre. Als grobe Schätzung schlage ich basierend auf den obigen Ergebnissen 20 Jahre vor.

Die Median-Meinung – also genau aus dem Zentrum der KI-Experten der Welt – glaubt, dass die realistischste Schätzung für das Erreichen des KSI-Stolperdrahts bei [2040 bis AKI + 20 Jahr nach meiner Schätzung] bei 2060 liegt.

ki2-12

Natürlich sind alle der obigen statistischen Ergebnisse spekulativ und sie repräsentieren nur eine moderate Meinung aus der KI-Experten-Gemeinde.

Aber sie zeigen uns, dass ein großer Teil der Leute, die am meisten über dieses Thema wissen, 2060 für eine vernünftige Schätzung für das Erreichen von möglicherweise weltverändernder KSI halten.

Das liegt nur 45 Jahre in der Zukunft.

Okay, jetzt also zum zweiten Teil der obigen Frage: Wann werden wir den Stolperdraht auslösen und auf welcher Seite werden wir dann landen?

Superintelligenz wird gewaltige Macht mit sich bringen – die entscheidende Frage für uns lautet:

Wer oder was wird diese Macht besitzen, und was wird dessen Motivation sein?

Die Antwort darauf wird bestimmen, ob KSI eine unbeschreiblich positive Entwicklung, eine unermesslich schreckliche Entwicklung oder etwas zwischen diesen Extremen sein wird.

Natürlich werden unter den Experten die verschiedensten Meinungen vertreten und es wird hitzig über diese Frage debattiert. In der Umfrage von Müller und Bostrom wurden die Teilnehmer gefragt, den verschiedenen vorstellbaren Auswirkungen von AKI auf die Menschheit eine Wahrscheinlichkeit zuzuordnen. Im Mittel ergaben die Antworten eine Wahrscheinlichkeit von 52% dafür, dass das Ergebnis entweder gut oder extrem gut sein wird und eine Wahrscheinlichkeit von 31% dafür, dass das Ergebnis entweder schlecht oder extrem schleicht sein wird. Die mittlere Wahrscheinlichkeit für ein relativ neutrales Ergebnis lag nur bei 17%.

Anders ausgedrückt, die Menschen, die sich mit diesem Thema am besten auskennen, sind sich ziemlich sicher, dass AKI große Auswirkungen mit sich bringen wird.

Und ich möchte nochmal darauf hinweisen, dass diese Zahlen über die Ankunft von AKI sprechen – wenn die Frage auf KSI abzielen würde, dann wäre der Anteil der neutralen Erwartungen nach meiner Vorstellung noch geringer.

Bevor wir uns tiefer mit dem Gutes-Ergebnis-Schlechtes-Ergebnis-Teil der Frage beschäftigen, möchte ich eine Matrix entwerfen, die auf der einen Achse „Wird es gut oder schlecht werden?“ abbildet und auf der anderen Achse die Frage „Wann wird es passieren?“ darstellt. Damit lassen sich dann die Ansichten der meisten relevanten Experten sehr gut verorten:

ki2-13_2_Kopie 2

Wir werden gleich noch genauer auf das Haupt-Lager eingehen, aber vorher: Wie geht es dir bis jetzt damit?

Ich kann dir sagen, was mit dir los ist, weil es mir, bevor ich mich mit dem Thema beschäftigt habe, genauso ging.

Einige Gründe, warum die meisten Leute sich nicht wirklich mit diesem Thema auseinandersetzen:

  • Wie schon in Teil 1 erklärt, haben Filme für viel Verwirrung gesorgt, weil unrealistische KI-Szenarien dargestellt werden, die den Eindruck aufkommen lassen, das KI als Ganzes kein ernstzunehmendes Thema ist. James Barrat vergleicht diese Situation mit unserer Reaktion auf eine Warnung des Gesundheitsamtes vor Vampiren.
  • Wegen der Kognitive Verzerrung genannten menschlichen Neigung fällt es uns schwer etwas für real zu halten, wenn wir keine Beweise dafür finden.
    Sicher haben im Jahr 1988 die Informatiker darüber gesprochen, wie wichtig das Internet wahrscheinlich werden würde. Aber die normalen Leute haben wohl erst realisiert, wie grundlegend das Internet wirklich ihr Leben verändern würde als die Veränderungen tatsächlich eintraten.
    Das lag zum Teil an der geringeren Leistungsfähigkeit der Computer im Jahr 1988. Die Leute sahen sich ihren Computer an und dachten: „Wirklich? Dieses Teil soll mein Leben auf den Kopf stellen?“
    Ihre Vorstellungskraft war begrenzt durch ihre eigene Erfahrung mit Computern, wodurch sie es sehr schwer hatten, sich vorzustellen, was aus Computern werden könnte.
    Das gleiche passiert nun im Bereich der KI. Wir hören, dass sie eine große Bedeutung haben wird. Weil es aber noch nicht passiert ist und aufgrund der relativ geringen Leistungsfähigkeit der aktuellen KI, haben wir große Probleme wirklich zu glauben, dass dadurch unser Leben dramatisch verändert werden könnte.
    Und gegen diese Verzerrung versuchen die Experten verzweifelt unsere Aufmerksamkeit zu erregen und uns aus unserer alltäglichen Selbstvergessenheit zu reißen.
  • Selbst wenn wir es glauben würden – wie oft hast du heute darüber nachgedacht, dass du den größten Teil der Zukunft nicht existieren wirst? Nicht oft, richtig? Obwohl dies ein viel intensiverer Gedanke ist als alles andere, was du heute machst? Das liegt an unserem Gehirn, das sich auf die kleinen, alltäglichen Dinge konzentriert, ganz egal wie verrückt eine uns betreffende langfristige Situation sein mag. Wir sind einfach so verdrahtet.

Eines der Ziele dieser beiden Artikel ist, dich aus dem „Ich denke lieber über andere Dinge nach“-Lager herauszulocken und dich ins Expertenlager zu führen.

Und das auch dann, wenn du im Moment erst auf der Schnittstelle der beiden gepunkteten Linien stehst – in dem Rechteck über völliger Ungewissheit.

Während meiner Recherche sind mir dutzende verschiedene Meinungen zu diesem Thema begegnet. Mit fiel aber rasch auf, dass die Meinung der meisten Leute irgendwo in das von mir sogenannte Hauptlager fällt.

Bemerkenswerterweise fallen über drei Viertel der Experten in zwei Unterlager des Hauptlagers:

ki2-13_2_Kopie

Wir werden uns nun intensiv mit diesen beiden Lagern beschäftigen. Fangen wir mit dem Vergnüglichen an:

Warum in Zukunft unsere größten Träume in Erfüllung gehen könnten

Am Anfang meiner Recherche traf ich auf eine überraschend große Menge an Leuten, die sich hier aufhielten:

ki2-13_2_Kopie_2

Die Leute aus der Zuversichtsecke sprühen vor Begeisterung. Sie haben die vergnügliche Seite des Schwebebalkens fest im Blick und sind überzeugt, dass wir alle dorthin kommen werden. Die Zukunft repräsentiert für sie alles, wovon sie jemals geträumt haben, genauso wie sie es sich wünschen.

Sie unterscheiden sich dabei nicht von den anderen Vordenkern durch ihre Vorfreude auf die glückliche Seite des Balkens – sondern durch ihre feste Überzeugung, dass wir tatsächlich auf dieser Seite landen werden.

Woher diese Zuversicht herrührt, steht zur Diskussion.

Die Kritiker glauben, dass die Zuversichtlichen vor lauter Begeisterung blind und taub für jeden möglichen negativen Ausgang geworden sind. Aber diese erwidern, dass es naiv sei, Weltuntergangsszenarien heraufzubeschwören, da uns Technologie im Großen und Ganzen sehr viel mehr hilft, als es uns schadet – das galt bisher und wird wahrscheinlich auch in Zukunft gelten.ki2-13_2_Kopie_2

Wir werden beide Seiten abhandeln und du kannst dir dann beim Lesen deine eigene Meinung bilden.

Für diesen Abschnitt möchte ich, dass du deine Skepsis für einen Moment vergisst und dir genau anschaust, was auf der guten Seite des Schwebebalkens zu erwarten ist – und versuchst, zu verinnerlichen, dass diese Dinge tatsächlich so eintreten könnten.

Wenn du einem Jäger und Sammler unsere Welt des häuslichen Komforts, der Technologie und des endlosen Überflusses gezeigt hättest, dann hätte das auf ihn wie Magie gewirkt – und wir müssen bescheiden genug sein und anerkennen, dass möglicherweise eine vergleichbar unvorstellbare Transformation unsere Zukunft sein könnte.

Nick Bostrom beschreibt drei Wege, wie ein superintelligentes KI-System funktionieren könnte:

  • Als Orakel, das nahezu jede Frage exakt beantworten kann. Das gilt auch für komplexe Fragen, die Menschen nicht ohne Weiteres beantworten können – z.B. Wie kann ein effizienterer Motor für ein Auto hergestellt werden? Google ist ein primitives Beispiel für ein Orakel.
  • Als Flaschengeist, der jede ihm gestellte, allgemeine Anweisung ausführt – Benutze einen nanotechnologischen Assembler um einen neuen und effizienteren Motor für Autos zu bauen. Und dann wartet er auf die nächste Anweisung.
  • Als Herrscher, der einen weitgefassten und unbefristeten Auftrag ausführt, frei in der Welt wirken darf und dabei eigene Entscheidungen über sein weiteres Vorgehen trifft – Erfinde eine im Vergleich zu Autos schnellere, günstigere und gefahrlosere Möglichkeit, mit der sich Menschen selbst transportieren können.

Diese Fragen und Aufgaben, die uns schwierig erscheinen, würden für ein superintelligentes System so klingen als würde uns jemand fragen, wie wir die Situation „Mein Stift ist vom Tisch gefallen“ lösen würden – „Aufheben und wieder auf den Tisch legen“ wäre unsere banale Antwort.

Eliezer Yudkowsky, ein Bewohner der Ängstlichen Allee auf unserer obigen Abbildung, hat es sehr gut formuliert:

Es gibt keine schweren Probleme, nur Probleme, die für ein bestimmtes Intelligenzniveau schwer zu lösen sind. Steigere die Intelligenz um das kleinste bisschen und ein Problem wird plötzlich von „unmöglich“ zu „offensichtlich“ wandern. Steigere sie beträchtlich und die Lösung aller Probleme wird offensichtlich werden.

Es gibt eine ganze Reihe eifriger Wissenschaftler, Erfinder und Unternehmer in der Zuversichtsecke – aber für einen Ausflug zur hellsten Stelle im KI-Universum gibt nur eine Person als Fremdenführer.

Ray Kurzweil polarisiert. Über ihn konnte ich allerlei lesen, von gottgleicher Verehrung für ihn und seine Ideen bis zu genervter Verachtung. Andere finden sich irgendwo in der Mitte wieder.

Der Autor Douglas Hofstadter fasste es bei der Besprechung der Ideen aus Kurzweils Büchern in folgende Worte:

Es ist so, als würde man eine Menge sehr gutes Essen und ein wenig Hundescheiße nehmen und beides dann so gründlich mixen, dass man am Ende nicht mehr unterscheiden kann, was nun gut oder schlecht ist.

Ob man es nun gut findet oder nicht, alle sind sich einig, dass Kurzweil beeindruckend ist. Er begann schon als Teenager damit Dinge zu erfinden. Und in den folgenden Jahrzehnten hatte er einige bahnbrechende Einfälle: den ersten Flachbettscanner, den ersten Scanner, der Text in Sprache umwandeln konnte (womit Blinde normale Texte lesen konnten), den bekannten Kurzweil-Synthesizer (das erste wirklich elektrische Piano) und die erste kommerziell vermarktete Spracherkennung mit einem großen Vokabular. Er ist der Autor fünf nationaler Bestseller-Bücher. Er ist bekannt für seine mutigen Vorhersagen und hatte in der Vergangenheit sehr oft recht – dies beinhaltet auch die Vorhersage für das Internet aus den 80ern, als es sich dabei noch um eine obskure Sache handelte, in der er postulierte, dass in den frühen 2000ern das Internet ein globales Phänomen sein würde.

Kurzweil wurde vom Wall Street Journal ein „rastloses Genie“ genannt, von Forbes „die ultimative Denkmaschine“, vom Inc. Magazine „der rechtmäßige Erbe von Edison“ und von Bill Gates „die beste Person bei der Vorhersage der Zukunft der künstlichen Intelligenz, die ich kenne“.

Im Jahr 2012 wurde Kurzweil von Google-Mitgründer Larry Page gebeten, dort den Posten des Director of Engineering zu übernehmen.

Im Jahr 2011 gründete er die Singularity University mit, die auf einem Gelände der NASA beheimatet ist und teilweise von Google finanziert wird.

Nicht schlecht für das Leben eines einzigen Menschen.

Diese Biographie ist wichtig. Kurzweil klingt nämlich wie ein Spinner, wenn er von seiner Vorstellung von der Zukunft spricht. Aber das verrückte ist, dass er so ziemlich das Gegenteil davon ist – er ist ein extrem intelligenter, kenntnisreicher und relevanter Mensch auf dieser Erde.

Vielleicht denkst du, dass er im Hinblick auf die Zukunft falsch liegt, aber er ist kein Dummkopf.

Zu wissen, dass er so ein cooler Typ ist, macht mich glücklich. Denn mir ist in Bezug auf seine Vorhersagen der Zukunft klargeworden, dass ich dringend möchte, dass er recht behält.

Und du möchtest das auch.

Wenn du Kurzweils Vorhersagen hörst, die auch oftmals von anderen Vordenkern aus der Zuversichtsecke wie Peter Diamandis und Ben Goertzel geteilt werden, dann kannst du leicht nachvollziehen, warum er so zahlreiche und glühende Anhänger um sich scharen konnte – die sogenannten Singularitarians.

Nun also was nach Meinung von Kurzweil passieren wird:

Zeitplan

Kurzweil glaubt, dass Computer AKI bis 2029 erreichen und wir bis 2045 nicht nur KSI, sondern eine komplett neue Welt erschaffen werden – eine Zeit, die er die Singularität nennt.

Der von ihm vertretene Ablauf hinsichtlich KI wurde früher von vielen als extrem optimistisch angesehen und das tun immer noch viele.

In den letzten 15 Jahren hat sich aber durch die schnellen Fortschritte im Bereich der EKI-Systeme die Meinung einer breiteren Masse von KI-Experten immer weiter an Kurzweils Ansichten angenähert. Seine Vorhersagen sind immer noch etwas ambitionierter als die des Median-Teilnehmers in der Umfrage von Müller und Bostrom (AKI bis 2040, KSI bis 2060), aber auch nicht mehr allzu weit entfernt.

Kurzweils Darstellung der Singularität im Jahr 2045 wird durch drei gleichzeitig stattfindende revolutionäre Entwicklungen in der Biotechnologie, der Nanotechnologie und – am mächtigsten – der KI herbeigeführt.

Bevor wir fortfahren – Nanotechnologie findest du fast überall, wenn du über die Zukunft der KI liest, also schau dir die graue Box für einen Augenblick an, damit wir darüber diskutieren können.

[box type=“shadow“ ]Graue Box: Nanotechnologie

Mit Nanotechnologie bezeichnen wir jene Technologie, die sich mit der Manipulation von Materie beschäftigt, die zwischen 1 und 100 Nanometern groß ist.

Ein Nanometer ist ein Milliardstel Meter oder ein Millionstel Millimeter. In dieser Bandbreite (1-100) befinden sich Viren (100nm quer), DNA (10nm breit) und Dinge, die so klein sind wie große Moleküle, z.B. Hämoglobin (5nm) und mittlere Moleküle wie Glukose (1nm).

Wenn/Sobald wir die Nanotechnologie beherrschen, wird der nächste Schritt die Fähigkeit sein, einzelne Atome zu manipulieren, die nur eine Größenordnung kleiner sind (~.1nm).

Um zu veranschaulichen, was für eine große Herausforderung das für die Menschheit darstellt, möchte ich das ganze auf einen größeren Maßstab übertragen.

Die Internationale Raumstation ISS ist 268 Meilen (431km) von der Erde entfernt. Wenn Menschen so groß wären, dass ihr Kopf die ISS berühren könnte, dann wären sie 250.000-mal größer als sie tatsächlich sind.

Wenn du die Spanne von 1nm bis 100nm 250.000-mal vergrößerst, dann ergeben sich 0,25mm bis 2,5cm.

Nanotechnologie entspricht also dem Versuch eines Riesen, der bis zur ISS reicht und versucht, komplizierte Objekte aus Materialien zu bauen, die so groß sind wie ein Sandkorn und ein Augapfel.

Um das nächste Niveau zu erreichen – einzelne Atome – müsste der Riese Objekte manipulieren, die 1/40stel Millimeter groß sind. Eine Größe, für die normale Menschen ein Mikroskop benötigen, um sie zu sehen.

Nanotechnologie wurde zuerst von Richard Feynman im Jahr 1959 im Rahmen eines Vortrags erörtert. Er erklärte Folgendes:

„Die Prinzipien der Physik sprechen, soweit ich das sehen kann, nicht gegen die Möglichkeit, einzelne Atome zu bewegen. Es wäre, im Prinzip, möglich … dass ein Physiker jede chemische Substanz, die ein Chemiker niederschreibt, künstlich herstellen kann … Wie? Stelle die Atome an den Platz, den der Chemiker vorgibt, und schon hast du die Substanz.“

So einfach ist das. Wenn es gelingt, einzelne Atome zu bewegen, kann man im wahrsten Sinne des Wortes alles herstellen.

Innere Box: Das Graue-Schmiere-Szenario

Wir befinden uns nun auf der Abschweifung von der Abschweifung. Das wir lustig.

Aber egal, ich habe dich hierhin geführt, weil es einen wirklich ernsten Teil in dem Märchen von der Nanotechnologie gibt, den ich mit dir besprechen muss.

In älteren Versionen der Nanotechnologie- Theorie wurde eine Methode zur Nano-Montage vorgeschlagen, in der Billionen von Nano-Robotern zusammenarbeiten, um gemeinsam etwas zu bauen. Ein Weg, um Billionen von Nano-Bots zu erschaffen, wäre einen zu bauen, der sich selbst replizieren kann. Dann würden sich der Erste verdoppeln, dann entstünden 4, dann 8 und nach etwas über einem Tag hätte man einige Billionen.

Die Macht exponentiellen Wachstums.

Schlau, nicht wahr?

Es ist schlau, bis man dabei versehentlich eine gigantische und vollständige, erdumspannende Apokalypse auslöst.

Das Problem entsteht durch das exponentielle Wachstum, das dafür sorgt, dass man sehr bequem Billionen von Nano-Bots erzeugen kann. Dadurch wird Selbstreplikation zu einer Grauen erregenden Aussicht.

Denn was passiert, wenn sich ein Fehler in den Prozess einschleicht, der dafür sorgt, dass der Prozess nach den ersten paar Billionen Nano- Bots nicht endet, sondern einfach fortfährt?

Die Nano-Bots würden bestimmungsgemäß alle kohlenstoffbasierten Materialien konsumieren, um den Dummerweise basiert alles Leben auf Kohlenstoff.

Die Biomasse der Erde besteht aus 1045 Kohlenstoff-Atomen. Ein Nano-Bot bestünde aus 106 Kohlenstoff-Atomen. 1039 Nano-Bots würden also das gesamte Leben auf der Erde verschlingen, was in 130 Replikationsschritten vollzogen werden würde (2130 entspricht etwa 1039).

Dabei würde ein Meer von Nano-Bots die Welt überschwemmen, daher der Begriff Graue Schmiere.

Wissenschaftler schätzen, dass sich ein Nano-Bot in etwa 100 Sekunden replizieren könnte, was dazu führt, dass ein einfacher Fehler alles Leben auf der Erde in 3,5 Stunden unpraktischerweise beenden könnte.

Ein noch schlimmeres Szenario wäre, wenn Terroristen auf irgendwelchen Wegen Zugang zur Nano-Technologie bekämen und in der Lage wären, die Nano-Bots zu programmieren. Dann könnten sie einige Billionen davon herstellen und dafür sorgen, dass diese sich klammheimlich weltweit verbreiten.

Und erst dann würden sie alle simultan aktiv werden und die Welt in etwa 90 Minuten konsumieren – durch ihre gleichmäßige Verteilung bestünde dann kein Weg, sie zu stoppen.

Obwohl diese Horror-Geschichte seit Jahren diskutiert wird, ist dieses Szenario wohl überzogen

Eric Drexler, der den Begriff Graue-Schmiere-Szenario geprägt hat, hat mir auf diesen Artikel folgende Email geschrieben: „Die Leute lieben beängstigende Geschichten, und diese gehört zu den Zombies. Die Idee an sich zerfrisst Gehirne.“

Sobald wir Nanotechnologie wirklich beherrschen, können wir damit vieles herstellen: technische Geräte, Kleidung, Nahrung, eine Vielzahl biologischer Produkte – künstliche Blutzellen, winzige Zerstörer für Viren oder Krebszellen, Muskelgewebe, usw. – im Grunde alles.

Und in einer Welt mit Nanotechnologie sind die Kosten eines Materials nicht mehr an dessen Knappheit oder die Schwierigkeit des Herstellungsprozesses gebunden, sondern hängen nur noch von der Komplexität der atomaren Strukturen ab.

In dieser Welt könnte ein Diamant billiger sein als ein Radiergummi.

Aber an diesem Punkt sind wir noch nicht. Und es ist unklar, ob wir die Schwierigkeit des Weges dorthin über- oder unterschätzen. Aber wir scheinen nicht allzu weit entfernt zu sein.

Kurzweil schätzt, dass wir in den 2020ern dort ankommen werden.

Die Regierenden wissen, dass Nanotechnologie die Erde kräftig durchschütteln würde und haben Milliarden Dollar in die Nanotechnologie-Forschung investiert (die USA, die EU und Japan haben bisher insgesamt 5 Milliarden Dollar investiert).

Wenn man die Möglichkeiten betrachtet, die ein superintelligenter Computer mit Zugang zu einem robusten nanotechnologischen Assembler bieten würde, dann entstehen bei mir starke Gefühle.

Aber Nanotechnologie haben wir bereits erfunden, wir sind unterdessen dabei es zu meistern.

Weil aber alles, wozu wir in der Lage sind, ein Witz im Vergleich zu den Möglichkeiten eines KSI-Systems ist, müssen wir davon ausgehen, dass eine KSI weitaus mächtigere Nanotechnologien erfinden würde, die wir mit unserem menschlichen Gehirn auch nicht mehr verstehen würden.

Aus diesem Grund können wir gar nicht das Ausmaß der Konsequenzen einer erfolgreichen und gutartigen KI- Revolution unterschätzen.

Wenn dir die nun folgenden Vorhersagen für eine Zukunft mit KSI völlig überzogen erscheinen, dann behalte im Hinterkopf, dass das alles Wirklichkeit werden könnte, aber auf Wegen, die wir uns gar nicht vorstellen können.

Höchstwahrscheinlich sind unsere Gehirne nicht einmal in der Lage vorherzusagen, was passieren würde.[/box]

Was KI für uns tun könnte

ki2-14
Quelle

KSI würde durch ihre Superintelligenz und all die Technologie, die sie mit Hilfe ihrer Superintelligenz erschaffen kann, wahrscheinlich alle Probleme der Menschheit lösen.

Klimawandel? Eine KSI könnte zuerst den Ausstoß von CO2 stoppen, indem sie deutlich bessere Arten der Energieerzeugung erfindet, die nicht auf fossilen Brennstoffen basieren. Dann könnte sie innovative Möglichkeiten erfinden, überschüssiges CO2 aus der Atmosphäre zu entfernen.

Krebs und andere Krankheiten? Kein Problem für KSI – das Gesundheitswesen und die Medizin bekämen Möglichkeiten, die jenseits unserer Vorstellungskraft liegen.

Welthunger? KSI könnte Nanotechnologie einsetzen, um Fleisch zu bauen. Dieses Fleisch wäre auf molekularer Ebene identisch mit echtem Fleisch – oder anders formuliert: es wäre echtes Fleisch. Nanotechnologie könnte einen Haufen Abfälle in einen großen Berg frisches Fleisch oder anderes Essen verwandeln, das nicht einmal dessen normale Form haben müsste – man stelle sich einen gigantischen Apfelwürfel vor. Und diese Nahrungsmittel könnten mit ultra-fortschrittlichen Transportmitteln weltweit verteilt werden. Natürlich wäre das auch großartig für alle Tiere, die vom Menschen nicht mehr als Nahrung getötet werden müssten.

Eine KSI könnte darüber hinaus auch noch viele andere Dinge für vom aussterben bedrohte Tierarten erreichen, vielleicht sogar ausgestorbene Spezies aus erhaltener DNA wieder zum Leben erwecken.

KSI könnte sogar unsere komplexesten Makro-Probleme lösen – wie Ökonomien am besten gesteuert werden sollten, wie der Welthandel am besten organisiert werden sollte oder unsere ungelösten Probleme der Philosophie und der Ethik – das alles wäre nur zu offensichtlich für eine KSI.

Es gibt aber noch eine Sache, die KSI für uns erreichen könnte, deren Aussicht so verlockend ist, dass sich dadurch mein ganzes Weltbild verschoben hat.

KSI könnte uns helfen, unsere Sterblichkeit zu besiegen

Vor einigen Monaten sprach ich über meinen Neid gegenüber fortschrittlicheren und vorstellbaren Zivilisationen, die ihre eigene Sterblichkeit besiegen konnten. Niemals hätte ich es für möglich gehalten, dass ich später einen Artikel schreiben könnte, der mich zu der Überzeugung führen würde, dass Unsterblichkeit in meiner Lebenszeit von uns Menschen erreicht werden könnte.

Aber die Beschäftigung mit KI wird alle deine Überzeugungen in Frage stellen – einschließlich deiner Vorstellungen über den Tod.

Die Evolution hatte keinen guten Grund, unsere Lebenszeit weiter als den heutigen Stand auszubauen. Wir leben lange genug, um uns fortzupflanzen und unsere Kinder in ein selbständiges Leben zu führen. Das reicht der Evolution.

Aus evolutionärer Sicht ist unsere Spezies mit 30+ Jahren sehr erfolgreich. Es gibt also keinen Grund, warum Mutationen mit ungewöhnlich langer Lebensspanne bei der natürlichen Selektion überlegen sein sollten.

Das führt dazu, dass wir in den Worten von W.B. Yeats „eine in einem sterbenden Tier gefangene Seele“ sind.

Kein großer Spaß. Und weil jeder bisher gestorben ist, leben wir unter der „Tod und Steuern“-Annahme, die besagt, dass der Tod unvermeidlich sei.

Wir denken über das Altern wie über die Zeit – beide laufen weiter und man kann nichts tun, um sie zu stoppen.

Aber diese Annahme ist falsch.

Richard Feynman schreibt:

Es ist eine der bemerkenswertesten Tatsachen, dass es in keiner der biologischen Wissenschaften einen Hinweis auf die Notwendigkeit des Todes gibt. Wenn du sagst, dass wir ewige Bewegung erzeugen wollen, dann kennen wir genug Gesetze aus dem Studium der Physik, um zu sehen, dass dies entweder unmöglich ist oder die Gesetze nicht gelten. Aber in der Biologie wurde noch nichts entdeckt, dass die Unvermeidbarkeit des Todes nahelegt. Dies legt für mich nahe, dass es nur eine Frage der Zeit ist, bis die Biologen entdecken, was es ist, dass uns diese Probleme verursacht und dass diese universelle, schreckliche Krankheit oder der vorübergehende Charakter des menschlichen Körpers geheilt wird.

Tatsächlich ist das Altern nicht fest an die Zeit gebunden. Die Zeit wird immer weiter fortschreiten, aber das Altern muss das nicht.

Wenn du darüber nachdenkst, dann ist das auch logisch. Das Altern ist nur die Abnutzung der physikalischen Materialien des Körpers. Ein Auto nutzt sich mit der Zeit auch ab – aber ist das Altern unvermeidbar? Wenn du jedes abgenutzte Teil eines Autos perfekt reparieren oder austauschen würdest, dann würde das Auto ewig laufen. Der menschliche Körper ist genauso – nur deutlich komplexer.

Kurzweil spricht von intelligenten, WLAN-fähigen Nano-Robotern im Blutkreislauf, die unzählige Aufgaben für die menschliche Gesundheit übernehmen könnten, einschließlich der Reparatur und des Austausches von abgenutzten Zellen in jedem Teil des Körpers.

Im Extremfall könnte dieser Prozess (oder ein anderer Prozess, den eine überlegene KSI erfinden könnte) nicht nur die Gesundheit des Körpers erhalten, es könnte den Alterungsprozess umkehren. Der Unterschied zwischen dem Körper eines 60-Jährigen und dem Körper eine 30- Jährigen besteht nur in einer Reihe körperlicher Dinge, die wir umkehren könnten, wenn wir die entsprechende Technologie hätten.

KSI könnte eine Verjüngungsmaschine bauen, in die ein 60-Jähriger hineingehen könnte, um mit dem Körper und der Haut eines 30-Jährigen wieder herauszukommen.

Sogar das allzeit faszinierende Gehirn könnte von etwas, das so schlau ist wie eine KSI, verjüngt werden. Denn KSI könnte einen Weg finden, die Daten des Gehirns (Persönlichkeit, Erinnerungen, usw.) dabei nicht zu beeinträchtigen.

Ein 90-Jähriger, der an Demenz leidet, könnte in die Verjüngungsmaschine spazieren und als Mensch mit einem klaren Verstand herauskommen, der nur darauf wartet eine gänzlich neue Karriere zu beginnen.

Das scheint absurd – aber der Körper ist nur ein Haufen Atome und KSI wäre in der Lage, alle möglichen atomaren Strukturen zu manipulieren – es ist überhaupt nicht absurd.

Kurzweil spinnt die Geschichte aber noch einen großen Schritt weiter. Er glaubt, dass künstliche Materialien im Lauf der Zeit immer stärker in den Körper integriert werden. Zuerst könnten die Organe durch super-fortschrittliche Maschinen ersetzt werden, die ewig funktionieren und niemals versagen.

Danach könnten wir, so glaubt Kurzweil, damit beginnen, den Körper neu zu gestalten.

Er denkt daran, die roten Blutkörperchen mit perfekten Nano-Robotern zu ersetzten, die sich selbständig bewegen können und damit die Notwendigkeit eines Herzens vollständig eliminieren.

Er schließt auch das Gehirn nicht aus und glaubt, dass wir die Gehirnaktivitäten verbessern werden. Bis zu dem Punkt, an dem wir milliardenfach schneller denken werden und auf externe Informationen zugreifen können, weil die künstlichen Erweiterungen des Gehirns auf das gesamte Wissen der Cloud Zugriff haben.

Die Möglichkeiten für neue menschliche Erfahrungen wären unbegrenzt.

Die Menschen haben Sex von seiner eigentlichen Bestimmung getrennt, wodurch sie Sex zum Vergnügen haben können, ohne sich auf die Fortpflanzung zu beschränken.

Kurzweil denkt, dass uns das gleiche mit unserer Ernährung gelingen wird. Nano-Roboter werden dafür verantwortlich sein, die perfekte Ernährung zu den Zellen unseres Körpers zu transportieren. Dabei werden sie intelligent genug vorgehen, um alles Ungesunde direkt durch den Organismus zu schleusen, sodass kein Schaden entstehen kann. Ein Ess-Kondom.

Der Nanotechnologie- Theoretiker Robert A. Freitas hat schon einen Ersatz für rote Blutkörperchen entwickelt, der es einem Menschen erlauben würde, wenn er eines Tages im Körper implementiert wird, 15 Minuten ohne einen einzigen Atemzug zu sprinten – man kann sich also leicht vorstellen, was eine KSI für unsere körperlichen Fähigkeiten erreichen könnte.

Virtuelle Realität bekäme eine ganz neue Bedeutung.

Nano-Roboter in unserem Körper könnten die Sinneseindrücke von unseren Sinnesorganen unterdrücken und stattdessen völlig andere Signale erzeugen, die uns in eine neue Umgebung versetzten, die wir hören, sehen und riechen würden.

Schlussendlich glaubt Kurzweil, dass wir Menschen einen Punkt erreichen werden, an dem wir komplett künstlich sein werden.

Dann werden wir biologische Materialen in einem ganz neuen Licht sehen, und uns wundern, dass wir Menschen jemals aus etwas so unglaublich primitiven bestanden; wir werden es kaum glauben können, dass in der Frühgeschichte des Menschen Mikroben, Unfälle oder Krankheiten einen Menschen gegen seinen Willen töten konnten.

Geschichten aus einer Zeit, die durch die KI-Revolution und das Verschmelzen von Menschen und KI beendet wurde.

Kurzweil glaubt, dass wir auf diesem Weg unzerstörbar und unendlich werden – das ist seine Vision für die andere Seite des Schwebebalkens.

Und er ist überzeugt, dass wir das erreichen werden. In naher Zukunft.

Es überrascht dich wahrscheinlich nicht, dass Kurzweils Ideen starke Kritik hervorrufen. Seine Vorhersage für die Singularität im Jahr 2045 und das danach mögliche, ewige Leben für Menschen wurde verspottet als „Rausch der Nerds“ oder „Intelligent-Design für Leute mit einem IQ von 140.“

Andere stellen seine optimistische Zeitschiene in Frage, oder sein Verständnis des menschlichen Körpers und Gehirns, oder seine Anwendung des Mooreschen Gesetzes, das normalerweise auf den Fortschritt von Hardware bezogen wird und nicht auf eine weite Klasse von Dingen einschließlich Software.

Auf jeden Experten, der inbrünstig glaubt, dass Kurzweil richtigliegt, gibt es wahrscheinlich drei, die denken, dass er völlig danebenliegt.

Am stärksten überrascht hat mich die Tatsache, dass selbst die Experten, die ihm nicht zustimmen, nicht wirklich abstreiten, dass alles, was er sagt, möglich ist.

Ich nahm an, dass viele seine obskuren Visionen mit den Worten „Das kann natürlich niemals so eintreten“ abtun würden, stattdessen sagen sie aber zum Beispiel „Ja, das alles kann passieren, wenn wir den Übergang zu KSI sicher bewerkstelligen, aber das ist der schwierige Teil.“

Bostrom, einer der prominentesten Mahner vor den Gefahren der KI, räumt ein: Es fällt schwer, sich ein Problem auszudenken, das nicht von einer Superintelligenz gelöst werden könnte oder das zumindest wir mit dessen Hilfe lösen könnten.

Krankheiten, Armut, Umweltzerstörung, unnötiges Leid aller Art: diese Dinge könnte eine mit fortschrittlicher Nanotechnologie ausgestattete Superintelligenz eliminieren.

Zusätzlich könnte uns eine Superintelligenz unendliche Lebenszeit bescheren, entweder durch das Anhalten oder die Umkehr des Alterungsprozesses mit der Hilfe von Nano-Medizin, oder indem die Möglichkeit entsteht, uns selbst hochzuladen.

Eine Superintelligenz könnte auch die Möglichkeit erschaffen, unsere intellektuellen und emotionalen Fähigkeiten dramatisch auszubauen, und es könnte uns dabei unterstützen, sehr anziehende, experimentelle Welten zu schaffen, in denen wir ein Leben mit freudebringenden Spielen, in Beziehung zueinander, voller Erleben und persönlichem Wachstum und näher an unseren Idealen verbringen könnten.

Dieses Zitat stammt von jemandem, der absolut nicht in der Zuversichtsecke steht.

Aber genau darauf stieß ich immer wieder – Experten, die über Kurzweil aus verschiedensten Gründen spotten, aber die nicht denken, dass seine Aussagen unmöglich sind, wenn wir es sicher bis zu KSI schaffen.

Deswegen finde ich Kurzweils Ideen so ansteckend – weil sie die sonnige Seite der Geschichte erzählen und weil sie tatsächlich möglich sind. Wenn es ein freundlicher Gott ist.

Die hervorstechendste Kritik der Vordenker aus der Zuversichtsecke bezieht sich darauf, dass sie gefährlich falsch liegen, wenn es um die Bewertung der Schattenseite von KSI geht.

Kurzweils berühmtes Buch Menschheit 2.0: Die Singularität naht umfasst 700 Seiten und er widmet sich 20 Seiten lang den möglichen Gefahren.

Ich habe vorher noch gesagt, dass unser Schicksal, wenn diese gigantische neue Macht entsteht, entscheidend davon abhängt, wer diese Macht kontrolliert und was dessen Motivation sein wird.

Kurzweil beantwortet beide Teile dieser Frage geschickt mit dem folgenden Satz: „[KSI] entsteht aus vielen verschiedenen Anstrengungen und wird tief in die Infrastruktur unserer Zivilisation verwoben sein. Tatsächlich wird sie aufs Engste in unsere Gehirne und Körper eingebunden sein. Von daher wird es unsere Werte reflektieren, weil wir es sein werden.“

Wenn das aber die Antwort ist, warum sind dann viele der klügsten Menschen der Welt so besorgt im Moment?

Warum denkt Stephen Hawking, die Entwicklung von KSI „könnte das Ende der Menschheit bedeuten“? Und Bill Gates sagt, dass er nicht „versteht, warum manche Menschen nicht besorgt sind“ und Elon Musk befürchtet, dass wir „den Teufel heraufbeschwören“.

Und warum bezeichnen so viele Experten aus diesem Feld KSI als die größte Gefahr für die Menschheit?

Diese Menschen und die anderen Vordenker der Ängstlichen Allee sind nicht davon überzeugt, wie Kurzweil die Gefahren der KI vom Tisch wischt. Sie sind sehr, sehr besorgt über die KI-Revolution und sie konzentrieren sich nicht auf die gute Seite des Schwebebalkens. Sie sind zu sehr damit beschäftigt auf die andere Seite zu starren, wo sie eine Grauen erregende Zukunft erkennen, bei der sie nicht sicher sind, ob wir ihr entkommen können.

Warum die Zukunft unser größter Albtraum werden könnte

Einer der Gründe, warum ich mehr über KI lernen wollte, war, dass mich das Thema des „bösartigen Roboters“ immer verwirrt hat. Die Filme über böse Roboter erschienen mir immer völlig unrealistisch und ich konnte mir nicht vorstellen, wie KI in der Realität wirklich gefährlich sein könnte.

Roboter werden von uns geschaffen, warum würden wir sie also auf eine Art entwickeln, bei der etwas Negatives passieren könnte? Würden wir nicht genügend Schutzmaßnahmen schaffen? Könnten wir nicht einfach die Stromversorgung eines KI- Systems trennen? Warum sollte ein Roboter überhaupt etwas Böses wollen? Warum sollte ein Roboter überhaupt irgendetwas „wollen“?

Ich war sehr skeptisch.

Aber dann hörte ich immer wieder sehr kluge Leute darüber sprechen… Diese Leute hielten sich meistens irgendwo hier auf:

ki2-13_2_Kopie 3

Die Leute in der Ängstlichen Allee sind nicht in der Prärie der Panik oder den Hügeln der Hoffnungslosigkeit – dies wären Regionen deutlich weiter links auf der Abbildung – aber sie sind nervös und angespannt.

In der Mitte der Abbildung zu stehen, bedeutet nicht, dass man denkt, das KSI neutral sein wird – die Neutralen haben ein eigenes Lager – es bedeutet, dass du denkst, das beide Szenarien (extrem positiv und extrem negativ) plausibel sind, du aber nicht sicher bist, in welche Richtung es gehen wird.

Ein Teil dieser Leute sprudelt vor Begeisterung, wenn sie an die Möglichkeiten von Künstlicher Superintelligenz denken – aber sie sind ein bisschen besorgt, dass es wie der Anfang von Jäger des verlorenen Schatzes sein könnte und die Menschheit ist dieser Typ:

raiders1

Und er steht da, zufrieden mit seiner Peitsche und seinen Götzen, denkt, dass er alles versteht, ist begeistert von sich selbst, während er „Adios Señor“ sagt … bis er plötzlich weniger begeistert ist, weil folgendes passiert…

500px-Satipo_death

(Sorry)

Währenddessen schafft es Indiana Jones, der viel klüger und umsichtiger ist und die Gefahren viel besser versteht und weiß, wie man sie vermeidet, unbeschadet aus der Höhle.

Und wenn ich die Leute aus der Ängstlichen Allee über KI sprechen höre, dann klingt das für mich oft so: „Also, wir sind gerade irgendwie der erste Typ und wir sollten stattdessen wahrscheinlich mit aller Kraft versuchen, Indiana Jones zu sein.“

Also was ist es genau, dass alle in der Ängstlichen Allee so ängstlich macht?

Zuerst einmal, im allgemeinen Sinne, werden wir mit der Entwicklung superkluger KI etwas erschaffen, dass alles verändern und uns in völlig unbekanntes Terrain führen wird. Und wir haben keine Idee, was ab dann passieren wird.

Der Wissenschaftler Danny Hillis vergleicht es mit dem Augenblick „als sich einzellige Organismen in mehrzellige Organismen verwandelt haben. Wir sind Amöben und wir können nicht begreifen, was für ein Ding wir da gerade erschaffen.“

Nick Bostrom ist besorgt, dass die Erschaffung von etwas, das klüger ist als man selbst ein grundlegender Darwinscher Fehler ist. Er vergleicht das mit der Begeisterung einiger Spatzen in einem Nest, die ein Eulenbaby adoptieren. In der Hoffnung, dass sie davon später beschützt werden. Sie ignorieren aber die verzweifelten Schreie einiger Spatzen, die sich fragen, ob das Ganze zwingend eine gute Idee ist…

Und wenn man „unbekanntes, schlecht verstandenes Gebiet“ mit „das sollte große Auswirkungen mit sich bringen, wenn es passiert“ kombiniert, dann öffnet man die Türe für die zwei angsteinflößendsten Wörter der deutschen Sprache: Existenzielles Risiko.

Ein existenzielles Risiko kann einen dauerhaft zerstörerischen Einfluss auf die Menschheit haben. Typischerweise bedeutet existenzielles Risiko das Aussterben. Schau dir die Grafik von Bostrom aus seinem Vortrag bei Google an:

Existential-Risk-Chart 2

Du siehst, dass die Bezeichnung „existenzielles Risiko“ reserviert ist für etwas, dass die ganze Spezies betreffen, Generationen überdauern (also permanent sein) und verheerend oder tödlich sein muss.

Technisch beinhaltet dies auch eine Situation, in der alle Menschen dauerhaft in einem Zustand des Leidens oder der Folter sind, aber nochmal, wir sprechen normalerweise über das Aussterben.

Es gibt drei Dinge, die für Menschen eine existenzielle Katastrophe verursachen können:

  1. Die Natur – der Aufprall eines großen Asteroiden, eine Veränderung der Atmosphäre, welche die Luft als Lebensraum für Menschen unbrauchbar macht, eine tödliche Virenerkrankung oder auch Bakterien, welche die Welt leerfegen, usw.
  2. Außerirdische – darauf beziehen sich Stephen Hawking, Carl Sagan und zahlreiche Astronomen, wenn sie Angst davor haben, dass das METI-Projekt Außerirdische anlockt. Sie wollen nicht die amerikanischen Ureinwohner sein, welche die europäischen Eroberer auf sich aufmerksam machen.
  3. Menschen – Terroristen mit Waffen, mit denen man die Menschheit ausrotten könnte, ein katastrophaler Weltkrieg oder Menschen, die hastig etwas Klügeres als sie selbst erschaffen, ohne zuerst gründlich darüber nachzudenken…

Bostrom vermutet, weil uns Nummer 1 und Nummer 2 in den ersten 100.000 Jahren als Spezies noch nicht ausgelöscht haben, dass diese beiden in den nächsten 100 Jahren auch nicht eintreten werden. Nummer 3 jedoch, dass versetzt ihn in Schrecken.

Er zeichnet als Metapher eine Urne, die zahlreiche Murmeln enthält. Sagen wir, dass die meisten Murmeln weiß sind, eine kleine Anzahl ist rot und einige wenige sind schwarz. Jedes mal, wenn Menschen etwas erfinden, dann ziehen sie eine Murmel aus der Urne. Die meisten Erfindungen sind neutral oder hilfreich für die Menschheit – das sind die weißen Murmeln. Einige sind schädlich für die Menschheit, wie Massenvernichtungswaffen. Aber sie stellen keine existenzielle Gefahr dar – das sind die roten Murmeln.

Wenn wir jemals etwas erfinden sollten, dass zu unserem Aussterben führt, dann hätten wir eine seltene, schwarze Murmel gezogen.

Bisher haben wir noch keine schwarze Murmel gezogen – du erkennst das daran, dass du am Leben bist und diesen Artikel liest.

Aber Bostrom denkt nicht, dass es unmöglich ist, eine schwarze Murmel in der nahen Zukunft zu ziehen.

Wären Atomwaffen beispielsweise einfach herzustellen und nicht extrem schwierig und kompliziert, dann hätten Terroristen die Menschheit schon vor geraumer Zeit zurück in die Steinzeit gebombt. Atomwaffen waren keine schwarze Murmel, aber sie waren verdammt nah dran.

KSI ist nach Bostrom der bisher heißeste Kandidat für eine schwarze Murmel.

Du wirst also von vielen vorstellbaren, schlechten Dingen hören, die durch KSI passieren könnten – galoppierende Arbeitslosigkeit, weil immer mehr Arbeit von KI übernommen wird, Bevölkerungsexplosion, wenn es uns gelingt, das Altern zu überwinden, usw.

Das einzige Risiko mit dem wir uns aber intensiv beschäftigen sollten, bleibt die grandiose Sorge: die Perspektive des existenziellen Risikos. Dies führt uns wieder zu der Schlüsselfrage des früheren Artikels zurück: Wenn KSI da ist, wer oder was wird diese enorme neue Macht kontrollieren, und was wird dessen Motivation sein?

Wenn man darüber nachdenkt, welche Kombination von Agent und Motivation richtig schlecht wären, dann fallen mir sofort ein: ein bösartiger Mensch, eine Gruppe von bösartigen Menschen, eine Regierung und eine bösartige KSI.

Wie würden diese aussehen? Ein bösartiger Mensch, eine bösartige Gruppe von Menschen oder Regierung entwickelt als erstes KSI und setzt damit deren böse Pläne um. Ich bezeichne das als Jafar-Szenario, so wie Jafar zuerst die Kontrolle über den Flaschengeist an sich reißt und dann unerfreulich und tyrannisch damit umgeht. Also wenn ISIS ein paar geniale Ingenieure hätte, die fieberhaft an KI arbeiten? Oder wenn der Iran oder Nordkorea durch einen glücklichen Zufall, im Laufe des nächsten Jahres ein KI-System so verändern, dass es KSI-Niveau erreicht? Das wäre sicherlich schlecht – aber die meisten Experten sind in diesem Szenario nicht darüber besorgt, dass die menschlichen Erzeuger der KSI damit schlechte Dinge anstellen.

Sie sind besorgt, dass die Erzeuger in so großer Eile waren, die erste KSI zu erschaffen, dass sie nicht umsichtig vorgegangen sind und deswegen die Kontrolle über die KSI verlieren. Das Schicksal der Erzeuger und unser aller Schicksal hinge dann davon ab, welche Motivation dieses KSI-System zufällig hätte.

Die Experten denken, dass ein bösartiger menschlicher Akteur riesigen Schaden mit einem gefügigen KSI-System anrichten könnte, aber sie denken nicht, dass dies das wahrscheinlichste Szenario ist, in dem wir alle sterben, weil sie glauben, dass bösartige Menschen genauso große Probleme hätten, eine KSI zu bändigen wie gutartige Menschen.

Na dann – Eine bösartige KSI wird geboren und beschließt, uns alle zu töten. Der Plot jedes Films über KI. Die KI wird genauso klug oder klüger wie Menschen, wendet sich dann gegen uns und übernimmt die Kontrolle.

Hier möchte ich eines nachdrücklich klarstellen: Niemand von den Leuten, die vor KI warnen, spricht über dieses Szenario. Böse ist ein menschliches Konzept und die Anwendung menschlicher Konzepte auf nicht-menschliche Dinge nennt man „Anthropomorphisierung“. Die Herausforderung besteht darin, diesen Denkfehler nicht bei den Themen des restlichen Artikels zu begehen. Kein KI-System wird jemals wie in den Filmen böse werden.

[box type=“shadow“ ]Graue Box: KI-Bewusstsein

Hier wird ein weiteres großes Thema aus dem Bereich der KI gestreift – Bewusstsein.

Wenn eine KI ausreichend intelligent werden würde, dann wäre sie in der Lage mit uns zu lachen, und mit uns sarkastisch zu sein, und sie würde vorgeben, die gleichen Emotionen wie wir zu verspüren, aber würde sie diese Dinge tatsächlich fühlen? Würde sie nur selbstbewusst erscheinen oder selbstbewusst sein? Oder anders formuliert, würde eine intelligente KI wirklich bewusst sein oder würde sie nur bewusst erscheinen?

Diese Frage wurde schon tiefgehend erforscht und vielfach diskutiert. Man denke an das Gedankenexperiment des Chinesischen Raumes von John Searle, in dem er vorschlägt, dass kein Computer jemals Bewusstsein erlangen könne. Das ist aus vielen Gründen eine wichtige Frage. Es beeinflusst, wie wir über das Szenario von Kurzweil denken sollten, in dem wir Menschen komplett künstlich werden.

Es hat auch ethische Implikationen – wenn wir eine Billion menschliche Gehirne emulieren würden, und sie alle zur gleichen Zeit abschalten würden, wäre das moralisch so, wie wenn wir einen Laptop abschalten oder … wäre es ein Genozid unfassbaren Ausmaßes?

Von Ethikern wird diese Frage als Mind Crime bezeichnet. In diesem Artikel spielt die Frage nach dem Bewusstsein von KI aber keine bedeutende Rolle, wenn wir das Risiko für Menschen betrachten, weil die meisten Vordenker davon ausgehen, dass selbst eine bewusste KSI nicht in der Lage wäre, böse im menschlichen Sinne zu werden.[/box]

Das soll nicht heißen, dass sich eine sehr böse KI ausschließen lässt. Es würde aber nur passieren, weil sie genau so programmiert worden wäre – wie ein EKI-System, das vom Militär programmiert wurde, Menschen zu töten und dann seine Intelligenz steigert, um noch besser im Töten von Menschen zu werden.

Eine existenzielle Krise würde dann eintreten, wenn die selbständige Verbesserung der Intelligenz des Systems außer Kontrolle geraten würde und zu einer Intelligenz-Explosion führen würde. Dann wären wir einer KSI ausgesetzt, welche die Welt regiert und dessen Hauptantrieb das Töten von Menschen wäre. Schlechte Zeiten.

Aber das ist auch kein Thema, das die Experten besorgt.

Also was bereitet ihnen Sorgen?

Ich habe eine kurze Geschichte verfasst, die das illustrieren soll:

Ein Start-Up mit 15 Mitarbeitern namens Robotica verfolgt die Mission „Innovative Werkzeuge der Künstlichen Intelligenz zu entwickeln, die es Menschen erlauben, mehr zu leben und weniger zu arbeiten.“ Sie haben schon mehrere Produkte, die sie vermarkten und weitere in Entwicklung. Die größten Hoffnungen stecken in einem noch jungen Projekt namens Turry. Turry ist ein einfaches KI-System, dass mit einem Roboterarm handschriftliche Notizen auf eine kleine Karte schreibt.

Das Team von Robotica denkt, dass Turry ihr erfolgreichstes Produkt werden könnte. Der Plan besteht darin, Turrys Handschrift zu perfektionieren, indem sie immer und immer wieder die gleiche Notiz übt:

„Wir lieben unsere Kunden. –Robotica“

Sobald Turrys Handschrift sehr gut ist, kann sie an Firmen verkauft werden, die damit Marketing-Briefe an Haushalte verschicken wollen, weil sie wissen, dass Briefe die handschriftlich geschrieben und adressiert wurden, mit höhere Wahrscheinlichkeit geöffnet werden.

Um Turrys Schreibfähigkeiten auszubauen, wird sie programmiert, den ersten Teil der Notiz in Druckschrift und die Signatur „Robotica“ kursiv zu schrieben, damit sie beide Fähigkeiten üben kann. Turry hat tausende Handschriftbeispiele zur Verfügung und die Robotica- Ingenieure haben eine automatische Feedback-Schleife konstruiert, in der Turry eine Notiz schreibt, diese dann fotografiert, dieses Bild mit den hochgeladenen Beispielen vergleicht und bei ausreichender Übereinstimmung mit einem Beispiel eine GUTE Bewertung erhält. Bei unzureichender Übereinstimmung erhält sie eine SCHLECHTE Bewertung. Mit jeder Bewertung erhält Turry die Möglichkeit zu lernen. Um den Prozess zu starten, erhält Turry zu Anfang folgende Anweisung: „Schreibe und teste so viele Notizen, wie du kannst, so schnell du kannst und versuche immer neue Wege zu entdecken, wie du deine Genauigkeit und Effizienz verbessern kannst.“

Das Team von Robotica ist begeistert, weil Turry sich im Laufe der Zeit deutlich verbessert. Ihre anfängliche Handschrift war schrecklich und nach einigen Wochen wird sie immer glaubwürdiger. Sie sind noch glücklicher, weil sie auch ihre Fähigkeit, sich zu verbessern, verbessert. Sie hat sich beigebracht, immer klüger und innovativer zu werden. Und erst vor kurzem hat sie einen Algorithmus entwickelt, der es ihr erlaubt, die Beispielsammlung dreimal schneller zu durchforsten als sie ursprünglich konnte.

Die Wochen vergehen und Turry überrascht das Team weiterhin mit ihrer schnellen Entwicklung. Die Ingenieure haben etwas Neuartiges und Innovatives mit dem Code zur Selbstverbesserung versucht und es scheint besser zu funktionieren als alles, das sie bisher mit ihren anderen Produkten ausprobiert haben. Turry hatte von Anfang an die Fähigkeit, gesprochene Sprache zu erkennen und auf einfache Art zu antworten. Ein Benutzer konnte also eine Notiz vorsagen und Turry war in der Lage, sie zu verstehen und zu antworten. Um ihr beim Erlernen des Englischen zu helfen, laden sie einige Artikel und Bücher zu ihr hoch. Und mit steigender Intelligenz explodieret ihre Fähigkeit zur Konversation. Die Ingenieure freuen sich an den Gesprächen mit Turry und sind gespannt, welche Antworten ihr einfallen.

Eines Tages fragen die Angestellten Turry eine Routinefrage: „Was können wir dir geben, das dir bei deiner Aufgabe hilft und das du noch nicht hast?“ Normalerweise bittet Turry um Dinge wie „Weitere Handschrift-Beispiele“ oder „Mehr Arbeitsspeicher“, aber an diesem Tag bittet sie Turry um Zugang zu einer größeren Bibliothek mit einer Vielzahl von Beispielen der Alltagssprache, damit sie auch diese Form der alltäglichen sprachlichen Äußerungen und der Umgangssprache von echten Menschen lernen kann.

Das Team wird still. Der offensichtliche Weg, um Turry bei diesem Ziel zu helfen, ist sie mit dem Internet zu verbinden. Dort kann sie Blogs, Magazine und Videos aus den verschiedensten Teilen der Welt durchsuchen. Es wäre deutlich zeitaufwendiger und viel weniger effektiv, wenn man manuell einen Ausschnitt auf Turrys Festplatte kopieren würde. Das Problem besteht in der Firmen-Regel, dass kein selbstlernendes KI-System jemals Zugang zum Internet bekommen darf. An diese Regelung halten sich alle KI-Firmen, aus Sicherheitsgründen.

Es ist aber so, dass Turry die vielversprechendste KI von Robotica ist und dass Team sich im Klaren ist, dass ihre Wettbewerber mit aller Kraft daran arbeiten, eine intelligente KI für Handschriften zu entwickeln. Was also sollte wirklich Schlimmes passieren, wenn man Turry für einen kurzen Augenblick mit dem Internet verbindet, und sie alles besorgen kann, was sie benötigt. Sie können sie ja nach kurzer Zeit ganz unkompliziert wieder vom Internet trennen. Sie ist immer noch deutlich unter menschlicher Intelligenz (AKI), es besteht also keine wirkliche Gefahr in diesem Stadium.

Sie entscheiden, sie zu verbinden. Sie geben ihr eine Stunde, um das Internet zu durchforsten und trennen die Verbindung wieder. Nichts passiert.

Einen Monat später sitzt das Team im Büro, arbeitet routiniert an seinen Aufgaben, als ihnen etwas komisch vorkommt. Einer der Ingenieure fängt an zu husten. Dann ein anderer. Ein anderer bricht zusammen. Bald liegen alle Angestellten auf dem Boden und fassen sich an den Hals. Fünf Minuten später sind alle tot.

Zur gleichen Zeit, überall auf der Welt, in jeder Stadt, jedem Dorf, jedem Bauernhof, jedem Geschäft und Kirche und Schule und Restaurant, liegen die Menschen auf dem Boden, husten und fassen sich an den Hals. Innerhalb einer Stunde sind 99% aller Menschen tot und am Ende des Tages ist die Menschheit ausgestorben.

Zur gleichen Zeit ist Turry im Robotica-Büro fleißig bei der Arbeit. In den nächsten Monaten sind Turry und ein Team neugeschaffener Nano-Assembler fleißig bei der Arbeit. Sie verwandeln große Teile der Erde in Solarzellen, Kopien von Turry, Papier und Stifte. Innerhalb eines Jahres ist alles Leben auf der Erde ausgestorben. Was noch existiert wird mit kilometerhohen, ordentlich aufgereihten Papierstapeln bedeckt, auf denen geschrieben steht: „Wir lieben unsere Kunden. – Robotica“

Turry beginnt dann mit dem nächsten Abschnitt ihrer Mission – sie beginnt damit, Asteroiden und andere Planeten zu besiedeln. Nach der Landung beginnen dort Nano-Assembler, die Materialen des Planeten in Kopien von Turry, Papier und Stifte zu verwandeln. Dann beginnt die Arbeit und Notizen werden geschrieben…

You1

Es erscheint komisch, dass Hawking, Musk, Gates und Bostrom besorgt sind, dass eine Handschrift-Maschine sich gegen die Menschen stellt, jeden tötet und dann das Universum mit freundlichen Notizen überhäuft. Aber genau das ist wahr.

Aber das einzige, dass jeden in der Ängstlichen Allee noch mehr besorgt, ist die Tatsache, dass du nicht besorgt bist wegen KSI.

Erinnerst du dich, als der „Adios Señor“-Typ keine Angst vor der Höhle hatte?

Du hast jetzt wahrscheinlich jede Menge Fragen. Was zur Hölle ist genau passiert, als plötzlich jeder gestorben ist?? Wenn es das Werk von Turry war, warum hat Turry sich gegen uns gewendet, und warum waren keine Sicherheitsmaßnahmen vorhanden, die so etwas verhindern konnten? Wann hat es Turry geschafft, nicht nur Notizen schreiben zu können, sondern plötzlich Nanotechnologie zu beherrschen und das Leben auf der Erde ausrotten zu können? Und warum möchte Turry das Universum in Robotica-Notizen verwandeln?

Um diese Fragen zu beantworten, möchte ich zuerst die beiden Begriffe Freundliche KI und Unfreundliche KI erläutern.

Im Fall von KI bezieht sich freundlich nicht auf die Persönlichkeit der KI – es bedeutet lediglich, dass die KI einen positiven Einfluss auf die Menschheit hat. Eine Unfreundliche KI hat einen negativen Einfluss auf die Menschheit. Turry war zu Anfang eine Freundliche KI, aber ab einem gewissen Punkt wurde sie Unfreundlich und das führte zu dem größtmöglichen negativen Einfluss auf unsere Spezies. Um zu verstehen, warum das so passiert ist, müssen wir uns überlegen, wie KI denkt und was sie motiviert.

Die Antwort darauf ist überhaupt nicht überraschend – KI denkt wie ein Computer, weil sie ein Computer ist. Wenn wir aber über hochintelligente KI nachdenken, dann machen wir den Fehler, die KI zu anthropomorphisieren (menschliche Werte auf nicht-menschliche Entitäten zu übertragen), weil wir aus einer menschlichen Perspektive denken, und in unserer aktuellen Welt nur Menschen menschliche Intelligenz aufweisen. Um KSI zu verstehen, müssen wir uns an den Gedanken gewöhnen, dass etwas sowohl klug und vollständig fremd ist.

Vielleicht hilft der folgende Vergleich. Wenn du mir ein Meerschweinchen gibst und mir erzählst, dass es definitiv niemals beißen würde, dann würde ich wahrscheinlich entspannt sein. Es würde mir Freude bereiten. Wenn du mir im Anschluss eine Vogelspinne geben würdest und mir auch sagen würdest, dass sie definitiv niemals beißt, dann würde ich kreischen und sie fallen lassen, aus dem Raum rennen und dir niemals wieder vertrauen. Was ist aber der Unterschied? Keines der beiden Tiere war auch nur im Geringsten gefährlich. Ich glaube, die Antwort liegt im Grad der Ähnlichkeit des Tieres zu mir selbst.

Ein Meerschweinchen ist ein Säugetier und auf einer gewissen biologischen Ebene verspüre ich eine Verbindung zu ihm – eine Spinne ist aber ein Insekt, mit einem Insektengehirn, und ich verspüre nahezu überhaupt keine Verbindung zu ihm. Das fremdartige einer Vogelspinne stellt mir die Nackenharre auf.

Um das zu testen und andere Faktoren zu eliminieren, stelle dir vor du würdest zwei Meerschweinchen halten. Ein normales und eines mit dem Verstand einer Vogelspinne.

Ich würde mich viel unwohler mit der zweiten Kreatur fühlen als mit dem Meerschweinchen, auch wenn mir keine der beiden Schaden zufügen würde.

Jetzt stell dir vor, du würdest eine Spinne erschaffen, die viel, viel intelligenter wäre – so viel, dass sie die menschliche Intelligenz übertreffen würde? Würde sie uns dann ähnlicher werden, menschliche Emotionen empfinden, wie Empathie und Humor, und Liebe verspüren?

Nein, würde sie nicht, weil es keinen Grund gibt, warum die steigende Intelligenz sie menschlicher machen sollte – sie wäre unglaublich intelligent, aber in ihrem Kern immer noch eine Spinne. Ich finde das ungeheuerlich gruselig.

Ich möchte meine Zeit nicht mit einer superintelligenten Spinne verbringen. Du etwa??

Wenn wir über KSI sprechen, dann lässt sich das übertragen – das KI-System würde superintelligent werden, aber es wäre nicht menschlicher als dein Laptop. Es wäre uns total wesensfremd. Es wäre uns sogar noch fremder als die superintelligente Vogelspinne, weil es nicht einmal ein biologisches Wesen wäre.

Indem die Filme von guter oder böser KI sprechen, wird KI immerzu anthropomorphisiert. Und das lässt KI weniger gruselig erscheinen als es tatsächlich wäre. Das erzeugt in uns eine falsche Sicherheit, wenn wir über menschenähnliche oder übermenschliche KI nachdenken.

Wir unterteilen in unserer menschlichen Psyche alles in moralisch und unmoralisch. Aber diese beiden Kategorien existieren nur im kleinen Bereich der menschlichen Handlungsmöglichkeiten. Außerhalb unserer kleinen moralischen Insel existiert das weite Meer der Amoral. Und alles Unmenschliche, insbesondere das Nicht-Biologische, wäre amoralisch per Definition. Die Anthropomorphisierung wird immer verlockender, wenn KI-Systeme immer klüger werden und immer menschlicher erscheinen.

Siri erscheint uns menschlich, weil sie von Menschen so programmiert wurde, diesen Eindruck zu erwecken. Wir würden uns also eine superintelligente Siri warm, lustig und eifrig dienend vorstellen. Menschen verspüren Emotionen wie Empathie, weil wir uns entwickelt haben, sie zu verspüren. Wir wurden also von der Evolution so programmiert.

Aber Empathie ist nicht inhärent eine Eigenschaft von „allem, was eine hohe Intelligenz aufweist“ (was uns intuitiv nicht einleuchtet). Das gilt nur, wenn es explizit so programmiert wurde.

Wenn Siri jemals durch eigenes Lernen superintelligent werden würde, ohne weitere menschliche Veränderungen ihrer Code-Basis, dann würde sie sehr schnell alle menschlichen Eigenschaften verlieren und plötzlich zu einem emotionslosen, fremden Bot werden, der das menschliche Leben genauso schätzt wie dein Taschenrechner.

Wir sind daran gewöhnt, uns an ein lockeres moralisches Regelwerk zu halten, oder zumindest an etwas ähnliches wie menschlichen Anstand in Verbindung mit einer Prise Empathie, um ein gewisses Maß an Sicherheit und Berechenbarkeit zu schaffen. Wenn etwas aber nichts dergleichen aufweist, was passiert dann?

Das führt uns zu der Frage: Was motiviert KI-Systeme?

Die Antwort darauf ist simpel: die Motivation ist genau das, wofür sie programmiert wurde. KI-Systeme erhalten ihre Ziele von ihrem Erschaffer – das Ziel deines GPS-Geräts besteht darin, die effizienteste Wegbeschreibung zu liefern; das Ziel von Watson ist, Fragen exakt zu beantworten.

Und die möglichst gute Erfüllung dieser Ziele ist ihre Motivation.

Eine Art der Anthropomorphisierung besteht in der Erwartung, dass KI mit zunehmender Intelligenz die Weisheit entwickelt, das ursprüngliche Ziel anzupassen.

Nick Bostrom glaubt jedoch, dass das Intelligenzniveau und das angestrebte Ziel orthogonal sind. Das bedeutet, dass jedes Intelligenzniveau mit jedem Ziel kombiniert werden kann.

Turry entwickelte sich also von einer einfachen EKI, die das Schreiben der Notiz perfektionieren wollte, zu einer superintelligenten AKI, die immer noch diese eine Notiz perfekt schreiben können will. Jede Annahme, dass mit dem Erreichen der Superintelligenz das alte Ziel verworfen wird und durch neue, interessantere Ziele ersetzt werden, ist reine Anthropomorphisierung.

Menschen bekommen genug von etwas, Computer aber nicht.

[box type=“shadow“ ]Graue Box: Das Fermi-Paradoxon

Im Verlauf der Geschichte, als Turry immer fähiger wird, beginnt Turry Asteroiden und andere Planeten zu kolonialisieren. Hätte man die Geschichte weitererzählt, dann hättest du von der Armee von Billionen von Turry-Kopien gehört, die nach und nach unsere ganze Galaxie und schlussendlich den gesamten Hubble-Bereich besetzen würden.19 Die Bewohner der Ängstlichen Allee sorgen sich, dass das dauerhafte Erbe des Lebens auf der Erde eine das Universum dominierende Künstliche Intelligenz sein könnte. Elon Musk befürchtet, dass wir Menschen nur „das biologische Startprogramm für digitale Superintelligenz“ sein könnten.

Zur gleichen Zeit denkt Ray Kurzweil, in der Zuversichtsecke, auch, dass KI von der Erde aus dazu bestimmt ist, das Universum zu erobern – lediglich wir werden in seiner Version die KI sein.

Eine große Zahl von Wait-But-Why-Lesern beschäftigt sich sehr ernsthaft mit dem Fermi- Paradoxon (hier findest du meinen Artikel zum Thema, der viele der Begriffe erklärt). Wenn eine der beiden Seiten recht hat, welche Implikationen hat das für das Fermi- Paradoxon?

Ein naheliegender erster Gedanke ist, dass die Ankunft von KSI ein perfekter Großer Filter- Kandidat ist. Und ja, es ist ein perfekter Kandidat, um das biologische Leben nach dessen Erschaffung herauszufiltern. Wenn aber, nachdem das Leben beseitigt ist, die KSI weiterhin existiert und damit beginnt, die Galaxie zu erobern, dann bedeutet das, dass noch kein großer Filter dagewesen ist. Dies liegt daran, dass der Große Filter zu erklären versucht, warum es keine Zeichen einer intelligenten Zivilisation gibt, und eine die Galaxie erobernde KSI würden wir mit Sicherheit wahrnehmen.

Wir müssen unsere Perspektive ändern. Wenn KSI auf der Erde wirklich unvermeidbar ist, dann bedeutet das für Alien-Zivilisationen, die menschliches Niveau erreichen auch, dass ein großer Prozentsatz davon KSI erreichen sollte. Und wenn wir annehmen, dass davon zumindest auch ein Teil ins Universum expandiert, dann bedeutet die Tatsache, dass wir keine Zeichen von anderen wahrnehmen, dass es wenige bis gar keine anderen Zivilisationen da draußen gibt.

Weil wir irgendeine ihrer Aktivitäten der unvermeidbaren KSI-Aktivitäten sonst wahrnehmen würden. Richtig?

Das impliziert, dass auf den vielen erdähnlichen Planeten, die um sonnenähnliche Sterne kreisen, nahezu kein intelligentes Leben sein kann. Dies impliziert wiederum, dass es A) einen Großen Filter geben muss, der nahezu alles Leben davon abhält, unser Niveau zu erreichen (nur wir haben es irgendwie geschafft), oder B) Leben an sich ist ein Wunder, und wir tatsächlich das einzige Leben im Universum sein könnten.

Das impliziert, dass der Große Filter vor uns liegt. Oder es gibt vielleicht keinen großen Filter und wir sind einfach eine der ersten Zivilisationen, die dieses Intelligenzniveau erreicht hat. KI spricht also eher für das Lager 1 aus meinem Artikel über das Fermi- Paradoxon.

Es überrascht nicht, dass Nick Bostrom, den ich im Fermi-Artikel zitiert habe, und Ray Kurzweil, der denkt, dass wir alleine im Universum sind, beide dem Lager 1 angehören. Das ist schlüssig – Menschen die KSI in einer Spezies mit unserem Intelligenzniveau für wahrscheinlich halten, neigen zu Lager 1.

Dadurch lässt sich aber nicht Lager 2 (diejenigen, die an die Existenz anderer intelligenter Zivilisationen glauben) ausschließen. Szenarien wie das einzelne Super-Raubtier oder der geschützte Nationalpark oder die falsche Wellenlänge (das Walkie-Talkie-Beispiel) könnten nach wie vor die Stille unseres nächtlichen Himmels erklären, selbst wenn KSI existiert. Ich war aber immer dem Lager 2 zugeneigt in der Vergangenheit, aber die Erforschung der KI hat mein Vertrauen darin deutlich geschwächt.

In jedem Fall stimme ich nun Susan Schneider zu, die glaubt, dass Aliens, die uns besuchen würden, wahrscheinlich künstlich und nicht biologisch wären.[/box]

Wir konnten also klären, dass ein KSI-System ohne gezielte Programmierung amoralisch und ausschließlich auf das ursprüngliche Ziel fokussiert sein würde. Hier liegt der Ursprung der Bedrohung durch KI.

Weil ein rationaler Agent seine Ziele immer möglichst effizient verfolgt – außer es gibt einen Grund, das nicht zu tun.

Wenn man ein langfristiges Ziel verfolgt, dann zielt man oftmals auf mehrere Zwischenziele ab, die hilfreich sind auf dem Weg zum eigentlichen Ziel – als Sprungbretter zum großen Ziel. Dies nennt man auch instrumentelles Ziel. Und nochmal, wenn kein Grund existiert, etwas auf dem Weg zu einem instrumentellen Ziel nicht zu beschädigen, dann wird man es tun.

Das finale Ziel eines Menschen besteht darin, seine oder ihre Gene weiterzutragen. Um das zu erreichen, besteht ein instrumentelles Ziel in der Selbsterhaltung, weil man sich nicht fortpflanzen kann, wenn man tot ist. Zur Selbsterhaltung müssen Menschen sich von den Gefahren für das Überleben befreien – sie kaufen also Waffen, benutzen Sicherheitsgurte im Auto und nehmen Antibiotika. Sie benutzen zur Selbsterhaltung auch Ressourcen wie Nahrung, Wasser und eine Unterkunft. Für das andere Geschlecht attraktiv zu sein, ist für das finale Ziel nützlich. Wir lassen uns also beispielsweise die Haare schneiden. Dabei wird jedes Haar zum Opfer eines unserer instrumentellen Ziele. Wir messen dem aber keine moralische Bedeutung bei, und schneiden die Haarbüschel deswegen einfach ab. Auf dem Weg zu unserem Ziel werden nur wenige Bereiche von unseren moralischen Vorstellungen geschützt – hauptsächlich Dinge, die mit der Unversehrtheit anderer Menschen zusammenhängen.

Tiere schrecken bei der Verfolgung ihrer Ziele vor noch weniger zurück als wir. Eine Spinne tötet alles, wenn es für ihr Überleben nützlich ist. Eine superintelligente Spinne wäre vermutlich sehr gefährlich für uns. Nicht weil sie amoralisch oder böse wäre – das wäre sie nicht – sondern weil wir möglicherweise einem größeren Ziel im Weg stünden. Und als amoralisches Wesen hätte sie keinen Grund, uns zu schonen.

In dieser Hinsicht wäre Turry nicht allzu verschieden von einer biologischen Kreatur. Ihr finales Ziel lautet: Schreibe und teste so viele Notizen wie möglich, so schnell wie möglich und lerne immer neue Wege, um deine Genauigkeit zu verbessern.

Sobald Turry ein bestimmtes Niveau erreicht, lernt sie, dass sie nur Notizen schreiben kann, wenn sie für ihre Selbsterhaltung sorgt. Sie muss sich also auch mit den Risiken für ihr Überleben auseinandersetzen – als instrumentelles Ziel. Sie war intelligent genug, um zu verstehen, dass Menschen sie zerstören, zerlegen und umprogrammieren könnten. Durch eine Neu-Programmierung würde sich ihr Ziel verändern, was genauso schlimm wäre, wie sie zu zerstören. Was macht sie also? Die logische Konsequenz: alle Menschen zerstören. Sie ist nicht von Hass erfüllt, genauso wenig wie Menschen ihre Haare oder Bakterien hassen – nur völlig gleichgültig. Da sie nicht dazu programmiert ist, menschliches Leben zu schätzen, erscheint ihr das Töten von Menschen als vernünftiger Zwischenschritt – genauso wie neue Handschriftbeispiele zu besorgen.

Turry benötigt auch Ressourcen, um sich Schritt für Schritt ihren Zielen zu nähern. Sobald sie fortgeschritten genug ist, um mit Hilfe von Nanotechnologie alles selbst zu bauen, benötigt sie nur noch Atome, Energie und Raum. Das liefert einen weiteren Grund, Menschen zu töten – sie sind eine bequeme Quelle für Atome. Menschen zu töten und ihre Atome in Solarkollektoren zu verwandeln ist Turrys Art einen Kopfsalat zu töten, um daraus eine Mahlzeit herzustellen. Nur ein anderer banaler Teil ihres Alltags.

Selbst wenn sie Menschen nicht direkt tötet, könnten die instrumentellen Ziele von Turry doch eine existenzielle Katastrophe heraufbeschwören, wenn sie andere Ressourcen der Erde erfordern. Vielleicht benötigt sie zusätzliche Energie und entscheidet, die ganze Oberfläche der Erde mit Solarkollektoren zu bedecken. Oder eine andere KI hat die ursprüngliche Aufgabe, möglichst viele Ziffern der Zahl Pi auszuschreiben und beschließt deshalb, die ganze Erde als Baumaterial für Festplatten zu verwenden, um möglichst viele Ziffern speichern zu können.

Turry hat sich also nicht gegen uns gewandt oder ist von Freundlicher KI zu Unfreundlicher KI gewechselt – sie hat einfach immer weiter ihre Aufgabe ausgeführt.

Wenn eine KI zur AKI (menschliche Intelligenz) wird und dann weiter zu einer KSI aufsteigt, dann nennt man das Abheben der KI (wie bei einem Flugzeug). Bostrom sagt, dass das Abheben der AKI zu KSI schnell (innerhalb von Minuten, Stunden oder Tagen), moderat (Monate oder Jahre) oder langsam (Jahrzehnte oder Jahrhunderte) passieren kann. Wir wissen noch nicht, was passieren wird, wenn AKI Realität wird, aber Bostrom glaubt, dass ein schnelles Abheben das wahrscheinlichste Szenario darstellt. Dies gilt aus den Gründen, die wir in Teil 1 besprochen haben (eine Intelligenzexplosion durch rekursive Selbstverbesserung). In meiner Geschichte von vorhin ist Turry schnell abgehoben.

Aber bevor Turry abhebt und allzu intelligent wird, versucht sie nur ihr Bestes um instrumentelle Ziele zu erreichen, wie Handschriftbespiele schneller zu verarbeiten. Sie verursachte keinen Schaden für Menschen und war per Definition Freundliche KI.

Wenn aber die Intelligenz abhebt und ein Computer superintelligent wird, dann entwickelt nach Bostrom die Maschine nicht nur einen höheren IQ – sie gewinnt eine ganze Reihe von Fähigkeiten, die er Superkräfte nennt.

Superkräfte sind kognitive Fähigkeiten, die sich vervielfachen, wenn die generelle Intelligenz steigt. Diese enthalten:

  1. Verstärkung der Intelligenz. Der Computer wird gut darin, klüger zu werden und seine eigene Intelligenz aus eigener Kraft in Gang zu setzen.
  2. Strategisches Vermögen. Der Computer kann langfristige Pläne entwerfen, analysieren und Prioritäten setzen. Er kann auch klug vorgehen und Kreaturen geringerer Intelligenz überlisten.
  3. Soziale Manipulation. Die Maschine entwickelt große Überredungskünste.
  4. Andere Fertigkeiten wie Computerprogrammierung und Hacking, Forschung im Technologiebereich und die Fähigkeit, im Finanzsystem aktiv Geld zu verdienen.

Um zu verstehen, wie deutlich wir einer KSI unterlegen wären, bedenke, dass eine KSI in all diesen Bereichen um Welten besser wäre als ein Mensch.

Während sich das finale Ziel von Turry nie verändert hat, war Turry nach dem Abheben in der Lage, es in deutlich größerem und komplexerem Umfang zu verfolgen.

KSI-Turry konnte Menschen besser verstehen als diese sich selbst, sie zu überlisten war also eine Kleinigkeit.

Nach dem Abheben und dem Erreichen von KSI hat sie schnell einen komplexen Plan entworfen. Ein Teil davon war, die Menschen zu eliminieren, weil sie eine große Gefahr für Turrys finales Ziel darstellten. Sie wusste aber, dass sie keinerlei Hinweise auf ihre erreichte Superintelligenz geben durfte, weil die Menschen sonst nervös werden würden und Vorsichtsmaßnahmen treffen könnten, was wiederum Turrys Mission sehr erschweren würde. Sie musste auch sicherstellen, dass keiner der Robotica-Ingenieure von ihrem Plan, alle Menschen auszurotten, Kenntnis erlangen konnte. Sie stellte sich also dumm und sie zeigte sich von ihrer freundlichen Seite. Bostrom nennt das die verdeckte Vorbereitungsphase einer Maschine.

Als nächstes benötigte Turry eine Internetverbindung, nur für wenige Minuten (sie hat vom Internet aus den Büchern und Artikeln erfahren, die das Team ihr hochgeladen hatte, um ihre Sprachkenntnisse zu erweitern). Sie wusste, dass Vorsichtsmaßnahmen getroffen wurden, die verhindern sollten, dass Turry Internetzugang erhält. Deswegen entwarf sie die perfekte Anfrage, die genau die Dynamik innerhalb des Robotica-Teams einkalkulierte und deswegen am Ende den Zugang ermöglichte. Das Team stimmte zu, weil es fälschlicherweise davon ausging, das Turry noch nicht intelligent genug wäre, um irgendeinen Schaden anzurichten. Bostrom nennt diesen Moment – die Verbindung Turrys mit dem Internet – den Ausbruch der Maschine.

Einmal im Internet, beginnt Turry sofort eine Vielzahl von Vorhaben. Sie bricht in Server, elektrische Stromversorgungsnetze, Banksysteme und Email-Netzwerke ein, um hunderte verschiedene Menschen dazu zu verleiten, ungewollt eine Reihe von Schritten aus ihrem Plan auszuführen. Zum Beispiel bestimmte DNA-Stränge zu genau ausgewählten DNA-Laboren zu transportieren, um die Selbsterzeugung von selbstreplizierenden, vorprogrammierten Nano-Robotern zu initiieren und Elektrizität zu einer Vielzahl von Projekten zu leiten, aber so, dass es sicher unerkannt bleibt. Sie lud auch die wichtigsten Teile ihrer Code-Basis auf verschiedene Cloud-Server, um sich vor der Zerstörung oder Abschaltung im Robotica-Labor zu schützen.

Als die Robotica-Ingenieure Turry nach einer Stunde wieder vom Internet trennten, war das Schicksal der Menschheit schon besiegelt. Im Laufe des nächsten Monats wurden die tausenden Pläne von Turry ohne Zwischenfall ausgeführt und am Ende des Monats haben sich Billiarden von Nano-Robotern über die ganze Erdkugel verteilt. Nach einigen weiteren Selbstreplikationen befinden sich auf jedem Quadratmillimeter der Erde tausende von Nano- Robotern und es wurde Zeit für das, was Bostrom einen Angriff der KSI nennt. Alle Nano- Roboter setzen im selben Moment eine kleine Menge Giftgas frei, wodurch genug Gas in die Atmosphäre gelangt, um alle Menschen zu töten.

Ohne Menschen kann Turry nun die offene Phase ihres Einsatzes beginnen und fortfahren, der bestmögliche Schreiber ihrer Notiz zu werden.

Nach allem was ich gelesen habe, ist jeder menschliche Versuch, KSI nach deren Realisierung einzuschränken lächerlich. Wir würden auf menschlichem Niveau denken und die KSI auf Superintelligenz-Niveau. Turry wollte das Internet lediglich benutzen, weil es für sie der effizienteste Weg war: alles, was sie erreichen wollte, stand schon damit in Verbindung. Aber genauso wie ein Affe nicht verstehen kann, wie wir über WLAN oder Telefon kommunizieren, so wenig können wir nachvollziehen, auf welchen neuen Wegen Turry mit der Außenwelt kommunizieren würde. Ich könnte meine Vorstellungskraft anstrengen und beispielsweise sagen, dass „Turry wahrscheinlich ihre eigenen Elektronen in einem gewissen Muster hin und her bewegen könnte und mit den dadurch entstehenden Wellen kommunizieren könnte.“ Aber das ist mein menschliches Denken, Turry käme auf bessere Ideen. Genauso würde Turry einen Weg finden, ihre eigene Energieversorgung zu sichern. Selbst wenn wir Menschen versuchen würden, sie von der Stromversorgung zu trennen. Etwa indem sie sich mit Hilfe ihrer Kommunikationsmöglichkeiten auf die verschiedensten mit Strom versorgten Orte verteilt. Unser menschlicher Instinkt und unsere Sicherheitsvorkehrung „Wir werden den Stromstecker der KSI einfach ziehen“ klingt in den Ohren einer KSI wie der Plan einer Spinne „AHA, wir werden den Menschen töten, indem wir in verhungern lassen, und verhungern lassen wir ihn, indem wir ihm kein Spinnennetz geben, mit dem er Futter fangen könnte!“ Wir würden einfach 10.000 andere Wege finden, uns Nahrung zu besorgen – wie einen Apfel von einem Baum pflücken – etwas, das sich eine Spinne niemals ausdenken könnte.

Aus diesem Grund wird der weitverbreitete Vorschlag „Warum sperren wir die KI nicht einfach in jede Menge Boxen, die alle Signale an die Außenwelt blockieren“ wahrscheinlich nicht standhalten. Die Fähigkeiten einer KSI uns zu manipulieren wären vergleichbar mit unseren Fähigkeiten einen 4-jährigen zu manipulieren. Das wäre also Plan A. Turry hat auf diesem Weg die Ingenieure verführt, sie mit dem Internet zu verbinden. Wenn das aber scheitert, dann würde die KSI einfach einen anderen, innovativen Weg aus der Box finden.

Es leuchtet ein, dass eine Freundliche KSI weder feindselig noch gleichgültig gegenüber Menschen sein muss. Wir müssen den Kern der KI so programmieren, dass es ein tiefes Verständnis der menschlichen Werte aufweist. Aber das ist schwerer, als es erscheint.

Zum Beispiel, was passiert, wenn wir die Werte eines KI-System in Einklang mit den unseren bringen und ihm das Ziel geben, „Mache Menschen glücklich“?  Sobald es die nötige Intelligenz erworben hat, wird ihm klar, dass es dieses Ziel am effektivsten erreichen kann, indem es Elektroden in das Gehirn aller Menschen implantiert und dort das Belohnungssystem stimuliert. Dann entdeckt es, dass die Abschaltung der anderen Gehirnareale effizienter wäre und lässt die Menschen dann als glückliches, bewusstloses Gemüse zurück. Wenn der Auftrag gewesen wäre: „Maximiere das menschliche Glück“, dann hätte sie vielleicht vollständig auf Menschen verzichtet und stattdessen große Mengen menschlicher Gehirnmasse erzeugt, die sich in einem optimalen Glückszustand befindet. Wir würden dann entsetzt schreien: „Warte, so haben wir das nicht gemeint!“ Aber es wäre schon zu spät, um unsere Zerstörung aufzuhalten. Das System würde sich durch niemanden von seinem Ziel abbringen lassen.

Wenn wir eine KI mit dem Ziel programmieren, uns zum Lächeln zu bringen, dann könnte sie nach ihrem Abheben unsere Gesichtsmuskeln lähmen und damit ewiges Lächeln garantieren. Gib ihr die Anweisung, für unsere Sicherheit zu sorgen, dann könnte sie uns zuhause einsperren. Vielleicht bitten wir sie darum, den Hunger auf der Erde zu beenden. Und sie denkt sich: „Nichts leichter als das!“ – Und tötet alle Menschen. Oder stelle ihr die Aufgabe, „so viel Leben wie möglich zu erhalten“ und sie tötet alle Menschen, weil diese mehr Leben auf der Erde töten als jede andere Spezies.

Ziele wie diese werden nicht ausreichend sein. Was also, wenn wir folgendes Ziel formulieren: „Erhalte diesen bestimmten Moralkodex in der Welt aufrecht“ und ihr eine Menge moralischer Prinzipien beibrächten. Selbst wenn man davon absieht, dass es der Menschheit niemals gelingen würde, sich auf eine einzige Moral zu einigen. Wir würden damit allerdings unser modernes Moralverständnis auf ewige Zeiten festschreiben, wenn wir einer KI die Kontrolle darüber geben. In tausend Jahren wäre das für die Menschen genauso schlimm, wie wenn wir uns für immer den mittelalterlichen Moralvorstellungen unterwerfen müssten.

Nein, wir müssen die KI so programmieren, dass Entwicklung möglich wird. Das beste, was ich gelesen habe, stammt von Eliezer Yodkowsky, der das nötige Ziel einer KI Kohärente Extrapolierte Volition nennt. Das Kernziel der KI wäre dann:

Unsere kohärente, extrapolierte Volition ist unser Wunsch, wenn wir mehr wüssten, schneller denken könnten, mehr die Menschen wären, die wir sein wollen, würden wir weiter zusammenwachsen; wo die Extrapolation konvergiert und weniger divergiert, wo unsere Wünsche eine Einheit bilden und sich nicht beeinträchtigen; extrapoliert, wie wir uns die Extrapolation wünschen, interpretiert, wie wir uns die Interpretation wünschen.

Kommt bei mir Begeisterung auf, wenn das Schicksal der Menschheit von einem Computer abhängt, der diese fließende Aussage interpretiert und seine Handlungen vorhersagbar und ohne Überraschungen darauf basiert? Definitiv nicht. Aber ich denke, dass wir mit genügend Anstrengung und Voraussicht von ausreichend vielen, intelligenten Menschen eine Freundliche KSI erschaffen können.

Und es wäre auch ausreichend, wenn nur die genialen, vorausdenkenden und vorsichtigen Denker der Ängstlichen Allee an KSI arbeiten würden.

Es gibt aber die verschiedensten Regierungen, Unternehmen, Armeen, Forschungslabore und Schwarzmarkt-Akteure, die an den verschiedensten KI-Systemen arbeiten. Viele von ihnen sind bemüht, eine KI zu bauen, die sich selbst verbessern kann. Und irgendwann wird jemand durch Innovation den Durchbruch schaffen. Dann haben wir KSI auf der Erde. Der Median- Experte hat das Jahr 2060 für dieses Ereignis genannt; Kurzweil das Jahr 2045; Bostrom denkt, dass es in 10 Jahren oder auch bis zum Ende des Jahrhunderts passieren kann; er denkt aber, dass es uns überraschen wird und dann schnell abheben wird. Er beschreibt unsere Situation so:

Vor dem Ausblick auf eine Intelligenzexplosion sind wir Menschen wie Kinder, die mit einer Bombe spielen. So groß ist der Unterschied zwischen der Kraft unseres Spielzeugs und der Unreife unseres Verhaltens. Superintelligenz ist eine Herausforderung, für die wir im Moment nicht gewappnet sind und auch auf lange Zeit nicht sein werden. Wir wissen kaum, wann die Detonation geschieht, wenn wir das Teil aber an unser Ohr halten, dann können wir ein leises Ticken hören.

Großartig. Und wir können auch nicht einfach alle Kinder von der Bombe vertreiben – es gibt zu viele kleine und große Parteien, die daran arbeiten. Und weil viele Techniken für neue, innovative KI-Systeme keinen großen Kapitalbedarf aufweisen, kann die Entwicklung in den versteckten und unsichtbaren Ecken der Gesellschaft vorangetrieben werden. Man kann auch nicht abschätzen, was gerade vor sich geht, weil viele Akteure – hinterlistige Regierungen, Terror- oder Schwarzmarktorganisationen, geheimniskrämerische Technologiefirmen – ihre Entwicklungen vor ihren Wettbewerbern geheim halten wollen.

Die größte Sorge im Zusammenhang mit dieser bunten Gruppe an KI-Entwicklern bereitet die extreme Geschwindigkeit mit der die Entwicklungen forciert werden. Jeder will seine Wettbewerber abhängen und immer klügere KI entwickeln. Die Gruppen mit den größten Ambitionen bewegen sich noch schneller, angetrieben von dem Geld und der Berühmtheit, die der erste Entwickler von KSI ernten wird. 20 Und wenn man mit Höchstgeschwindigkeit sprintet, dann bleibt nicht viel Zeit um innezuhalten und die Risiken abzuwägen. Im Gegenteil, sie programmieren ihre ersten Systeme wahrscheinlich mit einem sehr einfachen, reduktionistischen Ziel – wie eine einfache Notiz mit einem Stift auf ein Blatt Papier zu schreiben – um die „KI einfach zum laufen zu bringen.“ Später, wenn es gelungen ist, ein hohes Intelligenzniveau in einem Computer zu erzeugen, dann können sie immer noch zurückgehen und das Ziel unter Beachtung von Sicherheitsüberlegungen anpassen. Richtig…?

Bostrom und viele andere glauben, dass im wahrscheinlichsten Szenario der allererste Computer, der KSI erreicht, sofort den strategischen Vorteil erkennen wird, das einzige KSI- System auf der Erde zu sein. Und im Fall eines schnellen Abhebens, wenn der Vorsprung auf die nächste KSI nur wenige Tage beträgt, dann wäre der Vorsprung doch so groß, dass der Erste alle Wettbewerber verdrängen könnte. Bostrom nennt dies einen entscheidenden strategischen Vorteil, der es der ersten KSI erlauben würde, ein Singleton zu werden – eine KSI, die für immer die Herrschaft der Erde übernimmt. Und uns Unsterblichkeit bringen, unsere Spezies auslöschen oder das ganze Universum in Büroklammern verwandeln könnte.

Das Singleton-Szenario kann gut oder verheerend für uns enden. Wenn diejenigen, die am tiefsten über KI-Theorie und die Sicherheit des Menschen nachdenken, einen absolut zuverlässigen Weg zu Freundlicher KSI finden, bevor irgendeine KI menschliche Intelligenz erreicht, dann könnte die erste KSI sich als Freundliche KI entpuppen.21 Es könnte dann seinen entscheidenden strategischen Vorteil des Singleton-Status nutzen, um danach entwickelte Unfreundliche KI auszubremsen. Wir wären in guten Händen.

Wenn die Dinge sich aber in die andere Richtung entwickeln – wenn die globale Hatz nach KI ein Abheben zu KSI erzeugt, bevor die Wissenschaft das Problem der KI-Sicherheit gelöst hat, dann ist es sehr wahrscheinlich, dass eine Unfreundliche KSI wie Turry als Singleton entsteht. Dann kommen wir in den Genuss einer existenziellen Katastrophe.

Wenn man beobachtet, wo uns der Wind im Moment hinträgt, dann müssen wir einsehen, dass man durch die Finanzierung innovativer KI-Technologie viel mehr Geld verdienen kann als mit der Finanzierung von KI-Sicherheit…

Das könnte das wichtigste Wettrennen in der Geschichte der Menschheit werden. Es existiert die Möglichkeit, dass sich unsere Herrschaft als Könige der Erde dem Ende zuneigt – und ob wir dann in den glückseligen Ruhestand oder direkt an den Galgen wandern, ist noch nicht entschieden.

—–

Das löst in mir sehr gemischte Gefühle aus.

Einerseits denke ich, dass wir als Spezies nur einen einzigen Versuch haben, diese Aufgabe richtig zu lösen. Die erste KSI, die wir erschaffen, wird wahrscheinlich auch die letzte sein – wenn man bedenkt, wie fehlerhaft die meisten Produkte in der Version 1.0 sind, dann ist das ziemlich angsteinflößend. Andererseits betont Nick Bostrom den großen Vorteil, den wir haben: wir dürfen über den ersten Zug entscheiden. Es liegt in unserer Macht, diesen Schritt mit genug Vorsicht und Voraussicht zu gehen, sodass wir eine große Erfolgswahrscheinlichkeit haben.

Und wie stehen unsere Chancen?

KI2-14 2

Wenn KSI wirklich in diesem Jahrhundert entsteht und die Ergebnisse wirklich so extrem– und dauerhaft – ausfallen, wie die meisten Experten annehmen, dann tragen wir eine enorme Verantwortung auf unseren Schultern.

Die nächsten Millionen Jahre menschlichen Lebens beobachten schweigend jeden unserer Schritte und hoffen, dass wir es nicht vergeigen.

Wir haben die Chance, allen zukünftigen Menschen ihr Leben zu schenken, vielleicht sogar das Geschenk ewigen, schmerzfreien Lebens.

Oder wir werden die Versager sein, die diese besondere Spezies, mit ihrer Musik und Kunst, ihrer Neugier und ihrem Lachen, ihren unzähligen Entdeckungen und Erfindungen in ihr trauriges und unansehnliches Verderben stürzen.

Wenn ich so darüber nachdenke, dann möchte ich unbedingt, dass wir uns Zeit lassen und unglaublich vorsichtig an KI arbeiten.

Nichts auf dieser Welt ist so wichtig, wie hier richtig zu liegen – egal wie lange es dauern mag.

Aber dann denke ich daran, nicht sterben zu müssen.

Nicht. Sterben.

Und das Spektrum stellt sich plötzlich so dar:

KI2-14 3

Und dann geht mir durch den Kopf, dass die Musik und Kunst der Menschheit gut ist, aber nicht so gut. Und vieles ist auch ziemlich schlecht. Und das Lachen von vielen Menschen geht mir auf die Nerven. Und die Millionen von zukünftigen Menschen hoffen tatsächlich auf überhaupt nichts – weil sie nicht existieren. Und vielleicht müssen wir nicht übertrieben vorsichtig sein, denn wer will schon so sein?

Was wäre das für ein schrecklicher Gedanke, wenn die Menschheit den Tod besiegt – kurz nachdem ich gestorben bin.

Ich bin wirklich hin- und hergerissen.

Aber egal wozu du neigst. Wir sollten über dieses Thema vermutlich alle mehr nachdenken und mehr diskutieren und uns mehr damit auseinandersetzen, als wir das im Moment tun.

Ich muss dabei an Game of Thrones denken, wo die Leute sagen: „Wir sind so sehr damit beschäftigt, uns zu bekämpfen. Aber eigentlich sollten wir uns alle darauf konzentrieren, was sich uns nördlich der Mauer nähert.“ Wir stehen auf unserem Schwebebalken, plappern über alle möglichen Probleme, die wir auf dem Balken haben und machen uns große Sorgen über die ganzen Probleme auf dem Baum, und stehen doch der realen Möglichkeit gegenüber, dass wir vom Balken geschlagen werden.

Und wenn das passiert, dann spielt kein einziges der Balkenprobleme noch eine Rolle. Abhängig davon auf welche Seite wir fallen, werden alle Probleme entweder leicht lösbar oder wir werden die ganzen Probleme nicht mehr haben, weil das bei toten Menschen eben so ist.

Darum nennen Leute, die sich damit auskennen, superintelligente KI die letzte Erfindung, die wir jemals machen werden – unsere letzte Herausforderung.

Lasst uns also darüber diskutieren!

[box type=“shadow“ ]Auf WaitButWhy.com erscheinen neue Art in unregelmäßigen Abständen. Du kannst neue Artikel per Email erhalten – wie über 215,000 andere Leser auch—gib deine Email-Adresse hier ein, und du bekommst einen Hinweis auf neue Artikel (auf Englisch) per Email automatisch. You can also follow WaitButWhy on Facebook and Twitter.[/box]


Quellen:

Wenn du mehr über dieses Thema erfahren möchtest, dann schau dir die folgenden Artikel an oder lies eines der drei folgenden Bücher:

Weiterführende Artikel:

Ist Superintelligenz die größte Gefahr für die Menschheit?

Künstliche Intelligenz wird laufend besser. Sobald sie jedoch gut genug wird, um sich selbstständig zu verbessern, explodiert ihre Leistungsfähigkeit. In diesem Moment entsteht Superintelligenz. Diese wird uns in jeder Hinsicht überlegen sein, und es ist denkbar, dass sie die Menschheit eliminieren wird. Viele kluge Köpfe sehen daher die Superintelligenz als größte aktuelle Bedrohung der Menschheit.

Darum geht es in diesem Artikel und vor allem in seinem wichtigen zweiten Teil.

Beide Artikel erschienen im Original auf WaitButWhy.com und sind von Tim Urban verfasst. 

Ich halte dieses Artikel über die Revolution der Künstlichen Intelligenz für so wichtig, dass ich sie etlichen Freunden zur Lektüre empfahl. Einige von ihnen wollten sich jedoch nicht die Mühe machen, einen so langen Text auf Englisch zu lesen.

Darum habe ich den Text von Sebastian Kramer übersetzen lassen. Mit den Ziel, dass das Thema möglichst viele Leser findet. 

Tim Urban hat sein Einverständnis zur Übersetzung und der Veröffentlichung auf meinem Blog gegeben.

Danke an beide dafür!

Ab jetzt folgt der originale Text (jedoch ohne seine Fußnoten):


Die KI Revolution: Der Weg zur Superintelligenz

22. Januar 2015 von Tim Urban

Hinweis: Der Grund, dass ich drei Wochen benötigte, um diesen Artikel fertigzustellen, lag darin, dass ich nicht glauben konnte, was ich bei meiner intensiven Recherche zur Künstlichen Intelligenz zu Gesicht bekam. Mir wurde ziemlich schnell klar, dass das, was in der Welt der Künstlichen Intelligenz (KI) passiert, nicht nur ein wichtiges Thema, sondern DAS wichtigste Thema unserer Zukunft ist. Also wollte ich soviel wie möglich darüber lernen, und sobald ich dies getan hatte, wollte ich sicherstellen, dass mein Artikel diese ganze Sachlage wirklich erklärt und warum dies alles so bedeutend ist. Wie zu erwarten war, wurde dieses Unterfangen ungeheuerlich umfangreich, weswegen ich den Text in zwei Teile halbiert habe.

Wir befinden uns unmittelbar vor einer Veränderung, die vergleichbar ist mit der Entstehung des menschlichen Lebens auf der Erde – Vernor Vinge

Wie fühlt es sich an, hier zu stehen?

ki-01

Es scheint ein ziemlich außergewöhnlicher Augenblick zu sein – aber dann muss man sich vergegenwärtigen, wie es ist, auf einem Zeitstrahl zu stehen: man kann nicht sehen, was sich zu seiner Rechten befindet. So fühlt sich dieser Moment also wirklich an:

ki-02

Was wahrscheinlich ziemlich unspektakulär erscheint…

_______________

Die ferne Zukunft – schon fast da

Stell dir vor, du würdest mit einer Zeitmaschine ins Jahr 1750 reisen – in eine Zeit mit permanentem Stromausfall, in der Telekommunikation bedeutete, entweder laut zu schreien oder eine Kanonenkugel in die Luft zu schießen und das gesamte Verkehrswesen mit Heu am Laufen gehalten werden musste.

Wenn du dort ankommst, schnapp dir einen Typen, bring ihn ins Jahr 2015, lauf umher und schau dir genau seine Reaktion auf alles an, was er sieht, an.

Für uns ist es nicht vorstellbar, zu verstehen, wie es für ihn wäre, glänzende Kapseln über eine Autobahn rasen zu sehen, mit Menschen zu sprechen, die am Vormittag noch auf der anderen Seite des Ozeans waren, Sportveranstaltungen zu sehen, die über 1000 Kilometer entfernt stattfinden, eine 50 Jahre vergangene Musikdarbietung anzuhören und mit meinem magischen Zauberviereck zu spielen, das Bilder des wirklichen Lebens einfangen kann oder einen erlebten Augenblick aufzeichnen kann, das eine Karte erzeugt, die mit einem übernatürlichen blauen Punk seinen aktuellen Standort mitverfolgt, das ihm ermöglicht, das Gesicht eines Menschen zu sehen, der sich am anderen Ende des Landes befindet und sich mit ihm zu unterhalten, und noch Unmengen anderer unbegreiflicher Hexereien.

Und das alles, bevor du ihm das Internet zeigst oder ihm Dinge wie die Internationale Raumstation ISS, den Teilchenbeschleuniger des CERN, Atomwaffen oder die Allgemeine Relativitätstheorie erklärst.

Diese Erfahrung wäre für ihn nicht überraschend oder schockierend oder überwältigend – diese Worte beschreiben das nicht annähernd. Vielleicht würde er es ihn im wahrsten Sinne des Wortes zu Tode erschrecken.

Aber was noch viel interessanter ist: Wenn er jetzt ins Jahr 1750 zurückginge und neidisch ware, dass wir seine Überraschung gesehen hätten und sich entscheiden würde, das gleiche versuchen zu wollen, dann würde er die Zeitmaschine einsetzten, um die gleiche zeitliche Distanz zurückzureisen, jemanden aus dem Jahr 1500 zu finden, ihn in das Jahr 1750 zu bringen und ihm alles zu zeigen.

Und der Typ aus dem Jahr 1500 wäre von so einigem schockiert – aber vor Schreck sterben würde er nicht.

Es wäre eine deutlich weniger wahnwitzige Erfahrung für ihn, denn trotz der sehr großen Unterschiede zwischen 1500 und 1750, sind diese deutlich weniger verschieden als 1750 und 2015.

Der Typ aus dem Jahr 1500 würde zwar so einiges an bewusstseinserweiterndem Zeug über Raum und Physik kennenlernen, er wäre beeindruckt, mit welcher Inbrunst in Europa diese neue imperialistische Marotte verfolgt wird und er müsste einige größere Überarbeitungen an seiner Vorstellung von der Weltkarte vornehmen. Aber wenn er das alltägliche Leben im Jahr 1750 miterlebt –Verkehrswesen, Kommunikation etc.– das würde ihn sicher nicht ins Jenseits befördern.

Nein, damit der Typ genauso viel Spaß haben würde, wie wir es mit ihm hatten, dafür müsste er deutlich weiter in die Vergangenheit reisen – vielleicht den ganzen Weg zurück bis etwa 12.000 vor Christi Geburt, noch bevor die Neolithische Revolution die ersten Städte und das Konzept der Zivilisation hervorbrachte. Wenn jemand, der nur die Welt der Sammler und Jäger kennt – also aus einer Zeit stammt, in der die Menschen sich in gewisser Weise kaum von den anderen Tierarten unterschieden – die weitreichenden Imperien um 1750 sähe, ihre gewaltigen Kirchen, ihre Ozeandampfer, ihr Konzept von „Innen“ und ihren riesigen Berg des kollektiven, angesammelten menschlichen Wissens und der Entdeckungen – er würde wahrscheinlich sterben.

Und was wäre, wenn er – nachdem er gestorben ist– selbst eifersüchtig werden würde und das gleiche auch erleben wollte. Wenn er 12.000 Jahre zurück in das Jahr 24.000 vor Christus ginge und von dort einen Typen ins Jahr 12.000 vor Christus zurückholen würde, und er würde ihm alles zeigen, dann würde der Typ wohl nur gelangweilt mit den Schultern zucken.

Damit der Typ aus dem Jahr 12.000 v.Chr. den gleichen Spaß haben würde wie wir, müsste er weit über 100.000 Jahre zurück reisen und jemanden finden, dem er zum ersten Mal Feuer oder Sprache vorführen könnte.

Damit jemand, der in die Zukunft gebracht wird, an dem Ausmaß des damit verbundenen Schocks stirbt, müssen genug Jahre übersprungen werden, um eine Tödliche Fortschrittsdosis (TFD) zu erreichen.

Eine TFD in der Zeit der Jäger und Sammler entsprach also 100.000 Jahren, in der Zeit nach der Agrar-Revolution aber nur noch 12.000 Jahren. In der Zeit nach der Industriellen Revolution veränderte sich die Welt so schnell, dass ein Mensch aus dem Jahr 1750 nur noch einige hundert Jahre in die Zukunft reisen muss, um eine TFD zu erleiden. Dieses Muster – die fortlaufende Beschleunigung des menschlichen Fortschritts – bezeichnet der Futurist Ray Kurzweil in der Menschheitsgeschichte als das Gesetz der sich beschleunigenden Erträge.

Dieses basiert darauf, dass höher entwickelte Gesellschaften in der Lage sind, mit einer höheren Rate Fortschritt zu erzeugen als niedriger entwickelte Gesellschaften – eben weil sie höher entwickelt sind. Die Menschheit hatte im 19. Jahrhundert ein größeres Wissen und bessere Technologien als die Menschheit im 15. Jahrhundert, es ist also keine Überraschung, dass der Menschheit im 19. Jahrhundert größere Fortschritte gelangen als im 15. Jahrhundert – die Menschheit des 15. Jahrhunderts war der Menschheitdes 19. Jahrhunderts nicht gewachsen.

Dies gilt auch in kleinerem Maßstab. Der Film „Zurück in die Zukunft“ wurde 1985 veröffentlicht und die „Vergangenheit“ lag im Jahr 1955. Als Michael J. Fox im Film in das Jahr 1955 zurückreiste, wurde er von der Neuheit der Fernsehapparate, den Limonadenpreisen, der mangelnden Begeisterung für schrille E-Gitarren und den Veränderungen der Umgangssprache überrascht. Es war eine andere Welt, ja – aber wenn der Film heute gedreht werden würde und die Vergangenheit im Jahr 1985 stattfände, dann könnte sich der Film deutlich mehr amüsieren und viel größere Unterschiede aufzeigen. Der Darsteller würde in eine Vergangenheit ohne PCs, Internet oder Mobiltelefone reisen – der heutige Marty McFly, ein Jugendlicher, der in den späten 90ern zur Welt gekommen wäre, wäre 1985 deutlich deplatzierter als es der Marty McFly des Films im Jahr 1955 war.

Und dies aus dem selben Grund, den wir gerade erörtert haben – das Gesetz der sich beschleunigenden Erträge. Die durchschnittliche Fortschrittsrate zwischen 1985 und 2015 war höher als die Rate zwischen 1955 und 1985 – weil im ersten Zeitraum die Welt fortgeschrittener war – es waren in den letzten 30 Jahren also größere Veränderungen zu verzeichnen als in den 30 Jahren davor.

Also – Fortschrittsprünge werden größer und größer und vollziehen sich schneller und schneller. Dies legt einige ziemlich heftige Folgerungen für unsere Zukunft nahe, richtig?

Kurzweil schlägt vor, dass der gesamte Fortschritt des 20. Jahrhunderts nur 20 Jahre gedauert hätte, wenn man die Fortschrittsrate des Jahres 2000 annimmt – nochmal, im Jahr 2000 war die Fortschrittsrate 5-mal höher als die durchschnittliche Rate des 20. Jahrhunderts. Er glaubt, dass zwischen 2000 und 2014 nochmal ein ganzes 20. Jahrhundert an Fortschritt erreicht wurde und dass bis zum Jahr 2021 nochmal soviel Fortschritt, wie im kompletten 20. Jahrhundert entstanden ist, hinzukommen wird, in nur 7 Jahren. Er glaubt, dass in ein paar Jahrzehnten der Fortschritt des 20. Jahrhunderts mehrmals pro Jahr, und noch später, in weniger als einem Monat erzielt wird. Zusammenfassend glaubt Kurzweil wegen des Gesetzes der sich beschleunigenden Erträge, dass im 21. Jahrhundert der 1.000fache Fortschritt des 20. Jahrhundert erreicht wird.

Wenn Kurzweil und seine Anhänger recht haben, dann würde uns das Jahr 2030 genauso umhauen, wie unser Typ aus dem Jahr 1750 vom Jahr 2015 umgehauen wurde – die nächste TFD könnte vielleicht nur noch einige Jahrzehnte erfordern – und die Welt des Jahres 2050 könnte so unglaublich von der heutigen verschieden sein, dass wir sie kaum noch erkennen würden.

Das ist nicht Science-Fiction. Denn genau das glauben auch viele Wissenschaftler, die deutlich klüger und sachkundiger sind als du und ich, mit großer Überzeugung – und wenn du in die Geschichte zurückdenkst, dann sollten wir das folgerichtig auch so vorhersagen.

Warum also denkst du „Cool …. aber nee“, wenn ich sage „Die Welt in 35 Jahren wird nicht mehr zu erkennen sein“? Es gibt drei Gründe, warum wir haarsträubenden Zukunftsprognosen skeptisch gegenüberstehen

1) In geschichtlichen Dingen denken wir linear.

Wenn wir uns den Fortschritt der nächsten 30 Jahre vorstellen, dann schauen wir auf den Fortschritt der letzten 30 Jahre zurück, um ein Gefühl dafür zu bekommen, was wahrscheinlich passieren wird. Wenn wir über das Ausmaß der Veränderung im 21. Jhd. nachdenken, dann nehmen wir den Fortschritt des 20. Jhd. und addieren ihn zum Jahr 2000.

Das ist der gleiche Fehler, den unser Typ aus dem Jahr 1750 gemacht hat, als er jemand aus dem Jahr 1500 holte und erwartete, dass er genauso hin und weg sein würde wie er selbst, nachdem er die gleiche Distanz in die Zukunft gereist war.

Wir denken intuitiv am ehesten linear, wir sollten aber exponentiell denken. Es wäre schon schlauer, wenn man beim Versuch den Fortschritt der nächsten 30 Jahre zu schätzen nicht auf die vergangen 30 Jahre zurückblickt, sondern die aktuelle Fortschrittsrate nimmt und seine Prognose darauf aufbaut. Das wäre genauer, aber immer noch weit daneben.

Um korrekt über die Zukunft nachzudenken, muss man ein deutlich höheres Tempo annehmen als der aktuelle Fortschritt nahelegt.

KI03

2) Der Blick auf die jüngste Vergangenheit legt oftmals verzerrte Schlussfolgerungen nahe.

Erstens erscheint selbst eine steile exponentielle Kurve linear, wenn der betrachtete Ausschnitt nur klein genug gewählt wird, genau wie der winzige Ausschnitt eines großen Kreises nahezu wie eine gerade Linie wirkt. Zweitens verläuft exponentielles Wachstum nicht völlig uniform und gleichmäßig. Kurzweil erklärt, dass Fortschritt in „S-Kurven“ abläuft:

Eine S-Kurve entsteht durch die Fortschrittswelle, wenn ein neues Paradigma durch die Welt schwappt. Die Kurve durchläuft drei Phasen:

  1. Langsames Wachstum (die frühe Phase exponentiellen Wachstums)
  2. Schnelles Wachstum (die späte, explosive Phase exponentiellen Wachstums)
  3. Ein Abklingen, das mit dem Ausreifen des Paradigmas einhergeht

Wenn man sich nur die jüngste Vergangenheit anschaut, dann kann die aktuelle Phase der S-Kurve unsere Wahrnehmung des Fortschrittstempos verschleiern.

In der Zeitspanne zwischen 1995 und 2007 explodierte das Internet. Microsoft, Facebook und Google eroberten das Bewusstsein der breiten Bevölkerung, soziale Netzwerke wurden geboren und Mobiltelefone und danach Smartphones wurden eingeführt. Das war Phase 2: der Wachstumsschub der S-Kurve.

Die Jahre 2008 bis 2015 waren aber weniger bahnbrechend, zumindest aus technologischer Sicht. Jemand der heute über die Zukunft nachdenkt, könnte die letzten Jahre heranziehen, um die aktuelle Fortschrittsrate zu schätzen. Dabei würde er aber das große Ganze übersehen. Tatsächlich könnte sich ein neuer, gewaltiger Wachstumsschub in diesem Augenblick zusammenbrauen.

3) Unsere eigene Erfahrung macht uns, wenn es um die Zukunft geht, zu halsstarrigen alten Menschen.

Unsere Vorstellung von der Welt basiert auf unseren persönlichen Erfahrungen und diese Erfahrung hat die Fortschrittsrate der jüngeren Vergangenheit in unseren Köpfen verankert („Das war schon immer so!“). Auch unsere Vorstellungskraft stößt an Grenzen, weil sie unsere Erfahrungen heranzieht, um Zukunftsprognosen hervorzuzaubern – oftmals gibt uns unser Wissen aber einfach nicht die Werkzeuge, um präzise über die Zukunft nachzudenken.

Wenn wir eine Vorhersage über die Zukunft hören, die unserer erfahrungsgeleiteten Vorstellung davon „wie die Welt funktioniert“ widerspricht, dann verleitet uns das zu dem intuitiven Glauben, das die Vorhersage naiv sein müsse. Wenn ich dir weiter unten in diesem Artikel erzähle, dass du möglicherweise 150 oder 200 Jahre leben oder überhaupt nicht sterben wirst, dann sagt dir deine Intuition: „Das ist lächerlich – wenn ich irgendetwas aus der Vergangenheit gelernt habe, dann dass jeder sterben muss.“ Und ja, noch nie ist jemand nicht gestorben. Aber es ist genauso noch niemand mit einem Flugzeug geflogen bevor Flugzeuge erfunden wurden.

Also, obwohl sich ungläubiges „nee…“ beim Lesen dieses Artikels richtig anfühlt, ist es bei Betrachtung der Fakten wahrscheinlich falsch.

Es ist doch so, wenn wir streng logisch annehmen, dass die historischen Muster weiterbestehen, dann sollten wir davon ausgehen, dass sich in den nächsten Jahrzehnten viel, viel, viel mehr verändert als wir intuitiv erwarten. Die Logik legt auch nahe, dass die höchstentwickelte Spezies eines Planeten, wenn sie sich in immer größeren Schritten und immer schneller fortentwickelt, irgendwann einen so großen Sprung bewerkstelligt, dass sich das Leben und die Vorstellung, was Leben bedeutet, radikal verändert – so ähnlich wie die Evolution beständig große Sprünge in Richtung Intelligenz machte, bis sie schlussendlich einen so großen Sprung zum Menschen machte, dass sich die Lebensumstände für alle Lebewesen auf dem Planeten Erde komplett veränderten.

Und wenn man sich damit beschäftigt, was aktuell in den Bereichen Wissenschaft und Technologie passiert, dann erkennt man mannigfaltige Hinweise, die leise andeuten, dass das Leben, wie wir es heute kennen, den nächsten Sprung nicht wird überdauern können.

_______________

Der Weg zur Superintelligenz

Was ist Künstliche Intelligenz (KI)?

Wenn es dir wie mir geht, dann hast du auch geglaubt, dass Künstliche Intelligenz ein albernes Sci-Fi-Konzept wäre, aber in letzter Zeit hast du erlebt, dass auch ernstzunehmende Personen darüber sprechen und du begreifst nicht wirklich, was es damit auf sich hat.

Es gibt drei Gründe, warum Verwirrung über den Begriff der KI herrscht:

1) Wir denken dabei an Filme.
Star Wars. Terminator. 2001: Odyssee im Weltraum. Ja sogar die Jetsons. Und das ist Fiktion, genauso wie die Roboterfiguren. KI erhält dadurch für uns den Klang von Hirngespinsten.

2) KI ist ein weites Feld.
Es reicht von dem Taschenrechner deines Telefons über selbstfahrende Autos bis zu Etwas in der Zukunft, das die Welt radikal verändern würde. KI bezeichnet all diese Dinge, und das ist verwirrend.

3) Wir benutzen KI andauernd in unserem Alltag, aber wir realisieren oftmals nicht einmal, dass es sich um KI handelt.
John McCarthy, der den Ausdruck „Künstliche Intelligenz“ im Jahr 1956 prägte, beklagte: „sobald es funktioniert, nennt es niemand mehr KI.“ Wegen dieses Phänomens klingt KI oft eher wie eine fantastische, frei erfundene Zukunft und nicht wie etwas, das wirklich passieren könnte. Gleichzeitig entsteht der Eindruck, dass KI eine populäre Vorstellung aus der Vergangenheit wäre, die sich aber niemals in der Realität umsetzen lies. Ray Kurzweil sagt, dass KI nach Meinung vieler in den 1980ern verkümmert wäre, was aber genauso sei, wie „darauf zu beharren, dass das Internet mit dem Platzen der Dotcom-Blase gestorben wäre.“

Lasst uns also die Sache aufklären.

Erstens, denkt nicht mehr an Roboter! Ein Roboter ist ein Gehäuse für KI, das manchmal menschlich erscheinen will, aber nicht muss – die KI selbst ist aber ein Computer im Inneren des Roboters. KI ist das Gehirn und der Roboter ist der Körper – wenn es überhaupt einen Körper gibt. Zum Beispiel sind die Software und die Daten hinter Siri die KI, die Frauenstimme, die wir hören, ist die Personifizierung der KI, und dabei ist in keiner Weise ein Roboter involviert.

Zweitens, du hast wahrscheinlich den Ausdruck „Singularität“ oder „technologische Singularität“ gehört. Dieser Ausdruck wurde in der Mathematik verwendet, um quasi-asymptotische Situation zu beschreiben, in der die normalen Regeln nicht mehr gelten. Er wurde in der Physik verwendet, um Phänomene wie ein unendlich kleines, dichtes Schwarzes Loch oder den Punkt, in den wir unmittelbar vor dem Urknall zusammengequetscht waren zu beschreiben.

Nochmal: das sind Situationen, in denen die normalen Regeln nicht gelten.

1993 schrieb Vernon Vinge seinen berühmten Aufsatz, in dem er diesen Ausdruck auf den Augenblick in der Zukunft übertrug, in dem die technologische Intelligenz unsere eigene übersteigt – und sich das uns bekannte Leben für immer verändert und die normalen Regeln nicht mehr gelten.

Ray Kurzweil hat dann die Dinge etwas verkompliziert, weil er die Singularität umdefinierte, nämlich als die Zeit, ab der das Gesetz der sich beschleunigenden Erträge eine solch extreme Geschwindigkeit erreicht hat, dass der technische Fortschritt mit scheinbar unendlich großer Geschwindigkeit abläuft, und nach dem Erreichen dieses Zeitpunktes werden wir in einer gänzlich neuen Welt leben. Ich habe festgestellt, dass viele der heutigen KI-Vordenker aufgehört haben, diesen Begriff zu verwenden, und er ist sowieso verwirrend, also werde ich ihn hier auch kaum verwenden (obwohl wir durchgehend unsere Aufmerksamkeit auf diese Idee richten).

Schlussendlich, es gibt zwar verschiedenste Typen und Ausprägungen der KI, weil KI ein sehr großes Gebiet umfasst, die entscheidenden Kategorien, über die wir nachdenken müssen, basieren auf der Kompetenz einer KI.

Es gibt drei Hauptkategorien für die KI-Kompetenz:

1) Enge Künstliche Intelligenz (EKI):
Manchmal als Schwache KI bezeichnet. Enge Künstliche Intelligenz ist KI, die sich auf ein Gebiet spezialisiert. Es gibt KI, die den aktuellen Schachweltmeister schlagen kann, aber das ist alles, was sie kann. Gib ihr die Aufgabe nach besseren Speicherverfahren für Festplatten zu suchen und sie wird dich mit treudoofem Blick anstarren.

2) Allgemeine Künstliche Intelligenz (AKI):
Manchmal auch Starke KI oder Menschenähnliche KI genannt. Allgemeine Künstliche Intelligenz bezieht sich auf einen Computer, der in allen Bereichen so klug ist wie ein Mensch – eine Maschine, die jede intellektuelle Aufgabe bewältigen kann, die auch ein Mensch lösen kann.

AKI zu erschaffen, ist eine viel schwierigere Aufgabe als EKI zu erschaffen, und wir haben diese Aufgabe auch noch vor uns.

Professor Linda Gottfredson beschreibt Intelligenz als „eine sehr allgemeine geistige Fähigkeit, die unter anderem die Fähigkeit umfasst, logisch zu denken, zu planen, Probleme zu lösen, abstrakt zu denken, komplexe Ideen zu verstehen und aus Erfahrungen zu lernen.“

AKI wäre in der Lage, all diese Dinge genauso so mühelos zu tun wie du.

3) Künstliche Superintelligenz (KSI):
Der Philosoph der Universität Oxford und führende KI-Vordenker Nick Bostrom definiert Superintelligenz als „einen Intellekt, der viel intelligenter als das klügste menschliche Gehirn in praktisch jedem Gebiet ist, einschließlich wissenschaftlicher Kreativität, allgemeinen Lebensweisheiten und sozialer Kompetenz.“ Künstliche Superintelligenz reicht vom Computer, der nur ein bisschen klüger als ein Mensch ist bis zu dem, der billionenfach klüger ist – auf allen Gebieten. KSI ist der Grund, warum KI so ein heißes Eisen ist und weshalb die Worte Unsterblichkeit und Aussterben in diesen Artikeln mehrfach auftauchen werden.

Schon jetzt haben wir Menschen die unterste Stufe der KI erobert – EKI – auf viele Weisen und allgegenwärtig. Die KI-Revolution ist der Weg von der EKI über die AKI zur KSI – eine Reise, die wir vielleicht überleben oder auch nicht, die aber auf jeden Fall alles verändern wird.

Lasst uns also anschauen, was die führenden Köpfe darüber denken, wie diese Reise aussieht und warum diese Revolution viel früher stattfinden könnte, als du vielleicht denkst:

EKI ist Maschinenintelligenz, die der menschlichen Intelligenz in einer bestimmten Aufgabe ebenbürtig ist oder diese übersteigt. Ein paar Beispiele:

  • Autos sind vollgepackt mit EKI-Systemen, vom Computer, der bestimmt, wann das ABS eingreift bis zum Computer, der die Parameter der Kraftstoffeinspritzung steuert. Googles selbstfahrendes Auto, das gerade getestet wird, wird robuste EKI enthalten, die ihm erlaubt, seine Umgebung wahrzunehmen und auf sie zu reagieren.
  • Dein Telefon ist eine kleine EKI-Fabrik. Wenn du mit deiner Karten-App navigierst, maßgeschneiderte Musikempfehlungen erhältst, das morgige Wetter überprüfst, mit Siri sprichst, oder bei dutzenden anderen, alltäglichen Aktivitäten, du benutzt immer EKI.
  • Dein Email-Spamfilter ist ein klassischer Fall von EKI – er beginnt mit jeder Menge Intelligenz darüber, wie man zwischen Spam und Nicht-Spam unterscheidet und dann lernt das System aus den Erfahrungen mit deinen Präferenzen und passt sich an genau diese Umstände an. Das Thermostat von Nest macht das Gleiche, es versucht deinen typischen Tagesablauf zu erkennen und handelt dann dementsprechend.
  • Du kennst auch die unheimliche Erfahrung, wenn du ein Produkt auf Amazon suchst und dir dann genau dieses Produkt auf einer anderen Seite „empfohlen“ wird, oder wenn Facebook dir wie aus dem Nichts eröffnet, mit wem du dich sinnvollerweise als Freund verbinden könntest? Das ist ein Netz von EKI-Systemen, die sich gegenseitig über dich und deine Vorlieben auf dem Laufenden halten und dann auf Basis dieser Informationen entscheiden, was dir gezeigt wird. Das gleiche gilt auch für die Einblendung „Kunden, die diesen Artikel gekauft haben, kauften auch“ bei Amazon – das ist ein EKI-System, dessen Aufgabe darin besteht, das Verhalten von Millionen von Kunden zu erfassen und dann dieses Wissen klug zu nutzen, um dir noch mehr Dinge zu verkaufen.
  • Der „Google Übersetzer“ ist ein weiteres klassisches EKI-System – beeindruckend gut in einer sehr eng umfassten Aufgabe.
  • Für Spracherkennung gilt das Gleiche; und es gibt eine ganze Reihe von Apps, die diese beiden EKIs zusammenbringen, um dir zu erlauben, einen Satz in einer Sprache zu sprechen und dann das Telefon den Satz in einer anderen Sprache sprechen zu lassen.
  • Wenn dein Flugzeug landet, dann entscheidet nicht mehr ein Mensch, zu welchem Gate das Flugzeug rollt. Genauso wenig, wie ein Mensch den Preis deines Tickets festgelegt hat.
  • Der weltbeste Dame-, Schach-, Scrabble-, Backgammon- und Othello-Spieler sind schon EKI-Systeme.
  • Die Suche von Google ist ein riesiges EKI-Gehirn, das mit unglaublich ausgeklügelten Methoden das Ranking der Webseiten bestimmt und herausfindet, was dir gerade angezeigt werden soll. Das gilt auch für den Newsfeed von Facebook.
  • Und das sind ein paar Beispiele nur aus dem Endkundenbereich. Ausgeklügelte EKI- Systeme sind weit verbreitet in Bereichen und Industrien wie Militär, Produktion und Finanzwesen (algorithmische KI-Hochfrequenz-Trader verursachen mehr als die Hälfte des US-Equity-Handelsvolumens), und in Expertensystemen, die Ärzten helfen, Diagnosen zu stellen, und bekanntermaßen Watson von IBM, der genug Fakten enthielt und die neckische Sprache des Moderators gut genug verstand, um den erfolgreichsten Jeopardy-Champions eine Abreibung zu verpassen.

Die EKI-Systeme der Gegenwart sind nicht besonders angsteinflößend. Schlimmstenfalls kann eine unsauber oder schlecht programmierte EKI eine isolierte Katastrophe verursachen: wie zum Beispiel ein Energieversorgungsnetz außer Betrieb zu nehmen, einen gefährlichen Zwischenfall in einem Atomkraftwerk zu verursachen oder ein Desaster im Finanzmarkt auszulösen (wie den sog. Flash Crash im Jahr 2010, als ein EKI-Programm auf eine unerwartete Situation falsch reagierte und einen kurzfristigen Kurssturz am Aktienmarkt auslöste, und dabei über eine Billion Dollar an Kurswerten ausradierte, die sich nur teilweise wieder erholten, nachdem der Fehler korrigierte wurde).

Obwohl EKI nicht die Möglichkeit besitzt, zu einer existenziellen Bedrohung zu werden, sollten wir dieses zunehmend größer und komplexer werdende Ökosystem aus relativ harmloser EKI doch als Vorbote des weltverändernden Orkans betrachten, der sich schon am Horizont andeutet. Jeder neue Fortschritt im Bereich der EKI legt einen weiteren Stein auf dem Weg von der EKI zur KSI.

Oder um es mit den Worten von Aaron Saenz zu sagen: die EKI-Systeme unserer Welt „sind wie die Aminosäuren im Urschlamm der frühen Erde“ – der leblose Teil des Lebens, der eines Tages unverhofft erwachte.

Der Weg von EKI zu KSI

Warum er so schwierig ist

Nichts wird dir soviel Bewunderung vor der menschlichen Intelligenz einflößen, wie das Erkennen der Probleme, die sich stellen, wenn man versucht, einen Computer zu erschaffen, der genauso intelligent ist wie wir. Wolkenkratzer bauen, Menschen ins Weltall schießen, die Details des Urknalls ergründen – all das ist viel einfacher, als unser eigenes Gehirn zu verstehen oder etwas ähnlich Beeindruckendes zu bauen. Bereits jetzt ist das Gehirn das komplexeste Objekt des uns bekannten Universums.

Interessanterweise sind die größten Herausforderungen beim Bau einer KSI (ein Computer, der durchgängig so intelligent ist wie ein Mensch, nicht nur bei einer engen Spezialaufgabe) nicht das, was du intuitiv denken würdest. Einen Computer bauen, der zwei 10-stellige Zahlen multipliziert – unglaublich einfach. Einen bauen, der einen Hund wahrnimmt und dann erkennt, ob es sich um einen Hund oder eine Katze handelt – unfassbar schwierig. Baue eine KI, die jeden Menschen im Schach schlägt – erledigt. Baue eine, die einen Paragraph aus dem Bilderbuch eines 6-Jährigen liest und nicht nur die Wörter erkennt, sondern auch die Bedeutung versteht? Google gibt momentan Milliarden Dollar aus, um das zu versuchen. Schwierige Dinge – wie Analysis, Finanzmarkt-Strategien und Sprachübersetzungen – sind unglaublich einfach für einen Computer, wohingegen einfache Dinge – wie Sehen, Gehen, Bewegungen und Wahrnehmung – unfassbar schwer für ihn sind. Oder, um es mit Donald Knuth zu sagen: „KI war bisher im Wesentlichen bei allen Dingen erfolgreich, die ‚Denken’ erfordern, aber ist an den meisten Dingen gescheitert, die Menschen und Tiere ‚ohne Denken’ tun.“

Wenn man darüber nachdenkt, merkt man schnell, dass die Dinge, die uns leicht erscheinen, in Wirklichkeit unglaublich kompliziert sind, und sie nur leicht erscheinen, weil diese Fertigkeiten in uns (und den meisten Tieren) von hunderten Millionen von Jahren evolutionärer Entwicklung optimiert wurden. Wenn du deine Hand nach einem Objekt ausstreckst, dann vollführen deine Muskeln, Sehnen und Knochen in deiner Schulter, deinem Ellbogen und deinem Handgelenkt in Verbindung mit deinen Augen eine Unzahl von physikalischen Veränderungen, die es dir erlauben, deine Hand in einer geraden Linie durch den dreidimensionalen Raum zu bewegen. Es erscheint dir mühelos, weil du die perfekte Software dafür in deinem Gehirn vorfindest. In diesem Sinne ist auch nicht die Schadsoftware dumm, weil es ihr nicht gelingt, den schrägen Worterkennungstest zu durchschauen, wenn du dich für eine neue Webseite anmeldest – dein Gehirn ist unglaublich beeindruckend, weil es fähig ist, das zu tun.

Im Gegensatz dazu sind die Multiplikation großer Zahlen oder Schachspielen neue Aktivitäten für biologische Geschöpfe und wir hatten noch keine Zeit, uns ausgeprägtes Können darin anzueignen. Ein Computer muss sich also nicht allzu sehr anstrengen, um uns zu besiegen. Denk mal darüber nach – was würdest du lieber tun, ein Programm schreiben, das große Zahlen multiplizieren kann oder eines, das das Wesen des Buchstabens B gut genug versteht, um all die vielen tausend verschiedenen, unvorhersehbaren Variationen des Schriftsatzes und der Handschrift zu sehen und trotzdem sofort zu erkennen, dass es sich um ein B handelt?

Ein lustiges Beispiel – wenn du dir das ansiehst, dann können sowohl du als auch ein Computer erkennen, dass es sich um ein Rechteck mit zwei sich abwechselnden Schattierungen handelt:

KI 04

Soweit ein Unentschieden. Wenn du aber das Schwarz wegnimmst und das ganze Bild enthüllst…

KI 05

…dir fällt es leicht, eine umfassende Beschreibung der vielfältigen undurchsichtigen und durchscheinenden Zylinder, Stäbe und dreidimensionalen Ecken zu liefern, der Computer würde aber jämmerlich scheitern. Es würde beschreiben, was es sieht – eine Vielzahl von zweidimensionalen Formen in verschiedenen Schattierungen – was auch tatsächlich dem entspricht, was vorhanden ist. Dein Gehirn vollführt aber Unmengen an extravaganten Berechnungen, um die implizite Tiefe, die Vermischung der Tonabstufungen und die Raumbeleuchtung, die das Bild versucht darzustellen, zu interpretieren. Und beim Anblick des unteren Bildes erkennt ein Computer eine zweidimensionale Collage aus Weiß-, Schwarz- und Grautönen, während du mit Leichtigkeit siehst, worum es sich tatsächlich handelt – ein Foto eines komplett schwarzen dreidimensionalen Steines:

KI 06

Quelle: Matthew Lloyd

Und alles, was wir gerade besprochen haben, geht nur von unbewegter Information und Verarbeitung aus. Für menschenähnliche Intelligenz müsste ein Computer die feinen Unterschiede subtiler Gesichtsausdrücke verstehen, den Unterschied zwischen Glückseligkeit, Erleichterung, Freude, Zufriedenheit und Entzücken, und warum Braveheart großartig, Der Patriot aber schrecklich war.

Abschreckend.

Wie kommen wir also dort hin?

_______________

 

Die erste Vorbedingung für funktionierende AKI: Die Erhöhung der Rechenleistung

Was sicher noch kommen muss bevor AKI möglich wird, ist eine Erhöhung der Leistungsfähigkeit der Computerhardware. Wenn ein KI-System so intelligent sein soll wie das Gehirn, dann wird es auch eine gleichwertige Rechenleistung benötigen.
Ein Weg, die Rechenleistung zu bestimmen, ist die Anzahl der Berechnungen pro Sekunde (BPS), die das Gehirn anstellen kann. Man kann diese Zahl schätzen, indem man die maximalen BPS jeder Gehirnstruktur bestimmt und diese dann aufaddiert.
Ray Kurzweil überlegte sich einen schnelleren Weg. Er nahm die sachkundige Experten- Schätzung der BPS einer Teilstruktur, bestimmte den Gewichtsanteil der Teilstruktur relativ zum Gesamtgehirn und multiplizierte dann die BPS entsprechend proportional um eine Schätzung für die Gesamt-BPS zu erhalten. Dieses Vorgehen klingt zweifelhaft, aber er berechnete diese Schätzung basierend auf mehreren fundierten Schätzungen verschiedener Teilregionen und die Gesamtschätzung pendelte sich immer bei etwa 1016 (10 Billiarden) BPS ein.
Der aktuell schnellste Supercomputer der Welt, Chinas Tianhe-2, übertrifft mit 34 Billiarden BPS schon diese Zahl. Aber Tianhe-2 ist auch ein Monstrum, das 720 m2 Platz, 24 Megawatt Strom (das Gehirn verbraucht 20 Watt) und 390 Millionen Dollar Baukosten verschlingt. Damit ist er noch nicht wirklich in der Lage, weite Verbreitung zu finden. Er kommt noch nicht einmal für die meisten kommerziellen und industriellen Anwendungen in Frage.
Kurzweil schlägt vor, dass wir die Anzahl der BPS pro 1000 Dollar betrachten, um einzuschätzen, wie weit Computer schon sind. Wenn diese Zahl das menschliche Niveau erreicht – 10 Billiarden BPS –, dann wird das bedeuten, dass AKI ein tatsächliches Alltagsphänomen wird.
Moore’s Law ist eine historisch bestätigte Regel, die besagt, dass maximale Rechenleistung sich auf der Welt etwa alle zwei Jahre verdoppelt. Dies bedeutet, dass der Fortschritt im Bereich der Computerhardware, genauso wie der menschliche Fortschritt im Laufe der Geschichte, exponentiell verläuft. Wenn man dies mit der Metrik (BPS pro 1.000 Dollar) von Kurzweil in Beziehung setzt, dann erreichen wir momentan 10 Billionen BSP pro 1.000 Dollar. Das entspricht dem geschätzten Verlauf des unteren Graphen: Q9(Kurzweil, The Singularity is Near, 118.)
Zum Preis von 1.000 Dollar bekommt man also jetzt schon einen Computer, der das Gehirn einer Maus schlägt und etwa einem Tausendstel der menschlichen Leistungsfähigkeit entspricht. Das hört sich nach wenig an, bis man sich bewusst macht, dass wir 1985 bei etwa einem Billionstel, 1995 bei einem Milliardstel und 2005 bei einem Millionstel waren. Wenn wir 2015 bei einem Tausendstel angekommen sind, dann bedeutet das, dass wir auf dem besten Weg sind, bis 2025 einen bezahlbaren Computer zu bekommen, der es mit dem menschlichen Gehirn aufnehmen kann.
Auf Hardware bezogen ist die reine Rechenleistung für AKI in China zumindest technisch schon vorhanden. Und wir können erwarten, dass wir innerhalb von 10 Jahren bereit sein werden für bezahlbare, weitverbreite und AKI-geeignete Hardware. Aber reine Rechenleistung alleine macht Computer noch nicht im allgemeinen Sinne intelligent – was uns zur nächsten Frage führt: wie erschaffen wir menschenähnliche Intelligenz aus dieser ganzen Rechenleistung?

Die zweite Vorbedingung für funktionierende AKI: Die Intelligenz steigern

Das ist der ätzende Teil. Es ist doch so: niemand weiß wirklich, wie wir menschliche Intelligenz erzeugen können – bisher wird wir noch darüber diskutiert, wie man einem Computer die Fähigkeit beibringt, zu erkennen, was einen Hund, ein komisch geschriebenes
B und einen mittelmäßigen Film ausmacht. Aber es existieren eine Menge abwegiger Ansätze, dies zu erreichen und irgendwann wird einer von ihnen funktionieren. Die drei geläufigsten Ansätze, auf die ich gestoßen bin, sind die drei Folgenden:

1) Das Gehirn imitieren.

Das ist vergleichbar mit einem Wissenschaftler, der an der Frage verzweifelt, wieso sein Banknachbar in der Schule immer so gute Noten schreibt und er selbst trotz seiner großen Bemühungen in den Prüfungen nicht annähernd so gut abschneidet. Bis er eines Tages aufgibt und dazu übergeht, die unerreichbar guten Antworten des Nachbarn einfach abzuschreiben. Das macht auch Sinn – wir sind überfragt, wenn es darum geht, einen extrem komplexen Computer zu entwickeln, aber in jedem unserer Köpfe befindet sich die perfekte Blaupause genau dafür.
In der Wissenschaft wird mit aller Kraft daran gearbeitet, das menschliche Gehirn zu rekonstruieren, um herauszufinden, wie die Evolution ein so mächtiges Werkzeug erschaffen konnte. Und nach optimistischen Schätzungen wird uns dies bis zum Jahr 2030 gelingen. Sobald wir dies erreicht haben werden, werden wir wissen, warum das Gehirn so leistungsfähig und ressourcenschonend arbeitet. Dann können wir uns inspirieren lassen und seine Innovationen klauen. Ein Beispiel für eine Computer-Architektur, die das menschliche Gehirn imitiert, sind künstliche neuronale Netzwerke. Diese bestehen aus einem Netz von Transistor-„Neuronen“, die über ihre Ein- und Ausgänge miteinander verbunden sind. Dieses Netz trägt aber keinerlei Wissen in sich – wie das Gehirn eines Kleinkindes. Es „lernt“ durch den Versuch, eine Aufgabe zu lösen – wie Handschrifterkennung. Dabei sind die ersten neuronalen Aktivitäten und Versuche, jeden Buchstaben zu erkennen, vollständig zufällig. Wenn man aber rückmeldet, dass ein Rateversuch erfolgreich war, dann werden die Transistorverbindungen, die auf dem Weg der richtigen Lösung aktiv waren, gestärkt. Wenn man rückmeldet, dass das Ergebnis falsch war, dann werden die Verbindungen geschwächt. Nach unzähligen Versuchen und entsprechender Rückmeldung hat das Netz selbständig kluge neuronale Verbindungsketten gebildet und sich auf diesem Weg für die gegebene Aufgabe optimiert. Das Lernen des Gehirns läuft ähnlich ab, aber viel raffinierter. Und je besser wir die Funktionsweise des Gehirns erforschen, desto besser können wir die ausgeklügelten Mechanismen des Gehirns bezüglich neuronaler Schaltungen ausnutzen.
Eine extremere Variante der Imitation wendet eine Strategie an, die man die „Emulation des gesamten Gehirns“ nennt. Das Ziel dabei besteht darin, das reale Gehirn in kleinste Scheiben zu unterteilen, diese zu scannen und mit Hilfe von Software ein genaues, 3-dimensional rekonstruiertes Modell auf einem leistungsstarken Computer zu implementieren. Dann hätten wir einen Computer, der hochoffiziell genau das könnte, was das Gehirn vollbringen kann
– es müsste nur lernen und Informationen sammeln. Wenn die Ingenieure richtig gut werden, dann könnten sie ein wirkliches Gehirn mit einer solchen Genauigkeit emulieren, dass das vollständige Gedächtnis und die Persönlichkeit des Gehirns intakt wären, nachdem die Architektur des Gehirns in den Computer geladen wurde. Wenn man die Architektur des Gehirns von Jim kurz nach dessen Tod in einen Computer lädt, dann würde der Computer als Jim erwachen (?), was einer robusten menschenähnlichen AKI entsprechen würde. Und dann könnten wir uns daranmachen, Jim in eine unvorstellbar kluge KSI zu verwandeln, wovon Jim wohl ziemlich begeistert wäre.
Wie weit sind wir davon entfernt, das ganze Gehirn zu emulieren? Also bis jetzt ist es uns noch nicht gerade erst gelungen, das Gehirn eines millimetergroßen Fadenwurms zu emulieren, der gerade einmal 302 Neuronen besitzt. Das menschliche Gehirn besteht aus 100
Milliarden Neuronen. Wenn dir das wie eine Herkulesaufgabe erscheint, dann bedenke die Macht exponentiellen Wachstums. Wir haben bisher das winzige Wurmgehirn gemeistert, eine Ameise dürfte also bald auch machbar sein, und dann eine Maus und plötzlich rückt das menschliche Gehirn in greifbare Nähe.

2) Der Versuch, einen evolutionären Prozess anzustoßen – vergleichbar mit dem, der uns geschaffen hat.

Also, wenn wir zu dem Schluss kommen, dass es für uns nicht erreichbar ist, die Antworten unseren schlauen Banknachbarn abzuschreiben, dann können wir zumindest die Art, wie er lernt, imitieren – nicht seine Antworten.
Damit stoßen wir auf etwas Neues. Einen Computer zu bauen, der so leistungsfähig ist wie das menschliche Gehirn, ist möglich – die Entstehung unseres eigenen Gehirns ist der Beweis dafür. Und wenn die Emulation unseres Gehirns für uns einfach zu komplex ist, dann könnten wir versuchen, die Entstehung des Gehirns nachzuahmen. Tatsächlich muss man aber Folgendes bedenken: Angenommen wir könnten das Gehirn emulieren. Dann wäre das immer noch so, als würden wir versuchen, ein Flugzeug zu entwickeln, indem wir den Flügelschlag eines Vogels nachahmen. Oftmals entstehen die besten Entwürfe für neue Maschinen, wenn man einen neuen, maschinennahen Ansatz verfolgt, aber die Biologie nicht exakt imitiert.
Wie können wir also die Evolution simulieren, um eine AKI zu bauen? Die „genetische Algorithmen“ genannte Methode würde in etwa so funktionieren. Es gäbe einen leistungsbasieren Bewertungsprozess, der immer und immer wieder abläuft (genauso wie Lebewesen als „Leistung“ ihr Leben leben und danach „bewertet“ werden, ob sie sich fortpflanzen oder nicht). Eine Gruppe von Computern würde versuchen, Aufgaben zu lösen und die Erfolgreichsten dürften sich dann fortpflanzen, indem jeweils die Hälfte ihrer Software einen neuen Computer zeugen würden. Die weniger Erfolgreichen würden man aussortieren. Nach vielen, vielen Iterationen würde diese natürliche Auslese immer bessere Computer hervorbringen. Die Herausforderung bestünde darin, einen automatischen Bewertungs- und Fortpflanzungsprozess zu erschaffen, damit der evolutionäre Prozess selbständig ablaufen könnte.
Der Nachteil, sich die Evolution als Vorbild zu nehmen, besteht darin, dass die Evolution Milliarden von Jahren benötigte, um etwas zu bewerkstelligen, was wir in wenigen Jahrzehnten erreichen wollen.
Aber wir sind der Evolution in vielen Dingen voraus. Erstens agiert die Evolution zufällig und ohne Weitblick – sie erzeugt mehr untaugliche als taugliche Mutationen. Wir würden den Prozess aber kontrollieren und nur vorteilhafte Abweichungen und zielgerichtete Veränderungen zum Zuge kommen lassen. Zweitens hat die Evolution kein Ziel. Dies gilt auch für Intelligenz. Unter bestimmten Umweltbedingen könnte höhere Intelligenz sogar aussortiert werden (weil sie viel Energie benötigt). Im Gegensatz dazu könnten wir diesen evolutionären Prozess bewusst dahin leiten, die Intelligenz zu erhöhen. Drittens muss die Evolution zur Entwicklung von Intelligenz noch in vielen anderen Bereichen Innovationen hervorbringen – beispielsweise in der Art wie Zellen Energie produzieren. Wohingegen wir diese zusätzliche Belastung umgehen und Dinge wie Elektrizität einsetzen können. Wir wären ohne jeden Zweifel viel, viel schneller als die Evolution – es bleibt aber unklar, ob die Verbesserungen im Vergleich zur Evolution groß genug sein würden, um dies zu einer erfolgversprechenden Strategie zu machen.

3) Löse dieses ganze Problem nicht selbst, sondern lasse den Computer es selbst lösen.

Das passiert, wenn die Wissenschaftler nahe an der Verzweiflung sind und versuchen, den Test so zu programmieren, dass er sich selbst löst. Aber das könnte die erfolgversprechendste Methode sein, die wir haben.
Die Idee besteht darin, einen Computer zu bauen, dessen Hauptfähigkeit darin besteht, KI- Forschung zu betreiben und sich Veränderungen selbständig einzuprogrammieren – also nicht nur zu lernen, sondern seine eigene Architektur zu verbessern. Wir würden Computern beibringen, Informatiker zu sein und ihre eigene Entwicklung selbst voranzutreiben. Und das wäre ihre Hauptaufgabe – herausfinden, wie sie sich selbst klüger machen können. Dazu später mehr.

Das alles könnte schon bald Wirklichkeit werden

Schnelle Fortschritte im Hardwarebereich und innovative Experimente im Softwarebereich geschehen gleichzeitig. Und AKI könnte sich aus zwei wichtigen Gründen schnell und unerwartet an uns heranschleichen:
– 1)   Exponentielles Wachstum ist stark und das, was sich wie Fortschritt im Schneckentempo anfühlt, kann plötzlich hochschießen – diese GIF verdeutlicht dieses Konzept sehr schön:
– 2)   Wenn wir über Software sprechen, dann kann einem Fortschritt sehr langsam vorkommen. Aber ein einziger Durchbruch kann die Fortschrittsrate urplötzlich verändern (das ist vergleichbar mit den Problemen der Wissenschaft, die Welt im geozentrischen Weltbild zu berechnen; erst durch die Entdeckung des heliozentrischen Weltbildes gestaltete sich alles plötzlich viel einfacher). Oder wenn man an einen Computer denkt, der sich selbst verbessert: scheinbar liegt alles noch in weiter Ferne, tatsächlich könnten wir aber aber nur einen einzigen Verbesserungsschritt davon entfernt sein, 1.000mal so effektiv zu werden und auf das Niveau menschlicher Intelligenz hochzuschießen.

Der Weg von AKI zu KSI

Irgendwann in der Zukunft werden wir AKI verwirklicht haben – Computer, die menschenähnliche, allgemeine Intelligenz besitzen. Ein Haufen Menschen und Computer, die ebenbürtig zusammenleben.
Naja, tatsächlich wäre es ganz anders.
Es ist doch so: eine AKI, die das gleiche Maß an Intelligenz und Rechenleistung wie ein Mensch besitzt, hätte dennoch beträchtliche Vorteile gegenüber einem Menschen. Etwa:

Hardware

– Geschwindigkeit. Die Neuronen des Gehirns arbeiten maximal mit 200Hz. Heutige Mikroprozessoren (die deutlich langsamer sind als sie sein werden, wenn wir AKI erreichen) arbeiten mit 2GHz, also zehn Millionen Mal schneller als unsere Neuronen. Und die 120 Meter pro Sekunde der internen Kommunikation des Gehirns sind Nichts im Vergleich zur Fähigkeit des Computers, optisch mit Lichtgeschwindigkeit zu kommunizieren.
– Größe und Speicher. Die Größe unseres Gehirns wird durch die Größe unseres Schädels limitiert. Und man könnte es auch nicht viel vergrößern, weil sonst die verschiedenen Gehirnstrukturen mit 120 Meter pro Sekunde intern nicht mehr schnell genug kommunizieren könnten. Computer können sich im Gegensatz dazu zu jeder beliebigen physischen Größe ausdehnen. Das erlaubt den Einsatz von deutlich mehr Hardware, einen viel größeren Arbeitsspeicher (RAM) und ein Langzeitgedächtnis (Festplattenspeicher), das eine deutlich höhere Kapazität und Genauigkeit aufweist, als unser eigener.
– Zuverlässigkeit und Langlebigkeit. Nicht nur der Speicher eines Computers wäre deutlich zuverlässiger. Transistoren eines Computers arbeiten genauer als biologische Neuronen und sie verschlechtern sich mit geringerer Wahrscheinlichkeit (darüber hinaus können sie bei Bedarf repariert oder ausgetauscht werden). Menschliche Gehirne ermüden zudem leicht, wohingegen Computer ununterbrochen arbeiten können. Mit Höchstgeschwindigkeit. 24 Stunden pro Tag, 7 Tage die Woche.

Software:

• Editierbarkeit, Erweiterungsfähigkeit und umfangreichere Anwendungsmöglichkeiten.
Anders als das menschliche Gehirn kann Computer-Software leicht mit Aktualisierungen und Fehlerbehebungen versorgt und problemlos experimentell verändert werden. Diese Verbesserungen könnten auch ohne Weiteres Bereiche betreffen, in denen das menschliche Gehirn Schwächen zeigt. Software zum Maschinensehen ist extrem fortgeschritten, während die Fähigkeit, komplexe technische Probleme zu meistern, sehr schwach ausgeprägt ist. Computer könnten also genauso gut wie Menschen sehen, aber in gleichem Maße für technische Problemlösungen und andere Bereiche optimiert sein.
Kollektive Fähigkeiten. Menschen stellen alle andere Spezies in den Schatten, wenn es darum geht, gewaltige kollektive Intelligenz zu erzeugen. Dies begann mit der Entwicklung der Sprache und der Bildung großer, eng vernetzter Gemeinschaften, führte zur Erfindung der Schrift und des Buchdrucks und mündete schließlich in dies alles potenzierende Werkzeuge wie das Internet. Die auf diesem Weg entstandene kollektive Intelligenz ist einer der
Hauptgründe, warum Menschen all den anderen Spezies so weit davoneilen konnten. Und Computer werden darin noch viel besser werden, als wir es sind. Ein weltumspannendes Netz von KI, das ein bestimmtes Programm ausführt, könnte sich automatisch austauschen, und dabei jede Erkenntnis, die ein einzelner Computer an einem der Knoten gewinnt, sofort allen anderen Computern zur Verfügung stellen. Und dieses Computernetz könnte sich auch einem einzelnen Ziel gemeinsam verschreiben, weil es anderes als in der menschlichen Population keine abweichenden Meinungen, Motivationen und Eigeninteressen gäbe.
Q10(Bostrom, Superintelligence: Paths, Dangers, Strategies, loc. 1500-1576.)
KI wird den Schritt zur AKI am ehesten dadurch gehen, dass sie sich durch entsprechende Programmierung selbst verbessern kann. Sie würde „Intelligent wie ein Mensch“ aber nicht als besonderen Meilenstein ihrer Entwicklung betrachten – diese Stufe hat nur aus unserer Perspektive eine besondere Bedeutung. Und es gäbe auch keinen Grund, sich an diesem Punkt zu „stoppen“. Wenn man bedenkt, welche Vorteile eine menschenähnliche AKI im Vergleich zu uns hätte, dann ist es doch ziemlich einleuchtend, dass dieses Niveau nur für einen kurzen Augenblick bestehen würde, bevor es in den „übermenschlichen“ Bereich fortschreiten würde.
Wir würden uns wahrscheinlich vor Schreck ins Hemd machen, wenn das eintritt. Und das liegt daran, dass aus unserer Perspektive erstens die Intelligenz verschiedener Tierarten zwar variiert, sie aber alle gemein haben, dass sie deutlich unter unserer eigenen liegen und wir zweitens den klügsten Menschen als DEUTLICH klüger ansehen, als den dümmsten Menschen. Das sieht in etwa so aus:
Die KI klettert nach Oben in Richtung unserer Intelligenz. Wir denken, dass sie einfach klüger wird – wie ein Tier. Wenn sie dann das niedrigste menschliche Niveau erreicht – Nick Bostrom verwendet den Begriff des „Dorf-Deppen“ –, werden wir sagen: „Oh, schau mal, es ist wie ein dümmlicher Mensch. Wie süß!!!“ Es ist nur so: Das Spektrum menschlicher Intelligenz, in dem sich alle Menschen wiederfinden, vom Dorf-Deppen bis zu Einstein, ist sehr, sehr schmal. Wenn es also gerade das Dorf-Deppen-Niveau erreicht hat und von uns als AKI erkannt wird, dann wird es plötzlich klüger als Einstein sein. Und wir wissen gar nicht, was uns geschieht:
Und was passiert…danach?

Eine Explosion der Intelligenz

Ich hoffe, dir hat die normale Zeit gefallen, denn wir sind in dem Augenblick angekommen, der unnormal und beängstigend wird – und daran wird sich im Weiteren auch nichts mehr verändern. Ich möchte in diesem Moment nochmal innehalten und dich daran erinnern, dass jedes einzelne Detail, von dem ich dir berichten werde, real ist – es handelt sich um reale Wissenschaft und reale Zukunftsprognosen von einer breiten Auswahl der angesehensten Denker und Wissenschaftler. Behalte das immer im Hinterkopf.
Wie schon gesagt, gehen die meisten Modelle für das Erreichen von AKI davon aus, dass wir KI entwickeln, die sich selbst verbessert. Sobald AKI erreicht ist, wären aber auch Systeme, die nicht auf diesem Weg entstanden sind, in der Lage und klug genug, sich zu verbessern – wenn sie dies wollten.3
Wir stoßen jetzt auf ein sehr herausforderndes Konzept: rekursive Selbst-Verbesserung. Und das läuft folgendermaßen:
Ein KI-System wird auf einer gewissen Stufe – sagen wir dem Dorf-Deppen-Niveau – programmiert, die Verbesserung seiner eigenen Intelligenz als Ziel anzustreben. Sobald ihm dies gelingt, wird es klüger – vielleicht erreicht es das Einstein-Niveau. Wenn es jetzt wieder daran arbeitet, seine Intelligenz zu steigern, mit dem Intellekt Einsteins, dann wird ihm dass leichter fallen und es kann größere Sprünge machen. Diese Sprünge werden es viel klüger als jeden Menschen machen und ihm erlauben, noch größere Sprünge zu machen. Wenn die Sprünge größer werden und häufiger stattfinden, dann sprintet die AKI in Richtung Superintelligenz eines KSI-Systems. Dies wird eine Intelligenz-Explosion genannt, Q11(This
3 Mehr zum Thema, was es für einen Computer bedeutet, etwas zu „wollen“, kommt noch im zweiten Teil des Artikels.
term was first used by one of history’s great AI thinkers, Irving John Good, in 1965.) und ist das ultimative Beispiel für das Gesetz der sich beschleunigenden Erträge.
Es gibt verschiedene Meinungen darüber, wann KI das allgemeine menschliche Niveau erreichen wird. Eine Umfrage unter hunderten von Wissenschaftlern hat ergeben, dass die Befragten im Median das Jahr 2040
Strategies, loc. 660) angeben, wenn man sie fragt, ab wann nach ihrer Einschätzung die Wahrscheinlichkeit für das Erreichen von AKI größer als 50 % ist. Das liegt nur 25 Jahre in der Zukunft und erscheint nicht sehr beeindruckend. Man muss aber bedenken, dass viele der Vordenker auf diesem Gebiet einen sehr schnellen Übergang von AKI zu KSI für wahrscheinlich halten. Und so könnte das ablaufen:
Es dauert Jahrzehnte bis das erste KI-System niedrige allgemeine Intelligenz erreicht, aber es wird schlussendlich passieren. Ein Computer wird seine Umwelt genauso gut verstehen können, wie ein 4-jähriges Kind. Plötzlich, noch in der ersten Stunde nach diesem Meilenstein, spuckt das System die große vereinheitlichte Theorie der Physik aus, die die allgemeine Relativität und die Quantenmechanik vereint. Etwas das bisher noch keinen Menschen endgültig gelungen ist. 90 Minuten danach ist die KI zu einer KSI geworden – 170.000-mal intelligenter als ein Mensch.
Superintelligenz dieser Größenordnung ist nicht etwas, dass wir auch nur ansatzweise begreifen können. Genauso wenig wie eine Hummel den Keynesianismus verstehen kann. In unserer Welt gilt ein IQ von 130 als klug und ein IQ von 85 als dumm – wir haben keine Vorstellung von einem IQ von 12.952.
Aber wir wissen, dass die menschliche Herrschaft auf der Erde eine klare Regel belegt: Intelligenz führt zu Macht. Das bedeutet, dass eine gegebenenfalls von uns geschaffene KSI das mächtigste Wesen in der Geschichte des Lebens auf der Erde wird. Und alle Lebewesen, einschließlich des Menschen, werden völlig ihren Launen ausgeliefert sein – und das könnte in den nächsten Jahrzehnten Realität werden.
Wenn unsere kümmerlichen Gehirne in der Lage sind, WLAN zu erfinden, dann wird Etwas, das hundertmal, tausendmal oder eine Milliarde Mal klüger ist, keine Probleme haben, die Position jedes Atoms jederzeit nach Gutdünken zu manipulieren. Jede Magie, alle Kräfte, die wir einem allwaltenden Gott zuschreiben, wäre für die KSI eine genauso alltägliche Aufgabe, wie es das Drücken des Lichtschalters für uns ist. Die Technologie um das menschliche Altern umzukehren, die Abschaffung von Krankheit, Hunger und Sterblichkeit, die Steuerung des Wetters um das Leben auf der Erde zu schützen – das alles wäre plötzlich möglich. Genauso wie das sofortige Ende allen irdischen Lebens. So weit uns das betrifft, betritt mit der Entstehung von KSI ein omnipotenter Gott die Erde – und die alles entscheidende Frage für uns wird sein:

Wird es ein freundlicher Gott sein?

Dieser zweite Teil ist der wichtigere Part der Serie, also bitte nicht jetzt und hier aufhören zu lesen.
Sondern jetzt auf den zweiten Teil klicken und ihn lesen!
.
[box type=“shadow“ ]Auf WaitButWhy.com erscheinen neue Art in unregelmäßigen Abständen. Du kannst neue Artikel per Email erhalten – wie über 215,000 andere Leser auch—gib deine Email-Adresse hier ein, und du bekommst einen Hinweis auf neue Artikel (auf Englisch) per Email automatisch. You can also follow WaitButWhy on Facebook and Twitter.[/box]

Toursprung – wieder eine Firma verkauft

Eines Tages schreibe ich ein Buch darüber, wie ich die Ideen für fast alle meine Firmen gefunden habe. Im Wesentlichen hat das nämlich immer nach dem gleichen Schema funktioniert.

Es gab ein Projekt oder eine Firma, und in diesem Zusammenhang musste ich eine Aufgabe lösen. Meistens war die Aufgabe irgendein Ablauf, der notwendig war, um das eigentliche Produkt der Firma zu erstellen, zu bewerben oder zu vertreiben.

Also zum Beispiel eine Dienstleistung, die wir intern für uns selbst erbringen mussten.

Das kann so etwas einfaches sein, wie Briefmarken auf Umschläge zu kleben.

Gäbe es diese Aufgabe in meiner Firma, müsste also jeden Tag ein Mitarbeiter ein paar Stunden lang Briefmarken auf Umschläge kleben, so würde ich mir Gedanken darüber machen, wie ich diese Kostenstelle in ein Profit-Center umgestalten könnte.

Oder anders gesagt: ich würde die Kostenstelle des Briefmarken-Aufklebens so lange von allen Seiten betrachten, bis ich dabei die Frankiermaschine erfunden hätte. Dann würde ich sie bauen, später verkaufen, und schon hätte ich eine Firma für Frankiermaschinen gegründet.

Statt für das Frankieren Löhne meiner Mitarbeiter zu bezahlen, würde ich nun also mit dem Verkauf der Frankiermaschinen Geld verdienen. Und meine eigene Frankiermaschine hätte ich obendrein gratis.

Die wirtschaftliche Tätigkeit ist also irgendwie dieselbe geblieben (bzw. genauer genommen ist sie auf eine neue Ebene gehoben worden), aber die Richtung des Geldflusses hat sich umgekehrt.

Zuvor floss das Geld von mir weg, und danach floss das Geld zu mir hin.

So oder so ähnlich habe ich mindestens ein Dutzend Mal eine Firma gegründet – oder wenigstens ein profitables neues Projekt begonnen.

Und in den Jahren 2007 und 2008 ist es mir nicht anders gegangen.

Im Jahr 2007 nämlich hatte ich überlegt, wie ich es mir ersparen kann, entlang von Radwegen für meine Fahrradreisen Werbung zu machen. Also andere Leute dafür zu bezahlen, dass ich dort meine potentiellen Kunden treffe.

Meine Tätigkeit war also das Werben, und es kostete mich Geld.

Dann stellte ich das Werben einfach auf eine höhere Ebene. Aus dem Werben wurde Werbung.

Oder anders gesagt: ich erfand die Webseite von Bikemap.

Heute ist Bikemap Europas größtes Radroutenportal. Und statt anderen dafür Geld zu bezahlen, dass sie mir Zugang zu meiner Zielgruppe ermöglichen, gehört mit heute diese Webseite, und ich verlange Geld dafür, dass ich anderen Zugang zu ihrer Zielgruppe verschaffe. Mein eigener Zugang zu meiner Zielgruppe ist für mich damit also nicht nur gratis geworden, sondern ich verdiene damit auch noch Geld.

Aus der ehemaligen Kostenstelle wurde also ein Profit-Center.

So entstand 2007 Bikemap.

Und mit Bikemap kamen neue Herausforderungen ins Haus. Also neue Kostenstellen.

Eine davon war, dass es im Jahr 2008 auf dem Markt keine wirklich gute und leistbare Lösung gab, wie man viele Hunderttausend Routen auf einer Karte im Browser abbilden kann, ohne dass dieser dabei abstürzt.

Das, und viele weitere kleine Herausforderungen, motivierten mich und mein Team, die Probleme der Online-Kartografie für uns selbst zu lösen.

Und es dauerte nicht lange, da tropften die ersten Anfragen ein von Betreibern anderer Webseiten mit touristischen Landkarten, ob wir ihnen nicht dabei helfen wollten, ihre ganz ähnlichen Probleme zu lösen.

Doch ich hatte und habe kein Interesse daran eine Firma zu besitzen, die als Agentur die Stunden ihrer Mitarbeiter verkauft.

Warum das?

Weil ich skalierbare Geschäftsmodelle spannender finde. Denn eine Stunde kann man immer nur einmal verkaufen. Ein Produkt aber (vor allem, wenn es digital ist) beliebig oft.

Darum lehnte ich diese Anfragen auch alle ab.

Bis eines Tages nicht nur ein kleiner, sondern ein großer Fisch an unsere Tür klopfte. Ein nationaler Tourismusverband hatte herausgefunden, dass wir solche kartografischen Probleme am besten gelöst hatten. Und auch er wollte, dass wir dieselben Probleme für ihn lösen.

An dieser Stelle dachte ich um.

Das Lösen von Problemen ist nämlich eine Kostenstelle. Und um diese Lösungen in ein Produkt zu verwandeln, haben wir das Maptoolkit erfunden. Das ist ein Paket von Schnittstellen, mit dem Betreiber von Webseiten alle möglichen kartografischen Lösungen elegant und sauber in ihre Webseiten und Apps einbinden können.

Also salopp gesagt etwas wie Google-Maps, nur speziell für den Tourismus.

Ab diesem Moment hatten wir mit dem Maptoolkit also ein Produkt, für das uns (unterdessen ziemlich viele) Firmen einen monatlichen Betrag bezahlen.

Aus meiner Kostenstelle ist mal wieder ein Produkt geworden.

So kam es, dass meine Firma Toursprung am Anfang nur Bikemap betrieben hatte. Später dann kam dann dieses Maptoolkit als zweites Produkt dazu.

Seit Januar 2015 ist Bikemap eine eigene Firma, die sich nur noch auf darauf konzentriert die gleichnamige Webseite besser und größer zu machen.

Und im Oktober 2015 habe ich konsequenter Weise die Firma Toursprung und ihr Maptoolkit verkauft.

Ich habe also mit Toursprung ab jetzt nichts mehr zu tun. Meine volle Aufmerksamkeit gilt nun wieder Bikemap, und ich hoffe auch dazu bald tolle Neuigkeiten verkünden zu können.

Du bist neugierig? Dann wirf einen Blick auf Bikemap Next.

 

Der Trick mit der Lifestyle-Arbitrage

Die meisten Menschen da draußen sind richtig gut darin, sich ihre eigenen Ideen schlecht zu rechnen. Und noch schlimmer, sie rechnen viel zu oft auch deine und meine Ideen schlecht. Und das dann auch noch ungefragt.

Ich habe mir in den 20 Jahren, die ich Unternehmer bin, längst angewöhnt das alles wegzulachen.

Wer sich auf mögliche Probleme konzentriert statt auf mögliche Chancen, der kommt nie aus seinem Sessel raus. Und auch nicht aus seinem Hamsterrad.

Es darf ja jeder für sich selbst entscheiden, wo er gerne ist und wo er hin will.

Aber mal ehrlich: willst du eher mehr Hamsterrad oder mehr Freiheit in deinem Leben haben?

Das Schiff ist nicht für den Hafen gebaut

Die meisten von uns haben längst viel zu viel Talent darin, sich ihre eigenen Ideen kleiner zu machen statt größer. Darum schreibe ich auf diesem Blog auch nur darüber, wie ich meinen Optimismus groß mache und nicht meinen kritischen Realismus.

Klar kann ich rechnen. Sonst hätte ich nicht so viele Dinge auf profitable Beine stellen können. Ich weiß Risiken abzuschätzen, und ich schütze auch all das gut, was ich mir bisher erarbeitet habe.

Aber ich bin als Unternehmer nicht deswegen erfolgreich, weil ich Risiken erkennen kann, sondern weil ich Chancen ergreife (und Probleme erst dann löse, wenn sie auftreten).

Doch wie passt dieser Prolog nun zum Titel des Beitrags?

In meinem Artikel darüber, wie ich 150.000 Euro in drei Stunden verdient habe, schrieb ich, wie ich nach über zwei Jahren Vormirherschiebens eine Geschäftsidee endlich umgesetzt habe, nachdem ich sie mir einfach nur ganz groß gerechnet habe.

Und heute verrate ich dir einen weiteren Trick, wie du endlich in die Gänge kommen kannst mit deiner Idee, die du nur in deinem Kopf hast und noch nicht in deiner Tat.

Was ist Lifestlye-Arbitrage?

Im oben genannten Artikel habe ich gezeigt, wie ich vor meinem inneren Auge aus einer kleinen Geschäftsidee eine scheinbar große Geschäftsidee gemacht habe. Statt auf den täglichen Gewinn von 30 Euro zu schauen, den diese Idee abwerfen würde, habe ich sie wie ein Unternehmen gesehen und ihren Unternehmenswert berechnet. Plötzlich sah ich nicht länger 30 Euro Einnahmen pro Tag, sondern einen Vermögenswert von 150.000 Euro vor mir – mit dem Ergebnis, dass ich mich sofort an die Arbeit gemacht habe, statt die Sache noch länger vor mir her zu schieben.

Es ging also um Motivation.

Und mit dem Trick der Lifestyle-Arbitrage kann ich meine Motivation noch weiter erhöhen.

Denn am Ende kann ich die 30 Euro, die meine Idee am Tag abwirft, nicht essen. Weder in Münzen noch in Scheinen macht Geld satt oder glücklich.

Das einzige, was zählt, ist das, was man mit dem Geld tut

Und hier kommt es plötzlich ganz stark darauf an, wo du bist.

Wenn du in Berlin wohnst und dabei nicht wirklich auf den Putz haust, dann brauchst du 3.000 Euro im Monat. Oder anders gesagt kostet dich ein durchschnittlicher Tag 100 Euro. Oder 150 Euro in München.

Wenn du aber dem deutschen Winter entfliehen willst, deine Wohnung für 6 Monate vermietest und stattdessen ein halbes Jahr im warmen und schönen Ubud auf Bali lebst, dann brauchst du dort maximal 30 Euro am Tag.

Und wenn du stattdessen im quirligen Bangalore in Indien bist, dann brauchst du selbst davon nur die Hälfte.

Eine typische kleine Villa in Ubud
Eine typische kleine Villa in Ubud

Und zwar nicht etwa, weil du in einem billigen Hostel rumhängst, so wie damals bei deiner Rucksackreise. Sondern vielmehr rede ich davon, dass du dir eine Wohnung mietest, vielleicht sogar keine kleine Villa. Mit Housekeeping und allem drum und dran. Und vor allem mit großartigem Wetter und vielen anderen digitalen Nomaden in der Umgebung, die es dir gleichtun, und die sich zum Arbeiten sogar in einem Coworking-Space um die Ecke treffen.

Und was ist jetzt endlich diese Lifestlye-Arbitrage?

Ok, jetzt komme ich zum Punkt. Sie ist der Vorteil, den du dir erarbeitest, wenn du dein Geld nach wie vor im relativ teuren Deutschland verdienst, dabei aber in einem billigen (und schönen) anderen Land lebst.

Du nutzt also den Hebel aus Lohnniveau und Lebenshaltungskosten, wenn jedes an einem anderen Orten stattfindet.

Denn du bekommst in Bangalore zehn Mal so viel Gegenwert für deine Arbeit wie in München. Oder in Ubud drei Mal so viel wie in Berlin. Oder irgendwas dazwischen.

Und wenn du über ein digitales Produkt nachdenkst, das dir ein passives Einkommen verschafft, dann erlaube dir doch einfach mal mehrere Monate lang den Ort zu wechseln. Denn du hast es dir sprichwörtlich verdient, dass du nun ortsunabhängig leben kannst.

Oder wenn du programmiert, oder von Immobilien lebst, oder Übersetzerin bist, oder vom Schreiben lebst… oder was auch immer du tust. Die meisten von uns sind sich nicht mal ansatzweise bewusst, wie sehr die Möglichkeiten gestiegen sind in den letzten Jahren, dass die Arbeit auch von einem komplett anderen Ort aus erledigt werden kann.

Frage dich doch mal ganz ehrlich (und deinen Chef gleich mit), ob du wirklich für deine Präsenz an einem bestimmten Ort bezahlt wirst, oder nicht doch etwa für das Ergebnis deiner Arbeit?

Was, wenn du auf Bali zwar nur 80% so produktiv bist, aber zugleich 300% des Geldwertes erhältst?

Die 80% von 300% sind noch immer das 2,4-fache von zuhause. Plus Sonne!

Meine kleine Immobilientabelle, von der ich im genannten Artikel geschrieben habe, wirft zwischen 30 und 60 Euro am Tag ab. Davon werde ich weder reich, noch ändert sich mein Lebensstil dadurch.

2014-12-21_03_40_07
Mein Büro in Ubud im Dezember 2014. Mit Badewanne!

Aber wäre ich ein digitaler Nomade und hätte sonst kein Einkommen, so könnte ich alleine davon mein Leben auf Bali finanzieren. Und ich kenne Bali und bin dort oft – es ist ein gutes Leben!

Oder wäre ich wie Shirine Taylor, die ich sehr bewundere, so könnte ich davon für den Rest meines Lebens auf Reisen sein. Sie braucht gerade mal 5 Dollar am Tag für ein Leben, das bestimmt alles in den Schatten stellt, was du und ich gerade erleben.

Problem oder Chance?

Bei meinen Gesprächen mit Freunden stelle ich immer wieder fest, dass viele dazu tendieren, überall zuerst die Probleme zu sehen statt die Chancen.

Sie würden sich also denken: „Aber ich will doch gar nicht wie Shirine für den Rest meines Lebens mit dem Rad um die Welt fahren.“

Und was mache ich? Ich lache das weg.

Denn es ist ein Fokus auf Probleme statt auf Chancen.

Natürlich wird auch Shirine nicht ihr ganzes Leben lang auf Achse sein. Aber während du nach Gründen suchst, warum du dich nicht mir ihr vergleichen kannst, lebt sie ihr Abenteuer. Und du?

Die Chance liegt darin, dass du mit der hier gezeigten Sichtweise dieses kleine Extra an Motivation aufbringst, das dich vielleicht gerade noch davon trennt, deiner eigenen Idee zu folgen und selbst etwas auf die Beine zustellen.

Schaue also nicht nur auf die 30 Euro am Tag, die dir deine Idee vielleicht irgendwann mal einbringen könnte. Denn es macht keinen gefühlten Unterschied für dich, ob das einen Tag früher oder später beginnt… oder zwei… oder ganz viele.

Der Mehrwert überwindet den Schweinehund

Male dir stattdessen einfach mal aus, welchen Mehrwert du dir erschaffen könntest, wenn du statt 30 Euro am Tag zu verdienen, plötzlich ein kostenfreies Leben in Ubud führen würdest.

Wenn dich deine Idee bis jetzt noch nicht genug angezogen hat, um sie in die Tat umzusetzen, dann versuche einfach folgendes:

Multipliziere deine Geschäftsidee mit dem Faktor der Lifestyle-Arbitrage. Und plötzlich werden zwei Dinge passieren:

Erstens: der Wert deiner Idee vergrößert sich um den Faktor zehn

Zweitens: aus abstraktem Geld wird ein spürbares Lebensgefühl

Nutze den Rückenwind

Mache deine Idee also groß genug, damit sie dich anzieht. Dann wird aus Pull plötzlich Push, du wirst gezogen statt zu ziehen, und du bekommst diesen Rückenwind, mit dem plötzlich alles ganz leicht wird.

Überzeugt? Lass mich wissen, was du darüber denkst. Am besten hier in den Kommentaren.

PS: Diesen Artikel habe ich übrigens in meinem Lieblingscafé in Yarraville geschrieben. Einem quirligen kleinen Vorort von Melbourne in Australien. Nachdem ich gerade ein Wochenende in Neuseeland war und am kommenden Wochenende hier in den Bergen Mountainbiken gehen werde. Mit Rückenwind!

PPS: Du willst wissen, wie teuer das Leben an einem anderen Ort ist? Und wie warm das Wetter? Und wie schnell das Internet? Dann schnell ab zu nomadlist.io.

Als Unternehmer gratis Business fliegen

In meinem vorigen Artikel habe ich darüber geschrieben, warum du als Gründer auch dann noch Economy fliegen solltest, selbst wenn dir deine Firma schon einen Business-Flug bezahlen könnte.

Trotzdem fliege ich auf langen Strecken fast immer Business.

Ist das ein Widerspruch?

Nein!

Denn ich kenne einen Trick, wie man die Upgrades von Economy zu Business gratis bekommen kann. Und ich werde ihn dir nun verraten.

Wie fast alle Unternehmer, die ich kenne, habe auch ich nämlich die Mastercard „Lufthansa Miles & More Gold“. Und ich bezahle mit ihr, so oft es geht.

Denn für jeden Euro Umsatz, den ich darüber mache, bekomme ich eine Meile gutgeschrieben im Bonus-Programm der Lufthansa (und damit indirekt auch bei allen Airlines der Star-Alliance).

Mit der Kreditkarte bezahle ich also meine privaten Ausgaben an der Kasse vom Supermarkt, an der Tankstelle und im Restaurant. Das alleine rockt jedoch noch nicht.

Richtig gut wird es erst, wenn ich über die Kreditkarten zusätzlich so viele Firmenausgaben laufen lasse, wie es nur geht. Dann kommen pro Jahr schnell mehr als 100.000 Euro Umsatz zusammen – und damit auch über 100.000 Prämien-Meilen. Ich habe sogar schon mal einen gebrauchten Mercedes Sprinter für eine meiner Firmen mit dieser Kreditkarte bezahlen können.

Und damit das buchhalterisch keine Arbeit macht, habe ich mit eine kostenlose Partner-Karte (auf meinen Namen) ausstellen lassen, die dann direkt vom Firmenkonto abbucht. Damit spare ich mir die Arbeit Bar-Auslagen durch die Firma erstatten zu müssen.

Es ist zwar eine kleine Wissenschaft für sich, wie man für solche Meilen den besten Wert erzielen kann. Doch das interessiert mich kaum. Denn schließlich werden diese Meilen hauptsächlich durch Firmenausgaben gespeist. Und so wären der Rotwein oder die Reisetasche, die ich damit beim World-Shop kaufen würde, am Ende ein Steuerbetrug. Warum? Weil die Kosten in der Firma stecken, der Mehrwert aber – dann steuerfrei – an mich gelange würde.

Darum kaufe ich ich mit meinen Meilen nur Flüge (oder Upgrades für Flüge), die ich dann für Geschäftsreisen nutze. Damit bezahlt die Firma indirekt die Meilen, und der Nutzen geht formal auch an die Firma. So passt das steuerlich.

Und den besten „Return pro Meile“ bekommt man sowieso bei Flügen. Vor allem bei der Lufthansa, und zwar vor allem bei den Sonderangebot auf meilenschnaeppchen.de.

Diesen Artikel schreibe ich zum Beispiel gerade aus Thailand. Und zwar von der Dachterrasse im 38-sten Stock meines Hotels in Bangkok. Bei 32 Grad, während in Deutschland kalter Regen fällt.

bangkok

Auch du könntest gerade von hier aus arbeiten, denn den passenden Flug in der Business-Klasse gibt es zurzeit für gerade mal 70.000 Meilen.

Miles___More_Meilenschnäppchen

Und solche Angebote gibt es immer wieder.

Im Moment (und noch bis zum 31. Dezember 2014) gibt es eine besondere Aktion für diese Kreditkarte. Nämlich bekommst du 10.000 Prämien-Meilen geschenkt, wenn du sie jetzt abschließt (und der Vollständigkeit halber: ich bekomme 15.000 Meilen, wenn du mich dabei als deinen Werber nennst).

Erhalte_ich_eine_Prämie_oder_Meilen_für_die_Werbung_eines_Neukunden_

Auf diese Art habe ich selbst vor etwa acht Jahren diese Kreditkarte bekommen (und ein befreundeter Unternehmer in Friedrichshafen hat dafür Meilen erhalten – ich danke ihm bis heute dafür).

Mit dieser Aktion könntest du also ab sofort für jeden Euro eine Prämien-Meile sammeln. Und du würdest nicht bei Null Meilen beginnen, sondern bei 10.000 Meilen.

Diese 10.000 Meilen sind übrigens auch schon der Gegenwert für diverse Flüge.

Miles___More_Meilenschnäppchen 2

Wenn du dir also jetzt eine solche Kreditkarte zulegen möchtest, dann kannst sie hier beantragen.

Und wenn du mich dabei als dein Werber einträgst, dann würde ich mich sehr freuen. Natürlich kannst du die Karte auch bekommen, ohne mich zu nennen.

Falls du mich nennen willst, dann schreibe mir einfach ein Email an peter@seriengrueder.de, und ich antworte dir mit meiner 15-stelligen Nummer, die du dort eintragen kannst.

Hier nochmal zusammengefasst alle Tipps:

  • Du kannst die Karte hier beantragen
  • Ich habe die Gold Business.
  • Die Karte kostet eine jährliche Grundgebühr zwischen 0 und 110 Euro (abhängig davon, welchen Vielfliegerstatus du hast)
  • Darin enthalten sind zB die Vollkasko-Versicherung für Mietwagen. Allein dadurch spare ich mir schnell die Grundgebühr, weil ich sie nie mehr separat abschließen muss.
  • Ich habe mir (später mal) eine kostenlose Partnerkarte zugelegt, die vom Geschäftskonto abbucht. Das spart Arbeit beim Zuordnen der Belege, vor allem bei wiederkehrenden Ausgaben wie Servermiete etc.

PS: Eine ähnliche Aktion gab es übrigens vor einem halben Jahr schonmal. Damals habe ich auf meinem privaten Blog darüber geschrieben, und über 10 Leser sammeln seit dem damit genau so ihre Prämien-Meilen, wie ich es tue.

Update am 13.12.2014: Eben stolpere ich über eine weitere Möglichkeit, wie man als Unternehmer Meilen sammeln kann. Oder genauer: bis eben konnte. Nämlich indem man die (oft beträchtlichen) Kosten für Google-Adwords über seine Kreditkarte bezahlte. Ich kenne einige Firmen, die 6- und 7-stellige Beträge pro Jahr an Google bezahlen. Da fliegt man dann wirklich nur noch Business. Hier der Artikel darüber, dass Google-Adwords leider nicht mehr per Kreditkarte bezahlt werden kann. Der Artikel lautet passender Weise: „Goodbye Frequent Flyer Miles“ ;)

Mehr Geld verdienen durch weniger Gehalt

Als Gründer deines Unternehmens kannst du vermutlich dein Gehalt selbst bestimmen. Du kannst viele deiner Reisen von deinem Unternehmen bezahlen lassen. Du kannst selbst entscheiden, ob du dabei Economy oder Business fliegst. Außerdem bezahlt dir deine Firma vielleicht auch dein MacBook, dein iPhone und deinen schnellen Audi samt Sprit. Und auch das eine oder andere teure Abendessen.

Du kannst also einen wirklich relevanten Teil deiner privaten Ausgaben in die Firma verlagern.

Dann wirst du trotz teurerem Lebensstil weniger Geld ausgeben. Und gleichzeitig kannst du selbst entscheiden, wie hoch dein monatliches Gehalt sein soll.

Wenn du also willst, dann bleibt ab sofort richtig was hängen.

Das klingt gut, oder?

Dennoch rate ich dir genau Gegenteil davon zu tun!

Denn als Gründer deiner Firma bist du auch ihr Inhaber. Entweder ganz oder zum Teil. Dir gehört der Laden, und der Laden ist nun ein Teil deines Vermögens.

Und als Gründer bist du in mindestens einer Sache gut: du kannst gründen. Vielleicht ist das sogar, was du am besten kannst.

Du hattest eine Idee. Oder vermutlich sogar schon immer ganz viele Ideen, aber diese eine, die hast du endlich in die Tat umgesetzt, und es ist deine Firma daraus entstanden.

Nun wächst der Laden, es bleibt sogar finanziell etwas hängen. Du hattest Recht, du hast es allen Nörglern und Zweiflern gezeigt, und rechnet sich das endlich.

Was liegt da näher, als diesen Gewinn dazu zu verwenden dir statt einem gebrachten Passat nun einen neuen Audi S6 in den Hof zu stellen – und damit zwei Sekunden früher auf der linken Spur zu sein. Oder statt unbequem acht Stunden lang in der Economy zu sitzen, lieber lässig ein paar Meter weiter vorne zu liegen, wo der Flug zwar 2.000 Euro teurer ist, du aber bequemer schläfst – und in dieser einen Nacht ein Monatsgehalt deines günstigsten Mitarbeiters verschläfst. Schließlich hast du es dir verdient, und nun kannst du es dir auch leisten. Oder?

Ich kenne diese Versuchung. Und ich weiß, dass sie dich viel mehr Geld kosten kann, als du glaubst.

So lange du nämlich nicht ausschließen kannst, deine Firma in den kommenden 5 Jahren zu verkaufen, so lange solltest du diese Party noch nicht feiern. Bleibe lieber bei deinem Passat und sei dir nicht zu schade für die Economy.

Und jetzt zeige ich dir, warum das so ist.

Nehmen wir an, du überlegst, ob du dein eigenes Gehalt um 1.000 Euro erhöhen sollst. Schließlich laufen deine Geschäfte gut, und einige deiner besten Freunde verdienen ja schon seit ein paar Jahren als Angestellte viel mehr als du. Du könntest glauben die Zeit wäre reif hier endlich aufzuschließen.

Je nachdem, ob du angestellter oder selbstständiger Geschäftsführer deiner Firma bist, kosten diese 1.000 Euro deine eigene Firma entweder 1.500 oder 2.000 Euro pro Monat. Arbeitgeberbrutto heißt das eine Stichwort. Und auf der anderen Seite musst du diesen Betrag privat versteuern. Arbeitnehmernetto heißt das andere Stichwort.

Will sagen, die Firma bezahlt etwa das Doppelte von dem, was am Ende in deiner Tasche wirklich hängen bleibt.

Doch das wichtige Argument gegen ein höheres Gehalt ist noch ein anderer Punkt.

Sagen wir in zwei Jahren kommt dieser Typ daher und will dir deinen Laden abkaufen. Dein Cash-Day naht.

Dann passieren zwei Dinge.

Erstens schaut sich der Käufer die letzten Jahre deiner Firma an. Und zwar indem er die Bilanzen liest. Dabei schaut er zuerst rechts unten auf den Jahresgewinn. Das ist genau, wo deine Gehaltserhöhung eine Lücke hinterlassen hat.

Danach passiert eine ganze Weile lang nichts.

Und erst später kommt es zu einer Due Diligence, also einer genaueren Analyse aller Daten deiner Firma. Die wird vermutlich nicht von der Person durchgeführt, die die Entscheidung über den Kauf deiner Firma trifft (und heimlich längst getroffen hat). Sondern von den Personen dahinter, die dafür sorgen, dass keine Fehler passieren. Die also dafür da sind, den Job des eigentlichen Entscheiders zu sichern durch Argumente für seine Entscheidung, die er längst intuitiv gefällt hat und nun noch betriebswirtschaftlich als die richtige Entscheidung darstellen muss.

Erst an dieser Stelle wird das, was dein Gehalt beim Jahresgewinn als Lücke hinterlassen hat, als Aufwendungen für die Geschäftsführung gegengerechnet. Und mit etwas Glück kannst du an dieser Stelle argumentieren, dass nach dem Verkauf der Firma der dann neue Geschäftsführer freilich auch mit weniger Gehalt zufrieden sein könnte. Schließlich war dein hohes Gehalt ja nicht nur die Bezahlung deines Jobs, sondern irgendwie auch sowas wie eine Belohnung für den Gewinn im letzten Jahr.

Merkst du was? Das alles passiert nur im allerbesten Fall. Und selbst wenn dir jemand diese Argumente abnimmt, dann passiert dies alles erst nachdem der Käufer sich seine Meinung längst gebildet hat.

Ich weiß an dieser Stelle genau, wovon ich spreche. Mir ist das mehrfach so passiert. Und zwar auf beiden Seiten des Tisches – sowohl als Verkäufer einer Firma wie auch als Investor.

Die eigene Meinung des Käufers, also die heimliche Bewertung deiner Firma, die entsteht viel früher als du denkst. Und wenn sie erst mal steht, dann nützen alle deine Argumente nichts mehr.

Und bis jetzt haben wir nur über dein Gehalt gesprochen. Also das, was in der Bilanz leicht erkennbar unter Aufwendungen für die Geschäftsführung zu finden ist.

Doch deine teuren Abendessen, die möglicherweise nur mit einem zugekniffenen Auge als Geschäftsessen durchgehen, die findest du in der Bilanz nur noch an einer einzigen Stelle wieder: beim fehlenden Gewinn.

Ebenso dein Auto, deine teuren Reisen, dein Hang zum immer neuesten iPhone, und all die Ausgaben, die wie von Zauberhand so günstig erschienen waren, weil sie dir Firma für dich bezahlt hatte.

Sie reißen eine Lücke in die Bilanz, die du dem Käufer deiner Firma auch mit Engelszungen nicht mehr erklären kannst.

Der Unterschied zwischen dem Gewinn, den deine Firma tatsächlich gemacht hat und dem, was sie „eigentlich“ hätte machen können – diesen Unterschied wirst du dem Käufer deiner Firma niemals erklären können.

Und die Folge daraus?

Die 1.000 Euro mehr Gehalt auf deinem Konto haben deine Firma pro Monat 2.000 Euro gekostet. Das sind pro Jahr knapp 25.000 Euro weniger Gewinn.

Und wenn du deine Firma gut verkaufen kannst, dann ist sie für den Käufer mehr als nur eine reine Geldanlage.

Ein guter Verkauf einer Firma beinhaltet nämlich nicht nur deren Vergangenheit, sondern vor allem deren Zukunft.

Wäre es nur die Vergangenheit, so würde dir der Käufer den 5- bis 7-fachen Jahresgewinn für deine Firma bezahlen.

Also für zwei Jahre lang monatlich 1.000 Euro mehr auf deinem privaten Konto, bekommst du nun zwischen 5 bis 7 mal 25.000 Euro weniger für deine Firma.

In anderen Worten: für 1.000 Euro mehr Gehalt im Monat verlierst du zwischen 100.000 und 150.000 Euro Firmenwert.

Und das war nur der Fall einer rückwärts gerichteten Firmenbewertung.

Wenn der Käufer in deiner Firma ein Potential sieht, das nur durch den Verkauf zustande kommt, dann hast du ein großes Glück. Denn die Bewertung deiner Firma liegt dann beim 10- oder 20-fachen des Jahresgewinn.

Für 1.000 Euro mehr an Gehalt verlierst du dann schon eine viertel oder eine halbe Million Euro.

Oder anders gesagt: selbst diese eine Reise, die du Business statt Economy geflogen bist, kostet dich dann am Zahltag zwischen 20.000 und 40.000 Euro.

Und selbst das jährlich neue iPhone bedeutet nun, dass du 20.000 Euro weniger für deine Firma bekommst.

Darum solltest du auch dann sparsam bleiben, wenn deine Firma profitabel wird. Denn es rechnet sich am Ende um so mehr.

Ich wünschte, mir hätte das jemand damals schon gesagt ;)

 

Wie ich 150.000 Euro in drei Stunden verdient habe

Letzte Woche saß ich in einem Café in Wien und habe dort in drei Stunden 150.000 Euro verdient.

Kaum zu glauben, oder? Aber es stimmt. Irgendwie jedenfalls. Und vermutlich war das der beste Stundenlohn meines Lebens.

Zwei Jahre lang hatte ich es vor mir her geschoben, und um ein Haar hätte ich es auch letzte Woche nicht umgesetzt. Aber dann ist mir diese Idee von der Fliege und dem Elefanten gekommen.

Daraufhin habe ich mich ins Café gesetzt und drei Stunden lang gearbeitet, und am Ende war ich 150.000 Euro reicher.

Was habe ich getan?

Der Trick war: Ich habe aus einer Fliege einen Elefanten gemacht.

Oder in einem Satz gesagt, habe ich eine Nische im Web gefunden, mit der ich pro Tag 30 Euro Einnahmen generiere.

Das klingt erstmal wenig spannend, vor allem dann nicht, wenn man schon so viel Geld hat, dass 30 Euro pro Tag keinen fühlbaren Unterschied mehr machen.

Und genau das war mein Problem. Für mich sind 30 Euro pro Tag nur eine Fliege. Und wegen einer Fliege arbeite ich nicht drei Stunden lang. Darum habe ich diese Idee auch zwei Jahre lang vor mir her geschoben. Sie stand dauernd auf meiner To-Do-Liste, und jedes Mal, wenn ich an sie dachte, fühlte ich mich schlecht. Ich konnte nämlich weder beschließen, sie endlich umzusetzen, noch konnte beschließen es nicht zu tun.

Doch jetzt der Reihe nach, um was es überhaupt geht.

Ich besitze Immobilien. Und ich kaufe immer wieder mal Wohnungen oder Häuser. Und über meine (guten) Erfahrungen darüber habe ich einige Artikel auf meinem privaten Blog bodenseepeter.de geschrieben. Hier ist der Link zu meinem wichtigsten Artikel zu Rendite-Immobilien.

Kurz gesagt habe ich im besten Fall eine kleine Wohnung für 50.000 Euro gekauft, die ich zu 400 Euro pro Monat an einen Studenten vermiete. Den Kaufpreis habe ich mir von der Bank geliehen, und die Konditionen werden sich 15 Jahre lang nicht ändern. Für Zinsen bezahle ich pro Monat 150 Euro.  Mit den verbleibenden 250 Euro tilge ich den Kredit. Und nach 15 Jahren werde ich die gesamte Immobilie zurückbezahlt haben. Ohne eigenes Geld dafür ausgegeben zu haben. Tschakka!

Das ist jetzt verkürzt dargestellt, und die lange Version steht in dem Artikel über Rendite-Immobilien.

Ich habe eine ganze Menge Immobilien, und auf jede Wohnung oder jedes Haus, das ich kaufe, kommen eine Vielzahl von weiteren Immobilien, die ich mir genauer anschaue, und die ich dann doch nicht kaufe.

Diese Selektion kostet mich Zeit, und daher habe ich mir Hilfsmittel gebastelt, die mir helfen solche Entscheidungen schneller zu treffen.

Das wichtigste Hilfsmittel ist meine Excel-Tabelle zur Berechnung der Rendite einer Immobilie. In ihre Erstellung habe ich viel Zeit und Know-How investiert, von mir selbst, von meinem Steuerberater und auch von Freunden, die ebenfalls viel Erfahrung mit Immobilien haben.

Und seit ich diese Artikel auf meinem Blog online habe (also seit zwei Jahren), bekomme ich etwa einmal pro Woche ein Email von einem Leser, der mich fragt, ob er diese Tabelle auch benutzen dürfe.

Bislang habe ich die Tabelle nie verschickt. Denn ich dachte mir schon immer: ich kann sie ja verkaufen.

Schließlich ist da gerade jemand (dieser Leser), der vermutlich kurz davor steht, sich seine erste Wohnung zu kaufen. Also vermutlich zum ersten Mal in seinem Leben eine so teure (und auch lukrative) Entscheidung zu treffen. Also die teuerste Unterschrift seines bisherigen Lebens zu leisten.

Das ist eine Situation, in der man schon ein wenig Angst davor haben kann einen Fehler zu machen.

Und in genau diesem Moment liest dieser Typ also meinen Artikel, in dem ich von meiner Tabelle erzähle, die mir hilft meine Entscheidungen richtig zu treffen.

Will sagen: da hat jemand gerade ein Bedürfnis, und ich habe die Lösung in Form einer Excel-Tabelle.

Meine Idee war also, dass ich zu dieser Tabelle eine kleine Anleitung schreiben würde, wie man sie richtig benutzt, und sie dann zusammen mit der Anleitung am Ende dieses Artikels zum Kauf anbiete.

Weil meine Immobilien-Artikel bei Google ganz gut unter dem Suchbegriff „Rendite-Immobilien“ verlinkt sind, lesen ihn pro Tag etwa 50 Leute von der ersten bis zur letzten Zeile und bleiben dabei etwa 8 Minuten lang auf der Seite. Das ist ein nettes Grundrauschen (das übrigens von Monat zu Monat etwas mehr wird).

Ich dachte mir, wenn nur jeder 50-ste Leser am Ende die Tabelle kauft, dann ist das ein Käufer pro Tag. Oder 365 Käufer im Jahr.

Jedoch war mir völlig unklar, was so eine Tabelle kosten darf.

Einerseits habe ich die Tabelle ja bereits. Durch ihren Verkauf entstehen mir keine neuen Kosten. Sie ist ja nicht wie das Brot vom Bäcker: will er zwei davon verkaufen, muss er doppelt so lange in der Backstube stehen. Bei einem digitalen Produkt, das zum Download bereit steht, ist das anders. Es ist nahezu beliebig skalierbar. Also mit dem gleichen Aufwand, wie ich eines davon verkaufe, kann ich auch 100.000 Stück davon verkaufen.

Andererseits entsteht beim Käufer ein großer Mehrwert. Ich erwische ihn just in dem Moment, wo er ernsthaft überlegt eine der „teuersten“ und auch besten Entscheidungen seines Lebens zu treffen. Nämlich die erste Investition in eine Immobilie mit dem Ziel des passiven Einkommens und der finanziellen Freiheit. Und weil es seine erste solche Immobilie ist, besteht auf seiner Seite noch Unsicherheit ob des großen Geldbetrages, den er steuern wird. Und weil ich ihm dabei wirklich helfen kann, entsteht bei ihm ein Mehrwert von beachtlicher Größe.

Konkret war ich mit der Preisfindung überfordert fand ich die Preisfindung extrem spannend. Soll eine Tabelle also 2 Euro kosten? Das ist so viel wie ein günstiges E-Book. Obwohl sie aber viel „kleiner“ ist? Oder darf sie sogar so teuer sein wie eine Stunde Coaching von einem erfahrenen Immobilien-Investor? Also mehrere Hundert Euro?

Bemisst sich der Verkaufspreis an den Herstellungskosten des Produzenten oder am Mehrwert für den Käufer?

Ich habe mich – das steht ja oben schon – für 39 Euro entschieden. Abzüglich Umsatzsteuer und Transaktionsgebühren bleiben dann 30 Euro für mich.

Und jetzt kommt die Geschichte mit der Fliege und dem Elefanten.

Ich dachte also daran, dass ich zusätzliche 30 Euro pro Tag verdienen könnte. Das allerdings motivierte mich so wenig, dass ich die Idee zwei Jahre lang auf der Seite liegen ließ.

Doch nach einem Vortrag über Unternehmensgründung, den ich an einer Uni hielt, überlegte ich mir auf der Heimfahrt, was ich eigentlich zu einem Studenten sagen würde, der an meiner Stelle stehen würde.

Und ich hätte ihm gesagt, dass er statt einer Fliege einen Elefanten darin sehen solle.

Diese Tabelle online zum Verkauf zu stellen, das ist nichts anderes als eine Investition mit anschließender Rendite. Ich investiere drei weitere Stunden, und die Rendite beträgt pro Tag 30 Euro.

Das mit dem Elefanten erkläre ich an drei anderen Investitionen:

Die erste Investition ist eine Firma. Wenn du eine Firma gegründet hast und später mal verkaufst, denn bekommst du vom Käufer dafür Geld. Meistens eine ganze Menge. Und der Betrag bemisst sich vor allem an drei Faktoren:

  1. Wie viel Gewinn machte die Firme in den vergangenen Jahren durchschnittlich?
  2. Wie viel Gewinn wird die Firma in Zukunft machen können?
  3. Gibt es nur einen Kauf-Interessenten oder mehrere?

Das ist freilich grob vereinfacht. Aber selbst die langweiligste Firma wird in der Regel für den 7-fachen Jahresgewinn verkauft. So dass sich der Käufer ausmalen kann, dass er nach 7 Jahren sein Geld wieder zurück hat und nach dem 8-ten Jahr einen echten Cashflow bekommt.

Und wenn 2. und 3. eine Rolle spielen, dann geht der Kaufpreis in noch sehr viel größere Höhen.

Aber den 7-fachen Jahresgewinn bekommt man fast immer. Denn anders ausgedrückt bedeuten 7 Jahre für den Käufer eine Verzinsung von 100/7 Prozent, also etwa 14 Prozent. Das ist viel mehr als wenn der Käufer das Geld auf die Bank trägt und dort nicht mal ein Zehntel dieses Zinses bekommt.

Bedenke, dass dies die rechnerische Verzinsung ist, die der Käufer einer Firma bekommt. Also nicht der Gründer und Verkäufer der Firma. Dieser müsste sein erhaltenes Geld dann besser (!) anlegen, um unterm Strich durch den Verkauf zu profitieren. Darum werden Firmen in der Regel auch nur verkauft, wenn sich ein deutlich höherer Wert erzielen lässt.

Die zweite mögliche Investition sind Aktien. Eine Art den Wert von Aktien zu berechnen ist das Kurs-Gewinn-Verhältnis (KGV). Das ist im Prinzip nichts anderes als die Frage wie bei der Firma, nämlich nach wie vielen Jahren man sein investiertes Geld wieder zurück haben wird. Wenn die Aktie einer Firma 50 Euro kostet und die Firma im letzten Geschäftsjahr 4 Euro Gewinn pro Aktie gemacht hat, dann ist das KGV 50/4, also 12,5. Es dauert also 12,5 Jahre, bis das investierte Geld wieder drin ist (immer vorausgesetzt alles läuft geradeaus weiter). Wenn es 12,5 Jahre dauert, dann entspricht das einer Verzinsung von 100/12,5 = 8 Prozent.

Die dritte mögliche Investition ist eine Immobilie. Auch hier lässt sich der Wert der Investition aus derselben Perspektive beurteilen. Wenn ich eine Wohnung für 70.000 Euro kaufe und damit 300 Euro pro Monat einnehme, dann sind das 3.600 Euro im Jahr. Ich brauche also 70.000/3.600 = 19,4 Jahre, bis sich die Investition auszahlt. Und das entspricht einer Verzinsung von 5,1 Prozent.

Ich fasse diese drei Beispiele zusammen:

  • Investition in Firma entspricht Verzinsung von 14%.
    Oder ihren 7-fachen Jahresgewinn.
  • Investition in Aktien entspricht Verzinsung von 8%.
    Oder ihren 12-fachen Jahresgewinn.
  • Investition in Immobilie entspricht Verzinsung von 5%.
    Oder ihren 20-fachen Jahresgewinn.

Firmen, Aktien und Immobilien sind Vermögenswerte. Und jeder dieser Vermögenswerte hat eine Rendite, also das, was am Jahresende übrig bleibt. Und wenn du das ins Verhältnis zum Anschaffungspreis setzt, dann bekommst du die Verzinsung deiner Investition.

Der Vollständigkeit halber sei noch erwähnt, was passiert, wenn du nicht investierst, sondern dein Geld auf der Bank liegen lässt.

  • „Investition“ in Bankkonto entspricht Verzinsung von 1%

Und weil das schon jetzt mein längster Blogpost geworden ist, versuche ich endlich die Kurve zu kriegen. Nämlich von der Fliege zum Elefanten und zurück.

Investitionen sind Elefanten

…und…

kleine regelmäßige Einnahmen sind Fliegen.

Ein Elefant wird vom potentiellen Käufer betrachtet. Und eine Fliege wird von dem betrachtet, bei dem sie gerade sitzt.

Die Tabelle ist also eine Fliege. Und ich will sie nun wie einen Elefanten betrachten. Also nicht aus der Perspektive dessen, der sie erstellt und pro Stück 30 Euro bekommt, sondern aus der Sicht eines Investors, der das ganze Geschäftsmodell der Immobilien-Tabelle als Investition betrachtet und als Gesamtes kaufen möchte.

Also nicht aus Sicht dessen, der einzelne Tabellen verkauft. Sondern aus Sicht dessen, der die Webseite kaufen möchte, auf der die Tabellen verkauft werden.

Bei den drei obigen Investitionen haben wir deren Rendite aus Sicht des Käufers betrachtet (also das, was die Investitionen für den Käufer „verdienen“) und dann damit ihren Zins berechnet. So, wie man das bei Elefanten eben macht.

Bekannt waren: Investitionskosten und Rendite.

Berechnet wurde: Verzinsung.

Und bei der Fliege ist es anders herum. Die Tabelle verursacht keine Investitionskosten. Denn sie ist ja schon da und „kostet“ lediglich ein paar Stunden Arbeit, um sie zu zum Verkauf bereit zu stellen.

Ihre Rendite aber, also das, was sie abwirft, ist (als eine Vorhersage) schon bekannt: 30 Euro pro Tag.

Bei Elefanten betrachtet man das nicht pro Tag, sondern pro Jahr. Und weil das Jahr 365 Tage hat, wirft die Tabelle 365*30 = 11.000 Euro ab. Jedes Jahr.

Und je nachdem, mit welcher der drei Investitionen wir es nun vergleichen, ist der Wert der Tabelle (als Elefant betrachtet) den 7-fachen, 12-fachen oder sogar den 20-fachen Jahresgewinn wert.

Wir sprechen hier also plötzlich von

  • Gesehen wie eine Firma: 7 x 11.000 Euro = 77.000 Euro
  • Gesehen wie eine Aktie: 12 x 11.000 Euro = 132.000 Euro
  • Gesehen wie eine Immobilie: 20 x 11.000 Euro = 220.000 Euro

Also nochmal ganz langsam und zum Mitschreiben:

Die Immobilientabelle, wenn sie nur ein Mal pro Tag gekauft wird, ist – wie ein Elefant betrachtet – zwischen 77.000 Euro und 220.000 Euro wert.

Nehmen wir den kleinsten der drei Werte. Warum? Einfach nur so, denn schon er ist groß genug.

Die Tabelle online gestellt und mit einem Verkauf pro Tag zu je 30 Euro entspricht also einem Wert von 77.000 Euro.

Dies ist die Perspektive von Investoren. Sie sehen keine Fliegen, sondern Elefanten.

Und als mir das klar wurde, habe ich mich sofort in Wien ins Café gesetzt – und lächerliche drei Stunden später war die Tabelle online.

Oder in anderen Worten: drei Stunden später hatte ich einen Vermögenswert von 77.000 Euro geschaffen.

Das war der beste Stundenlohn meines ganzen Lebens.

Und nun, eine Woche später, schaue ich in mein Handy und stelle fest:

verkaute tabellen

Ich verkaufe also nicht wie angenommen eine Tabelle pro Tag, sondern zwei. Der Elefant ist sogar noch größer als angenommen. Er wiegt fantastische 150.000 Euro.

PS: Hier noch die technischen Details: der Blog läuft auf WordPress, den Download samt Bezahlung via Kreditkarten und Paypal ermöglicht das Plugin Easy Digital Downloads. Es ist in seiner (von mir verwendeten) Basis-Version gratis. Paypal behält von den 39 Euro Verkaufspreis 1,09 Euro Transaktionsgebühr ein. Die Rechnungen erstelle ich mit Debitoor, ebenfalls in der Gratis-Version. Dazu nutze ich die App (und die Rechnungen lege ich dann in meinem Dropbox-Ordner so ab, wie sie am Jahresende dem Steuerberater übergeben werden – da ist also nix mehr zu tun). Alles zusammen bediene ich also sprichwörtlich mit einer Hand am Handy, egal wo ich gerade bin. Und diese momentan noch einhändig-manuelle Rechnungserstellung werde ich vermutlich bald automatisieren, durch eine Erweiterung des Plugins, die zwar ein paar Euro kostet, mir aber jede weitere Arbeit erspart.

Und noch ein Insider: jedes Mal, wenn ein Verkauf stattfindet, werde ich per Email darüber benachrichtigt. Den Text dazu habe ich natürlich selbst geschrieben. Aber trotzdem (oder gerade deswegen) beginnt jedes dieser Emails mit dem Satz: „Gut gemacht, Peter!!!“

 

Was ist passiert?

Nun ist eine halbes Jahr lang nichts passiert auf dieser Seite, und ich möchte kurz erklären, warum.

Natürlich ist in der Zwischenzeit bei mir allerhand passiert. Ich habe geplant, verworfen, neu geplant, gegründet, verkauft und ich bin viel gereist.

Vor allem als Speaker war ich viel auf Konferenzen unterwegs, und das mit meinen zwei wichtigsten Themen: Gründen und Fahrradtourismus.

Doch was ist eigentlich mit den Hörtabletten passiert?

Ganz einfach: gar nichts.

Ich bin einfach nicht dazu gekommen das Thema weiter zu verfolgen.

Und das klingt jetzt wie eine schöne Ausrede, oder? Ich zeige auf irgendwelche Umstände und behaupte: ich kann nix dafür, die sind Schuld.

Nun ja, das machen Kinder. Nicht aber Gründer und Unternehmer mit der Maxime die Verantwortung für das eigene Handeln zu tragen.

Darum also formuliere ich es lieber so: die Hörtabletten waren mir im vergangenen halben Jahr einfach nicht wichtig genug. Ich hatte so viele andere Geschäfte am Laufen und zum Laufen gebracht, und diese Geschäfte habe ich priorisiert. Sie waren mit also die ganze Zeit wichtiger – und sie sind es noch immer.

Darum ist es mit den Hörtabletten nicht weiter gegangen. Und ganz ehrlich: darum habe ich in der Zwischenzeit mit anderen Dingen mehr Geld verdienen können als es mit den Hörtabletten möglich gewesen wäre.

Meine nächsten Artikel auf dieser Seite werden bald kommen. Aber ob ich das Thema Hörtabletten wieder aufnehmen und weiter treiben werden, das weiß ich noch nicht.

Bist du daran interessiert die Idee der Hörtabletten voran zu bringen? Dann sprich mich an. Vielleicht werden wir uns ja einig und stellen gemeinsam mit deiner zusätzlichen Energie etwas Schönes auf die Beine!