in Gedanken

Ist Superintelligenz die größte Gefahr für die Menschheit?

Künstliche Intelligenz wird laufend besser. Sobald sie jedoch gut genug wird, um sich selbstständig zu verbessern, explodiert ihre Leistungsfähigkeit. In diesem Moment entsteht Superintelligenz. Diese wird uns in jeder Hinsicht überlegen sein, und es ist denkbar, dass sie die Menschheit eliminieren wird. Viele kluge Köpfe sehen daher die Superintelligenz als größte aktuelle Bedrohung der Menschheit.

Darum geht es in diesem Artikel und vor allem in seinem wichtigen zweiten Teil.

Beide Artikel erschienen im Original auf WaitButWhy.com und sind von Tim Urban verfasst. 

Ich halte dieses Artikel über die Revolution der Künstlichen Intelligenz für so wichtig, dass ich sie etlichen Freunden zur Lektüre empfahl. Einige von ihnen wollten sich jedoch nicht die Mühe machen, einen so langen Text auf Englisch zu lesen.

Darum habe ich den Text von Sebastian Kramer übersetzen lassen. Mit den Ziel, dass das Thema möglichst viele Leser findet. 

Tim Urban hat sein Einverständnis zur Übersetzung und der Veröffentlichung auf meinem Blog gegeben.

Danke an beide dafür!

Ab jetzt folgt der originale Text (jedoch ohne seine Fußnoten):


Die KI Revolution: Der Weg zur Superintelligenz

22. Januar 2015 von Tim Urban

Hinweis: Der Grund, dass ich drei Wochen benötigte, um diesen Artikel fertigzustellen, lag darin, dass ich nicht glauben konnte, was ich bei meiner intensiven Recherche zur Künstlichen Intelligenz zu Gesicht bekam. Mir wurde ziemlich schnell klar, dass das, was in der Welt der Künstlichen Intelligenz (KI) passiert, nicht nur ein wichtiges Thema, sondern DAS wichtigste Thema unserer Zukunft ist. Also wollte ich soviel wie möglich darüber lernen, und sobald ich dies getan hatte, wollte ich sicherstellen, dass mein Artikel diese ganze Sachlage wirklich erklärt und warum dies alles so bedeutend ist. Wie zu erwarten war, wurde dieses Unterfangen ungeheuerlich umfangreich, weswegen ich den Text in zwei Teile halbiert habe.

Wir befinden uns unmittelbar vor einer Veränderung, die vergleichbar ist mit der Entstehung des menschlichen Lebens auf der Erde – Vernor Vinge

Wie fühlt es sich an, hier zu stehen?

ki-01

Es scheint ein ziemlich außergewöhnlicher Augenblick zu sein – aber dann muss man sich vergegenwärtigen, wie es ist, auf einem Zeitstrahl zu stehen: man kann nicht sehen, was sich zu seiner Rechten befindet. So fühlt sich dieser Moment also wirklich an:

ki-02

Was wahrscheinlich ziemlich unspektakulär erscheint…

_______________

Die ferne Zukunft – schon fast da

Stell dir vor, du würdest mit einer Zeitmaschine ins Jahr 1750 reisen – in eine Zeit mit permanentem Stromausfall, in der Telekommunikation bedeutete, entweder laut zu schreien oder eine Kanonenkugel in die Luft zu schießen und das gesamte Verkehrswesen mit Heu am Laufen gehalten werden musste.

Wenn du dort ankommst, schnapp dir einen Typen, bring ihn ins Jahr 2015, lauf umher und schau dir genau seine Reaktion auf alles an, was er sieht, an.

Für uns ist es nicht vorstellbar, zu verstehen, wie es für ihn wäre, glänzende Kapseln über eine Autobahn rasen zu sehen, mit Menschen zu sprechen, die am Vormittag noch auf der anderen Seite des Ozeans waren, Sportveranstaltungen zu sehen, die über 1000 Kilometer entfernt stattfinden, eine 50 Jahre vergangene Musikdarbietung anzuhören und mit meinem magischen Zauberviereck zu spielen, das Bilder des wirklichen Lebens einfangen kann oder einen erlebten Augenblick aufzeichnen kann, das eine Karte erzeugt, die mit einem übernatürlichen blauen Punk seinen aktuellen Standort mitverfolgt, das ihm ermöglicht, das Gesicht eines Menschen zu sehen, der sich am anderen Ende des Landes befindet und sich mit ihm zu unterhalten, und noch Unmengen anderer unbegreiflicher Hexereien.

Und das alles, bevor du ihm das Internet zeigst oder ihm Dinge wie die Internationale Raumstation ISS, den Teilchenbeschleuniger des CERN, Atomwaffen oder die Allgemeine Relativitätstheorie erklärst.

Diese Erfahrung wäre für ihn nicht überraschend oder schockierend oder überwältigend – diese Worte beschreiben das nicht annähernd. Vielleicht würde er es ihn im wahrsten Sinne des Wortes zu Tode erschrecken.

Aber was noch viel interessanter ist: Wenn er jetzt ins Jahr 1750 zurückginge und neidisch ware, dass wir seine Überraschung gesehen hätten und sich entscheiden würde, das gleiche versuchen zu wollen, dann würde er die Zeitmaschine einsetzten, um die gleiche zeitliche Distanz zurückzureisen, jemanden aus dem Jahr 1500 zu finden, ihn in das Jahr 1750 zu bringen und ihm alles zu zeigen.

Und der Typ aus dem Jahr 1500 wäre von so einigem schockiert – aber vor Schreck sterben würde er nicht.

Es wäre eine deutlich weniger wahnwitzige Erfahrung für ihn, denn trotz der sehr großen Unterschiede zwischen 1500 und 1750, sind diese deutlich weniger verschieden als 1750 und 2015.

Der Typ aus dem Jahr 1500 würde zwar so einiges an bewusstseinserweiterndem Zeug über Raum und Physik kennenlernen, er wäre beeindruckt, mit welcher Inbrunst in Europa diese neue imperialistische Marotte verfolgt wird und er müsste einige größere Überarbeitungen an seiner Vorstellung von der Weltkarte vornehmen. Aber wenn er das alltägliche Leben im Jahr 1750 miterlebt –Verkehrswesen, Kommunikation etc.– das würde ihn sicher nicht ins Jenseits befördern.

Nein, damit der Typ genauso viel Spaß haben würde, wie wir es mit ihm hatten, dafür müsste er deutlich weiter in die Vergangenheit reisen – vielleicht den ganzen Weg zurück bis etwa 12.000 vor Christi Geburt, noch bevor die Neolithische Revolution die ersten Städte und das Konzept der Zivilisation hervorbrachte. Wenn jemand, der nur die Welt der Sammler und Jäger kennt – also aus einer Zeit stammt, in der die Menschen sich in gewisser Weise kaum von den anderen Tierarten unterschieden – die weitreichenden Imperien um 1750 sähe, ihre gewaltigen Kirchen, ihre Ozeandampfer, ihr Konzept von „Innen“ und ihren riesigen Berg des kollektiven, angesammelten menschlichen Wissens und der Entdeckungen – er würde wahrscheinlich sterben.

Und was wäre, wenn er – nachdem er gestorben ist– selbst eifersüchtig werden würde und das gleiche auch erleben wollte. Wenn er 12.000 Jahre zurück in das Jahr 24.000 vor Christus ginge und von dort einen Typen ins Jahr 12.000 vor Christus zurückholen würde, und er würde ihm alles zeigen, dann würde der Typ wohl nur gelangweilt mit den Schultern zucken.

Damit der Typ aus dem Jahr 12.000 v.Chr. den gleichen Spaß haben würde wie wir, müsste er weit über 100.000 Jahre zurück reisen und jemanden finden, dem er zum ersten Mal Feuer oder Sprache vorführen könnte.

Damit jemand, der in die Zukunft gebracht wird, an dem Ausmaß des damit verbundenen Schocks stirbt, müssen genug Jahre übersprungen werden, um eine Tödliche Fortschrittsdosis (TFD) zu erreichen.

Eine TFD in der Zeit der Jäger und Sammler entsprach also 100.000 Jahren, in der Zeit nach der Agrar-Revolution aber nur noch 12.000 Jahren. In der Zeit nach der Industriellen Revolution veränderte sich die Welt so schnell, dass ein Mensch aus dem Jahr 1750 nur noch einige hundert Jahre in die Zukunft reisen muss, um eine TFD zu erleiden. Dieses Muster – die fortlaufende Beschleunigung des menschlichen Fortschritts – bezeichnet der Futurist Ray Kurzweil in der Menschheitsgeschichte als das Gesetz der sich beschleunigenden Erträge.

Dieses basiert darauf, dass höher entwickelte Gesellschaften in der Lage sind, mit einer höheren Rate Fortschritt zu erzeugen als niedriger entwickelte Gesellschaften – eben weil sie höher entwickelt sind. Die Menschheit hatte im 19. Jahrhundert ein größeres Wissen und bessere Technologien als die Menschheit im 15. Jahrhundert, es ist also keine Überraschung, dass der Menschheit im 19. Jahrhundert größere Fortschritte gelangen als im 15. Jahrhundert – die Menschheit des 15. Jahrhunderts war der Menschheitdes 19. Jahrhunderts nicht gewachsen.

Dies gilt auch in kleinerem Maßstab. Der Film „Zurück in die Zukunft“ wurde 1985 veröffentlicht und die „Vergangenheit“ lag im Jahr 1955. Als Michael J. Fox im Film in das Jahr 1955 zurückreiste, wurde er von der Neuheit der Fernsehapparate, den Limonadenpreisen, der mangelnden Begeisterung für schrille E-Gitarren und den Veränderungen der Umgangssprache überrascht. Es war eine andere Welt, ja – aber wenn der Film heute gedreht werden würde und die Vergangenheit im Jahr 1985 stattfände, dann könnte sich der Film deutlich mehr amüsieren und viel größere Unterschiede aufzeigen. Der Darsteller würde in eine Vergangenheit ohne PCs, Internet oder Mobiltelefone reisen – der heutige Marty McFly, ein Jugendlicher, der in den späten 90ern zur Welt gekommen wäre, wäre 1985 deutlich deplatzierter als es der Marty McFly des Films im Jahr 1955 war.

Und dies aus dem selben Grund, den wir gerade erörtert haben – das Gesetz der sich beschleunigenden Erträge. Die durchschnittliche Fortschrittsrate zwischen 1985 und 2015 war höher als die Rate zwischen 1955 und 1985 – weil im ersten Zeitraum die Welt fortgeschrittener war – es waren in den letzten 30 Jahren also größere Veränderungen zu verzeichnen als in den 30 Jahren davor.

Also – Fortschrittsprünge werden größer und größer und vollziehen sich schneller und schneller. Dies legt einige ziemlich heftige Folgerungen für unsere Zukunft nahe, richtig?

Kurzweil schlägt vor, dass der gesamte Fortschritt des 20. Jahrhunderts nur 20 Jahre gedauert hätte, wenn man die Fortschrittsrate des Jahres 2000 annimmt – nochmal, im Jahr 2000 war die Fortschrittsrate 5-mal höher als die durchschnittliche Rate des 20. Jahrhunderts. Er glaubt, dass zwischen 2000 und 2014 nochmal ein ganzes 20. Jahrhundert an Fortschritt erreicht wurde und dass bis zum Jahr 2021 nochmal soviel Fortschritt, wie im kompletten 20. Jahrhundert entstanden ist, hinzukommen wird, in nur 7 Jahren. Er glaubt, dass in ein paar Jahrzehnten der Fortschritt des 20. Jahrhunderts mehrmals pro Jahr, und noch später, in weniger als einem Monat erzielt wird. Zusammenfassend glaubt Kurzweil wegen des Gesetzes der sich beschleunigenden Erträge, dass im 21. Jahrhundert der 1.000fache Fortschritt des 20. Jahrhundert erreicht wird.

Wenn Kurzweil und seine Anhänger recht haben, dann würde uns das Jahr 2030 genauso umhauen, wie unser Typ aus dem Jahr 1750 vom Jahr 2015 umgehauen wurde – die nächste TFD könnte vielleicht nur noch einige Jahrzehnte erfordern – und die Welt des Jahres 2050 könnte so unglaublich von der heutigen verschieden sein, dass wir sie kaum noch erkennen würden.

Das ist nicht Science-Fiction. Denn genau das glauben auch viele Wissenschaftler, die deutlich klüger und sachkundiger sind als du und ich, mit großer Überzeugung – und wenn du in die Geschichte zurückdenkst, dann sollten wir das folgerichtig auch so vorhersagen.

Warum also denkst du „Cool …. aber nee“, wenn ich sage „Die Welt in 35 Jahren wird nicht mehr zu erkennen sein“? Es gibt drei Gründe, warum wir haarsträubenden Zukunftsprognosen skeptisch gegenüberstehen

1) In geschichtlichen Dingen denken wir linear.

Wenn wir uns den Fortschritt der nächsten 30 Jahre vorstellen, dann schauen wir auf den Fortschritt der letzten 30 Jahre zurück, um ein Gefühl dafür zu bekommen, was wahrscheinlich passieren wird. Wenn wir über das Ausmaß der Veränderung im 21. Jhd. nachdenken, dann nehmen wir den Fortschritt des 20. Jhd. und addieren ihn zum Jahr 2000.

Das ist der gleiche Fehler, den unser Typ aus dem Jahr 1750 gemacht hat, als er jemand aus dem Jahr 1500 holte und erwartete, dass er genauso hin und weg sein würde wie er selbst, nachdem er die gleiche Distanz in die Zukunft gereist war.

Wir denken intuitiv am ehesten linear, wir sollten aber exponentiell denken. Es wäre schon schlauer, wenn man beim Versuch den Fortschritt der nächsten 30 Jahre zu schätzen nicht auf die vergangen 30 Jahre zurückblickt, sondern die aktuelle Fortschrittsrate nimmt und seine Prognose darauf aufbaut. Das wäre genauer, aber immer noch weit daneben.

Um korrekt über die Zukunft nachzudenken, muss man ein deutlich höheres Tempo annehmen als der aktuelle Fortschritt nahelegt.

KI03

2) Der Blick auf die jüngste Vergangenheit legt oftmals verzerrte Schlussfolgerungen nahe.

Erstens erscheint selbst eine steile exponentielle Kurve linear, wenn der betrachtete Ausschnitt nur klein genug gewählt wird, genau wie der winzige Ausschnitt eines großen Kreises nahezu wie eine gerade Linie wirkt. Zweitens verläuft exponentielles Wachstum nicht völlig uniform und gleichmäßig. Kurzweil erklärt, dass Fortschritt in „S-Kurven“ abläuft:

Eine S-Kurve entsteht durch die Fortschrittswelle, wenn ein neues Paradigma durch die Welt schwappt. Die Kurve durchläuft drei Phasen:

  1. Langsames Wachstum (die frühe Phase exponentiellen Wachstums)
  2. Schnelles Wachstum (die späte, explosive Phase exponentiellen Wachstums)
  3. Ein Abklingen, das mit dem Ausreifen des Paradigmas einhergeht

Wenn man sich nur die jüngste Vergangenheit anschaut, dann kann die aktuelle Phase der S-Kurve unsere Wahrnehmung des Fortschrittstempos verschleiern.

In der Zeitspanne zwischen 1995 und 2007 explodierte das Internet. Microsoft, Facebook und Google eroberten das Bewusstsein der breiten Bevölkerung, soziale Netzwerke wurden geboren und Mobiltelefone und danach Smartphones wurden eingeführt. Das war Phase 2: der Wachstumsschub der S-Kurve.

Die Jahre 2008 bis 2015 waren aber weniger bahnbrechend, zumindest aus technologischer Sicht. Jemand der heute über die Zukunft nachdenkt, könnte die letzten Jahre heranziehen, um die aktuelle Fortschrittsrate zu schätzen. Dabei würde er aber das große Ganze übersehen. Tatsächlich könnte sich ein neuer, gewaltiger Wachstumsschub in diesem Augenblick zusammenbrauen.

3) Unsere eigene Erfahrung macht uns, wenn es um die Zukunft geht, zu halsstarrigen alten Menschen.

Unsere Vorstellung von der Welt basiert auf unseren persönlichen Erfahrungen und diese Erfahrung hat die Fortschrittsrate der jüngeren Vergangenheit in unseren Köpfen verankert („Das war schon immer so!“). Auch unsere Vorstellungskraft stößt an Grenzen, weil sie unsere Erfahrungen heranzieht, um Zukunftsprognosen hervorzuzaubern – oftmals gibt uns unser Wissen aber einfach nicht die Werkzeuge, um präzise über die Zukunft nachzudenken.

Wenn wir eine Vorhersage über die Zukunft hören, die unserer erfahrungsgeleiteten Vorstellung davon „wie die Welt funktioniert“ widerspricht, dann verleitet uns das zu dem intuitiven Glauben, das die Vorhersage naiv sein müsse. Wenn ich dir weiter unten in diesem Artikel erzähle, dass du möglicherweise 150 oder 200 Jahre leben oder überhaupt nicht sterben wirst, dann sagt dir deine Intuition: „Das ist lächerlich – wenn ich irgendetwas aus der Vergangenheit gelernt habe, dann dass jeder sterben muss.“ Und ja, noch nie ist jemand nicht gestorben. Aber es ist genauso noch niemand mit einem Flugzeug geflogen bevor Flugzeuge erfunden wurden.

Also, obwohl sich ungläubiges „nee…“ beim Lesen dieses Artikels richtig anfühlt, ist es bei Betrachtung der Fakten wahrscheinlich falsch.

Es ist doch so, wenn wir streng logisch annehmen, dass die historischen Muster weiterbestehen, dann sollten wir davon ausgehen, dass sich in den nächsten Jahrzehnten viel, viel, viel mehr verändert als wir intuitiv erwarten. Die Logik legt auch nahe, dass die höchstentwickelte Spezies eines Planeten, wenn sie sich in immer größeren Schritten und immer schneller fortentwickelt, irgendwann einen so großen Sprung bewerkstelligt, dass sich das Leben und die Vorstellung, was Leben bedeutet, radikal verändert – so ähnlich wie die Evolution beständig große Sprünge in Richtung Intelligenz machte, bis sie schlussendlich einen so großen Sprung zum Menschen machte, dass sich die Lebensumstände für alle Lebewesen auf dem Planeten Erde komplett veränderten.

Und wenn man sich damit beschäftigt, was aktuell in den Bereichen Wissenschaft und Technologie passiert, dann erkennt man mannigfaltige Hinweise, die leise andeuten, dass das Leben, wie wir es heute kennen, den nächsten Sprung nicht wird überdauern können.

_______________

Der Weg zur Superintelligenz

Was ist Künstliche Intelligenz (KI)?

Wenn es dir wie mir geht, dann hast du auch geglaubt, dass Künstliche Intelligenz ein albernes Sci-Fi-Konzept wäre, aber in letzter Zeit hast du erlebt, dass auch ernstzunehmende Personen darüber sprechen und du begreifst nicht wirklich, was es damit auf sich hat.

Es gibt drei Gründe, warum Verwirrung über den Begriff der KI herrscht:

1) Wir denken dabei an Filme.
Star Wars. Terminator. 2001: Odyssee im Weltraum. Ja sogar die Jetsons. Und das ist Fiktion, genauso wie die Roboterfiguren. KI erhält dadurch für uns den Klang von Hirngespinsten.

2) KI ist ein weites Feld.
Es reicht von dem Taschenrechner deines Telefons über selbstfahrende Autos bis zu Etwas in der Zukunft, das die Welt radikal verändern würde. KI bezeichnet all diese Dinge, und das ist verwirrend.

3) Wir benutzen KI andauernd in unserem Alltag, aber wir realisieren oftmals nicht einmal, dass es sich um KI handelt.
John McCarthy, der den Ausdruck „Künstliche Intelligenz“ im Jahr 1956 prägte, beklagte: „sobald es funktioniert, nennt es niemand mehr KI.“ Wegen dieses Phänomens klingt KI oft eher wie eine fantastische, frei erfundene Zukunft und nicht wie etwas, das wirklich passieren könnte. Gleichzeitig entsteht der Eindruck, dass KI eine populäre Vorstellung aus der Vergangenheit wäre, die sich aber niemals in der Realität umsetzen lies. Ray Kurzweil sagt, dass KI nach Meinung vieler in den 1980ern verkümmert wäre, was aber genauso sei, wie „darauf zu beharren, dass das Internet mit dem Platzen der Dotcom-Blase gestorben wäre.“

Lasst uns also die Sache aufklären.

Erstens, denkt nicht mehr an Roboter! Ein Roboter ist ein Gehäuse für KI, das manchmal menschlich erscheinen will, aber nicht muss – die KI selbst ist aber ein Computer im Inneren des Roboters. KI ist das Gehirn und der Roboter ist der Körper – wenn es überhaupt einen Körper gibt. Zum Beispiel sind die Software und die Daten hinter Siri die KI, die Frauenstimme, die wir hören, ist die Personifizierung der KI, und dabei ist in keiner Weise ein Roboter involviert.

Zweitens, du hast wahrscheinlich den Ausdruck „Singularität“ oder „technologische Singularität“ gehört. Dieser Ausdruck wurde in der Mathematik verwendet, um quasi-asymptotische Situation zu beschreiben, in der die normalen Regeln nicht mehr gelten. Er wurde in der Physik verwendet, um Phänomene wie ein unendlich kleines, dichtes Schwarzes Loch oder den Punkt, in den wir unmittelbar vor dem Urknall zusammengequetscht waren zu beschreiben.

Nochmal: das sind Situationen, in denen die normalen Regeln nicht gelten.

1993 schrieb Vernon Vinge seinen berühmten Aufsatz, in dem er diesen Ausdruck auf den Augenblick in der Zukunft übertrug, in dem die technologische Intelligenz unsere eigene übersteigt – und sich das uns bekannte Leben für immer verändert und die normalen Regeln nicht mehr gelten.

Ray Kurzweil hat dann die Dinge etwas verkompliziert, weil er die Singularität umdefinierte, nämlich als die Zeit, ab der das Gesetz der sich beschleunigenden Erträge eine solch extreme Geschwindigkeit erreicht hat, dass der technische Fortschritt mit scheinbar unendlich großer Geschwindigkeit abläuft, und nach dem Erreichen dieses Zeitpunktes werden wir in einer gänzlich neuen Welt leben. Ich habe festgestellt, dass viele der heutigen KI-Vordenker aufgehört haben, diesen Begriff zu verwenden, und er ist sowieso verwirrend, also werde ich ihn hier auch kaum verwenden (obwohl wir durchgehend unsere Aufmerksamkeit auf diese Idee richten).

Schlussendlich, es gibt zwar verschiedenste Typen und Ausprägungen der KI, weil KI ein sehr großes Gebiet umfasst, die entscheidenden Kategorien, über die wir nachdenken müssen, basieren auf der Kompetenz einer KI.

Es gibt drei Hauptkategorien für die KI-Kompetenz:

1) Enge Künstliche Intelligenz (EKI):
Manchmal als Schwache KI bezeichnet. Enge Künstliche Intelligenz ist KI, die sich auf ein Gebiet spezialisiert. Es gibt KI, die den aktuellen Schachweltmeister schlagen kann, aber das ist alles, was sie kann. Gib ihr die Aufgabe nach besseren Speicherverfahren für Festplatten zu suchen und sie wird dich mit treudoofem Blick anstarren.

2) Allgemeine Künstliche Intelligenz (AKI):
Manchmal auch Starke KI oder Menschenähnliche KI genannt. Allgemeine Künstliche Intelligenz bezieht sich auf einen Computer, der in allen Bereichen so klug ist wie ein Mensch – eine Maschine, die jede intellektuelle Aufgabe bewältigen kann, die auch ein Mensch lösen kann.

AKI zu erschaffen, ist eine viel schwierigere Aufgabe als EKI zu erschaffen, und wir haben diese Aufgabe auch noch vor uns.

Professor Linda Gottfredson beschreibt Intelligenz als „eine sehr allgemeine geistige Fähigkeit, die unter anderem die Fähigkeit umfasst, logisch zu denken, zu planen, Probleme zu lösen, abstrakt zu denken, komplexe Ideen zu verstehen und aus Erfahrungen zu lernen.“

AKI wäre in der Lage, all diese Dinge genauso so mühelos zu tun wie du.

3) Künstliche Superintelligenz (KSI):
Der Philosoph der Universität Oxford und führende KI-Vordenker Nick Bostrom definiert Superintelligenz als „einen Intellekt, der viel intelligenter als das klügste menschliche Gehirn in praktisch jedem Gebiet ist, einschließlich wissenschaftlicher Kreativität, allgemeinen Lebensweisheiten und sozialer Kompetenz.“ Künstliche Superintelligenz reicht vom Computer, der nur ein bisschen klüger als ein Mensch ist bis zu dem, der billionenfach klüger ist – auf allen Gebieten. KSI ist der Grund, warum KI so ein heißes Eisen ist und weshalb die Worte Unsterblichkeit und Aussterben in diesen Artikeln mehrfach auftauchen werden.

Schon jetzt haben wir Menschen die unterste Stufe der KI erobert – EKI – auf viele Weisen und allgegenwärtig. Die KI-Revolution ist der Weg von der EKI über die AKI zur KSI – eine Reise, die wir vielleicht überleben oder auch nicht, die aber auf jeden Fall alles verändern wird.

Lasst uns also anschauen, was die führenden Köpfe darüber denken, wie diese Reise aussieht und warum diese Revolution viel früher stattfinden könnte, als du vielleicht denkst:

EKI ist Maschinenintelligenz, die der menschlichen Intelligenz in einer bestimmten Aufgabe ebenbürtig ist oder diese übersteigt. Ein paar Beispiele:

  • Autos sind vollgepackt mit EKI-Systemen, vom Computer, der bestimmt, wann das ABS eingreift bis zum Computer, der die Parameter der Kraftstoffeinspritzung steuert. Googles selbstfahrendes Auto, das gerade getestet wird, wird robuste EKI enthalten, die ihm erlaubt, seine Umgebung wahrzunehmen und auf sie zu reagieren.
  • Dein Telefon ist eine kleine EKI-Fabrik. Wenn du mit deiner Karten-App navigierst, maßgeschneiderte Musikempfehlungen erhältst, das morgige Wetter überprüfst, mit Siri sprichst, oder bei dutzenden anderen, alltäglichen Aktivitäten, du benutzt immer EKI.
  • Dein Email-Spamfilter ist ein klassischer Fall von EKI – er beginnt mit jeder Menge Intelligenz darüber, wie man zwischen Spam und Nicht-Spam unterscheidet und dann lernt das System aus den Erfahrungen mit deinen Präferenzen und passt sich an genau diese Umstände an. Das Thermostat von Nest macht das Gleiche, es versucht deinen typischen Tagesablauf zu erkennen und handelt dann dementsprechend.
  • Du kennst auch die unheimliche Erfahrung, wenn du ein Produkt auf Amazon suchst und dir dann genau dieses Produkt auf einer anderen Seite „empfohlen“ wird, oder wenn Facebook dir wie aus dem Nichts eröffnet, mit wem du dich sinnvollerweise als Freund verbinden könntest? Das ist ein Netz von EKI-Systemen, die sich gegenseitig über dich und deine Vorlieben auf dem Laufenden halten und dann auf Basis dieser Informationen entscheiden, was dir gezeigt wird. Das gleiche gilt auch für die Einblendung „Kunden, die diesen Artikel gekauft haben, kauften auch“ bei Amazon – das ist ein EKI-System, dessen Aufgabe darin besteht, das Verhalten von Millionen von Kunden zu erfassen und dann dieses Wissen klug zu nutzen, um dir noch mehr Dinge zu verkaufen.
  • Der „Google Übersetzer“ ist ein weiteres klassisches EKI-System – beeindruckend gut in einer sehr eng umfassten Aufgabe.
  • Für Spracherkennung gilt das Gleiche; und es gibt eine ganze Reihe von Apps, die diese beiden EKIs zusammenbringen, um dir zu erlauben, einen Satz in einer Sprache zu sprechen und dann das Telefon den Satz in einer anderen Sprache sprechen zu lassen.
  • Wenn dein Flugzeug landet, dann entscheidet nicht mehr ein Mensch, zu welchem Gate das Flugzeug rollt. Genauso wenig, wie ein Mensch den Preis deines Tickets festgelegt hat.
  • Der weltbeste Dame-, Schach-, Scrabble-, Backgammon- und Othello-Spieler sind schon EKI-Systeme.
  • Die Suche von Google ist ein riesiges EKI-Gehirn, das mit unglaublich ausgeklügelten Methoden das Ranking der Webseiten bestimmt und herausfindet, was dir gerade angezeigt werden soll. Das gilt auch für den Newsfeed von Facebook.
  • Und das sind ein paar Beispiele nur aus dem Endkundenbereich. Ausgeklügelte EKI- Systeme sind weit verbreitet in Bereichen und Industrien wie Militär, Produktion und Finanzwesen (algorithmische KI-Hochfrequenz-Trader verursachen mehr als die Hälfte des US-Equity-Handelsvolumens), und in Expertensystemen, die Ärzten helfen, Diagnosen zu stellen, und bekanntermaßen Watson von IBM, der genug Fakten enthielt und die neckische Sprache des Moderators gut genug verstand, um den erfolgreichsten Jeopardy-Champions eine Abreibung zu verpassen.

Die EKI-Systeme der Gegenwart sind nicht besonders angsteinflößend. Schlimmstenfalls kann eine unsauber oder schlecht programmierte EKI eine isolierte Katastrophe verursachen: wie zum Beispiel ein Energieversorgungsnetz außer Betrieb zu nehmen, einen gefährlichen Zwischenfall in einem Atomkraftwerk zu verursachen oder ein Desaster im Finanzmarkt auszulösen (wie den sog. Flash Crash im Jahr 2010, als ein EKI-Programm auf eine unerwartete Situation falsch reagierte und einen kurzfristigen Kurssturz am Aktienmarkt auslöste, und dabei über eine Billion Dollar an Kurswerten ausradierte, die sich nur teilweise wieder erholten, nachdem der Fehler korrigierte wurde).

Obwohl EKI nicht die Möglichkeit besitzt, zu einer existenziellen Bedrohung zu werden, sollten wir dieses zunehmend größer und komplexer werdende Ökosystem aus relativ harmloser EKI doch als Vorbote des weltverändernden Orkans betrachten, der sich schon am Horizont andeutet. Jeder neue Fortschritt im Bereich der EKI legt einen weiteren Stein auf dem Weg von der EKI zur KSI.

Oder um es mit den Worten von Aaron Saenz zu sagen: die EKI-Systeme unserer Welt „sind wie die Aminosäuren im Urschlamm der frühen Erde“ – der leblose Teil des Lebens, der eines Tages unverhofft erwachte.

Der Weg von EKI zu KSI

Warum er so schwierig ist

Nichts wird dir soviel Bewunderung vor der menschlichen Intelligenz einflößen, wie das Erkennen der Probleme, die sich stellen, wenn man versucht, einen Computer zu erschaffen, der genauso intelligent ist wie wir. Wolkenkratzer bauen, Menschen ins Weltall schießen, die Details des Urknalls ergründen – all das ist viel einfacher, als unser eigenes Gehirn zu verstehen oder etwas ähnlich Beeindruckendes zu bauen. Bereits jetzt ist das Gehirn das komplexeste Objekt des uns bekannten Universums.

Interessanterweise sind die größten Herausforderungen beim Bau einer KSI (ein Computer, der durchgängig so intelligent ist wie ein Mensch, nicht nur bei einer engen Spezialaufgabe) nicht das, was du intuitiv denken würdest. Einen Computer bauen, der zwei 10-stellige Zahlen multipliziert – unglaublich einfach. Einen bauen, der einen Hund wahrnimmt und dann erkennt, ob es sich um einen Hund oder eine Katze handelt – unfassbar schwierig. Baue eine KI, die jeden Menschen im Schach schlägt – erledigt. Baue eine, die einen Paragraph aus dem Bilderbuch eines 6-Jährigen liest und nicht nur die Wörter erkennt, sondern auch die Bedeutung versteht? Google gibt momentan Milliarden Dollar aus, um das zu versuchen. Schwierige Dinge – wie Analysis, Finanzmarkt-Strategien und Sprachübersetzungen – sind unglaublich einfach für einen Computer, wohingegen einfache Dinge – wie Sehen, Gehen, Bewegungen und Wahrnehmung – unfassbar schwer für ihn sind. Oder, um es mit Donald Knuth zu sagen: „KI war bisher im Wesentlichen bei allen Dingen erfolgreich, die ‚Denken’ erfordern, aber ist an den meisten Dingen gescheitert, die Menschen und Tiere ‚ohne Denken’ tun.“

Wenn man darüber nachdenkt, merkt man schnell, dass die Dinge, die uns leicht erscheinen, in Wirklichkeit unglaublich kompliziert sind, und sie nur leicht erscheinen, weil diese Fertigkeiten in uns (und den meisten Tieren) von hunderten Millionen von Jahren evolutionärer Entwicklung optimiert wurden. Wenn du deine Hand nach einem Objekt ausstreckst, dann vollführen deine Muskeln, Sehnen und Knochen in deiner Schulter, deinem Ellbogen und deinem Handgelenkt in Verbindung mit deinen Augen eine Unzahl von physikalischen Veränderungen, die es dir erlauben, deine Hand in einer geraden Linie durch den dreidimensionalen Raum zu bewegen. Es erscheint dir mühelos, weil du die perfekte Software dafür in deinem Gehirn vorfindest. In diesem Sinne ist auch nicht die Schadsoftware dumm, weil es ihr nicht gelingt, den schrägen Worterkennungstest zu durchschauen, wenn du dich für eine neue Webseite anmeldest – dein Gehirn ist unglaublich beeindruckend, weil es fähig ist, das zu tun.

Im Gegensatz dazu sind die Multiplikation großer Zahlen oder Schachspielen neue Aktivitäten für biologische Geschöpfe und wir hatten noch keine Zeit, uns ausgeprägtes Können darin anzueignen. Ein Computer muss sich also nicht allzu sehr anstrengen, um uns zu besiegen. Denk mal darüber nach – was würdest du lieber tun, ein Programm schreiben, das große Zahlen multiplizieren kann oder eines, das das Wesen des Buchstabens B gut genug versteht, um all die vielen tausend verschiedenen, unvorhersehbaren Variationen des Schriftsatzes und der Handschrift zu sehen und trotzdem sofort zu erkennen, dass es sich um ein B handelt?

Ein lustiges Beispiel – wenn du dir das ansiehst, dann können sowohl du als auch ein Computer erkennen, dass es sich um ein Rechteck mit zwei sich abwechselnden Schattierungen handelt:

KI 04

Soweit ein Unentschieden. Wenn du aber das Schwarz wegnimmst und das ganze Bild enthüllst…

KI 05

…dir fällt es leicht, eine umfassende Beschreibung der vielfältigen undurchsichtigen und durchscheinenden Zylinder, Stäbe und dreidimensionalen Ecken zu liefern, der Computer würde aber jämmerlich scheitern. Es würde beschreiben, was es sieht – eine Vielzahl von zweidimensionalen Formen in verschiedenen Schattierungen – was auch tatsächlich dem entspricht, was vorhanden ist. Dein Gehirn vollführt aber Unmengen an extravaganten Berechnungen, um die implizite Tiefe, die Vermischung der Tonabstufungen und die Raumbeleuchtung, die das Bild versucht darzustellen, zu interpretieren. Und beim Anblick des unteren Bildes erkennt ein Computer eine zweidimensionale Collage aus Weiß-, Schwarz- und Grautönen, während du mit Leichtigkeit siehst, worum es sich tatsächlich handelt – ein Foto eines komplett schwarzen dreidimensionalen Steines:

KI 06

Quelle: Matthew Lloyd

Und alles, was wir gerade besprochen haben, geht nur von unbewegter Information und Verarbeitung aus. Für menschenähnliche Intelligenz müsste ein Computer die feinen Unterschiede subtiler Gesichtsausdrücke verstehen, den Unterschied zwischen Glückseligkeit, Erleichterung, Freude, Zufriedenheit und Entzücken, und warum Braveheart großartig, Der Patriot aber schrecklich war.

Abschreckend.

Wie kommen wir also dort hin?

_______________

 

Die erste Vorbedingung für funktionierende AKI: Die Erhöhung der Rechenleistung

Was sicher noch kommen muss bevor AKI möglich wird, ist eine Erhöhung der Leistungsfähigkeit der Computerhardware. Wenn ein KI-System so intelligent sein soll wie das Gehirn, dann wird es auch eine gleichwertige Rechenleistung benötigen.
Ein Weg, die Rechenleistung zu bestimmen, ist die Anzahl der Berechnungen pro Sekunde (BPS), die das Gehirn anstellen kann. Man kann diese Zahl schätzen, indem man die maximalen BPS jeder Gehirnstruktur bestimmt und diese dann aufaddiert.
Ray Kurzweil überlegte sich einen schnelleren Weg. Er nahm die sachkundige Experten- Schätzung der BPS einer Teilstruktur, bestimmte den Gewichtsanteil der Teilstruktur relativ zum Gesamtgehirn und multiplizierte dann die BPS entsprechend proportional um eine Schätzung für die Gesamt-BPS zu erhalten. Dieses Vorgehen klingt zweifelhaft, aber er berechnete diese Schätzung basierend auf mehreren fundierten Schätzungen verschiedener Teilregionen und die Gesamtschätzung pendelte sich immer bei etwa 1016 (10 Billiarden) BPS ein.
Der aktuell schnellste Supercomputer der Welt, Chinas Tianhe-2, übertrifft mit 34 Billiarden BPS schon diese Zahl. Aber Tianhe-2 ist auch ein Monstrum, das 720 m2 Platz, 24 Megawatt Strom (das Gehirn verbraucht 20 Watt) und 390 Millionen Dollar Baukosten verschlingt. Damit ist er noch nicht wirklich in der Lage, weite Verbreitung zu finden. Er kommt noch nicht einmal für die meisten kommerziellen und industriellen Anwendungen in Frage.
Kurzweil schlägt vor, dass wir die Anzahl der BPS pro 1000 Dollar betrachten, um einzuschätzen, wie weit Computer schon sind. Wenn diese Zahl das menschliche Niveau erreicht – 10 Billiarden BPS –, dann wird das bedeuten, dass AKI ein tatsächliches Alltagsphänomen wird.
Moore’s Law ist eine historisch bestätigte Regel, die besagt, dass maximale Rechenleistung sich auf der Welt etwa alle zwei Jahre verdoppelt. Dies bedeutet, dass der Fortschritt im Bereich der Computerhardware, genauso wie der menschliche Fortschritt im Laufe der Geschichte, exponentiell verläuft. Wenn man dies mit der Metrik (BPS pro 1.000 Dollar) von Kurzweil in Beziehung setzt, dann erreichen wir momentan 10 Billionen BSP pro 1.000 Dollar. Das entspricht dem geschätzten Verlauf des unteren Graphen: Q9(Kurzweil, The Singularity is Near, 118.)
Zum Preis von 1.000 Dollar bekommt man also jetzt schon einen Computer, der das Gehirn einer Maus schlägt und etwa einem Tausendstel der menschlichen Leistungsfähigkeit entspricht. Das hört sich nach wenig an, bis man sich bewusst macht, dass wir 1985 bei etwa einem Billionstel, 1995 bei einem Milliardstel und 2005 bei einem Millionstel waren. Wenn wir 2015 bei einem Tausendstel angekommen sind, dann bedeutet das, dass wir auf dem besten Weg sind, bis 2025 einen bezahlbaren Computer zu bekommen, der es mit dem menschlichen Gehirn aufnehmen kann.
Auf Hardware bezogen ist die reine Rechenleistung für AKI in China zumindest technisch schon vorhanden. Und wir können erwarten, dass wir innerhalb von 10 Jahren bereit sein werden für bezahlbare, weitverbreite und AKI-geeignete Hardware. Aber reine Rechenleistung alleine macht Computer noch nicht im allgemeinen Sinne intelligent – was uns zur nächsten Frage führt: wie erschaffen wir menschenähnliche Intelligenz aus dieser ganzen Rechenleistung?

Die zweite Vorbedingung für funktionierende AKI: Die Intelligenz steigern

Das ist der ätzende Teil. Es ist doch so: niemand weiß wirklich, wie wir menschliche Intelligenz erzeugen können – bisher wird wir noch darüber diskutiert, wie man einem Computer die Fähigkeit beibringt, zu erkennen, was einen Hund, ein komisch geschriebenes
B und einen mittelmäßigen Film ausmacht. Aber es existieren eine Menge abwegiger Ansätze, dies zu erreichen und irgendwann wird einer von ihnen funktionieren. Die drei geläufigsten Ansätze, auf die ich gestoßen bin, sind die drei Folgenden:

1) Das Gehirn imitieren.

Das ist vergleichbar mit einem Wissenschaftler, der an der Frage verzweifelt, wieso sein Banknachbar in der Schule immer so gute Noten schreibt und er selbst trotz seiner großen Bemühungen in den Prüfungen nicht annähernd so gut abschneidet. Bis er eines Tages aufgibt und dazu übergeht, die unerreichbar guten Antworten des Nachbarn einfach abzuschreiben. Das macht auch Sinn – wir sind überfragt, wenn es darum geht, einen extrem komplexen Computer zu entwickeln, aber in jedem unserer Köpfe befindet sich die perfekte Blaupause genau dafür.
In der Wissenschaft wird mit aller Kraft daran gearbeitet, das menschliche Gehirn zu rekonstruieren, um herauszufinden, wie die Evolution ein so mächtiges Werkzeug erschaffen konnte. Und nach optimistischen Schätzungen wird uns dies bis zum Jahr 2030 gelingen. Sobald wir dies erreicht haben werden, werden wir wissen, warum das Gehirn so leistungsfähig und ressourcenschonend arbeitet. Dann können wir uns inspirieren lassen und seine Innovationen klauen. Ein Beispiel für eine Computer-Architektur, die das menschliche Gehirn imitiert, sind künstliche neuronale Netzwerke. Diese bestehen aus einem Netz von Transistor-„Neuronen“, die über ihre Ein- und Ausgänge miteinander verbunden sind. Dieses Netz trägt aber keinerlei Wissen in sich – wie das Gehirn eines Kleinkindes. Es „lernt“ durch den Versuch, eine Aufgabe zu lösen – wie Handschrifterkennung. Dabei sind die ersten neuronalen Aktivitäten und Versuche, jeden Buchstaben zu erkennen, vollständig zufällig. Wenn man aber rückmeldet, dass ein Rateversuch erfolgreich war, dann werden die Transistorverbindungen, die auf dem Weg der richtigen Lösung aktiv waren, gestärkt. Wenn man rückmeldet, dass das Ergebnis falsch war, dann werden die Verbindungen geschwächt. Nach unzähligen Versuchen und entsprechender Rückmeldung hat das Netz selbständig kluge neuronale Verbindungsketten gebildet und sich auf diesem Weg für die gegebene Aufgabe optimiert. Das Lernen des Gehirns läuft ähnlich ab, aber viel raffinierter. Und je besser wir die Funktionsweise des Gehirns erforschen, desto besser können wir die ausgeklügelten Mechanismen des Gehirns bezüglich neuronaler Schaltungen ausnutzen.
Eine extremere Variante der Imitation wendet eine Strategie an, die man die „Emulation des gesamten Gehirns“ nennt. Das Ziel dabei besteht darin, das reale Gehirn in kleinste Scheiben zu unterteilen, diese zu scannen und mit Hilfe von Software ein genaues, 3-dimensional rekonstruiertes Modell auf einem leistungsstarken Computer zu implementieren. Dann hätten wir einen Computer, der hochoffiziell genau das könnte, was das Gehirn vollbringen kann
– es müsste nur lernen und Informationen sammeln. Wenn die Ingenieure richtig gut werden, dann könnten sie ein wirkliches Gehirn mit einer solchen Genauigkeit emulieren, dass das vollständige Gedächtnis und die Persönlichkeit des Gehirns intakt wären, nachdem die Architektur des Gehirns in den Computer geladen wurde. Wenn man die Architektur des Gehirns von Jim kurz nach dessen Tod in einen Computer lädt, dann würde der Computer als Jim erwachen (?), was einer robusten menschenähnlichen AKI entsprechen würde. Und dann könnten wir uns daranmachen, Jim in eine unvorstellbar kluge KSI zu verwandeln, wovon Jim wohl ziemlich begeistert wäre.
Wie weit sind wir davon entfernt, das ganze Gehirn zu emulieren? Also bis jetzt ist es uns noch nicht gerade erst gelungen, das Gehirn eines millimetergroßen Fadenwurms zu emulieren, der gerade einmal 302 Neuronen besitzt. Das menschliche Gehirn besteht aus 100
Milliarden Neuronen. Wenn dir das wie eine Herkulesaufgabe erscheint, dann bedenke die Macht exponentiellen Wachstums. Wir haben bisher das winzige Wurmgehirn gemeistert, eine Ameise dürfte also bald auch machbar sein, und dann eine Maus und plötzlich rückt das menschliche Gehirn in greifbare Nähe.

2) Der Versuch, einen evolutionären Prozess anzustoßen – vergleichbar mit dem, der uns geschaffen hat.

Also, wenn wir zu dem Schluss kommen, dass es für uns nicht erreichbar ist, die Antworten unseren schlauen Banknachbarn abzuschreiben, dann können wir zumindest die Art, wie er lernt, imitieren – nicht seine Antworten.
Damit stoßen wir auf etwas Neues. Einen Computer zu bauen, der so leistungsfähig ist wie das menschliche Gehirn, ist möglich – die Entstehung unseres eigenen Gehirns ist der Beweis dafür. Und wenn die Emulation unseres Gehirns für uns einfach zu komplex ist, dann könnten wir versuchen, die Entstehung des Gehirns nachzuahmen. Tatsächlich muss man aber Folgendes bedenken: Angenommen wir könnten das Gehirn emulieren. Dann wäre das immer noch so, als würden wir versuchen, ein Flugzeug zu entwickeln, indem wir den Flügelschlag eines Vogels nachahmen. Oftmals entstehen die besten Entwürfe für neue Maschinen, wenn man einen neuen, maschinennahen Ansatz verfolgt, aber die Biologie nicht exakt imitiert.
Wie können wir also die Evolution simulieren, um eine AKI zu bauen? Die „genetische Algorithmen“ genannte Methode würde in etwa so funktionieren. Es gäbe einen leistungsbasieren Bewertungsprozess, der immer und immer wieder abläuft (genauso wie Lebewesen als „Leistung“ ihr Leben leben und danach „bewertet“ werden, ob sie sich fortpflanzen oder nicht). Eine Gruppe von Computern würde versuchen, Aufgaben zu lösen und die Erfolgreichsten dürften sich dann fortpflanzen, indem jeweils die Hälfte ihrer Software einen neuen Computer zeugen würden. Die weniger Erfolgreichen würden man aussortieren. Nach vielen, vielen Iterationen würde diese natürliche Auslese immer bessere Computer hervorbringen. Die Herausforderung bestünde darin, einen automatischen Bewertungs- und Fortpflanzungsprozess zu erschaffen, damit der evolutionäre Prozess selbständig ablaufen könnte.
Der Nachteil, sich die Evolution als Vorbild zu nehmen, besteht darin, dass die Evolution Milliarden von Jahren benötigte, um etwas zu bewerkstelligen, was wir in wenigen Jahrzehnten erreichen wollen.
Aber wir sind der Evolution in vielen Dingen voraus. Erstens agiert die Evolution zufällig und ohne Weitblick – sie erzeugt mehr untaugliche als taugliche Mutationen. Wir würden den Prozess aber kontrollieren und nur vorteilhafte Abweichungen und zielgerichtete Veränderungen zum Zuge kommen lassen. Zweitens hat die Evolution kein Ziel. Dies gilt auch für Intelligenz. Unter bestimmten Umweltbedingen könnte höhere Intelligenz sogar aussortiert werden (weil sie viel Energie benötigt). Im Gegensatz dazu könnten wir diesen evolutionären Prozess bewusst dahin leiten, die Intelligenz zu erhöhen. Drittens muss die Evolution zur Entwicklung von Intelligenz noch in vielen anderen Bereichen Innovationen hervorbringen – beispielsweise in der Art wie Zellen Energie produzieren. Wohingegen wir diese zusätzliche Belastung umgehen und Dinge wie Elektrizität einsetzen können. Wir wären ohne jeden Zweifel viel, viel schneller als die Evolution – es bleibt aber unklar, ob die Verbesserungen im Vergleich zur Evolution groß genug sein würden, um dies zu einer erfolgversprechenden Strategie zu machen.

3) Löse dieses ganze Problem nicht selbst, sondern lasse den Computer es selbst lösen.

Das passiert, wenn die Wissenschaftler nahe an der Verzweiflung sind und versuchen, den Test so zu programmieren, dass er sich selbst löst. Aber das könnte die erfolgversprechendste Methode sein, die wir haben.
Die Idee besteht darin, einen Computer zu bauen, dessen Hauptfähigkeit darin besteht, KI- Forschung zu betreiben und sich Veränderungen selbständig einzuprogrammieren – also nicht nur zu lernen, sondern seine eigene Architektur zu verbessern. Wir würden Computern beibringen, Informatiker zu sein und ihre eigene Entwicklung selbst voranzutreiben. Und das wäre ihre Hauptaufgabe – herausfinden, wie sie sich selbst klüger machen können. Dazu später mehr.

Das alles könnte schon bald Wirklichkeit werden

Schnelle Fortschritte im Hardwarebereich und innovative Experimente im Softwarebereich geschehen gleichzeitig. Und AKI könnte sich aus zwei wichtigen Gründen schnell und unerwartet an uns heranschleichen:
– 1)   Exponentielles Wachstum ist stark und das, was sich wie Fortschritt im Schneckentempo anfühlt, kann plötzlich hochschießen – diese GIF verdeutlicht dieses Konzept sehr schön:
– 2)   Wenn wir über Software sprechen, dann kann einem Fortschritt sehr langsam vorkommen. Aber ein einziger Durchbruch kann die Fortschrittsrate urplötzlich verändern (das ist vergleichbar mit den Problemen der Wissenschaft, die Welt im geozentrischen Weltbild zu berechnen; erst durch die Entdeckung des heliozentrischen Weltbildes gestaltete sich alles plötzlich viel einfacher). Oder wenn man an einen Computer denkt, der sich selbst verbessert: scheinbar liegt alles noch in weiter Ferne, tatsächlich könnten wir aber aber nur einen einzigen Verbesserungsschritt davon entfernt sein, 1.000mal so effektiv zu werden und auf das Niveau menschlicher Intelligenz hochzuschießen.

Der Weg von AKI zu KSI

Irgendwann in der Zukunft werden wir AKI verwirklicht haben – Computer, die menschenähnliche, allgemeine Intelligenz besitzen. Ein Haufen Menschen und Computer, die ebenbürtig zusammenleben.
Naja, tatsächlich wäre es ganz anders.
Es ist doch so: eine AKI, die das gleiche Maß an Intelligenz und Rechenleistung wie ein Mensch besitzt, hätte dennoch beträchtliche Vorteile gegenüber einem Menschen. Etwa:

Hardware

– Geschwindigkeit. Die Neuronen des Gehirns arbeiten maximal mit 200Hz. Heutige Mikroprozessoren (die deutlich langsamer sind als sie sein werden, wenn wir AKI erreichen) arbeiten mit 2GHz, also zehn Millionen Mal schneller als unsere Neuronen. Und die 120 Meter pro Sekunde der internen Kommunikation des Gehirns sind Nichts im Vergleich zur Fähigkeit des Computers, optisch mit Lichtgeschwindigkeit zu kommunizieren.
– Größe und Speicher. Die Größe unseres Gehirns wird durch die Größe unseres Schädels limitiert. Und man könnte es auch nicht viel vergrößern, weil sonst die verschiedenen Gehirnstrukturen mit 120 Meter pro Sekunde intern nicht mehr schnell genug kommunizieren könnten. Computer können sich im Gegensatz dazu zu jeder beliebigen physischen Größe ausdehnen. Das erlaubt den Einsatz von deutlich mehr Hardware, einen viel größeren Arbeitsspeicher (RAM) und ein Langzeitgedächtnis (Festplattenspeicher), das eine deutlich höhere Kapazität und Genauigkeit aufweist, als unser eigener.
– Zuverlässigkeit und Langlebigkeit. Nicht nur der Speicher eines Computers wäre deutlich zuverlässiger. Transistoren eines Computers arbeiten genauer als biologische Neuronen und sie verschlechtern sich mit geringerer Wahrscheinlichkeit (darüber hinaus können sie bei Bedarf repariert oder ausgetauscht werden). Menschliche Gehirne ermüden zudem leicht, wohingegen Computer ununterbrochen arbeiten können. Mit Höchstgeschwindigkeit. 24 Stunden pro Tag, 7 Tage die Woche.

Software:

• Editierbarkeit, Erweiterungsfähigkeit und umfangreichere Anwendungsmöglichkeiten.
Anders als das menschliche Gehirn kann Computer-Software leicht mit Aktualisierungen und Fehlerbehebungen versorgt und problemlos experimentell verändert werden. Diese Verbesserungen könnten auch ohne Weiteres Bereiche betreffen, in denen das menschliche Gehirn Schwächen zeigt. Software zum Maschinensehen ist extrem fortgeschritten, während die Fähigkeit, komplexe technische Probleme zu meistern, sehr schwach ausgeprägt ist. Computer könnten also genauso gut wie Menschen sehen, aber in gleichem Maße für technische Problemlösungen und andere Bereiche optimiert sein.
Kollektive Fähigkeiten. Menschen stellen alle andere Spezies in den Schatten, wenn es darum geht, gewaltige kollektive Intelligenz zu erzeugen. Dies begann mit der Entwicklung der Sprache und der Bildung großer, eng vernetzter Gemeinschaften, führte zur Erfindung der Schrift und des Buchdrucks und mündete schließlich in dies alles potenzierende Werkzeuge wie das Internet. Die auf diesem Weg entstandene kollektive Intelligenz ist einer der
Hauptgründe, warum Menschen all den anderen Spezies so weit davoneilen konnten. Und Computer werden darin noch viel besser werden, als wir es sind. Ein weltumspannendes Netz von KI, das ein bestimmtes Programm ausführt, könnte sich automatisch austauschen, und dabei jede Erkenntnis, die ein einzelner Computer an einem der Knoten gewinnt, sofort allen anderen Computern zur Verfügung stellen. Und dieses Computernetz könnte sich auch einem einzelnen Ziel gemeinsam verschreiben, weil es anderes als in der menschlichen Population keine abweichenden Meinungen, Motivationen und Eigeninteressen gäbe.
Q10(Bostrom, Superintelligence: Paths, Dangers, Strategies, loc. 1500-1576.)
KI wird den Schritt zur AKI am ehesten dadurch gehen, dass sie sich durch entsprechende Programmierung selbst verbessern kann. Sie würde „Intelligent wie ein Mensch“ aber nicht als besonderen Meilenstein ihrer Entwicklung betrachten – diese Stufe hat nur aus unserer Perspektive eine besondere Bedeutung. Und es gäbe auch keinen Grund, sich an diesem Punkt zu „stoppen“. Wenn man bedenkt, welche Vorteile eine menschenähnliche AKI im Vergleich zu uns hätte, dann ist es doch ziemlich einleuchtend, dass dieses Niveau nur für einen kurzen Augenblick bestehen würde, bevor es in den „übermenschlichen“ Bereich fortschreiten würde.
Wir würden uns wahrscheinlich vor Schreck ins Hemd machen, wenn das eintritt. Und das liegt daran, dass aus unserer Perspektive erstens die Intelligenz verschiedener Tierarten zwar variiert, sie aber alle gemein haben, dass sie deutlich unter unserer eigenen liegen und wir zweitens den klügsten Menschen als DEUTLICH klüger ansehen, als den dümmsten Menschen. Das sieht in etwa so aus:
Die KI klettert nach Oben in Richtung unserer Intelligenz. Wir denken, dass sie einfach klüger wird – wie ein Tier. Wenn sie dann das niedrigste menschliche Niveau erreicht – Nick Bostrom verwendet den Begriff des „Dorf-Deppen“ –, werden wir sagen: „Oh, schau mal, es ist wie ein dümmlicher Mensch. Wie süß!!!“ Es ist nur so: Das Spektrum menschlicher Intelligenz, in dem sich alle Menschen wiederfinden, vom Dorf-Deppen bis zu Einstein, ist sehr, sehr schmal. Wenn es also gerade das Dorf-Deppen-Niveau erreicht hat und von uns als AKI erkannt wird, dann wird es plötzlich klüger als Einstein sein. Und wir wissen gar nicht, was uns geschieht:
Und was passiert…danach?

Eine Explosion der Intelligenz

Ich hoffe, dir hat die normale Zeit gefallen, denn wir sind in dem Augenblick angekommen, der unnormal und beängstigend wird – und daran wird sich im Weiteren auch nichts mehr verändern. Ich möchte in diesem Moment nochmal innehalten und dich daran erinnern, dass jedes einzelne Detail, von dem ich dir berichten werde, real ist – es handelt sich um reale Wissenschaft und reale Zukunftsprognosen von einer breiten Auswahl der angesehensten Denker und Wissenschaftler. Behalte das immer im Hinterkopf.
Wie schon gesagt, gehen die meisten Modelle für das Erreichen von AKI davon aus, dass wir KI entwickeln, die sich selbst verbessert. Sobald AKI erreicht ist, wären aber auch Systeme, die nicht auf diesem Weg entstanden sind, in der Lage und klug genug, sich zu verbessern – wenn sie dies wollten.3
Wir stoßen jetzt auf ein sehr herausforderndes Konzept: rekursive Selbst-Verbesserung. Und das läuft folgendermaßen:
Ein KI-System wird auf einer gewissen Stufe – sagen wir dem Dorf-Deppen-Niveau – programmiert, die Verbesserung seiner eigenen Intelligenz als Ziel anzustreben. Sobald ihm dies gelingt, wird es klüger – vielleicht erreicht es das Einstein-Niveau. Wenn es jetzt wieder daran arbeitet, seine Intelligenz zu steigern, mit dem Intellekt Einsteins, dann wird ihm dass leichter fallen und es kann größere Sprünge machen. Diese Sprünge werden es viel klüger als jeden Menschen machen und ihm erlauben, noch größere Sprünge zu machen. Wenn die Sprünge größer werden und häufiger stattfinden, dann sprintet die AKI in Richtung Superintelligenz eines KSI-Systems. Dies wird eine Intelligenz-Explosion genannt, Q11(This
3 Mehr zum Thema, was es für einen Computer bedeutet, etwas zu „wollen“, kommt noch im zweiten Teil des Artikels.
term was first used by one of history’s great AI thinkers, Irving John Good, in 1965.) und ist das ultimative Beispiel für das Gesetz der sich beschleunigenden Erträge.
Es gibt verschiedene Meinungen darüber, wann KI das allgemeine menschliche Niveau erreichen wird. Eine Umfrage unter hunderten von Wissenschaftlern hat ergeben, dass die Befragten im Median das Jahr 2040
Strategies, loc. 660) angeben, wenn man sie fragt, ab wann nach ihrer Einschätzung die Wahrscheinlichkeit für das Erreichen von AKI größer als 50 % ist. Das liegt nur 25 Jahre in der Zukunft und erscheint nicht sehr beeindruckend. Man muss aber bedenken, dass viele der Vordenker auf diesem Gebiet einen sehr schnellen Übergang von AKI zu KSI für wahrscheinlich halten. Und so könnte das ablaufen:
Es dauert Jahrzehnte bis das erste KI-System niedrige allgemeine Intelligenz erreicht, aber es wird schlussendlich passieren. Ein Computer wird seine Umwelt genauso gut verstehen können, wie ein 4-jähriges Kind. Plötzlich, noch in der ersten Stunde nach diesem Meilenstein, spuckt das System die große vereinheitlichte Theorie der Physik aus, die die allgemeine Relativität und die Quantenmechanik vereint. Etwas das bisher noch keinen Menschen endgültig gelungen ist. 90 Minuten danach ist die KI zu einer KSI geworden – 170.000-mal intelligenter als ein Mensch.
Superintelligenz dieser Größenordnung ist nicht etwas, dass wir auch nur ansatzweise begreifen können. Genauso wenig wie eine Hummel den Keynesianismus verstehen kann. In unserer Welt gilt ein IQ von 130 als klug und ein IQ von 85 als dumm – wir haben keine Vorstellung von einem IQ von 12.952.
Aber wir wissen, dass die menschliche Herrschaft auf der Erde eine klare Regel belegt: Intelligenz führt zu Macht. Das bedeutet, dass eine gegebenenfalls von uns geschaffene KSI das mächtigste Wesen in der Geschichte des Lebens auf der Erde wird. Und alle Lebewesen, einschließlich des Menschen, werden völlig ihren Launen ausgeliefert sein – und das könnte in den nächsten Jahrzehnten Realität werden.
Wenn unsere kümmerlichen Gehirne in der Lage sind, WLAN zu erfinden, dann wird Etwas, das hundertmal, tausendmal oder eine Milliarde Mal klüger ist, keine Probleme haben, die Position jedes Atoms jederzeit nach Gutdünken zu manipulieren. Jede Magie, alle Kräfte, die wir einem allwaltenden Gott zuschreiben, wäre für die KSI eine genauso alltägliche Aufgabe, wie es das Drücken des Lichtschalters für uns ist. Die Technologie um das menschliche Altern umzukehren, die Abschaffung von Krankheit, Hunger und Sterblichkeit, die Steuerung des Wetters um das Leben auf der Erde zu schützen – das alles wäre plötzlich möglich. Genauso wie das sofortige Ende allen irdischen Lebens. So weit uns das betrifft, betritt mit der Entstehung von KSI ein omnipotenter Gott die Erde – und die alles entscheidende Frage für uns wird sein:

Wird es ein freundlicher Gott sein?

Dieser zweite Teil ist der wichtigere Part der Serie, also bitte nicht jetzt und hier aufhören zu lesen.
Sondern jetzt auf den zweiten Teil klicken und ihn lesen!
.
[box type=“shadow“ ]Auf WaitButWhy.com erscheinen neue Art in unregelmäßigen Abständen. Du kannst neue Artikel per Email erhalten – wie über 215,000 andere Leser auch—gib deine Email-Adresse hier ein, und du bekommst einen Hinweis auf neue Artikel (auf Englisch) per Email automatisch. You can also follow WaitButWhy on Facebook and Twitter.[/box]

  • Andreas Benz

    Sehr geehrter Herr Eich,

    zunächst einmal Danke für diesen interessanten Artikel, wir sind ein recht junges Startup welches sich mit KI beschäftigt. Wir stehen kurz vor unserem ersten Pitch.

    Wir haben eine KI entwickelt, welche sich wie sie es beschreiben in die Kategorie AKI einteilen lässt und meiner Meinung nach, wie sie es bereits erwähnten die Erde grundlegend verändern wird.

    Hierzu würde ich gerne ein persönliches Gespräch mit Ihnen aufsuchen.

    Meine Email lautet wie folgt: cuyl@outlook.de

    Bis dahin verbleibe ich…

    Mit herzlichen Grüßen

    Andreas Benz