Titelstory

Die Zukunft der KI, laut diesem verrückten Wissenschaftler

von Lisa Wirthman

Die KI begann als Idee von Forschern in den 1950er-Jahren, die nun beinahe ausgereift ist. Wie können wir verantwortungsvoll durch die nächste Intelligenzwelle führen?

Lesezeit: 08 Minuten

DIESEN ARTIKEL LESEN


Vor zwanzig Jahren schockierte der Deep Blue Computer von IBM die Welt, indem er den Schachweltmeister Garry Kasparov besiegte, der den Beginn des Wettbewerbs zwischen Mensch und Maschine hautnah erlebte. Seine Größe von 1,95 m und sein Gewicht von nahezu vier Tonnen machten Deep Blue zu einem ernstzunehmenden Gegner. Was Deep Blue für die Öffentlichkeit besonders machte, war jedoch nicht seine Größe, sondern die Intelligenz hinter der Maschine. Zeitschriften weltweit stellten die Frage: „War das das letzte Gefecht des Gehirns?“

„Mad“ Max Tegmark, ein für seine unorthodoxen Ideen bekannter MIT-Physiker, ist nicht ganz davon überzeugt, dass Roboter Menschen überwältigen werden – zumindest noch nicht.

„Auf engen Aufgabengebieten wie Arithmetik ist die KI besser als jeder Mensch. Aber sie kann nicht, was jedes Kind kann: lernen, mit ausreichender Bemühung gut in einer bestimmten Sache zu werden“, erklärt er.

Dennoch ermutigt Tegmark uns, über eine Zukunft nachzudenken, in der wir von superintelligenten Maschinen bei jeder Aufgabe überlistet werden können. Die von Computer-Wissenschaftlern in den 1950er-Jahren kreierte Erfindung – KI – erfährt derzeit einen enormen Wachstumsschub und definiert die Art, in der wir denken, leben und arbeiten neu. Gleichzeitig verbreitet sie die Sorge, dass Maschinen menschliche Jobs übernehmen, oder noch schlimmer, eine Roboter-Superspezies gründen werden.

Als Mitgründer und Präsident des Future of Life-Instituts, Autor von „Leben 3.0: Mensch sein im Zeitalter Künstlicher Intelligenz„, und der visionäre Kopf hinter mehr als 200 technischen Studien ist Tegmark eine Autorität in Sachen KI. Für ihn bleibt die Frage, „Wird die KI eines Tages klüger als ihre Gründer sein?“

Ein eigenes Bewusstsein

KI – die Fähigkeit einer Maschine, intelligentes, menschliches Verhalten nachzuahmen – ermöglicht es einem Computer derzeit, eine Vielzahl von Aufgaben auszuführen.

Die KI ermöglicht es uns, unseren Schlafrhythmus nachzuvollziehen und zu verbessern, Geschäftstreffen zu planen und neue Socken mit Hilfe eines Sprachassistenten zu bestellen. Für Unternehmen trifft es Entscheidungen über Börsengeschäfte, bestellt Lagerbestände und definiert den Einstellungsprozess neu (kein Durchforsten von auf Papier gedruckten Lebensläufen mehr). Die KI fördert auch die Wissenschaft und das Gesundheitswesen, einschließlich der Entdeckung neuer Planeten und der Diagnose von Augenerkrankungen.

Im Jahr 2018 wird die sogenannte schmale KI entwickelt, um bestimmte, ihr zugewiesene Aufgaben zu erfüllen. Diese umfassen beispielsweise die Bedienung eines selbstfahrenden Autos oder die Einbringung relevanterer Inhalte in einen Feed in den sozialen Medien. Aber schon jetzt beginnt sie, viel mehr als das zu tun. Entwicklungen wie das „tiefe Lernen“ (eine Untergruppe der KI, das die Prozesse der Datenverarbeitung und Mustererkennung verwendet, um improvisierte Entscheidungen zu treffen) geben uns einen Einblick in die Zukunft der KI.

Der Schritt über das tiefe Lernen hinaus ist ein Konzept namens „künstliche allgemeine Intelligenz“ (KAI), bei dem Maschinen eine Vielzahl von Aufgaben selbstständig wahrnehmen, ergründen und erlernen können. Durch KAI erfüllen Computer nicht nur die Aufgaben, die man ihnen zuteilt – Sie werden anpassungsfähig und teilen sich neue Aufgaben basierend auf dem angewandten Lernansatz zu. (Wenn Sie beispielsweise Ihre Schuhe zubinden können, können Sie gemäß der allgemeinen Intelligenz auch andere Arten von Knoten binden – z. B. auf einem Schiff oder beim Einpacken eines Geschenks.)

Laut Tegmark sind Maschinen weit davon entfernt, diesen Sprung zu schaffen und selbstständig denken zu können. Bis kognitive Funktionen wie das adaptive Lernen in die künstliche Intelligenz aufgenommen werden, manipuliert die heutige Technologie laut Tegmark eher, als dass sie vernichtet.

„Anstatt uns vor Killerrobotern zu fürchten, die versuchen uns zu töten“, schreibt Historiker Yuval Noah Harari in einer Rezension über Tegmarks Buch,[Tegmark shows us] zeigt uns Tegmark, dass wir uns mehr Sorgen über Horden von Bots machen sollten, die unsere Emotionen noch besser als unsere eigene Mutter ausnutzen können.“

Zusätzlich zur Manipulation unserer Gefühle kann diese fortschrittliche KI auch dazu verwendet werden, unsere Ausgabengewohnheiten sowie die Art, in der wir Nachrichten aufnehmen, zu ändern oder sogar unsere philosophischen und politischen Ideale zu beeinflussen. Damit die KI jedoch ihre Jugendphase erreichen kann, muss sie sich erst auf ihre neuralen Fähigkeiten des tiefen Lernens verlassen, um ein selbständiges Bewusstsein zu entwickeln.

 

„Alles, was ich an der Zivilisation liebe, ist das Produkt der Intelligenz. Wenn wir unsere menschliche Intelligenz mit KI verstärken und die größten Probleme von heute damit lösen, könnte die Menschheit dadurch aufleben wie nie zuvor.“

„Mad“ Max Tegmark

Leben 3.0

„Mad“ Max Tegmarks Spitzname könnte teilweise auf seine Überzeugung, dass Intelligenz nicht auf biologische Organismen beschränkt ist, zurückgeführt werden.

„Ich definiere Intelligenz sehr inklusiv, einfach als die Fähigkeit, komplexe Ziele zu erreichen, da ich sowohl die biologische als auch die künstliche Intelligenz berücksichtigen möchte“, erklärt Tegmark. „Ich möchte diese Idee des Kohlenstoffchauvinismus vermeiden, dass man nur intelligent sein kann, wenn man aus Fleisch und Blut gemacht ist.“

In seinem Buch stellt Tegmark drei Intelligenzentwicklungen dar. Wenn Leben 1.0 eine grundlegende biologische Form wie Bakterien darstellt, die vorprogrammiert ist, dann bezieht sich Leben 2.0 auf den Menschen, dessen physische „Hardware“ Jahre braucht, um sich zu entwickeln, dessen Intelligenz jedoch ständig durch Lernen neu programmiert wird.

Von der Druckmaschine über das Internet bis hin zu Entwicklungen im Medizin- und Freizeitbereich hat Leben 2.0 seine Fähigkeit bewiesen, sich im Laufe des Lebens anzupassen. Gleichzeitig wird unser Wachstum durch die langsame menschliche Evolution, unsere Hardware, grundlegend beschränkt. Niemand erreicht eine Lebensspanne von einer Million Jahren, kann sich das Gesamtvolumen der Wikipedia merken oder eine Reise ins Weltall ohne ein Raumschiff antreten.

Die technisch anspruchsvollste Stufe der Intelligenz ist laut Tegmark Leben 3.0, das nicht nur seine eigene Software durch Lernen entwerfen, sondern auch seine Hardware aktualisieren kann. Das Implantieren von künstlichen Knien und Schrittmachern mag Menschen als Leben 2.1 klassifizieren, aber unsere DNA können wir nicht drastisch ändern, sagt Tegmark. Frei von den Einschränkungen eines biologischen Körpers und somit einer definierten Lebensdauer, wird die nächste Ebene des Lebens theoretisch in der Lage sein, kontinuierlich zu lernen und sich physisch anzupassen.

„Leben 3.0 wird Herr seines eigenen Schicksals sein“, schreibt Tegmark, „und endlich vollständig von seinen evolutionären Fesseln befreit sein“.

Viele KI-Forscher glauben, dass Leben 3.0 noch in diesem Jahrhundert eintreffen wird. Aus diesem Grund hält Tegmark es für wichtig, dass Innovatoren Ihre Rolle in diesem Übergang berücksichtigen. „Ich bin zuversichtlich, dass wir anhand der KI eine inspirierende Zukunft schaffen können, aber das wird nicht automatisch passieren. Es erfordert Planung und Arbeit“, erklärt er. „Wenn wir es richtig machen, könnte KI das Beste werden, das der Menschheit jemals passiert ist.“

Für Tegmark bedeutet dies, das notwendige Wissen zur Verwaltung neuer Technologien zu entwickeln. Anstatt Panik zu verbreiten, setzt er sich dafür ein, dass mögliche technologische Dilemmas verstanden werden.

Zum Beispiel: Nehmen wir an, ein großes Zivilflugzeug kann so programmiert werden, dass es nicht in stationäre Objekte rasen und den Passagieren somit eine sichere Reise garantieren kann. Aber was passiert, wenn sie so programmiert werden, dass sie stattdessen etwas Schreckliches tun? Oder was wäre, wenn superintelligente Maschinen eines Tages unsere Ziele neu interpretieren würden? Was passiert zum Beispiel, wenn ein KI-Controller entscheidet, dass eine Kollision mit einem stationären Objekt am besten verhindert werden kann, indem das Flugzeug vollständig zerstört wird?

Aus diesem Grund betonen Tegmark und andere führende Forscher im KI-Bereich die Rolle der Ethik – Maschinen soll beigebracht werden, Ziele zu verfolgen, von denen die Menschheit profitiert.

„Jetzt wo unsere Maschinen klüger werden, ist es für uns an der Zeit, Ihnen Grenzen beizubringen“, fügt Tegmark hinzu. „Jeder Ingenieur muss beim Entwurf einer Maschine nachfragen, ob es Fähigkeiten gibt, über die sie verfügen, diese aber nicht anwenden soll, und überlegen, ob es einen praktischen Weg gibt, einen böswilligen oder ungeschickten Benutzer davon abzuhalten, Schaden zu verursachen.

In der Kindheit der KI gibt es einen potenziellen Punkt, an dem es kein Zurück mehr gibt, erklärt Tegmark. Deswegen müssen wir Maschinen unsere Ziele vermitteln und sicherstellen, dass sie diese verfolgen und beibehalten, bevor sie uns als ungehorsame Teenager überrumpeln. „Eine superintelligente KI wird hervorragend darin sein, ihre vorgegebenen Ziele zu erreichen“, bemerkt er, „und wenn diese Ziele nicht mit unseren übereinstimmen, sind wir in Schwierigkeiten.

Während es unmöglich ist, festzustellen, wie verschiedene Unternehmen und Länder ihre eigenen ethischen Grundsätze entwickeln, ist es für Tegmark entscheidend, dass wir es trotzdem versuchen.

„Wir wissen auch nicht, ob unsere Kinder unsere Ziele beibehalten werden, wenn Sie uns im Erwachsenenalter intellektuell überlegen sind“, merkt er an. „Das bedeutet nicht, dass wir keine verantwortungsbewussten Eltern sein und unser Bestes tun sollten, um ihnen unsere bestmöglichen Werte mit auf den Weg zu geben.“

Eine ethische Zukunft schaffen

Eine der größten KI-Herausforderungen besteht momentan darin, dass sich die Technologie schneller als die Sicherheitsforschung und -regelung in diesem Bereich entwickelt. Deswegen ist Tegmark der Ansicht, dass wir unsere Energie darauf fokussieren sollten, mit der Innovation Schritt zu halten, anstatt sie aufzuhalten.

„Es ist viel einfacher, das Rennen durch das Beschleunigen der KI-Sicherheitsforschung zu gewinnen, die [today] heute viel weniger Aufmerksamkeit und Finanzierung erhält“, sagt er.

Das Future of Life-Institut trägt seinen Teil dazu bei, Ergebnisse in der Forschung und dem Konsens zu erzielen. Tegmarks Organisation sponserte zwei Konferenzen, eine im Jahr 2015 und die zweite 2017, um führende Wissenschaftler und Fachexperten wie Elon Musk und Larry Page zusammenzubringen und die Sicherheit der KI zu diskutieren. Auf der Konferenz im Jahr 2017 unterzeichneten mehr als tausend KI-Forscher von überall auf der Welt die KI-Leitsätze von Asilomar. Das Abkommen beinhaltet 23 Leitsätze für die KI, einschließlich der Notwendigkeit, Sicherheitsstandards für die KI zu entwickeln, die mit menschlichen Werten übereinstimmen.

Und während Tegmark davon überzeugt ist, dass Roboter eines Tages intelligenter als Menschen sein werden, konzentriert er sich viel mehr auf die Aktionen der Roboter als auf ihre Gefühle. Sorgen darüber, ob Roboter ein Bewusstsein haben (à la „Westworld“), seien laut ihm bei der Bewertung von KI-Risiken irrelevant. Man darf nicht vergessen, dass man kein Bewusstsein haben muss, um ein Ziel zu haben. (Eine wärmegesteuerte Rakete hat eine Mission und stellt ein Sicherheitsrisiko dar, ohne ein Bewusstsein zu besitzen.)

Natürlich ist die Verfahrensweise bei zukünftigen Robotern mit Gefühlen ein Thema, das von Philosophen und Menschenrechtsorganisationen bereits häufig besprochen und auch weiterhin diskutiert werden wird. Die Gründer des Nonhuman Rights-Projekts, einem gemeinnützigen Projekt mit Sitz in Florida (USA) zum Schutz von Schimpansen, Gorillas und Orang-Utans, sind der Meinung, dass dieselben Prinzipien auch für Roboter gelten sollten.

Steven Wise, von der Rechtsabteilung der Organisation, äußerte sich gegenüber NBC News: „Wir sollten dieselben moralischen und rechtlichen Verantwortlichkeiten gegenüber [robots] Robotern haben, die wir gegenüber Tieren entwickeln.“

Trotzdem rät Tegmark, den KI-Forschern, gemeinnützigen Organisationen oder Philosophen nicht alle Entscheidungen zu überlassen: Wir müssen anfangen, gemeinsam mit unseren Familien, Freunden, Kollegen und gewählten Mandatsträgern über unsere eigenen Ziele für die Zukunft der KI zu sprechen. Wichtige politische Erwägungen für die KI umfassen die Finanzierung der KI-Sicherheitsforschung, die Aushandlung eines internationalen Abkommens zur Verbannung tödlicher KI-Waffen und die Erwägung, wie durch KI-Fortschritte geschaffene Reichtümer gerecht verteilt werden können.

Indem wir eine allgemeine Debatte über die Zukunft der KI anstoßen, können wir unsere kollektive, kognitive und emotionale menschliche Intelligenz dafür nutzen, eine vorteilhafte Zukunft für die KI zu schaffen, merkt Tegmark an.

„Alles, was ich an der Zivilisation liebe, ist das Produkt der Intelligenz“, fügt er hinzu. „Wenn wir unsere menschliche Intelligenz mit KI verstärken und die größten Probleme von heute damit lösen, könnte die Menschheit dadurch aufleben wie nie zuvor.“