Zusammenfassung von Superintelligenz

In den 40er-Jahren begannen Ingenieure, sich mit einer kniffligen Aufgabe auseinanderzusetzen: der Entwicklung einer denkenden Maschine. Seither haben wir Menschen es mit diesem Unterfangen schon ziemlich weit gebracht.

Im 20. Jahrhundert waren dabei vor allem zwei Projekte wichtige Meilensteine. Das eine war das Dartmouth Summer Project, eine Konferenz im Jahr 1956, die sich mit der Entwicklung von künstlicher Intelligenz beschäftigte. Die Tüftler dort entwickelten Programme, die nicht nur Rechenaufgaben lösen, sondern auch Musik komponieren oder Autos fahren konnten. Das Problem zu dieser Zeit war allerdings der Arbeitsspeicher: Es stand einfach nicht genug davon zur Verfügung, um solche komplexen Programme auszuführen.

Es deutet sich schon heute an, dass eine Superintelligenz auf einem von zwei Wegen entwickelt werden wird: Entweder wird sie aus einer künstlichen Intelligenz (KI) hervorgehen, oder aus der Nachbildung eines menschlichen Gehirns – der Whole Brain Emulation (WBE).

Zu beiden dieser möglichen Wege gibt es bereits umfangreiche Forschung, und sowohl die Entwickler der künstlichen Intelligenz als auch die der WBE versuchen, das Denken vom Menschen auf die Maschine zu übertragen. Der Unterschied: Die KI geht dabei von den abstrakten Gedanken aus, die quasi in digitale Nullen und Einsen übersetzt werden, die WBE versucht die Hardware des Gehirns nachzuahmen.

Egal, ob die erste Superintelligenz das Licht der Welt durch die Weiterentwicklung von KI oder WBE erblicken wird – entscheidend ist vor allem, wer sie entwickeln wird.

Dabei gibt es zwei mögliche Szenarien. Im ersten Szenario gelingt einer abgeschotteten Gruppe von Wissenschaftlern der Durchbruch. Das Ergebnis wäre eine isolierte Superintelligenz, die z.B. nicht mit dem Internet verbunden ist, sondern ganz autark existiert.

Da die Superintelligenz klüger sein wird als wir alle zusammen, sollten wir möglichst schon bei ihrer Entwicklung sicherstellen, dass sie in unserem Sinne und nicht gegen uns handeln wird.

Dazu müssen wir einen Weg finden, ihr menschliche Werte beizubringen und diese als Handlungsmotivation fest zu verankern. Diese Werte muss die SI bei allen ihren Entscheidungen im Hintergrund berücksichtigen. Wenn wir einer Superintelligenz z.B. den scheinbar harmlosen Auftrag geben, so viele Büroklammern wie möglich zu produzieren – woher weiß sie dann, wann sie damit aufhören muss? Ohne ein entsprechendes Wertesystem als Basis würde sie die komplette Welt in einen riesigen Haufen Büroklammern verwandeln.

Bei dem obigen Beispiel mit den Büroklammern ist es schon kurz angeklungen: Eine SI wird in der Lage sein, alle möglichen Aufgaben viel besser und effizienter auszuführen als wir Menschen. Um genauer zu sein – alle Aufgaben. Da die Superintelligenz uns vollkommen überlegen ist, müssen wir davon ausgehen, dass wir alle schon relativ bald nach dem Auftreten der SI überhaupt nicht mehr arbeiten müssen.

Alle Einschränkungen der menschlichen Arbeit wären abgeschafft: Roboter, die von einer SI gesteuert werden, werden niemals müde, sie konzentrieren sich immer perfekt und sie können sich, falls etwas kaputt geht, selbst um ihre Reparatur kümmern. Und wenn doch mal eine Maschine überarbeitet ist, könnte sie in Nullkommanichts von einer neuen Einheit ersetzt werden. Diese könnte so programmiert werden, dass sie denkt, sie sei gerade aus dem Urlaub zurückgekommen.

Bisher klang es ja ziemlich verlockend, dass vermutlich ein Leben ohne Arbeit und lästige Aufgaben auf uns wartet. Die Sache hat allerdings auch einen Haken: Wer nicht arbeitet, verdient auch kein Geld.

Die Entstehung von Superintelligenz würde unser gesamtes Wirtschaftssystem komplett umkrempeln. Es gäbe so gut wie keine Jobs mehr, die einzigen, die noch Arbeit hätten, wären einige Programmierer und vielleicht ein paar Techniker und Ingenieure. Diese Menschen sowie diejenigen, die an der Superintelligenz verdienen, weil sie z.B. die entsprechenden Produktionsanlagen besitzen, würden im Verhältnis zu der Masse an Menschen, die plötzlich arbeitslos wären, sehr viel Geld verdienen.

Es ist klar, dass die Entwicklung einer Superintelligenz viele Gefahren birgt. Im schlimmsten Fall könnte sogar die gesamte Menschheit ausgerottet werden. Ein paar Maßnahmen kann man gegen eine Horde aufgebrachter Roboter natürlich ergreifen, aber das allein wird uns im Ernstfall nicht genügen.

Was also tun?

Die Kernaussage dieses Buchs ist:

Nach dem momentanen Stand der technischen Entwicklung zu urteilen werden wir in ca. 90 Jahren eine Superintelligenz erschaffen haben: eine Maschine, die uns Menschen auf allen Gebieten überlegen ist. Bevor es soweit ist, sollten wir genau über die Risiken und Chancen dieser revolutionären Erfindung nachdenken und möglichst präzise Sicherheitsmaßnahmen bei ihrer Entwicklung ergreifen.