Vor 13 Jahren (im Jahr 2000) schrieb Billy Joy, seinerzeit „Chief Scientist“ bei der Softwarefirma Sun und Technologie-Berater unter dem amerikanischen Präsidenten Bush, einen aufsehenerregenden Artikel mit dem Titel „Warum die Zukunft uns nicht braucht“ (erschienen in der FAZ). In diesem warnte der Experte insbesondere vor den Gefahren Robotik, Gentechnik und Nanotechnologie.
Die Thesen, die er äußert, sind nach Auffassung des Bloggers auch heute noch brandaktuell und sollen daher an dieser Stelle in Auszügen wiedergegeben werden.
Auslöser für den Joys Artikel war eine Begegnung mit Ray Kurzweil, seines Zeichens begeisterter Befürworter der Verschmelzung von Mensch und Maschine (sogenannte Singularität, Ziel: Unsterblichkeit), Buchautor und mittlerweile Leiter der technischen Entwicklung bei Google.
Ein Zitat aus Kurzeils Buch „Homo Sapiens. Leben im 21. Jahrhundert.“ beunruhigte ihn besonders. „Zunächst einmal wollen wir annehmen, dass es den Computerwissenschaftlern gelingt, intelligente Maschinen zu entwickeln, die alles besser können als der Mensch. In diesem Fall wird alle Arbeit wahrscheinlich von riesigen, hochorganisierten Maschinensystemen erledigt, so dass man auf menschliche Arbeit verzichten kann. Dann gibt es zwei Möglichkeiten: Man könnte den Maschinen erlauben, ihre Entscheidungen selbst und ohne menschliche Kontrolle zu treffen, oder der Mensch könnte die Kontrolle über die Maschinen behalten. Falls man den Maschinen erlaubt, ihre Entscheidungen selbst zu treffen, lassen sich die Ergebnisse nicht abschätzen, denn wir können unmöglich voraussehen, wie solche Maschinen sich verhalten werden…“
Erschüttert hat ihn, dass dieses Zitat seinen Ursprung bei dem als „Unabomber“ bekannten Terroristen Theodore Kaczynski hatte. Doch er konnte die Logik der Argumentation nicht ganz von sich weisen und fühlte sich nach Lektüre des Buches „Computer ergreifen die Macht“ (Autor war der führende Robotik-Forscher Hans Moravec) überraschend bestätigt.
„Da wir ständig neue wissenschaftliche Durchbrüche erleben, müssen wir uns erst noch klar machen, dass die stärksten Technologien des einundzwanzigsten Jahrhunderts – Robotik, Gentechnik und Nanotechnologie – ganz andere Gefahren heraufbeschwören als die bisherigen Technologien. Vor allem Roboter, technisch erzeugte Lebewesen, und Nanoboter besitzen eine gefährliche Eigenschaft: Sie können sich selbständig vermehren. Eine Bombe explodiert nur einmal, ’aus einem einzigen Roboter können viele werden, die rasch außer Kontrolle geraten.“
„Und am gefährlichsten ist wohl die Tatsache, dass selbst Einzelne und kleine Gruppen diese Technologien missbrauchen können. Dazu benötigen sie keine Großanlagen und keine seltenen Rohstoffe, sondern lediglich Wissen. An die Stelle der Massenvernichtungswaffen tritt damit die Gefahr einer wissensbasierten Massenvernichtung, die durch das hohe Vermehrungspotential noch deutlich verstärkt wird.“
„Offenbar erkennen Wissenschaftler und Techniker die Folgen ihrer Entdeckungen und Innovationen häufig nicht, solange das Fieber der Neuerungen sie gefangen hält. Wir haben uns lange von dem unbändigen Wunsch nach Erkenntnis treiben lassen, der das Wesen der Wissenschaft ausmacht, und dabei übersehen, dass der ständige Drang zu neuen, leistungsfähigeren Technologien ein Eigenleben entwickeln kann.“
„Die Robotik träumt zunächst einmal davon, intelligente Maschinen könnten uns die Arbeit abnehmen, uns ein Leben in Muße ermöglichen und wieder in den Garten Eden zurückversetzen. George Dyson warnt jedoch in seinem Buch ‚Darwin Among the Machines‘, in dem er die Geschichte solcher Ideen nachzeichnet: ‚Im Spiel des Lebens und der Evolution sitzen drei Spieler am Tisch: der Mensch, die Natur und die Maschinen. Ich bin entschieden auf der Seite der Natur. Aber ich fürchte, die Natur steht auf der Seite der Maschinen.‘ Dieser Meinung ist auch Moravec, wenn er sagt, wir könnten die Begegnung mit der überlegenen Spezies Roboter möglicherweise nicht überleben.
Wie schnell ließe sich solch ein intelligenter Roboter realisieren? Angesichts der zu erwartenden Fortschritte in der Rechnerleistung wäre dieser Schritt bis 2030 vorstellbar. Und wenn erst einmal ein intelligenter Roboter existiert, ist es nur noch ein kleiner Schritt hin zu einer Spezies intelligenter Roboter, das heißt zu einem Roboter, der Kopien seiner selbst herzustellen vermag.
Die Robotik träumt des Weiteren davon, den Menschen schrittweise durch Robotertechnologie zu ersetzen, so dass wir gleichsam Unsterblichkeit erlangen, indem wir unser Bewusstsein abspeichern; diesen Prozess meinte Danny Hillis, als er davon sprach, wir würden uns schrittweise daran gewöhnen; und diesen Prozess beschreibt auch Ray Kurzweil mit so gesetzten Worten in seinem Buch ‚The Age of the Spiritual Machines‘. (Anfänge sehen wir bereits in der Implantation von Computerchips in den menschlichen Körper.)
Doch wenn wir uns in unserer eigenen Technologie abspeichern, welche Chance haben wir dann, hinterher noch wir selbst oder auch nur menschliche Wesen zu sein? Mir scheint es sehr viel wahrscheinlicher, dass ein Roboter nichts mit einem Menschen in unserem Verständnis zu tun hat, dass die Roboter keineswegs unsere Kinder sein werden und dass auf diesem Wege das Menschsein verloren gehen wird.“
„Wie die Kerntechnik, so lässt sich leider auch die Nanotechnologie leichter für zerstörerische als für konstruktive Zwecke nutzen. Die Nanotechnologie bietet leicht erkennbare militärische und terroristischen Anwendungsmöglichkeiten, und man braucht nicht einmal ein Selbstmörder zu sein, um destruktive nanotechnische Instrumente massiv einzusetzen, denn diese Instrumente lassen sich so konstruieren, dass sie ihre Zerstörungskraft selektiv entfalten und zum Beispiel nur bestimmte Regionen oder bestimmte Menschen mit spezifischen genetischen Merkmalen treffen.“
„Die Technologien, die in den atomaren, biologischen und chemischen Massenvernichtungswaffen des 20. Jahrhunderts Anwendung finden, waren und sind weitgehend militärischen Charakters und wurden in staatlichen Forschungseinrichtungen entwickelt. In deutlichem Gegensatz dazu handelt es sich bei Gentechnik, Nanotechnologie und Robotik um kommerziell genutzte Technologien, die fast ausschließlich von privaten Unternehmen entwickelt werden. In unserer Zeit eines triumphierenden Kommerzialismus liefert die Technologie unter Zuarbeit der Wissenschaft – eine Reihe nahezu magischer Erfindungen, die Gewinne unerhörten Ausmaßes versprechen. Aggressiv folgen wir den Versprechen dieser neuen Technologien innerhalb eines entfesselten, globalisierten Kapitalismus mit seinen vielfältigen finanziellen Anreizen und seinem Wettbewerbsdruck.
Wir hätten aus dem Bau der ersten Atombombe und dem atomaren Wettrüsten, das darauf folgte, etwas lernen sollen. Wir haben damals große Fehler gemacht, und die Parallelen zur gegenwärtigen Situation sind beängstigend.“
“ Auf ähnliche Schwierigkeiten stieße die Konstruktion von Schutzschilden gegen Robotik oder Gentechnik. Diese Technologien sind zu mächtig, als dass wir uns in der zur Verfügung stehenden Zeit vor ihnen schützen könnten. Und selbst wenn wir solche Schutzschilde entwickeln könnten, wären die Nebenwirkungen ihrer Entwicklung mindestens ebenso gefährlich wie die Technologien, vor denen sie uns schützen sollen.
Diese Möglichkeiten sind also sämtlich entweder nicht wünschenswert oder nicht realisierbar oder beides zugleich. Die einzig realistische Alternative, die ich sehe, lautet Verzicht: Wir müssen auf die Entwicklung allzu gefährlicher Technologien verzichten und unserer Suche nach bestimmten Formen des Wissens Grenzen setzen.“
„Angesichts ihrer kommerziellen Bedeutung erforderte ein Verzicht Überwachungssysteme, wie man sie für biologische Waffen geschaffen hat, nur dass sie in diesem Fall ganz andere Größenordnungen annehmen müssten.“
Der vollständige Artikel ist einsehbar unter folgendem Link.
Technologiewahn - Eine Gefahr für die Menschheit. 