HOME
stern-Gespräch

Ranga Yogeshwar und Miriam Meckel: "Was passiert, wenn Maschinen intelligenter werden als wir selbst?

Ranga Yogeshwar, Physiker und Fernsehmoderator, und die Kommunikationswissenschaftlerin Miriam Meckel glauben, dass Computer künftig Gedanken lesen und uns beherrschen könnten. Eine Katastrophe, findet er. Bloß nicht bange machen lassen, findet sie.

Ranga Yogeshwar und Miriam Meckel über künstlicher Intelligenz

Miriam Meckel und Ranga Yogeshwar trafen sich zum stern-Gespräch in seinem Büro in Hennef bei Bonn

Kennen Sie Ihren Intelligenzquotienten?

Yogeshwar: Ja, aber ich sage ihn nicht.

Meckel: Ich sage ihn lieber auch nicht.

Frau Meckel, Sie waren schon mit 31 Jahren Professorin. Und Sie, Herr Yogeshwar, erklären in Wissenssendungen anderen die Welt. Ihr IQ dürfte ziemlich hoch sein. Darum werden viele Menschen Sie beneiden.

Yogeshwar: Der Zweck vieler IQ-Tests ist Sortierung, und die lehne ich ab. Man fängt mit diesem fragwürdigen Messinstrument an zu sagen: der ja, der nein. Schaut euch um: Intelligenz wird in unterschiedlichen Kulturen unterschiedlich beurteilt.

Meckel: Klar ist es schön, wenn man bestätigt bekommt, dass man klug ist. Allerdings gibt es bei uns so eine Elitendiskussion, die am IQ entlang geführt wird und sehr schnell in die Irre führt. Der IQ ist ein zu einfaches Maß für komplexe Intelligenz. Es gibt Bereiche, da bin ich ganz schlecht. Geografie zum Beispiel. Da bin ich die, die anderen hinterherläuft.

Da gibt es inzwischen ja Hilfe – Navigationsgeräte. Freundliche Apparate mit perfektem Orientierungssinn.

Yogeshwar: Das ist praktisch, aber auch bedenklich. Wir verlieren unsere Fähigkeit, uns zu orientieren, delegieren diese an eine Maschine, und am Ende haben wir diese Fertigkeit verloren und werden abhängig – die Maschine hilft uns nicht aus, sondern sie leitet uns.

Meckel: Ich wäre ohne Navi aufgeschmissen. Dass bald alle Lebensbereiche von Assistenten besiedelt sein werden, finde ich allerdings schwierig. Ein Apparat namens Thermomix sagt uns millimetergenau, wie viel von diesem oder jenem in die Maschine soll. Das Schöne am Essen ist ja nicht nur das Essen, sondern auch das Vorbereiten, das Improvisieren …

Yogeshwar: ... kochst du?

Meckel: Ja. Meistens ohne Kochbuch, nach Gefühl.

Sie beschäftigen sich beide mit künstlicher Intelligenz, also mit der Frage, wozu Computer künftig in der Lage sein werden. Schon heute ahmen sie unsere Denk- und Handlungsmuster nach und entwickeln sie weiter. Spielt unsere natürliche Intelligenz bald keine große Rolle mehr?

Yogeshwar: Computer werden immer leistungsfähiger, doch inzwischen versuchen wir Menschen auch, uns selbst zu optimieren: An diesem Morgen haben etwa 120.000 Schüler in Deutschland den Wirkstoff Methylphenidat eingenommen, bekannt als Ritalin. Vor 25 Jahren wurden bundesweit pro Jahr nur etwa fünf Kilo konsumiert. Inzwischen sind es mehrere Tonnen! Das ist ein hochwirksames Medikament – und es wird von Gesunden, von Schülern und Studenten zum Beispiel, genommen, um die Gehirnleistung zu pushen. Eltern unterstützen das, denn sie wollen unbedingt, dass ihr Kind im Spiel bleibt.

Frau Meckel, Sie haben selbst Ritalin ausprobiert bei Recherchen zu Ihrem Buch, um zu testen, wie sich so ein Tuning anfühlt.

Meckel: Ich war nicht mehr ich selbst. Ich konnte zwar alles machen, bei dem es um Struktur und Ordnung geht. Auswendig lernen zum Beispiel, das geht mit den Pillen super. Oder 14 Stunden am Stück an irgendeiner Tabelle arbeiten, Keller aufräumen – alles kein Problem. Aber ich war entfremdet von mir, jede Kreativität war weg. Schöne Texte schreiben, die nicht wie eine automatisierte Aneinanderreihung von Sätzen klingen, das war unmöglich.

Im Silicon Valley wird daran geforscht, wie Menschen über eine Cloud alles vorhandene Wissen anzapfen könnten. Verglichen damit klingt Ritalin fast schon lächerlich nach Old School.

Meckel: Nehmen wir das Zukunftsszenario von Elon Musk. Er hat die Vision, dass unsere Gehirne im Jahr 2050 über eine sehr starke Funkverbindung miteinander vernetzt sein könnten. Aus vielen einzelnen Gehirnen entstünde ein gemeinsames Bewusstsein. Und dieses Bewusstsein wäre an eine intelligente Cloud angeschlossen. Das wäre dann ganz praktisch die Verbindung von menschlicher Intelligenz und künstlicher Intelligenz. 2050 halte ich für sehr ambitioniert, wir reden über die sehr ferne Zukunft – aber dass eine solche Vision Wirklichkeit wird, kann ich mir vorstellen.

Dafür müsste sich jeder ein Implantat in den Kopf setzen lassen.

Meckel: Wenn es um die Frage geht, mitzuhalten, dann sind die Menschen zu vielem bereit. Absurdes Doping bei Sportlern, ästhetische Chirurgie – da sieht man das gut.

Yogeshwar: Ich bin skeptisch, ob sich das Gehirn bis ins Detail erforschen und vernetzen lässt. Ich halte das für Science-Fiction. Das Gehirn ist die komplexeste Struktur, die wir kennen, und alle unsere Gehirne sind unterschiedlich. Es wird höchstens rudimentäre Übersetzungen aus der biologischen in die elektronische Welt geben.

Die rudimentären Übersetzungen sind spektakulär. In Amerika wurde vor einigen Jahren für Gelähmte ein Gerät entwickelt: Elektroden messen die Aktivität von Nervenzellen, über ein Computerprogramm werden die Aktivierungsmuster ausgelesen. Allein über Gedanken kann ein Radio oder ein Rollstuhl angesteuert werden. "BrainGate" nennen die Forscher dieses System: Tor zum Gehirn.

Meckel: Heute gelingt es zwar, erst mal nur ganz bestimmte, sehr kleine Bereiche im Gehirn anzusteuern. Aber Schritt für Schritt werden wir besser in der Erkennung dieser Signalmuster.

Yogeshwar: Ein Parkinson-Patient oder ein Locked-in-Patient, der bei Bewusstsein ist, aber nicht kommunizieren kann: Von mir aus, für diese Menschen kann eine elektronische Stimulation wunderbar sein. Aber ein Gesunder wird ohnehin keine Implantate in seinem Kopf akzeptieren.

Meckel: Doch. Die menschliche Biologie wird mit der Datentechnik zusammenwachsen. Das ist meine These. Wir sind längst Cyborgs. Unser Smartphone ist schon ein Teil von uns. Noch liegt es in meiner Hand, ist also etwas Externes. Aber es ist nur eine Zeitfrage, wann es in uns hineinwächst. Die ersten Menschen lassen sich Chips in den Arm schießen, um damit ihre Haustür zu entriegeln. Es gibt Unternehmen, die haben ihre Mitarbeiter gechippt, damit die gar keine Zugangskarten mehr brauchen. Die können sich mit diesem Chip auch den Kaffee ziehen. Hörimplantate, Prothesen, intelligente Kontaktlinsen: Das lassen wir uns doch auch schon in unseren Körper einsetzen.

Der direkte Zugang zum Gehirn – damit könnte sich viel Geld verdienen lassen.

Meckel: Im Silicon Valley forschen mehr als 30 Unternehmen mit Hochdruck daran. Wenn man das Gehirn als neues Geschäftsmodell betrachtet, dann ist da einiges rauszuholen. Es gibt ja schon die Möglichkeit, per Elektrodenhaube herauszufinden, ob jemand gerade ein A oder ein D oder ein Z denkt. So kann man schreiben – per Denken. Ich habe das ausprobiert. Es geht noch sehr langsam, aber es geht. Man braucht nichts außer dieser Haube auf dem Kopf und einer Software. Man konzentriert sich auf den Buchstaben, den man schreiben möchte, und dann erscheint er auf dem Bildschirm.

Facebook hat angekündigt, dass wir in wenigen Jahren Textnachrichten direkt ins Smartphone hineindenken könnten – über Signale des Gehirns.

Yogeshwar: Das wird technisch nicht funktionieren – aber wenn doch, dann wäre der Weg frei, das Gehirn auszulesen.

Meckel: Auch an Überlegungen, die man später verwirft, könnte man dann herankommen. Im Kopf eines Menschen gibt es ja immer noch eine Art Pufferzone, die zwischen einer Idee und ihrer Ausführung liegt. Wenn man eines Tages tatsächlich alle Signale im Gehirn übersetzen könnte, dann würde man sogar diesen Bereich ausleuchten. Man wüsste, dass ein Mensch darüber nachdenkt, zu kündigen, etwas zu kaufen, sich politisch zu radikalisieren. Auch wenn er das dann später gar nicht tut. Da wären wir mithilfe von künstlicher Intelligenz dann wirklich im tiefsten Innern einer Persönlichkeit angekommen.

Maschine verwandelt alten Plastik in neue Designerobjekte

Das könnte besonders interessant sein in Diktaturen. Oder um kleinste Kaufimpulse in die richtige Richtung zu lenken.

Yogeshwar: Ich habe dieses Bild: Wir Menschen spielen auf dem Feld der künstlichen Intelligenz gerade mit einem Tigerbaby herum und finden das ganz toll – doch irgendwann ist das kein Baby mehr, sondern ein gefährlicher Tiger.

Meckel: Wenn wir nicht verstehen, was wir gerade auf den Weg bringen, wird uns das einholen. Wir müssen die Zügel in der Hand behalten. Bei Facebook gab es zwei Bots, also Computerprogramme, die miteinander reden sollten. Und diese Bots haben sich plötzlich eine eigene Sprache ausgedacht. Da steckte keine Entscheidung dahinter, sich eine eigene Welt zu erschaffen, es war einfach nur effizienter. Irgendwann entwickelt sich die Sache möglicherweise so, dass wir die künstliche Intelligenz nicht mehr verstehen können.

Und eines Tages könnten die Bots beschließen: Wir hängen jetzt diese unterbelichteten Menschen ab?

Meckel: Die Gefahr sehe ich. Ja. Wer weiß, was die dann machen? Vielleicht sind sie genauso launisch wie wir Menschen. Und sagen zum Beispiel als automatisierte Autos: Heute gehst du mal zu Fuß. Ich habe keine Lust, dich zu fahren. Oder sie liefern sich Wettrennen mit anderen Autos. Oder Schlimmeres.

Dann wären nicht mehr wir Menschen die Krone der Schöpfung – aber immerhin, wir könnten den Stecker ziehen.

Yogeshwar: Im Moment ist das so. Sobald das System jedoch selbst für seinen Stoffwechsel sorgen könnte, also sich mit Energie versorgt, hätten wir verloren. Undenkbar ist das keinesfalls, denn es gibt zum Beispiel Sonnenenergie, die sich Roboter zunutze machen könnten.

Meckel: Die Software AlphaGo zeigt ja besonders gut, was künstliche Intelligenz bedeuten kann: Google hat sie entwickelt, um die weltbesten Go-Spieler zu besiegen. Und AlphaGo hat das geschafft.

Yogeshwar: Neuere Versionen von AlphaGo zero haben nicht nur alle bekannten, über Jahrhunderte entwickelten Strategien entdeckt, sondern sogar neue gefunden. Das heißt, da hat künstliche Intelligenz etwas erreicht, was über den Menschen hinausgeht – superhuman, wie es heißt. Übertragen auf das Große und Ganze: Am Anfang wird es eine Freude sein, wenn Maschinen uns etwas zeigen, was unseren Horizont erweitert. Doch irgendwann würde uns die Maschine das nicht mehr zeigen – sondern machen, was sie will.

Reicht unsere heutige biologische Intelligenz aus, um aufzuhalten, dass wir von Computern abgehängt werden?

Yogeshwar: Die meisten Bergsteiger sterben nicht auf dem Gipfel, sondern auf dem Weg dorthin. Bevor Computer uns vollends beherrschen, gibt es zunächst viele technologische Umbrüche und gesellschaftliche Instabilitäten. Wenn zum Beispiel 50 Prozent der Jobs wegfallen, werden die Menschen auf die Straße gehen. Dann wird es gefährlich für Google & Co., denn die Menschen werden keine Entwicklung zulassen, die sie überflüssig macht. Homo sapiens wird sich nicht abschaffen lassen. Da wird sich noch ganz viel tun.

Meckel: Ich bin da nicht so optimistisch. Grundsätzlich ist alles, was Bequemlichkeit und Annehmlichkeit verspricht, wahnsinnig verführerisch. Ganz kleines Beispiel, jeder kennt das: Wir wissen, es ist ein gemeiner Trick, dass uns bei Youtube per Autoplay ein Video nach dem anderen gezeigt wird, immer mit Werbung. Wir gucken trotzdem weiter. Wir sind nur ein evolutionärer Zwischenschritt zwischen gestern und morgen.

Yogeshwar: Wir brauchen jetzt vor allem eine Debatte, wozu künstliche Intelligenz sinnvoll genutzt wird. Wollen wir eine Technologie, die nur noch darauf abzielt, den Reichtum einzelner Konzerne zu vergrößern? Oder Diktaturen zu stützen? Oder eine, die ihr Potenzial für mehr Gerechtigkeit und eine saubere Umwelt einsetzt?

Meckel: Wer soll das denn sein: Wir?

Yogeshwar: Wir Menschen. Alle wollen auf diesem Planeten letztlich doch dasselbe: glücklich sein.

Meckel: Im Moment passiert ganz viel in den USA, vor allem im Silicon Valley, China will bis 2030 Weltmarktführer in der künstlichen Intelligenz werden und dafür 150 Milliarden Dollar investieren. Europa? Europa macht nichts, fast nichts. Aller Optimismus in Ehren – ich bin skeptisch, dass wir so steuern können, was die künstliche Intelligenz wollen soll.

Yogeshwar: Diese Debatte beginnt bereits: Wo lassen wir zu, dass bestimmte Datenströme fließen? Ist es probat, dass Facebook Deutschland ausliest? Ist es erlaubt, dass Amazon Echo mit Videokameras oder Mikrofonen in Privathäusern anfängt, den Gesundheitszustand der dort Lebenden auszuspionieren? Ist es sinnvoll, Unternehmen zu erlauben, bestimmte Daten miteinander zu kombinieren?

Meckel: Der sicherere Weg wäre dann vielleicht doch, wir würden unsere Gehirne vernetzen – und mit künstlicher Intelligenz anreichern. Wir brauchen sie, um unsere schwache Position in dieser Entwicklung zu verbessern.

Es klingt paradox, künstliche Intelligenz zu Hilfe zu nehmen, um künstliche Intelligenz zu überwachen.

Yogeshwar: Das würde ja bedeuten, wir Menschen werden wie Maschinen, um die Maschinen zu besiegen. Dabei verlieren wir uns selber. Was ist dann noch der Mensch?

Meckel: Sollen wir lieber als Haustier der künstlichen Intelligenz weiter existieren?

Yogeshwar: Wir brauchen kein Brainnetzwerk. Fragen wir doch konkret: Wollen wir einzelne Monopolfirmen haben, die alles kontrollieren? Die aus Billiarden Daten Algorithmen entwickeln, die uns fremdbestimmen? Mit diesem Datensammeln passiert gerade ein Attentat auf die Demokratie, auf die Freiheit des Einzelnen. Dagegen sollten wir uns wehren.

Facebook verliert zurzeit an Macht – viele Nutzer, die früher begeistert von Facebook waren, steigen aus.

Yogeshwar: Das ist doch ein gutes Zeichen! Inzwischen steigt die Sensibilität.

Wolf Lichtenstein; CEO von Webtrekk, über Künstliche Intelligenz

Meckel: Wenn man sich die Menschheitsgeschichte ansieht, dann hat der Mensch jeden Fortschritt ausprobiert. Oft übrigens zu seinem Vorteil. Ich glaube nicht daran, dass wir jetzt ein anderes Verhaltensmuster erleben werden.

Yogeshwar: Dennoch können wir das Ziel dieser Entwicklung hinterfragen. Was macht uns Menschen aus? Wollen wir uns irgendwann wie Marionetten von Automaten lenken lassen?

Meckel: Manches wird vielleicht besser und interessanter, als wir uns das im Moment vorstellen können. Es kann ja auch eine Bereicherung sein, wenn es im Zuge der Evolution gelingt, dass ich ein Individuum bleibe, mich aber tatsächlich in einer Braincloud in einen ganz anderen Zustand versetzen kann. Das wäre dann eine kollektive Meditation, die eine ganz andere Form von Kreativität freisetzen könnte.

Yogeshwar: Das Individuum selbst würde sich doch dann auflösen.

Meckel: Ich muss ja nicht permanent in diesem Zustand sein. Ich könnte mir vorstellen: Man hat die Möglichkeit, sich in diese Braincloud ein- und auch wieder auszuloggen. Ich würde das gerne ausprobieren. Ich wüsste gerne: Wie fühlt sich das an?

Dann würden wir drei hier sitzen, unsere Köpfe arbeiten lassen und schweigen.

Yogeshwar: Wir würden nicht hier sitzen – wozu auch? Dieses Interview würde überhaupt nicht stattfinden. Alle wären beseelt von derselben Idee. Wie langweilig! Man müsste nicht mehr argumentieren, Fragen stellen, ringen. Diese kollektive Konsonanz wäre doch die Auflösung unserer Individualität und Vielfalt. Biologisch gesehen würden wir von einem autonomen Organismus zum Anhängsel eines größeren Organismus werden. Ich bin jedoch als "Autonomer" verdammt happy und möchte es auch so belassen.

Meckel: Ich könnte mir vorstellen, Teil eines Schwarms zu sein. Aus unserer beschränkten heutigen Sicht ist das Individuum etwas Besonderes, und wir möchten es gerne behalten. Aber es wird nicht allein in unserer Hand liegen, wie die Evolution weitergeht.

Künstliche Intelligenz
kann man sich gegen eine maßnahme vom jobcenter wehren?
hallo. ich bin quasi arbeitsunfähig seit meinem 18ten lebensjahr. ich wiege 200 kg und habe eine betreuung weil ich sonst gar nichts schaffen würde. sie bringt mich zu terminen und begleitet mich zu arzt besuchen. das einzige was ich noch alleine kann ist einkaufen und das auch nur weil es nunmal lebensnotwendig ist ,jedoch bin ich danach total erschöpft und fertig.ich kann keine 200 meter mehr laufen.und mal ganz abgesehen von meiner körperlich verfassung leide ich seit meiner kindheit an starken depressionen,borderline,panikattacken,einer traumatischen belastungsstörung und angstzuständen. ich bin demnach körperlich sowie auch psychisch ziemlich fertig. gestern war ich beim amtsarzt zur begutachtung sowie auch einmal vor 2 jahren. und die ärztin sagt mir ernsthaft,das es zumindest köperlich nicht ausreichen würde das ich weiterhin krank geschrieben werden kann und sagte,das eine maßnahme sicherlich gut sein kann.und das obwohl ich bereits sagte,das ich körperlich unfähig bin irgendwas alleine zu schaffen und ,meine betreuerin mich überallhin begleiten muss.(ich habe kein auto)ich bin vollkommen entsesetzt und habe nun angst das sie mich in eine maßnahme stecvken welche ich einfach nicht schaffe und sie mir dann das minum an geld nehmen welches ich bekomme und ich dann verhungernd und auf der starße leben muss,eben weil es ein ding der unmöglichkeit für mich darstellt.kann man sich da irgendwie wehren?sie sagt sie findet ich sei zu jung um berentet zu werden (28).ich habe gerade wirklich angst.kann man einen menschen zwingen etwas für ihn unmögliches zu tun?ich hab das gefühl die wollen irgendeine quote erfüllen und solange man die arme bewegen kann,ist man arbeitsfähig...hilfe :(