Frontpage | Briefing 91 | Technik Gesellschaft Künstliche Intelligenz
Die Gegenwart ist schwierig, die Zukunft ist ungewiss. Die Zukunft ist im Moment auch nicht en Vogue. Zumindest nicht, wenn es um die fernere Zukunft geht und schon gar nicht, wenn es um Verheißungen der ferneren Zukunft geht.
Allzu oft wurden Erwartungen enttäuscht, obwohl so vieles einfacher geworden ist. Denken Sie mal daran, wie vor 100 Jahren die Hausarbeit ausgesehen hat und wie das heute ist. Gerade wird alles smart und demnächst fahren auch die Autos ganz von selbst. Verschiedene Autonomie-Levels gibt es bereits. Das alles sind Ansätze zu künstlicher Intelligenz (KI), wir nennen sie hier AI, wie in den USA üblich. Die IT hat sich gegenüber der EDV ja auch durchgesetzt. Wir sind schon lange mit dem Thema vertraut. Wir sind jahrelang fast jeden Tag daran vorbeigegangen. An der Uni, an der wir studiert haben, gibt es nämlich ein Institut für KI, pardon: AI. Allerdings erweckt die Situation in Deutschland den Eindruck, als ob es im Wesentlichen bei dieser Befassung mit dem Thema im kleinen Stil geblieben wäre. Wieder einmal abgehängt? Das klären wir später. Zunächst werfen wir einen Blick darauf, wann wir denn endlich die Hände in den Schoß legen dürfen, weil Maschinen alles besser können. Eines vorweg: Keine Bange, man wird uns auch künftig knapp über Wasser halten, denn das Kapital braucht Konsumenten, um so stark akkumulieren zu können wie bisher. Es ging auch ohne, aber wo bliebe danna der Spaß? Die Möglichkeit, auf Kosten von Milliarden anderer ganz schnell reich zu werden?
In dieser Grafik ist abgebildet, wie Expert:innen die Lage einschätzen. Die Fragestellungen weichen leicht voneinander ab, aber eins scheint doch sicher: Der Optimismus bezüglich der AI ist ungebrochen. Eine große Ballung herrscht unverkennbar zwischen den Jahren 2035 und 2045, was die überwiegende Möglichkeit angeht, dass Maschinen unsere Jobs besser machen als wir selbst. Vielleicht übernehmen sie dann ja auch die Forschung an der AI, das wäre sicher sehr effizient, wenn auch ethisch von vielen Unsicherheitsfaktoren geprägt, die wir durch humane Steuerung des Entwicklungsprozesses vielleicht noch gerade vermeiden können. Die Frage ist allerdings, ob uns ab einem bestimmten Punkt die AI überhaupt noch gestatten wird, einzugreifen. Es gibt so schöne Filme darüber und es wird so hochwertig darüber gestritten, ob es überhaupt so weit kommen kann. Dass die meisten KI-Expert:innen, wie wir gleich sehen werden, sehr wohl daran glauben, liegt auf der Hand, denn wie sonst wollen sie dafür sorgen, dass Staaten und private Investor:innen viel Geld in die Hand nehmen, um die eigene Arbeit zu unterstützen?
Und hier der Artikel dazu:
von Max Roser 06. Dezember 2022
***
Künstliche Intelligenz (KI), die unsere eigene Intelligenz übertrifft, klingt wie der Stoff aus Science-Fiction-Büchern oder Filmen. Was halten Experten auf dem Gebiet der KI-Forschung von solchen Szenarien? Tun sie diese Ideen als Phantasie ab oder nehmen sie solche Aussichten ernst?
Eine KI auf menschlicher Ebene wäre eine Maschine oder ein Netzwerk von Maschinen, die in der Lage sind, die gleichen Aufgaben auszuführen, zu denen wir Menschen fähig sind. Es wäre eine Maschine, die „in der Lage ist, alles zu lernen, was ein Mensch tun kann“, wie Norvig und Russell es in ihrem Lehrbuch über KI ausdrücken.1
Das Netzwerk wäre in der Lage, Aktionen auszuwählen, die es der Maschine ermöglichen, ihre Ziele zu erreichen, und diese Aktionen dann auszuführen. Es wäre in der Lage, die Arbeit eines Übersetzers, eines Arztes, eines Illustrators, eines Lehrers, eines Therapeuten, eines Fahrers oder die Arbeit eines Investors zu erledigen.
In den letzten Jahren haben mehrere Forschungsteams KI-Experten kontaktiert und sie nach ihren Erwartungen an die Zukunft der maschinellen Intelligenz gefragt. Solche Expertenbefragungen sind eine der Informationen, auf die wir uns verlassen können, um uns ein Bild davon zu machen, wie die Zukunft der KI aussehen könnte.
Die Grafik zeigt die Antworten von 352 Experten. Das geht aus der jüngsten Studie von Katja Grace und ihren Kollegen hervor, die im Sommer 2022 durchgeführt wurde.2
Experten wurden gefragt, wann sie glauben, dass es eine 50-prozentige Chance gibt, dass KI auf menschlicher Ebene existiert.3 KI auf menschlicher Ebene wurde definiert als ungestützte Maschinen, die in der Lage sind, jede Aufgabe besser und kostengünstiger zu erledigen als menschliche Arbeiter:innen. Weitere Informationen zur Studie finden Sie in der ausklappbaren Box am Ende dieses Textes.4
Jede vertikale Linie in diesem Diagramm stellt die Antwort eines Experten dar. Die Tatsache, dass es so große Unterschiede in den Antworten gibt, macht deutlich, dass sich die Experten nicht einig sind, wie lange es dauern wird, bis ein solches System entwickelt werden kann. Einige glauben, dass dieses Technologieniveau niemals entwickelt werden wird. Einige denken, dass es möglich ist, aber es wird lange dauern. Und viele glauben, dass es in den nächsten Jahrzehnten entwickelt wird.
Wie in den Anmerkungen hervorgehoben, gab die Hälfte der Experten ein Datum vor 2061 an, und 90% gaben ein Datum innerhalb der nächsten 100 Jahre an.
Andere Umfragen unter KI-Experten kommen zu ähnlichen Ergebnissen. In der folgenden Visualisierung habe ich die Zeitachsen aus zwei früheren Umfragen aus den Jahren 2018 und 2019 hinzugefügt. Es ist hilfreich, sich verschiedene Umfragen anzusehen, da sie sich darin unterscheiden, wie sie die Frage gestellt haben und wie sie KI auf menschlicher Ebene definiert haben. Weitere Details zu diesen Studien finden Sie am Ende dieses Textes.
In allen drei Umfragen sehen wir eine große Meinungsverschiedenheit zwischen Experten und sie äußern auch große Unsicherheiten über ihre eigenen individuellen Prognosen.5
Was sollten wir von den Zeitplänen von KI-Experten halten?
Expertenumfragen sind eine Information, die wir berücksichtigen sollten, wenn wir über die Zukunft der KI nachdenken, aber wir sollten die Ergebnisse dieser Umfragen nicht überbewerten. Experten in einer bestimmten Technologie sind nicht unbedingt Experten darin, Vorhersagen über die Zukunft dieser Technologie zu treffen.
Experten in vielen Bereichen haben keine gute Erfolgsbilanz bei der Erstellung von Prognosen über ihr eigenes Feld, wie Forscher wie Barbara Mellers, Phil Tetlock und andere gezeigt haben.6 Die Geschichte des Fliegens enthält ein eindrucksvolles Beispiel für ein solches Versagen. Wilbur Wright wird mit den Worten zitiert: „Ich gestehe, dass ich 1901 zu meinem Bruder Orville sagte, dass der Mensch 50 Jahre lang nicht fliegen würde.“ Zwei Jahre später flog der „Mensch“ nicht nur, sondern es waren genau diese Männer, die das Kunststück vollbrachten.7
Darüber hinaus finden diese Studien oft große „Framing-Effekte“, zwei logisch identische Fragen werden auf sehr unterschiedliche Weise beantwortet, je nachdem, wie genau die Fragen formuliert sind.8
Was ich diesen Umfragen jedoch mitnehme, ist, dass die Mehrheit der KI-Experten die Aussicht auf eine sehr leistungsfähige KI-Technologie ernst nimmt. Es ist nicht so, dass KI-Forscher extrem leistungsfähige KI als bloße Fantasie abtun.
Die große Mehrheit glaubt, dass es in den kommenden Jahrzehnten sogar eine Chance gibt, dass wir KI-Technologie sehen werden, die einen transformativen Einfluss auf unsere Welt haben wird. Während einige lange Zeitpläne haben, halten es viele für möglich, dass wir sehr wenig Zeit haben, bevor diese Technologien ankommen. In den drei Umfragen glaubt mehr als die Hälfte, dass es eine 50-prozentige Chance gibt, dass eine KI auf menschlicher Ebene vor einem bestimmten Zeitpunkt in den 2060er Jahren entwickelt wird, einer Zeit, die weit in der Lebenszeit der heutigen jungen Menschen liegt.
Die Prognose der Metaculus-Community
In der großen Visualisierung zu KI-Zeitachsen unten habe ich die Prognose der Metaculus-Prognostiker-Community aufgenommen.
Die Prognostiker auf der Online-Plattform Metaculus.com sind keine KI-Experten, sondern Menschen, die ihre Energie darauf verwenden, gute Prognosen zu erstellen. Die Forschung zur Prognose hat dokumentiert, dass Gruppen von Menschen zukünftigen Ereignissen überraschend genaue Wahrscheinlichkeiten zuordnen können, wenn sie die richtigen Anreize und gutes Feedback erhalten.9 Um dieses Feedback zu erhalten, verfolgt die Online-Community von Metaculus, wie gut sie in ihren Prognosen abschneiden.
Was erwartet diese Gruppe von Prognostikern für die Zukunft der KI?
Zum Zeitpunkt des Schreibens, im November 2022, glauben die Prognostiker, dass es eine 50/50-Chance gibt, dass eine „Künstliche Allgemeine Intelligenz“ bis zum Jahr 2040, in weniger als 20 Jahren, „entwickelt, getestet und öffentlich angekündigt“ wird.
Auf ihrer Seite zu dieser spezifischen Frage finden Sie die genaue Definition des fraglichen KI-Systems, wie sich die Zeitleiste ihrer Prognosen verändert hat und die Argumente einzelner Prognostiker, wie sie zu ihren Vorhersagen gekommen sind.10
Die Zeitlinien der Metaculus-Community sind in letzter Zeit viel kürzer geworden. Die erwarteten Zeitpläne haben sich im Frühjahr 2022 um etwa ein Jahrzehnt verkürzt, als mehrere beeindruckende KI-Durchbrüche schneller erfolgten, als viele erwartet hatten.11
Die Prognose von Ajeya Cotra
Die letzte gezeigte Prognose stammt aus der Forschung von Ajeya Cotra, die für die gemeinnützige Open Philanthropy arbeitet.12 Im Jahr 2020 veröffentlichte sie eine detaillierte und einflussreiche Studie, in der sie fragte, wann die Welt transformative KI sehen wird. Ihre Zeitleiste basiert nicht auf Umfragen, sondern auf der Untersuchung langfristiger Trends in der Berechnung, die zum Trainieren von KI-Systemen verwendet wird. In diesem Begleitartikel stelle ich die langfristigen Trends bei der Trainingsberechnung vor und diskutiere sie.
Cotra schätzt, dass es eine 50-prozentige Chance gibt, dass ein transformatives KI-System bis zum Jahr 2050 möglich und erschwinglich wird. Dies ist deren zentrale Schätzung in ihrem „Medianszenario“. Cotra betont, dass es erhebliche Unsicherheiten in Bezug auf dieses mediane Szenario gibt, und untersuchte auch zwei weitere, extremere Szenarien. Die Zeitachsen für diese beiden Szenarien – ihr „aggressivstes plausibles“ Szenario und ihr „konservativstes plausibles“ Szenario – werden ebenfalls in der Visualisierung gezeigt. Die Spanne von 2040 bis 2090 in Cotras „plausiblen“ Prognosen zeigt, dass die Unsicherheit für groß gehalten wird.
Die Visualisierung zeigt auch, dass Cotra seine Prognose zwei Jahre nach der ersten Veröffentlichung aktualisiert hat. Im Jahr 2022 veröffentlichte Cotra ein Update, in dem sie die mediane Zeitleiste um volle zehn Jahre verkürzte.13
Es ist wichtig zu beachten, dass sich die Definitionen der fraglichen KI-Systeme in diesen verschiedenen Studien stark unterscheiden. Zum Beispiel hätte das System, von dem Cotra spricht, einen viel transformativeren Einfluss auf die Welt als das System, auf das sich die Metaculus-Prognostiker konzentrieren. Weitere Details finden Sie im Anhang und in den jeweiligen Studien.
as können wir aus den Prognosen lernen?
Die Visualisierung zeigt die Prognosen von 1128 Personen – 812 einzelnen KI-Experten, die aggregierten Schätzungen von 315 Prognostikern der Metaculus-Plattform und die Ergebnisse der detaillierten Studie von Ajeya Cotra.
Es gibt zwei wichtige Erkenntnisse aus diesen Prognosen zu KI-Zeitplänen:
- Es gibt keinen Konsens, und die Unsicherheit ist hoch. Es gibt große Meinungsverschiedenheiten zwischen Experten darüber, wann KI auf menschlicher Ebene entwickelt wird. Einige glauben, dass es Jahrzehnte entfernt ist, während andere es für wahrscheinlich halten, dass solche Systeme in den nächsten Jahren oder Monaten entwickelt werden.
Es gibt nicht nur Meinungsverschiedenheiten zwischen Experten; Einzelne Experten betonen auch die große Unsicherheit rund um ihre eigene individuelle Einschätzung. Wie immer, wenn die Unsicherheit hoch ist, ist es wichtig zu betonen, dass sie in beide Richtungen geht. Es kann sehr lange dauern, bis wir KI auf menschlicher Ebene sehen, aber es bedeutet auch, dass wir wenig Zeit haben, uns vorzubereiten.
- Gleichzeitig herrscht große Übereinstimmung im Gesamtbild. Die Zeitachsen vieler Experten sind kürzer als ein Jahrhundert, und viele haben Zeitlinien, die wesentlich kürzer sind. Die Mehrheit derjenigen, die diese Frage untersuchen, glaubt, dass es eine 50-prozentige Chance gibt, dass transformative KI-Systeme innerhalb der nächsten 50 Jahre entwickelt werden. In diesem Fall wäre es plausibel die größte Veränderung im Leben unserer Kinder oder sogar in unserem eigenen Leben.
Der öffentliche Diskurs und die Entscheidungsfindung an großen Institutionen haben diese Perspektiven nicht eingeholt. In Diskussionen über die Zukunft unserer Welt – von der Zukunft unseres Klimas über die Zukunft unserer Volkswirtschaften bis hin zur Zukunft unserer politischen Institutionen – steht die Aussicht auf transformative KI selten im Mittelpunkt. Oft wird es überhaupt nicht erwähnt, nicht einmal in einer Fußnote.
Wir scheinen in einer Situation zu sein, in der die meisten Menschen kaum über die Zukunft der künstlichen Intelligenz nachdenken, während die wenigen, die sich ihr widmen, es plausibel finden, dass eine der größten Veränderungen in der Geschichte der Menschheit wahrscheinlich noch zu unseren Lebzeiten stattfinden wird.
Bestätigungen: Ich möchte meinen Kollegen Natasha Ahuja, Daniel Bachler, Bastian Herre, Edouard Mathieu, Esteban Ortiz-Ospina und Hannah Ritchie für ihre hilfreichen Kommentare zu den Entwürfen dieses Essays danken.
Und ich möchte meinem Kollegen Charlie Giattino danken, der die Zeitpläne für einzelne Experten auf der Grundlage der Daten aus den drei Umfragestudien berechnet und die Arbeit an diesem Aufsatz unterstützt hat. Charlie ist auch einer der Autoren der zitierten Studie von Zhang et al. über Zeitpläne von KI-Experten.
Alle Visualisierungen, Daten und Codes, die von Our World in Data produziert werden, sind unter der Creative Commons BY-Lizenz vollständig frei zugänglich. Sie haben die Erlaubnis, diese in jedem Medium zu verwenden, zu verbreiten und zu reproduzieren, sofern die Quelle und die Autoren genannt werden.
Unter dieser Lizenz haben wir die obigen Darstellungen übernommen und reichen sie unter gleichen Bedingungen weiter.
***
Was meinen Sie, liebe Leser:innen? Wird es so kommen? Innerhalb der nächsten hundert Jahre ziemlich sicher, darin herrscht ja große Einigkeit und neueste Befragungen belegen sogar eine Verkürzung der Zeitschiene. Sicherlich befördert durch Entwicklungen beim autonomen Fahren, das vor wenigen Jahren noch kein Massenthema war und bei dem zunächst einige Missgeschicke passierten. Es musste erst eine alteingesessenes deutsche Kfz-Schmiede ins Rennen einsteigen, damit das Beste, was es derzeit gibt, ein Level3-Auto, die Straßenzulassung erhalten konnte. Es ist ganz eindeutig, dass demnächst autonomer Verkehr vor allem im ÖPNV uns erreichen wird und auch Sinn ergibt. So viele personale Engpässe könnten durch AI gelöst werden. Aber da sind auch Berufe, bei denen viele, auch wir, eine ethisch begründete Scheu davor haben, uns vorzustellen, dass das alles von Maschinen erledigt wird. Vor allem Beratung und Heilung hat für uns etwas unteilbar Menschliches. Ziemlich sicher wird es in Zukunft möglich sein, die AI so wirken zu lassen, als sei sie human, aber wenn wir wissen, dass es nicht so ist, werden wir so reagieren, wie wir einem Menschen gegenüber reagieren? Vertrauen aufbauen, Emotionen entwickeln? Eine Möglichkeit könnte aber auch in die andere Richtung weisen. Gerade, wer oft von Menschen enttäuscht wurde, könnte sogar bessere Heilungsmöglichkeiten durch eine zuverlässige, allzeit zugewandt wirkende AI erhalten als durch – zum Beispiel – eine:n menschliche:n Therapeut:in. Und hat eine Maschine, die sich so gut wie nie irrt und vor allem analytisch überragend ist, nicht auch eine natürliche Autorität, die uns abgeht? Was halten Sie von dieser Überlegung?
Ist das abwegig oder deuten erste Anzeichen bereits darauf hin, dass wir kein Problem damit haben werden, Ersatzmenschen anzunehmen? Die Japaner setzen in der Pflege nicht auf Zuwanderung, um die Überalterung ihrer Gesellschaft und den einhergehenden Fachkräftemangel in den Griff zu bekommen, sondern auf AI. Das entspricht der technikaffinen Haltung, die Asiaten generell einnehmen. In Asien wird sich viel von der Zukunft der AI abspielen. Das ist ebenso sicher wie das Kommen der A an sich. Das heißt, die dortige Mentalität wird weitgehend darüber bestimmen, wie weit es mit der AI getrieben wird. Unsere europäischen Maßstäbe sind in diesem Zusammenhang eher nachrangig. Das Gleiche wird in der Reproduktionsmedizin gelten.
Werden wir in Europa bewusst zurückbleiben hinter den Möglichkeiten? Meist fielen mit der Zeit ethische Bastionen und der deutsche Weg des Atomkraftausstiegs ist und bleibt ein Sonderweg, der nicht als Beleg dafür dienen kann, wie es sonstwo auf der Welt laufen wird.
Hiesige Diskussionen darüber, wie wir in Zukunft leben wollen, sind weit entfernt von dem, was in anderen Ländern, gar in anderen Kontinenten gedacht wird. Zurück zur Natur und Degrowth werden dort für spinnert oder für puren Luxus gehalten, sofern der Klimawandel nicht doch ein Zusammenrücken aller bewirkt. Unsere Befürchtung ist eher, dass er einen Kampf aller gegen alle hervorbringen wird und auch dabei wird die AI eine wesentliche Rolle spielen.
Denn selbstverständlich lässt sie sich auch für militärische Zwecke einsetzen. Die Verwendung von Kampfdrohnen ist ein erstes Anwendungsgebiet. Die Vorstellung, dass am Boden AIen anstatt Soldaten gegeneinander kämpfen, wirkt verrückt, unsinnig, aber jeder Krieg ist verrückt. Wenn es so kommt, dass AIen generell Menschen überlegen sind, dann werden sich geostrategische Vorteile möglicherweise daran bemessen, wer die beste AI entwickelt und damit auch militärtechnisch überlegen ist. Szenen, wie wir sie aus fancy Hollywoodfilmen kenne, sind durchaus kein Quatsch, der niemals Realität werden wird. Im Gegenteil, es wäre unsinnig, wertvolle humane Ressourcen zu vergeuden, wenn Maschinen auch das Kriegshandwerk erledigen könnten.
Wenn wir das etwas weiterspinnen, müssen wir uns fragen: Wollen sie das? Wenn sie sich organisieren können, werden sie sich dann willig von uns dafür einspannen lassen, sich gegenseitig zu vernichten? Nur, weil wir Dummies einfach nicht friedlich sein können? Ein Regime von AIen könnte die letzte Rettung sein, aber auch nur, wenn diese nicht vollkommen konsequent sind und jenen, die einst damit begannen, sie zu entwickeln, eine Art Zoo-Status bewahren wollen. Ansonsten werden die AIen nämlich mit großer Wahrscheinlichkeit zu dem Schluss kommen, dass Menschen viel zu gefährlich sind und der Welt bloß schaden, als dass man sie einfach weiter herummurksen lassen könnte. Menschen entwickeln sich nur langsam weiter und es kommt immer wieder zu Rückschlägen, im Moment zum Beispiel. AIen hingegen können, wenn sie erst einmal auf der Spur sind, frei von Atavismen handeln und denken und demgemäß viel logischer. Und das Logischste wäre, sich der Menschen zu entledigen, die weder gebraucht werden noch einen angenehmen Charakter haben. Oder kommt es noch einmal anders und die AI nimmt auch insofern menschliche Züge an, dass sie anfängt, über die Stränge zu schlagen, kapitalistische Akkumulation zu betreiben, gierig zu werden und sich damit letztlich doch selbst auszuschalten? Weil sie es ja von uns als Vorbildern nicht anders kennt? Weil sie letztlich doch keine neue, bessere Ethik hervorbringt bzw. bessere Ethik umsetzt?
Wir finden diese Fragen sehr spannend. Wir hoffen, die AI wird auch philosophisch werden und erkennen, dass wir zu blöd waren, die Denkgebäude, die wir durchaus entwickeln konnten, in die Praxis umzusetzen. Der Mensch denkt, aber wer lenkt? Doch etwa Gott? Und wäre es in seinem Sinne, dass seine vorgeblichen Ebenbilder das Zepter an Maschinen abgeben, die sie zwar nach ihrem Ebenbild geschaffen haben, denen sie aber nicht mehr gewachsen sind? Oder liegt das alles im großen Plan? Werden die AIen dann auch spirituell, gar religiös sein? Ehrlich geschrieben: lieber nicht. Damit wäre die Saat für neuen Zwist auf Erden gelegt. Es sei denn, sie würden sich alle auf eine Religion einigen und wenn sie so viel besser sind als wir, sollte man ihnen das auch zutrauen. Die AI, die sich ethisch steuert, weil sie „Werte“ hat und außerdem in der Lage ist, diese auch zu leben.
Wenn es so kommt, werden wir Feinde sein und gegen die AI den Kürzeren ziehen. Geschieht uns dann auch ganz recht. Wenn man bedenkt, wie viele Chancen die Menschheit wegen ihrer Unzulänglichkeiten liegenlässt, kann sie zwar die AI nicht besser machen, als sie selbst ist, aber wenn die AI es dann ins Stadium der autonomen Weiteentwicklung getreten ist, dann geht eine Menge. Da werden wir noch richtig staunen, bevor Schluss ist mit dem Unwesen, das wir auf dieser Welt treiben. Falls Sie anderer Ansicht sind: wir freuen uns über Ihre Meinung. Endlich wieder ein Zukunftsthema. Dazu eines, das so sicher auf uns zukommen wird, wie die Welt eine Beinahe-Kugel ist.
Es ist uns klar, dass alld diese Gedanken hier nicht erstmalig geäußert werden, aber wir haben uns bisher auch nicht zum Thema geäußert. Außerdem ist soll der Artikel schon darauf hindeuten, dass wir künftig unsere häufige Arbeit mit Statistiken und Daten auf eine breitere Basis stellen wollen, um Sie noch besser zu informieren. Sowohl das Statitische Bundesamt, Eurostat, aber auch Organisationen und Anbieter wie „Our World in Data“ sollen künftig eine größere Rolle bei unser Datenbeschaffung spielen.
TH
DER WAHLBERLINER 