-Über meine unaufgeregte 10 von 10 bei „Talk im Hangar-7“, die Angst vor einer Super-KI, Europas technologische Abhängigkeit und unsere Verantwortung in einem neuen Zeitalter.-
Menschen, die an den leistungsfähigsten KI-Systemen der Welt arbeiten, warnen öffentlich davor, dass ihre eigene Technologie eines Tages die Menschheit auslöschen könnte. Jacob Coxon hat deshalb seinen Job beim US-amerikanischen KI-Unternehmen Anthropic gekündigt. Sein ehemaliger Kollege Evan Hubinger, der dort an der Sicherheit von KI arbeitet, schätzt das Risiko einer Auslöschung der Menschheit durch KI innerhalb der nächsten zehn Jahre persönlich auf mehr als zehn Prozent. Führende Köpfe der Branche fordern, das Entwicklungstempo zu drosseln, während ihre Unternehmen immer leistungsfähigere Systeme entwickeln.
Entschuldigung, aber was machen wir jetzt mit solchen Nachrichten?
Sollte ich vielleicht doch die letzte Gartenparty vor dem Untergang der Menschheit planen? Kartoffelsalat für alle, ein paar kühle Getränke und dann schauen wir mal, ob die Maschinen vorher Bescheid sagen?
Ich mache darüber einen Witz, weil mich diese Nachrichten tatsächlich beschäftigen. Es ist schon eine ziemlich verrückte Situation: Menschen aus den Unternehmen, die KI entwickeln, sprechen über eine mögliche Katastrophe für die gesamte Menschheit. Und wir anderen versuchen herauszufinden, ob wir es mit einem ernsthaften Sicherheitsproblem, einer gewagten Zukunftsprognose oder vielleicht sogar einer ziemlich raffinierten Werbestrategie zu tun haben.
Der Deutschlandfunk hat die Warnungen am 14. September aufgegriffen und unterschiedliche wissenschaftliche Einschätzungen gegenübergestellt. ZDFheute berichtete über KI-Agenten, die in Tests unerwartet handelten und Sicherheitsgrenzen überschritten. Ein weiterer ZDF-Beitrag fragte unter dem Stichwort „Doom Trolling“, wem die dramatischen Warnungen aus dem Silicon Valley möglicherweise auch nützen.
Das alles klingt nach einer Geschichte, die vor wenigen Jahren noch als ziemlich überdrehter Science-Fiction-Film durchgegangen wäre.
Dabei geht es längst um mehr als einen Chatbot, der uns eine Geburtstagsrede schreibt. Immer leistungsfähigere KI-Systeme können programmieren, Informationen auswerten und digitale Werkzeuge bedienen. Sogenannte KI-Agenten können mehrere Arbeitsschritte eigenständig nacheinander ausführen. Je mehr Zugriff und Handlungsmöglichkeiten wir ihnen geben, desto wichtiger wird die Frage, ob wir ihre Aktionen zuverlässig überprüfen und begrenzen können.
Die befürchtete Superintelligenz geht noch darüber hinaus. Gemeint ist eine bislang hypothetische KI, die menschliche Fähigkeiten in sehr vielen geistigen Bereichen weit übertreffen könnte. Einige Forscher befürchten, dass Menschen ein solches System möglicherweise nicht mehr ausreichend kontrollieren könnten. Andere halten die daraus abgeleiteten Untergangsszenarien für überzogen oder ihre Eintrittswahrscheinlichkeiten für wissenschaftlich nicht belastbar. Beobachtete Sicherheitsprobleme heutiger KI-Systeme sind ernst zu nehmen. Sie beweisen allerdings keinen bevorstehenden Weltuntergang.
Genau vor diesem Hintergrund war ich am 17. September bei Michael Fleischhacker in der ServusTV-Sendung „Talk im Hangar-7“ zu Gast. Unser Thema: „KI außer Kontrolle: Ende der Menschheit?“
Michael fragte mich, wie ich die Gefahren der Künstlichen Intelligenz auf einer Skala von 1 bis 10 einschätze.
Meine Antwort kam ziemlich unaufgeregt: 10 von 10.
Und weil diese Antwort ohne Erklärung leicht missverstanden werden kann, möchte ich erzählen, was ich damit meine, was mich an diesem Abend beeindruckt hat und warum ich glaube, dass wir gerade alle eine ziemlich große Aufgabe vor uns haben.
Eine unaufgeregte 10 von 10. Was soll das eigentlich heißen?
Meine 10 von 10 ist keine Aussage darüber, wie wahrscheinlich ich die Auslöschung der Menschheit finde. Eine solche Wahrscheinlichkeit kann ich nicht seriös berechnen. Selbst unter Menschen, die seit Jahren an KI forschen, gehen die Einschätzungen zu existenziellen Risiken erheblich auseinander.
Ich habe auf einer Skala von 1 bis 10 eingeschätzt, wie ernst ich die Gefahren dieser Entwicklung nehme.
Und da lande ich bei einer 10. Das Wort unaufgeregt ist mir dabei fast noch wichtiger als die Zahl. Es bedeutet für mich, den Gefahren direkt ins Auge zu schauen. Nichts beschönigen, nichts kleinreden und auch nicht gleich in Panik geraten. Ich möchte verstehen, was wir bereits wissen, welche Schäden wir heute verhindern können und wo selbst die Fachleute noch nach Antworten suchen.
Unaufgeregt heißt für mich auch, auf das vertraute „Das wird schon“ zu verzichten.
Ich kenne diese Haltung aus vielen gesellschaftlichen Debatten. Wir sehen eine Entwicklung, die uns überfordert, beobachten sie eine Weile, kündigen weitere Gespräche an und hoffen, dass bis dahin schon jemand eine Lösung gefunden haben wird. Manchmal fühlt sich das vernünftig an. Bei einer Technologie, die unser Leben bereits verändert, während wir noch über ihre Folgen sprechen, reicht mir das nicht.
Ich möchte auch keine Scheuklappen aufsetzen, weil mich die Möglichkeiten der KI so begeistern.
Denn das tun sie. Ich nutze KI und sehe, welche Chancen sie uns in Bildung, Medizin, Wissenschaft und Arbeitswelt eröffnen kann. Gerade deshalb möchte ich wissen, welche Risiken wir mit diesen Möglichkeiten verbinden, wer sie überprüft und wer Verantwortung übernimmt, wenn etwas schiefgeht.
Meine 10 von 10 ist eine Handlungsaufforderung.
An diejenigen, die KI entwickeln. An Unternehmen, die sie einsetzen. An Wissenschaft und Politik, an Schulen und Familien. Und ausdrücklich auch an mich selbst.
Wir alle müssen uns mit dieser Technologie beschäftigen. Wir müssen lernen, ihre Möglichkeiten zu nutzen, Risiken zu erkennen und Fragen zu stellen, auch wenn wir die Antworten noch nicht kennen.
Das gelingt nur mit einem klaren Blick.
Was mich an dieser Gesprächsrunde besonders beeindruckt hat
Ich bin aus „Talk im Hangar-7“ mit mehr Fragen gegangen, als ich mitgebracht hatte. Das lag auch an meinen Gesprächspartnern, die aus sehr unterschiedlichen Bereichen auf KI schauen.
Armin Ronacher hat mich besonders nachdenklich gemacht. Er ist ein renommierter Softwareentwickler und sprach darüber, mit welchem Tempo KI seine Arbeit verändert. Seine Schilderung, wie sich die Zusammenarbeit in der Softwareentwicklung verschiebt, ist mir im Kopf geblieben: Wo Menschen bislang vor allem miteinander programmierten und Probleme lösten, arbeiten sie zunehmend mit Maschinen zusammen, die selbst Code erstellen und Aufgaben übernehmen.
Ich finde diese Möglichkeiten faszinierend. Gleichzeitig drängt sich eine Frage auf: Wie schaffen wir es, ausreichend zu prüfen, was solche Systeme entwickeln, wenn sie immer schneller und leistungsfähiger werden?
Dass Ronacher seine Sorgen offen aussprach, hat mich beeindruckt. Da saß jemand, der sich mit der Technologie auskennt, täglich mit ihr arbeitet und trotzdem keine fertigen Antworten für alles beansprucht.
Gernot Blümel brachte die medizinische Perspektive in unsere Diskussion ein und machte deutlich, welche Möglichkeiten KI für Forschung und Versorgung eröffnet. Elisabeth Hoffberger-Pippan beschäftigte uns mit KI in der Kriegsführung und damit mit Fragen, bei denen die Folgen technischer Entscheidungen besonders unmittelbar sichtbar werden. Wenn Systeme militärische Abläufe beschleunigen oder Entscheidungen vorbereiten, geht es auch darum, wie menschliche Kontrolle erhalten bleibt und wer für die Folgen verantwortlich ist.
Michael Fleischhacker hat uns mit Ruhe, Neugier und einem bemerkenswerten Gespür durch diese gewaltige Themenvielfalt geführt. Ich habe meinen Gesprächspartnern sehr gern zugehört und bin ihnen für diesen Abend wirklich dankbar.
Gerade die unterschiedlichen Perspektiven haben mir gezeigt, wie wenig eine einzelne Fachrichtung ausreicht, um die gesamte Entwicklung zu überblicken.
Ich kann als Pädagogin viel darüber sagen, was es für Kinder bedeutet, wenn eine Maschine mit ihnen spricht, ihnen beim Lernen hilft oder ihnen womöglich wichtige Erfahrungen abnimmt. Ein Softwareentwickler sieht andere Probleme. Eine Expertin für Kriegsführung stellt andere Fragen. Und in der Medizin kommen wieder ganz eigene Chancen und Verantwortlichkeiten hinzu.
Wir stehen gemeinsam am Anfang eines neuen Zeitalters. Niemand besitzt dafür schon die eine Antwort.
Umso mehr irritiert mich, wie viele selbsternannte KI-Experten mit erstaunlicher Gewissheit erklären, welche Sorgen berechtigt sind und welche angeblich nur von Ahnungslosigkeit zeugen.
Wenn Menschen, die solche Systeme entwickeln und erforschen, noch um Antworten ringen, dürfen wir anderen ruhig öfter sagen: „Das weiß ich noch nicht.“
Ich empfinde das als eine Form von Souveränität, die wir gerade dringend brauchen.
Angst muss erlaubt bleiben. Sonst kommen wir gar nicht erst ins Gespräch.
Ich höre im Zusammenhang mit KI immer wieder den Satz, Angst sei ein schlechter Ratgeber.
Manchmal frage ich mich, ob wir diesen Satz nicht ein bisschen zu gern benutzen, wenn wir uns mit den Sorgen anderer Menschen beschäftigen müssten.
Da hat jemand Angst, dass sein Beruf in wenigen Jahren nicht mehr gebraucht wird. Eine Mutter fragt sich, was passiert, wenn ihr Kind einer KI Dinge anvertraut, die es mit ihr selbst nicht besprechen möchte. Ein älterer Mensch kann am Telefon kaum noch unterscheiden, ob er mit einer echten Person spricht oder einer künstlich erzeugten Stimme.
Und dann erklären wir diesen Menschen, sie sollten sich bitte nicht so anstellen?
Wem soll das helfen?
Ich möchte, dass Angst in dieser Debatte Platz hat. Dass jemand aussprechen darf, was ihn beschäftigt, und anschließend auf Menschen trifft, die zuhören.
Wovor genau hast du Angst? Was ist dir passiert? Was möchtest du verstehen? Welche Veränderung macht dir Sorgen? Was brauchst du, um dich mit dieser Technologie sicherer zu fühlen?
Erst wenn wir solche Fragen stellen, können wir sinnvoll miteinander reden.
Natürlich müssen wir unterscheiden, ob eine Sorge auf einem nachgewiesenen Problem, einer möglichen zukünftigen Gefahr oder einer falschen Information beruht. Das gehört zu guter Aufklärung. Aber niemand lernt mehr, weil er vorher belächelt wurde.
Und ich möchte ebenso wenig, dass Menschen als naiv abgestempelt werden, nur weil sie von KI begeistert sind.
Begeisterung und Angst schließen sich doch überhaupt nicht aus. Beides kann uns dazu bringen, genauer hinzusehen.
Wer Menschen wegen ihrer Sorgen auslacht, verliert sie womöglich genau dann, wenn wir sie dringend mitnehmen müssten.
Das ist keine Kleinigkeit. Viele Menschen arbeiten längst täglich mit KI. Andere haben bisher kaum Gelegenheit gehabt, überhaupt zu verstehen, was ein Sprachmodell ist, weshalb es Fehler machen kann und welche Daten man ihm besser nicht anvertrauen sollte.
Nur weil ein Chatbot auf fast jedem Smartphone erreichbar ist, verfügen wir noch lange nicht alle über dieselben Kenntnisse.
Wir brauchen deshalb verständliche Aufklärung für jede Generation. Ohne Fachbegriffe als Eintrittskarte. Ohne das Gefühl, man müsse sich für eine Frage schämen. Und ohne den Wettbewerb, wer am schnellsten die nächste Anwendung ausprobiert hat.
Ich möchte, dass möglichst viele Menschen dieses neue Zeitalter mitgestalten können. Dafür müssen wir zuerst einmal dafür sorgen, dass sie im Gespräch bleiben.
Warum es so bedeutsam ist, dass eine Maschine plötzlich mit uns spricht
Eine Frage aus der Sendung beschäftigt mich als Pädagogin ganz besonders: Was geschieht mit unserem Verhältnis zu einer Technologie, die uns zunehmend menschlich begegnet?
In der Wissenschaft spricht man von Anthropomorphisierung, wenn wir etwas Nichtmenschlichem menschliche Eigenschaften zuschreiben.
Ich finde das bei KI ausgesprochen nachvollziehbar. Da antwortet plötzlich etwas in unserer Sprache, erklärt geduldig, reagiert auf persönliche Fragen und formuliert manchmal Sätze, die sich warm und verständnisvoll anhören.
Stellen wir uns einen Jugendlichen vor, der Liebeskummer hat. Er öffnet einen Chatbot und erzählt von seinem Streit. Die Antwort kommt sofort. Der Chatbot wirkt geduldig, findet tröstende Worte und verlangt erst einmal nichts von ihm.
Ich verstehe sehr gut, warum das attraktiv sein kann.
Mich beschäftigt aber, was der Jugendliche aus solchen Gesprächen mitnimmt. Kann er erkennen, dass eine überzeugend formulierte Antwort trotzdem falsch oder einseitig sein kann? Hat er Menschen, denen er sich anvertrauen kann? Und lernt er weiterhin, schwierige Situationen mit anderen Menschen tatsächlich durchzustehen?
Ein Chatbot kann helfen, Gedanken zu sortieren oder Worte für ein unangenehmes Gespräch zu finden. Solche Unterstützung kann wertvoll sein.
Das Gespräch mit der Freundin muss der Jugendliche aber irgendwann selbst führen können. Er muss erleben, wie sie auf seine Worte reagiert. Wie es sich anfühlt, jemanden verletzt zu haben, sich zu entschuldigen und wieder zueinanderzufinden. Wie man Widerspruch aushält und versteht, dass die eigenen Gefühle wichtig sind, andere Menschen aber ebenfalls welche haben.
Aus solchen Erfahrungen wachsen Empathie, Gewissen und Beziehungsfähigkeit.
Wir sollten Kindern erklären, dass ein System sehr menschlich klingen kann, ohne ein Mensch zu sein. Dass ein scheinbar verständnisvoller Rat nicht automatisch ein guter Rat ist. Und dass sie für ihre Sorgen Menschen brauchen, die tatsächlich Verantwortung für sie übernehmen können.
Dabei lohnt auch der Blick auf uns Erwachsene.
Wenn wir uns wundern, dass Kinder einem Chatbot ihre Sorgen erzählen, sollten wir uns fragen, wie viel Zeit wir ihnen für echte Gespräche anbieten. Ob sie erleben, dass wir zuhören, ohne nebenbei aufs Handy zu schauen. Ob sie wissen, dass sie uns auch dann ansprechen dürfen, wenn sie etwas ausgefressen haben oder anderer Meinung sind. Wenn eine Maschine jederzeit ansprechbar ist, sollten wir Menschen nicht ausgerechnet dann unerreichbar werden.
KI in der Schule: Entscheidend ist, wann und wie Kinder sie kennenlernen
Ich habe viele Jahre in Schule gearbeitet und selbst eine hochdigitalisierte Schule geleitet. Ich kenne die Begeisterung, die entsteht, wenn Kinder mithilfe neuer Werkzeuge plötzlich etwas verstehen, ausprobieren oder gestalten können, das ihnen vorher nicht möglich war.
KI kann Bildung enorm bereichern.
Ein Schüler kann sich einen schwierigen Zusammenhang auf unterschiedliche Weise erklären lassen. Er kann Fragen stellen, zusätzliche Übungen bekommen oder einen eigenen Entwurf überprüfen. Kinder, die beim Lernen besondere Unterstützung brauchen, können neue Zugänge finden.
Trotzdem halte ich es für wichtig, sorgfältig darüber nachzudenken, wann und wie wir KI einsetzen.
Ein jüngeres Kind braucht Zeit, selbst eine Geschichte zu erfinden, nach Worten zu suchen, sich an einer Aufgabe festzubeißen und schließlich stolz zu sein, weil es die Lösung gefunden hat. Es muss lernen, mit Frust umzugehen, eigene Ideen zu entwickeln und auch einmal etwas falsch zu machen.
Es braucht außerdem Begegnungen mit anderen Kindern, Streit und Versöhnung, Gelegenheiten, Gefühle wahrzunehmen und Verantwortung zu übernehmen.
Wenn wir jeden schwierigen Schritt sofort technisch abkürzen, kann ein Teil dieser Erfahrungen fehlen.
Genauso wenig hilft es, KI aus der Schule herauszuhalten, während Kinder sie außerhalb längst nutzen. Und wenn wir unsere gesamte Energie darauf verwenden, geschummelte Hausaufgaben aufzuspüren, beschäftigen wir uns mit einem viel zu kleinen Ausschnitt des Problems.
Wir müssen Unterricht und Prüfungen weiterentwickeln. Mich interessiert, ob ein Schüler erklären kann, wie er zu einer Antwort gekommen ist. Ob er Quellen prüft, Widersprüche erkennt und begründen kann, weshalb er einer KI zustimmt oder eben nicht.
Eine KI darf ihm dabei helfen. Die Fähigkeit, selbstständig zu denken und zu urteilen, muss er trotzdem entwickeln können.
Dafür werden wir bei jüngeren und älteren Kindern unterschiedliche Wege brauchen. Der Einsatz muss zu ihrer Entwicklung und zum jeweiligen Lernziel passen. Lehrkräfte benötigen dafür regelmäßige, verbindliche Fortbildungen, Zeit zum Ausprobieren und Möglichkeiten, ihre Erfahrungen miteinander zu teilen.
Auch wir Erwachsenen müssen dazulernen. Eltern ebenso wie Arbeitgeber, Führungskräfte und Menschen in öffentlichen Einrichtungen.
Ich wünsche mir Kinder, die eine KI nutzen können und anschließend sagen: „Das klingt überzeugend. Aber ich sehe es anders. Und ich kann dir erklären, warum.“ Das wäre für mich ein ziemlich gutes Zeichen dafür, dass Bildung ihren Auftrag erfüllt.
In der Medizin eröffnet KI neue Möglichkeiten. Im Krieg wird die Frage nach Verantwortung besonders bedrückend.
Bei aller Sorge möchte ich die Chancen dieser Technologie ausdrücklich im Blick behalten.
In der Medizin kann KI beispielsweise helfen, Auffälligkeiten in Bildern zu erkennen, große Datenmengen auszuwerten und Forschung zu unterstützen. Mich begeistert die Vorstellung, dass neue Werkzeuge dazu beitragen können, Krankheiten besser zu verstehen oder Menschen wirksamer zu behandeln.
Gernot Blümel hat diese Möglichkeiten in unserer Diskussion greifbar gemacht.
Gleichzeitig müssen wir wissen, wie zuverlässig ein System ist, wer seine Ergebnisse überprüft und welcher Mensch eine medizinische Entscheidung verantwortet. Ein Patient sollte nachvollziehen können, welche Rolle KI bei seiner Behandlung spielt und an wen er sich mit Fragen wenden kann.
Noch bedrückender werden solche Fragen in der Kriegsführung.
Elisabeth Hoffberger-Pippan hat uns mit ihrer Expertise vor Augen geführt, wie viel auf dem Spiel steht, wenn KI militärische Entscheidungen vorbereitet, Ziele identifiziert oder Abläufe beschleunigt.
Wie viel Kontrolle behält ein Mensch? Hat er ausreichend Informationen und Zeit, um eine Empfehlung zu überprüfen? Kann er eingreifen? Wer trägt die Verantwortung, wenn ein Fehler Menschenleben kostet? Die technische Leistungsfähigkeit eines Systems beantwortet diese Fragen nicht.
Mich beschäftigt ein Grundsatz, der weit über Medizin und Krieg hinausreicht: Wenn eine Maschine eine Entscheidung vorbereitet oder eine Handlung ausführt, müssen wir klären, wer für ihren Einsatz verantwortlich ist und an welcher Stelle menschliche Kontrolle notwendig bleibt.
Das betrifft ebenso Unternehmen, Verwaltungen und Schulen. Wir sollten nicht irgendwann vor einem Ergebnis stehen und feststellen, dass niemand mehr genau erklären kann, weshalb es dazu gekommen ist.
Europa hat Regeln für KI. Aber wo ist unsere eigene Antwort auf OpenAI und Anthropic?
Eine Frage aus unserer Runde lässt mich ebenfalls nicht los: Welche Rolle wird Europa in diesem neuen Zeitalter spielen?
Während wir darüber diskutieren, wie Künstliche Intelligenz sicher eingesetzt werden soll, entwickeln Unternehmen wie OpenAI und Anthropic in den USA immer leistungsfähigere Systeme. Wir nutzen ihre Produkte, integrieren sie in unsere Arbeit und bauen zunehmend Abläufe darauf auf.
Dabei geht es längst um mehr als die Frage, welcher Chatbot die bessere Antwort schreibt. Es geht um Technologien, auf denen künftig geforscht, gelernt, gearbeitet und entschieden wird und da müssen wir uns fragen: Werden wir in Europa diese Entwicklung selbst maßgeblich mitgestalten können, oder bleiben wir vor allem Kunden derjenigen, die anderswo die technischen Grundlagen schaffen?
Natürlich haben wir den europäischen AI Act. Was ist das eigentlich? „Act“ bedeutet hier Rechtsakt. Konkret ist der AI Act eine EU-Verordnung, also ein gemeinsames Gesetz der Europäischen Union, das grundsätzlich unmittelbar in ihren Mitgliedstaaten gilt. Es legt Regeln für die Entwicklung und den Einsatz von KI fest. Bestimmte Praktiken werden verboten, für risikoreiche Anwendungen gelten besondere Anforderungen und auch Anbieter sehr leistungsfähiger allgemeiner KI-Modelle müssen je nach Einstufung zusätzliche Pflichten erfüllen. Die Vorschriften werden schrittweise wirksam.
Ich finde es wichtig, dass wir solche Regeln haben. Wir brauchen nachvollziehbare Sicherheitsanforderungen, Zuständigkeiten und Möglichkeiten, Unternehmen zur Verantwortung zu ziehen. Aber ein Gesetz entwickelt noch keine eigene KI.
Es schafft nicht automatisch die Rechenleistung, die für das Training großer Modelle erforderlich ist. Es baut keine Unternehmen auf, die mit den großen amerikanischen Anbietern mithalten können. Und es garantiert uns auch keinen unabhängigen Zugang zu der Technik, auf die sich unsere Wirtschaft und öffentliche Einrichtungen zunehmend verlassen.
Die Europäische Kommission benennt selbst einen erheblichen Mangel an großer Recheninfrastruktur in Europa. Sie sieht darin ein Hindernis für die Entwicklung besonders leistungsfähiger KI-Modelle und ein Risiko für die technologische Eigenständigkeit. Auch die Präsidentin der Europäischen Zentralbank, Christine Lagarde, warnte jüngst vor Europas starker Abhängigkeit von KI-Technologie aus dem Ausland.
Wir haben in Europa durchaus kluge Köpfe und Unternehmen, die eigene Modelle entwickeln. Das französische Unternehmen Mistral AI gehört dazu. Solche Beispiele sollten wir ausdrücklich wahrnehmen.
Trotzdem fehlt uns bisher ein ebenso breit aufgestelltes und leistungsfähiges KI-Ökosystem wie das der großen amerikanischen Anbieter. Wir haben zu wenig eigene Rechenkapazität und sind in entscheidenden Bereichen von Infrastruktur und Produkten anderer abhängig.
Mich ärgert, wie spät wir uns mit dieser Abhängigkeit in ihrer ganzen Tragweite beschäftigen.
Wir sprechen seit Jahren über digitale Souveränität. Jetzt entsteht eine Technologie, die möglicherweise weite Teile unserer Wirtschaft und unseres Alltags prägen wird, und wir müssen feststellen, wie viel von dem, was wir dafür brauchen, anderswo entwickelt und betrieben wird.
Inzwischen versucht Europa, gegenzusteuern. Mit dem Aktionsplan „KI-Kontinent“ und der Initiative InvestAI sollen insgesamt 200 Milliarden Euro an Investitionen mobilisiert werden. Geplant beziehungsweise im Aufbau sind unter anderem zusätzliche KI-Fabriken und besonders große Rechenzentren. Nach Angaben der Kommission sind bereits 19 KI-Fabriken eingerichtet; weitere Großprojekte sollen folgen.
Das sind wichtige Schritte. Sie sind aber noch keine Antwort auf die Frage, ob wir künftig tatsächlich technologisch eigenständiger sein werden. Zwischen einer angekündigten Investition, einem aufgebauten Rechenzentrum und einem international konkurrenzfähigen KI-Modell liegt eine Menge Arbeit.
Und während wir diese Infrastruktur ausbauen, entwickeln sich die Systeme von OpenAI, Anthropic und anderen Unternehmen weiter.
Ich frage mich deshalb, wie schnell wir jetzt werden können. Wo entstehen unsere eigenen leistungsfähigen Modelle? Wie erhalten europäische Wissenschaftler und Unternehmen Zugang zu ausreichender Rechenleistung? Wie verhindern wir, dass Schulen, Krankenhäuser, Verwaltungen und mittelständische Unternehmen bei wichtigen Aufgaben von wenigen ausländischen Anbietern abhängig werden?
Mir geht es um eine europäische Antwort, die Regeln, eigene technologische Fähigkeiten und die Kompetenz der Menschen zusammenbringt.
Denn was nützt die beste Verordnung einer Lehrerin, die noch keine vernünftige KI-Fortbildung bekommen hat? Wie soll ein mittelständischer Unternehmer seine Mitarbeiter begleiten, wenn er selbst kaum einschätzen kann, welche Systeme sich für seinen Betrieb eignen und welche Daten er schützen muss? Wie sollen Eltern ihren Kindern Orientierung geben, wenn ihnen niemand verständlich erklärt, was diese Technologie eigentlich kann?
Wir brauchen eigene Forschung und Infrastruktur, unabhängige Sicherheitsprüfungen und Menschen, die KI verstehen und verantwortlich einsetzen können. Bei Risiken, die über Grenzen hinausreichen, werden wir außerdem internationale Zusammenarbeit brauchen.
Europa hat mit dem AI Act eine rechtliche Antwort gegeben. Eine ausreichend eigenständige technologische Antwort auf die großen KI-Entwickler haben wir noch nicht. Ich möchte, dass wir in diesem neuen Zeitalter mehr können, als die Regeln für die Produkte anderer zu schreiben.
Warum warnen Konzerne eigentlich so eindringlich vor ihren eigenen Produkten?
Bei all den Warnungen sollten wir noch eine unbequeme Frage stellen: Wem nützt es, wenn KI-Unternehmen ihre Technologie als so mächtig beschreiben, dass sie möglicherweise sogar die Menschheit bedrohen könnte?
Der ZDF-Beitrag über „Doom Trolling“ greift eine These des Informatikprofessors Cal Newport auf: Solche Warnungen könnten auch dazu beitragen, die Bedeutung der eigenen Technologie für Öffentlichkeit und Investoren zu steigern. Angela Müller von AlgorithmWatch Schweiz weist darüber hinaus auf die Gefahr hin, dass dramatische Zukunftsszenarien von gegenwärtigen Problemen ablenken, insbesondere von der Machtkonzentration bei wenigen Unternehmen. Sie spricht auch darüber, dass aufwendige Regulierung kleineren Wettbewerbern den Markteintritt erschweren könnte. Ich finde, darüber müssen wir reden.
Wir sollten aber sorgfältig unterscheiden. Wenn ein Forscher aus Sorge seinen Arbeitsplatz aufgibt, ist das zunächst seine persönliche Entscheidung und Warnung. Daraus lässt sich nicht ohne Weiteres auf die Motive eines ganzen Unternehmens schließen.
Ebenso wenig wird ein konkretes Sicherheitsproblem dadurch harmlos, dass eine dramatische Schlagzeile einem Konzern möglicherweise auch Aufmerksamkeit verschafft.
Die Berichte über KI-Agenten, die in Tests unerwartet handelten oder Grenzen überschritten, werfen wichtige Fragen auf: Welche Berechtigungen hatten diese Systeme? Warum griffen Schutzmechanismen nicht ausreichend? Was lässt sich daraus für künftige Anwendungen lernen?
Ich möchte, dass solche Vorfälle unabhängig untersucht und verständlich erklärt werden. Ebenso möchte ich wissen, wo wir über belegte Probleme sprechen und wo über mögliche Zukunftsszenarien, deren Eintritt niemand verlässlich vorhersagen kann.
Wir müssen die Sicherheitsrisiken der Technologie ernst nehmen und zugleich genau hinschauen, welche Macht die Unternehmen gewinnen, die sie entwickeln. Beide Fragen gehören zusammen.
Vielleicht schenkt uns KI etwas, das wir dringend brauchen: Zeit füreinander
Bei allem Ernst gibt es eine Möglichkeit, über die ich mich sehr freuen würde.
Wenn KI uns künftig tatsächlich viel Arbeit abnimmt, könnten wir Zeit für Dinge gewinnen, die in unserem Alltag oft zu kurz kommen.
Vielleicht hat ein Arzt mehr Zeit für das Gespräch mit einem Patienten, wenn Technik ihn bei der Dokumentation unterstützt. Vielleicht kann eine Lehrkraft sich intensiver um ein Kind kümmern, wenn bestimmte Verwaltungsaufgaben leichter werden. Vielleicht entstehen neue Tätigkeiten, bei denen Menschen andere Menschen begleiten, pflegen, beraten oder unterstützen.
Ich kann mir eine solche Entwicklung gut vorstellen.
Sie ist allerdings keineswegs garantiert.
Eine Stunde, die durch KI eingespart wird, kann einem Menschen zugutekommen. Sie kann ebenso gut mit noch mehr Aufgaben gefüllt werden. Darüber entscheiden Menschen in Unternehmen, öffentlichen Einrichtungen und Familien.
Ich frage mich deshalb, ob wir bei all der Begeisterung über Effizienz überhaupt noch ausreichend darüber sprechen, wofür wir schneller werden wollen.
Wollen wir jede gewonnene Minute sofort wieder verplanen? Immer erreichbar sein, noch mehr erledigen und unsere Erwartungen immer weiter steigern?
Oder gelingt es uns, neue Möglichkeiten auch dafür zu nutzen, einander wieder mehr Aufmerksamkeit zu schenken?
Ich denke an Kinder, die nach der Schule jemanden brauchen, der wirklich zuhört. An ältere Menschen, die sich über einen Besuch freuen. An Mitarbeiter, bei denen jemand bemerkt, dass es ihnen nicht gutgeht. An Paare, die abends miteinander sprechen, statt nebeneinander auf Bildschirme zu schauen.
Neben Superintelligenz und Milliardeninvestitionen klingt das vielleicht ziemlich unspektakulär.
Für unser Leben ist es das überhaupt nicht.
Wir betreten ein neues Zeitalter. Wie wir darin leben, entscheiden wir mit.
Nach der Sendung bin ich weder mit der Gewissheit nach Hause gefahren, dass KI die Menschheit auslöschen wird, noch mit dem beruhigenden Gefühl, dass wir alles schon im Griff haben.
Ich habe Menschen erlebt, die aus unterschiedlichen Fachgebieten viel Wissen und ebenso wichtige offene Fragen mitgebracht haben. Ich habe über Chancen nachgedacht, die mich begeistern, und über Gefahren, die ich sehr ernst nehme.
Meine unaufgeregte 10 von 10 auf der Gefahrenskala bleibt deshalb stehen.
Sie bedeutet für mich, dass ich genau hinsehen möchte. Dass ich die Warnungen aus der Forschung ernst nehme, nach belastbaren Erkenntnissen frage und mich mit den Menschen beschäftigen will, deren Leben sich durch KI verändert. Dass ich bereit bin, dazuzulernen und meine Einschätzungen zu überprüfen.
Vor allem bedeutet sie, dass ich mich nicht darauf verlassen möchte, irgendjemand anderes werde diese Entwicklung schon für uns regeln.
Wir brauchen Fachleute, die ihr Wissen teilen und Unsicherheiten offen benennen. Unternehmen, die Verantwortung übernehmen. Schulen, die Kinder zu eigenständigem Denken befähigen. Und ein Europa, das eigene technologische Fähigkeiten aufbaut und seine Regeln wirksam umsetzt.
Wir brauchen aber auch wieder mehr Bereitschaft, einander zuzuhören.
Menschen müssen Angst haben dürfen, ohne belächelt zu werden. Sie müssen Fragen stellen können, ohne sich dafür zu schämen. Und sie brauchen die Möglichkeit, dieses neue Zeitalter zu verstehen und mitzugestalten, auch wenn sie nicht täglich mit KI arbeiten.
Die eine Antwort auf alle großen Fragen hat heute niemand. Aber wir können gemeinsam entscheiden, wie wir nach Antworten suchen und wie wir dabei miteinander umgehen.
Ich glaube an unsere Fähigkeit, diesen Umbruch zu gestalten. Eine Garantie, dass alles gut ausgeht, haben wir nicht. Umso wichtiger ist es, jetzt hinzusehen und Verantwortung zu übernehmen.
Und während wir darüber nachdenken, was KI eines Tages alles für uns tun könnte, sollten wir eines nicht vergessen: Unser eigenes Leben findet längst statt.
Wir bekommen keinen Tag zurück, an dem wir einem Menschen nicht zugehört haben. Keine verpasste Umarmung. Kein Gespräch, das wir immer wieder auf später verschieben. Keine Gelegenheit, einem Kind Mut zu machen, die wir einfach auf irgendwann vertagen können.
Vielleicht wird KI uns eines Tages unglaublich viel Arbeit abnehmen.
Was wir mit dieser Zeit anfangen und was wir füreinander tun wollen, müssen wir selbst entscheiden.
Genau darin liegt für mich unsere Superkraft Menschsein.