Herr Friederich, worum wird es grob in Ihrem Vortrag gehen?
Simon Friederich: Insgesamt geht es um die Frage, was wir bei künstlicher Intelligenz zu erwarten haben und was es bedeuten wird, wenn generative KI-Systeme in den nächsten Jahren deutlich stärker werden, als sie es jetzt schon sind.
Wie stark können KI-Systeme denn noch werden?
In den vergangenen Jahren wurden viele Experten von der Schnelligkeit des Fortschritts überrascht. Und es ist kein Ende abzusehen. Das Ziel vieler KI-Unternehmen ist, Systeme zu entwickeln, die den Menschen in allen kognitiven Belangen überlegen sind, sodass sie Menschen überall ersetzen können, auch in der Wissenschaft.
Was würde das bedeuten?
Die Frage ist, was dann mit den Menschen passiert – ob sich die künstliche Intelligenz eventuell gegen die Menschen richtet und es zu einer – freundlichen oder feindlichen – Übernahme durch die Maschinen kommt. Viele KI-Experten befürchten das. Gleichzeitig geben alle zu, dass das auch falscher Alarm sein könnte. Viele von ihnen – ich auch – haben vor so einem Szenario aber mindestens so sehr Angst wie etwa vor dem Klimawandel.
Mit Verlaub: Das klingt nach dystopischen Filmen wie "Terminator" oder "Matrix".
Stimmt. Kritiker sagen deshalb auch, dass diese Experten zu viele von solchen Filmen gesehen haben.
Ist das denn ein realistisches Szenario?
Ich denke, wir sollten es ernst nehmen. Deshalb steht die Frage im Raum, ob man die Entwicklung allgemeiner KI stoppen sollte. Solche Systeme werden aber wohl so nützlich und profitabel sein, dass das kaum umzusetzen ist. Viele schlagen deshalb vor: Lasst uns die Entwicklung weiter treiben, dabei aber sicherstellen, dass die Maschinen nur das tun, was wir Menschen wollen. So können wir Menschen im Sattel bleiben, und die Maschinen dienen unseren Zielen. In meinem Vortrag argumentiere ich, dass diese Hoffnung vergebens sein könnte.
In der öffentlichen Debatte wird zurzeit viel über künstliche Intelligenz in den Medien gesprochen, aber sonst bekommt man von der Entwicklung gar nicht so viel im Alltag mit. Wo sind wir schon mit KI konfrontiert?
Die künstliche Intelligenz ist schon in allen Bereichen vorhanden – in der Wirtschaft, aber auch im Krieg. Sie beeinflusst das Leben aber auch positiv, zum Beispiel durch Automatisierung, die die Produktivität steigert. Grundsätzlich profitieren wir Menschen normalerweise von mehr Technologie, und das gilt zunächst einmal auch für KI. Natürlich gibt es auch Negativbeispiele, wie die Kindergeldaffäre in den Niederlanden, wo die Suche nach unberechtigten Kindergeldempfängern mit KI automatisiert wurde, aber letztlich fehlerhaft war. Eltern wurden aufgefordert, hohe Beträge zurückzuzahlen, ganze Familien wurden dadurch ins Elend gestürzt. Das war ein Fall von voreiliger Nutzung von KI.
Wie kann eine weitere Entwicklung der KI für uns nützlich und positiv sein?
Eine behutsame und schrittweise Entwicklung könnte uns erlauben, KI langsam und auf demokratisch legitimierte Weise mehr in die Gesellschaft zu integrieren. Es kann sein, dass das auf Jahrhunderte das Wohlergehen der Menschen steigern wird. Ich vermute jedenfalls, dass die Entwicklung von KI auf einer Skala wichtiger Ereignisse in der Menschheitsgeschichte auf einer Position mit der Sesshaftigwerdung der Menschen oder der industriellen Revolution stehen wird.
Aber wie erkennen wir bei einer langsamen, schrittweisen Entwicklung die Grenze, ab der es gefährlich wird?
Das ist schwierig. Für mich persönlich war ein Schlüsselmoment, als ich GPT 3 kennenlernte – einen Vorläufer von Chat GPT, der noch viel weniger als heute konnte. Vorher hatte ich bei der Entwicklung von allgemeiner KI in Jahrhunderten gedacht, seither rechne ich eher mit Jahrzehnten, vielleicht sogar nur Jahren.
Hat das Ihnen Angst gemacht?
Ja. Aber die Aussicht weckt auch verblüffende Hoffnungen. Wer weiß, was in der Verjüngungsforschung möglich sein wird und ob wir nicht Hunderte Jahre alt werden, falls sich durch KI wissenschaftlicher Fortschritt automatisieren lässt. Vielleicht kann KI auch irgendwann Konflikte lösen oder den Klimawandel aufhalten, wer weiß? Jedenfalls wird KI wohl ein zunehmend wichtiger Faktor dabei werden, wie sich all diese Dinge weiter entwickeln.
Was sagen Sie dazu, dass Menschen, die an der Entwicklung von KI beteiligt waren oder sind, am lautesten davor warnen?
Das Eigenartige ist, dass die, die am meisten besorgt sind, grundsätzlich sehr tech-optimistisch sind. Aber es macht andererseits auch Sinn. Diese Menschen glauben eben, dass Technologie einen extrem mächtigen Einfluss auf die menschliche Geschichte haben kann.
Was wollen Sie den Menschen, die zu Ihrem Vortrag kommen, mit auf den Weg geben?
Das Thema erscheint mir ein bisschen unterdiskutiert. Viele Menschen sehen nicht, an welcher historischen Schwelle wir wohl gerade stehen. Deutschland hat sich auf EU-Ebene dafür eingesetzt, dass generative KI-Systeme wenig reguliert werden. Das treibt die deutschen Bürger nicht sehr um. Dabei könnte die EU hier eine Schlüsselrolle spielen. Man kann den Prozess aufhalten, sicherer machen. Die Frage ist, ob man das will. Ich möchte den Menschen mit auf den Weg geben, dass jetzt wohl wichtige Weichen gestellt werden.
