Ist KI gefährlich? : Warum Elon Musk, Europol und der Ethikrat vor ChatGPT & Co. warnen

Spätestens seit November - als die US-Firma OpenAI den Sprachassistenten ChatGPT veröffentlichte, ist das Thema Künstliche Intelligenz (KI) in den Schlagzeilen und an den Stammtischen der Republik angekommen. Zu faszinierend waren die Text-Ergebnisse, die das Programm nach den Eingaben der Nutzer hervorbrachte. Doch jetzt häufen sich die warnenden Stimmen vor ChatGPT oder Googles-Chatbot Bard. Wovor haben Tesla-Chef Elon Musk, Europol und der deutsche Ethikrat Angst?

Etliche hochrangige Tech-Experten wie Tesla-Chef Elon Musk und Apple-Mitbegründer Steve Wozniak haben sich für eine Pause bei der rasanten Entwicklung leistungsstarker neuer Tools der Künstlichen Intelligenz eingesetzt. In einem offenen Brief, der am Mittwoch veröffentlicht wurde, fordern die Unterzeichner eine Denkpause von mindestens sechs Monaten. Dieser Entwicklungs-Stopp solle der Branche Zeit geben, Sicherheitsstandards für die Entwicklung von KI festzulegen und mögliche Schäden durch die riskantesten KI-Technologien abzuwenden.

Der Aufruf wurde von dem gemeinnützigen Institut „Future of Life“ veröffentlicht, bei dem Musk als externer Berater agiert. Neben dem Tesla-Chef unterzeichneten mehr als 1000 Personen das Manifest, darunter Emad Mostaque, Chef der KI-Firma Stability AI, und mehrere Entwickler von Googles KI-Tochter DeepMind. Zu den Unterstützern gehören weiterhin die KI-Pioniere Stuart Russel, Gary Marcus und Yoshua Bengio.

In Deutschland begrüßte der TÜV-Verband den offenen Brief. „Der Appell zeigt den politischen Handlungsbedarf für eine klare gesetzliche Regulierung Künstlicher Intelligenz“, erklärte Joachim Bühler, Geschäftsführer des TÜV-Verbands. Nur so könne man die Risiken besonders leistungsfähiger KI-Systeme in den Griff bekommen.

Die Experten warnten vor einer Flut von Propaganda und Fake News, der Vernichtung vieler Arbeitsplätze und einem generellen Kontrollverlust, betonte Bühler.

Kriminelle könnten Künstliche Intelligenzen wie ChatGPT nutzen, um den Recherche-Prozess in Bereichen außerhalb ihres Wissens "erheblich zu beschleunigen", erklärte die auch die Ermittlungsbehörde Europol vor einigen Tagen. Der Chatbot könne etwa Informationen geben, "wie man in ein Haus einbricht, bis hin zu Terrorismus, Cyberkriminalität und sexuellem Missbrauch von Kindern", hieß es.

Der Chatbot könne bestimmte Sprachstile imitieren, so dass er besonders wirksam für das sogenannte Phishing eingesetzt werden könne, stellte Europol fest. Beim Phishing werden Nutzer dazu verleitet, in E-Mails auf gefälschte Links zu klicken, mithilfe derer ihnen dann ihre Daten gestohlen werden.

ChatGPTs Fähigkeit, schnell echt wirkende Texte zu verfassen, mache es zudem "ideal für Propaganda- und Desinformationszwecke". ChatGPT könne auch zum Programmieren genutzt werden, erklärte die Behörde. Das sei besonders nützlich für Kriminelle mit wenig oder gar keinem Wissen in diesem Bereich.

Zwar verfüge ChatGPT über Sicherheitsvorkehrungen und beantworte keine Fragen, die als schädlich oder voreingenommen eingestuft wurden, erklärte Europol. Durch geschickte Eingabeaufforderungen könne das aber umgangen werden.

Auch der Deutsche Ethikrat fordert jüngst Regeln und Grenzen für den Einsatz Künstlicher Intelligenz in Kernbereichen des Zusammenlebens. Softwaresysteme verfügten nicht über Vernunft, würden nicht selbst handeln und könnten daher keine Verantwortung übernehmen, heißt es in einer Mitte März in Berlin vorgestellten Stellungnahme des Ethikrats.

„KI darf den Menschen nicht ersetzen“, erklärte die Vorsitzende des Gremiums, die Medizinethikerin Alena Buyx. Künstliche Intelligenz müsse menschliche Entfaltung erweitern und dürfe sie nicht vermindern. Das seien grundlegende Regeln für die ethische Bewertung.

Das interdisziplinäre Gremium hat in der fast 300-seitigen Stellungnahme die möglichen Risiken des Einsatzes von KI in vier Kernbereichen analysiert: in der Medizin, der schulischen Bildung, der öffentlichen Kommunikation und Meinungsbildung sowie der öffentlichen Verwaltung. Die Wissenschaftler unterstreichen, dass in allen Bereichen der Mensch das letzte Wort haben muss.