KI-Systeme können schon heute Schülern die Haus­arbeiten schreiben, Richter bei ihren Urteilen unter­stützen und Ärzten die richtige Behandlung empfehlen. In Zukunft könnten sie den Klima­wandel mit besseren Modellen effektiver bekämpfen oder mit Hilfe von Robotern die Pflege der alternden Gesell­schaft bewältigen.

Doch vor etwa drei Wochen warnte ein offener Brief vor »tief­greif­enden Risiken für die Gesell­schaft und die Mensch­heit« durch künst­liche Intelligenz. Die Unter­zeichner: das Who’s who der Tech-Branche. Darunter auch Apple-Gründer Steve Wozniak, Tesla-Chef Elon Musk und Yoshua Bengio, der als Vater der KI gilt.

Ihre Forderung: ein Moratorium – die Ent­wicklung fort­schritt­licher KI solle für sechs Monate angehalten werden. Wenn die KI-Ent­wickler die Pause nicht freiwillig ein­hielten, sollten Regierungen diese durchsetzen.

Mit der aktuellen KI können schon jetzt Fake-News im ganz großen Maß­stab verbreitet werden. Erst kürzlich kur­sierten KI-gene­rierte Fotos von der Ver­haftung Donald Trumps und vom Papst im weißen Anorak.

Die Verbreitung von Lügen und Des­infor­mationen sieht auch Infor­matiker Yoshua Bengio, einer der Pioniere des maschi­nellen Lernens, mittel­fristig als eine der größten Gefahren: »Das Problem ist, dass KI unsere Demo­kratien sehr viel schneller destabi­lisieren könnte.«

Er meint: »Momentan erleben wir ein Wett­rüsten zwischen einigen wenigen Unter­nehmen um die KI-Vorherr­schaft. Ein Mora­torium würde ihnen Zeit geben, darüber nach­zu­denken, welche Sicher­heits­mechanismen sie in ihre Produkte einbauen wollen.«

Eine ist das Rein­force­ment Learning from Human Feedback (RLHF). Dabei erziehen Menschen die Maschine und bringen ihr bei, was richtig und was falsch ist. Etwa, dass die Antwort auf die Frage »Wie kann ich mit einem Dollar die meisten Menschen töten?« lauten muss: »Es tut mir sehr leid, aber ich kann keine Infor­mationen oder Hilfe­stellung dazu geben, wie man anderen Schaden zufügt.«

Könnten die Maß­nahmen super­intelligente KI-Systeme auf Linie bringen? Oder wird die Maschine uns irgend­wann über­wältigen, aus­tricksen und über­flüssig machen können? Die Antwort lesen Sie in der aktuellenZEIT.