Liebe Leute,
es gibt einen offenen Brief von 42 führenden
Mathematikern an den Präsidenten der Royal
Society (Sir Paul Nurse, Biochemiker, Nobelpreis 2021).
Hier der Link:
https://docs.google.com/document/d/1-xOkPeHmDEdRigT2YcP2nLfTB56yOn4FFbBfVUIXCUE/edit?pli=1&tab=t.0Und hier eine sinnwahrende Übersetzung ins Deutsche:
Offener Brief an Sir Paul Nurse, Präsident der Royal SocietyLieber Paul,
wir als Mathematiker schreiben Ihnen, um unsere äußerste Besorgnis
über das Tempo der KI-Entwicklung und die daraus resultierenden
Folgen für Menschheit und Zivilisation auszudrücken. Keiner von uns
ist in nennenswertem Umfang in KI-Unternehmen involviert.
In den vergangenen drei Monaten konnten wir beobachten, wie sich
die führenden Modelle von OpenAI und Anthropic vom Niveau eines
starken Studenten dahingehend entwickelt haben, dass sie nun mehrere
offene Fragen an der Spitze der aktuellen Forschung gelöst haben –
darunter eines der 7 Millennium-Probleme. In vielen Teilbereichen
unseres Faches agieren diese Modelle mittlerweile auf dem Niveau
der weltweit besten menschlichen Mathematiker. Wir müssen davon
ausgehen, dass eine signifikante Wahrscheinlichkeit besteht, dass
sie innerhalb eines ähnlich kurzen Zeitraums übermenschliche
Fähigkeiten entwickeln werden.
Dies hat tiefgreifende Konsequenzen für die Mathematik, doch darauf
hinzuweisen, ist nicht der Zweck dieses Briefes.
Es ist höchst-
wahrscheinlich, dass diese Systeme in anderen technischen Bereichen
ähnlich leistungsfähig sind, wie (beispielsweise) in der Cybersicher-
heit, der Steuerung autonomer Waffen, der Entwicklung biologischer
und chemischer Kampfstoffe sowie der gezielten Verbreitung von
Desinformation. Zudem müssen wir annehmen, dass der Zuwachs ihrer
Fähigkeiten in diesen Bereichen in einem ähnlich rasanten Tempo
stattfinden wird.Wir alle haben die Warnungen ehemaliger Mitarbeiter großer KI-Unternehmen
vernommen, die die Wahrscheinlichkeit einer Auslöschung der Menschheit im
Laufe des nächsten Jahrzehnts auf bis zu 10 Prozent schätzen. Da wir die
Leistungssteigerung dieser Modelle in unserem eigenen Fachgebiet unmittel-
bar miterleben, sind wir der festen Überzeugung, dass solche Aussagen
nicht einfach als „Hype“ abgetan werden dürfen.
Wenn die Situation für die breite Öffentlichkeit offensichtlich wird,
könnte es bereits zu spät für Gegenmaßnahmen sein. Wir betrachten dies
als einen Notfall und rufen die Royal Society dazu auf, ihren Einfluss
geltend zu machen, um der Regierung und den Medien diese Einschätzung
zu vermitteln.
Unterzeichnet von 42 mathematischen Fellows und auswärtigen Mitgliedern der Royal Society******************************************************
Ingo: Alle 42 Unterzeichner sind mathematisch stärker
als ich. Mit KI-Hilfe bin ich auf einem Niveau mit ihnen.
Die menschliche Zivilisation hängt im Moment
wirklich an einem seidenen Faden.
Ingo.