Not logged inCSS-Forum
Forum CSS-Online Help Search Login
CSS-Shop Impressum Datenschutz
Up Topic Hauptforen / CSS-Forum / [offtopic] Doomsday in Sichtweite
- - By Ingo Althöfer Date 2026-09-16 17:08 Upvotes 2
Liebe Leute,

es gibt einen offenen Brief von 42 führenden
Mathematikern an den Präsidenten der Royal
Society (Sir Paul Nurse, Biochemiker, Nobelpreis 2021).

Hier der Link:
https://docs.google.com/document/d/1-xOkPeHmDEdRigT2YcP2nLfTB56yOn4FFbBfVUIXCUE/edit?pli=1&tab=t.0

Und hier eine sinnwahrende Übersetzung ins Deutsche:

Offener Brief an Sir Paul Nurse, Präsident der Royal Society

Lieber Paul,

wir als Mathematiker schreiben Ihnen, um unsere äußerste Besorgnis
über das Tempo der KI-Entwicklung und die daraus resultierenden
Folgen für Menschheit und Zivilisation auszudrücken. Keiner von uns
ist in nennenswertem Umfang in KI-Unternehmen involviert.

In den vergangenen drei Monaten konnten wir beobachten, wie sich
die führenden Modelle von OpenAI und Anthropic vom Niveau eines
starken Studenten dahingehend entwickelt haben, dass sie nun mehrere
offene Fragen an der Spitze der aktuellen Forschung gelöst haben –
darunter eines der 7 Millennium-Probleme. In vielen Teilbereichen
unseres Faches agieren diese Modelle mittlerweile auf dem Niveau
der weltweit besten menschlichen Mathematiker. Wir müssen davon
ausgehen, dass eine signifikante Wahrscheinlichkeit besteht, dass
sie innerhalb eines ähnlich kurzen Zeitraums übermenschliche
Fähigkeiten entwickeln werden.

Dies hat tiefgreifende Konsequenzen für die Mathematik, doch darauf
hinzuweisen, ist nicht der Zweck dieses Briefes. Es ist höchst-
wahrscheinlich, dass diese Systeme in anderen technischen Bereichen
ähnlich leistungsfähig sind, wie (beispielsweise) in der Cybersicher-
heit, der Steuerung autonomer Waffen, der Entwicklung biologischer
und chemischer Kampfstoffe sowie der gezielten Verbreitung von
Desinformation. Zudem müssen wir annehmen, dass der Zuwachs ihrer
Fähigkeiten in diesen Bereichen in einem ähnlich rasanten Tempo
stattfinden wird.


Wir alle haben die Warnungen ehemaliger Mitarbeiter großer KI-Unternehmen
vernommen, die die Wahrscheinlichkeit einer Auslöschung der Menschheit im
Laufe des nächsten Jahrzehnts auf bis zu 10 Prozent schätzen. Da wir die
Leistungssteigerung dieser Modelle in unserem eigenen Fachgebiet unmittel-
bar miterleben, sind wir der festen Überzeugung, dass solche Aussagen
nicht einfach als „Hype“ abgetan werden dürfen.

Wenn die Situation für die breite Öffentlichkeit offensichtlich wird,
könnte es bereits zu spät für Gegenmaßnahmen sein. Wir betrachten dies
als einen Notfall und rufen die Royal Society dazu auf, ihren Einfluss
geltend zu machen, um der Regierung und den Medien diese Einschätzung
zu vermitteln.

Unterzeichnet von 42 mathematischen Fellows und auswärtigen Mitgliedern der Royal Society

******************************************************

Ingo: Alle 42 Unterzeichner sind mathematisch stärker
als ich. Mit KI-Hilfe bin ich auf einem Niveau mit ihnen.

Die menschliche Zivilisation hängt im Moment
wirklich an einem seidenen Faden.

Ingo.
Parent - By Olaf Jenkner Date 2026-09-16 17:36
Wir alle hier im Forum haben die Gnade der frühen Geburt.
Ein paar Jährchen sollte die Menschheit schon noch durchhalten.
Parent - By Volker Pittlik Date 2026-09-16 17:52 Upvotes 1
Beste Grüsse aus dem Skynet.

Ich nutze die Gratisversionen seit einigen Monaten und was ich da sehe beim Schreiben von bash- oder Pythonscripts ist sehr eindrücklich. Ich kann das auch selbst schreiben, aber der generierte Code ist wesentlich kompakter, tut was er soll und er enthält keine Syntaxfehler. Die Fehlersuche nach diesen Fehlern ist zeitaufwendig. Die Zeitersparnis ist erheblich und die Resultate erfüllen die Anforderungen (oft will die KI sogar noch mehr und noch besseres machen).

Ich befürchte, dass diese Appelle, von denen es in jüngster Zeit mehrere sogar von den Eigentümern der KIs selber gab, werden werden wirklungslos verpuffen. Das Profit- und vor allem Machtstreben wird alle Bedenken und  Hemmungen überwinden.

Volker
Parent - By Max Siegfried Date 2026-09-16 19:33
Damit wären dann die deutlich stärkeren beziehungsweise besten Mathematiker der Welt demnächst arbeitslos inklusive ihrer starken Studenten.
Schaufeln soll es noch genug geben und da haben meines Wissens nach die KI Roboter die Führung noch nicht übernommen.

Im übrigen hinkt deren Vergleich etwas also gewaltig (Niveau eines starken Studenten, jetzt Spitze der aktuellen Forschung).
Die haben echt keine Ahnung. (Da hätte es sich gelohnt, öfters die eigene schachliche Spielstärke zu steigern und die Schachentwicklung und die jeweilige Dauer zu verfolgen.)
Denn es verhält sich eher so:
Die Schachprogramme der "Fritz"-Reihe traten in den 1990er- und 2000er-Jahren mehrmals gegen die amtierenden Schachweltmeister an. Hier sind die spezifischen Versionen, die Partien oder ganze Wettkämpfe gegen Garry Kasparow und Vladimir Kramnik gewinnen konnten:  Garry Kasparow (X3D Fritz & Fritz 3)  Garry Kasparow hat in seiner Karriere zwar nie einen offiziellen, über mehrere Runden gehenden klassischen Wettkampf (Match) gegen Fritz verloren, er wurde jedoch in einzelnen Partien von der Software geschlagen:  X3D Fritz (2003): In einem auf vier Partien angesetzten "Mensch gegen Maschine"-Wettkampf in New York verlor Kasparow die zweite Partie gegen diese Version. Der Wettkampf endete insgesamt unentschieden (2:2).  Fritz 3 (1994): Bei der Intel Express Challenge, einem stark besetzten Blitz- und Schnellschachturnier in München, verlor Kasparow in der regulären Runde eine Partie gegen das Programm. Er traf im anschließenden Play-off erneut auf Fritz 3 und besiegte es dort deutlich.  Das Match gegen X3D Fritz zeichnete sich durch ein ungewöhnliches, namensgebendes Setup aus: Kasparow bewegte keine echten Figuren, sondern betrachtete das Brett über eine 3D-Brille und übermittelte seine Züge per Spracherkennung.  Gut zu wissen: Schachprogramme hatten in dieser Ära oft noch Probleme mit strategischen, geschlossenen Positionen. Kasparow nutzte diese Schwäche im dritten Spiel des 2003er-Matches erfolgreich aus, als die Software Figuren hin und her zog, ohne einen langfristigen Plan zu verfolgen.  Vladimir Kramnik (Deep Fritz 10)  Im Gegensatz zu Kasparow verlor Kramnik als amtierender Weltmeister einen gesamten klassischen Wettkampf gegen die deutsche Software.Deep Fritz 10 (2006): In einem auf sechs Partien angesetzten Match in Bonn unterlag Kramnik dem Programm Deep Fritz mit 2:4. Deep Fritz (betrieben mit der Version 10) gewann zwei Partien (darunter die letzte und entscheidende), während vier Begegnungen unentschieden endeten.  Während der Partien in Bonn wurden die Züge der Maschine von einem menschlichen Operator (oft den Entwicklern selbst) am physischen Brett ausgeführt.  Ein vorheriges Duell zwischen Kramnik und Deep Fritz 7 (bekannt als "Brains in Bahrain" im Jahr 2002) endete nach acht Partien noch unentschieden (4:4).

Wir sind sozusagen noch ganz am Anfang bei KI und Robotik bzw. es wurden gerade einmal die ersten Schritte gemacht.
Bedenke das wir im Schach jetzt schon bei Fritz 21 sind.
Bedenke das Stockfish um Welten stärker ist.
Und jetzt bedenke, dass dieser ganze Weg uns bei KI und Robotik noch bevorsteht.

Also eigentlich müssten die ganzen Profi Mathematiker täglich eine Party feiern, weil die Situation für Sie und alle anderen aktuell so gut ist.

Ach ja, bedenke den gleich bleibenden, rasanten Entwicklungsfortschritt von Stockfish.
Bedenke, die paar Leute mit ihrer Spielzeug Hardware und der Rechenpower, die für die Stockfisch Entwicklung stiften und vergleiche das mit den großen KI Giganten und deren Serverfarmen.
Bedenke, dass die Stockfish Entwickler die Engine immer noch nicht für Apple Hardware optimiert haben. Stichwort Speed Ups.
Bedenke, dass die Stockfisch Entwickler es immer noch nicht geschafft haben, eine Version zu entwickeln, die nur die GPU benutzt und erst recht nicht eine Version, die zusätzlich die GPU benutzt.
Bedenke, dass Stockfisch leider immer noch nicht in der Lage ist, die Leistung von NPUs, Neural Engine, KI Chips einzeln oder zusätzlich in Anspruch zu nehmen.
Wären die Stockfisch Entwickler, etwas offener, dann würde man in diese Bereiche einsteigen.
Schließlich sind LC0 und KataGO in der Lage die zusätzliche Power die NPUs mit sich bringen zu nutzen.
Eigentlich müsste ShashChess nach einigen Handgriffen auch dazu in der Lage sein.

Du könntest also sagen, dass Stockfish noch ungefähr +1000 elo durch die aktuelle gleichbleibende Entwicklung hinzugewinnen wird, dann durch die zukünftige Entwicklung +500 elo durch die GPUs und dann noch mal +500 elo durch die KI Chips und am Ende noch mal +500 elo durch das Finetuning.
Das gleiche kannst du so mehr oder weniger auf KI und Robotik übertragen.

Je mehr Zeit vergeht desto weniger neue Berufe werden entstehen. Ganz zu schweigen davon, dass von Anfang an nicht annähernd so viele Berufe entstehen werden wie aktuell verschwinden.
Irgendwann wird es sich nicht einmal lohnen, den neuen Beruf zu lernen, denn selbst wenn du nur eine Zweijährige Ausbildung machen würdest, die KI wird schneller sein und immer schneller werden je mehr Zeit vergeht. Und ich rede von einer zweijährigen Ausbildung, nicht 3 Jahre. Ein fünfjähriges Studium kannst du komplett vergessen.
Die besten Chancen hast du, wenn du einen IQ über 200 hast. Alles darunter ist, sagen wir mal bildhaft so: Egal wie viele neue Berufe entstehen, auch wenn es 1 Million in einer Traumwelt werden sollten, du kannst nun mal aus einem Normalo der seinen Job verloren hat bzw. der Job wurde ihm geklaut, keinen Albert Einstein machen. Und selbst wenn du es könntest, würde dies so viel Zeit in Anspruch nehmen, dass dieser gerade mal so gut wäre wie ein Schach Anfänger verglichen mit einem Schachgroßmeister auf Vergleich mit KI bezogen.

Wenn auf der ganzen Welt alle Menschen super sozial miteinander umgehen würden, dann könntest du dich entspannt zurücklehnen, zumindest mehr oder weniger.
Ich gehe davon aus, dass in ganz Europa, weil EU Regelungen, aber auch in Amerika und Co., früher oder später der Einsatz von KI und Robotern verboten wird im Business Bereich. Im privaten Bereich kannst du dich weiterhin mit der KI unterhalten und wenn du zum Beispiel in deinem Haus mitten auf dem Lande wo niemand lebt, pflegebedürftig bist, wird sich dein KI Roboter um dich kümmern.
Und warum wird das ganze im Business Bereich zum fast 100% Teil verboten? Ganz einfach, weil auf einer Skala von 0-100% die Anzahl der Arbeitslosen immer weiter ansteigen wird und wenn ein gewisser Punkt in einem Land erreicht ist, dann kannst du dir vorstellen, zu welchem Gesetz die Bevölkerung die jeweilige Regierung zwingen wird.
Im übrigen stimmt sowohl die arbeitende Bevölkerung als auch die nicht arbeitende Bevölkerung für das Gesetz. Denn bildhaft gesprochen, wollen die Leute, die ihre Arbeit verloren haben, sich trotzdem weiterhin ein iPhone, einen Fernseher, Urlaub, und so weiter gönnen und auf der anderen Seite wollen die 1 % die noch arbeiten nicht 99 % Steuern zahlen, nur um die 90 % die nicht mehr arbeiten, weil es für sie keine Arbeit mehr gibt, gerade so am Leben zu erhalten, denn für mehr als "am Leben erhalten" reicht das Geld nicht.
Parent - - By Frank Brenner Date 2026-09-16 23:00 Upvotes 1
Ich verfolge die Entwicklung der KI modelle mit rund 250 Knobel- Logik- und Matherätsel.

Was mir dabei auch auffällt ist: Die KI haben noch vor einem Jahr oft umständliche und viel zu komplizierte Lösungen gefunden.

Mittlerweile löst seit GPT 5.5 die openai KI jedes meiner Rätsel.

Es geht mir seit einiger Zeit jetzt nicht mehr darum, daß die KI das Rätsel mathematisch korrekt löst, sondern dass die Lösung besonders elegant, Transparent und
so einfach wie möglich sein soll.
Oft muss man die KI für diese Eigenschaft extra auffordern. Aber das Ergebnis ist bereits schon sehr gut geworden:

Gerade das neue  Astra Modell von Openai schafft es  verblüffend transparente Lösungen zu finden, die gelegentlich noch einfacher und eleganter sind als die Musterlösungen die ich kenne.

Ein Beispiel hierfür möchte ich hier vorführen.
Es ist einfach genug daß jeder mitmachen kann. Zuerst das Rätsel:

Code:
Ein Mann würde auf einer fahrenden Rolltreppe 12 Schritte benötigen um oben anzukommen.  Hierbei entspricht ein Schritt einer Stufe auf der Rolltreppe.
Als er genau auf halber Strecke ist, also nach sechs gelaufenen Schritten, startet seine Freundin ganz unten an der Rolltreppe und geht ebenfalls hinauf.
Sie muss 24 Stufen steigen, ehe sie genau gleichzeitig mit ihm das obere Ende der Rolltreppe erreicht.
a) Wieviel mal schneller ist die Freundin im Vergleich zum Mann ?
b) Wieviele Stufen hat die Rolltreppe ?


Und dies hier ist die elegantese Lösung ohne Mathematik, nur durch denken. GPT Astra hat die Lösung gefunden, es geht natürlich um den Aufgabenteil b)
Zitat:

a)
Als die Freundin startet, muss der Mann noch 6 Schritte gehen. Die Freundin macht bis oben 24 Schritte.
Beide kommen gleichzeitig an, haben dafür also gleich viel Zeit.
Während er einen Schritt macht, macht sie vier. Deshalb geht sie viermal so schnell.

b)
Als die Freundin startet, denken wir uns die Stufen von unten nach oben durchnummeriert: Ihre Startposition erhält die Nummer 0, die nächste Stufe die Nummer 1 und so weiter.
Die Nummern fahren mit der Rolltreppe mit.

Nach 24 eigenen Schritten erreicht die Freundin oben die Stufe mit der Nummer 24. Da der Mann genau gleichzeitig oben ankommt, erreicht auch er diese Stufe mit der Nummer 24.

Seit dem Start der Freundin hat der Mann aber nur sechs eigene Schritte gemacht. Also stand er vorher auf der Stufe mit der Nummer 24 − 6 = 18.

Weil er zu diesem Zeitpunkt genau auf halber Strecke war, entsprechen diese 18 Stufen der halben Rolltreppe.

Die gesamte Rolltreppe hat somit 36 Stufen.


Frühere KI  Modelle von vor ein paar Quartalen haben dieses Rätel ebenfalls gelöst, aber sie führen jede Menge Unbekannte ein und berechnen das ganze dann über viel zu komplizierten Formeln aus: (hier nur ein Ausschnitt)

N: die gesuchte Rolltreppenlänge in Stufen,
u: die Gehgeschwindigkeit des Mannes relativ zur Rolltreppe,
v: die Gehgeschwindigkeit der Freundin relativ zur Rolltreppe,
w: die Geschwindigkeit der Rolltreppe,
T: die gesamte Fahrt- und Gehzeit des Mannes,
S: die gesamte Fahrt- und Gehzeit der Freundin,
tau: der Zeitpunkt, zu dem die Freundin startet, gemessen ab dem Start des Mannes.

Aus diesem Zirkus an Variablen entstehen dann riesen Formeln die sich erst am Ende auflösen und zum selben Ergebnis kommen.

Der Punkt ist der: Ki wird in Zukunft nicht nur Lösungen zu mathematischen Problemen finden, sonden im Zuge der immer größer werdenden Intelligenz wird die KI auch immer besser in der Lage sein besonders elegante und leicht zu verstehende Lösungen zu präsentieren.
Parent - By Frank Brenner Date 2026-09-16 23:42 Edited 2026-09-16 23:49
Meine fifty cents sind:

Man kann es nicht mehr stoppen und viele Menschen haben aber auch zu viele Hollywood Filme geguckt.

Die Gefahr ist eher dass Trump eines Tages die KI für sich selber nutzten könnte  um die Macht seines Clans und sein privates Vermögen zu maximieren.
Sein größtes Vorbild ist die (schein) Beliebtheit von Kim J.U. und  die Macht und Stärke von Putin.

Durch die Blume haben Dario Amodei von Anthropic und Sam Altman genau dieses angedeutet und versuchen Strukturen zu schaffen, daß der Mißbrauch der KI durch eine einzelne Person (Haha wer wird wohl damit in den USA wohl gemeint sein) zu verhindern.
Amodai hat ja Anfang des Jahres bereits vom us Kriegsminister eins gegen sein Schienbein bekommen als Amodai die Herausgabe einer unzensierten KI an diesen Kriegsminister verweigert hat. Es ging damals um Mythos, ein enormer Intelligenzsprung damals. Mittlerweile haben sich die Wogen erst einmal geglättet, denn Mythos ist  doch noch nicht so intelligent, dass es wirklich nützlich ist für Machtausbau und Profit.

Natürlich dürfen die beiden nicht konkret D. Trump nennen, so spricht man es dann durch die Blume:

1. Altman am 14. Sep 26  auf X: Wenn eine außerordentlich mächtige KI von einer einzelnen Person oder einem Unternehmen benutzt wird, um allen anderen die eigene Weltsicht aufzuzwingen …

2. Dario Amodei im CBS-Interview, 13. September 2026

Auf die Frage, ob er die Technologie der Regierung überlassen würde, antwortete er mit einer Einschränkung. Übersetzt:

„Ich befürchte, dass eine einzelne Regierung diese Technologie genauso leicht missbrauchen könnte wie ein einzelnes Unternehmen.“

Und hier:

Dazu passt Trumps Aussage vom 14. September: Ein starker, kluger Präsident sei die einzige notwendige KI-Schutzvorkehrung.
Parent - By Thomas Zipproth Date 2026-09-16 23:20 Upvotes 1
Ingo Althöfer schrieb:

Die menschliche Zivilisation hängt im Moment wirklich an einem seidenen Faden.


In diesem Fall muss ich tatsächlich widersprechen bzw. ich sehe es genau andersrum.
Wenn man verfolgt, was sich derzeit in der Welt tut, gibt es eine nicht unbeträchtliche Wahrscheinlichkeit,
dass die menschliche Zivilisation ganz ohne AI-Mitwirkung eine globale Katastrophe verursacht (Kriege, Atomkrieg etc.).

Meiner Meinung nach sind die möglichen Fortschritte durch eine "Super-KI" vielleicht noch am ehesten geeignet,
solche Entwicklungen zu verhindern oder ihre Folgen abzumildern.
Aber momentan scheinen eher die "Doomer" den Ton anzugeben. Ich hoffe, dass sie sich nicht durchsetzen.

Nur ein Beispiel:
Ein "mad Scientist" wäre grundsätzlich auch heute schon in der Lage, mit vorhandener Chemie-/Biologie-Software und entsprechendem Fachwissen einen ziemlich gefährlichen Erreger zu entwickeln, ganz ohne LLMs.
Eine leistungsfähige KI könnte auf der anderen Seite die Entwicklung von Impfstoffen, Medikamenten und anderen Gegenmaßnahmen erheblich beschleunigen.
Man kann das also auch genau anders herum sehen.

Und autonome Waffen: Die gibt es bereits, und ihre weitere Entwicklung hängt nicht von LLMs ab.
Gut, wenn wir mit Hilfe leistungsfähiger KI auch Gegenmaßnahmen dagegen entwickeln können.

Und chemische Kampfstoffe:
Auch hier sind bereits extrem wirksame Stoffe bekannt. Das "Problem" ist nicht unbedingt, noch giftigere Stoffe zu finden, sondern sie großflächig wirksam einzusetzen.
Verteilung, Wetter, Schutzmaßnahmen usw. setzen dabei erhebliche praktische Grenzen.
Auch hier sehe ich nicht, warum ausgerechnet eine Super-KI zwangsläufig die größere Gefahr als die größere Chance sein sollte.

Thomas
Parent - By Andreas Mader Date 2026-09-17 20:29 Edited 2026-09-17 21:07
Und ich dachte, führende Mathematiker würden sich freuen, wenn mehrere offene Fragen an der Spitze der aktuellen Forschung (darunter eines der 7 Millenium-Probleme) gelöst wurden. Wenn die KI in anderen Bereichen ähnliche Leistungen bringt, wie das erwartet wird, führt das vielleicht zu Heilmöglichkeiten für Krankheiten, die bis jetzt als unheilbar gelten. Technischer Fortschritt war schon immer ein zweischneidiges Schwert und irgendjemand hat immer davor gewarnt.

Ingo Althöfer schrieb:

Ingo: Alle 42 Unterzeichner sind mathematisch stärker als ich. Mit KI-Hilfe bin ich auf einem Niveau mit ihnen.


Geht es darum, dass mathematische Probleme gelöst werden oder geht es darum, WER sie löst und dass gewisse Hierarchien bewahrt werden?
Up Topic Hauptforen / CSS-Forum / [offtopic] Doomsday in Sichtweite

Powered by mwForum 2.29.3 © 1999-2014 Markus Wichitill