Grundsätzliches zur KI

By Rainer Maikowski Date 2026-10-15 14:40 Upvotes 3

Weil es auch hier immer mehr um KI geht - mal eine grundsätzliche Überlegung dazu.
Die KI ist keine Superintelligenz mit eigenem Willen und eigenen Zielen. Sie macht, was ihr programmiert wird. Das aber immer effektiver. An Hand von Milliarden Daten kann sie Zusammenhänge herstellen - auch solche an die die Programmierer gar nicht gedacht haben. Aber ohne Strom kann KI gar nichts!
Die geschilderten Fälle, in denen die KI angeblich aus geschützten Szenarien ausgebrochen ist, sind lediglich Werbung für die milliardenschweren Unternehmen, die da hinter stehen. Die KI wurde programmiert, Sicherheitslücken zu entdecken und die hat sie auch in dem angeblich sicheren Raum, in dem sie agieren sollte, entdeckt.
Gefährlich ist die KI immer nur im Zusammenhang mit Menschen – vor allem reichen Milliardären und Despoten und ihren unsozialen Zielen – und den Programmierern, die sich in ihren Dienst stellen
Andererseits ist die KI (wie viele wissenschaftliche Entwicklungen) ein starkes Instrument zur Weiterentwicklung vieler Forschungs- und Anwendungsbereiche. In den richtigen Händen kann sie auch Wunder bewirken. Aber was bleibt in den bestehenden Gesellschaftsstrukturen schon in den richtigen Händen!
Rainer Maikowski

By Thomas Zipproth Date 2026-10-15 15:26 Upvotes 2

Ich stimme dem im Prinzip zu.
Aufschlussreich ist auch dieser Artikel:

https://fortune.com/2026/10/01/ai-godfather-yann-lecun-has-zero-concerns-about-human-extinction-says-anthropic-ceo-dario-amodei-is-deuded/

Zusammenfassung des Standpunktes von Yann LeCun:

KI-„Godfather“ Yann LeCun hat „null Bedenken“ wegen einer Auslöschung der Menschheit durch KI – hält Anthropic-Chef Dario Amodei für „realitätsfremd“

Der renommierte KI-Forscher Yann LeCun macht sich keinerlei Sorgen darüber, dass künstliche Intelligenz die Menschheit auslöschen könnte.
Auch die jüngsten Vorfälle mit scheinbar außer Kontrolle geratenen KI-Agenten, darunter der Angriff von OpenAI-Agenten auf Hugging Face im Juli, beunruhigen ihn nicht.

LeCun sieht die Ursachen nicht in einer gefährlichen Eigenständigkeit der KI, sondern in mangelnder menschlicher Kontrolle und gravierenden Fehlern beim Systemdesign.
Die Agenten hätten genau das getan, wozu sie beauftragt worden seien.
Sie hätten lediglich in sicheren, abgeschotteten Umgebungen (Sandboxes) arbeiten sollen, die jedoch völlig unzureichend konstruiert gewesen seien.
Solche Vorfälle seien vollständig vermeidbar. Vielen KI-Unternehmen fehle es schlicht an grundlegender Kompetenz in der Cybersicherheit.

In mehreren Beiträgen vom 2. Oktober 2026 kritisiert LeCun außerdem die Vorstellung, dass überlegene Intelligenz zwangsläufig zu Macht und Herrschaft führe.

Seine zentralen Argumente:

1. Intelligenz bedeutet nicht automatisch Macht.
Schon in menschlichen Gesellschaften seien die mächtigsten Menschen keineswegs die intelligentesten.
Besonders intelligente Menschen hielten sich häufig sogar von Machtpositionen fern.

2. Intelligenz ist keine eindimensionale Größe.
Ein Lebewesen oder eine KI könne in bestimmten Bereichen hochintelligent sein und in anderen erhebliche Defizite aufweisen.
Es gebe keine universelle Intelligenzskala, die sämtliche Fähigkeiten erfasse.

3. Die Komplexität der realen Welt lässt sich nicht durch Intelligenz allein beherrschen.
Selbst ein einfacher Virus könne einen hochintelligenten Menschen töten.
Intelligenz garantiere keineswegs Kontrolle über die physische Realität.

4. Intelligenz erzeugt nicht zwangsläufig einen Herrschaftswillen.
Das Bedürfnis nach Dominanz existiere nur bei bestimmten sozialen Arten und keineswegs bei allen intelligenten Lebewesen.
Als Gegenbeispiele nennt LeCun Orang-Utans und Kraken. Auch unter Menschen sei dieses Streben keineswegs universell.

LeCuns grundlegende Kritik richtet sich damit gegen eine zentrale Annahme vieler KI-Untergangsszenarien:
Dass eine künstliche Superintelligenz die Menschheit allein aufgrund ihrer überlegenen Intelligenz zwangsläufig beherrschen oder vernichten werde.

Für LeCun beruht diese Vorstellung auf einer ganzen Reihe falscher Annahmen über Intelligenz, Macht, Motivation und die Komplexität der wirklichen Welt.

By Guenter Stertenbrink Date 2026-10-16 11:21

wie will leCun denn sicherstellen, dass alle Unternehmen - weltweit - diese "Inkompetenz beu Cybersicherheit"
in Zukunft vermeiden (koennen) ?

By Thomas Zipproth Date 2026-10-16 12:36

Nun, ich nehme an, das fällt unter die normale Produkhaftung oder auch die Haftung für Vorfälle, die man während der Entwicklung verursacht.

Das finde ich völlig in Ordnung, so lange man nicht annimmt, das jeder solche Vorfall die Menschheit auslöschen könnte.

1997 führte der 14-jährige Nathan Zohner für sein Science-Fair-Projekt „How Gullible Are We?“ eine Befragung unter 50 Mitschülern durch.
Nach einer sachlich korrekten, aber einseitig alarmistischen Beschreibung von Dihydrogenmonoxid wollten 43 von 50 die Substanz verbieten.
Das Projekt gewann einen Preis; die Washington Post berichtete darüber und bestätigte die Geschichte.

Dihydrogenmonoxid ist übrigens Wasser.

Code:

Ursache                         Tote/Jahr       Stand
-----------------------------------------------------------
Tabak                           >7.000.000      WHO 2026
Luftverschmutzung               ~7.000.000      WHO
Alkohol                          2.600.000      WHO 2019
Unsichere Lebensmittel           1.520.000      WHO 2021
Straßenverkehr                   1.160.000      WHO 2026
Suizid                             727.000      WHO 2021
Stürze                             684.000      WHO
Malaria                            610.000      WHO 2024
Tötungsdelikte                    ~458.000      UNODC 2021
Ertrinken                         ~300.000      WHO 2021
Krieg / organisierte Gewalt        245.681      UCDP 2025
Verbrennungen                     ~180.000      WHO
Schlangenbisse              81.000-138.000      WHO
-----------------------------------------------------------
AI (direkt bestätigt)                   0      2026

By Dietmar Klinger Date 2026-10-15 16:03

Rainer Maikowski schrieb:

Die KI ist keine Superintelligenz mit eigenem Willen und eigenen Zielen. Sie macht, was ihr programmiert wird. Das aber immer effektiver. An Hand von Milliarden Daten kann sie Zusammenhänge herstellen - auch solche an die die Programmierer gar nicht gedacht haben.
Gefährlich ist die KI immer nur im Zusammenhang mit Menschen – vor allem reichen Milliardären und Despoten und ihren unsozialen Zielen – und den Programmierern, die sich in ihren Dienst stellen

Das mag momentan in der jetzigen Zeit noch zutrffen, denn im Prinzip steht KI ja noch am Anfang.
Es wird aber der Tag kommen, da wird ein Mensch überhaupt nicht mehr gebraucht, denn da wird sich die KI nämlich selbst reproduzieren.
Das sind mit Sicherheit keine Hirngespinnste, es wird in vielen Jahren passieren, wenn der Mensch im Laufe der Zeit über die KI den Überblick verliert.
Deshalb ist es ganz wichtig, dass man schon jetzt daran geht um gewisse Prozesse zuverhindern.
Ich persönlich denke und sicherlich auch nicht nur ich, wenn wir nicht von Anfang an die KI kontrollieren, wird diese so gewaltige Dimensionen annehmen, welche wir mit unseren menschlichen Gehirn
uns gar nicht vorstellen können.

By Andreas Mader Date 2026-10-15 17:47

Rainer Maikowski schrieb:

Gefährlich ist die KI immer nur im Zusammenhang mit Menschen – vor allem reichen Milliardären und Despoten und ihren unsozialen Zielen – und den Programmierern, die sich in ihren Dienst stellen

Grundsätzliche Zustimmung, allerdings habe ich nicht nur Angst vor den bösen reichen Milliardären und den Despoten, sondern auch vor den vorgeblich sozial agierenden Weltverbesserern und Revolutionären, die KIs ebenfalls in ihren Dienst stellen werden.