Zu denken gibt bezüglich der Glaubwürdigkeit von KI-Systemen ein heutiger Zeitungsartikel:
Jede dritte Antwort von Chatbots ist falsch
Digitaltechnik Die künstliche Intelligenz gibt fast immer eine Antwort– selbst wenn sie falsch ist oder aus dubiosen Quellen stammt.
Mehr als einem Drittel der Fälle verbreiten die Systeme Falschinformationen zu aktuellen Nachrichtenthemen. Dabei greifen sie oft auf Quellen zurück, die kaum überprüfbar oder nachweislich manipulativ sind– und behandeln diese wie seriöse Medien. Besonders häufig betroffen sind Inhalte zu Geopolitik, Gesundheit und Wahlen.
Claude ist am zuverlässigsten
Die Unterschiede zwischen den Modellen sind erheblich. Am zuverlässigsten schnitt Claude ab, mit einer Fehlerquote von lediglich 10 Prozent. Auch Gemnini liegt mit gut 17 Prozent noch deutlich unter dem Schnitt. Am anderen Ende der Skala stehen Perplexity mit etwas mehr als 47 Prozent, Inflection mit gut 57 Prozent falschen Antworten. Dazwischen rangieren Grok und You.com mit je 33 Prozent, gefolgt von Mistral, Copilot, Chat-GPT und Meta - alle liegen bei Werten zwischen 37 und 40 Prozent.
Die getesteten KI-Modelle liefern heute schneller und bereitwilliger Antworten als noch vor einem Jahr - doch zuverlässiger sind sie dadurch nicht geworden. Die frühere Strategie, lieber zu schweigen, als falsche Informationen weiterzugeben, wurden laut der Studie (US-Analyseunternehmen Newsguard) weitgehend aufgegeben. Stattdessen antworten die Systeme inzwischen auf nahezu jede Frage, selbst dann, wenn sie sich dabei auf fragwürdige oder manipulierte Quellen stützen.
Wir bewegen uns heute also in einem total unsicheren Hafen.
Viele Grüsse
Kurt
Hallo Reinhold
Deine Antwort steht völlig im Widerspruch zu den Resultaten der besagten Studie.
Dass diese KI gegenüber früher, wo sie grottenschlecht war, besser geworden ist, ändert
an deren absoluten Mittelmässigkeit gar nichts.
Gruss
Kurt
Hallo Andreas
Ich glaube, von Belächeln von ChatGPT & Co. kann schon heute keine Rede mehr sein. Heikel wird es aber vor allem in gewissen Themenbereichen, wo schon gewaltig viele Fake- und Verschwörer "News" vorhanden sind, die dann von den ChatBots den vielen Millionen Usern als angebliche Wahrheit verkauft werden und deshalb nicht mehr hinterfragt werden. Und wenn man (ich) davon ausgeht, dass bestimmte Entwickler von KI bei bestimmten Grosskonzernen Interessen vertreten, die nicht darauf abzielen, der Menschheit zu dienen und die Wahrheit zu verkünden, sondern wohl bewusst Meinungsbildung (Hirnwäsche) betreiben, wird die Politik nicht umhin kommen zu versuchen, die KI irgendwie zu regulieren. Ob das überhaupt noch gelingen kann, bezweifle ich, sind hier doch Mächtige am Werk, die grossen Einfluss in der Politik haben. In meinen Augen handelt es sich bei der KI um die mächtigste Waffe, die seit Menschengedenken je erfunden wurde. Und was die Geschichte zeigt, lässt nicht viel Gutes erhoffen.
Gruss
Kurt
Powered by mwForum 2.29.3 © 1999-2014 Markus Wichitill