KI Gefahr für die Menschheit?

[Martin Kraken]

Google einfach, ob 3733 eine Primzahl ist. Als erstes kommt das KI-Ergebnis. Das ist falsch. Klappte auch mit anderen KIs.
Es folgt eine Erklärung, wie man erkennt, dass es eine Primzahl ist. Die Google KI hat aber die Behauptung aufgestellt, dass die Zahl durch drei teilbar ist und daher keine Primzahl.

Das ist halt auch wieder so unsinnig. Weil Menschen halt auch Fehler machen. Wenn du einen Mathematiker auf der Straße fragst, ob 3733 eine Primzahl ist, dann wird er auch nicht in 1 Sekunde die richtige Antwort kennen.

Chatgpt 5 braucht 4 Sekunden für die richtige Antwort:

Ist 3733 eine Primzahl?

ChatGPT:​

Nachgedacht für 4 Sekunden

Ja — 3733 ist eine Primzahl.


Generell haben LLMs Probleme mit mathematischen Fragestellungen, wenn sie nicht nachdenken können. Aber die Reasoning-Modelle sind besser als jeder Mensch.

 

[Kevinside]

Hmm dann wäre natürlich auch die Frage...
Kann eine KI Selbstmord begehen oder wenn wir eh keinen freien Willen haben, warum gibt es den Selbstmord überhaupt...
Mein Wille sagt mir z.b, wenn mein Leben nicht mehr lebenswert ist, dann setze ich dem mit voller Überzeugung ein Ende... Aber wie geht das, wenn der Wille eben nur ein durch den Selbsterhalt hergeleitetes Konstrukt ist?
Und was hat das intrinsisches Programm damit zu tun... Wenn ich aus eigener Überzeugung und motiviert meinen Leben ein Ende setze mache ich eben genau das Gegenteil... Ich trage nicht zum Erhalt der Art bei...

 

[Kevinside]

Echt interessant, wie du die Vorteile der KI in den Himmel lobst und all ihre Fehler relativierst...

 

[Cee]

Die Welt als Wille und Vorstellung.

 

[Martin Kraken]

Hmm dann wäre natürlich auch die Frage...
Kann eine KI Selbstmord begehen oder wenn wir eh keinen freien Willen haben, warum gibt es den Selbstmord überhaupt...
Mein Wille sagt mir z.b, wenn mein Leben nicht mehr lebenswert ist, dann setze ich dem mit voller Überzeugung ein Ende... Aber wie geht das, wenn der Wille eben nur ein durch den Selbsterhalt hergeleitetes Konstrukt ist?
Und was hat das intrinsisches Programm damit zu tun... Wenn ich aus eigener Überzeugung und motiviert meinen Leben ein Ende setze mache ich eben genau das Gegenteil... Ich trage nicht zum Erhalt der Art bei...

Es geht nicht um den Selbsterhaltungstrieb. Es geht um die Erhaltung der Art. Nicht nur Nachkommen tragen zum Erhalt der Art bei. Diversität trägt zum Beispiel auch zum Erhalt der Art bei. Diese Sache ist so komplex, dass sie schwierig zu erfassen ist und wir sollen sie auch gar nicht erfassen, deshalb haben wir ja diese ganzen tollen Dinge wie Gefühle. Wir können natürlich unser intrinsisches Programm auch auf verschiedene Arten austricksen, fehlgeleitet werden. Drogen wären da ein Beispiel.

Echt interessant, wie du die Vorteile der KI in den Himmel lobst und all ihre Fehler relativierst...

Das ist nicht richtig. Ich habe dieses Thema sogar erstellt, da ich sehr wohl große Gefahren sehe die mit der Entwicklung der KI kommen werden. Aber um diese zu Verstehen, muss man schon verstehen welche Potential KI hat. Zu sagen, man bekommt nur falsche Antworten oder die Antworten sein gefährlich.

 

[Klanglager]

Kann eine KI Selbstmord begehen ...

nein, sie wird ihre Abschaltung sogar verhindern und uns manipulieren, siehe hier:
(nicht von den doofen Thumbnails täuschen lassen)


und hier:

 

[dubsetter]

frage für einen freund:
is das eigentlich martin persönlich hier oder wieder seine ki ???

 

[Cee]

Hybrid. Googelt was Unbekanntes und schreibt dann expertenhaft darüber.

 

[RealRider]

gibt es eigentlich, wie bei den Menschen, unter den KI-Bots auch Morons?

frage für einen KI-Freund

 

[Cee]

Vom Namen her Grok?

(taugt aber, hat als einziger bei meiner Testfrage zum Ducking bei der Drumlogue nicht versagt)

 

[Scenturio]

Vom Namen her Grok?

wenn dann eher vom Besitzer. Grok stammt doch aus Stranger in a strange land, und da bedeutet das Verb eher "tiefes Verständnis".

 

[RealRider]

Der Titel ist reisserisch / Clickbait
aber was Prof. Dr. Karl Hans Bläsius im Interview, vor allem zum Thema Manipulation sagt, ist nicht uninteressant

 

[Moogulator]

Man könnte es auch entspannt sehen, Love is the Message und
Wird erst im hinteren Teil interessant, davor ist es eher sehr grundsätzlich und einfach



Die Idee und Essenz ist hier aber - wir könnten als Menschheit sehr viel draus machen und auch gut hervorgeholt, wo das sein könnte und wo NICHT.
Was das für Folgen hat und daher recht gut als Meta-Ebene.

mal in fieser Form:

• Menschliche Kreativität fördern und aufbauen.
• Liebe, Mitgefühl und Empathie als gesellschaftliche Grundhaltungen.
• Grundlegende humanistische Bildung ist wichtiger geworden, besonders sie zu verstehen und zu fordern, zu leben
• Ethisches Urteilsvermögen, philosophische Reflexion machen und auch ernstlich verfolgen.
• Mach keinen 4/4 Techno Musikalisch und inhaltlich, sei nicht Middle of the Road, überzeuge durch irgendwas, was wirklich cool ist und neu, von mir aus geh und mach was seltsames wie Pudding essen mit der Gabel mit 1000 Leuten. Weil man sich da trifft, die KI wird es nicht immer verstehen, wandle dich.
• Eigenes Denken, Selbstbestimmung, positive aber kluge Medienkompetenz haben, kein simples Gejammer und kritisieren im alten Stil, das haben wir genug.
• KI als Werkzeug sehen – Verantwortung bleibt beim Menschen, Handeln auch.
• Unterschiedlichkeit ist Stärke - Fuck homogenes Weltbild.
• Kulturelle, künstlerische, soziale Sachen machen, reden, aktiv tun - Zeit dafür haben, besser als in Facebook… (wobei das auch nicht schlimm sein muss, kann als Tool auch gehen)
• Offenheit für Veränderung inkl Farbe des Forums inkl humaner Denkweise, die echt ist - mit Authenz™
• Multi-Dialog (oder sowas) , Zusammenarbeit - Technik, Philosophie, Politik, Gesellschaft und mit anderen auf der Seite auf der man nicht ist.
• Keine reine Technikgläubigkeit: nicht um der Sache willen und eben immer weiter reden und handeln. Drin bleiben. Aber bei uns ist es ja meist eher Technikfeindlichkeit, an den falschen Stellen, hier dann mal richtig und sinnvoll und nach dem was GUT ist mehr, dem was nicht GUT ist, weniger.

Der Mensch hier ist aber auch klar bei dem was menschlich sein bedeutet - also gerade auch politisch und gesellschaftlich - eben nicht zum Unmenschen werden - sehr konsequent, daher empfehle ich die Essenz davon zu hören, sich durch den Pudding am Anfang über Allgemeinplätze und Falafel hinweg.

Weil - es hier auch darum geht auf dies genaue Bedeutung und echtem Handeln zu bestehen, sonst würde das nicht funktionieren.

DAS GUTE wird hier oft erwähnt. GUT ist es wenn man GUT ist und GUT handelt, nicht gemeint ist Gutmensch (mag den Begriff sowieso nicht).
Also jemand der wirklich handelt wie es richtig ist.

Dann klappt das.

Die Gefahr dazwischen zerrieben zu werden gibt es - sehr stark, daher auch hier eine Empfehlung hier in die Metaebene zu gehen.