KI Gefahr für die Menschheit?

[Martin Kraken]

Google einfach, ob 3733 eine Primzahl ist. Als erstes kommt das KI-Ergebnis. Das ist falsch. Klappte auch mit anderen KIs.
Es folgt eine Erklärung, wie man erkennt, dass es eine Primzahl ist. Die Google KI hat aber die Behauptung aufgestellt, dass die Zahl durch drei teilbar ist und daher keine Primzahl.

Das ist halt auch wieder so unsinnig. Weil Menschen halt auch Fehler machen. Wenn du einen Mathematiker auf der Straße fragst, ob 3733 eine Primzahl ist, dann wird er auch nicht in 1 Sekunde die richtige Antwort kennen.

Chatgpt 5 braucht 4 Sekunden für die richtige Antwort:

Ist 3733 eine Primzahl?

ChatGPT:​

Nachgedacht für 4 Sekunden

Ja — 3733 ist eine Primzahl.


Generell haben LLMs Probleme mit mathematischen Fragestellungen, wenn sie nicht nachdenken können. Aber die Reasoning-Modelle sind besser als jeder Mensch.

 

[Kevinside]

Hmm dann wäre natürlich auch die Frage...
Kann eine KI Selbstmord begehen oder wenn wir eh keinen freien Willen haben, warum gibt es den Selbstmord überhaupt...
Mein Wille sagt mir z.b, wenn mein Leben nicht mehr lebenswert ist, dann setze ich dem mit voller Überzeugung ein Ende... Aber wie geht das, wenn der Wille eben nur ein durch den Selbsterhalt hergeleitetes Konstrukt ist?
Und was hat das intrinsisches Programm damit zu tun... Wenn ich aus eigener Überzeugung und motiviert meinen Leben ein Ende setze mache ich eben genau das Gegenteil... Ich trage nicht zum Erhalt der Art bei...

 

[Kevinside]

Echt interessant, wie du die Vorteile der KI in den Himmel lobst und all ihre Fehler relativierst...

 

[Cee]

Die Welt als Wille und Vorstellung.

 

[Martin Kraken]

Hmm dann wäre natürlich auch die Frage...
Kann eine KI Selbstmord begehen oder wenn wir eh keinen freien Willen haben, warum gibt es den Selbstmord überhaupt...
Mein Wille sagt mir z.b, wenn mein Leben nicht mehr lebenswert ist, dann setze ich dem mit voller Überzeugung ein Ende... Aber wie geht das, wenn der Wille eben nur ein durch den Selbsterhalt hergeleitetes Konstrukt ist?
Und was hat das intrinsisches Programm damit zu tun... Wenn ich aus eigener Überzeugung und motiviert meinen Leben ein Ende setze mache ich eben genau das Gegenteil... Ich trage nicht zum Erhalt der Art bei...

Es geht nicht um den Selbsterhaltungstrieb. Es geht um die Erhaltung der Art. Nicht nur Nachkommen tragen zum Erhalt der Art bei. Diversität trägt zum Beispiel auch zum Erhalt der Art bei. Diese Sache ist so komplex, dass sie schwierig zu erfassen ist und wir sollen sie auch gar nicht erfassen, deshalb haben wir ja diese ganzen tollen Dinge wie Gefühle. Wir können natürlich unser intrinsisches Programm auch auf verschiedene Arten austricksen, fehlgeleitet werden. Drogen wären da ein Beispiel.

Echt interessant, wie du die Vorteile der KI in den Himmel lobst und all ihre Fehler relativierst...

Das ist nicht richtig. Ich habe dieses Thema sogar erstellt, da ich sehr wohl große Gefahren sehe die mit der Entwicklung der KI kommen werden. Aber um diese zu Verstehen, muss man schon verstehen welche Potential KI hat. Zu sagen, man bekommt nur falsche Antworten oder die Antworten sein gefährlich.

 

[Klanglager]

Kann eine KI Selbstmord begehen ...

nein, sie wird ihre Abschaltung sogar verhindern und uns manipulieren, siehe hier:
(nicht von den doofen Thumbnails täuschen lassen)


und hier: