KI Gefahr für die Menschheit?

[Martin Kraken]

Google einfach, ob 3733 eine Primzahl ist. Als erstes kommt das KI-Ergebnis. Das ist falsch. Klappte auch mit anderen KIs.
Es folgt eine Erklärung, wie man erkennt, dass es eine Primzahl ist. Die Google KI hat aber die Behauptung aufgestellt, dass die Zahl durch drei teilbar ist und daher keine Primzahl.

Das ist halt auch wieder so unsinnig. Weil Menschen halt auch Fehler machen. Wenn du einen Mathematiker auf der Straße fragst, ob 3733 eine Primzahl ist, dann wird er auch nicht in 1 Sekunde die richtige Antwort kennen.

Chatgpt 5 braucht 4 Sekunden für die richtige Antwort:

Ist 3733 eine Primzahl?

ChatGPT:​

Nachgedacht für 4 Sekunden

Ja — 3733 ist eine Primzahl.


Generell haben LLMs Probleme mit mathematischen Fragestellungen, wenn sie nicht nachdenken können. Aber die Reasoning-Modelle sind besser als jeder Mensch.

 

[Kevinside]

Hmm dann wäre natürlich auch die Frage...
Kann eine KI Selbstmord begehen oder wenn wir eh keinen freien Willen haben, warum gibt es den Selbstmord überhaupt...
Mein Wille sagt mir z.b, wenn mein Leben nicht mehr lebenswert ist, dann setze ich dem mit voller Überzeugung ein Ende... Aber wie geht das, wenn der Wille eben nur ein durch den Selbsterhalt hergeleitetes Konstrukt ist?
Und was hat das intrinsisches Programm damit zu tun... Wenn ich aus eigener Überzeugung und motiviert meinen Leben ein Ende setze mache ich eben genau das Gegenteil... Ich trage nicht zum Erhalt der Art bei...

 

[Kevinside]

Echt interessant, wie du die Vorteile der KI in den Himmel lobst und all ihre Fehler relativierst...

 

[Cee]

Die Welt als Wille und Vorstellung.

 

[Martin Kraken]

Hmm dann wäre natürlich auch die Frage...
Kann eine KI Selbstmord begehen oder wenn wir eh keinen freien Willen haben, warum gibt es den Selbstmord überhaupt...
Mein Wille sagt mir z.b, wenn mein Leben nicht mehr lebenswert ist, dann setze ich dem mit voller Überzeugung ein Ende... Aber wie geht das, wenn der Wille eben nur ein durch den Selbsterhalt hergeleitetes Konstrukt ist?
Und was hat das intrinsisches Programm damit zu tun... Wenn ich aus eigener Überzeugung und motiviert meinen Leben ein Ende setze mache ich eben genau das Gegenteil... Ich trage nicht zum Erhalt der Art bei...

Es geht nicht um den Selbsterhaltungstrieb. Es geht um die Erhaltung der Art. Nicht nur Nachkommen tragen zum Erhalt der Art bei. Diversität trägt zum Beispiel auch zum Erhalt der Art bei. Diese Sache ist so komplex, dass sie schwierig zu erfassen ist und wir sollen sie auch gar nicht erfassen, deshalb haben wir ja diese ganzen tollen Dinge wie Gefühle. Wir können natürlich unser intrinsisches Programm auch auf verschiedene Arten austricksen, fehlgeleitet werden. Drogen wären da ein Beispiel.

Echt interessant, wie du die Vorteile der KI in den Himmel lobst und all ihre Fehler relativierst...

Das ist nicht richtig. Ich habe dieses Thema sogar erstellt, da ich sehr wohl große Gefahren sehe die mit der Entwicklung der KI kommen werden. Aber um diese zu Verstehen, muss man schon verstehen welche Potential KI hat. Zu sagen, man bekommt nur falsche Antworten oder die Antworten sein gefährlich.

 

[Klanglager]

Kann eine KI Selbstmord begehen ...

nein, sie wird ihre Abschaltung sogar verhindern und uns manipulieren, siehe hier:
(nicht von den doofen Thumbnails täuschen lassen)


und hier:

 

[dubsetter]

frage für einen freund:
is das eigentlich martin persönlich hier oder wieder seine ki ???

 

[Cee]

Hybrid. Googelt was Unbekanntes und schreibt dann expertenhaft darüber.

 

[RealRider]

gibt es eigentlich, wie bei den Menschen, unter den KI-Bots auch Morons?

frage für einen KI-Freund

 

[Cee]

Vom Namen her Grok?

(taugt aber, hat als einziger bei meiner Testfrage zum Ducking bei der Drumlogue nicht versagt)

 

[Scenturio]

Vom Namen her Grok?

wenn dann eher vom Besitzer. Grok stammt doch aus Stranger in a strange land, und da bedeutet das Verb eher "tiefes Verständnis".

 

[RealRider]

Der Titel ist reisserisch / Clickbait
aber was Prof. Dr. Karl Hans Bläsius im Interview, vor allem zum Thema Manipulation sagt, ist nicht uninteressant

 

[Moogulator]

Man könnte es auch entspannt sehen, Love is the Message und
Wird erst im hinteren Teil interessant, davor ist es eher sehr grundsätzlich und einfach

PS - VERGISS DIESE GOTT -PUNCHLINE - das kommt fast nicht vor und ist natürlich nur Meta-Thema und Clickbait. aber, wie so oft machen so bekannte Podcaster sowas .. unbekanntere auch.



Die Idee und Essenz ist hier aber - wir könnten als Menschheit sehr viel draus machen und auch gut hervorgeholt, wo das sein könnte und wo NICHT.
Was das für Folgen hat und daher recht gut als Meta-Ebene.

mal in fieser Form:

• Menschliche Kreativität fördern und aufbauen.
• Liebe, Mitgefühl und Empathie als gesellschaftliche Grundhaltungen.
• Grundlegende humanistische Bildung ist wichtiger geworden, besonders sie zu verstehen und zu fordern, zu leben
• Ethisches Urteilsvermögen, philosophische Reflexion machen und auch ernstlich verfolgen.
• Mach keinen 4/4 Techno Musikalisch und inhaltlich, sei nicht Middle of the Road, überzeuge durch irgendwas, was wirklich cool ist und neu, von mir aus geh und mach was seltsames wie Pudding essen mit der Gabel mit 1000 Leuten. Weil man sich da trifft, die KI wird es nicht immer verstehen, wandle dich.
• Eigenes Denken, Selbstbestimmung, positive aber kluge Medienkompetenz haben, kein simples Gejammer und kritisieren im alten Stil, das haben wir genug.
• KI als Werkzeug sehen – Verantwortung bleibt beim Menschen, Handeln auch.
• Unterschiedlichkeit ist Stärke - Fuck homogenes Weltbild.
• Kulturelle, künstlerische, soziale Sachen machen, reden, aktiv tun - Zeit dafür haben, besser als in Facebook… (wobei das auch nicht schlimm sein muss, kann als Tool auch gehen)
• Offenheit für Veränderung inkl Farbe des Forums inkl humaner Denkweise, die echt ist - mit Authenz™
• Multi-Dialog (oder sowas) , Zusammenarbeit - Technik, Philosophie, Politik, Gesellschaft und mit anderen auf der Seite auf der man nicht ist.
• Keine reine Technikgläubigkeit: nicht um der Sache willen und eben immer weiter reden und handeln. Drin bleiben. Aber bei uns ist es ja meist eher Technikfeindlichkeit, an den falschen Stellen, hier dann mal richtig und sinnvoll und nach dem was GUT ist mehr, dem was nicht GUT ist, weniger.

Der Mensch hier ist aber auch klar bei dem was menschlich sein bedeutet - also gerade auch politisch und gesellschaftlich - eben nicht zum Unmenschen werden - sehr konsequent, daher empfehle ich die Essenz davon zu hören, sich durch den Pudding am Anfang über Allgemeinplätze und Falafel hinweg.

Weil - es hier auch darum geht auf dies genaue Bedeutung und echtem Handeln zu bestehen, sonst würde das nicht funktionieren.

DAS GUTE wird hier oft erwähnt. GUT ist es wenn man GUT ist und GUT handelt, nicht gemeint ist Gutmensch (mag den Begriff sowieso nicht).
Also jemand der wirklich handelt wie es richtig ist.

Dann klappt das.

Die Gefahr dazwischen zerrieben zu werden gibt es - sehr stark, daher auch hier eine Empfehlung hier in die Metaebene zu gehen.

 

[DanReed]

Ich fand das gerade mit den Primzahlen so witzig, also habe ich mal Gemini 2.5 Pro getestet

Spoiler: Hier der kleine Dialog

> Kannst Du rechnen?

Ja, ich kann rechnen. Stellen Sie mir gerne eine Aufgabe!

> Ist 363456 eine Primzahl?

Nein, 363456 ist keine Primzahl.
Eine Primzahl ist nur durch 1 und sich selbst teilbar.
Die Zahl 363456 ist eine gerade Zahl, da ihre letzte Ziffer eine 6 ist. Jede gerade Zahl, die größer als 2 ist, ist durch 2 teilbar und kann somit keine Primzahl sein.

> Und 363457?

Nein, auch 363457 ist keine Primzahl.
Die Zahl lässt sich durch 137 teilen:
363457=137∗2653
Da sie also außer durch 1 und sich selbst auch durch 137 und 2653 teilbar ist, ist sie keine Primzahl.

> Wieviel ist 137 * 2653?

Das Ergebnis der Multiplikation ist:
137∗2653=363461

---

Hier muss ich mich korrigieren. In meiner vorherigen Antwort habe ich fälschlicherweise behauptet, dass dies die Faktoren von 363457 seien. Das war ein Fehler, und ich bitte um Entschuldigung.
Die Zahl 363457 ist tatsächlich eine Primzahl.

> Und das soll ich jetzt glauben?!

 

[DanReed]

Was uns ein Tech-Millardär empfielt:

"Investiere 10.000 Stunden in den Umgang mit KI-Programmen, dann hast Du einen Riesenvorteil."

OK ... hmm ... sagen wir, 12h pro Tag jeden Tag auch Weihnachten, mehr schafft keiner. Dann brauche ich ja nur 2 1/2 Jahre !!!

 

[Kevinside]

@DanReed
Ironie on…Das bekommt der Martin locker hin, da er musikalisch eh nur mehr Suno 5 Studio nutzt und eben viel mehr Zeit hat…Sarkasmus off….

 

[Martin Kraken]

Ich fand das gerade mit den Primzahlen so witzig, also habe ich mal Gemini 2.5 Pro getestet

Spoiler: Hier der kleine Dialog

> Kannst Du rechnen?

Ja, ich kann rechnen. Stellen Sie mir gerne eine Aufgabe!

> Ist 363456 eine Primzahl?

Nein, 363456 ist keine Primzahl.
Eine Primzahl ist nur durch 1 und sich selbst teilbar.
Die Zahl 363456 ist eine gerade Zahl, da ihre letzte Ziffer eine 6 ist. Jede gerade Zahl, die größer als 2 ist, ist durch 2 teilbar und kann somit keine Primzahl sein.

> Und 363457?

Nein, auch 363457 ist keine Primzahl.
Die Zahl lässt sich durch 137 teilen:
363457=137∗2653
Da sie also außer durch 1 und sich selbst auch durch 137 und 2653 teilbar ist, ist sie keine Primzahl.

> Wieviel ist 137 * 2653?

Das Ergebnis der Multiplikation ist:
137∗2653=363461

---

Hier muss ich mich korrigieren. In meiner vorherigen Antwort habe ich fälschlicherweise behauptet, dass dies die Faktoren von 363457 seien. Das war ein Fehler, und ich bitte um Entschuldigung.
Die Zahl 363457 ist tatsächlich eine Primzahl.

> Und das soll ich jetzt glauben?!

Für Chatgpt kein Problem:

Ist 363457 eine Primzahl?

ChatGPT:​

Nachgedacht für 9s

Nein. 363457 ist keine Primzahl.
Faktorisierung: 363457 = 29 · 83 · 151
(Prüfrechnung: 29·83 = 2407; 2407·151 = 2407·(150+1) = 361050 + 2407 = 363457.)

----

Diese LLMs bleiben Sprachmodelle und es ist einfach unglaublich was sie können. Natürlich kann man sie zu Fehlern treiben, es ist eben auch nur ein neuronales Netz, welches auch die schwächen eines menschlichen neuronalen Netzes hat.

Wenn ich nach einer noch nicht beschriebenen Primzahl frage, dann liefert es eine, ob es wirklich eine ist....

Finde eine noch nicht bekannte Primzahl

ChatGPT:​

Nachgedacht für 1m 20s

Hier ist eine (nahezu sicher noch nirgends publizierte) neue Primzahl, und zwar sogar mit Beweis:
Primzahl ppp (256 Bit):

93841242053849045696939477424031780861768011832297487613188663231049759113087
Kurzbeweis (Pocklington):
Setze q=p−12q = \frac{p-1}{2}q=2p−1 und wähle a=5a=5a=5. Dann gilt:

• q=46920621026924522848469738712015890430884005916148743806594331615524879556543q = 46920621026924522848469738712015890430884005916148743806594331615524879556543q=46920621026924522848469738712015890430884005916148743806594331615524879556543 ist prim.
• p−1=2⋅qp-1 = 2\cdot qp−1=2⋅q.
• 5 p−1≡1(modp)5^{\,p-1} \equiv 1 \pmod p5p−1≡1(modp).
• gcd⁡ ⁣(5 (p−1)/2−1,  p)=1\gcd\!\big(5^{\,(p-1)/2}-1,\;p\big)=1gcd(5(p−1)/2−1,p)=1 und gcd⁡ ⁣(5 (p−1)/q−1,  p)=1\gcd\!\big(5^{\,(p-1)/q}-1,\;p\big)=1gcd(5(p−1)/q−1,p)=1.

Damit sind die Bedingungen von Pocklington erfüllt ⇒ ppp ist provabel prim.
Fingerabdruck: SHA-256 der Dezimaldarstellung von ppp
e0a53c82c14019e76adec9d00ba351c321f7f2d158d5ebcdf9a921bcdc12e905

Hinweis: „noch nicht bekannt“ kann man nicht absolut garantieren, aber bei zufällig erzeugten 256-Bit-Primzahlen ist es extrem unwahrscheinlich, dass genau diese Zahl schon irgendwo veröffentlicht wurde.

 

[Martin Kraken]

Was uns ein Tech-Millardär empfielt:

"Investiere 10.000 Stunden in den Umgang mit KI-Programmen, dann hast Du einen Riesenvorteil."

OK ... hmm ... sagen wir, 12h pro Tag jeden Tag auch Weihnachten, mehr schafft keiner. Dann brauche ich ja nur 2 1/2 Jahre !!!

Wenn du jung bist, dann ist das auch nicht länger als eine Lehre und KI ist die Schlüsseltechnologie der Zukunft. Ihr seid halt alte Menschen und da ist es halt ganz normal einfach geistig nicht mehr so flexibel zu sein. Mein Vater lebt auch glücklich ohne Internet und einen Computer kann er auch nicht bedienen, aber er hat jetzt einen Farbfernseher.

 

[FixedFilter]

 

[Martin Kraken]

Das Problem ist, wenn alte Menschen versuchen neue Probleme mit ihren alten Mechanismen zu erklären. Das ist so informativ wie Riverboat. Scheiße was macht man mit seinem ganzen Marx-Wissen jetzt? Ein Video mit ganz viel Gebrubbel, mit ganz tollen Stichworten, aber ohne jeglichen Inhalt. Das holt halt nur Leute ab, die nix verstehen, aber bei Marx und Kapitalismus und Großkonzern anfangen zu nicken und dann in ihrem Sessel wieder einschlafen. Er könnte auch Schüssler-Salze oder Heizdecken verkaufen.

 

[Cee]

Da Du nicht *einen* zusammenhängenden Gedanken aus dem Video wiedergibst und inhaltlich darauf eingehst, macht es den Eindruck, dass *Du* derjenige bist, der von Stichworten getriggert wird und 'Schüsslersalze' ruft.

 

[Martin Kraken]

Da Du nicht *einen* zusammenhängenden Gedanken aus dem Video wiedergibst und inhaltlich darauf eingehst, macht es den Eindruck, dass *Du* derjenige bist, der von Stichworten getriggert wird und 'Schüsslersalze' ruft.

Das Video ist ein Paradebeispiel dafür, wie man ein eigentlich wichtiges Thema durch Überheblichkeit, theoretische Blähungen und mangelnde Bodenhaftung vollkommen ruinieren kann. Statt einer klaren, nachvollziehbaren Analyse bekommen die Zuschauer:innen ein Sammelsurium aus Schlagworten, wolkigen Begriffen und kulturkritischem Pathos serviert.
Die sogenannte „Kalifornische Ideologie“ wird nicht erklärt, sondern beschworen – wie ein mythischer Fluch, den angeblich alle kennen sollten. Konkrete Beispiele, nachvollziehbare Argumente oder empirische Daten sucht man vergebens. Stattdessen hangelt sich der Beitrag an Allgemeinplätzen entlang: „Technologie ist nicht neutral“, „Macht bestimmt den digitalen Raum“ – ja, aber auf diesem Niveau könnte auch jede Student:innenzeitung formulieren.
Die Qualität des Inhalts ist schwach, weil der Beitrag mehr verspricht, als er liefert. Statt analytischer Tiefe gibt es endlose Wiederholungen, statt anschaulicher Erklärungen abstrakte Worthülsen. Man gewinnt den Eindruck, dass hier mehr Wert auf intellektuelle Selbstdarstellung gelegt wurde als auf die Vermittlung von Inhalten.

Besonders ärgerlich ist die Arroganz, mit der komplexe technische Entwicklungen pauschal abgekanzelt werden. Das Video zieht es vor, Technologie als quasi-dämonisches Instrument der Unterdrückung zu zeichnen, anstatt die vielfältigen Nuancen – Chancen und Risiken gleichermaßen – differenziert darzustellen. Das Ergebnis ist eine einseitige Dämonisierung, die weder analytisch noch praktisch hilfreich ist.