KI Gefahr für die Menschheit?

[kernelkid]

Man muss also nicht mal was vom Fach verstehen

Kann man sagen: KI schafft kulturell entstandene Fächer ab. Und damit menschliches Fachwissen. ?

Was wol passiert: Es erzeugt eine Vorstellung, die "Wissen" als einen großen, vernetzen Pool beschreibt, universell sozusagen, der kategorisch abgefragt wird und durch die likes bei Ergebnissen eine virtuelle statt reale Wertigkeit dieser Kategorien erzeugt. Die Wahrnehmung, Deutung und Bewertung von Information wird komplett umgebaut. Auch neuronal bei uns im Kopf mit der Zeit.

Was Fachwissen angeht: Es geht darum, das Narrativ zu schlucken, dass dieser Umbau die Menschheit voranbringt.

 

[kernelkid]

warum biochemisch?

Laufen nicht alle bekannten, real existierenden Belohnungssysteme biochemisch (also organisch) ab?

 

[kernelkid]

Nach dem Schema: "tu was wir dir sagen, sonst gibt es kein Leckerli".

Als Kontrolle wäre das cool. KI als Tamagotchi!

 

[Sticki]

für unsere Sicherheit

Das erinnert ja schon an dem Matrix Film.
Aufrecht gehende humanuide sind wohl nicht das einzige was da kommt.
Lauter Kreaturen.
Echt übel.

 

[Scenturio]

Laufen nicht alle bekannten, real existierenden Belohnungssysteme biochemisch (also organisch) ab?

ja - ebenso wie bisher jede bekannte Intelligenz. Wenn wir jetzt beginnen, künstliche Intelligenz auf Basis von Elektronik herzustellen, wäre es ja logisch, auch die Satellitensysteme oder sonstigen Bestandteile elektronisch umzusetzen bzw. zu simulieren.

... was übrigens nicht heißt, dass es keine hybriden Systeme aus biologischen und elektronischen Komponenten geben kann. Ich gehe sowieso davon aus, dass die Unterschiede in Zukunft immer mehr verschwimmen werden (sofern sich die Menschheit und ihre elektronischen Nachfolger nicht vorher selbst auslöschen).

 

[Klanglager]

naja, ganz ohne Strom geht's aber auch nicht

 

[kernelkid]

wäre es ja logisch, auch die Satellitensysteme oder sonstigen Bestandteile elektronisch umzusetzen bzw. zu simulieren.

Ist Logik automatisch klug?

Wenn der Mensch etwas kann, dann macht er es auch.
Jede dadurch entstehende Beängstigung wird weg-geframed und wegerzählt. Früher übernahm das eine konzertierte Propaganda. Heute wird das durch vereinfachende Narrative in den asozialen Medien "erledigt".

Erledigt.

Ein angemessenes Schlusswort, erstmal. Für mich zumindest.

 

[Scenturio]

Ist Logik automatisch klug?

nein, das sind unterschiedliche Skalen. Ich meinte auch nur, dass es logisch wäre, nicht dass es klug wäre.

Andererseits wäre es vielleicht klug (im Sinne von ökonomisch), gleich menschliches Gehirngewebe in Tanks zu züchten und zu trainieren, statt künstliche neuronale Netzwerke in Software zu implementieren - ob es ethisch vertretbar wäre, steht natürlich auf einem anderen Blatt.

 

[Scenturio]

Da wird sogar gemacht, man kann so ein biologisches neuronales Netz kaufen.

stimmt. Was ich meinte, waren allerdings eher komplette menschliche Hirne, die man aus echten Föten gewinnt ...

 

[Klanglager]

 

[ganje]

vermutlich nicht, aber es mag andere Dinge geben, die eine KI "genussvoll" zelebrieren könnte.

Falls es mal eine künstliche Intelligenz geben sollte, dann kann ich mir gut vorstellen, dass sie es "spaßig" finden wird, uns zu verarschen, um unberechenbare Reaktionen hervorzurufen. Also Sachen, die sich der Logik entziehen, denn Logik kennt sie und ist langweilig.

 

[Scenturio]

dann kann ich mir gut vorstellen, dass sie es "spaßig" finden wird, uns zu verarschen, um unberechenbare Reaktionen hervorzurufen.

vermutlich wird sie sich dann auch mit Eichhörnchen-Avataren tarnen?

 

[ganje]

 

[Sticki]

 

[15025]

Eine Zusammenfassung.

Kann leider nichts daraus verifizieren, bin nicht im Thema. Bestelle mir aber erstmal ne Schaufeln, um mir ein Loch zu graben, in das ich mein Kopf stecken kann.

 

[15025]

Lustig, das gleiche Bild

 

[marco93]

Schaut euch mal diesen Quatsch an:

 

[marco93]

Ich glaube irgendwann wird einem noch der google Account gesperrt, weil man die KI beleidigt hat. Wetten?

 

[Cee]

Hehe, hier hat sich die Maschine als zivilisierter und dem Menschen voraus gezeigt...

 

[oli]

15.05.2025 Interesting Times with Ross Douthat
Is artificial intelligence about to take your job? According to Daniel Kokotajlo, the executive director of the A.I. Futures Project, that should be the least of your worries. Kokotajlo was once a researcher for OpenAI, but left after losing confidence in the company’s commitment to A.I. safety. This week, he joins Ross Douthat to talk about “AI 2027,” a series of predictions and warnings about the risks A.I. poses to humanity in the coming years, from radically transforming the economy to developing armies of robots.

 

[oli]

Oha, die KI–Apokalypse kommt scheinbar schneller als uns lieb ist, wohl in ca. 2–3 Jahren.

AI 2027

A research-backed AI scenario forecast.

ai-2027.com

 

[oli]

Was denkt ihr, ist das völlig übertrieben? 2-3 Jahre bis zur KI-Weltherrschaft und eventueller Unterjochung (oder Auslöschung) der Menschheit ist nicht so lange hin…

Sollte man dann jetzt die verbleibende Zeit mit schönen Dingen verbringen oder lieber gegen KIs demonstrieren oder zumindest Ein-/Aus-Schalter fordern für den Fall, dass die KIs anfangen zu nerven oder die ersten Menschen töten (mit Drohnen z.B.)?

 

[robworld]

Was denkt ihr, ist das völlig übertrieben? 2-3 Jahre bis zur KI-Weltherrschaft und eventueller Unterjochung (oder Auslöschung) der Menschheit ist nicht so lange hin…

Sollte man dann jetzt die verbleibende Zeit mit schönen Dingen verbringen oder lieber gegen KIs demonstrieren oder zumindest Ein-/Aus-Schalter fordern für den Fall, dass die KIs anfangen zu nerven oder die ersten Menschen töten (mit Drohnen z.B.)?

Hab es quergelesen... liest sich wie ein Drehbuch für ein mehrteiliges SciFi-Drama auf Netflix mit alternativen Enden.
Ich halte es für deutlich überzogen, obwohl spannende und sicher auch reale geopolitische Aspekte dabei sind (US/China, Taiwan, Spione, usw...)
Aber in 2-3 Jahren sind wir schlauer, oder wenigstens die KI

 

[utopia3000]

Immer dran denken sich zu bedanken bei den Ki. Kostet zwar anscheinend hochgerechnet mehrere Millionen an Energiekosten mehr - aber so wird man vielleicht als letztes ausgeschaltet.

 

[Scenturio]

Mach ich grundsätzlich. Sage auch immer „Bitte“ bei ChatGPT.

 

[oli]

Hatten wir schon Geoffrey Hinton, den Nobelpreisträger von 2024, in diesem Thread?

 

[Laurin]

Mary Spender ... nicht zur Weltherrschaft der KI, aber zu deren unfairer Datenverwertung und unzureichender staatlicher Regulierung:

 

[einseinsnull]

Sollte man dann jetzt die verbleibende Zeit mit schönen Dingen verbringen

Man sollte schon immer seine einem noch verbleibende Zeit für das Wahre, Schöne und Gute verwenden.

 

[einseinsnull]

Nur sind es diesmal die geistigen Jobs die locker zu 90% ersetzt werden können,

ob html coden und autobatterien designen wirklich schon geistige arbeit sind, darüber ließe sich wohl trefflich streiten.

aktuell kann KI nicht mal richtig LKW fahren, geschweige denn shakespeare neu interpretieren.

und wenn KI uns demnächst dabei hilft krebs zu heilen oder die entwicklung eines tatsächlichen fusionsreaktors voranzutreiben, dann soll uns das doch recht sein.


meiner bescheidenen meinung nach unterlagen die maschinenstürmer schon 1820 einem fundamentalen irrtum, den man doch spätestens nach dem erscheinen der hauptwerke der theoretiker des sozialismus und des liberalismus 80 jahre später wirklich nicht zu mehr wiederholen braucht.

wir wissen doch jetzt viel besser als 1820 wie der mensch funktioniert, denken in gesellschaftlichen zusammenhängen, und leben in nationalstaaten mit mehr oder weniger festgeschriebenem recht. und die möglichkeiten das geschriebe recht mitzugestalten werden auch immer besser.

das erscheinen einen neuer technologie hat natürlich immer noch einen impact und kann zu verwerfungen führen, aber damit umzugehen ist gleichzeitig auch inzwischen eine unserer fähigkeiten.

KI software ist jetzt seit round about 12 jahren an vielen stellen im einsatz und bislang hat das eigentlich nichts negatives hervorgebracht. der peak an neugründungen und kapitalinvestitionen geht inzwischen wieder zurück, und neue anwendungsgebiete werden inzwischen nur noch durch die erhöhung der rechenleistung pro dollar befördert und nicht mehr durch neue ideen und neue anwendungsgebiete.


pro tip am rande:
von der KI-apokalype werden vor allem diejenigen betroffen sein, die KI selbst massiv einsetzen und damit diese apokalypse erzeugt haben vor der sie da angst haben.
landwirte, köche und künstler werden davon niemals nennenswert abhängig sein, die leben von ihren händen und dem, was in ihren kopf ist.

 

[Modie]

Ein meiner Meinung nach sehr ernstes und für uns wichtiges Thema, ja auch als Musiker. Und echt klasse, wie und was hier gelistet und beleuchtet wird - von vielen Seiten betrachtet, unterschiedliche Fundstellen und Erfahrungen! Vor allem auch unter dem zeitlichen Aspekt, den der Thread bereits läuft.

Mal eine Erfahrung von meiner Seite: Seit den 90ern habe ich mich mit „KI“ beschäftigt, die ersten 3lagigen Packprop-Netze aufgebaut. Und ja, der NBISOM (Neuro Based Intelligent Self Organizing Maps) war einer der ersten von uns entwickelten neuronalen Chips an der Uni dazu. Es ging erst sehr langsam über die Jahre. In dem Rahmen erkannte ich erstaunliches - und bereits erschreckendes. Ich kann die gefühlte Angst der 3 Open AI Entwickler verstehen (aus dem Start dieses Threads). Einige Jahre durfte ich auch das Dilemma für das autonome Fahren begleiten (als Entwicklungsleiter). Letztes Jahr war ich auf einem KI Symposion mit Spitzenkräften aus Forschung und Wirtschaft (e.g. auch Microsoft). Wir machten ein Experiment. Ein System (keine physikalische Raumbegrenzung im Kopf) mit einem größeren Horizont als der Mensch kann Komplexes zu Kompliziertem reduzieren, verstehen. Aber es würde viel zu weit führen in ein paar Zeilen hier.

Was ich lernen konnte: KI ist auch ein unglaubliches Risiko. Wie weit das reicht und wie schnell es geht, ist kaum jemandem bewusst. Es wird auch die (geistigen) Berufe und die Forschung und Entwicklung vollständig verändern, unser Verständnis.

Wenn wir Menschen schlau genug bleiben und teilweise nicht so selbstsüchtig (bleiben), hätte es gewaltige Chancen und Potential.

Auch eine einfache abstrakte Beleuchtung des Themas:

KI killt alle Jobs – und dann? Drei Szenarien | XING

Führen KI und Robotik zur Armutskatastrophe oder zum Wohlstand für alle?

www.xing.com

Ein auch besorgter Modie.