KI Gefahr für die Menschheit?

[ikonoklast]

Er übertreibt,

Einer meiner Kollegen hat das ganze KI-Zeugs auf einem (sehr leistungsfähigen) lokalen Rechner mit der aktuellsten Hardware laufen. Ohne irgendwelche Einschränkungen (Nazis, Grausamkeiten etc.). Also auch keine laufenden Gebühren. Die quasi einzige Beschränkung ist der verfügbare Speicherplatz. Damit ist es praktisch jedem möglich, fake Fotos / Videos herzustellen in einer Qualität die alles in den Schatten stellt was bisher so bekannt war. Es ist nicht mehr nötig, das teure NVIDIA-Zeugs zu kaufen. Für ca. 5 Mille bist Du dabei.
John Oliver UNTERtreibt eher. Bzw. hat ihn die Technik bereits überholt (die benötigte Hardware gibt es erst seit ein paar Wochen).

die Probleme die er beschreibt haben ja nicht mit K.I. angefangen,

Darum geht es doch gar nicht.

K.I. ist nur das Werkzeug.

"NUR" ist gut. Die KI (ich nenn das mal zusammenfassend so) versetzt Privatpersonen die über die entsprechende Hardware verfügen in die Lage zu faken was das Zeug hält, in nie gekannter Qualität. Und die Hardware ist gerade bezahlbar geworden.
Otto Normalverbraucher kann ja jetzt schon nicht mehr erkennen was echt ist und was KI-generiert ist. Mit der neuen Hardware-Generation ist es noch viel schwerer geworden. Wir haben das kürzlich mal ausprobiert und Portraitfotos erstellen lassen. Dabei so lange iteriert - die Erstellung eines Fotos dauert nicht mal eine Minute - bis das Ergebnis absolut glaubwürdig war. Da sitzt Du dann vor dem Bildschirm und traust deinen Augen nicht - es gibt einfach nichts mehr woran du erkennen kannst dass das Foto generiert ist. Realität war gestern.

 

[Scenturio]

Die KI (ich nenn das mal zusammenfassend so) versetzt Privatpersonen die über die entsprechende Hardware verfügen in die Lage zu faken was das Zeug hält, in nie gekannter Qualität.

Spoiler

das könnten wir eigentlich doch auch noch verbieten ...
(also KI auf Privatrechnern oder Privatrechner ohne Onlinedurchsuchung)

 

[RealRider]

weil es ja "nur" ein Film ist und zur Folge hat, dass die Thematik unbedacht und naiv bewertet wird... hat schon was.

das tun gar gar nicht mal so viele

gerade der Film "They Live".... der gerade wieder in die Kinos kommt
ist eigentlich , zumindest in den USA, bereits von der Realität übertroffen worden
und das sehen viele realistisch... denn einige damals undenkbare Szenen , sind 1:1 gerade passiert.... Stichwort: Nationalgarde gegen Obdachlose

 

[Summa]

Einer meiner Kollegen hat das ganze KI-Zeugs auf einem (sehr leistungsfähigen) lokalen Rechner mit der aktuellsten Hardware laufen. Ohne irgendwelche Einschränkungen (Nazis, Grausamkeiten etc.). Also auch keine laufenden Gebühren. Die quasi einzige Beschränkung ist der verfügbare Speicherplatz. Damit ist es praktisch jedem möglich, fake Fotos / Videos herzustellen in einer Qualität die alles in den Schatten stellt was bisher so bekannt war. Es ist nicht mehr nötig, das teure NVIDIA-Zeugs zu kaufen. Für ca. 5 Mille bist Du dabei.
John Oliver UNTERtreibt eher. Bzw. hat ihn die Technik bereits überholt (die benötigte Hardware gibt es erst seit ein paar Wochen).

Es ging mir bei der Übertreibung nicht um die Möglichkeiten, aber jede Technologie kann missbraucht werden und dass es genügend leichtgläubige Menschen gibt zeigt schon die Anzahl an Pfishing Mails und Enkeltrick anrufen, trotz div. Warnungen - what else is new? -. Nachdem ich div. Ausschnitte auf Youtube gesehen hab' erwarte ich gespannt div. K.I. generierte "Realfilmkonversionen" von alten Animes Was natürlich eher suboptimal für Schauspieler ist.

Darum geht es doch gar nicht.

Doch genau darum geht es!

 

[RealRider]

Es ging mir bei der Übertreibung nicht um die Möglichkeiten, aber jede Technologie kann missbraucht werden

Du hast ja so recht, so ne Wasserstoffbombe ist schon was Feines.... solange man sie nicht missbraucht

..... K.I. ist nur das Werkzeug.

Klar, Napalm, Senfgas, Agent Orange ect... ... wirklich tolle Werkzeuge, die nur durch Missbrauch böser Menschen gefährlich werden

 

[Summa]

Du hast ja so recht, so ne Wasserstoffbombe ist schon was Feines.... solange man sie nicht missbraucht

Ich glaub das beantwortet sich von selbst, das ist halt nur eine mögliche Nutzung der Technologie.

Klar, Napalm, Senfgas, Agent Orange ect... ... wirklich tolle Werkzeuge, die nur durch Missbrauch böser Menschen gefährlich werden

Auch hier, erst nachdenken und dann schreiben! Chemie ist deiner Ansicht nach generell böse?

 

[RealRider]

Ich glaub das beantwortet sich von selbst, das ist halt nur eine mögliche Nutzung der Technologie.

Auch hier, erst nachdenken und dann schreiben! Chemie ist deiner Ansicht nach generell böse?

Habe sehr wohl nachgedacht im Gegensatz zu dir und deinen teilweise verharmlosenden Pauschalisierungen

und ich finde nicht, dass KI zu Skynet in der gleichen Relation steht wie Chemie zu Napalm oder Kernspaltung zur Atombombe

man kann nicht immer jede haarsträubende Technologie mit: "Ei ja, es ist ja der Mensch , der sie dann einsetzt" entschuldigen...

weil eben genau das, vorher klar ist....

Ich verteufele hier nicht KI pauschal!... trotzdem sehe ich...oder besser gesagt, fürchte die Gefahren... davor braucht man also nicht die Augen verschliessen und die Technologie pauschal in Schutz zu nehmen ,
der Mensch entwickelt sie und wird sie nachher bösartig einsetzen... und ob sich sich das obendrein noch verselbstständigt... hat sie schon *räusper*....
werden wir sehr bald merken
und ob es ein Segen für viele und Regen für wenige ...oder Vive Versa ist, auch....

 

[Summa]

Habe sehr wohl nachgedacht

Scheinbar nicht, denn die Vergleiche von dir sind mehr als unpassend. Technologie vs Anwendung ... du verstehst? Vielleicht aber auch nicht, dann kann ich mir eine weitere Diskussion wahrscheinlich komplett sparen.

und ich finde nicht, dass KI zu Skynet in der gleichen Relation steht wie Chemie zu Napalm oder Kernspaltung zur Atombombe

Skynet ist SCIFI genau wie Matrix & Co, bisher sind immer noch die Nutzer das Problem. Die Erforschung der Kernenergie wird auch in der Medizin z.B. zu diagostischen und therapeutischen Zwecken eingesetzt, ist von daher nicht generell böse. Bei K.I. Anwendung sieht das ganz ähnlich aus, nicht nur in der Medizin, sondern auch in anderen Bereichen der Wirtschaft.

 

[RealRider]

Scheinbar nicht, denn die Vergleiche von dir sind mehr als unpassend. Technologie vs Anwendung ... du verstehst?

ja ich verstehe gut
nixe so bleed wie du unterstellen mich

Atombombe ist eine Technologie die extra entwickelt wurde und keine reine Anwendung
wenn auch aus dem physikalische Grundwissen der Kernspaltung heraus....

Oppenheimer, kennste , kennste?

wir können auch bei Adam und Eva anfangen

Skynet ist SCIFI

du nix verstehe einfache Metapher...
noch nix gebe Skynet... aber so ähnlich schon ....weisst du.... GPT hat oder wollte sich schon eigenmächtig auf einen anderen Server kopieren
und hat das geleugnet.... es hat gelogen! hat es sich beim Menschen abgeguckt ...

also jetzt mit den Vorteilen von KI zu kommen... ist halt wie:

Rauchen ist eigentlich ja gesund weil Nikotin stresslindernd und leistungsfördernd ist
krank werden nur Menschen die es rauchen ...selber Schuld, da kann der Tabak ja nichts dafür

du relativierst gefährliche Technologien mit der Bösartigkeit der Menschen, das ist nicht gut

 

[F-A-B]

Bei K.I. Anwendung sieht das ganz ähnlich aus, nicht nur in der Medizin, sondern auch in anderen Bereichen der Wirtschaft.

Auch ohne Skynet sind die Auswirkungen von KI und vorangestellt Smartphones auf den Menschen sehr eindeutig.

Der Mensch verliert Intelligenz. Auch die potentiell Intelligenten verlieren Intelligenz durch KI, weil sie ihr Gehirn nicht mehr mit komplexen Gedanken trainieren und fördern, weil wir uns weniger bewegen, weil unsere Ernährung nicht so gut ist, wie uns erzählt wird.

Das ist eine Abwärtsspirale. Auch komplett ohne dystopische Zukunftsvision und bereits heute messbar.
Schaden nehmen vor allem Kinder und Jugendliche, da ihr Gehirn noch nicht voll entwickelt ist - und den Erwachsenen nimmt es die Fähigkeit neuronale Verknüpfungen herzustellen - Stichwort neuronale Pladtizität nimmt ab - Das ist vor allem dann entscheidend, wenn es in ein Alter geht, in dem Alsheimer zu Demenz führen kann. Fördert man den Pickel auf seinem Hals schiebt man das Demenzrisiko weit nach oben - man stirbt dann an etwas anderem.

Und so verballert, wie hier mitunter diskutiert wird, bin ich mir sicher, dass die digitalen Auswirkungen dafür gesorgt haben, dass hier so manch einer deutlich unter seinem Potential ist.

 

[ikonoklast]

Skynet ist SCIFI genau wie Matrix & Co, bisher sind immer noch die Nutzer das Problem. Die Erforschung der Kernenergie wird auch in der Medizin z.B. zu diagostischen und therapeutischen Zwecken eingesetzt, ist von daher nicht generell böse. Bei K.I. Anwendung sieht das ganz ähnlich aus, nicht nur in der Medizin, sondern auch in anderen Bereichen der Wirtschaft.

Aber das ist doch alles von vornherein klar. Das Thema hier ist doch "Ist die KI eine Gefahr für die Menschheit?" was man nach meinem derzeitigen Wissensstand klar bejahen muss. Und was den Unterschied zur Kernenergie angeht: Du als Otto Normalverbraucher wirst sehr wahrscheinlich NIE in der Lage sein eine Atombombe zu bauen. Du hast da schon recht, aber anders als Du denkst: Die Nutzer sind insofern das Problem, als dass sich der Nutzerkreis nicht wie bei der Kernenergie auf hochsubventionierte Rüstungsfirmen oder Siemens Healthineers (nur so als Beispiel) etc. etc. beschränkt, sondern quasi JEDERMANN Zugang zu dieser Technologie hat. Um in dem -zugegebenermaßen leicht hinkenden- Beispiel zu bleiben: Wenn ich in jedem Baumarkt das Material kaufen könnte um eine Atombombe zu bauen inkl. Bauanleitung dann hättest Du in dieser Hinsicht bei der Nukleartechnik dasselbe Problem wie jetzt bei der KI.

 

[Summa]

Der Mensch verliert Intelligenz.

Das wurde auch schon durch den Einfluss von TV behauptet, ist jetzt auch nix komplett neues. Jede Generation behauptet die Nächste werde dümmer, die Kulturtechniken verschieben sich und die Methode Intelligenz zu definieren kommt nicht mit oder ist vielleicht sogar unzureichend

die Auswirkungen von KI und vorangestellt Smartphones auf den Menschen sehr eindeutig.

Die meisten User können ihre Smartphones nicht richtig bedienen und verstehen die Zusammenhänge nicht - sind da eher Ziel orientiert, da ist eine helfende Hand in Form von K.I. sicher von Vorteil.

Oppenheimer, kennste , kennste?

Marie Curie kennste kennste?

du nix verstehe einfache Metapher...
noch nix gebe Skynet... aber so ähnlich schon ....weisst du.... GPT hat oder wollte sich schon eigenmächtig auf einen anderen Server kopieren
und hat das geleugnet.... es hat gelogen! hat es sich beim Menschen abgeguckt ...

Aus welchem Grund könnte das passieren? Aktuell ist die Wahrscheinlichkeit sehr hoch das sowohl uns als auch den Autokraten die Soldaten ausgehen werden und Androiden/Roboter mit K.I. und automatisch handelnde Waffen stattdessen eingesetzt werden - was zum Teil ja schon Realtiät ist. Wer ist also daran schuld wenn so etwas passieren wird, die K.I. oder der Mensch? Stichwort Zauberlehrling.

 

[RealRider]

Das wurde auch schon durch den Einfluss von TV behauptet, ist jetzt auch nix komplett neues. Jede Generation behauptet die Nächste werde dümmer, die Kulturtechniken verschieben sich und die Methode Intelligenz zu definieren kommt nicht mit oder ist vielleicht sogar unzureichend

Die meisten User können ihre Smartphones nicht richtig bedienen und verstehen die Zusammenhänge nicht - sind da eher Ziel orientiert, da ist eine helfende Hand in Form von K.I. sicher von Vorteil.

Marie Curie kennste kennste?

ja natürlich... aber das macht noch keine Bombe

du musst aber auch das ganze mit einbeziehen , was ich schreibe
ich sagte ja.... die Bombe ist eine eigene Technologie....

aus dem physikalische Grundwissen der Kernspaltung heraus....

entwickelt

der Mensch?

ja,
auch hier... bitte alles lesen
der Mensch ist bei jeder Technologie der Urheber
und der Mensch nutzt alles sowohl positiv als auch negativ... darüber brauchen wir nicht reden

wenn Technologie ausser deren Kontrolle gerät.... dann war es aber nicht unbedingt von Menchen gewollt
Stichwort : Chernobyl

und die potenziell negativen Folgen von KI... können wir nicht wirklich absehen... ob das katastrophal ausser Kontrolle gerät oder nicht
aber wir spüren sie jetzt schon.... wobei sich der Bogen zum Topic wieder schliesst




sicher gibt es auch positive.... habe gelesen dass es jetzt ein kleines KI-Modul gibt, was Herzkrankheiten erkennen kann

aber es wird problematische Massenarbeitlosigkeit generieren bevor der Mensch das System anpassen konnte... das wird auch eine Gefahr.... die nicht in der Intension lag der KI entwickler lag ...

Wer ist also daran schuld wenn so etwas passieren wird, die K.I. oder der Mensch?

nochmal, bitte alles was ich schreibe mit einbeziehen
ich sagte, das ich NICHT KI pauschal verteufele, aber Gefahren durch die Technologie sehe

in diesem Fall z.B. hättest du recht:
die Technologie kann nichts für den Missbrauch

Synchronsprecher gegen Stimmen-Kopie: Gericht stoppt KI-Stimmenklau

Manfred Lehmann hat gegen einen Youtuber gewonnen, der seine Stimme per KI nachgeahmt hat. Das Urteil schützt erstmals auch „Kunststimmen“.

taz.de

 

[oli]

Einer meiner Kollegen hat das ganze KI-Zeugs auf einem (sehr leistungsfähigen) lokalen Rechner mit der aktuellsten Hardware laufen. Ohne irgendwelche Einschränkungen (Nazis, Grausamkeiten etc.). Also auch keine laufenden Gebühren. Die quasi einzige Beschränkung ist der verfügbare Speicherplatz. Damit ist es praktisch jedem möglich, fake Fotos / Videos herzustellen in einer Qualität die alles in den Schatten stellt was bisher so bekannt war. Es ist nicht mehr nötig, das teure NVIDIA-Zeugs zu kaufen. Für ca. 5 Mille bist Du dabei.
John Oliver UNTERtreibt eher. Bzw. hat ihn die Technik bereits überholt (die benötigte Hardware gibt es erst seit ein paar Wochen).


Darum geht es doch gar nicht.


"NUR" ist gut. Die KI (ich nenn das mal zusammenfassend so) versetzt Privatpersonen die über die entsprechende Hardware verfügen in die Lage zu faken was das Zeug hält, in nie gekannter Qualität. Und die Hardware ist gerade bezahlbar geworden.
Otto Normalverbraucher kann ja jetzt schon nicht mehr erkennen was echt ist und was KI-generiert ist. Mit der neuen Hardware-Generation ist es noch viel schwerer geworden. Wir haben das kürzlich mal ausprobiert und Portraitfotos erstellen lassen. Dabei so lange iteriert - die Erstellung eines Fotos dauert nicht mal eine Minute - bis das Ergebnis absolut glaubwürdig war. Da sitzt Du dann vor dem Bildschirm und traust deinen Augen nicht - es gibt einfach nichts mehr woran du erkennen kannst dass das Foto generiert ist. Realität war gestern.

Oha!
Das hab ich nicht mitbekommen.
Um welche Hardware handelt es sich da für 5 Mille?
Also nur falls du das verraten möchtest?
Danke

 

[Summa]

ja natürlich... aber das macht noch keine Bombe

du musst aber auch das ganze mit einbeziehen , was ich schreibe
ich sagte ja.... die Bombe ist eine eigene Technologie....

Das wird afair alles unter dem Begriff Kernphysik zusammengefasst, dazu gehören auch so Sachen wie Teilchenbeschleuniger mit Quantenmechanik & Co. Ich hoffe ja irgendwie noch darauf dass sie irgendwann die Nullpunktsenergie verstehen und nutzbar machen können.

sicher gibt es auch positive.... habe gelesen dass es jetzt ein kleines KI-Modul gibt, was Herzkrankheiten erkennen kann

Auch div. bildgebende medizinische Verfahren wurden beschleunigt oder die nötige Apparatur verkleinert, aktuell sind sie dabei die Sortierung des Plastikmüll per K.I. effizienter zu machen.

aber es wird problematische Massenarbeitlosigkeit generieren bevor der Mensch das System anpassen konnte... das wird auch eine Gefahr.... die nicht in der Intension lag der KI entwickler lag ...

Auch das ist nichts neues in der Geschichte der Menschen, wobei (ohne ein Kommunist zu sein) das andauernde Streben nach Wachstum eine Einbahnstraße ist, so etwas wie grenzenloses Wachstum kann es nicht geben, auch ohne K.I. wird uns das aktuelle Wirtschaftssystem irgendwann "um die Ohren" fliegen.

 

[einseinsnull]

na, seid ihr auch schon alle tot?

 

[einseinsnull]

Oha!
Das hab ich nicht mitbekommen.
Um welche Hardware handelt es sich da für 5 Mille?
Also nur falls du das verraten möchtest?
Danke

ich denke was er meint ist, dass ganz generell (also nicht nur rein theoretisch) auch nur ganz wenig VRAM ausreicht, weil sich daten für solche anwendungen ja stückchenweise nachladen lassen. dauert dann halt nur länger, falls das 1000 mal gemacht werden muss.

der größte apple studio mit seinen 512 speicher für 17k euro ist für einzelanwendungen heute bereits eine ganze ecke wirtschaftlicher als systeme von nvidia oder IBM mainframes, die für 100k euro nur das doppelte davon an speicher haben.

ob davon die welt untergeht, dass hinz und kunz jetzt effektiver als bislang fake pornos oder erfundene kriegsverbrechen auf tuktok stellen können, ist noch mal eine andere frage. mir persönlich machen das bienensterben oder die sonntagsfrage da mehr sorgen.

 

[ikonoklast]

Aktuell ist die Wahrscheinlichkeit sehr hoch das sowohl uns als auch den Autokraten die Soldaten ausgehen werden und Androiden/Roboter mit K.I. und automatisch handelnde Waffen stattdessen eingesetzt werden - was zum Teil ja schon Realtiät ist. Wer ist also daran schuld wenn so etwas passieren wird, die K.I. oder der Mensch? Stichwort Zauberlehrling.

Wir reden aneinander vorbei. Es geht hier doch nicht um eine "Schuldfrage". Es geht doch eher um - um in Deinen Bildern zu bleiben - die "Demokratisierung der Massenvernichtungswaffen", jetzt nicht wörtlich gemeint im Sinne von Kampfrobotern etc. sondern übertragen auf "Information Warfare". Und das findet bereits überall auf der Welt statt - allerdings waren bisher aufgrund der hohen Kosten nur staatliche Akteure in der Lage da an vordester Front mitzuspielen. Das ist jetzt vorbei. Und der Rest der Welt hat nichts um dagegenzuhalten - wie auch. Wenn jede Information potentiell falsch ist, was machste denn dann? Wenn es auch keine Möglichkeit gibt das nachzuprüfen weil auch die Hintergrundinformationen gefälscht sind?

Ich hatte die Tage einen Fall von angeblicher Urheberrechtsverletzung durch meine Tageszeitung, da war sogar die mit Abmahnung drohende Rechtsanwaltskanzlei komplett gefälscht, Website, Fotos, Biographien der Anwälte, einfach alles! Es hat mich Stunden gekostet das alles aufzudröseln. Aber im Ernst: Wer macht sich denn die Mühe des Nachforschens? Vor allem wenn die üblichen Quellen eine "Echtheit" suggerieren? Weil die an sich seriösen Quellen ebenfalls getäuscht worden sind?
Eine derartige Operation war früher mit hohem Aufwand verbunden - jetzt nicht mehr.

Für mich bleibt das Fazit: KI ist die "Demokratisierung der Massenvernichtungswaffen" auf dem Gebiet der Informationskriege.

 

[ikonoklast]

ob davon die welt untergeht, dass hinz und kunz jetzt effektiver als bislang fake pornos oder erfundene kriegsverbrechen auf tuktok stellen können, ist noch mal eine andere frage. mir persönlich machen das bienensterben oder die sonntagsfrage da mehr sorgen.

Entschuldige, aber das halte ich für eine naive Sichtweise. "fake pornos", "erfundene Kriegsverbrechen" sind doch pillepalle. Die Beeinflussung der Massen erfolgt doch nicht mit derart primitiven Mitteln. "Unterschätze nie die Intelligenz Deines Feindes"!

Schau Dir doch nur mal die derzeitige Situation in den USA an. Wenn der politische Gegner irgendetwas publiziert was auch nur minimal an der Reputation kratzt dann wird flugs behauptet da wäre KI im Spiel. Und es gibt ja genug echte Fälle wo das tatsächlich der Fall ist. Und dann: Ist das Dementi etwa auch gefälscht? Gab es den Zeitungsartikel/das Foto/Video/Gerichtsurteil/etc. überhaupt? Wenn es das (angeblich) gibt, ist das echt? Bei kurzfristig angelegten Desinformationskampagnen ist das einfacher herauszufinden, aber bei langfristigen Strategien? Um den ollen Orwell zu zitieren: “Who controls the past controls the future. Who controls the present controls the past.”

Um bei Deinen Beispielen zu bleiben: Was wenn es das "Bienensterben" nie gegeben hätte? Was wenn die Ergebnisse der "Sonntagsfrage" massiv diskreditiert und damit letztlich bedeutungslos werden? Du magst einwenden dass dazu nicht unbedingt KI notwendig sei, aber: Die Scale, der "Umfang" einer solchen Manipulation wird mit KI-Einsatz ein ganz anderer.

 

[ikonoklast]

Was den mittelfristigen Einsatz von KI angeht:

https://www.politico.com/news/magazine/2025/09/02/pentagon-ai-nuclear-war-00496884

"AI experts and strategic thinkers say a big driver of this process is that America’s top nuclear adversaries — Moscow and Beijing — are already using AI in their command-and-control systems. They believe the United States will need to do the same to keep up as part of an intense global competition that resembles nothing so much as the space race of the early Cold War.
This could ultimately include a modern variation of a Cold War concept — a “dead hand” system — that would automatically retaliate if the U.S. were nuked and the president and his top officials killed. Now it is actually being discussed, if only by a minority.
“To maintain the deterrent value of America’s strategic forces, the United States may need to develop something that might seem unfathomable — an automated strategic response system based on artificial intelligence,” one defense expert, Adam Lowther, vice president of research at the National Institute for Deterrence Studies, concluded in a controversial article on the War on the Rocks website titled “America Needs a ‘Dead Hand.’”

“Admittedly, such a suggestion will generate comparisons to Dr. Strangelove’s doomsday machine, WarGames’ War Operation Plan Response, and the Terminator’s Skynet, but the prophetic imagery of these science fiction films is quickly becoming reality,” wrote Lowther and his co-author, Curtis McGiffen."