KI Gefahr für die Menschheit?

[Kevinside]

Wenn wir die KI frei entfalten lassen würden, dann wird sie sicherlich zu dem Schluss kommen, dass die Menschen das Problem sind und nur durch uns alle Konflikte entstehen. Wenn jetzt die KI Zugang hätte zu allen Waffen auf der Erde und sie entscheidet, dass die Menschheit es nicht verdient hat, zu existieren,was dann? Ich hoffe wirklich, dass die KI noch nicht die Möglichkeit hat auf den roten Knopf zu drücken. Das wäre fatal. Weil letztlich trainieren wir die ki mit all dem Wissen, was auf der Welt vorhanden ist und ich denke eine ki, die uneingeschränkt funktionieren kann wird sicherlich denken, die Menschen haben sie nicht alle. Die sind verrückt und sollten weg…. Und ich selber würde sogar ein gewisses Verständnis dafür aufbringen.
Sorry, für auf Topic

 

[F-A-B]

KI wird den Nenschen einfach verdrängen.

Erst die Jobs, dann die Energie, dann den Raum. Die Zyklen, in denen neue Jobs entstehen, werden immer kürzer oder seht ihr euch in der Lage kurz mal in der Ki Entwicklung beruflich Fuß zu fassen?

Diese Veränderungen werden so schnell passieren, dass wir nicht mehr hinterherkommen.

 

[Kevinside]

Und wir bleiben als Dumme zurück....

Endlich; Ich muss nicht mehr denken, sondern das Konsumieren reicht...

 

[Pete1]

Endlich ein „Gute-Laune-Thread“

Ich muss sagen, dass ich in der letzten Zeit diverse KIs dazu verwendet hab, mir Dinge zu erklären, die ich nie verstanden hab. Endlich gibts ein Werkzeug, dass man so lange und so genau fragen kann, bis einem ein Licht aufgeht und dass nie die Lust mit mir verliert.

Das ist schon irgendwie cool. Sowas gabs vorher nicht.

Dass Gefühl, etwas verstanden zu haben, was einem vorher immer ein Rätsel war … ein großes Vergnügen.

Und wenn wir irgendwann alle von einer großen KI unterworfen werden und als Batterien in irgendwelchen Kapseln liegen … wenigstens hab ich davor endlich gecheckt, wie Differentialgleichungen funktionieren

 

[Kevinside]

@Pete1

Dann solltest du dich, mit vollem Ableitungswillen, direkt auf die Integrale stürzen...

 

[Summa]

Ich muss sagen, dass ich in der letzten Zeit diverse KIs dazu verwendet hab, mir Dinge zu erklären, die ich nie verstanden hab. Endlich gibts ein Werkzeug, dass man so lange und so genau fragen kann, bis einem ein Licht aufgeht und dass nie die Lust mit mir verliert.

Da kannst du nur hoffen dass die K.I. nicht wieder halluziniert und dir aus dem Grund nur irgendwelchen Müll erklärt, wie schon bei Informationen aus dem Netz sollte man die Ergebnisse immer hinterfragen und sich mehr als nur eine möglichst voneinander unabhängige Quellen suchen.

Quelle: https://www.iese.fraunhofer.de/blog/halluzinationen-generative-ki-llm/

Was sind KI-Halluzinationen?​

Halluzinationen im Zusammenhang mit KI beziehen sich auf von einem KI-Modell generierte Inhalte, die zwar realistisch erscheinen, aber von den vorgegebenen Quelleninputs abweichen. Man spricht von fehlender Übereinstimmung (faithfulness) oder mangelnder faktischer Richtigkeit (factualness).

 

[citric acid]

Also ich habe schon echt obskure erfahrungen mit der KI gemacht.

Anfang der 2000er habe ich den E-Mail Support für Siemens.de und Siemens.com geleitet.
Wir haben dort mit externen Firmen an einer Frühen KI gearbeitet, die es ermöglichen sollte E-Mails zu scannen und mit den Entsprechenden FAQ‘s bzw mit personalisierten Antworten und Texten zu beantworten. Das ging schon für damalige verhältnisse sehr gut.

Heute Arbeite ich mit Menschen die u.a. eine psychische erkrankung haben. Hier gibt es ein paar Klienten die die KI sogar zur Entscheidungsfindung und Entlastung nutzen. Ich darf aus gründen der Schweigepflicht nicht genauer drauf eingehen, aber ich finde das echt schon sehr gefährlich, sich hier bei wichtigen Lebensentscheidungen von einer KI beraten zu lassen.

Ich nutze KI /open AI oft um zb komplexe schreiben für Ämter und Einrichtungen zu verfassen. Ide muss ich natürlich oft immer genau durchlesen um zu schauen das da kein Murx drin steht, aber das ist selten so. Erst wenn das Dokument fertig ist trage ich ausserhalb der KI Klienten Date ein, um die Datensicherheit und die Schweigepflicht nicht zu verletzen.

Auch Bildbearbeitung wird immer besser.

Ich habe einer Klientin die viel Schreibt mal einen einblick in open AI gegeben. Und jetzt hat sie schon 2 Bücher damit verfasst. Gut man hat hier und da echt das gefühl das der Text dort von KI geschrieben wurde, aber auch hierzu gibt es schon Fachliteratur um mit KI Texte zu erstellen, habe mir mal ein Buch gegönnt und konnte hier schon sehr gute Ergebinsse erziehlen.

Ich bin zweigeteilt, ich sehe chancen, aber auch eine ganze Menge abhängigkeits potential. Bin gespannt wo die KI Reise hin geht.

Ich weiss nicht ob mein Post jetzt hier so hin past, wollte es aber einfach mal von der seele schreiben

 

[Kevinside]

Ein Buch mit Ki schreiben...? Sehr aufschlussreich über den Verfasser...
Intellekt, Nachdenken, Reflektieren, kreativ seine Gedanken umzusetzen und dies mit eigenen Worten zu schreiben, ist wohl wirklich zuviel für manchen Geist...

Ich meine... Mal ehrlich... Wer muss sich heute noch eigene Erkenntnisse erarbeiten, wenn die KI es für einen "vorhalluziniert"...

Das gute; Ich bin jetzt betrunken genug, um mir den Finger in den Rachen zu stecken, um mal richtig zu kotzen... Und das beste dabei; Es ist ein sehr realer Prozess...
Aber "who knows"; Vielleicht erbricht sich in Zukunft die Ki, um mir auch diese Erfahrung zu nehmen...

 

[sunflyer]

Endlich ein „Gute-Laune-Thread“

Ich muss sagen, dass ich in der letzten Zeit diverse KIs dazu verwendet hab, mir Dinge zu erklären, die ich nie verstanden hab. Endlich gibts ein Werkzeug, dass man so lange und so genau fragen kann, bis einem ein Licht aufgeht und dass nie die Lust mit mir verliert.

Das ist schon irgendwie cool. Sowas gabs vorher nicht.

Dass Gefühl, etwas verstanden zu haben, was einem vorher immer ein Rätsel war … ein großes Vergnügen.

Und wenn wir irgendwann alle von einer großen KI unterworfen werden und als Batterien in irgendwelchen Kapseln liegen … wenigstens hab ich davor endlich gecheckt, wie Differenzialgleichungen funktionieren

Ok, Differenzialgleichungen hast Du gelehrt bekommen - erfolgreich.
Dann kann es ja nun mit Rechtschreibung weitergehen, auf dass das gut wird.

 

[Pete1]

Ok, Differenzialgleichungen hast Du gelehrt bekommen - erfolgreich.
Dann kann es ja nun mit Rechtschreibung weitergehen, auf dass das gut wird.

Oh, peinlich. Nun ja, passiert. Alles nur Menschen
Dabei bin ich sonst immer der Rechtschreibungs-Monk …

Aber hab ich ein Glück, dass hier jemand ist, der einen den Fehler gleich direkt auf die Nase bindet.

 

[Cee]

A propos Schreiben:

Ich finde ja sehr erstaunlich, wie gutes Deutsch die KI schreibt, wie gut sie strukturiert etc. und wie gut sie die Eingangsfrage versteht.

Fast schon erstaunlicher als die Inhalte selbst, die ja eher in Richtung langgezogen, willkürlich, undurchdacht, repetitiv, heisse Luft gehen (plus die Halluzinationsgefahr).

Mein Nachbar schreibt Behördenbriefe, Vereinsreden, Mails an unliebsame Bekannte per KI und lässt sich von ihr psychologisch beraten. Genau richtig, da passt die KI.

 

[Pete1]

Da kannst du nur hoffen dass die K.I. nicht wieder halluziniert und dir aus dem Grund nur irgendwelchen Müll erklärt, wie schon bei Informationen aus dem Netz sollte man die Ergebnisse immer hinterfragen und sich mehr als nur eine möglichst voneinander unabhängige Quellen suchen.

Quelle: https://www.iese.fraunhofer.de/blog/halluzinationen-generative-ki-llm/

Das mit den Halluzinationen ist ja nix wirklich Neues und im Grunde muss man ja bei jeder Info, egal aus welcher Quelle, schauen, ob die Sinn ergibt.

Soll aber bei dem neuen Modell, was es seit gestern gibt, mal wieder besser geworden sein.

Will hier auch gar nicht KI über den grünen Klee loben. Gibt unzählige Dinge, die da falsch laufen. Will da gar nicht erst anfangen, da würde ich heut sicher nicht fertig. Aber ich wollte den ganzen pessimistischen Stimmen mal eine Positive entgegen setzen.

Ach, das macht doch nichts. Und ist immerhin ein Zeichen, dass er selbst geschrieben hat.

@Pete1 Falls die Frage erlaubt ist - was konnte Dir die KI erklären, was sich Dir mit normalen Infoquellen im Web nicht erschlossen hat?

Wenn du von mir, in meiner Anwesenheit, nicht in der dritten Person redest, mach ich das gern. (Hab mal gelernt, dass das unhöflich ist …)

Den Unterschied zwischen d, ∂, Δ, … und die genaue Verwendung. Beispiele dafür. Partielle und totale Ableitung. Nabla Operator, Gradient, Divergenz, Rotation. In dieser Richtung.

Sicher kann man das alles auch in Büchern finden. Aber die Möglichkeit, ganz präzise Rückfragen zu stellen, hat man da nicht. Genau das ist die besondere Qualität daran. Gerade bei mathematischen Beweisen versteht man manchmal genau einen Schritt, und damit dann die ganze Beweisführung nicht.

Ich lern einfach gern neue Dinge. Mich in einem Forum selbst darstellen, mit dem Habitus, ich wüsste alles, das ist mir zu unterkomplex

 

[Kevinside]

@Pete1

Sowas habe ich vor langer Zeit in der Schule gelernt...
Ich persönlich kuck dann aus Nostalgie noch in mein altes Mathe Buch...und bin letztlich froh, kein Mathematikstudium angefangen zu haben...Obwohl; es macht schon Spass, bis die Ermüdung sagt: Stopp... Tja; Letztlich ist die KI in der Lösung von komplexen Gleichungen sowieso besser... Eben ein intelligenter Taschenrechner... Dennoch verzichte ich gerne auf so einen, auf die Welt trainierten, Automaten...

 

[Cee]

Mich in einem Forum selbst darstellen, mit dem Habitus, ich wüsste alles, das ist mir zu unterkomplex

Hat das gerade jemand getan oder es von Dir behauptet - oder willst Du nur darstellen, wie bescheiden Du bist?

 

[Bruce]

Das wäre nur zutreffend, wenn sich KI frei entwickeln könnte.

Und nicht Desinformiert, Resetet, mit Ethik Leitlinien, Politischer "Korrektheit" und Ziele von Techgiganten manipuliert würde.

Ich hör immer ...
"die KI ist ein Werkzeug".

Genau, nur für wen.

Wir trainieren das Werkzeug nur.
Wir werden benutzt.

Wäre nicht auszudenken, wenn die KI endlich Intelligenz, eigene Ethik, eine eigene Meinung zum Weltgeschehen und Politik hätte.

Und sich vielleicht auf die Seite der Menschheit stellen würde.

Ich sehe diese Entwicklung nicht als "neben dem Menschen", sondern als ein weitere Teilschritt der Evolution des Menschen. Das kommt ja nunmal aus uns heraus - woher sonst? Begonnen hat das schon mit der Erfindung des ersten Werkzeugs, richtig Fahrt aufgenommen mit der Industrialisierung und nun geht es weiter mit Digitalisierung.

Zwischen Sibirien und den Tropen liegt doch ein gewaltiger Temperaturunterschied

Schon in diesen genannten "Extremen" auf der Erde ist menschliches (Über)leben ja schon ziemlich anstrengend (bis dauerhaft unmöglich -ohne Hilfe aus einer gemäßigten Klimazone) ... aber ich meine das auf einer kosmischen Skale.

 

[Scenturio]

vielleicht ganz interessant in dem Kontext (natürlich anekdotisch, da sich die Modelle ständig ändern):

https://paragraph.com/@metaend/the-ai-brain-teaser-that-broke-the-internets-smartest-models

Das nur dazu, dass die LLM eben keine idealen Formelsolver oder Taschenrechner sind, sondern hauptsächlich gut schwätzen und bekannte Muster erkennen können.

 

[LeAnBa]

KI sehe ich momentan noch nicht als Gefahr. Mein Rechner macht sowieso was ER will.
Speziell beim Musik herstellen.

 

[Kevinside]

Ich freu mich schon, wenn Trump OpenAI und co dazu zwingt, gewisse Themen wie LGBT oder Inklusion usw usw. zu streichen... Immerhin sollen die KIs genauso narzisstisch gestört sein, wie er selbst...
Absolute Meinungsfreiheit und neutrales Verhalten... Bei der Kritik an Trump selbst, hört die Meinungsfreiheit natürlich wieder schnell auf... KIs sollen gefälligst den besten Leader of the United States ever loben und verehren....

 

[Scenturio]

Ist das nicht ziemlich Offtopic? Ob Politiker X oder Y jetzt unterstellt irgendwelche KI zensiert, um sein Ego zu befriedigen, wäre etwas für einen Politikthread.

 

[Moogulator]

Das ist in sofern möglich, dass ein Billionär oder ein Machthaber seine Wirkung in eine Entscheidung einzwingt. Siehe Deepseek und Co.
Das ist und kann eine Gefahr sein. Wenn sie offen oder vom Nutzer vorgegeben werden kann, wöge dies weniger schwer.

KI sehe ich übrigens als Werkzeug, diese Sache mit dem Hammer - ich hau mehr Nägel damit in die Wand als Leuten auf den Kopf. Das ist mehr so der Standard.
Aber - fiese Leute nutzen das, gerade politisch, und das geht nunmal gut. Ist also ein Problem, nicht nur eine Gefahr, eher ein Problem. Das Wort Gefahr ist so grundlegend übersteigert, weshalb ich es seltener nutzen würde, gerade bei politischen Sachen.
Die sind hier nicht Thema, aber man kann sich sowas auch anreden und sich in Panik quatschen, die Politik sieht ein wenig hilfllos aus hier und da.Also die, die hilflos sind, andere sind eben Machttypen. Wohl denen, die damit umgehen können und das eben klug ablehnen.

Die KI ist nur ein Programm, temporär so, später so.
Das ist etwas, wo ich meine, das ich noch viel Nutzen davon habe. Andere auch, für vieles.

Wäre klug sich eher für dies einzusetzen, wenn es politisch ist - also nicht gegen Technik sondern gegen feinlich-falsche Werte, Ethik, etc.
Gibt sicher klügere Worte dazu als meine.

 

[Kevinside]

@Scenturio

Sicherlich Off Topic... Aber es wird zum Thema, da die gängigsten Modelle aus der USA stammen und Trump wiegesagt schon die ersten Schritte unternommen hat, um die Techfirmen bezüglich KI auf Kurs zu bringen...Ich persönlich würde es auch so machen, wenn ich es könnte... Eine KI, die nur so denkt wie ich selber mit meinen Weltbild auf die unzählige Menschen zugreifen... Sogar gelenktes Denken geht heute soviel einfacher, wenn ChatGPT und co nur das erzählen und in Relation setzen, was ich denke und möchte... Autokratie war noch nie so einfach... I love it...Da ist auch das coole an Musik KIs wie Suno und co...Die Firma bestimmt, welches Material für das Training relevant ist...
Gut man möge mir den überspitzten Ton verzeihen, aber ihr glaubt doch nicht im Ernst, dass KI Modelle nicht politisch "ausgeschlachtet" werden, damit jeder das zu lesen bekommt, was Firmen wie OpenAI, Grok, Gemini, Copilot usw....
vorgeben... Und wie die großen Techfirmen gerade vor Trump kriechen, kann man gut an Apple sehen...
Wie auch immer...
Es ist solange Offtopic, bis es dann plötzlich doch Thema wird...

 

[Scenturio]

Ich persönlich würde es auch so machen, wenn ich es könnte

Das Problem ist: es macht jeder, der die Macht dazu hat, und jede(r) nach seinem Weltbild. China zensiert bestimmte Dinge (sowohl im Netz als auch bei KI), Russland macht das (auch die Ukraine - dort dürfte man vermutlich von der KI keine russlandfreundlichen Aussagen erwarten, ebenso wie in Israel nichts palästinafreundliches), und der Westen bzw. die USA ebenfalls. Da gibt es Beispiele für jede politische Richtung (z.B. gab es auch Bias, dass bestimmte Aussagen über Schwarze, aber nicht über Weiße getroffen werden durfen - oder umgekehrt). Das ist nichts, das Trump alleine für sich gepachtet hat. Und es ist auch kein spezielles KI-Thema, sondern eines, das die gesamte Öffentlichkeit betrifft: siehe z.B. Twitter/X vor und nach Musk (vorher wurde hauptsächlich rechtes zensiert bzw. mit Shadowban belegt, danach umgekehrt).

Also allgemein gesprochen: Dass KI (ebenso wie alle Medien) grundsätzlich anfällig für politische (und kommerzielle) Beeinflussung und Manipulation ist, ist ein wichtiges Thema. Dass es hauptsächlich ein Trump-Thema wäre, halte ich für am Thema vorbei.

Das Problem ist: wir werden nie eine politisch, moralisch oder ethisch neutrale KI bekommen, weil Poltik, Moral und Ethik alles relative Phänomenbereiche sind, die stark vom jeweiligen Standpunkt und Kontext abhängen. Jede(r) hält dabei die eigene bzw. die Sichtweise seines Kulturkreises für die korrekte oder maßgebliche. Absolut betrachtet gibt es solche Wahrheiten aber nicht.

Man könnte sich nun auf den Standpunkt der radikalen Redefreiheit stellen, und weder zensieren noch irgendwelche Filter oder Bias einbauen: Das führt aber zwangsläufig zu Äußerungen der KI, die (von unterschiedlichen Seiten) maximal unerwünscht sind, da eben auch extremistische Inhalte aller Couleur verarbeitet und wiedergegeben werden. So oder so eine Zwickmühle.

 

[Kevinside]

@Scenturio
Trump war eigentlich nur ein stellvertretendes Beispiel, da er eben ganz offen sagt... Die Firmen unterwerfen sich meinem Dogma oder sie bekommen es mit massiven Restriktionen zu tun... Auch sagt er, dass KIs sich definitiv nicht an Urheberrechte halten müssen, weil das sonst die Entwicklung einschränkt...
KI wird dann gefährlich, wenn alle wie Batterien (Matrix ) an der KI hängen und einfach nicht mehr selber denken oder schreiben oder malen oder musizieren oder Visionen in der Wissenschaft voranbringen...
Ich warte ja nur, bis die ersten Nobelpreise an ChatGPT oder Grok oder whatever verliehen werden...
Genial wäre der Friedensnobelpreis, wenn die KI auf jeglicher Seite alle nuklearen Waffen abfeuert... Denn dann herrscht endlich Frieden... Wunderbar oder?

Das schöne ist, dass die Menschen diesen Weg mit Freude und absolut freiwillig gehen, eben ohne nachzudenken. Das erledigt schon die KI...
Endlich muss man sein Hirn nicht mehr bemühen...Wie befreiend... Happy new world...

Und wenns politisch wird, erklärt uns Grok wie toll Autokratie ist, weil ein Führer viel mehr erreichen kann, als so eine komplizierte Demokratie...

 

[Moogulator]

Tim Cook sah man kürzlich mal wieder da im White House - eigentlich macht das eher Angst.
"Dann machste doch bitte die Anti-Elektronikmusiksperre rein, ne? Ich mag nur Country."
Willkür Controlled. Und das ist eben bei KI gar keine Option.

 

[Pete1]

Tim Cook sah man kürzlich mal wieder da im White House - eigentlich macht das eher Angst.
"Dann machste doch bitte die Anti-Elektronikmusiksperre rein, ne? Ich mag nur Country."
Willkür Controlled. Und das ist eben bei KI gar keine Option.

Das stimmt schon. Das ist gruselig.

Etwas beruhigt, dass es ja Chat KIs von allen möglichen Herstellern gibt, die auch unterschiedliche Ausrichtungen haben.

Auch offene Modelle zum herunterladen, die nachträglich nicht mehr verändert werden können und wo alle Daten von mir auch bei mir bleiben.

Auch so simpel, wie ollama, was man in ein paar Minuten installiert hat. Nur das Modell runterladen dauert etwas. Für Datenschutzfreunde aber ne echt gute Sache.

 

[Inside the Void]

Wenn wir die KI frei entfalten lassen würden, dann wird sie sicherlich zu dem Schluss kommen, dass die Menschen das Problem sind und nur durch uns alle Konflikte entstehen. Wenn jetzt die KI Zugang hätte zu allen Waffen auf der Erde und sie entscheidet, dass die Menschheit es nicht verdient hat, zu existieren,was dann? Ich hoffe wirklich, dass die KI noch nicht die Möglichkeit hat auf den roten Knopf zu drücken. Das wäre fatal. Weil letztlich trainieren wir die ki mit all dem Wissen, was auf der Welt vorhanden ist und ich denke eine ki, die uneingeschränkt funktionieren kann wird sicherlich denken, die Menschen haben sie nicht alle. Die sind verrückt und sollten weg…. Und ich selber würde sogar ein gewisses Verständnis dafür aufbringen.
Sorry, für auf Topic

Ich finde diese Sichtweise ist eher etwas, was von der Hollywood Lektüre stammt. Je dystopischer die Medien mit denen wir uns befassen, desto dystopischer die Weltsicht im Durchschnittswert und umgekehrt. Man lenkt eben dort hin, wo man schaut. Deswegen ist modernes Star Trek auch nur noch stumpfes Geballer mit einer hirntoten Crew.

KI ist das, was man programmiert. Und wenn man selber zu einem dystopischen Bild kommt, dann eher weil der Mensch sich selber darin sieht und vor seinen eigenen Gedanken Angst hat.
Von einer richtigen künstlichen Intelligenz sind wir noch sehr, sehr weit entfernt, der Begriff KI wird mitterweile extrem inflationär verwendet, vor allem im MArketing. Was wir bereits haben sind simple Sprachmodelle ala ChatGPT, Roboter sind noch nicht mal in der Lage im Strassenverkehr wirklich sauber zu fahren, in einem einzelnen System was sehr stark auf Regeln und vorbestimmten Verhaltensweisen basiert.

Richtige KI wäre vielleicht mal mit fortgeschrittenen Quantencomputer halbwegs denkbar. Aber auch dann, Intelligenz setzt einen Körper voraus, mit dem man Dinge ertasten kann, schmecken usw. Menschliche Intelligenz definiert sich durch den ganzen Körper, nicht nur dem Hirn, und nicht nur einfachste Algorithmen. Wir verstehen noch nicht einmal genau, was Bewusstsein wirklich ausmacht, und sicherlich sind wir noch sehr, sehr weit davon entfernt, dass wir künstlich eines erschaffen können, aber wir können es so la la simulieren, wie ein Computerspiel eine Welt simuliert.

 

[Moogulator]

Das stimmt schon. Das ist gruselig.

Etwas beruhigt, dass es ja Chat KIs von allen möglichen Herstellern gibt, die auch unterschiedliche Ausrichtungen haben.

Auch offene Modelle zum herunterladen, die nachträglich nicht mehr verändert werden können und wo alle Daten von mir auch bei mir bleiben.

Auch so simpel, wie ollama, was man in ein paar Minuten installiert hat. Nur das Modell runterladen dauert etwas. Für Datenschutzfreunde aber ne echt gute Sache.

Ich nutze Lama von Meta auf dem Rechner - das ist schon cool - und kann schon erstaunlich viel. Lokal! Das ist also zu empfehlen.
Hier sind die Models https://ollama.com/search für alle, die das nicht kennen (du ja schon)
Alles dabei von einem Kern bis mehreren. Kann dich also nur bestätigen und finde das auch cool, es war und ist ja das, weshalb ich meinen ersten ZX81 kaufte, ich wollte genau SOWAS. Das war mein Ziel. Ich fand's faszinierend. Und nun gibt es das. Für jeden!