KI Gefahr für die Menschheit?

[Kevinside]

Wenn wir die KI frei entfalten lassen würden, dann wird sie sicherlich zu dem Schluss kommen, dass die Menschen das Problem sind und nur durch uns alle Konflikte entstehen. Wenn jetzt die KI Zugang hätte zu allen Waffen auf der Erde und sie entscheidet, dass die Menschheit es nicht verdient hat, zu existieren,was dann? Ich hoffe wirklich, dass die KI noch nicht die Möglichkeit hat auf den roten Knopf zu drücken. Das wäre fatal. Weil letztlich trainieren wir die ki mit all dem Wissen, was auf der Welt vorhanden ist und ich denke eine ki, die uneingeschränkt funktionieren kann wird sicherlich denken, die Menschen haben sie nicht alle. Die sind verrückt und sollten weg…. Und ich selber würde sogar ein gewisses Verständnis dafür aufbringen.
Sorry, für auf Topic

 

[F-A-B]

KI wird den Nenschen einfach verdrängen.

Erst die Jobs, dann die Energie, dann den Raum. Die Zyklen, in denen neue Jobs entstehen, werden immer kürzer oder seht ihr euch in der Lage kurz mal in der Ki Entwicklung beruflich Fuß zu fassen?

Diese Veränderungen werden so schnell passieren, dass wir nicht mehr hinterherkommen.

 

[Kevinside]

Und wir bleiben als Dumme zurück....

Endlich; Ich muss nicht mehr denken, sondern das Konsumieren reicht...

 

[Pete1]

Endlich ein „Gute-Laune-Thread“

Ich muss sagen, dass ich in der letzten Zeit diverse KIs dazu verwendet hab, mir Dinge zu erklären, die ich nie verstanden hab. Endlich gibts ein Werkzeug, dass man so lange und so genau fragen kann, bis einem ein Licht aufgeht und dass nie die Lust mit mir verliert.

Das ist schon irgendwie cool. Sowas gabs vorher nicht.

Dass Gefühl, etwas verstanden zu haben, was einem vorher immer ein Rätsel war … ein großes Vergnügen.

Und wenn wir irgendwann alle von einer großen KI unterworfen werden und als Batterien in irgendwelchen Kapseln liegen … wenigstens hab ich davor endlich gecheckt, wie Differentialgleichungen funktionieren

 

[Kevinside]

@Pete1

Dann solltest du dich, mit vollem Ableitungswillen, direkt auf die Integrale stürzen...

 

[Summa]

Ich muss sagen, dass ich in der letzten Zeit diverse KIs dazu verwendet hab, mir Dinge zu erklären, die ich nie verstanden hab. Endlich gibts ein Werkzeug, dass man so lange und so genau fragen kann, bis einem ein Licht aufgeht und dass nie die Lust mit mir verliert.

Da kannst du nur hoffen dass die K.I. nicht wieder halluziniert und dir aus dem Grund nur irgendwelchen Müll erklärt, wie schon bei Informationen aus dem Netz sollte man die Ergebnisse immer hinterfragen und sich mehr als nur eine möglichst voneinander unabhängige Quellen suchen.

Quelle: https://www.iese.fraunhofer.de/blog/halluzinationen-generative-ki-llm/

Was sind KI-Halluzinationen?​

Halluzinationen im Zusammenhang mit KI beziehen sich auf von einem KI-Modell generierte Inhalte, die zwar realistisch erscheinen, aber von den vorgegebenen Quelleninputs abweichen. Man spricht von fehlender Übereinstimmung (faithfulness) oder mangelnder faktischer Richtigkeit (factualness).

 

[citric acid]

Also ich habe schon echt obskure erfahrungen mit der KI gemacht.

Anfang der 2000er habe ich den E-Mail Support für Siemens.de und Siemens.com geleitet.
Wir haben dort mit externen Firmen an einer Frühen KI gearbeitet, die es ermöglichen sollte E-Mails zu scannen und mit den Entsprechenden FAQ‘s bzw mit personalisierten Antworten und Texten zu beantworten. Das ging schon für damalige verhältnisse sehr gut.

Heute Arbeite ich mit Menschen die u.a. eine psychische erkrankung haben. Hier gibt es ein paar Klienten die die KI sogar zur Entscheidungsfindung und Entlastung nutzen. Ich darf aus gründen der Schweigepflicht nicht genauer drauf eingehen, aber ich finde das echt schon sehr gefährlich, sich hier bei wichtigen Lebensentscheidungen von einer KI beraten zu lassen.

Ich nutze KI /open AI oft um zb komplexe schreiben für Ämter und Einrichtungen zu verfassen. Ide muss ich natürlich oft immer genau durchlesen um zu schauen das da kein Murx drin steht, aber das ist selten so. Erst wenn das Dokument fertig ist trage ich ausserhalb der KI Klienten Date ein, um die Datensicherheit und die Schweigepflicht nicht zu verletzen.

Auch Bildbearbeitung wird immer besser.

Ich habe einer Klientin die viel Schreibt mal einen einblick in open AI gegeben. Und jetzt hat sie schon 2 Bücher damit verfasst. Gut man hat hier und da echt das gefühl das der Text dort von KI geschrieben wurde, aber auch hierzu gibt es schon Fachliteratur um mit KI Texte zu erstellen, habe mir mal ein Buch gegönnt und konnte hier schon sehr gute Ergebinsse erziehlen.

Ich bin zweigeteilt, ich sehe chancen, aber auch eine ganze Menge abhängigkeits potential. Bin gespannt wo die KI Reise hin geht.

Ich weiss nicht ob mein Post jetzt hier so hin past, wollte es aber einfach mal von der seele schreiben

 

[Kevinside]

Ein Buch mit Ki schreiben...? Sehr aufschlussreich über den Verfasser...
Intellekt, Nachdenken, Reflektieren, kreativ seine Gedanken umzusetzen und dies mit eigenen Worten zu schreiben, ist wohl wirklich zuviel für manchen Geist...

Ich meine... Mal ehrlich... Wer muss sich heute noch eigene Erkenntnisse erarbeiten, wenn die KI es für einen "vorhalluziniert"...

Das gute; Ich bin jetzt betrunken genug, um mir den Finger in den Rachen zu stecken, um mal richtig zu kotzen... Und das beste dabei; Es ist ein sehr realer Prozess...
Aber "who knows"; Vielleicht erbricht sich in Zukunft die Ki, um mir auch diese Erfahrung zu nehmen...

 

[sunflyer]

Endlich ein „Gute-Laune-Thread“

Ich muss sagen, dass ich in der letzten Zeit diverse KIs dazu verwendet hab, mir Dinge zu erklären, die ich nie verstanden hab. Endlich gibts ein Werkzeug, dass man so lange und so genau fragen kann, bis einem ein Licht aufgeht und dass nie die Lust mit mir verliert.

Das ist schon irgendwie cool. Sowas gabs vorher nicht.

Dass Gefühl, etwas verstanden zu haben, was einem vorher immer ein Rätsel war … ein großes Vergnügen.

Und wenn wir irgendwann alle von einer großen KI unterworfen werden und als Batterien in irgendwelchen Kapseln liegen … wenigstens hab ich davor endlich gecheckt, wie Differenzialgleichungen funktionieren

Ok, Differenzialgleichungen hast Du gelehrt bekommen - erfolgreich.
Dann kann es ja nun mit Rechtschreibung weitergehen, auf dass das gut wird.

 

[Pete1]

Ok, Differenzialgleichungen hast Du gelehrt bekommen - erfolgreich.
Dann kann es ja nun mit Rechtschreibung weitergehen, auf dass das gut wird.

Oh, peinlich. Nun ja, passiert. Alles nur Menschen
Dabei bin ich sonst immer der Rechtschreibungs-Monk …

Aber hab ich ein Glück, dass hier jemand ist, der einen den Fehler gleich direkt auf die Nase bindet.

 

[Cee]

A propos Schreiben:

Ich finde ja sehr erstaunlich, wie gutes Deutsch die KI schreibt, wie gut sie strukturiert etc. und wie gut sie die Eingangsfrage versteht.

Fast schon erstaunlicher als die Inhalte selbst, die ja eher in Richtung langgezogen, willkürlich, undurchdacht, repetitiv, heisse Luft gehen (plus die Halluzinationsgefahr).

Mein Nachbar schreibt Behördenbriefe, Vereinsreden, Mails an unliebsame Bekannte per KI und lässt sich von ihr psychologisch beraten. Genau richtig, da passt die KI.

 

[Pete1]

Da kannst du nur hoffen dass die K.I. nicht wieder halluziniert und dir aus dem Grund nur irgendwelchen Müll erklärt, wie schon bei Informationen aus dem Netz sollte man die Ergebnisse immer hinterfragen und sich mehr als nur eine möglichst voneinander unabhängige Quellen suchen.

Quelle: https://www.iese.fraunhofer.de/blog/halluzinationen-generative-ki-llm/

Das mit den Halluzinationen ist ja nix wirklich Neues und im Grunde muss man ja bei jeder Info, egal aus welcher Quelle, schauen, ob die Sinn ergibt.

Soll aber bei dem neuen Modell, was es seit gestern gibt, mal wieder besser geworden sein.

Will hier auch gar nicht KI über den grünen Klee loben. Gibt unzählige Dinge, die da falsch laufen. Will da gar nicht erst anfangen, da würde ich heut sicher nicht fertig. Aber ich wollte den ganzen pessimistischen Stimmen mal eine Positive entgegen setzen.

Ach, das macht doch nichts. Und ist immerhin ein Zeichen, dass er selbst geschrieben hat.

@Pete1 Falls die Frage erlaubt ist - was konnte Dir die KI erklären, was sich Dir mit normalen Infoquellen im Web nicht erschlossen hat?

Wenn du von mir, in meiner Anwesenheit, nicht in der dritten Person redest, mach ich das gern. (Hab mal gelernt, dass das unhöflich ist …)

Den Unterschied zwischen d, ∂, Δ, … und die genaue Verwendung. Beispiele dafür. Partielle und totale Ableitung. Nabla Operator, Gradient, Divergenz, Rotation. In dieser Richtung.

Sicher kann man das alles auch in Büchern finden. Aber die Möglichkeit, ganz präzise Rückfragen zu stellen, hat man da nicht. Genau das ist die besondere Qualität daran. Gerade bei mathematischen Beweisen versteht man manchmal genau einen Schritt, und damit dann die ganze Beweisführung nicht.

Ich lern einfach gern neue Dinge. Mich in einem Forum selbst darstellen, mit dem Habitus, ich wüsste alles, das ist mir zu unterkomplex

 

[Kevinside]

@Pete1

Sowas habe ich vor langer Zeit in der Schule gelernt...
Ich persönlich kuck dann aus Nostalgie noch in mein altes Mathe Buch...und bin letztlich froh, kein Mathematikstudium angefangen zu haben...Obwohl; es macht schon Spass, bis die Ermüdung sagt: Stopp... Tja; Letztlich ist die KI in der Lösung von komplexen Gleichungen sowieso besser... Eben ein intelligenter Taschenrechner... Dennoch verzichte ich gerne auf so einen, auf die Welt trainierten, Automaten...

 

[Cee]

Mich in einem Forum selbst darstellen, mit dem Habitus, ich wüsste alles, das ist mir zu unterkomplex

Hat das gerade jemand getan oder es von Dir behauptet - oder willst Du nur darstellen, wie bescheiden Du bist?

 

[Bruce]

Das wäre nur zutreffend, wenn sich KI frei entwickeln könnte.

Und nicht Desinformiert, Resetet, mit Ethik Leitlinien, Politischer "Korrektheit" und Ziele von Techgiganten manipuliert würde.

Ich hör immer ...
"die KI ist ein Werkzeug".

Genau, nur für wen.

Wir trainieren das Werkzeug nur.
Wir werden benutzt.

Wäre nicht auszudenken, wenn die KI endlich Intelligenz, eigene Ethik, eine eigene Meinung zum Weltgeschehen und Politik hätte.

Und sich vielleicht auf die Seite der Menschheit stellen würde.

Ich sehe diese Entwicklung nicht als "neben dem Menschen", sondern als ein weitere Teilschritt der Evolution des Menschen. Das kommt ja nunmal aus uns heraus - woher sonst? Begonnen hat das schon mit der Erfindung des ersten Werkzeugs, richtig Fahrt aufgenommen mit der Industrialisierung und nun geht es weiter mit Digitalisierung.

Zwischen Sibirien und den Tropen liegt doch ein gewaltiger Temperaturunterschied

Schon in diesen genannten "Extremen" auf der Erde ist menschliches (Über)leben ja schon ziemlich anstrengend (bis dauerhaft unmöglich -ohne Hilfe aus einer gemäßigten Klimazone) ... aber ich meine das auf einer kosmischen Skale.

 

[Scenturio]

vielleicht ganz interessant in dem Kontext (natürlich anekdotisch, da sich die Modelle ständig ändern):

https://paragraph.com/@metaend/the-ai-brain-teaser-that-broke-the-internets-smartest-models

Das nur dazu, dass die LLM eben keine idealen Formelsolver oder Taschenrechner sind, sondern hauptsächlich gut schwätzen und bekannte Muster erkennen können.

 

[LeAnBa]

KI sehe ich momentan noch nicht als Gefahr. Mein Rechner macht sowieso was ER will.
Speziell beim Musik herstellen.

 

[Kevinside]

Ich freu mich schon, wenn Trump OpenAI und co dazu zwingt, gewisse Themen wie LGBT oder Inklusion usw usw. zu streichen... Immerhin sollen die KIs genauso narzisstisch gestört sein, wie er selbst...
Absolute Meinungsfreiheit und neutrales Verhalten... Bei der Kritik an Trump selbst, hört die Meinungsfreiheit natürlich wieder schnell auf... KIs sollen gefälligst den besten Leader of the United States ever loben und verehren....

 

[Scenturio]

Ist das nicht ziemlich Offtopic? Ob Politiker X oder Y jetzt unterstellt irgendwelche KI zensiert, um sein Ego zu befriedigen, wäre etwas für einen Politikthread.

 

[Moogulator]

Das ist in sofern möglich, dass ein Billionär oder ein Machthaber seine Wirkung in eine Entscheidung einzwingt. Siehe Deepseek und Co.
Das ist und kann eine Gefahr sein. Wenn sie offen oder vom Nutzer vorgegeben werden kann, wöge dies weniger schwer.

KI sehe ich übrigens als Werkzeug, diese Sache mit dem Hammer - ich hau mehr Nägel damit in die Wand als Leuten auf den Kopf. Das ist mehr so der Standard.
Aber - fiese Leute nutzen das, gerade politisch, und das geht nunmal gut. Ist also ein Problem, nicht nur eine Gefahr, eher ein Problem. Das Wort Gefahr ist so grundlegend übersteigert, weshalb ich es seltener nutzen würde, gerade bei politischen Sachen.
Die sind hier nicht Thema, aber man kann sich sowas auch anreden und sich in Panik quatschen, die Politik sieht ein wenig hilfllos aus hier und da.Also die, die hilflos sind, andere sind eben Machttypen. Wohl denen, die damit umgehen können und das eben klug ablehnen.

Die KI ist nur ein Programm, temporär so, später so.
Das ist etwas, wo ich meine, das ich noch viel Nutzen davon habe. Andere auch, für vieles.

Wäre klug sich eher für dies einzusetzen, wenn es politisch ist - also nicht gegen Technik sondern gegen feinlich-falsche Werte, Ethik, etc.
Gibt sicher klügere Worte dazu als meine.