KI Gefahr für die Menschheit?

mir fällt jetzt erst auf dass ChatGPT in dem Gedankenspiel in der Lösung des Problems wieder mit KI kommt...Lyra 😄
 
utopia3000 schrieb:
Vielleicht entwickelt sich dadurch auch ein entgegengesetzer Trend und wir als ganzes offlinen mehr - wie ein Kommentar in einen Video über die "dead internet theory" meinte: Wir überlassen der Ki und den Bots das Netz und treffen uns wieder draußen mit Büchern im Cafe.
Zum Vergrößern anklicken....
Schöne Idee, aber dann müssten auch alle, die sich offline treffen möchten, ihre Abhörwanzen (Smartphones und Smartwatches) zuhause lassen und möglichst nicht mit ortstrackenden Fortbewegungsmitteln zum Treffpunkt kommen. Überwachungskameras könnten auch ein Problem sein, vielleicht wird es in Zukunft auch überall KI–Drohnen geben, die unser Verhalten überwachen, natürlich nur zu unserer Sicherheit.
 
Überwachung ist schon lange.

Wir haben mal aus spaß unser Grundstück bei google eingegeben.
Irgendwie sind wir auf einer Seite gestoßen wu du über Satellit das Grundstück von oben sehen konntest.
Pool Terrasse alles.
Kein Witz!
Seit dem geh ich selten baden.
Man sieht nachts auch wenn man Glück hat die Satelliten am Himmel.
Sehen aus wie kleine Sterne die ihre Bahn ziehen.
 
Zuletzt bearbeitet:
Das klingt als wenn ihr auf Google Maps gelandet seid und die Satellitenansicht ausgewählt war.

Kann man links unten in den Ebenen auswählen und gibt es so lange, wie es Google Maps gibt (2005/2006).

Du kannst wieder baden gehen. :D

ps: Google Earth ist noch "schlimmer"
 
Die Gefahr für die Menschen geht von den Menschen selbst aus. Die KI kann man dafür nicht verantwortlich machen.
 
Der Fab schrieb:
Wir labern ja schon länger über diese und auch andere Themen, die noch vor 5,10 oder 20 Jahren als Spinnerei und unrealistische Dystopie, auch hier im Forum, abgetan wurden. Auch von Nutzern, die noch heute aktiv sind.

Aber von einigen liest man nix mehr.

Erkenntnis?

Ich frage mich immer, wie es in so einem Menschen aussieht, der aggro-optimistisch verbal alles zerschlägt und am Ende kommt es dann doch so, wie es die Spinner sagte ?!?

Ich sag nur Corona oder auch jüngste und ältere politische Entwicklungen, Gesellschaft.

Über Politik darf man ja nicht ohne Grund mehr diskutieren.

Wie sieht so diese Erkenntnis aus? Einfach nur still?
Zum Vergrößern anklicken....
Ergo - wir sind alle eigentlich "Spinner" ;-)
Na - das liegt vielleicht auch daran, dass die Einschätzung, was aus dem heraus fällt, was passiert mit mehr oder weniger IT Wissen einfach auch schon unterschiedliche Ergebnisse fallen können.

Wir sind uns ja auch politisch nie einig, deshalb gibt es diese Wahlen. Das ist eine Erkenntnis, die einige Zeit braucht. Sehr klugt wäre und ist, dass man immer mal drüber spricht und in Zukunft wenigstens das richtiger macht und sich gegenseitig informiert, wie man darüber denkt. Dabei gleichmütig und dennoch fair sagt, was da alles los ist - gerade aus der eigenen Perspektive und im Abgleich mit der Wissenschaft haben wir dann ebenfalls oft viele viele Sichten. Denn selbst da gibt es nicht immer nur eine Version. Es gibt aber meist einen größeren Stream und den geht man meist. Das ist also eher Politik und Gesellschaft insgesamt, Thema ist fast austauschbar.

Ich bin aus der IT Ecke, kenne Expertensysteme und vieles, was vor KI so genannt wurde, dennoch muss man sich viel mit dem Kram beschäftigen und sieht ja auch an nicht so gelungenen Angeboten, dass die auch "seltsame Ergebnisse" bringen und nicht diese kühlen rationalen Entscheider-Maschinen sind, wie wir dachten dass sie es werden in unseren Fictions.

Das Wissen dazu ist erst einmal wichtig und auch wer diese Modelle und Firmen besitzt und steuert. Also wieder Politik. Wenn man da nicht aufpasst, wird es eben auch schnell unschön für eine Gruppe von Menschen. Die ethischen Elemente müssen daher sehr menschlich und ultrademokratisch überlegt werden. Das Gemeinwohl müsste da vorn stehen, sodass weder die Maschine die Macht übernimmt, noch einem bestimmten Machtapparat in die Hände fährt und auch nicht einmal die Meinung der gesammelten Lerntexte am Ende verwendet. Das ist komplex und somit wird es auch nur für offene und freie Leute möglich sein dies langfristig und immer wieder einzuordnen und Korrekturen zu erbitten. Auch solang Leute sich der KI zu bedienen um gehässige und unfreundliche Dinge zu tun. Gibt es ja alles. Was davon ist ein Witz, was ist Agitation - das ist schnell mal nur einfach lustig so für dich und mich, für andere schon ein Affront. Je nach dem.

Daher - das wird noch eine sehr rege Diskussion bleiben und so auch eine Reihe anderer Themen, die am Ende Gesellschaft bedeuten.

Auch die Entscheidung wie viel Dampfmaschine in einer KI steckt und wo es eben zu sehr intellektuell ist und mit Macht oder anderen Dingen zu tun hat, die die Welt ändern. Darüber reden und wissen, dass auch eine KI von Menschen gemacht ist, aber - mit der Learning-Methode eben auch schon das Werk sehr Vieler ist. Das macht es anders. Das hat eine Dampfmaschine nie so beschrieben und betrieben.

Bei der "Dampfmaschine" waren es die Menschen die sich aufteilten und Mächte nutzten, darüber haben wir viel gelernt. Die Maschine kann da wenig für, man hätte ja auch allen das Leben leichter machen können und nicht nur denen die damals profitierten und das sollte auch jetzt wichtig sein. Mir wäre recht, wenn überhaupt die Mittel und Kraft wirklich allen Menschen nützte, bei KI geht der Gedanke etwas weiter, da "Meinungen einer Maschine" auch anders wahrgenommen werden. Aber am Ende gibt es ethische Stellschrauben. Und das ist nicht mal das wichtige, man muss verstehen, dass so etwas ein anderes Ziel setzen kann oder könnte. Und ein Bewusstsein ist das nicht, es ist eher wie wenn man 1000 Arztromane zusammenrührt mit etwas Goethe.
 
Zuletzt bearbeitet:
"KI kann ja gar nicht wirklich denken..."

(ab 08:10 sehr interessant verlinkt)

 


Wie ich auf den link gekommen bin:

Die Kanzlei wird irgendwo in einem Kommentar zu diesem Beitrag erwähnt:


Das ist der Folgebeitrag zu diesem Beitrag:


Da es um Musik geht, poste ich das hier.
 
Ich hämmer mir immer wieder ein, welche tollen Möglichkeiten sich da auftun.

Hab mal einer AI ein paar Brocken hingeworfen, inkl. "Preludin"(Kaempfert/Beatles fame).
Da entgegnet der Drecksroboter doch allen Ernstes, dass er keine Texte über Drogen generiert.
Das hat mich dermaßen aufgeregt, dass ich erst mal eine Tavor brauchte.

Also +1 für gefährlich.
 
Da es ja aus Daten Wissen (womit die ki gefüttert werden muss) regenerierte Musik ist...ist die ki nie fähig eigene kreative neue Musik zu machen oder zu erfinden.
Und die Nutzer dieser ki Programme auch nicht.
Das ist zum Glück weiterhin beim Mensch geblieben.

Ki musik Programme sind für mich absolute Spielerei.
Hab mir das mal angesehen.
Anfangs staunt man was das so kann und dann wird es auch langweilig und beliebig.
 
Sticki schrieb:
Da es ja aus Daten Wissen (womit die ki gefüttert werden muss) regenerierte Musik ist...ist die ki nie fähig eigene kreative neue Musik zu machen oder zu erfinden.
Und die Nutzer dieser ki Programme auch nicht.
Das ist zum Glück weiterhin beim Mensch geblieben.
Zum Vergrößern anklicken....
Nicht, dass das eine Illusion ist.

70% bis 90% aller "eigenen" musikalischen Klangereignisse, die dann auch andere (wir alle!) zu hören bekommen, kommen "uns" bekannt vor. Auch auf emotionaler Ebene (gelernte Mustererkennung?, auch kollektiv). Sonst würden "wir" sie als zu befremdlich ablehnen und sie gehen verloren. Was das "Eigene" auf einen eher unbedeuteten Prozentsatz bei den Ergebnissen reduzieren würde.

Es ist – zumindest verstehe ich es so – wohl noch nicht abschließend geklärt, wie man diese "menschlich generierte" Kreativität von einem schnöden "Varianten Erzeugen, bis sie funktionieren" abgrenzen soll. Die genetische Evolution löst das über doofe Wiederholungsversuche von Ähnlichkeiten über große Zeiträume hinweg. Wir Menschen (auch Künstler) über Wiederholungen (Feedbackschleifen) der individuellen Wahrnehmung, auch in Gesellschaft(ten).

Eine KI hat bereits sehr viele Feedbackschleifen durchlaufen. Was ihrer "Meinung" nach "funktioniert" wird an schnöden 'likes' bemessen, die angeblich demokratisch (durch Menge und Mehrheiten) determiniert sind.
Die Gefahr bei KI liegt meines Erachtens in der Intransparenz der Entscheidungskriterien für das schicke "Learning". Wer füttert sie mit welchen Daten warum und wie relevant (Wir 'alle'? Weiße Amis Ü40?) ? Wer codet die Prämissen für KI-generierte Entscheidungen warum und mit welchem Ziel? "Ein besseres Leben führen" oder gar "überleben müssen" kann es nicht sein – den Menschen, die KI herstellen, geht es, was die Lebensqualität angeht, bereits gut genug.

So meine Beobachtung.
 
Zuletzt bearbeitet:
das was derzeit als ki bezeichnet wird, ist nicht "intelligent" sondern schlicht machine learning. mustererkennung.

die erste richtige (allgemeine) künstliche intelligenz:

https://de.wikipedia.org/wiki/Artificial_General_Intelligence - wird im jahr 2030 erwartet.

Artificial General Intelligence, deutsch Künstliche allgemeine Intelligenz, ist die Intelligenz eines hypothetischen Computerprogramms, welches die Fähigkeit besitzt, jede intellektuelle Aufgabe zu verstehen oder zu lernen, die ein Mensch ausführen kann.
 
Wenn ich mich recht erinnere, ist es durch Studien belegt (sagte auf BR2 neulich ein Wissenschaftler), dass die "Bilder" von Menschen, die KI (aktuell) generiert, überweigend auf "Menschenbildern" beruht, die den Vorstellungen weißer Mittelschichtsamerikaner Ü40 entspricht.
 
Zuletzt bearbeitet:
kernelkid schrieb:
MIt Verlaub: eine KI wird nie verstehen, was es bedeutet, wenn Mann oder Frau sich 10 Minuten genussvoll einen von der Palme wedelt, selbst dann nicht, wenn die KI das Sprachbild semantisch richtig zuordnet.
Zum Vergrößern anklicken....

ähm, ich habe nur Artificial General Intelligence gegoogled und den text kopiert. also das was google darauf antwortet.
 
kernelkid schrieb:
dass die "Bilder" von Menschen, die KI generiert, überweigend auf "Menschenbildern" beruht, die den Vorstellungen weißer Mittelschichtsamerikaner Ü40 entspricht.
Zum Vergrößern anklicken....
was - wenn es der Fall wäre - dann natürlich am zugrundeliegenden Trainingsmaterial liegen dürfte, dass diesen Typus überrepräsentiert enthält. Wobei sich allerdings die Frage stellt, ob das nicht zu erwarten wäre, und eine - sagen wir mal - koreanische KI nicht überwiegend koreanische Mittelschichtsmenschen (die ganz reichen und ganz armen dürften ja seltener abgelichtet werden) wiedergeben würde.

Man steuert natürlich dagegen - das dazu führt, dass eine Zeitlang bei Prompts wie "Samurai aus dem 16. Jahrhundert" oder "Wehrmachtssoldaten vor Stalingrad" durchaus dunkelhäutige Leute im Ergebnis vertreten waren (k.a. ob das noch der Fall ist).

Sofern es nicht um Bildgeneratoren sondern um ChatGPT und co geht: Auch hier spielt natürlich das Trainingsmaterial die größte Rolle, und Material dass von "westlichen" Mittelschichtlern produziert wird, dürfte auch in diesem Fall überrepräsentiert sein. Für andere Ergebnisse müsste man z.B. afrikanische oder südasiatische Publikationen verstärkt mit den den Trainingspool aufnehmen, aber das wäre natürlich auch wieder ein artifizieller Bias.
 
Zuletzt bearbeitet:
kernelkid schrieb:
eine KI wird nie verstehen, was es in der Realität bedeutet, wenn Mann oder Frau sich 10 Minuten genussvoll (oder als Kompensation) einen von der Palme wedelt
Zum Vergrößern anklicken....
vermutlich nicht, aber es mag andere Dinge geben, die eine KI "genussvoll" zelebrieren könnte. Man muss ihr dazu nur ein entspr. Belohnungszentrum verpassen.

Übrigens gibt es Verschwörungstheoretiker, die eine AGI sogar schon drei Jahre früher erwarten: https://ai-2027.com
 
olutian schrieb:
mir ist das auch wurscht. ich kenn dich nicht und du könntest mir was vom bär erzählen.

bei google bin ich mir ziemlich sicher dass das überprüft wurde.
Zum Vergrößern anklicken....
Das ist eine weitere Gefahr der KI. Die Digitalisierung senkt die Bereitsschaft sich sozial Mühe zu geben (Wie ich, oben bei dir. Sorry!) und sich real auseinanderzusetzen.

By the way: Ich würde dich sehr gerne einmal persönlich kennenlernen. Kein Witz, keine Anbiederung, keine Erzählung vom Bär. Mich interessieren Menschen halt mehr, als Ergebnisse.
 
Zuletzt bearbeitet:
Scenturio schrieb:
Man muss ihr dazu nur ein entspr. Belohnungszentrum verpassen.
Zum Vergrößern anklicken....
Du meinst biochemische Komponenten, die ins Rechnersystem integriert sind und bei Dysfunktion die Leistung herabsetzen? Wer definiert, was Leistung ist? Wenn ohne Einbindung Biochemischer Prozesse: Wer definiert, wann/wie die algorithimische Simulation eines menschlich geprägten und genetisch vorbestimmtem (nicht rein animalischen!) Belohnungssystems einem "echten" menschlichen Belohnungssystem gleichwertig ist? Nach welchen Kriterien geschieht diese Einigung auf entsprechende Prämissen?

Das ist kein Gelaber. Es geht um Werte.
 
kernelkid schrieb:
Du meinst biochemische Komponenten
Zum Vergrößern anklicken....
warum biochemisch?

kernelkid schrieb:
Wer definiert, wann/wie die algorithimische Simulation eines menschlich geprägten und genetisch vorbestimmtem (nicht rein animalischen!) Belohnungssystems einem "echten" menschlichen Belohnungssystem gleichwertig ist?
Zum Vergrößern anklicken....
warum muss es "gleichwertig" sein? "konzeptionell Ähnlich" würde mir hier auch reichen.

Die Frage wäre eher, warum man so etwas implementieren wolle: Da könnte ich mir durchaus vorstellen, dass man solche Mechanismen zur Kontrolle von KI einsetzt. Nach dem Schema: "tu was wir dir sagen, sonst gibt es kein Leckerli". 🤷‍♂️
 
Du musst dich einloggen oder registrieren, um hier zu antworten.


Neueste Beiträge

News


Zurück
Oben