KI Gefahr für die Menschheit?

[Modie]

Nein es ist schon vorprogrammiert, das ist ein grosser Unterschied. Die steigende Komplexität dahinter nicht mehr zu verstehen, ist etwas anderes. Ich kann diese dystopische Fantasie über kriegstreibende Maschinen nicht so ganz nachvollziehen. Ausser man programmiert so etwas, z.B. Drohnen und co. Eigene Entscheidungen erfordern ein eigenes Bewusstsein, ansonsten gibt es immer noch die Nulloption.

Vielleicht noch eine kleine Erklärung:
Bei vielen (überwiegend westlich orientierten) Menschen erfolgen die eigenen Entscheidungen nicht begründet durch das Bewusstsein, sondern durch ihren Verstand. Die "Kopf-Entscheidung". In vielen Bereichen ist das auch gewünscht. Der Verstand ist jedoch im weitesten Sinne ein "Werkzeug", basierend auf Wissen und Erfahrungen (oft individuell, von der Kultur geprägt). In afrikanischen Kulturen sieht dies oft sehr anders aus. Entscheidet Ihr Euch begründet auf den Verstand, logische Analysen - zu lieben? Es ist wichtig zwischen Bewusstsein und Verstand zu trennen.

Nach meiner Erfahrung lässt sich das leider meist nicht kurz erklären - es braucht viel Offenheit, Geduld und Zuhören.

Bewusste Grüße!
Der Modue.

 

[Inside the Void]

Ist das gut oder schlecht?

Erstmal unsachlich und rein spekulativ, pragmatisch abgeleitet von dem persönlichen Weltbild.

Als Analogie: Es wäre ebenso unsinnig zu behaupten, dass Intelligenz mit zunehmender Komplexität automatisch dazu führt, dass ein System Vorlieben für Äpfel entwickelt, oder dass Intelligenz zwingen dazu führt, mehr Platz zu benötigen, für was?

Die Vorstellung, dass KI zwangsläufig zerstörerisch wird, stammt primär aus Hollywood Dramaturgie... Geschichten brauchen Konflikte, und -KI gegen Menschheit- liefert einen klaren Gegner. In der Realität hat KI keine eigenen Ziele oder Emotionen, destruktives Verhalten entsteht nur, wenn Menschen sie falsch entwerfen... Ohne solche Eingaben bleibt sie ein Werkzeug, nicht ein eigenständig Akteur.

Ich wäre der Letzte, der behaupten würde, künstliche Intelligenz sei unmöglich. Was als „künstlich“ gilt und was nicht, ist keine universelle Wahrheit, sondern eine gesellschaftliche Norm. Bis wir jedoch diesen Punkt erreichen, werden vermutlich noch Jahrzehnte vergehen. Und selbst dann, menschliche Intelligenz setzt zwingend einen Körper voraus, alles andere ist nur eine grobe Simulation. Also bringt es nichts, sich im Gesite antropomorphe Maschinen vor zu stellen, die sich wie Menschen verhalten, mit den gleichen Stärken und Schwächen, das ist lediglich der eigene Horizont der da aufhört. Ein Algorithmus empfindet weder Wut noch Angst oder Trauer. Man kann ihn so programmieren, dass er diese Gefühle vorgibt und sein Handeln damit begründet, doch das ist nicht dasselbe wie tatsächliches Empfinden und eigenständiges Handeln.

 

[Moogulator]

Muss trotz Skepsis auch noch einmal betonen, dass ich wegen sowas zum Computer gefunden habe, also mit Beginn der 1980er wusste ich - ich will sowas!
Man muss und kann auch hier und da Nutzen ziehen - und tue das sehr.

Aktuell sehe ich nicht, dass KI "mich" abschafft, hoffe sogar, dass KI Bürokratie und Quatsch auf Maschinen umstellt aber Lösungen mehr menschlich und sinnvoll werden. Das geht mit den passenden Protagonisten auch. Nur Angst und nur Bedenken helfen nur dann, wenn wir nicht wissen, was eine KI tut und wie.
Man sollte immer wissen, wie sowas funktioniert. Ich habe deshalb IT studiert und mich viel damit befasst.
Ich wollte das eben wissen, ich wollte aber auch Musik studieren.
Wie dem auch sei - Deutschland ist ein Skepsisland, ich finde dass wir und auch hier im Forum sehr viele Leute sind, die per se einfach Skepsis transportieren. Das ist gesund, wenn man das tut, aber man sollte es nicht alles kontrollieren lassen. Das kann auch zu Verschwörungsideen führen, muss es aber nicht.

Mit offenen Augen und Hirn dran gehen und vielleicht nicht direkt bei Waffenherstellern arbeiten und dennoch - wollen ja sogar wir sicher sein.
Dh - man muss einen guten Weg finden und dennoch mal nachschauen, was geht.

Es gibt Technik die einfach das tut was sie soll - wenn es Hintertüren gibt, muss man die schließen oder Zeug nehmen, was keine hat.
Sowas ist bei einer KI durchaus möglich - dass neben den Asimov'schen Gesetzen auch ein paar "am Ende sagt unser Diktator, was richtig ist"-Sonderdirektiven - die müssen immer draußen bleiben.

So einfach ist das. Wobei - wenn die KI nur Katzenbilder sortiert ist das auch noch was anderes als wenn sie zB. eine Art von Teil eines System sind, zB Gewaltentrennung und so weiter. Darauf geht es ja wohl hinaus.

Und aktuell kümmern sich die Hersteller darum, dass Menschen keine 6 Finger haben und weniger halluzinieren, wie unseres lustiges analoges Halluzinelle.

 

[RealRider]

bin ja kein allzu grosser Freund von Influencer Laberbacken.... seine Sponsor-Werbung zw. 2:10 und 3:50 muss geskippt werden

aber ich finde, er hier erklärt die Situation ganz gut

 

[Scenturio]

bin ja kein allzu grosser Freund von Influencer Laberbacken

ich auch nicht, darum schaue ich mir das Video nicht an - aber würde die vorsichtige These wagen, dass
a) das auch ohne KI passiert.
b) das nicht nur in Amerika passiert.

Change my Mind.

 

[nox70]

bin ja kein allzu grosser Freund von Influencer Laberbacken.... seine Sponsor-Werbung zw. 2:10 und 3:50 muss geskippt werden

aber ich finde, er hier erklärt die Situation ganz gut

In homöopathische Dosen kann man dem Mann folgen - seine Sponsor-Werbungen sind immer leicht zum fremdschämen, aber er macht das ganz offen und das ist dann für mich auch ok. Aber ich finde es spannend, wie weit man im normalen Leben zwischen EU (ok, auch ne große Klammer) und den USA auseinander liegt, egal ob es um Job, Freizeit, Essen, Gesundheit, Bildung oder Menschliches geht. Es ist oft spannend und unglaublich, wie für uns Selbstverständliches in den USA überhaupt keinen interessiert. Das ist echt eine komplett andere Welt, die man so auch nicht aus Filmen erahnen kann.

 

[Modie]

Hm. Lassen wir doch mal kurz die Vorstellung einer zerstörerischen KI außen vor. Da gehe ich ohne weiteres mit. Neues Leben ist erst einmal unbefleckt, es lernt - vielleicht zunächst aus der umittelbaren Umgebung. Und (Achtung) zieht dann vielleicht Schlüsse.

Aber wenn ich mir die Posts durchlese, habe ich die Vermutung, dass nicht alle die Begrifflichkeiten (beispielsweise Komplexität) korrekt verwenden. Auch scheinen Zusammenhänge und Wirkungsweisen (Algorithmen) als Teil eines Systems nicht verstanden zu sein.

Ihr könnt Euch vielleicht nicht vorstellen, wie schwierig es (nicht nur für mich) war, selbst erfahrene Techniker in die Grundlagen des "Systems Engineering" einzuführen. Viele machen viel zu früh "die Tür zu" - "weiß ich schon alles" - "hab' ich schon meine Meinung zu". Das wäre aber mal eine erste Basis.

Es gehört Offenheit dazu: vielleicht (vor langer Zeit) gelerntes nochmals in Frage zu stellen, Ergebnissen aus anderen Fachbereichen zuzuhören. Das ist oft nicht einfach, manchmal hart. Mein Wunsch wäre: ohne (spontane) Emotionen neue Gedanken zuzulassen, nicht die bekannten "Schubladen aufzuziehen".

 

[Moogulator]

Ich bin dafür, dass die Maschinen am Ende die miese Arbeit machen, am Ende wäre das gut. Leider sind die Besitzverhältnisse nicht immer so, dass das wirklich so gehen wird. Dh - jemand bezahlt das. Aktuell werden wir sicher bald die Option haben Roboter, der uns pflegt. Oder eben weitere Leute von außen. Beides nicht free - bei uns tippe ich auf lieber Roboter, weil man ja keine Ausländer mag. Aber wir werden noch viel über solche Themen hören. Die Hersteller werden Geld nehmen und zB die Heime werden das bezahlen? Nein, das bezahlt man als Kunde, oder indirekt über die Krankenkasse. Das ist dann Spezialtechnik - besonders teuer. Wir hier im Lande formalisieren sowas sehr gern.

Heute haben die Leute dann auch schon mehr Vorstellung, wie ein "Roboter" so reden würde.
Schöner wäre, wenn wir ein gutes Wohlstands-Prinzip hätten, was allen zugute kommt - und da meine ich gerade die Maschinen mit. Anschaffen können oder nicht?
Also ohne Staubsaugerbot hätte ich einen Scheißjob mehr. Shitjobs gibt es eh viele - wirklich doofe Sachen.

Aber - wir müssen eben auch was finden, damit Leute nicht primär Arbeit suchen sondern Menschliches.
Aber - das ist nicht an uns sowas hier zu finden oder eben doch - vorleben kann man das immer. Klein und groß.

 

[RealRider]

ich auch nicht, darum schaue ich mir das Video nicht an

ist ok, das kann mal voll und ganz akzeptieren...
aber dann vielleicht auch nicht Kommentieren?

denn_

aber würde die vorsichtige These wagen, dass
a) das auch ohne KI passiert.
b) das nicht nur in Amerika passiert.

Change my Mind.

Nur die Überschrift lesen und drauflos philosophieren .... ist aber auch nicht gerade reflektierend

er erklärt nur die aktuelle Situation aus seiner Erfahrung durch leben und arbeiten in den USA
und schätzt ein wie es sich wohl weiter entwickelt.... alleine durch Lebens- und Berufserfahrung und damit REAL ...und nicht akademisch , wissenschaftlich fundiert vorbei am wirklichen Leben-Geblubber irgendwelcher Soziologie oder Whatever-Experten

In homöopathische Dosen kann man dem Mann folgen - seine Sponsor-Werbungen sind immer leicht zum fremdschämen, aber er macht das ganz offen und das ist dann für mich auch ok. Aber ich finde es spannend, wie weit man im normalen Leben zwischen EU (ok, auch ne große Klammer) und den USA auseinander liegt, egal ob es um Job, Freizeit, Essen, Gesundheit, Bildung oder Menschliches geht. Es ist oft spannend und unglaublich, wie für uns Selbstverständliches in den USA überhaupt keinen interessiert. Das ist echt eine komplett andere Welt, die man so auch nicht aus Filmen erahnen kann.

ich schaue mir selten Videos von ihm an
aber was ich bis jetzt gesehen habe, erklärt und lässt dem unwissenden sehr gut verstehen, wo das Mutterschiff dieses ganzen aufbäumenden ultra-konservativer, hyper-neo-liberaler unmenschlicher-kapitalistischen-Scheisse liegt....
scheint vielen nicht klar zu sein, wie es dort ist und wie es auch bei uns immer mehr dazu werden wird....

aber hier geht es ja explizid auch um sie Auswirkungen von KI auf diese Art der Gesellschaft.... und das ist sehr wohl eine Gefahr, denn der Grossteil der Gesellschaft ist nunmal ver- und oder geblendet und peilt das einfach nicht....
und das ist eine der grossen Gefahren für die mittleren und unteren Schichten..... den Grossteil der Bevölkerung

 

[Scenturio]

Nur die Überschrift lesen und drauflos philosophieren

wenn _das_ jetzt schon als philosophieren durchgeht ...

Ich schaue regelmäßig Reiseblogger und kritische Auslandsjournalisten - darunter auch einiges aus USA. Dass da (und anderswo) einiges im Argen liegt, ist unbenommen.
Dass KI einen Einfluss auf die Gesellschaft hat, ist ebenfalls relativ unstrittig; mein Kommantar hat sich allerdings nur gegen den Clickbait-Titel "KI verblödet Amerika" gerichtet, nicht gegen den Inhalt des Videos.

(und Titel darf man kommentieren, sobald man sie gelesen hat - für Kritik an Videos sollte man tatsächlich reingeschaut haben, da gebe ich dir recht. )

 

[Cee]

@Modie Du musst natürlich auch über den eigenen Schatten springen: Schnipsel wie 'Zukünftige Versionen sind hingegen intelligent, das basierende Modell ist völig anders', ' ...lässt sich das leider meist nicht kurz erklären - es braucht viel Offenheit, Geduld und Zuhören' 'Neues Leben ist erst einmal unbefleckt,...', 'Begrifflichkeiten (beispielsweise Komplexität)....' oder 'scheinen Zusammenhänge und Wirkungsweisen (Algorithmen) als Teil eines Systems nicht verstanden zu sein.' kommen mir ganz schön schwammig, unkonkret vor...

 

[F-A-B]

Erstmal unsachlich und rein spekulativ, pragmatisch abgeleitet von dem persönlichen Weltbild.

Als Analogie: Es wäre ebenso unsinnig zu behaupten, dass Intelligenz mit zunehmender Komplexität automatisch dazu führt, dass ein System Vorlieben für Äpfel entwickelt, oder dass Intelligenz zwingen dazu führt, mehr Platz zu benötigen, für was?

Die Vorstellung, dass KI zwangsläufig zerstörerisch wird, stammt primär aus Hollywood Dramaturgie... Geschichten brauchen Konflikte, und -KI gegen Menschheit- liefert einen klaren Gegner. In der Realität hat KI keine eigenen Ziele oder Emotionen, destruktives Verhalten entsteht nur, wenn Menschen sie falsch entwerfen... Ohne solche Eingaben bleibt sie ein Werkzeug, nicht ein eigenständig Akteur.

Ich wäre der Letzte, der behaupten würde, künstliche Intelligenz sei unmöglich. Was als „künstlich“ gilt und was nicht, ist keine universelle Wahrheit, sondern eine gesellschaftliche Norm. Bis wir jedoch diesen Punkt erreichen, werden vermutlich noch Jahrzehnte vergehen. Und selbst dann, menschliche Intelligenz setzt zwingend einen Körper voraus, alles andere ist nur eine grobe Simulation. Also bringt es nichts, sich im Gesite antropomorphe Maschinen vor zu stellen, die sich wie Menschen verhalten, mit den gleichen Stärken und Schwächen, das ist lediglich der eigene Horizont der da aufhört. Ein Algorithmus empfindet weder Wut noch Angst oder Trauer. Man kann ihn so programmieren, dass er diese Gefühle vorgibt und sein Handeln damit begründet, doch das ist nicht dasselbe wie tatsächliches Empfinden und eigenständiges Handeln.

Es besteht die Wahrscheinlichkeit von etwa 70%, dass die Entwicklung von KI zuerst zu starken gesellschaftlichen Verwerfungen führen wird
und mit dem einsetzen einer AGI schlussendlich in der Verdrängung der Menschheit an sich.

Der Optimismus tut so, als hätten Entwickler irgendeine Kontrolle über den Prozess. Nope, haben sie nicht.

 

[Inside the Void]

Es besteht die Wahrscheinlichkeit von etwa 70%, dass die Entwicklung von KI zuerst zu starken gesellschaftlichen Verwerfungen führen wird
und mit dem einsetzen einer AGI schlussendlich in der Verdrängung der Menschheit an sich.

Der Optimismus tut so, als hätten Entwickler irgendeine Kontrolle über den Prozess. Nope, haben sie nicht.

Wer behauptet, mit Sicherheit zu wissen, was in 1–2 Jahren, geschweige denn in 10+ Jahren geschehen wird, verwechselt Wissen mit Glauben.
Auch Wahrscheinlichkeitsprognosen ändern daran nichts ... ihre Aussagekraft hängt stark von den zugrunde liegenden Annahmen, Daten und Modellgrenzen ab. Seriöse wissenschaftliche Quellen vermeiden absolute Vorhersagen über komplexe Systeme, aus gutem Grund.-


Ich hatte Maschinelles Lernen und Künstliche Intelligenz als Nebenfach im Studium und kann aus fachlicher Erfahrung sagen, dass die öffentliche Vorstellung von „KI“ oft deutlich von der wissenschaftlich-technischen Realität abweicht. Die gängigen dystopischen Bilder stammen überwiegend aus Popkultur und Sensationsjournalismus, nicht aus der Fachliteratur.

Es gibt keine exakten deterministischen Vorhersagen was die Zukunft betrifft, sondern Szenarien.



Ein Beispiel für solche konstruierten „Geisterdiskussionen“ aus dem Sensationsjournalismus ist die Debatte um die angebliche ethische Programmierung selbstfahrender Autos:
Es wird spekuliert, Versicherungen oder Hersteller könnten den Algorithmus so gestalten, dass das Fahrzeug in Bruchteilen einer Sekunde berechnet, welche Person geopfert werden soll, etwa die ältere Frau mit Glatze (höheres Krebsrisiko) statt des Mannes oder des Kindes nebenan.
In der Realität ist dieses Szenario eine Nulloption: Die Steuerungssoftware ist darauf ausgelegt, in einer Gefahrensituation möglichst schnell anzuhalten, nicht medizinische oder demografische Abwägungen zu treffen. Ein menschlicher Fahrrer würde in denselben Millisekunden ebenfalls keine derartigen Analysen durchführen, sondern instinktiv versuchen, das Fahrzeug zu stoppen. vermutlich sogar mit geschlossenen Augen.

Der Übergang von spezialisierter KI zu AGI, ist noch nicht annähernd in der Nähe und hat enorme techscnihe Hürden. Die Vorstellungen sind einfach falsch und entspricht absolut nicht der wieeschanftlichen Realität.




Mehr kann ich dazu auch nicht mehr beitragen.

 

[Modie]

@Modie Du musst natürlich auch über den eigenen Schatten springen: Schnipsel wie 'Zukünftige Versionen sind hingegen intelligent, das basierende Modell ist völig anders', ' ...lässt sich das leider meist nicht kurz erklären - es braucht viel Offenheit, Geduld und Zuhören' 'Neues Leben ist erst einmal unbefleckt,...', 'Begrifflichkeiten (beispielsweise Komplexität)....' oder 'scheinen Zusammenhänge und Wirkungsweisen (Algorithmen) als Teil eines Systems nicht verstanden zu sein.' kommen mir ganz schön schwammig, unkonkret vor...

Danke, dass Du hier meine Anstöße aufgreifst! In ein paar Textzeilen lässt sich das leider nicht genügend tief darstellen. Für ein Verständnis ist jedoch eine solide und belastbare Wissensbasis erforderlich.

Also Vorsicht: Ich versuche es etwas vereinfacht an einem Beispiel zu beschreiben. Und: das kommt jetzt nicht aus einer KI, sondern aus meiner (wissenschaftlichen) Arbeit und den daraus abgeleiteten Produkten.

Vielleicht (ungerechter Weise) ein erwähntes Beispiel aus dem Thread hier, weil ich es in etwa vergleichbarer Form oft höre - es sei mir hoffentlich verziehen:
„… dass Intelligenz mit zunehmender Komplexität automatisch dazu führt…“ und „Algorithmus empfindet weder Wut… man kann ihn so programmieren, dass er diese Gefühle vorgibt…“.

Da mal eingestiegen: Komplexität wird oft als „modischer Ausdruck“ für eine zunehmend komplizierte Sachlage verwendet. Meist besteht zusätzlich noch die Annahme, dass eine detaillierte Analyse das Problem auflösen könnte, vollständig in sich geschlossen beschreiben, sich Algorithmen ableiten lassen. Und tatsächlich lassen sich komplizierte Systeme auch beschreiben. Auch, wenn es kompliziert wird, umfangreich.

Aber: Dies ist in der Systemtheorie bei komplexen Systemen gerade nicht der Fall. Es gibt auch keine Steigerung wie zunehmende Komplexität. Komplexität bezeichnet einen Zusammenhang, der sich nicht auflösen oder deterministisch beschreiben lässt, auch beispielsweise nicht durch einen Algorithmus. Ebensowenig lassen sich die Ergebnisse eines komplexen Systems vollständig vorhersagen oder modellieren. Bedingt durch die nicht-deterministischen Eingangsgrößen und (insbesondere über die Zeit) nicht-linearen Rückkopplungen außerhalb des Systems ist es nicht möglich, ein solches System vollständig zu bestimmen oder zu lenken. Es lassen sich jedoch Wirkungszusammenhänge erkennen oder Einflussfaktoren bestimmen. Und etwa das ist die Basis zukünftiger intelligenter Systeme. Irgendwie uns Menschen ziemlich ähnlich, wenngleich künstlich, nicht aus der Natur.

Jetzt aber schnell ein Bier, sonst raucht der Kopf!
Der Modie.