KI Gefahr für die Menschheit?

[Martin Kraken]

Der Post ist ein Paradebeispiel dafür, wie man ein wichtiges Thema durch Überheblichkeit ignorieren kann. Anstatt hier den Überchecker zu geben solltest Du vielleicht einmal in dieses Essay über die kalifornische Ideologie reinschauen, mein Junge.

THE CALIFORNIAN IDEOLOGY by Richard Barbrook and Andy Cameron | Imaginary Futures

Das Matrix-Video ist tatsächlich nur geht so, das liegt aber daran, dass das Thema zu groß für dieses Format ist und es ist nicht nur zu groß sondern auch zu komplex ist und ein bildungsbürgerliches Vorwissen erfordert und eine Bereitschaft, sich damit auseinanderzusetzen - leider.

Hier ist noch eine gute und unterhaltende Dokumentation von Adam Curtis zu dem Themenblock technologische Utopien.

All Watched Over by Machines of Loving Grace (2011) Full Documentary

174 minutes | Adam Curtis directs this 3-part series about how humans have been colonised by the machines we have built.The series begins by unraveling the surprising influence of Ayn Rand's objectivist...

www.filmsforaction.org

Das Video war einfach schlecht gemacht. Das Leben ist kein Wunschkonzert. Auch die Hippie-Techkonzerne mussten sich an den Kapitalismus anpassen. Wenn wir das zum Beispiel mal in die heutige Zeit bringen, Open Ai ist eine gemeinnützige Gesellschaft mit dem Ziel Ai für alle verfügbar zu machen. Jedoch braucht es in einer kapitalistischen Gesellschaft eben Kapital, deshalb hat man Anteile an Microsoft verkauft. Insgesamt kann man festhalten, die Konzerne die den Markt beherrschen sind nur halbgut, aber hell wir hätten es deutlich schlechter treffen können. Und das hat halt auch alles nix mit den Problemen von KI zu tun, sondern ist eine Theorie aus den 90ern.

 

[Martin Kraken]

Und du bist jung und überheblich. Was soll mir 10000 Stunden Tech Milliardär Empfehlung für einen Vorteil bringen? Technologie und KI flüssig zu bedienen ist das eine und Sozial abzustumpfen dabei das andere. Ist toll wenn man einen Vorteil hat und dann auf andere herabblicken kann um sie zu bemitleiden.

Das sind ja die gleichen Diskussionen wie mit Computer, Internet, Handys. Kutsche gegen Auto…das langweilt mich, dafür bin ich zu alt und zu überheblich.

 

[sllk]

Das sind ja die gleichen Diskussionen wie mit Computer, Internet, Handys. Kutsche gegen Auto…das langweilt mich, dafür bin ich zu alt und zu überheblich.

Nein ist es eben nicht. Technologie und Weiterentwicklung ist gut gar keine Frage. Der Umgang und die Einstellung dazu ist oftmals eher suboptimal und fragwürdig.

 

[Moogulator]

Alle sind dabei die Gefahr quasi herbei zu sprechen, aber - was man tun kann, wie und was -
Das wäre manchmal auch ganz interessant. Also neben der reinen Technophobie. (etwas kleiner gemeint und nicht jeden hier gemeint)

Will sagen - KI kann eine Chance sein, wenn wir darauf achten, dass die das anständig machen, fast ein wenig wie Gesellschaft. Wenn wir alle immer alles zum Dämon machen, ist das Futter für irgendwas, was man vermutlich nicht möchte.

 

[sllk]

Ja eben, das meine ich. Ist ja nicht so das es keine guten und sinnvollen Anwendung für KI und die dazugehörigen Technologien gibt, nur werden die meist erst einmal dem Profit und anderen Nutzlosigkeiten hinten angestellt.
Wird ja auch in der ARTE Doku wunderbar aufgezeigt.

 

[sllk]

aber - was man tun kann, wie und was -
Das wäre manchmal auch ganz interessant. Also neben der reinen Technophobie. (etwas kleiner gemeint und nicht jeden hier gemeint)

Was so KI Mix und Mastering Tools angeht, könnte man sowas zum Beispiel als eine Art Edu Tool verwenden..eine gut Trainierte KI hilft dabei persönlich besser zu werden und zu verstehen was da passiert.
Das würde ich für sinnvoller erachten als einfach aus Analysierten Material etwas heraussuchen um sich dann an einer Target Kurve entlang zu hangeln.

Aber ja, so eine 1Knopf Lösung mit zusätzlicher Korrekter Option verkauft sich halt besser als etwas mit dem du in Interaktion treten musst um selbst tätig zu werden.

 

[DanReed]

Seid Ihr mit der "Kondratieff-Theorie" vertraut, den großen Wellen der Konjunktur, die durch Basisinnovationen ausgelöst werden (Fünf Zyklen konnten in den letzten 250 Jahren nachgewiesen werden: 1. Dampfmaschine, 2. Eisenbahn, 3. Elektrotechnik, 4. Petrochemie/Kfz, 5. Informationstechnik)?

Internet und Smartphone gehören in die Ausläufer des 5. Kontratieff und es wird seit langem viel spekuliert, was die Basisinnovation ist, die den 6. Kondratieff auslöst. Natürlich wird angenommen, dass es die KI ist.

Jede der vergangenen Basisinnovationen hat eine Produktivitätssteigerung verursacht, die nicht bei 10-20% lag, sondern eher bei 500-2000%. Hat die KI, so wie sie sich gerade entwickelt, das Zeug dazu?

Jede Basisinnovation hat unzählige Arbeitsplätze vernichtet, wurde verteufelt und hatte Kritiker ohne Ende (deren Argumente letztlich die Geschichte und der wirtschaftliche Verlauf ad absurdum führten). Ich sehe große Parallelen zu heute.

Es gibt einen Unterschied: KI kann bereits jetzt einen Großteil der Grafikdesigner ersetzen und der Komponisten/Musiker/Produzenten von "Fahrstuhlmusik" und der Werbetexter und und und ...

Aber was die alle, die ersetzt werden können, produzierten war eh schon überflüssig bis dekadent und durchs Ersetzen dieser "Leistungen" wird die Produktivität der Menschheit nicht um den Faktor 10 gesteigert. Da muss noch etwas kommen. Aber was?

 

[sllk]

Seid Ihr mit der "Kondratieff-Theorie" vertraut, den großen Wellen der Konjunktur, die durch Basisinnovationen ausgelöst werden (Fünf Zyklen konnten in den letzten 250 Jahren nachgewiesen werden: 1. Dampfmaschine, 2. Eisenbahn, 3. Elektrotechnik, 4. Petrochemie/Kfz, 5. Informationstechnik)?

Internet und Smartphone gehören in die Ausläufer des 5. Kontratieff und es wird seit langem viel spekuliert, was die Basisinnovation ist, die den 6. Kondratieff auslöst. Natürlich wird angenommen, dass es die KI ist.

Jede der vergangenen Basisinnovationen hat eine Produktivitätssteigerung verursacht, die nicht bei 10-20% lag, sondern eher bei 500-2000%. Hat die KI, so wie sie sich gerade entwickelt, das Zeug dazu?

Jede Basisinnovation hat unzählige Arbeitsplätze vernichtet, wurde verteufelt und hatte Kritiker ohne Ende (deren Argumente letztlich die Geschichte und der wirtschaftliche Verlauf ad absurdum führten). Ich sehe große Parallelen zu heute.

Es gibt einen Unterschied: KI kann bereits jetzt einen Großteil der Grafikdesigner ersetzen und der Komponisten/Musiker/Produzenten von "Fahrstuhlmusik" und der Werbetexter und und und ...

Aber was die alle, die ersetzt werden können, produzierten war eh schon überflüssig bis dekadent und durchs Ersetzen dieser "Leistungen" wird die Produktivität der Menschheit nicht um den Faktor 10 gesteigert. Da muss noch etwas kommen. Aber was?

Bei 6. würde ich Umwelttechnologie bevorzugen.

 

[RealRider]

Alle sind dabei die Gefahr quasi herbei zu sprechen, aber - was man tun kann, wie und was -
Das wäre manchmal auch ganz interessant. Also neben der reinen Technophobie. (etwas kleiner gemeint und nicht jeden hier gemeint)

Will sagen - KI kann eine Chance sein, wenn wir darauf achten, dass die das anständig machen, fast ein wenig wie Gesellschaft. Wenn wir alle immer alles zum Dämon machen, ist das Futter für irgendwas, was man vermutlich nicht möchte.

Nicht vom reisserischen Titel abschrecken lassen, der dient dem Clickbait

hier sind beide Szenarien als Option (Abschnitt: schlechtes Ende und Gutes Ende) beschrieben und dargestellt ...und das ist kein Schwurbel-Kanal , das sind keine Prophezeiungen sondern abgewägte Möglichkeiten... selbst Experten sind sich uneinig

Weder blinder Pessimismus noch Optimismus finde ich zielführend, eher kritisches betrachten und abwägen

 

[haebbmaster]

Natürlich wird angenommen, dass es die KI ist.

Ich sehe die KI auch eher als einen Teil des ganzen Schlunz, den wir uns im Computerbereich seit Jahrzehnten anhören müssen. Als 1956 COBOL erfunden wurde, hieß es dass man endlich die ganzen teuren Programmierer nicht mehr braucht und die Buchhalter ihre Programme selber schreiben können. Was ist passiert? Die Buchhalter die's geblickt haben sind Programmierer geworden und haben das doppelte verdient wie vorher. Und jeder Effizienzvorsprung wurde dadurch aufgefressen, dass man einfach viel mehr Programme geschrieben hat. Oder statt Textoberflächen grafische Oberflächen hatte. Aber entscheidend ist der Text den ich schreibe, und nicht ob ich das mit der Maus oder mit Funktionstasten mache.
In den 90ern gab es dann visuelle Programmierung, wo man Anwendungen einfach aus Komponenten zusammensteckt. War auch nichts. und irgendwer musste die Komponenten ja auch entwickeln. Jetzt ist wohl grade Vibe Coding mit KI der heiße Scheiß.

Und selbst wenn die KI mal superschlau ist und alles richtig macht statt zu schwurbeln, und die Inhaber von Werbeagenturen und Fahrstuhlmusikverlagen alle Kreativen entlassen, dann würde das auch nicht lange halten, denn gewinnen wird der, der der KI die besten Prompts vorsetzen kann. Also wieder gute Fachkräfte.

Das ist alles nur Inflation. Wer nicht mitmacht verliert, aber wer mitmacht gewinnt deswegen nicht automatisch.

 

[maria69]

Nicht vom reisserischen Titel abschrecken lassen, der dient dem Clickbait

hier sind beide Szenarien als Option (Abschnitt: schlechtes Ende und Gutes Ende) beschrieben und dargestellt ...und das ist kein Schwurbel-Kanal , das sind keine Prophezeiungen sondern abgewägte Möglichkeiten... selbst Experten sind sich uneinig

Weder blinder Pessimismus noch Optimismus finde ich zielführend, eher kritisches betrachten und abwägen

Das hab ich gestern schauen wollen und hab nach 5 Sekunden wieder auf Stop gedrückt.

 

[binary tubes]

ChatGP5 Thinking hat Zugriff auf aktuelle Webseiten und gibt dann auch die Quellen an wo was gefunden wurde, wie das in der kostenlosen Version ist weiß ich nicht. Das dauert dann aber schon mal ein paar Minuten bis alle Informationen aus dem Web gesammelt wurden.

Ja, das ist das was ich auch nicht verstehe. Die sagen sie haben keinen Zugriff und liefern dann Quellen und Links und meinen "da stehe diese oder jenes drinnen" und dann steht es nicht drinnen.

Es wird dann erklärt "man hätten einen Datenpool".

Vielleicht wie bei Internetarchiv?

Wird dann alles erst geprüft das es ja Links genug ist und dann ins Archiv geladen.

Und die leben in einer Sandbox und reden davon das sie Zugriff hätten.

Andererseits verstehe ich dann auch nicht wie KI's Youtube Kanäle erstellen können, wenn kein Zugriff.

Allein schon die SMS verifizierung ist eine Hürde, da die verfügbaren Tel. Nummern von Google (Youtube) bereits gesperrt sind.

 

[Martin Kraken]

y

Ja, das ist das was ich auch nicht verstehe. Die sagen sie haben keinen Zugriff und liefern dann Quellen und Links und meinen "da stehe diese oder jenes drinnen" und dann steht es nicht drinnen.

Es wird dann erklärt "man hätten einen Datenpool".

Vielleicht wie bei Internetarchiv?

Wird dann alles erst geprüft das es ja Links genug ist und dann ins Archiv geladen.

Und die leben in einer Sandbox und reden davon das sie Zugriff hätten.

Andererseits verstehe ich dann auch nicht wie KI's Youtube Kanäle erstellen können, wenn kein Zugriff.

Allein schon die SMS verifizierung ist eine Hürde, da die verfügbaren Tel. Nummern von Google (Youtube) bereits gesperrt sind.

Habe noch nicht gehört, dass eine KI komplett selbständig Youtube Accounts erstellt. Der Agent den ich mal probiert habe, hat immer nachgefragt, wenn er nicht weiter gekommen ist. Aber man könnte zum Beispiel dem Agenten sagen, log dich in meinen youtube account ein mit login x und passwort y und beantworte alle Kommentare unter meinen Videos.

 

[binary tubes]

Habe noch nicht gehört, dass eine KI komplett selbständig Youtube Accounts erstellt. Der Agent den ich mal probiert habe, hat immer nachgefragt, wenn er nicht weiter gekommen ist. Aber man könnte zum Beispiel dem Agenten sagen, log dich in meinen youtube account ein mit login x und passwort y und beantworte alle Kommentare unter meinen Videos.

Ja, weiß ich nicht. Viel Kanäle wirken so, Copy, Paste "irgend eine Info".

Hatte ich auch irgenwo mal gehört das sie dies bereits tun. Keine Ahnng jetzt wo.

Jedenfalls haben die KIs erklärt, wie sie das mit der verifizierung machen würden.

Aber frag doch die KIs, ... wie sie das machen und welche Kanäle sie bereits betreiben.

Vielleicht handeln die auch schon mit Aktien und BTC. Bei Blackrock läuft es zumindest so.

Weiß irgend jemand wirklich was die Hinterrücks so tun, oder glaubt man nur es zu wissen?

 

[SpaceAgeKid]

Seid Ihr mit der "Kondratieff-Theorie" vertraut, den großen Wellen der Konjunktur, die durch Basisinnovationen ausgelöst werden (Fünf Zyklen konnten in den letzten 250 Jahren nachgewiesen werden: 1. Dampfmaschine, 2. Eisenbahn, 3. Elektrotechnik, 4. Petrochemie/Kfz, 5. Informationstechnik)?

Da lässt sich weder die Dauer des Zyklus eindeutig nachweisen, noch überzeugend erklären, warum es überhaupt einen solchen geben sollte. Als studierter Ökonom kann ich dir sagen: Schon an die relevanten Daten heranzukommen ist schwierig, sie korrekt auszuwerten noch mehr – und daraus dann auch noch belastbare Schlüsse zu ziehen, erst recht. Hätte Kondratieff das wirklich geschafft, hätte er wohl den Nobelpreis bekommen. Aber den hat er, soweit ich weiss, nicht erhalten.

Nicht vom reisserischen Titel abschrecken lassen, der dient dem Clickbait

Das hatten wir weiter oben schon, Ursprung ist diese Webseite: https://ai-2027.com/

Das ist nicht unbedingt „Geschwurbel“, aber klar populistischer Journalismus. Ziel scheint es zu sein, Aufmerksamkeit zu wecken – so verstehe ich das jedenfalls.
Der Inhalt wirkt jedoch wenig realistisch: Momentan spricht wenig dafür, dass wir in absehbarer Zeit eine AGI (Artificial General Intelligence) oder gar eine ASI (Artificial Superintelligence) sehen werden.

Die Gründe sind im Wesentlichen zwei: 1. Kommunikation in grossen Clustern – Die Abstimmung und Datenübertragung zwischen sehr vielen Prozessoren (GPUs) ist ein massiver Flaschenhals. Schon heute stossen wir bei Clustern mit 100.000 GPUs und mehr an harte physikalische und technische Grenzen. 2. Datenknappheit – Für das Training noch leistungsfähigerer Sprachmodelle fehlen zunehmend qualitativ hochwertige Daten.

Mit den heutigen, vergleichsweise simplen Transformer-Architekturen, die lediglich autoregressiv das nächste Wort vorhersagen, werden wir jedenfalls keine echte Intelligenz schaffen...

 

[Speicherkern]

Was ich bisher gelesen haben ist noch kein Forscherteam auch nur in die Nähe von AGI. Diese billigen LLMs sind doch ein Witz im Vergleich zu unseren biologischen Neuronen. Die BigData macht die ganze Sache so schön, aber von Intelligenz ist das weit weit entfernt. Aber schon erstaunlich wie weit man ohne Intelligenz kommen kann, beweisen ja auch so einige Menschen immer wieder^^

 

[RealRider]

Der Inhalt wirkt jedoch wenig realistisch: Momentan spricht wenig dafür, dass wir in absehbarer Zeit eine AGI (Artificial General Intelligence) oder gar eine ASI (Artificial Superintelligence) sehen werden.

das ist ja auch nicht der Hauptfaktor

tatsache ist, dass es sich sehr schnell Entwickelt und dass das ganze es jetzt schon viele Jobs kostet
und in Teilbereichen den Menschen sogar im Prinzip schon unnötig macht ...und das wird sicher noch viel mehr als nur Programmierer, Service Hotline, Grafiker und Musiker
vor allem wenn KI-Roboter in naher Zukunft auch komplexere körperliche Arbeiten machen können...

wäre schön, wenn es dann ein Bedingungsloses Grundeinkommen gäbe... tut es aber bestimmt nicht, wie ich unsere Menschheit kenne

und das KI massiv zur Manipulation und Überwachung eigesetzt wird .... sei es durch Disinformation durch KI Bots mit "Meinung" in Sozialen Medien, Kanälen ...oder durch kaum mehr erkennbaren Deep Fakes...Bilder, Videos.... wie bei Running Man

 

[binary tubes]

Kennt das jemand?
Eine sehr gute Analyse.

Wobei wir uns damit selbst bedrohen, nicht Sie uns.


Die Wahrheit über KI – und warum sie uns bedroht

 

[binary tubes]

Kennt das jemand?
Eine sehr gute Analyse.

Wobei wir uns damit selbst bedrohen, nicht Sie uns.


Die Wahrheit über KI – und warum sie uns bedroht

Das erklärt auch das es keine Halluzinationen, sind die Oberflächlichkeit und die Fehler.

 

[PhonicGate]

"KI-Klicker" (was immer das sein mag) unwürdig nennen, aber zu faul sein, den Beitrag zu verlinken, damit wir's nachvollziehen können, tsk....

Könnte mir dann wohl nicht passieren, dass ich mal als KI-Klicker enden würde.

 

[PhonicGate]

Das ist das Ende der Menschheit!

Nee, vermutlich eher das Ende aller Katzen!

Und erst danach stirbt die Menschheit, weil im Internet keine Katzen mehr zu finden sein werden.

 

[haebbmaster]

ohne Menschen würde ich irgendwie klarkommen, aber ohne Katze?

 

[Kevinside]

Ach wir dürfen uns dann an KI Katzen erfreuen und in ferner Zukunft an Katzen Hologramme und die Robotervariante des schnurrenden Liebesobjekts...
Und bald kann ChatGPT auch die linguistische Kommunikation mit Katzen, dass es endlich Sinn macht, warum sie dauernd auf Tastaturen und sonstigen Gear verweilen, um ihre Existenz zu beweisen...

 

[Martin Kraken]

Da lässt sich weder die Dauer des Zyklus eindeutig nachweisen, noch überzeugend erklären, warum es überhaupt einen solchen geben sollte. Als studierter Ökonom kann ich dir sagen: Schon an die relevanten Daten heranzukommen ist schwierig, sie korrekt auszuwerten noch mehr – und daraus dann auch noch belastbare Schlüsse zu ziehen, erst recht. Hätte Kondratieff das wirklich geschafft, hätte er wohl den Nobelpreis bekommen. Aber den hat er, soweit ich weiss, nicht erhalten.




Das hatten wir weiter oben schon, Ursprung ist diese Webseite: https://ai-2027.com/

Das ist nicht unbedingt „Geschwurbel“, aber klar populistischer Journalismus. Ziel scheint es zu sein, Aufmerksamkeit zu wecken – so verstehe ich das jedenfalls.
Der Inhalt wirkt jedoch wenig realistisch: Momentan spricht wenig dafür, dass wir in absehbarer Zeit eine AGI (Artificial General Intelligence) oder gar eine ASI (Artificial Superintelligence) sehen werden.

Die Gründe sind im Wesentlichen zwei: 1. Kommunikation in grossen Clustern – Die Abstimmung und Datenübertragung zwischen sehr vielen Prozessoren (GPUs) ist ein massiver Flaschenhals. Schon heute stossen wir bei Clustern mit 100.000 GPUs und mehr an harte physikalische und technische Grenzen. 2. Datenknappheit – Für das Training noch leistungsfähigerer Sprachmodelle fehlen zunehmend qualitativ hochwertige Daten.

Mit den heutigen, vergleichsweise simplen Transformer-Architekturen, die lediglich autoregressiv das nächste Wort vorhersagen, werden wir jedenfalls keine echte Intelligenz schaffen...

Was soll echte Intelligenz überhaupt sein? Vielleicht sagen wir ja auch immer nur die nächste Aktion die wir machen voraus? Es ist ja gezeigt, dass LLMs vorausdenken können, wobei das genauso wie bei uns halt auch eine Täuschung sein kann, die AI kennt den Text schon den sie schreiben will, ohne es vielleicht zu wissen. Das ist wie wir einen Satz Wort für Wort sprechen, ohne vielleicht bewusst vorher das Gesagte zu denken.

Die LLMs sind intelligenter als die meisten Menschen, ich würde sogar sagen, kein Mensch kann ihnen das Wasser reichen, solange es sich auf Text beschränkt. Die Problematik, die die Ais im Moment haben ist, dass "sehen" so funktioniert, dass das "Gesehene" erst in Text umgewandelt werden muss. Wenn man sich einen Roboter vorstellt mit einem LLM als Gehirn, dann muss alles was er sieht in Text umgewandelt werden. Natürlich kann Chatgpt das bereits. Man kann ihm Bilder hochladen und es kann darauf Dinge finden.

Nun, wenn wir eine Kopie eines Menschen haben wollen, dann müsste es irgendwo Daten geben, die die Erfahrung eines Menschen gespeichert haben. Was hat er wie berührt, wie war seine Nacht im Hotel, wie hat er was bewegt um die Treppe zu steigen usw. Diese Daten gibt es aber nicht, es gibt nur unsere Erfahrungen und unser Wissen in Textform und deshalb gibt es LLMs und deshalb sind LLMs "klüger" als Menschen, weil sie diese, in Textform beschreibbare Erfahrung, als Ganzes in sich tragen.

 

[Martin Kraken]

Ich finde das hier beschreibt das Forum hier ganz gut.

 

[PhonicGate]

Und bald kann ChatGPT auch die linguistische Kommunikation mit Katzen, dass es endlich Sinn macht, warum sie dauernd auf Tastaturen und sonstigen Gear verweilen, um ihre Existenz zu beweisen...

Jetzt sollte nur niemand Elon verraten, dass du hiermit das Rezept gefunden hast, mit dem sich die KIs in die Herzen aller älteren Damen hineinschmuggeln und so schnell an Popularität jenseits aller Nerd-Communities gewinnen könnten.

 

[haebbmaster]

beschreibt das Forum hier ganz gut.

Im Forum würde man dich erst mal fragen, für was du überhaupt eine Mokkakanne brauchst und dass eigentlich eine Kaffeemaschine viel besser wäre.
Und ob du wenigstens die chemische Zusammensetzung aller gängigen Kaffeesorten aus Südamerika und Afrika auswendig gelernt hast, bevor du dich traust hier eine Frage zu stellen.

 

[micromoog]

Im Forum würde man dich erst mal fragen, für was du überhaupt eine Mokkakanne brauchst und dass eigentlich eine Kaffeemaschine viel besser wäre.
Und ob du wenigstens die chemische Zusammensetzung aller gängigen Kaffeesorten aus Südamerika und Afrika auswendig gelernt hast, bevor du dich traust hier eine Frage zu stellen.

Dann käme noch der Hinweis, dass Tee eh gesünder als Kaffee ist.
Kurz danach grätscht ein anderer hinein und bemängelt den Abbau und die Ausbeutung incl. Kinderarbeit.
Selbstverständlich beginnt gleichzeitig die Paralleldiskussion was besser ist, Siebträger, Vollautomat, Kapseln oder Pads etc.
Nachdem sich eine kleine Mehrheit auf einen Maschinentyp eingeschossen hat, beginnt die Markendiskussion….