KI Gefahr für die Menschheit?

15.05.2025 Interesting Times with Ross Douthat
Is artificial intelligence about to take your job? According to Daniel Kokotajlo, the executive director of the A.I. Futures Project, that should be the least of your worries. Kokotajlo was once a researcher for OpenAI, but left after losing confidence in the company’s commitment to A.I. safety. This week, he joins Ross Douthat to talk about “AI 2027,” a series of predictions and warnings about the risks A.I. poses to humanity in the coming years, from radically transforming the economy to developing armies of robots.

 
Was denkt ihr, ist das völlig übertrieben? 2-3 Jahre bis zur KI-Weltherrschaft und eventueller Unterjochung (oder Auslöschung) der Menschheit ist nicht so lange hin…

Sollte man dann jetzt die verbleibende Zeit mit schönen Dingen verbringen oder lieber gegen KIs demonstrieren oder zumindest Ein-/Aus-Schalter fordern für den Fall, dass die KIs anfangen zu nerven oder die ersten Menschen töten (mit Drohnen z.B.)?
 
Was denkt ihr, ist das völlig übertrieben? 2-3 Jahre bis zur KI-Weltherrschaft und eventueller Unterjochung (oder Auslöschung) der Menschheit ist nicht so lange hin…

Sollte man dann jetzt die verbleibende Zeit mit schönen Dingen verbringen oder lieber gegen KIs demonstrieren oder zumindest Ein-/Aus-Schalter fordern für den Fall, dass die KIs anfangen zu nerven oder die ersten Menschen töten (mit Drohnen z.B.)?
Hab es quergelesen... liest sich wie ein Drehbuch für ein mehrteiliges SciFi-Drama auf Netflix mit alternativen Enden.
Ich halte es für deutlich überzogen, obwohl spannende und sicher auch reale geopolitische Aspekte dabei sind (US/China, Taiwan, Spione, usw...)
Aber in 2-3 Jahren sind wir schlauer, oder wenigstens die KI ;-)
 
Ki gehört mittlerweile zu meinem Arbeitsalltag, noch nicht jeden Tag, aber gestern habe ich sie wieder einsetzen müssen weil ich einfach nicht die Zeit hatte die Probleme mit meinen Verstand zu lösen. Nach 1,5 Stunden war die Aufgabe von ca 2-3 Tagen erledigt. Den Kollegen geht es ähnlich. Das Ding ist da und wird nicht mehr gehen.

Wie bei jedem neuen Werkzeug nutzt man es oder bleibt hinten dran. In meinem Job wird die KI jede Menge verändern. Da alle 3 Monate eine neue KI Generation auf den Markt kommt, wo ich kaum nachkomme mir die Namen zu merken, geschweige denn das alles auszuprobieren, wird die Entwicklung extrem schnell vorangehen und nächstes Jahr arbeiten wir schon wieder mit der überübernächsten KI-Generation. Wer das ablehnt kann halt seine Koffer packen und stempeln gehen. Nicht schön, aber das wird die Realität werden.

Ist ein wenig wie die Industrielle Revolution nur hier auf den Geist und auch ein Stück weit auf die kreativen Köpfe gemünzt.

Es ist völlig egal was man von der KI hält. Sie ist da und wird nicht mehr gehen.

Die Robotik mit Boston Dynamics und all die anderen macht auch sehr große Fortschritte. Ist nicht schwer zu erraten dass beides immer mehr verschmelzen wird. Dass die irgendwann ein eigenen Bewusstsein entwickeln glaube ich nicht, aber die Welt wird in 10-20 Jahren bei weitem nicht mehr so aussehen wie heute. Die Automation findet dann nicht mehr in irgendwelchen abgeschotteten Fabriken statt sondern nimmt Einzug in den Alltag.

Was ich davon halte? Nun, Hilfe bei stupiden Aufgaben ist immer gut. Wenn das Jobs kostet ist das natürlich Mist und das wird es zuhauf. Die Menschen müssen dann umlernen, so wie es schon der Hufschmied musste etc. Nur sind es diesmal die geistigen Jobs die locker zu 90% ersetzt werden können, wenn das so weiter geht. Solange die Robotik noch nicht so weit ist haben Handwerker wohl eine Goldene Zeit vor sich und alle die was mit Menschen machen.
 
Nur sind es diesmal die geistigen Jobs die locker zu 90% ersetzt werden können,

ob html coden und autobatterien designen wirklich schon geistige arbeit sind, darüber ließe sich wohl trefflich streiten.

aktuell kann KI nicht mal richtig LKW fahren, geschweige denn shakespeare neu interpretieren.

und wenn KI uns demnächst dabei hilft krebs zu heilen oder die entwicklung eines tatsächlichen fusionsreaktors voranzutreiben, dann soll uns das doch recht sein.


meiner bescheidenen meinung nach unterlagen die maschinenstürmer schon 1820 einem fundamentalen irrtum, den man doch spätestens nach dem erscheinen der hauptwerke der theoretiker des sozialismus und des liberalismus 80 jahre später wirklich nicht zu mehr wiederholen braucht.

wir wissen doch jetzt viel besser als 1820 wie der mensch funktioniert, denken in gesellschaftlichen zusammenhängen, und leben in nationalstaaten mit mehr oder weniger festgeschriebenem recht. und die möglichkeiten das geschriebe recht mitzugestalten werden auch immer besser.

das erscheinen einen neuer technologie hat natürlich immer noch einen impact und kann zu verwerfungen führen, aber damit umzugehen ist gleichzeitig auch inzwischen eine unserer fähigkeiten.

KI software ist jetzt seit round about 12 jahren an vielen stellen im einsatz und bislang hat das eigentlich nichts negatives hervorgebracht. der peak an neugründungen und kapitalinvestitionen geht inzwischen wieder zurück, und neue anwendungsgebiete werden inzwischen nur noch durch die erhöhung der rechenleistung pro dollar befördert und nicht mehr durch neue ideen und neue anwendungsgebiete.


pro tip am rande:
von der KI-apokalype werden vor allem diejenigen betroffen sein, die KI selbst massiv einsetzen und damit diese apokalypse erzeugt haben vor der sie da angst haben.
landwirte, köche und künstler werden davon niemals nennenswert abhängig sein, die leben von ihren händen und dem, was in ihren kopf ist.
 
Zuletzt bearbeitet:
Ein meiner Meinung nach sehr ernstes und für uns wichtiges Thema, ja auch als Musiker. 👍 Und echt klasse, wie und was hier gelistet und beleuchtet wird - von vielen Seiten betrachtet, unterschiedliche Fundstellen und Erfahrungen! Vor allem auch unter dem zeitlichen Aspekt, den der Thread bereits läuft.

Mal eine Erfahrung von meiner Seite: Seit den 90ern habe ich mich mit „KI“ beschäftigt, die ersten 3lagigen Packprop-Netze aufgebaut. Und ja, der NBISOM (Neuro Based Intelligent Self Organizing Maps) war einer der ersten von uns entwickelten neuronalen Chips an der Uni dazu. Es ging erst sehr langsam über die Jahre. In dem Rahmen erkannte ich erstaunliches - und bereits erschreckendes. Ich kann die gefühlte Angst der 3 Open AI Entwickler verstehen (aus dem Start dieses Threads). Einige Jahre durfte ich auch das Dilemma für das autonome Fahren begleiten (als Entwicklungsleiter). Letztes Jahr war ich auf einem KI Symposion mit Spitzenkräften aus Forschung und Wirtschaft (e.g. auch Microsoft). Wir machten ein Experiment. Ein System (keine physikalische Raumbegrenzung im Kopf) mit einem größeren Horizont als der Mensch kann Komplexes zu Kompliziertem reduzieren, verstehen. Aber es würde viel zu weit führen in ein paar Zeilen hier.

Was ich lernen konnte: KI ist auch ein unglaubliches Risiko. Wie weit das reicht und wie schnell es geht, ist kaum jemandem bewusst. Es wird auch die (geistigen) Berufe und die Forschung und Entwicklung vollständig verändern, unser Verständnis.

Wenn wir Menschen schlau genug bleiben und teilweise nicht so selbstsüchtig (bleiben), hätte es gewaltige Chancen und Potential.

Auch eine einfache abstrakte Beleuchtung des Themas:

Ein auch besorgter Modie.
 
KI software ist jetzt seit round about 12 jahren an vielen stellen im einsatz und bislang hat das eigentlich nichts negatives hervorgebracht. der peak an neugründungen und kapitalinvestitionen geht inzwischen wieder zurück, und neue anwendungsgebiete werden inzwischen nur noch durch die erhöhung der rechenleistung pro dollar befördert und nicht mehr durch neue ideen und neue anwendungsgebiete.
Also ich sehe nicht dass da irgendwas zurück geht, allein die USA will 500 Milliarden Dollar nur in KI investieren.

Die KI der letzten Monaten leisten unglaubliches, was Dezember noch aktuell war, ist jetzt schon wieder überholt. Allein das o3-mini-high ChatGPT Modell, was ich für meine Arbeit nutze, kann komplexe Sachverhalte erkennen, Fehler beheben und neue Lösungen vorgeschlagen die dank Reasoning(also die KI denkt noch mal über die Lösungen nach und spuckt nicht alles einfach aus) sind die Halluzinationen kaum vorhanden, jedenfalls in meinen Fachbereich. Die KI hatte gestern die Arbeit von wenigen Tagen in 1,5 Stunden erledigt, sicher ich musste etwas helfen, aber nicht mehr als hätte ich einen Studenten an meiner Seite. Das habe ich die Jahre vorher in der Form noch nie gehabt und stellt alles in den Schatten was ich kannte. Und ich weiß, in 3 Monaten ist auch das wieder verbesserst, denn solange dauert in etwa das Trainieren dieser großen Modelle. Also alles Wissen, was man letztes Jahr über KI gesammelt hat, muss man heute schon wieder auffrischen.

Ich muss dazu sagen dass ich nicht mit den kostenlosen KI-Versionen arbeite. Demnächst möchte ich mir mal Agenten anschauen und die mit in der Arbeit einbinden, mal schauen wie das läuft.

In der Musik stört mich KI jetzt nicht. Mein Ziel beim Musikmachen ist NIE das Endprodukt, sondern der Spaß am Machen. Und erstens bin ich kein Musiker oder Künstler, zweitens auch kein Profi. Also ich mache nichts wofür Leute Geld zahlen würden und sehe auch nicht dass sich das ändern wird. Von daher bleibt es was es ist, ein Hobby nach Feierabend, wo ich keinerlei Regeln unterworfen bin und mich einfach nur entspanne.
 
Also ich sehe nicht dass da irgendwas zurück geht, allein die USA will 500 Milliarden Dollar nur in KI investieren.

wenn es 2024 weniger war als 2023 dann ist ganz egal, was irgendjemand für 2025-2027 ankündigt, es war erst mal weniger.

worüber wir leider keine daten haben ist wieviel davon in nackte hardware geht und wieviel davon in "sonstiges" inclusive entwicklung und all der andere human resources kram, das wäre mal spannend.

Die KI der letzten Monaten leisten unglaubliches, was Dezember noch aktuell war, ist jetzt schon wieder überholt.

ja, das ist bei autos auch so, seit 150 jahren werden die jedes jahr besser, und trotzdem habe die im vergleich zu pferden nicht nur nachteile.

Allein das o3-mini-high ChatGPT Modell, was ich für meine Arbeit nutze, kann komplexe Sachverhalte erkennen, Fehler beheben und neue Lösungen vorgeschlagen die dank Reasoning(also die KI denkt noch mal über die Lösungen nach und spuckt nicht alles einfach aus) sind die Halluzinationen kaum vorhanden, jedenfalls in meinen Fachbereich.

das ist alles richtig und dennoch einfach nur wie wir das halt kognitiv erfassen. ist das dann objektiv? :) spätestens wenn die modelle schlauer sind als wir kann man die frage wohl überhaupt nicht mehr beantworten.

aus der sicht von katzen sind wir sowieso komplette vollidioten, zu unfähig die einfachsten dinge zu erkennen und richtig darauf zu reagieren.
ich meine wir fahren mit dem auto zu mcdonalds anstatt einfach eine meise aus dem fliederbusch abzugreifen - wie dumm kann man sein.

die vielbeschworene singularität beim programmieren ist unwahrscheinlich. wenn eine KI auf knopfdruck eine besseres photoshop erstellt als ein mensch in einem jahr, dann braucht niemand mehr mit einer KI ein neues photoshop erstellen, denn dann ist die KI das neue photoshop.

noch deutlicher ist es bei html.
ok, KI hat theoretisch das potential das web irgendwann komplett abzulösen. ich kann heute schon bei chatGPT nach meinen hobbies oder meiner politischer meinung suchen und bekomme die richtige antwort (meinen namen gibt es nicht zwei mal). meine blogs könnte genau wie ebay oder die tagesschau von einer KI an meinen browser geschickt werden.
aber falls es doch noch ein bischen web entwicklung gibt, werden daran immer noch menschen beteiligt sein.

auch wenn es langweilig ist, aber meines erachtens kommt es einfach nur darauf an, wer der eigentümer der KI ist, und dass der staat nicht zu wenig, aber auch nicht zu viel am gebrauch dieses eigentums herumreguliert.

also genau wie bei allem.

den glauben daran, dass LLMs gefährlicher sind als kriegswaffen, atomkraftwerke, kriminelle marktmanipulationen oder asteroideneinschläge halte ich für eine pathologische angststörung.
es kann passieren. aber bei den anderen dingen ist es bereits evident, dass die konkret gefährlich sind, und davor hat ja auch niemand angst.

das ist so ein bischen wie bei beim autofahren. davor hat nieman angst. aber dann haben wir angst vorm fliegen oder vor terrorismus. obwohl wir im sicheren wissen darum sind, dass das > 1000 mal weniger gefährlich ist.
 
Zuletzt bearbeitet:
ja, das ist bei autos auch so, seit 150 jahren werden die jedes jahr besser, und trotzdem habe die im vergleich zu pferden nicht nur nachteile.

Ja, aber es kommt nicht jede Woche ein neues Auto raus was teilweise um Welten besser ist, als das Modell aus dem vorletzten Monat.

Vor 2 Jahren brauchte ich noch einen Server, auf dem dann kleine Bildchen generiert wurden, mittlerweile geht es um lokal generierte Videos. Die Geschwindigkeit ist schon enorm wie sich das entwickelt.
 


News


Zurück
Oben