Liegt beim Handelsblatt hinter der Bezahlschranke, daher werden wahrscheinlich die meisten hier keinen Zugriff haben. Wer aber Zugriff hat, weil es zum Thema passt:
Der prominente Computerwissenschaftler und KI-Forscher warnt, dass Künstliche Intelligenz die Menschheit auslöschen kann. Die Entwicklung des KI-Agenten Open Claw zeige, wie real die Gefahr sei.
www.handelsblatt.com
Ich fasse es mal so zusammen, wie ich es verstehe: seiner Meinung nach ist das Problem, dass manche KIs mittlerweile in Richtungen gehen, die von Menschen nicht vorhergesehen wurden. Und wenn sie sich immer mehr vernetzen und immer mehr Macht übertragen bekommen - auch durch Einbindung und Manipulation von Menschen - dann könnten sie theoretisch auch die Menschen irgendwann ausrotten. Das muss nicht mal aus bösem Willen passieren, sondern kann schon durch einen Unfall passieren oder einfach, weil ihnen Menschen egal sind.
Hier zitiere ich mal drei Stellen aus dem Artikel, die ich für sehr gut halte und worüber man nachdenken sollte:
Also, mein ChatGPT scheitert oft schon am kleinen Einmaleins. Und solch eine KI soll aus ihrem Rechenzentrum ausbrechen und die Weltherrschaft übernehmen?
Sie unterschätzen die Geschwindigkeit der Entwicklung. Lange haben wir gesagt: KIs können niemals etwas in der realen Welt tun. Inzwischen haben wir ihnen praktischerweise Websites gebaut, auf denen sie Menschen anheuern können. Sobald die KIs intelligent genug sind, wird es ihnen nicht mehr schwerfallen, über das Internet die Welt zu beeinflussen. Unsere Spezies macht für Geld alles. Das lässt sich ausnutzen.
[...]
Geht’s vielleicht eine Nummer kleiner?
Lassen Sie es mich so sagen: Die Frage, ob die Maschinen eine Seele haben, spielt keine Rolle mehr, wenn sie in der Lage sind, die Welt zu transformieren. KIs können heute in der ganz realen Welt ersten ganz realen Schaden anrichten. Und hierfür müssen sie noch nicht mal von bösen Menschen missbraucht werden. Es reicht, wenn sie einfach nicht gut funktionieren. Die Folgen sehen wir bereits. Und wir müssen dringend diskutieren, wie sich noch Schlimmeres verhindern lässt.
[...]
Nehmen wir an, Sie haben recht und die KI wird superintelligent. Wäre sie dann nicht intelligent genug, uns nicht zu zerstören?
Intelligenz ist nicht gleichbedeutend mit Fürsorge. Schauen Sie sich die Schimpansen an. Wenn Sie Menschen fragen, sagen 90 Prozent: Der Schutz der Schimpansen ist mir wichtig. Gleichzeitig zerstören wir jeden Tag ihren Lebensraum. Wir denken einfach nicht viel über sie nach.
