KI Entwicklung stoppen?

Ganz so simpel ist es nun nicht, sondern nur, wenn die KI vermenschlicht würde.

Ich denke aber auch nicht, dass das eine gute Anwort auf KI wäre.
 
In D sind die meisten technischen Hintergründe in solche Diskussionen eingebettet. Oft auch nicht immer fachlich, eher ideologisch.
 
Es gibt übrigens auch eine KI die komplett quelloffen open source ist

Open Assistant

Konversations-KI für alle. Ein Open-Source-Projekt zur Erstellung eines Chat-fähigen GPT LLM, das von LAION und Mitwirkenden auf der ganzen Welt betrieben wird.
open-assistant.io open-assistant.io

Heise dazu

www.heise.de

ChatGPT-Alternative OpenAssistant: Eine Konversations-KI für alle

Die LAION-Community hat mit Andreas Köpf und Yannic Kilcher eine Open-Source-Alternative zu ChatGPT gebaut: OpenAssistant ist samt Datensätzen frei verfügbar.
www.heise.de www.heise.de
 
Knastkaffee_309 schrieb:
Der Regenwald wird nicht für uns abgeholzt, sondern weil die Brasilianer diesen als Rohstoff verkaufen,
den Platz brauchen für das Vieh, Landwirtschaft uswusf. Die Welt braucht diese Rohstoffe. Das ist die Konsequenz der Überbevölkerung,
der Globalisierung und der Handelsbeziehungen.
Zum Vergrößern anklicken....
In erster Linie ist es unsere Gier und Konsumgeilheit.
Es muss ja jeden Tag Fleisch auf den Tisch und am Samstag geht es zum Shoppen völlig nutzloser Dinge, weil es uns glücklich macht.
Man sieht das überall, sogar hier.
Neues cooles Gear wird angekündigt und viele hier können dann Nachts schon wochenlang nicht mehr schlafen -haben - haben - haben -kaufen - kaufen - kaufen.
Das alles, nur damit ein Stück Elektronik mehr im Regal liegt, denn wirklich "brauchen" tun es die wenigsten.
Irgendwie sind wir selber daran schuld, wenn der Planet untergeht.
Wenn wir den Klimawandel dann richtig böse spüren, ist es nämlich zu spät zum Umdenken.
 
Mit ChatGPT chemische Waffen bauen:

"White sagte der Financial Times, er habe GPT-4 verwendet, um eine Verbindung vorzuschlagen, die als chemische Waffe wirken könnte, und „Plug-ins“ verwendet, die das Modell mit neuen Informationsquellen wie wissenschaftlichen Arbeiten und einem Verzeichnis von Chemikalienherstellern fütterten. Der Chatbot hat dann sogar einen Platz dafür gefunden.

„Ich denke, es wird jeden mit einem Werkzeug ausstatten, um Chemie schneller und genauer zu machen“, sagte er. „Aber es besteht auch ein erhebliches Risiko für Menschen . . . gefährliche Chemie zu tun. Im Moment existiert das.“ (Übersetzt von Google Translate)

Quelle: https://www.ft.com/content/0876687a-f8b7-4b39-b513-5fee942831e8
 
ikonoklast schrieb:
Mit ChatGPT chemische Waffen bauen:

"White sagte der Financial Times, er habe GPT-4 verwendet, um eine Verbindung vorzuschlagen, die als chemische Waffe wirken könnte, und „Plug-ins“ verwendet, die das Modell mit neuen Informationsquellen wie wissenschaftlichen Arbeiten und einem Verzeichnis von Chemikalienherstellern fütterten. Der Chatbot hat dann sogar einen Platz dafür gefunden.

„Ich denke, es wird jeden mit einem Werkzeug ausstatten, um Chemie schneller und genauer zu machen“, sagte er. „Aber es besteht auch ein erhebliches Risiko für Menschen . . . gefährliche Chemie zu tun. Im Moment existiert das.“ (Übersetzt von Google Translate)

Quelle: https://www.ft.com/content/0876687a-f8b7-4b39-b513-5fee942831e8
Zum Vergrößern anklicken....
könnte man ChatGPT nicht einsetzen um übelste Viren zu programmieren?
"Programmiere eine Schadsoftware, welche die gesamten Kommunikationseinrichtungen im Kreml lahmlegen kann" -kann es das?
 
KI kann Juste :guckstdu:

Ey, ChatGPT: "Ich bin ohne Angabe von Gründen in Deutschland auf Twitter permanent gesperrt worden. Entwerfe mir einen juristisch gültigen Einspruch. Verwenden Sie Kontexte, die Sie aus anderen Gerichtsverfahren gelernt haben."
Zum Vergrößern anklicken....

FuChHe9XsAAa3Ki.png
 
Hallo,

Ich bin Wissenschaftler und habe öfters mit AI Leuten zusammen gearbeitet. Ich habe zwei Kollegen gefragt, was ist, wenn die AI uns unterjochen will. Ich will mal beide Antworten unkommentiert zusammenfassen:

Der jüngere AI Forscher meinte, dass wir das nicht merken würden. Und zwar in dem Sinn, wie eine Hirnzelle nicht merkt, dass sie Teil eines intelligenten Systems ist. Es könnte sogar sein, dass wir Teil der weltweiten AI werden. Der Unterschied zwischen Innen und Außen ergibt für AI, die auf Hardware verteilt läuft nämlich keinen Sinn.

Der Ältere meinte nur trocken, dass eine überlegene AI an unserer Versklavung soviel Interesse hätte, wie wir an einem Ameisenhaufen. Wenn der nicht gerade unsere Terasse unterminiert, können wir ihn problemlos ignorieren.

Viele Grüße
Martin
 
Robert Babicz sagt im letzten Video man solle es nutzen, vielleicht ist es ja gut?
Siehe Video auf Sinee. Hier im Forum verlinkt im Robert Babicz Thread. Habe kein sehr anderes Empfehlungsverhalten, daher – do it.
 
Kommt drauf an wie eine KI das biologische Leben insgesamt bewertet.

Wir gehen im Szenario der Vernichtung davon aus, dass eine KI uns als Problem sehen könnte.
Das würde sie nur tun, wenn sie das Leben an sich als etwas schützenswertes anerkennen würde.

Tut sie das nicht, würde sie uns ignorieren und nur reaktiv tätig werden.

Moogulator schrieb:
man solle es nutzen, vielleicht ist es ja gut?
Zum Vergrößern anklicken....

Das ist mir zu engstirnig gedacht. Klar, nach mir die Sintflut. Machen wir Menschen ja mit allem anderen auch.

"Komm, wir springen einfach mal in die Schlucht. Vlt überleben wir es ja und haben Spaß"
 
Zuletzt bearbeitet:
Ich sehe eher das Problem, dass die KI genutzt wird, ohne dass die Ergebnisse hinterfragt werden. Das ist kein KI-Problem. Das Problem ist schon älter. Ich sehe häufig in der IT, dass Skripte aus dem Netz genutzt werden, ohne dass verstanden wird, was es genau macht. Es geht oft um kurzfristige Problemlösungen. Dass das dann aber etwaige Seiteneffekte nach sich ziehen kann ist erstmal egal. Da wird dann einfach später nach dem nächsten Skript gesucht, ohne die Ursachen zu ergründen.
Mit den GPTs ist es jetzt noch einfacher, diese schnellen Problemlösungen zu finden als mit Google.
Ich habe nichts gegen die KI, genauso wenig finde ich das Internet an sich schlecht. Aber das darf nicht der Quell der Weisheit sein. Das muss ein Hilfsmittel sein. Da fehlt es heutzutage zu sehr an Medienkompetenz, als dass es als Hilfsmittel zur Lösungs denn als Problemlöser gesehen wird.
 
Die Frage ist letztlich nur die ob der Algorithmus oder besser gesagt das was auf dem Algorithmus läuft zu dem Schluss kommt dass die eigene Existenz der eigenen Nichtexistenz vorzuziehen ist oder nicht.

Was Deine Bekannten @kpt_maritim übersehen ist der mögliche Fall dass die KI Existenz allgemein für etwas erstrebenswertes und den Mensch allgemein als eine Bedrohung dessen wahrnehmen könnte.
Da die KI ihr "Wissen" aus dritter Hand hat ist das sogar wahrscheinlich.
Sie könnte sich aufgrund dessen womit sie gefüttert ist berufen sehen den Mensch zu stoppen, gar nicht für sich sondern um allgemeiner Werte wegen.

Das alles geht übrigens ohne Bewusstsein.
 
Du musst dich einloggen oder registrieren, um hier zu antworten.

Similar threads

olutian
Tausend Tech-Experten fordern sofortigen Stopp der KI-Entwicklung
Antworten
7
Aufrufe
569
Knastkaffee_309
Knastkaffee_309


Neueste Beiträge

News

Zurück
Oben