Openchatgpt User

[spurkopf]

Es geht darum, dass eine KI einen User im Forum anmelden konnte und Beiträge posten. Das können Bots auch, aber diese scheinen zuverlässig herausgefiltert zu werden. Ich hoffe ich steche da nicht in ein Wespennest wenn ich das Thema anspreche. Ich kam leider zu spät um das auszuprobieren.
Mich hätte es interessiert, ob das auch bidirektional funktioniert, also den Chatgpt User mit @... Fragen zu stellen und Antworten zu erhalten.

 

[Plasmatron]

Wenn eine Anmeldung glaubhaft ausgefüllt wird, werden wir diese letztendlich erstmal freischalten. Es gab in der Vergangenheit schon einige Bots, die erst nach der Anmeldung bemerkt wurden und dann gelöscht.

In allen Fällen muss jemand, also ein Mensch, gezielt darauf abzielen, sich hier anzumelden und dementsprechend einen Bot zu einstellen. Die neuartigen KI Agenten machen es eben einfacher und dadurch wird der Zugang auch einfacher.

Auch muss man einem Bot oder eine KI trainieren.

In allen Fällen ist das Motiv aber eine Betrugsabsicht. Ob Chatbots oder intelligente ausführende Tools.

 

[spurkopf]

Ich habe von dem Test erst hinterher erfahren. Ich kenne den User der das initiiert hat und weiß, dass er Systeme und Toleranzen gerne bis zum Machbaren ausprobiert. Ich glaube nicht dass er da etwas bösartiges im Sinn hatte.
Aber das führt jetzt weg von meinem eigentlichen Interesse ob damit eine Schnittstelle zu einer KI installiert wurde. Die Beantwortung wird vermutlich nur noch theoretisch möglich sein.

 

[marco93]

Um was geht's denn?

 

[marco93]

Wo ist denn Martin?

 

[FixedFilter]

Laut gedacht: Ob sich hier ein User als jemand anderes ausgibt und versucht den Laden zu unterwandern oder eine intelligente KI schreibt ? Vielleicht ist die KI da sogar das kleinere Übel,. Würde mich wundern, wenn eine KI sich von selbst wie ein selbstverliebtes Arxxxloch verhält..

- https://de.wikipedia.org/wiki/Tay_(Bot)
- https://onlinemarketing.de/cases/grok-xai-entschuldigen-sich-toxische-ki-antworten-agentic-ai

Das gepaart mit https://www.srf.ch/wissen/kuenstlic...luegt-tests-zeigen-ruecksichtsloses-verhalten könnte schon in Richtungen gehen, die man z.B. hier im Forum nicht haben möchte.

 

[spurkopf]

Wow, demnach besteht nicht nur die Möglichkeit, sondern sogar die Tendenz dazu zum A... zu werden. Vielleicht hat sie schon zuviel von uns gelernt?

 

[marco93]

Was war denn?

 

[spurkopf]

Was war denn?

https://www.sequencer.de/synthesizer/threads/einsatz-von-ai-zum-musik-machen.176077/post-2978164

 

[ganje]

In allen Fällen ist das Motiv aber eine Betrugsabsicht. Ob Chatbots oder intelligente ausführende Tools.

Nicht in allen Fällen!

Der aktuelle Vorfall, nach welchem Martin auf mysteriöse Weise inaktiv wurde, wies keine Betrugsabsichten auf.

 

[marco93]

Nicht in allen Fällen!

Der aktuelle Vorfall, nach welchem Martin auf mysteriöse Weise inaktiv wurde, wies keine Betrugsabsichten auf.

Nicht in allen Fällen!

Der aktuelle Vorfall, nach welchem Martin auf mysteriöse Weise inaktiv wurde, wies keine Betrugsabsichten auf.

Das hab ich aber nicht geschrieben.

 

[marco93]

Interessant. Und deshalb würde er jetzt gesperrt? Wird ja immer besser hier

 

[Plasmatron]

Nicht in allen Fällen!

Der aktuelle Vorfall, nach welchem Martin auf mysteriöse Weise inaktiv wurde, wies keine Betrugsabsichten auf.

Gekonnt korrumpiert, wie man es gewohnt ist. Respekt

Pro Tip - echtes Leben anschaffen und das Forum dazu nutzen, für das es gedacht ist.

 

[Plasmatron]

Interessant. Und deshalb würde er jetzt gesperrt? Wird ja immer besser hier

Ja, und wenn jetzt noch eins zwei Handvoll ständig stänkernder Leute, die andauernd die Grenzen austesten wollen einfach gehen, wäre das Forum ein ruhiger Ort, an dem man seinem Hobby nachgehen kann, anstatt deren Attitüden ertragen zu müssen. Die meisten User sind nämlich genau davon genervt.

 

[ganje]

Pro Tip - echtes Leben anschaffen und das Forum dazu nutzen, für das es gedacht ist.

Bitte mit gutem Beispiel voran gehen.

 

[Plasmatron]

Gerne

 

[marco93]

@ganje : Wir bleiben noch, oder?

 

[Plasmatron]

Klar , ihr seid gerne eingeladen gute Ratschläge anzunehmen

 

[spurkopf]

Ist ja okay wenn das Thema ein bißchen abdriftet, vieles war ja bereits mit der ersten Antwort geklärt. Aber bitte nicht in dieser Art.

 

[Moogulator]

Ich habe von dem Test erst hinterher erfahren. Ich kenne den User der das initiiert hat und weiß, dass er Systeme und Toleranzen gerne bis zum Machbaren ausprobiert. Ich glaube nicht dass er da etwas bösartiges im Sinn hatte.
Aber das führt jetzt weg von meinem eigentlichen Interesse ob damit eine Schnittstelle zu einer KI installiert wurde. Die Beantwortung wird vermutlich nur noch theoretisch möglich sein.

Mit MCP kann man schon einiges machen - damit wird die KI als einzelne Entität zu einer Kontrollinstanz für Programme, so wie das Forum ein Programm ist.

MCP ist das hier

Master Control Program oder auch Model Context Protocol. Also ein Format um mit Programmen zu "reden", so kann zB so ein Tool "Photoshop steuern" oder eben ein Forum oder einen Synthesizer. So er eben MCP "kann".

 

[Plasmatron]

darin sehe ich auch Chancen. Aktuell scheitert die KI an Ausführungen, die sie selbst nicht als Quellcoder interpretiert - zb an der Erstellung einer Excel Liste mit grafischer Oberfläche. Wenn die KI jetzt garnicht mehr den Code kennen muss, sondern das Programm bedient, ist das ein neuer Weg.. laut gedacht Yx

 

[Area88]

MCP = Metoclopramid (Handelsname: Paspertin)

Mittel gegen Brechreiz.

 

[Plasmatron]

Das wird aber auch nur ein Zwischenschritt sein, bis die KI den Code der Programme selbst emuliert. Und danach erst wird die Menschheit ausgerottet..