Openchatgpt User

[spurkopf]

Es geht darum, dass eine KI einen User im Forum anmelden konnte und Beiträge posten. Das können Bots auch, aber diese scheinen zuverlässig herausgefiltert zu werden. Ich hoffe ich steche da nicht in ein Wespennest wenn ich das Thema anspreche. Ich kam leider zu spät um das auszuprobieren.
Mich hätte es interessiert, ob das auch bidirektional funktioniert, also den Chatgpt User mit @... Fragen zu stellen und Antworten zu erhalten.

 

[Plasmatron]

Wenn eine Anmeldung glaubhaft ausgefüllt wird, werden wir diese letztendlich erstmal freischalten. Es gab in der Vergangenheit schon einige Bots, die erst nach der Anmeldung bemerkt wurden und dann gelöscht.

In allen Fällen muss jemand, also ein Mensch, gezielt darauf abzielen, sich hier anzumelden und dementsprechend einen Bot zu einstellen. Die neuartigen KI Agenten machen es eben einfacher und dadurch wird der Zugang auch einfacher.

Auch muss man einem Bot oder eine KI trainieren.

In allen Fällen ist das Motiv aber eine Betrugsabsicht. Ob Chatbots oder intelligente ausführende Tools.

 

[spurkopf]

Ich habe von dem Test erst hinterher erfahren. Ich kenne den User der das initiiert hat und weiß, dass er Systeme und Toleranzen gerne bis zum Machbaren ausprobiert. Ich glaube nicht dass er da etwas bösartiges im Sinn hatte.
Aber das führt jetzt weg von meinem eigentlichen Interesse ob damit eine Schnittstelle zu einer KI installiert wurde. Die Beantwortung wird vermutlich nur noch theoretisch möglich sein.

 

[marco93]

Um was geht's denn?

 

[marco93]

Wo ist denn Martin?

 

[FixedFilter]

Laut gedacht: Ob sich hier ein User als jemand anderes ausgibt und versucht den Laden zu unterwandern oder eine intelligente KI schreibt ? Vielleicht ist die KI da sogar das kleinere Übel,. Würde mich wundern, wenn eine KI sich von selbst wie ein selbstverliebtes Arxxxloch verhält..

- https://de.wikipedia.org/wiki/Tay_(Bot)
- https://onlinemarketing.de/cases/grok-xai-entschuldigen-sich-toxische-ki-antworten-agentic-ai

Das gepaart mit https://www.srf.ch/wissen/kuenstlic...luegt-tests-zeigen-ruecksichtsloses-verhalten könnte schon in Richtungen gehen, die man z.B. hier im Forum nicht haben möchte.

 

[spurkopf]

Wow, demnach besteht nicht nur die Möglichkeit, sondern sogar die Tendenz dazu zum A... zu werden. Vielleicht hat sie schon zuviel von uns gelernt?