Ist der Kern ganz bestimmter Modelle für eine beschränkte Art von Anwendungen, den Link hatte ich hier auch schon gepostet:
Bei einer Datenbank wie du sie beschreibst kann die K.I. am Ende wahrscheinlich nur bestimmen wie die Worte zusammengehören, das funktioniert maximal bei Aufgaben bei dem die K.I. nicht viel mehr machen muss als Sätze zu vervollständigen, für eine Muster Erkennung dieser Art reicht dann wahrscheinlich auch das unbetreute lernen, denn genau für Anwendungen dieser Art ist sie prädestiniert. Die K.I. kann vielleicht noch selbstständig gewichten wie häufig auf eine ähnlich aufgebaute Frage eine bestimmte Antwort gegeben wurde und vielleicht (damit es lebensechter wirkt) per Pseudozufall "gleichtwertige" Antworten variieren. Man könnte das flapsig unter dem Oberbegriff nachplappern zusammenfassen ;)
Bei einer Datenbank wie du sie beschreibst kann die K.I. am Ende wahrscheinlich nur bestimmen wie die Worte zusammengehören, das funktioniert maximal bei Aufgaben bei dem die K.I. nicht viel mehr machen muss als Sätze zu vervollständigen, für eine Muster Erkennung dieser Art reicht dann wahrscheinlich auch das unbetreute lernen, denn genau für Anwendungen dieser Art ist sie prädestiniert. Die K.I. kann vielleicht noch selbstständig gewichten wie häufig auf eine ähnlich aufgebaute Frage eine bestimmte Antwort gegeben wurde und vielleicht (damit es lebensechter wirkt) per Pseudozufall "gleichtwertige" Antworten variieren. Man könnte das flapsig unter dem Oberbegriff nachplappern zusammenfassen
Hatte ehrlich gesagt bisher kein Bedarf an ChatGPT, aber ich sehe an der Google K.I. dass sie mit meinen Suchstrategien oft nicht sonderlich gut harmoniert, von daher harre ich auf das was da noch kommen mag ;)
Hatte ehrlich gesagt bisher kein Bedarf an ChatGPT, aber ich sehe an der Google K.I. dass sie mit meinen Suchstrategien oft nicht sonderlich gut harmoniert, von daher harre ich auf das was da noch kommen mag
Quelle: https://dorik.com/blog/how-does-chatgpt-work
Nicht wirklich
Supervised Learning ist nicht mit Filtern gleichzusetzen.Es kommt halt auf die Ebene an die du betrachten möchtest. Der Mensch stellt nur die Input-Daten mehr nicht und diese sind und können im Prinzip kaum noch handselektiert sein. Und in einem gewissen Sinne programmiert sich ein LLM selber mit den Texten die man ihr zur Verfügung stellt. Es gibt dann oft hinter dem NN noch Filter die versuchen unschöne Aussagen zu filtern, aber das greift natürlich nicht 100%. Die Leute behaupten z.B. das Gronk (Elon Musks AI) besonders häufig fremdenfeindliche Aussagen macht, weil sie mit Twitter Texten trainiert wurde
Nicht wirklich
Supervised Learning ist nicht mit Filtern gleichzusetzen.
Quelle: https://snorkel.ai/blog/large-language-model-training-three-phases-shape-llm-training/
| 1 | Pretraining (Self-Supervised Learning) | Grundlegendes Sprachverständnis aufbauen | Milliarden ungefilterter Texte (Bücher, Websites, Code) | Grammatik, Sprachmuster, Weltwissen, logische Zusammenhänge |
| 2 | Supervised Fine-Tuning (SFT) | Das Modell dazu bringen, Aufgaben und Instruktionen zu befolgen | Von Menschen erstellte „Frage → gute Antwort“-Paare | Wie man nützliche, klare und kontextbezogene Antworten gibt |
| 3 | Reinforcement Learning with Human Feedback (RLHF) | Das Modell an menschliche Präferenzen anpassen | Menschen bewerten Modellantworten (Ranking) | Höflichkeit, Sicherheit, Priorisierung hilfreicher Antworten |
| 4 | Reward Model Training | Ein „Bewertungsmodell“ wird trainiert, das Antworten des Hauptmodells beurteilen kann | Menschliche Rankings | Wie man „gute“ von „schlechten“ Antworten unterscheidet |
| 5 | Policy Optimization (z. B. PPO) | Das Hauptmodell wird mit Hilfe des Reward Models optimiert | Generierte Antworten + Rewards | Feinschliff der Antwortqualität (weniger toxisch, mehr hilfreich) |
| 6 (optional) | System-/Safety-Layer | Nachträglicher Filter, um gefährliche/ungeeignete Inhalte zu blocken | Regelbasierte Filter + KI-Filter | Content-Moderation, Sicherheitsschicht |
Ich glaub nicht dass ich es besser beschreiben könnte als man das nicht schon in den bereits geposteten Links nachlesen könnte, bei der Verwendung von ChatGPT dürfte das Ergebnis wahrscheinlich auch ein wenig von der Fragestellung und dem vermuteten Wissenstand des Fragestellers abhängig sein, zumindest würde ich das von einer gut programmierten bzw. trainierten K.I. so erwarten.
Chatgpt kann auch alles auf Profi-Niveau:Ich glaub nicht dass ich es besser beschreiben könnte als man das nicht schon in den bereits geposteten Links nachlesen könnte, bei der Verwendung von ChatGPT dürfte das Ergebnis wahrscheinlich auch ein wenig von der Fragestellung und dem vermuteten Wissenstand des Fragestellers abhängig sein, zumindest würde ich das von einer gut programmierten bzw. trainierten K.I. so erwarten.
Das Problem bei der Diskussion war für mich eher dass bestimmte Zusammenhänge für mich klar und eindeutig waren, eine K.I. Modell das auf einer bestimmten Hardware läuft wird den jeweiligen Käfig (beschränkungen des Systems) nicht verlassen können. Der Rest war in so fern keine komplette Zeitverschwendung, dass ich meinen Kenntnistand (aus den 90ern) über Neuronale Netze ein wenig auffrischen konnte
| Stage | Bezeichnung | Zielsetzung | Datenbasis | Optimierungsziel / Loss |
|---|---|---|---|---|
| 1 | Unsupervised Pretraining (Self-Supervised Language Modeling) | Erlernen von hochdimensionalen Sprachrepräsentationen, Weltwissen und Emergent Abilities durch Next-Token-Prediction | Terabyte-scale Web- und Buchkorpora (Common Crawl, Wikipedia, Code-Dumps etc.) | Minimierung des Cross-Entropy-Loss für bedingte Wahrscheinlichkeitsverteilungen pθ(xt∣x<t) |
| 2 | Supervised Fine-Tuning (Instruction Tuning) | Anpassung an menschliche Instruktionen und Aufgabenformate (Chat, QA, Summarization etc.) | Hochqualitative Frage-Antwort-Datasets (z. B. menschlich annotiert) | Minimierung eines Task-Specific Supervised Loss(Cross-Entropy auf Instruktionsantworten) |
| 3 | Reward Model Training (Preference Modeling) | Lernen eines „Reward-Signals“ basierend auf menschlichen Präferenzen | Menschliche Ranking-Daten (z. B. „A > B > C“ für gegebene Prompts) | Minimierung des Pairwise Ranking Loss (z. B. Bradley-Terry oder hinge-loss-basiert) |
| 4 | Reinforcement Learning from Human Feedback (RLHF) | Optimierung der Policy des Sprachmodells in Richtung menschlicher Präferenzen | Antworten des Modells + Reward-Scores des Reward Models | Policy Gradient / PPO: Maximierung Ex∼πθ[r(x)], regularisiert via KL-Divergenz zu Pretrain-Policy |
| 5 | Constitutional / Safety Fine-Tuning (optional) | Verbesserung von Robustheit, Red-Team-Resistenz und Sicherheits-Alignment | Adversarial Prompts, kuratierte Safety-Datasets | Kombination aus Cross-Entropy, Reinforcement Loss und Safety-specific Constraints |
| 6 | Inference-time Filtering / Moderation Layer | Blocken von toxischen oder sicherheitskritischen Inhalten nach der Generierung | Regelbasierte Filter, Klassifikatoren, kleinere Transformer-Modelle | Nicht-trainierbar (Post-processing Layer) |
Hattest du es angewiesen das in einer Tabelle zusammenzufassen?
Blumenkohl im Ofen backen – so geht's:
Hab bisher für mich nur Broccoli und Blumenkohl Röschen in der Microwelle mit etwas Wasser gedämpft, dürfte von der Zeit aber nicht vergleichbar sein.
Nunja, fest steht, dass ChatGPT bei der Analyse des kleinen 300 Jahre alten Cellostückchens (s.o. #55)
- viel nachgeplappert und das auch
- artig in schöne Tabellen und Scriptchen gepackt hat
- aber dann für die fünf Schlussakkorde ('monumental', sagt er noch)
- "| D–F–A–D | D–F–A–D | D–F–A–D | D–F–A–D | D–F–A–D |" ausgibt,
- obwohl sie a-g-cis, a-f-d, a-e-d, a-e-cis und g-a-f-d sind.
Wie deppert ist das denn. Erst fleddert er sich Zeugs zusammen, erweckt den Eindruck der Schlauheit, mangels Verständnis und Intelligenz verhaut er es dann aber gründlich...
Auch bei Blumenkohl wirds nicht besser: wenn ich ihn frage, wie lange und bei wieviel Grad ich Blumenkohl im Ofen backen muss, damit er gar wird, wirft er ein Broccoli-Icon und eine nicht im Ansatz ausreichende Zeit aus, och nee:
- Backtemperatur: 200 °C (Ober-/Unterhitze) oder 180 °C (Umluft)
- Backzeit: ca. 25–35 Minuten, je nach gewünschter Bissfestigkeit und Größe der Stücke
www.lecker.de
Hach, er ist schon ein Warmduscher mein Chatgpt Agent
Ist schon cool, hat sich selbständig angemeldet, sogar die email zu verifizieren geklickt, einen random Text in einem random Thread geschrieben und den thread zu AI Musik gefunden und dort einen Text verfasst.
Ich halt mich da raus, bin viel zu selbstverliebt, um einen Bot meine Beiträge schreiben zu lassen. Du erkennst meine Beiträge immer an den Rechtscgreibfehlern, Ipad-Tastatur sucks.
Die Frage ist, ob es überhaupt noch ne Möglichkeit gab in Europa so etwas zu etablieren oder ob wir das Rennen in der digitalen Welt schon vor 20 Jahren verloren haben. Wer sollte die Summen stemmen die ein LLM kostet? Siemens? SAP? Lidl? Aldi?
Wobei man mit einer „guten“ Idee schnell wieder im Markt ist, siehe Tiktok.
LLM sind nicht unbedingt die letzte Weisheit auf dem Weg zur AGI. Vielleicht gibt es ja noch ein paar kluge Köpfe bei uns.
Ich liebes es wenn er „blablabla“ sagt, genau mein Humor.
Bekomme ich Amnestie, wenn ich es verrate? Oder habe ich Amnesie, wenn ich es nicht mehr weiß?
GPT Agent ist jedenfalls jetzt auch in Deutschland möglich. Was bestimmt auch für dieses Forum einen heiden Spass bedeutet
