Neueste KI zur Spracherzeugung

kybernaut_01

kybernaut_01

No Fate!

Die Demodateien enthalten neben dem zu sprechenden Text den "Speaker Prompt", also das dreisekündige individuelle Sample. Unter "Ground Truth" ist der Text hörbar, wie er tatsächlich von der Person vorgelesen wurde, "Baseline" gibt das Ergebnis eines konventionellen TTS-Synthese-Modells wieder. In der Spalte ganz rechts ist schließlich das Ergebnis von Vall-E zu hören, das dem "Ground Truth" mal mehr, mal weniger ähnelt.
Zum Vergrößern anklicken....

www.heise.de

Drei Sekunden Input reichen: Microsofts KI Vall-E imitiert menschliche Sprache

Die KI Vall-E braucht für die Sprachsynthese nur drei Sekunden Audioinput des Sprechers. Ihr großes Missbrauchspotenzial haben auch die Entwickler erkannt.
www.heise.de www.heise.de
 
Das ist erst der Anfang. In kommender Zukunft, gepaart mit noch mehr perfektionierten Deep Fake KI wird niemand mehr sagen können, ob z.B. der Politiker XY dies oder jenes tatsächlich gesagt hat oder nicht.
Einerseits beeindruckend - andererseits erschreckend, wie gut sich das inzwischen umsetzen lässt.
 
rauschwerk schrieb:
Das ist erst der Anfang. In kommender Zukunft, gepaart mit noch mehr perfektionierten Deep Fake KI wird niemand mehr sagen können, ob z.B. der Politiker XY dies oder jenes tatsächlich gesagt hat oder nicht.
Einerseits beeindruckend - andererseits erschreckend, wie gut sich das inzwischen umsetzen lässt.
Zum Vergrößern anklicken....
auf die Problematik wird längst aufmerksam gemacht... war es nicht Frau Giffey die auf einen gefakten Klitschko reingefallen ist? Da müssen politische und technische Maßnahmen ergriffen werden um das zu regulieren / erkennbar zu machen.
 
verstaerker schrieb:
auf die Problematik wird längst aufmerksam gemacht... war es nicht Frau Giffey die auf einen gefakten Klitschko reingefallen ist? Da müssen politische und technische Maßnahmen ergriffen werden um das zu regulieren / erkennbar zu machen.
Zum Vergrößern anklicken....
Frau Giffey ist auf so einiges reingefallen

www.spiegel.de

Nach Plagiatsvorwürfen: Franziska Giffey verliert Doktortitel

Wegen der anhaltenden Vorwürfe, sie habe in ihrer Doktorarbeit plagiiert, war Franziska Giffey bereits als Familienministerin zurückgetreten. Nun erkennt ihr die Freie Universität Berlin den akademischen Grad ab.
www.spiegel.de www.spiegel.de
 
Ich weiß ja nicht, aber vielleicht gibt es da immer (auch in Zukunft noch) verräterische Spuren, die die künstliche Herkunft verraten. Wahrscheinlich wird das dann nur ein spezieller Forensiker können...
 

KI-Regulierung mit Augenmaß​

Eine Regulierung dieser KI sei notwendig, sagte der Digitalminister. "Wir sollten dabei aber nicht prohibitiv denken, also nicht überlegen, wie wir das möglichst zurückdrängen, einschränken oder gar verbieten können. Wir sollten uns vor allem auf die Frage der Transparenz konzentrieren und alles aus der Perspektive der Anwenderinnen und Anwender her denken." Die Verantwortlichen bei OpenAI seien auch bereit, sich an einer guten Regulierung beratend zu beteiligen, betonte Wissing. "Wenn wir uns auf verlässliche Standards und Zertifizierungen einigen, ist dies auch im Interesse der Unternehmen."
Zum Vergrößern anklicken....

www.heise.de

ChatGPT und Co.: Digitalminister Wissing will keine übermäßige KI-Regulierung

Digitalminister Volker Wissing sieht starke Einschränkungen von KI in Europa skeptisch. Eine Regulierung sei nötig, aber keine Verbote.
www.heise.de www.heise.de
 

KI-Regulierung mit Augenmaß​

Eine Regulierung dieser KI sei notwendig, sagte der Digitalminister. "Wir sollten dabei aber nicht prohibitiv denken, also nicht überlegen, wie wir das möglichst zurückdrängen, einschränken oder gar verbieten können. Wir sollten uns vor allem auf die Frage der Transparenz konzentrieren und alles aus der Perspektive der Anwenderinnen und Anwender her denken." Die Verantwortlichen bei OpenAI seien auch bereit, sich an einer guten Regulierung beratend zu beteiligen, betonte Wissing. "Wenn wir uns auf verlässliche Standards und Zertifizierungen einigen, ist dies auch im Interesse der Unternehmen."
Zum Vergrößern anklicken....

Ein bewährter Ansatz, den man in der Umweltpolitik der letzten 60 Jahre bereits erfolgreich erprobt hat.
 
kybernaut_01 schrieb:
Jetzt ist auch OpenAI mit einer Voice Engine am Start. 15 Sekunden Audioinput genügen!

www.heise.de

Voice Generator: OpenAI stellt KI-Modell zum Klonen von Stimmen vor

OpenAI stellt Voice Engine vor, ein KI-Modell zum Klonen von Stimmen, das unter anderem von HeyGen, aber auch für die Sprachfunktion von ChatGPT genutzt wird.
www.heise.de www.heise.de
Zum Vergrößern anklicken....

Wow!

Hier auch der Link zur Seite von OpenAI.
Da sind auch die Beispiele verlinkt.
Wow!

openai.com

Navigating the Challenges and Opportunities of Synthetic Voices

We’re sharing lessons from a small scale preview of Voice Engine, a model for creating custom voices.
openai.com
 
verstaerker schrieb:
Da müssen politische und technische Maßnahmen ergriffen werden um das zu regulieren / erkennbar zu machen.
Zum Vergrößern anklicken....
wohl besser früher als zu spät, aber was ist wenn es nicht mehr unterschieden werden kann was echt ist und was nicht?
Im Netz auf YT und co wird niemand mehr etwas glauben können weil alles fake sein kann. Das normale Fernsehen wird
das einzige sein dem man noch halbwegs glauben schenken kann weil da zwar geschnitten wird ,aber bei Interviews sind immer
mehrere Leute beteiligt zudem könnte ein Sender in Haft genommen werden falls doch Fakes gesendet werden. Bei YT kann ja jeder
senden was er will ohne Rechtlich belangt zu werden. Leider glauben nicht wenige eher dem was auf YT alles so rumfaked.
Die Deepfakes werden die Gesellschaft gavierend verändern weil im schlimmsten Fall niemand mehr überhaupt was glauben wird oder
halt nur was ihm gerade in den Kram pass. Naja soweit simmer ja eigentlich jetzt schon.
 
Rolo schrieb:
aber was ist wenn es nicht mehr unterschieden werden kann was echt ist und was nicht?
Zum Vergrößern anklicken....
es wird sowieso (längst) kriminell eingesetzt... das wirdman nicht mehr verhindern können.
Aber zumindest die öffentlich zugänglichen KIs sollten es nicht zu leicht machen, potentiell gefährlichen , mißbräuchlichen content zu generieren. Der könnte auch mit Metadaten gefüttert sein, so das er sich leicht identifizieren lässt.
Oder man baut eine andere KI die KI Bilder etc identifizieren kann.

Aber keine Ahnung ob das überhaupt geht oder ob wir einfahc bald n Riesen-problem haben werden. Z.B: gefälschte Politiker-Videos.. täuschend echt.
Hallo Dritter Weltkrieg :dunno:
 
verstaerker schrieb:
gefälschte Politiker-Videos.. täuschend echt.
Hallo Dritter Weltkrieg :dunno:
Zum Vergrößern anklicken....
Da nicht wenige Kriege einfach nur auf Grund von Mißverständnissen entstanden wird es mit so Fakekram noch wesentlich gefährlicher werden daß "die da oben" sich in die Haare bekommen 😕
Und da die Staatsmänner und -frauen ja selbst im Netz unterwegs sind und fleißig twittern und sonstwas machen ist die Sache nochmal so riskant eigentlich. 🤔 Naja...ich bin ein oller Synthfreak
und kann eh nix ändern an der Blödheit der Menschen (natürlich gibt es auch intelligente, gute & nette) . Aber man macht sich hat doch schon seine Gedanken.
 
Zuletzt bearbeitet:
Du musst dich einloggen oder registrieren, um hier zu antworten.


Neueste Beiträge

News

Zurück
Oben