Deepfake Total: Audiofakes gratis erkennen – inkl. Trainingsspiel

Screenshot von der Website https://deepfake-total.com/

Durch die fast beliebige Verwendung von Künstlicher Intelligenz wird die Kreativität angeregt und Videos, Bilder und auch Audiodateien neu kombiniert. Dabei achten manche Einzelpersonen oder auch Unternehmen nicht immer so genau auf die Rechte anderer Menschen. Beispielsweise kursieren im Netz Audiodateien von Prominenten, die das gar nicht gesagt haben.

Auch als Privatperson kann es sein, dass die eigene Stimme als Audiodatei in KI-generierten Audiofiles/Podcasts benutzt wird – ohne dass ich es möchte. Die Frage ist nun: Wie kann ich solche Audiofakes erkennen? Das Fraunhofer Institut hat dazu eine Plattform entwickelt:

“Die Plattform Deepfake Total entwickelte Nicolas Müller mit seinem Team als öffentliches Erkennungstool für Audiofakes. Jeder kann dort verdächtige Audiospuren hochladen und von einer KI analysieren lassen. Im Gegensatz zu anderen kommerziellen Erkennungstools auf dem Markt ist die Fraunhofer-Plattform kostenlos – und in Deutschland gehostet. Ihr KI-Modell trainieren die Forschenden sowohl mit öffentlichen als auch selbst erstellten Datensätzen, die Beispiele originaler und gefälschter Audiospuren enthalten” (Fraunhofer-Magazin 2/2025).

Was mir besonders gefällt ist der Ansatz, dass dieses Angebot transparent, kostenlos und in Deutschland gehostet ist. Ein Trainingsspiel – für Audio und Video – führt in die Thematik ein und soll dafür sorgen, dass man selbst anfängt eigene Dateien hochzuladen. Probieren Sie es doch einfach einmal aus.

“Analyze suspicious audio files to detect deepfakes, and automatically share them with the security community” (Text auf der Startseite der Plattform).

Warum ist das wissenschaftliche Wissen weniger sicher als das Alltagswissen?

In Zeiten von Corona haben wir sehr viel von Wissenschaftlern erfahren, die ihr Wissen – oder eben das fehlende Wissen – über den Erreger mit der Gesellschaft geteilt haben. Dabei wurde immer wieder deutlich, dass es in diesem Zusammenhang noch viel zu erforschen gibt, und dass das Wissen über den Erreger noch unvollständig ist. Das wissenschaftliche Wissen ist hier also ein zeitlich begrenztes Wissen, das sich sehr schnell ändern kann. Wissen ist hier immer auch vorläufig und muss sich immer wieder zur Disposition stellen (vgl. dazu ausführlich Meier, A. (2020): In Science We Trust: Überlegungen zum Wissen der Wissenschaften. In: Horatschek, A. M. (Hrsg.) (2020): Competing Knowledges – Wissen im Widerstreit. Abhandlungen der Akademie der Wissenschaften in Hamburg, Band 9). Einen Vergleich zwischen dem Alltagswissen und dem wissenschaftlichen Wissen stellt Luhmann beispielhaft dar.

„Das wissenschaftliche Wissen ist weniger sicher als das Alltagswissen. In der Interpretation von Wahrnehmungen des Alltags entstehen normalerweise keine Zweifel. Eine Rose, die man sieht, ist eine Rose, oder jedenfalls doch eine Blume. Ganz anders die Interpretation der Ergebnisse von Experimenten oder sonstigen wissenschaftlichen ´Daten‘. Durch Wissenschaft wird nicht Sicherheit, sondern gerade Unsicherheit gesteigert – in gerade noch tolerierbaren Grenzen“ (Luhmann 1990: 325, zitiert in Meier, A. (2020)).

Viele Menschen haben in Zeiten von Corona verstehen müssen, dass wissenschaftliches Wissen nicht “endgültig” ist. Der Umgang mit Wissenschaft und dem daraus generierten Wissen muss von vielen neu gelernt werden, denn die meisten Menschen haben mit wissenschaftlicher Arbeit wenig zu tun. An dieser Stelle kommen dann die Stammtischparolen und Fake News ins Spiel, die sich diese Gesamtsituation zu nutze machen. Lassen Sie sich von solchen Gruppen nicht beeinflussen und orientieren Sie sich an dem Wahlspruch der Aufklärung: Habe Mut, Dich Deines eigenen Verstandes zu bedienen! Ganz praktisch können Sie damit anfangen nachzufragen/nachzuforschen, auf welche Quellen sich eine Aussage bezieht. In unserem Blog haben wir beispielsweise von Anfang an darauf großen Wert gelegt, immer die benutzen Quellen anzugeben. Auf Basis unserer bereitgestellten Information können Sie sich dann Ihre eigene Meinung bilden – Wissen konstruieren (Konstruktivistische Lerntheorie).

So gehen wir auch in den von uns entwickelten Lehrgängen vor. Informationen zu den von uns entwickelten Blended Learning Lehrgängen Projektmanager/in (IHK) und Projektmanager/in AGIL (IHK) und zu aktuellen Terminen finden Sie auf unserer Lernplattform.

Fraunhofer Magazin 2|2021 zu Fake News

Im Fraunhofer Magazin 2|2021 (PDF) geht es in der Titelgeschichte um die neue Gründerzeit, zu der ich mich hier allerdings nicht weiter äußern möchte. Interessanter fand ich den Beitrag “Alles Fake? Segen und Fluch der Digitalisierung”, der auf den Seiten 35ff. zu finden ist, werden kleine Geschichten der Fälschungen in der Vergangenheit erzählt. Unter anderen auch diese (S. 40):

315/317 n. Chr. Die Konstantinische Schenkung gilt als eine der bedeutendsten Geschichtsfälschungen. Die Urkunde, mit der Kaiser Konstantin im 4. Jahrhundert angeblich dem Papst und seinen Nachfolgern die Herrschaft über das westliche Römische Reich übertrug, nutzte die Kirche über Jahrhunderte, um ihren Machtanspruch zu untermauern. Das Dokument wurde erst im 15. Jahrhundert als Fälschung aus dem Jahr 800 erkannt.

Es zeigt sich wieder, dass Fälschungen/Fakes auch schon in der Vergangenheit wichtige Elemente der Manipulation waren. In der heutigen durch und durch digitalen Welt müssen wir lernen, damit umzugehen (S. 41):

(1) Achten Sie auf technische Bildfehler bei untypischen Gesichtsbewegungen, Verzerrungen oder Unschärfen an Übergängen.
(2) Vorsicht! Am Smartphone oder Laptop lassen sich technische Ungenauigkeiten schwerer erkennen als am kalibrierten, größeren Monitor.
(3) Beobachten Sie die Mimik: Ist sie natürlich und typisch für den Protagonisten, gibt es auffallende Unterschiede zu vergleichbaren Videos?
(4) Sichern Sie die Quellen ab: Woher stammt das Video? In Videokonferenzen durch Rückbestätigung oder digitale Signaturen den richtigen Gesprächspartnersicherstellen.
(5) Hinterfragen Sie Inhalte kritisch: Wie glaubhaft sind die Aussagen, auch außerhalb der eigenen Filterblase? Im Zweifel bei Faktenchecker-Webseiten recherchieren.