Fake-Videos von chinesisch sprechender Taylor Swift führen zur Diskussion über KI-Regulierung

Jüngst hat eine Reihe von Videos, in denen etwa der US-Popstar Taylor Swift perfekt Chinesisch spricht, für großes Aufsehen gesorgt. Schnell stellte sich jedoch heraus, dass diese Videos mithilfe von generativer künstlicher Intelligenz (KI) erzeugt wurden, was die Sorge für Missbrauch dieser Technologie erhöhte.

Eine Flut von Videos, in denen die US-Sängerin Taylor Swift oder die Schauspielerin Rachel Brosnahan aus dem TV-Hit „The MarvelousMrs. Maisel“ fließend Chinesisch sprechen, sowie chinesische Stand-up-Comedians, die perfektes Englisch sprechen, sind in den letzten Tagen im Internet viral gegangen. Anstatt als nette Überraschungen wahrgenommen zu werden, haben diese Videoclips jedoch Ängste und Diskussionen über die Regulierung der Technologie ausgelöst, nachdem klar wurde, dass sie von künstlicher Intelligenz (KI) erzeugt wurden.

In diesen Videos „spricht“ Swift zum Beispiel fließend Chinesisch mit nur einem leichten Akzent. Darüber hinaus passt sogar ihre Mundbewegung zu den chinesischen Wörtern. Auch Brosnahan steht auf der Bühne und spricht mit Leichtigkeit perfektes Chinesisch und sagt dabei etwa: „Deshalb muss ich wirklich berühmt werden. Wenn du berühmt bist, lieben dich alle.“

Guo Degang, ein berühmter chinesischer „Xiangsheng“-Darsteller (oft als Crosstalk oder Komischer Dialog übersetzt: ein traditionelles chinesisches komödiantisches Genre der darstellenden Künste, meist in Form eines Dialogs zwischen zwei Künstlern), ist in einem Video zu sehen, wie er Crosstalk in fließendem Englisch macht.

Später stellte sich allerdings heraus, dass alle diese Videos von einer KI-Software erstellt wurden. Die Software ist in der Lage, die oben erwähnten Videoclips zu erstellen, indem sie einfach die Originalvideos hochlädt und die Sprache auswählt, in der die Personen sprechen sollen, berichteten chinesische Medien.

Die Videos haben im Internet heftige Diskussionen ausgelöst.

„Diese Clips ließen mir die Haare zu Berge stehen. Stellen Sie sich vor, wie leicht diese Technologie eingesetzt werden kann, um den Ruf von jemandem zu zerstören“, schrieb ein Nutzer auf der chinesischen X-ähnlichen Plattform Sina Weibo.

„Technologie ist wirklich ein zweischneidiges Schwert. Die Folgen können erschreckend sein, wenn sich KI ohne Regulierung entwickelt“, argumentierte ein anderer Sina Weibo-Nutzer.

Der Einsatz von KI zur Erstellung von Videos in denen Swift Chinesisch oder Guo Englisch spricht, könnte ihre Rechte verletzen, da das chinesische Recht vorsieht, dass Werke wie Crosstalk nicht ohne die Zustimmung des Urheberrechtsinhabers verwendet werden dürfen. Außerdem dürften Bilder von Personen nur mit deren Zustimmung verwendet werden, erklärte Yue Shenshan, ein in Beijing ansässiger Anwalt.

In den letzten Jahren wurde die KI-Technologie in großem Umfang für die sekundäre Erstellung von Kurzvideos eingesetzt, z. B. für den Austausch von Gesichtern und die Veränderung von Stimmen. In den vergangenen Jahren nutzten Produzenten von Fernsehspielen diese Technologie auch, um die Gesichter von Schauspielern zu ersetzen.

Chinas National Information Security Standardization Technical Committee hat daher einen Entwurf grundlegender Sicherheitsanforderungen für generative KI-Dienste ausgearbeitet und im Oktober mit der Einholung öffentlicher Stellungnahmen begonnen.

Generell befinde sich die KI noch im Anfangsstadium der Entwicklung, und die Risiken seien noch nicht vollständig bekannt, erläuterte Qin An, stellvertretender Direktor des Expertenausschusses für Terrorismusbekämpfung und Cybersicherheit bei der China Society of Police Law. Er plädierte generell jedoch dafür, dass eine tolerante und vorsichtige Haltung in Bezug auf die KI-Entwicklung eingenommen werden sollte, um die innovative Entwicklung dieser Technologie nicht zu ersticken.