YouTube erweitert KI-Tools zur Deepfake-Erkennung auf Hollywood-Promis

Mit KI-generierte Deepfakes werden in allen Medien immer häufiger, einschließlich Hollywood, YouTubedie weltweit größte Videoplattform, hat eine Lösung zur Erkennung und Sperrung der Verwendung solcher Ähnlichkeiten entwickelt und weitet diese auch auf Hollywood aus. Das Tool wurde jahrelang bei YouTube entwickelt.

Überschrift 2

YouTube, die weltweit größte Videoplattform, hat eine Lösung für die zunehmende Menge an Deepfake-Inhalten im Internet entwickelt. In den letzten Jahren gab es ernsthafte Bedenken hinsichtlich der Manipulation von Prominentenbildern durch den Einsatz künstlicher Intelligenz (KI). Es gab auch mehrere schwerwiegende Vorfälle, die deutlich machten, wie gefährlich das Tool sein kann.

Aber YouTube hat in den letzten Jahren eine Lösung entwickelt und diese nun scheinbar auf Hollywood ausgeweitet. Führungskräfte von YouTube sagten gegenüber The Hollywood Reporter, dass das Tool jetzt allen offen stehe, bei denen ein hohes Risiko besteht, dass ihr Abbild missbraucht wird. Zu diesen Menschen zählen Schauspieler, Sportler, Kreative, Musiker und Medienpersönlichkeiten.

„Ich würde es als eine grundlegende Ebene der Verantwortung betrachten“, sagte Mary Ellen Coe, Chief Business Officer von YouTube, gegenüber THR. „Wir arbeiten schon seit geraumer Zeit daran, seit es KI-Tools und die Auswirkungen auf die Plattform gibt. Ehrlich gesagt haben wir noch nicht einmal die Vektoren gesehen, die überhaupt möglich sind, und wir arbeiten sehr eng mit Talentagenturen und externen Managementfirmen zusammen, um sicherzustellen, dass Persönlichkeiten des öffentlichen Lebens der Sache tatsächlich zuvorkommen können, bevor etwas Negatives passiert.“

Es ist über ein Jahr her, seit YouTube mit dem Testen dieses Tools begonnen hat. Seitdem bietet die Plattform es ausgewählten Prominenten, Kreativen und Politikern an. Mittlerweile ist der Zugang jedoch für alle geöffnet, die der Gefahr einer Manipulation durch Deepfakes ausgesetzt sind.

Dieses Tool funktioniert durch einen einfachen Prozess. Eine Berühmtheit, ein Schöpfer oder eine Persönlichkeit des öffentlichen Lebens muss ihr Abbild in das System hochladen. Dies funktioniert auch dann, wenn die Person kein YouTube-Profil hat. Das System sucht dann auf seinen Kanälen nach potenziellen Replikaten oder Deepfakes. Dann wird alles markiert, was dazu dient, der Persönlichkeit Schaden zuzufügen.

Ursprünglich berichtet von Sourav Chakraborty auf Mandatory.