X hat eine neue Funktion eingeführt, die es Nutzern erschweren soll, hochgeladene Bilder mit dem KI-Chatbot Grok zu manipulieren. Ein neuer Schalter in den Bildeinstellungen der iOS-App soll Modifikationen durch Grok blockieren. Erste Tests zeigen jedoch, dass die Schutzfunktion nur begrenzte Wirkung hat und nicht alle Bearbeitungsmethoden verhindert.
Wichtige Erkenntnisse
- X hat einen neuen Schalter zur Blockierung von Grok-Bildbearbeitungen in der iOS-App eingeführt.
- Die Funktion verhindert primär das Bearbeiten von Bildern durch das Taggen von @Grok in Antworten.
- Direkte Bearbeitungen über die Grok-App oder durch erneutes Hochladen werden nicht blockiert.
- Die Sperre ist derzeit nur auf der iOS-App verfügbar und nicht für ältere Inhalte.
- Die Einführung erfolgt nach früheren Missbrauchsfällen mit Grok zur Erstellung unerwünschter Bildmanipulationen.
Begrenzte Wirksamkeit der neuen Funktion
Die von X eingeführte Funktion, die unter der Bezeichnung „Änderungen durch Grok blockieren“ zu finden ist, zeigt in der Praxis deutliche Einschränkungen. Der Schalter soll eigentlich verhindern, dass der xAI-Chatbot Bilder bearbeitet. Er schützt jedoch nur vor einer spezifischen Methode der Bildmanipulation.
Nutzer können demnach lediglich unterbinden, dass @Grok Inhalte modifiziert, wenn der Chatbot in einer Antwort auf ein Bild getaggt wird. Dies war eine der Methoden, die in der Vergangenheit missbraucht wurden, um unerwünschte Bildbearbeitungen vorzunehmen, darunter auch die Erstellung von Deepfakes.
„Die neue Funktion ist ein erster Schritt, aber sie löst das grundlegende Problem der KI-gesteuerten Bildmanipulation auf X nicht vollständig“, so ein Technologieexperte.
Faktencheck
- Die Funktion blockiert nur das Bearbeiten via @Grok-Tagging.
- Direkte Bearbeitung in der Grok-App bleibt möglich.
- Das erneute Hochladen eines geschützten Bildes hebt den Schutz auf.
Zugänglichkeit und Verfügbarkeit der Sperre
Die Option zur Blockierung ist nicht sofort sichtbar. Um sie zu aktivieren, müssen Nutzer ein Bild in den X-Beitragsersteller hochladen. Dort erscheint ein Pinselsymbol unten rechts auf dem Vorschaubild. Nach dem Antippen muss das Flaggensymbol in der Bearbeitungsleiste ausgewählt werden. Erst dann wird die Grok-Sperre sichtbar.
Diese Einstellung ist derzeit ausschließlich in der X iOS-App verfügbar. Bei Tests auf der Webversion von X erschien der Grok-Blocker nicht. Auch für bereits hochgeladene Inhalte bietet die neue Funktion keinen Schutz. Dies bedeutet, dass ältere Bilder weiterhin anfällig für die Bearbeitung durch Grok sind, es sei denn, sie werden erneut hochgeladen und die Einstellung aktiviert.
Hintergrund der Einführung
Die Einführung dieser Funktion folgt auf eine Welle von Kontroversen im Januar, als Grok missbraucht wurde, um Deepfakes von Personen zu erstellen. Diese Vorfälle führten zu internationaler Kritik von Gesetzgebern und Regulierungsbehörden. Als Reaktion darauf wurde die Möglichkeit, Bilder über @Grok-Antworten zu bearbeiten, für kostenlose X-Konten blockiert. Zahlende Abonnenten konnten diese Funktion jedoch weiterhin nutzen.
Umgehung der Schutzmechanismen
Trotz der neuen Sperre gibt es weiterhin Wege, Bilder mit Grok zu manipulieren. Selbst wenn der Grok-Blocker aktiviert ist, können Nutzer auf einem geschützten Bild in der X iOS-App gedrückt halten, um die Option „Bild mit Grok bearbeiten“ direkt in der Grok-App zu öffnen. Innerhalb der Grok-App selbst gibt es keine weiteren Schutzmechanismen, die eine Bearbeitung verhindern würden.
Eine weitere Umgehung besteht darin, ein geschütztes Bild zu speichern, es erneut in denselben X-Thread hochzuladen und Grok dann zur Bearbeitung zu markieren. Durch das erneute Hochladen werden die ursprünglichen Blockierfunktionen entfernt, wodurch das Bild wieder anfällig für Manipulationen wird. Diese Lücken in der Implementierung werfen Fragen nach der tatsächlichen Effektivität der neuen Funktion auf.
Herausforderungen für X
- Die Implementierung muss umfassender werden, um alle Bearbeitungsmethoden zu erfassen.
- Eine einheitliche Verfügbarkeit auf allen Plattformen ist notwendig.
- Der Schutz sollte auch für bereits hochgeladene Inhalte gelten.
Die offizielle Ankündigung der Funktion durch X steht noch aus, was den genauen Verfügbarkeitsstatus und den Entwicklungsstand unklar lässt. Es bleibt abzuwarten, ob und wann X weitere Maßnahmen ergreifen wird, um die Kontrolle über KI-gesteuerte Bildbearbeitungen auf seiner Plattform zu verbessern und umfassenderen Schutz für die Nutzer zu gewährleisten.
Die Diskussion um die Verantwortung von Plattformen für KI-generierte Inhalte wird weiterhin an Bedeutung gewinnen, insbesondere im Hinblick auf den Schutz vor Missbrauch und die Wahrung der Privatsphäre der Nutzer. X steht hier vor der Herausforderung, innovative KI-Technologien zu integrieren und gleichzeitig strenge Sicherheitsstandards zu gewährleisten.
