Eine neue mobile Anwendung namens Neon sorgt in den USA für Aufsehen und Bedenken. Die App verspricht Nutzern Geld für die Aufzeichnung ihrer Telefongespräche, um die Audiodaten anschließend an Unternehmen für künstliche Intelligenz (KI) zu verkaufen. Trotz erheblicher Datenschutzrisiken stieg die App schnell auf den zweiten Platz in der Kategorie „Soziale Netzwerke“ im US-App-Store von Apple.
Wichtige Erkenntnisse
- Die App Neon bezahlt Nutzer dafür, ihre Telefongespräche aufzeichnen zu lassen.
- Die gesammelten Audiodaten werden an KI-Unternehmen verkauft, um deren Modelle zu trainieren.
- Trotz transparenter Datennutzung bestehen erhebliche Risiken für die Privatsphäre von Nutzern und deren Gesprächspartnern.
- Rechtsexperten warnen vor dem Potenzial für Betrug und Identitätsdiebstahl durch den Missbrauch von Stimmaufnahmen.
Ein umstrittenes Geschäftsmodell wird populär
Neon Mobile wirbt damit, ein Werkzeug zum Geldverdienen zu sein. Das Unternehmen verspricht „hunderte oder sogar tausende Dollar pro Jahr“ für den Zugriff auf die Telefongespräche seiner Nutzer. Konkret zahlt Neon laut eigenen Angaben 30 US-Cent pro Minute für Anrufe zwischen Neon-Nutzern und bis zu 30 US-Dollar pro Tag für Anrufe an andere Personen. Zusätzlich gibt es Prämien für geworbene Neukunden.
Diese Strategie scheint aufzugehen. Laut Daten des Analyseunternehmens Appfigures kletterte die App innerhalb kurzer Zeit in den Ranglisten des US-App-Stores nach oben. Am 18. September war sie noch auf Platz 476 in ihrer Kategorie, erreichte aber schnell die Top 10 und schließlich den zweiten Platz unter den kostenlosen sozialen Apps. Zeitweise war sie sogar die sechstbeliebteste App insgesamt in den USA.
Rasanter Aufstieg in den App-Charts
Innerhalb weniger Tage stieg Neon von Platz 476 auf Platz 2 in der Kategorie „Soziale Netzwerke“ im US-App-Store. Dieser schnelle Erfolg zeigt, dass ein Teil der Nutzer bereit ist, für eine finanzielle Gegenleistung auf Privatsphäre zu verzichten.
Wie Neon funktioniert und was die Nutzungsbedingungen verraten
Die App ist technisch gesehen eine Voice-over-IP-Anwendung (VoIP), die eingehende und ausgehende Anrufe aufzeichnen kann. Laut den Marketing-Aussagen von Neon wird nur die Seite des Gesprächs aufgezeichnet, die vom Neon-Nutzer stammt – es sei denn, der Gesprächspartner verwendet ebenfalls die Neon-App. In diesem Fall wird das gesamte Gespräch erfasst.
Der Zweck der Datensammlung wird in den Nutzungsbedingungen klar benannt: Der Verkauf an „KI-Unternehmen zum Zweck der Entwicklung, des Trainings, des Testens und der Verbesserung von maschinellen Lernmodellen, Werkzeugen und Systemen für künstliche Intelligenz und verwandten Technologien.“
Weitreichende Rechte für den Anbieter
Obwohl Neon behauptet, die Privatsphäre zu respektieren, sichert sich das Unternehmen in seinen Geschäftsbedingungen sehr umfassende Rechte an den Daten der Nutzer. Die Lizenz wird als „weltweit, exklusiv, unwiderruflich, übertragbar, gebührenfrei und vollständig bezahlt“ beschrieben. Dies gibt Neon das Recht, die Aufnahmen zu verkaufen, zu speichern, zu modifizieren und über beliebige Medienkanäle zu verbreiten.
Die Nutzungsbedingungen räumen Neon eine extrem breite Lizenz ein, die es dem Unternehmen erlaubt, mit den Nutzerdaten weitaus mehr zu tun, als es öffentlich kommuniziert.
Diese Formulierungen lassen dem Unternehmen viel Spielraum, die Daten auch für Zwecke zu nutzen, die über das reine Training von KI-Modellen hinausgehen. Wer die Partner sind, an die die Daten verkauft werden, und was diese damit tun dürfen, wird nicht offengelegt.
Rechtliche Grauzonen und Sicherheitsrisiken
Die Praxis, nur eine Seite des Gesprächs aufzuzeichnen, könnte ein Versuch sein, Gesetze zum Abhören von Gesprächen zu umgehen. In vielen US-Bundesstaaten ist die Zustimmung beider Parteien für eine Aufzeichnung erforderlich. „Die Aufzeichnung nur einer Seite des Anrufs zielt darauf ab, Abhörgesetze zu umgehen“, erklärte Jennifer Daniels, Partnerin der Anwaltskanzlei Blank Rome, gegenüber TechCrunch.
Einseitige vs. zweiseitige Zustimmung
In Deutschland gilt das Prinzip der zweiseitigen Zustimmung. Das heimliche Aufzeichnen des nicht öffentlich gesprochenen Wortes ist strafbar (§ 201 StGB). Die Strategie von Neon, nur eine Gesprächsseite aufzuzeichnen, wäre hierzulande rechtlich äußerst problematisch und würde die Privatsphäre der nicht informierten Gesprächspartner verletzen.
Andere Experten äußern Zweifel an dieser Methode. Peter Jackson, ein Anwalt für Cybersicherheit und Datenschutz bei Greenberg Glusker, vermutet, dass dies eine Umschreibung dafür sein könnte, dass das gesamte Gespräch aufgezeichnet und lediglich die Stimme des Gesprächspartners aus dem Transkript entfernt wird.
Gefahr durch Stimm-Imitation und Betrug
Ein weiteres großes Risiko liegt in der Natur der gesammelten Daten. Neon gibt an, persönliche Informationen wie Namen, E-Mails und Telefonnummern vor dem Verkauf zu entfernen. Die Stimme selbst ist jedoch ein eindeutiges biometrisches Merkmal.
„Sobald Ihre Stimme dort draußen ist, kann sie für Betrug verwendet werden“, warnt Jackson. Kriminelle könnten die Aufnahmen nutzen, um die Stimme einer Person zu klonen und damit betrügerische Anrufe zu tätigen oder Sicherheitssysteme zu umgehen, die auf Stimmerkennung basieren. Das Potenzial für Identitätsdiebstahl und Betrug ist erheblich.
- Deepfake-Anrufe: Geklonte Stimmen können verwendet werden, um Freunde oder Familie zu täuschen.
- Umgehung von Sicherheitssystemen: Banken und andere Dienste nutzen Stimmerkennung zur Authentifizierung.
- Erstellung von KI-Stimmen: Die Stimme eines Nutzers könnte ohne dessen Zustimmung für kommerzielle KI-Produkte verwendet werden.
Zudem ist ein Unternehmen, das solch wertvolle Daten sammelt, ein attraktives Ziel für Hacker. Ein Datenleck könnte die Stimmaufnahmen tausender Nutzer in die falschen Hände geraten lassen.
Eine veränderte Wahrnehmung von Privatsphäre?
Der Erfolg von Neon wirft die Frage auf, ob sich die Einstellung der Gesellschaft zur digitalen Privatsphäre verändert hat. Früher sorgten Enthüllungen über verdeckte Datensammlungen, wie etwa durch Apps von Facebook, für große Skandale. Neon hingegen geht offen mit seinem Geschäftsmodell um – und findet dennoch eine breite Nutzerbasis.
Die zunehmende Verbreitung von KI-Assistenten, die bei Besprechungen Notizen anfertigen, oder von Always-on-Geräten könnte zu einer gewissen Abstumpfung geführt haben. Einige Nutzer mögen denken, dass ihre Daten ohnehin gesammelt und verkauft werden und sie daher zumindest davon profitieren sollten.
Diese Haltung birgt jedoch Gefahren. Nutzer geben nicht nur ihre eigene Privatsphäre auf, sondern auch die ihrer Gesprächspartner, die von der Aufzeichnung nichts wissen. „Es gibt ein enormes Verlangen, die eigene Arbeit so einfach wie möglich zu gestalten“, so Anwalt Peter Jackson. „Einige dieser Produktivitätswerkzeuge tun dies auf Kosten der Privatsphäre – nicht nur der eigenen, sondern zunehmend auch derjenigen, mit denen man täglich interagiert.“
