Kalypta: KI-Tool zum Schutz vor automatischen Anrufaufnahmen
Deveillance hat Kalypta vorgestellt, ein lokales KI-Tool, das adversariales Rauschen in Audioströme einfügt, um die automatische Spracherkennung von Diensten wie Wispr und Granola zu stören.
Nervt es Sie auch, dass Meeting-Rekorder mittlerweile in jedes Gespräch integriert werden? Besonders dann, wenn sie ohne Ihr Wissen über Dienste wie Wispr oder Granola verbunden sind.
Entwickler von Deveillance haben eine Gegenmaßnahme geschaffen – das Produkt Kalypta.
Funktionsweise
Ein lokal ausgeführtes LLM, das adversarial gegen Voice-to-Text-Modelle trainiert wurde, fügt Ihrem Audio-Stream in Echtzeit adversariales Rauschen hinzu. Dieses Rauschen unterbricht die Spracherkennung auf der Gegenseite und macht automatische Transkripte unbrauchbar.
Nachteile
Gelegentlich macht dieses Rauschen Ihre Sprache selbst für Menschen schwer verständlich.
Ausblick
Entwickler von Transkriptionsmodellen müssen ihre Modelle regelmäßig neu trainieren, um robust gegen solche Angriffe zu sein.
Wenn es dem Team gelingt, das offensichtliche Rauschen zu entfernen und das Produkt zu verfeinern, wird es zu einem nützlichen Werkzeug zur Wahrung der Privatsphäre bei Anrufen.
Warum das wichtig ist
AnalyseDies stellt eine bedeutende Entwicklung im Wettrüsten zwischen KI-Transkriptionsdiensten und Datenschutz-Tools dar und bietet Nutzern eine Möglichkeit, die Vertraulichkeit in der Unternehmenskommunikation zu schützen.
In der Community diskutieren
Teile deine Fragen und Erkenntnisse mit Entwicklern