Microsoft ruft KI-Datenschutzbedenken zurück, die durch einfaches Python-Skript nicht ausgeräumt werden konnten

Da multimodale generative KI eines der heißesten Themen der letzten Jahre ist, war es naheliegend, dass Microsoft sie in so viele Ecken und Winkel wie möglich in Windows integrieren wollte. Kurz nach der Ankündigung der Recall-Funktion für Copilot+-Systeme am 20. Mai zeigte jedoch ein einfaches Python-Skript, das auf GitHub veröffentlicht wurde, dass Microsoft einen ziemlich schwerwiegenden Fehler gemacht hat: Die dort gespeicherten Daten sind überhaupt nicht sicher.

Hintergrundinformationen zum Microsoft-Rückruf

Microsoft Recall ist eine Funktion der neuen Copilot+-PCs des Unternehmens, die mit einer erweiterten ARM-Version von Windows 11 ausgestattet sind. Die Chips in den Computern sind darauf ausgelegt, so viele Vorgänge wie möglich mit einem möglichst geringen Stromverbrauch auszuführen. Dadurch sind sie in der Lage, KI in den Arbeitsablauf des Benutzers zu integrieren, ohne dass Remote-Server zur Bearbeitung der Anfragen erforderlich sind.

SDXL

Recall soll das Windows-Erlebnis verbessern, indem es während der Nutzung regelmäßig Screenshots Ihres Systems erstellt und dann alle Informationen durch ein Computer Vision-KI-Modell verarbeitet, das die auf Ihrem Bildschirm vorhandenen Elemente interpretiert. Dies kann Ihnen später dabei helfen, Ihre Sitzung zu durchforsten und auf Dinge zurückzublicken, die Sie früher in Ihrer Sitzung getan haben.

Vorausgesetzt, Ihr Bildschirm ändert sich ständig, macht Recall alle fünf Sekunden Screenshots und speichert diese. Andernfalls wartet es, bis Änderungen vorgenommen werden.

Ein Grund zur Sorge?

Die Vorstellung, dass unverschlüsselte Screenshots Ihrer Aktivitäten – darunter auch Passwörter, die Sie möglicherweise im Klartext eingegeben haben – ungeschützt in Ihrem Dateisystem gespeichert sind, klingt beängstigend, ist aber nicht so katastrophal, wie es vielleicht klingt.

SDXL

Die Bedenken hinsichtlich der Privatsphäre sind immer noch gültig. Wenn man den Benutzern einen so einfachen und barrierefreien Zugriff auf die Dateien von Recall ermöglicht, ist es für geschickte Social Engineers sehr einfach, weniger technisch versierte Menschen davon zu überzeugen, die Dateien zu komprimieren. KernAIPlatform.00 Ordner ohne nachzudenken in eine ZIP-Datei und übergeben Sie alle Daten.

Bestimmte Anwendungen können böswillig Informationen aus Benutzeraktivität Ereignisse mithilfe der API des Recall-Systems ohne Konsequenzen. Es könnte sogar möglich sein, diese Art der Datenerfassung ohne erhöhte Berechtigungen durchzuführen, was bedeutet, dass Benutzer nicht einmal benachrichtigt würden, wenn dies geschieht.

Es gibt jedoch einen Lichtblick: Der Fernzugriff auf all diese Daten ist ohne das Wissen oder die Zustimmung des Benutzers immer noch äußerst schwierig. Trotz aller Fehler in diesem System werden Recall-Daten immer noch lokal auf Copilot+-Maschinen gespeichert, die mit einigen der sichersten Standardeinstellungen aller Windows-basierten Systeme ausgeliefert werden.

Alle kompatiblen Geräte verwenden standardmäßig die Windows-Geräteverschlüsselung oder BitLocker und verfügen über eine verbesserte Anmeldesicherheit durch Geräte-PINs und biometrische Daten. Um fair zu sein, ist letzteres mit einigen einfachen Techniken zum Zurücksetzen von Passwörtern, die über ein Jahrzehnt lang funktioniert haben, immer noch ziemlich einfach zu umgehen.

Damit ist Microsoft zwar immer noch nicht aus der Verantwortung entlassen, aber es erklärt immerhin, warum das Unternehmen davon überzeugt war, dass es nicht das Schlimmste auf der Welt wäre, eine unverschlüsselte SQLite-Datenbank bereitzustellen und alle von Recall aufgenommenen Bilder ohne zusätzliche Verschlüsselung in lokalen Ordnern zu speichern.

So beheben Sie das Problem

Wenn Sie ein Copilot+-System verwenden und Bedenken hinsichtlich der Auswirkungen von Recall auf die Sicherheit Ihres Systems haben, können Sie Recall deaktivieren, indem Sie zu Ihrem Einstellungen Menü und klicken Sie sich durch Datenschutz & Sicherheit -> Rückruf & Schnappschüsse und Deaktivieren der Schnappschüsse speichern Wenn Sie diese Option nicht sehen, ist Recall höchstwahrscheinlich nicht auf Ihrem System installiert.

Microsoft sollte einen Bereich einrichten, der in einer Sandbox vor dem Zugriff durch lokal ausgeführte Anwendungen und Skripte geschützt ist. Wenn ein einfaches Python-Skript die Daten aufnehmen und in die erstellten Ordner sortieren kann, ist es für dasselbe Skript auch möglich, all diese Daten irgendwo auf eine Serverfarm hochzuladen. Dies sollte zumindest durch eine Benutzerzugriffssteuerung blockiert werden, wenn nicht sogar vollständig in einem Binärblob verschlüsselt werden, wie es bei fast allen anderen kritischen Komponenten des Systems der Fall sein sollte.

SDXL, alle Screenshots von Miguel Leiva-Gomez