KI-Chatbot bei McDonald’s: Millionen Bewerberdaten waren ungeschützt

Um Vorstellungsgespräche effizienter zu gestalten, nutzt McDonald’s seit März einen KI-Chatbot namens Olivia. Die dort gespeicherten Nutzer*innendaten waren allerdings verwundbar. Einer Gruppe von Sicherheitsforscher*innen ist es nämlich gelungen, Zugriff auf die Daten von Millionen Bewerber*innen zu erhalten. Die für die KI verantwortliche Firma Paradox hatte anscheinend keine ausreichenden Schutzmechanismen implementiert.

Beim Bewerbungsverfahren befragt der Chatbot Nutzer*innen unter anderem nach Kontaktinformationen und einem Lebenslauf, anschließend folgt ein Persönlichkeitstest. Die Sicherheitsforscher*innen sind aufgrund von frustrierten Nutzererfahrungen auf den Chatbot aufmerksam geworden und machten sich ans Werk.

Immerhin: Manipulative Anfragen konnten dem LLM keine privaten Daten entlocken. Die Sicherheitslücke lag in den Anmeldungsmöglichkeiten für Paradox-Mitarbeitende: Aufgrund des Kennworts „123456“ und einer nicht vorhandenen Multifaktor-Authentifizierung konnten sich die Forscher*innen in einen Administratoraccount einloggen. Damit hatten sie Zugriff auf 64 Millionen Bewerber*innendaten. Stichprobentests ergaben, dass es sich tatsächlich um real existierende Personen handelt. Die Forscher*innen riefen jedoch nur wenige Nutzer*innendaten ab, um die Privatsphäre der Individuen zu schützen. Mit den Daten stünden Kriminellen theoretisch zahlreiche Angriffsmöglichkeiten, wie zum Beispiel Phishing-Angriffe, zur Verfügung.

Die Sicherheitsforscher*innen informierten Paradox, woraufhin die Firma die Lücke geschlossen hat. Laut eigener Angabe habe es sich bei der Login-Möglichkeit um ein Relikt aus einer Testphase gehandelt, welches längst hätte entfernt werden sollen. Der Testzugriff sei allerdings weder von Dritten genutzt worden, noch seien personenbezogene Daten gestohlen worden.

McDonald’s selbst schiebt jede Verantwortung von sich und betont seine Enttäuschung über die Sicherheitslücke. Schuld sei lediglich der Drittanbieter Paradox.ai, welcher das Problem noch am selben Tag behoben habe.