Wie Teamdock Kundendaten aus KI-Prompts heraushält
Wenn Teamdock eine Antwort an einen Kunden entwirft, liest ein KI-Anbieter die Frage. So
funktionieren diese Funktionen. Wer der Kunde ist, muss er dafür nicht lesen. Hier erfahren
Sie, was wir senden, was wir vorher ersetzen und was wir nicht versprechen können.
Was Ihren Workspace verlässt, und wann
Ihr Workspace läuft auf eigenem Serverplatz in Deutschland. Daten gehen nur dann an einen
KI-Anbieter (Mistral, auf in der EU gehosteten Modellen, über ein Gateway, das Teamdock für Ihren Workspace betreibt), wenn Sie eine
KI-Funktion nutzen. Das sind die Funktionen, bei denen Kundendaten beteiligt sein können, und
das geschieht mit ihnen:
Funktion
Was sie liest
Personenbezogene Daten
Ticketanalyse und Antwortentwürfe
Die Nachricht, der Kundendatensatz und die letzten Bestellungen
Ersetzt, dann im Entwurf wieder eingesetzt
Der Assistent
Ihre Frage und was seine Tools nachschlagen (Bestellungen, Kunden)
Ersetzt, dann in der Antwort und bei Tool-Abfragen wieder eingesetzt
Bestellung aus einer E-Mail
Die weitergeleitete E-Mail
Ersetzt, dann in den Bestellfeldern wieder eingesetzt
FAQ-Vorschläge
Abgeschlossene Tickets
Ersetzt und aus dem Vorschlag entfernt
Produkttexte und Übersetzungen
Produktfelder und Ihre Notizen
Nichts zu ersetzen: keine Kundendaten
Platzhalter statt Personen
Bevor eine Anfrage den Workspace verlässt, sucht Teamdock nach personenbezogenen Daten und
ersetzt jeden Wert durch einen Platzhalter: Namen, E-Mail-Adressen, Telefonnummern,
Straßenadressen, Postleitzahlen, Firmennamen, IBAN- und Umsatzsteuernummern sowie Links. Das
ist die tatsächliche Ausgabe für eine typische E-Mail (die Person ist erfunden):
In Ihrem Workspace
Von: Jan de Vries <jan.devries@example.nl>
Betreff: Frage zu Bestellung 10482
Meine Bestellung 10482 ist nicht angekommen. Können Sie sie an
Dorpsstraat 12, 1234 AB Utrecht schicken? Rufen Sie mich unter 06 12345678 an.
Mit freundlichen Grüßen
Jan de Vries
Was der KI-Anbieter erhält
Von: [NAME_1] de [NAME_2] <[EMAIL_1]>
Betreff: Frage zu Bestellung 10482
Meine Bestellung 10482 ist nicht angekommen. Können Sie sie an
[ADDRESS_1], [POSTCODE_1] Utrecht schicken? Rufen Sie mich unter [PHONE_1] an.
Mit freundlichen Grüßen
[NAME_1] de [NAME_2]
Drei Details sorgen dafür, dass das in der Praxis funktioniert:
Derselbe Wert erhält immer denselben Platzhalter. Das Modell kann weiterhin
erkennen, dass der Absender und der Kunde von Bestellung 10482 dieselbe Person sind oder dass
eine Nachricht zwei verschiedene Adressen nennt. Es kann nur nicht erkennen, wer sie sind.
Strukturierte Daten werden nach Feld ersetzt, nicht durch Raten. Enthält
die Anfrage den Kundendatensatz aus Ihrem Shop, werden die Felder für Name, E-Mail, Telefon,
Adresse und Firma immer ersetzt, egal was darin steht. Die dort gefundenen Namen werden
anschließend auch überall im Nachrichtentext ersetzt, wo sie vorkommen.
Die echten Werte kommen innerhalb Ihres Workspaces zurück. Das Modell
schreibt „Hallo [NAME_1]", und Teamdock macht daraus „Hallo Jan", bevor Sie den Entwurf
sehen. Die Liste, die Platzhalter mit echten Werten verknüpft, bleibt für diese eine Anfrage
im Arbeitsspeicher des Workspaces. Sie wird nirgendwohin gesendet und nicht gespeichert.
Bestellnummern, Beträge, Daten, Produkte und der Ort werden nicht ersetzt. Ohne sie kann die
KI die Frage „Wo ist meine Bestellung?" nicht beantworten, und für sich allein identifizieren
sie niemanden.
FAQ-Vorschläge sind die Ausnahme
Teamdock kann neue FAQ-Einträge vorschlagen, basierend auf Fragen, die Ihr Team beantwortet
hat. Eine FAQ ist öffentlicher Text, daher sollten die Angaben eines Kunden dort nie
erscheinen, auch nicht korrekt. Bei dieser Funktion werden Platzhalter in der Antwort gelöscht,
statt wieder ausgefüllt.
Was dabei nicht erkannt wird
Das Ersetzen geschieht automatisch. Es arbeitet mit Mustern, mit den Feldern der Datensätze
Ihres Shops und mit den Stellen, an denen Namen üblicherweise stehen (Anrede, Grußformel,
Absenderzeile). Damit werden die meisten personenbezogenen Daten in einer typischen
Support-E-Mail erfasst. Aber nicht alle:
Ein Name, der sonst nirgends vorkommt
„Mein Nachbar Kees hat das Paket angenommen." Kees ist nicht der Absender, steht in keinem Feld und in keiner Anrede, also kennzeichnet ihn nichts als Namen.
Adressformate, die wir noch nicht erkennen
Straßenadressen werden anhand niederländischer Muster erkannt („Dorpsstraat 12"). „12 rue de la Paix" oder „Hauptstr. 5" können durchrutschen.
Worum es in der Nachricht geht
Ort, Produkte und die Frage selbst werden so gesendet, wie sie geschrieben sind, weil die KI sie braucht. Eine Beschwerde über ein Medizinprodukt sagt das weiterhin.
Ihre eigenen Mitarbeitenden
Der Assistent erfährt, wer angemeldet ist, damit „schick es mir" funktioniert.
Pseudonymisiert, nicht anonym
Wir nennen das bewusst Pseudonymisierung und nicht Anonymisierung. Nach der DSGVO sind Daten
pseudonymisiert, wenn sie ohne zusätzliche, getrennt aufbewahrte Informationen keiner Person
mehr zugeordnet werden können (Art. 4 Nr. 5). Diese zusätzlichen Informationen haben wir: So
bekommt der Entwurf den Namen des Kunden zurück. Erwägungsgrund 26 stellt klar, dass
pseudonymisierte Daten weiterhin personenbezogene Daten sind.
Deshalb ändert sich auf dem Papier nichts. Die KI-Anbieter sind weiterhin als
Unterauftragsverarbeiter in Anhang A unseres Auftragsverarbeitungsvertrags aufgeführt, Übermittlungen außerhalb der EU
laufen weiterhin über Standardvertragsklauseln, und das Ersetzen ist in Anhang B als
Sicherheitsmaßnahme beschrieben. Was sich ändert, ist, wie viel ein Anbieter über Ihre Kunden
sehen kann: Bei einer normalen Anfrage erreichen ihn Name, E-Mail-Adresse, Telefonnummer und
Straßenadresse überhaupt nicht mehr.
Was Sie steuern
Wo KI läuft. Auf Modellen, die in der EU gehostet werden, über das eigene Gateway Ihres Workspace. Sie müssen keine Schlüssel von Anbietern eintragen.
Was Sie hinzufügen. Zwei optionale Dienste außerhalb der EU, Claude und Jev, bleiben ausgeschaltet, bis ein Administrator sie unter Einstellungen → KI einschaltet.
Pro Ticket. Mitarbeitende können die KI-Analyse für ein einzelnes Ticket ausschalten.
Was an Kunden geht. Ein Entwurf ist ein Entwurf. Mitarbeitende lesen und genehmigen jede von der KI geschriebene Antwort, bevor sie verschickt wird.
Die vollständige Liste der Unternehmen, die Daten für Teamdock verarbeiten, und wo, finden Sie
auf unserer Sicherheitsseite.
Fragen zu Ihren Daten?
Fragen Sie uns, bevor Sie sich anmelden. Wir sagen Ihnen genau, was wohin gesendet wird, auch
bei Funktionen, von denen Sie noch nicht wissen, ob Sie sie nutzen werden.