Zum Hauptinhalt springen

Intercom AI-Produkte: Ein Leitfaden für Kunden-, Rechts- und Sicherheitsteams

Verfasst von Beth-Ann Sher

Was ist ein Intercom AI Product?

Dies sind verschiedene Produkte/Funktionen, die die proprietäre Technologie von Intercom und/oder KI-Technologie von Drittanbietern integrieren. Grob gesagt lassen sich unsere AI Products in folgende Kategorien unterteilen:

  1. Fin AI Agent

  2. Copilot

  3. KI in den Inbox-Funktionen

  4. KI in unserem Telefonangebot, einschließlich Transkripten und Fin Voice

  5. Pro

  6. Fin für Sales, Fin für Ecommerce

Für einen tieferen Einblick in unsere AI Products und deren jeweilige Funktionen sehen Sie die entsprechende Dokumentation in unserem Help Center.


Welche Bedingungen gelten für meine Nutzung eines AI Product?

Ihre Nutzung eines AI Product unterliegt den AI Product - Additional Product Terms.

Welche Drittanbieter-KI-Anbieter nutzen Sie?

Wir evaluieren ständig die von uns genutzten Drittanbieter-KI-Modelle und -Anbieter (unter Berücksichtigung von Metriken wie Lösungsraten, Halluzinationsraten, Antwortlatenz), um sicherzustellen, dass wir unseren Kunden weiterhin die besten AI Products liefern. Drittanbieter-KI-Anbieter, die wir zur Bereitstellung eines AI Product nutzen können, sind in unserer Subprocessors List aufgeführt. Die aktuelle Liste umfasst:

  1. AWS Bedrock (aufgeführt als Amazon Web Services, Inc.) – Nutzung von Anthropics Modellen innerhalb der AWS Bedrock-Infrastruktur.

  2. OpenAI, LLC

  3. Anthropic, PBC

  4. Microsoft’s Azure OpenAI

  5. Google (Vertex)

  6. ElevenLabs (Text-zu-Sprache-Funktion in Fin Voice)

  7. Cartesia AI, Inc. (Text-zu-Sprache-Funktion in Fin Voice)

Welche Modelle wir zur Bereitstellung der Dienste verwenden, hängt vom AI Product ab, das Sie nutzen, sowie davon, ob Sie einen regional gehosteten Workspace aktiviert haben. Wir können auch eine Mischung von Modellen zur Bereitstellung eines einzelnen AI Product verwenden.


AI Products und EU-Regionale Hosting

Unsere AI Products werden unseren Kunden mit regional gehosteten Workspaces in der EU in einer Weise angeboten, die mit unseren bestehenden Verpflichtungen bezüglich Regional Data Hosting kompatibel ist. Unsere EU-Subprocessor-Liste enthält Drittanbieter-KI-Anbieter, die regionale Hosting-Optionen bieten (derzeit Microsoft Azure, AWS und OpenAI). Das bedeutet, dass alle Kundendaten, die als Input in ein AI Product eingehen, gemäß den Bedingungen Ihres Regional Data Hosting Addendum regional gehostet werden.


Auf welche Daten können die Drittanbieter-KI-Anbieter zugreifen?

Standardmäßig können alle Daten, Inhalte und Informationen (in jedem Format), die vom Kunden, seinen Permitted Users und/oder Personen im Intercom Workspace eingereicht werden, einschließlich, aber nicht beschränkt auf help center Inhalte und Konversationsdaten, als Input für AI Products dienen. Der Kunde kann steuern, auf welche Datenquellen bestimmte AI Products zugreifen dürfen. Siehe Knowledge sources to power AI, agents and self-serve support für weitere Details.


Was können die Drittanbieter-KI-Anbieter mit dem Input machen?

Die spezifischen Rechte, die den Drittanbieter-KI-Anbietern eingeräumt werden, sind in Abschnitt 7 der AI Product - Additional Product Terms festgelegt und umfassen das Recht:

  1. Den Input zu verwenden, um das AI Product für den Kunden bereitzustellen (einschließlich zur Vorbereitung kundenspezifischer In-Workspace-Vorschauen einiger AI Products, z. B. Copilot).

  2. Gesetze einzuhalten

  3. Eigene Richtlinien durchzusetzen und sicherzustellen, dass der Input keine Verpflichtungen in Bezug auf schädliche oder illegale Inhalte verletzt, wie in der Acceptable Use Policy des Drittanbieter-KI-Anbieters näher beschrieben. Drittanbieter-KI-Anbieter verwenden Sicherheitsklassifikatoren, um solche Inhalte in an ihre Dienste übermittelten Eingaben zu überprüfen. Obwohl die genaue Funktionsweise dieser Sicherheitsklassifikatoren zwischen den Drittanbieter-KI-Anbietern variiert, erfordert keiner der Prozesse die Speicherung von Kundendaten, selbst wenn der Inhalt als möglicher Verstoß markiert wird.

Bedeutet das, dass ein Kunde bei der Nutzung eines AI Product den Bedingungen Dritter unterliegt?

Ja, wo erforderlich, haben wir bestimmte von den Drittanbieter-KI-Anbietern auferlegte Bedingungen an unsere Kunden weitergegeben. Eine vollständige Liste dieser Drittanbieter-Bedingungen ist in Abschnitt 8.1 der Additional Product Terms aufgeführt.


Gibt es Einschränkungen für Drittanbieter-KI-Anbieter?

Alle unsere Drittanbieter-KI-Anbieter unterliegen Folgendem:

  1. Keine Datenspeicherung: Eingaben und Ausgaben werden von unseren Drittanbieter-KI-Anbietern nicht dauerhaft gespeichert. Eingaben werden nur vorübergehend zur Bereitstellung der Ausgabe verwendet, bevor beide gelöscht werden. Hinweis: Eingaben können dennoch durch Sicherheitsklassifikatoren der Drittanbieter-KI-Anbieter geleitet werden, um sicherzustellen, dass keine Verstöße gegen deren akzeptable Nutzungsrichtlinien (AUP) vorliegen. Diese Sicherheitsklassifikatoren überprüfen jedoch keine personenbezogenen Daten.

  2. Kein Training oder Produktverbesserung: Intercom untersagt vertraglich den Drittanbieter-KI-Anbietern, Eingaben oder Ausgaben zur Schulung oder anderweitigen Verbesserung ihrer Modelle oder Dienste zu verwenden.

Was sind Sicherheitsklassifikatoren/Mechanismen zur Missbrauchserkennung?

LLM-Anbieter behalten sich typischerweise das Recht vor, Metadaten von Eingabeaufforderungen (ohne Überprüfung der eigentlichen Eingabeaufforderung) zu prüfen, um die Einhaltung ihrer jeweiligen AUP und gesetzlichen Verpflichtungen sicherzustellen. Keine Eingabeaufforderungen werden im Rahmen dieses Prozesses von den Drittanbieter-LLM-Anbietern gespeichert.


Was kann Intercom mit dem Input und Output machen?

Input und Output gelten als Kundendaten (siehe Abschnitt 2 der AI Product, Additional Product Terms). Abschnitt 3.2 unserer Nutzungsbedingungen legt die Rechte fest, die Intercom in Bezug auf Kundendaten hat, nämlich das Recht, während der Laufzeit auf die Kundendaten zuzugreifen, sie zu verwenden und anzuzeigen, um unsere Dienste bereitzustellen und zu verbessern. Wenn Ihr Endbenutzer personenbezogene Daten als Teil seiner Nachricht sendet oder wenn personenbezogene Daten in Ihren Knowledge Hub-Inhalten enthalten sind, werden diese personenbezogenen Daten während der Verarbeitung an einen Drittanbieter-KI-Anbieter gesendet.

Wir verwenden Kundendaten, um unsere Dienste zu verbessern, indem wir bestimmte KI-Modelle für Fin feinabstimmen, die dann in den von unseren Kunden genutzten AI Products eingesetzt werden. Diese Modelle werden mit anonymisierten Kundendaten trainiert. Weitere Informationen finden Sie unter Fin CX models.

Kunden können beantragen, dass ihre Kundendaten nicht für das Modelltraining verwendet werden. Weitere Informationen finden Sie in diesem help center article.


Wer ist verantwortlich für die Anleitung von Fin?

Kunden können Fin mit Wissensinhalten, Anleitungen (wie Fin sich verhält) und Verfahren (was Fin tut) trainieren. Außerdem können Sie Fin darauf trainieren, bestimmte Rollen wie Service oder Vertrieb auszuführen. Der Kunde ist verantwortlich dafür, Fin mit den entsprechenden Inhalten, Anleitungen und Anweisungen/Auslösern für Verfahren zu versorgen, einschließlich der Verwendung von Intercom-Vorlagenanweisungen oder KI-generierten Anweisungen. Es liegt in der Verantwortung des Kunden, das Training von Fin zu validieren und zu testen, bevor es live geschaltet wird.

Wer ist verantwortlich für die Bereitstellung von Fin?

Der Kunde ist in der einzigartigen Position, zu beurteilen, ob die beabsichtigte Nutzung eines AI Product angemessen ist, unter Berücksichtigung seiner eigenen regulatorischen, branchenspezifischen und rechtlichen Verpflichtungen sowie der in den AI Product Terms festgelegten Einschränkungen, insbesondere Abschnitt 5 (Genauigkeit) und Abschnitt 8 (Nutzungseinschränkungen) sowie der Intercom AUP.


Kann ich personenbezogene Daten aus Kundendaten entfernen, bevor sie an den Drittanbieter-KI-Anbieter gesendet werden?

Derzeit bieten wir keine Funktion oder Drittanbieter-Integration an, die es Kunden ermöglicht, personenbezogene Daten aus einer Endbenutzerinteraktion mit Fin zu entfernen, bevor die Daten als Input vom Drittanbieter-KI-Anbieter verarbeitet werden.


Welche weiteren vertraglichen Zusicherungen gibt Intercom in Bezug auf diese Drittanbieter-KI-Anbieter?

Als Subprozessoren unterliegen alle Drittanbieter-KI-Anbieter Abschnitt 7 der DPA, die zwischen Ihnen und Intercom besteht, in der wir Folgendes festlegen:

  • Intercom beschränkt den Zugriff der Drittanbieter-KI-Anbieter auf personenbezogene Kundendaten nur auf das, was zur Erbringung der Dienste unbedingt erforderlich ist, und untersagt ihnen, die personenbezogenen Kundendaten für andere Zwecke zu verarbeiten.

  • Intercom auferlegt den Drittanbieter-KI-Anbietern vertragliche Datenschutzpflichten, einschließlich angemessener technischer und organisatorischer Maßnahmen zum Schutz personenbezogener Daten, um personenbezogene Kundendaten gemäß den Anforderungen der geltenden Datenschutzgesetze zu schützen; und

  • Intercom bleibt haftbar und verantwortlich für Verstöße gegen die DPA, die durch Handlungen oder Unterlassungen der Drittanbieter-KI-Anbieter verursacht werden.


Welche Sicherheitsmaßnahmen setzen Sie zum Schutz vor bekannten LLM-Sicherheitsrisiken um?

Intercom hat modernste Sicherheitsmaßnahmen implementiert, um Fin gegen eine Vielzahl von LLM-Bedrohungen zu schützen, einschließlich der vom OWASP LLM Top 10 identifizierten. Durch konsequentes Testen verschiedener High-End-LLMs und den Einsatz rigoroser interner Kontrollen, Sicherheitsprotokolle und Schutzmaßnahmen kann Fin ein hohes Maß an Sicherheit und Zuverlässigkeit erreichen und gleichzeitig potenzielle Einschränkungen und Bedrohungen vermeiden.

Siehe das Fin AI Security-Dokument für weitere Details.


AI Product und HIPAA-Konformität

Intercom hat Business Associate Agreements (BAAs) mit allen relevanten Drittanbieter-KI-Anbietern abgeschlossen.


Fin und das AI-Gesetz

Wir haben einige Hinweise zu Fin AI Agent und dem AI-Gesetz bereitgestellt.


Verwendung von AI Products zur Überwachung der Leistung von Kundenservice-Mitarbeitern

Einige unserer Pro-Funktionen (CX Score & Teammate QA mit Monitoren und benutzerdefinierten Scorecards) ermöglichen es Kunden, ihre menschlichen Kundensupport-Gespräche zu bewerten.

In Gesprächen mit mehreren Teilnehmern (z. B. wenn Fin das Gespräch beginnt und ein Teammitglied es beendet oder mehrere Teammitglieder beteiligt sind) spiegelt die Scorecard den individuellen Beitrag des Teilnehmers wider, den der Kunde bei der Einrichtung der Scorecard angibt.

Monitore und benutzerdefinierte Scorecards sind darauf ausgelegt, die Qualität von Gesprächen zu überprüfen, nicht um die Leistung einzelner Teammitglieder für arbeitsrechtliche Zwecke zu bewerten. Kunden dürfen sich nicht ausschließlich auf von KI bewertete benutzerdefinierte Scorecards verlassen, um arbeitsbezogene Entscheidungen über menschliche Agenten ohne angemessene menschliche Überprüfung wesentlich zu beeinflussen. Eine solche Nutzung wäre im Widerspruch zu den AI Product Terms und der Acceptable Use Policy von Fin.

Hat dies deine Frage beantwortet?