Verwenden Sie diesen Artikel, um Ihre Evals zu finden, zu filtern und zu taggen, ein neues Eval zu erstellen, Ihre Evals zu organisieren, Simulationen aus einer CSV (comma-separated values)-Datei zu importieren, eine Scorecard hinzuzufügen und zu sehen, wie Fin bei Ihren Evals abschneidet.
Was ist die Evals-Seite?
Die Evals-Seite listet jedes Eval in Ihrem Arbeitsbereich auf, sodass Sie sehen können, wie jede Testgruppe abgeschnitten hat und sie erneut ausführen können. Ein Eval ist eine thematische Gruppe von Tests, und jeder Test darin wird Simulation genannt. Um die Seite zu öffnen, gehen Sie zu Fin AI Agent > Test > Evals.
Die Evals-Tabelle hat diese Spalten:
Eval-Name: der Name des Evals, mit einer Schaltfläche zum Ausführen daneben. Fahren Sie mit der Maus über die Schaltfläche, um das Label Eval ausführen zu sehen.
Ergebnis: wie das Eval bei seinem letzten Lauf abgeschnitten hat, zum Beispiel 4/6 Bestanden.
Tags: alle an das Eval angehängten Tags.
Datum des letzten Laufs: das Datum, an dem das Eval zuletzt ausgeführt wurde.
Zuletzt ausgeführt von: wer das Eval zuletzt ausgeführt hat.
Zuletzt aktualisiert: wann das Eval zuletzt geändert wurde.
Erstellt: wann das Eval erstellt wurde.
Wie Sie Ihre Evals organisieren
Um Ihre Evals zu organisieren, gruppieren Sie Simulationen in Evals nach einem Thema, das für Ihr Unternehmen sinnvoll ist. Viele Teams beginnen mit dem, was noch nicht funktioniert, und bauen darauf auf. Häufige Ausgangspunkte sind:
Bekannte Probleme: Gespräche, bei denen Fin eine falsche, unvollständige oder unbrauchbare Antwort gab. Erstellen Sie jede davon als Simulation neu, beheben Sie die Ursache und führen Sie sie erneut aus, um die Korrektur zu bestätigen. Um ein Gespräch schnell neu zu erstellen, siehe Wie man eine Simulation aus einem echten Gespräch in Set up Simulations for Evals erstellt.
Eskaltionsszenarien: Situationen, in denen Fin an einen Teamkollegen übergeben sollte (oder nicht).
Themenszenarien: ein Thema, wie Rückerstattungsanfragen, getestet über verschiedene Variationen. Ihre Top 10 oder 20 Themen nach Gesprächsvolumen sind ein guter Startpunkt.
Verhaltensszenarien: Überprüfungen, dass Fin in verschiedenen Situationen, unabhängig vom Thema, den Ton und die Marke einhält.
Im Laufe der Zeit bauen Sie ein oder mehrere Evals als „goldenes Set“ auf, das die für Sie wichtigsten Gespräche abdeckt. Führen Sie das goldene Set regelmäßig erneut aus, zum Beispiel wöchentlich oder immer dann, wenn Sie die Konfiguration von Fin ändern, um sicherzustellen, dass Ihre wichtigsten Szenarien weiterhin funktionieren.
Wie Sie ein Eval nach Name, Ergebnis oder Tag finden
Um ein Eval nach Name zu finden, geben Sie im Feld Evals durchsuchen oben auf der Evals-Seite ein. Um die Liste einzuschränken, klicken Sie auf Filter hinzufügen und wählen Ergebnis oder Tag.
Wie Sie Evals nach Ergebnis filtern
Gehen Sie zu Fin AI Agent > Test > Evals.
Klicken Sie auf Filter hinzufügen, dann auf Ergebnis.
Wählen Sie ein oder mehrere Ergebnisse: Nicht ausgeführt, Läuft, In Warteschlange, Bestanden, Teilweise bestanden, Fehlgeschlagen, Abgebrochen oder Nicht verarbeitbar.
Wie Sie Evals nach Tag filtern
Gehen Sie zu Fin AI Agent > Test > Evals.
Klicken Sie auf Filter hinzufügen, dann auf Tag.
Wählen Sie ein oder mehrere Tags aus. Jeder Tag zeigt, wie viele Evals ihn verwenden.
Wie Sie ein neues Eval erstellen
Um ein Eval zu erstellen, wählen Sie, ob Sie es manuell erstellen oder eine Liste von Kundenszenarien aus einer CSV (comma-separated values)-Datei importieren möchten.
Gehen Sie zu Fin AI Agent > Test > Evals.
Klicken Sie auf Neues Eval.
Wählen Sie Manuell erstellen, um Ihre Simulationen selbst zu erstellen, oder CSV hochladen, um eine Liste von Kundenszenarien zu importieren.
Geben Sie dem Eval einen klaren, beschreibenden Namen von bis zu 250 Zeichen, damit Sie und Ihre Teamkollegen erkennen können, was es abdeckt, wenn Sie es später erneut ausführen.
Jedes Eval kann bis zu 50 Simulationen enthalten. Um aus einer CSV-Datei zu importieren, siehe Wie man Simulationen aus einer CSV-Datei importiert. Um die Simulationen innerhalb eines Evals einzurichten, siehe Simulationen für Evals einrichten.
Wie man Simulationen aus einer CSV-Datei importiert
Um Simulationen aus einer CSV-Datei zu importieren, laden Sie diese von der Evals-Seite oder innerhalb eines Evals hoch. Jede Zeile wird zu einer Simulation, und Sie überprüfen jede Spaltenzuordnung, bevor etwas gespeichert wird. Zum Importieren benötigen Sie Kann Konfiguration ansehen und Änderungen in einem Entwurfsversion vorschlagen oder Kann Konfiguration ansehen und Änderungen direkt im Hauptzweig veröffentlichen (einzeln oder in einer Version) unter Fin AI Agent & Automation.
Um in ein neues Eval zu importieren, gehen Sie zu Fin AI Agent > Test > Evals, klicken Sie auf Neues Eval und wählen Sie CSV hochladen. Um Simulationen zu einem bereits vorhandenen Eval hinzuzufügen, öffnen Sie es, wählen Sie CSV importieren im Optionsmenü (...) und wählen Sie dann dieses Eval unter Importieren nach.
Was kann eine CSV-Datei für Simulationen enthalten?
Ein CSV-Import kann 5 Simulationsfelder ausfüllen. Nur die Eröffnungsnachricht ist erforderlich.
Eröffnungsnachricht (erforderlich): das Erste, was der simulierte Kunde zu Fin sagt.
Folgeanweisungen: was der Kunde weiß, was er Fin auf Nachfrage mitteilt und wie er kommuniziert.
Channel: der Kanal, in dem der simulierte Kunde schreibt, entweder Messenger oder E-Mail.
Handoff: ob Fin das Gespräch übergeben soll: keine, an ein Team oder an einen Workflow.
Expected answer: was Fin sagen oder tun soll, um zu bestehen. Jede erwartete Antwort wird zu einer Fin-Antwortprüfung. Um mehrere erwartete Antworten für eine Simulation hinzuzufügen, setzen Sie jede in eine eigene Zeile in derselben Zelle.
Um mit einer fertigen Datei zu starten, klicken Sie im Dialog Upload a CSV file auf Download template. Die Vorlage hat eine Spalte für jedes der 5 Felder.
Spaltenüberschriften müssen nicht genau mit der Vorlage übereinstimmen. Gängige Namen wie question, prompt, persona, outcome oder ground truth werden automatisch erkannt. Dateien mit Komma-, Semikolon- oder Tabulatortrennung funktionieren alle.
Was sind die CSV-Importgrenzen?
Limit | Value |
Zeilen pro Datei und pro Eval | 50 |
Dateigröße | 10 MB |
Zeichen pro erwarteter Antwort | 1.000 |
Zuordnungsfelder der Simulation | 5 |
Wie man eine CSV-Datei hochlädt und Spalten den Simulationsfeldern zuordnet
Im Dialog Upload a CSV file ziehen Sie Ihre CSV-Datei hinein oder klicken auf Choose file. Die Datei wird im Browser gelesen und als Tabelle mit Zeilen- und Spaltenanzahl angezeigt, bevor etwas gespeichert wird. Um eine andere Datei zu verwenden, klicken Sie auf Replace file.
Überprüfen Sie die Tabelle und klicken Sie dann auf Continue.
Im Schritt Match the columns prüfen Sie das Simulationsfeld, das jeder Spalte zugeordnet ist, und ändern falsche Zuordnungen oder klicken auf Reset matches, um neu zu beginnen.
Neben Import to wählen Sie New eval und geben einen Namen ein oder wählen eine bestehende Eval, um die Simulationen hinzuzufügen.
Jedes Simulationsfeld ist einer Spalte zugeordnet, und nicht verwendete Spalten werden unter Not used aufgeführt und ignoriert. Wenn eine erwartete Antwort mehr als 1.000 Zeichen hat, werden Sie gefragt, was damit geschehen soll: Leave them out (Standard) importiert die Zeile ohne diese Antwort, Cut to 1,000 characters behält den Anfang der Antwort, und Skip these rows lässt die ganze Zeile weg.
Wie man Channel- und Handoff-Werte korrigiert, ohne die CSV-Datei zu bearbeiten
Wenn ein Channel- oder Handoff-Wert von Fin nicht erkannt wird, z. B. WhatsApp oder Yes, erscheint eine Warnung bei diesem Feld.
Wählen Sie die Warnung im Channel- oder Handoff-Feld aus.
Wählen Sie, was jeder nicht erkannte Wert bedeutet.
Klicken Sie auf Apply.
Sie können auch Skip rows wählen, um diese Zeilen vom Import auszuschließen. Jeder unbehandelte Wert wird standardmäßig für Channel auf Messenger und für Handoff auf No handoff gesetzt.
Wie man Simulationen aus einer CSV-Datei vorschaut und importiert
Klicken Sie auf Preview simulations, um jede Zeile so zu sehen, wie sie ausgeführt wird, einschließlich der ersten Nachricht, Folgeanweisungen, Fin-Antwortprüfungen und Übergabe.
Überprüfen Sie die Zeilenanzahl unten im Dialog. Dort steht, wie viele Zeilen importiert werden (z. B. 9 von 10 Zeilen) und was ausgeschlossen wird.
Klicken Sie auf Import.
Nach dem Import zeigt eine Bestätigung, wie viele Simulationen erstellt wurden. Jede Zeile erscheint in der Eval als Simulation, benannt nach ihrer Eröffnungsnachricht, bereit zum Klicken auf Run all. Importierte Simulationen verwenden den Test customer und alle Marken, öffnen Sie eine Simulation, um einen bestimmten Kunden auszuwählen. Tags werden der Eval hinzugefügt, nicht in der CSV-Datei. Beim Import innerhalb eines Release werden die Simulationen diesem Release hinzugefügt.
Wann können Sie keine Simulationen aus einer CSV-Datei importieren?
Keine Spalte ist Opening message zugeordnet oder keine Zeile hat eine solche.
Die neue Eval hat keinen Namen oder der Name ist bereits vergeben.
Ihre Datei hat mehr als 50 Zeilen.
Wenn Ihre Zeilen eine bestehende Eval über 50 Simulationen bringen würden, sehen Sie, wie viele noch passen, und können Import first [number] wählen, um nur diese zu importieren. Werden beim Import Zeilen abgelehnt, wird nichts gespeichert. Jede problematische Zeile wird mit Grund aufgelistet, und Sie können Import without these rows wählen, um den Rest zu importieren.
Wie man Evals taggt und Tags verwaltet
Tags gruppieren verwandte Evals, damit Sie sie schnell finden, wenn Ihre Suite wächst. Zum Beispiel taggen nach Thema (Refunds), Team oder Besitzer (Billing team), Testtyp (Regression, Escalation) oder Sprache (French). Eine Eval kann beliebig viele Tags haben.
Wie man einen Tag für Evals erstellt
Um Tags zu sehen und zu erstellen, klicken Sie oben rechts auf der Evals-Seite auf Tags. Das Tags-Panel listet jeden Tag und wie viele Evals ihn verwenden, und Sie können mit dem Search tags-Feld einen Tag finden.
Gehen Sie zu Fin AI Agent > Test > Evals.
Klicken Sie auf Tags, dann auf New tag.
Geben Sie unter Name einen Namen für den Tag ein, zum Beispiel „Refunds“.
Optional klicken Sie auf Add evals und wählen die Evals aus, die den Tag beim Erstellen erhalten sollen.
Klicken Sie auf Create tag.
Wie man Tags zu Evals hinzufügt
Aus der Evals-Liste: Wählen Sie die Kontrollkästchen neben einem oder mehreren Evals aus, klicken Sie oben über der Liste auf Tag und wählen Sie die hinzuzufügenden Tags aus. Sie können bis zu 100 Evals gleichzeitig taggen.
Innerhalb eines Evals: Klicken Sie unter dem Namen des Evals auf + Tag.
Wie man Tags für Evals umbenennt oder löscht
Um einen Tag umzubenennen oder zu löschen, klicken Sie oben auf der Evals-Seite auf Tags oder wählen Sie Tags verwalten im Tag-Auswahlmenü. Das Panel zeigt, wie viele Evals jeden Tag verwenden. Das Löschen eines Tags entfernt ihn aus jedem Eval, einschließlich Evals in Releases.
Hinweis: Tags gelten für Evals, nicht für einzelne Simulationen. Um Simulationen anders zu gruppieren, teilen Sie sie in separate Evals auf. Eval-Tags sind getrennt von den Tags, die Sie für Gespräche und Kontakte verwenden.
Wie man einem Eval eine Scorecard hinzufügt
Eine Scorecard fügt einem Eval eine Qualitätsbewertung hinzu, wie z. B. Klärung oder Effizienz, zusätzlich zu den Bestehen/Nicht-Bestehen-Prüfungen. Um eine hinzuzufügen, öffnen Sie das Eval und klicken Sie oben rechts neben Neue Simulation auf Scorecard hinzufügen. Nach dem Hinzufügen erscheint neben Simulationsergebnisse ein Abschnitt Qualitätsbewertung.
Um eine Scorecard zu erstellen, Kriterien hinzuzufügen und die Gewichtung sowie die Kritikalität jedes Kriteriums festzulegen, siehe Wie man einem Eval eine Scorecard hinzufügt.
Wie man sieht, wie Fin bei Ihren Evals abschneidet
Um zu sehen, wie Fin bei all Ihren Evals abgeschnitten hat, sehen Sie sich die Zusammenfassung oben unter Fin AI Agent > Test > Evals an. Sie spiegelt das letzte Mal wider, als jede Simulation ausgeführt wurde, und besteht aus zwei Teilen:
Simulationsergebnisse: wie viele Simulationen alle ihre Simulations- und Übergabeprüfungen bestanden haben, zum Beispiel 42/50 bestanden (84%). Simulationen mit Fehlern zählen als nicht bestanden, und Simulationen, die noch nicht ausgeführt wurden, zählen zur Gesamtzahl.
Qualitätsbewertung: Für jede Scorecard der durchschnittliche Bewertungsscore und der Durchschnitt für jedes Kriterium, über alle Evals, die sie verwenden. Verwenden Sie die Pfeile, um zwischen Scorecards zu wechseln.
Die Zusammenfassung aktualisiert sich mit Ihrer Suche und Ihren Filtern, sodass das Filtern nach einem Tag nur Ergebnisse für diese Evals anzeigt.
Um frühere Durchläufe zu vergleichen, öffnen Sie eine Simulation und klicken Sie auf das Dropdown-Menü der Ausführungshistorie neben ihrem Ergebnis. Es listet jeden Durchlauf nach Datum mit seinem Ergebnis auf.
FAQs zur Verwaltung von Evals
Wie viele Simulationen kann ein Eval enthalten?
Wie viele Simulationen kann ein Eval enthalten?
Ein Eval kann bis zu 50 Simulationen enthalten. Um mehr hinzuzufügen, löschen Sie vorhandene Simulationen oder erstellen Sie ein neues Eval.
Kann ich Simulationen aus einer CSV-Datei erstellen?
Kann ich Simulationen aus einer CSV-Datei erstellen?
Ja, Sie können Simulationen aus einer CSV-Datei erstellen. Klicken Sie auf Neues Eval und wählen Sie dann CSV hochladen, um eine Liste von Kundenszenarien zu importieren. Um importierte Simulationen zu einem bereits vorhandenen Eval hinzuzufügen, öffnen Sie es und wählen Sie CSV importieren im Optionsmenü (...). Batch-Testfragen funktionieren ebenfalls: Exportieren Sie sie in eine CSV-Datei, und jede Frage wird zur Eröffnungsnachricht einer Simulation.
Kann ich einzelne Simulationen taggen?
Kann ich einzelne Simulationen taggen?
Sie können einzelne Simulationen nicht taggen, da Tags nur für Evals gelten. Um Simulationen anders zu gruppieren, teilen Sie sie in separate Evals auf.
Wer kann Evals erstellen, bearbeiten und ausführen?
Wer kann Evals erstellen, bearbeiten und ausführen?
Teammitglieder mit Kann Konfiguration ansehen und Änderungen in einem Entwurf freigeben oder Kann Konfiguration ansehen und Änderungen direkt im Hauptzweig veröffentlichen (einzeln oder in einem Release) unter Fin AI Agent & Automation können Evals erstellen, bearbeiten, taggen und ausführen. Teammitglieder mit Kann Konfiguration ansehen können Evals und deren Ergebnisse sehen und nach Tags filtern.










