Passar para o conteúdo principal

Como adicionar um Scorecard a uma Avaliação

Adicione um Scorecard a uma Avaliação, crie um novo, adicione critérios e defina ponderação e configurações Críticas para avaliar a qualidade do Fin.

Escrito por Dawn Perrott

Use este artigo para adicionar um Scorecard a uma Avaliação, criar um novo Scorecard, adicionar critérios e definir a ponderação e a configuração Crítica de cada critério.


Como adicionar um Scorecard a uma Avaliação

Um Scorecard adiciona pontuação de qualidade a uma Avaliação, como Esclarecimento ou Eficiência, além das verificações de aprovação/reprovação. Até que uma Avaliação tenha um Scorecard, ela mostra apenas resultados da Simulação e nenhuma avaliação de Qualidade. Um Scorecard se aplica a toda Simulação na Avaliação, com os mesmos critérios para cada uma.

  1. Vá para Fin AI Agent > Test > Evals e abra a Avaliação.

  2. Clique em Adicionar scorecard no canto superior direito da Avaliação, ao lado de Nova simulação.

Uma Avaliação chamada Regression Tests em Fin AI Agent > Test > Evals, com uma seta apontando para o botão Adicionar scorecard no canto superior direito, ao lado de Nova simulação. Resultados da simulação mostram 1/1 aprovado e não há seção de avaliação de Qualidade.

Depois de adicionar um Scorecard, uma seção Avaliação de qualidade aparece no topo da Avaliação, ao lado de Resultados da simulação. Os critérios exibidos vêm do Scorecard que você adicionou, então a seção lista os critérios que esse Scorecard contém. Ela mostra a Pontuação de revisão geral e a média para cada um desses critérios. A lista de conversas simuladas também ganha uma coluna de Pontuação de revisão e uma coluna para cada critério.

A seção Avaliação de qualidade de uma Avaliação, mostrando uma pontuação de Revisão de 94% com uma barra de progresso, e a média para cada critério: Esclarecimento 100%, Comunicação 100%, Eficiência 83%, Definição de Expectativas 90% e Facilidade de Escalada com um traço porque não tem pontuação.

Você também pode adicionar um Scorecard a partir das Configurações da Avaliação. Para abrir as Configurações da Avaliação em uma Avaliação existente, clique no menu de opções (...) ao lado de Nova simulação, depois clique em Editar avaliação. Nas Configurações da Avaliação, abra o menu suspenso Avaliação de qualidade, então escolha um Scorecard existente ou clique em Criar novo scorecard. O padrão é Sem scorecard.

O menu de opções (...) aberto no canto superior direito da avaliação qualityDefault, ao lado do botão Nova simulação, mostrando três opções: Editar avaliação, Importar CSV e Excluir avaliação.
O painel de Configurações da Avaliação com um campo Nome e um menu suspenso Avaliação de qualidade aberto. As opções são Sem scorecard (selecionado), Fin quality (Evals), Fin Quality Scorecard, Fin quality auto-review, Fin Low Quality Scorecard e Time reporting answer quality, além de Criar novo scorecard. Botões Cancelar e Salvar alterações ficam no canto superior direito.

Nota: Scorecards são compartilhados com Monitores, então alterações em um Scorecard se aplicam em todos os lugares onde ele é usado. Para escrever critérios que pontuem de forma confiável, veja Como escrever critérios eficazes para Monitor e Scorecard.

Como criar um Scorecard para uma Avaliação

Para criar um Scorecard para uma Avaliação, dê um nome e adicione os critérios nos quais o Fin será avaliado. Scorecards de Avaliação sempre avaliam o Fin, então a configuração Quem é avaliado está fixa para Fin AI Agent, e Companheiros humanos designados não está disponível.

  1. Nas Configurações da Avaliação, abra o menu suspenso Avaliação de qualidade e clique em Criar novo scorecard. O menu suspenso então mostra Novo scorecard, e o formulário Novo scorecard aparece abaixo dele.

  2. Em Nome do scorecard, insira um nome.

  3. Em Critérios de avaliação, clique em + Critérios. O painel Editar scorecard > Novo critério abre. Para preenchê-lo, veja Como adicionar critérios a um Scorecard.

O painel de Configurações da Avaliação com Avaliação de qualidade definido para Novo scorecard. O formulário Novo scorecard mostra um campo Nome do scorecard, Quem é avaliado com Fin AI Agent selecionado e Companheiros humanos designados indisponível, uma seção Critérios de avaliação com um botão + Critérios, uma seção Pontuação de revisão (%) mostrando Não pontuado, e um botão alternar Scorecard de autoavaliação. Botões Cancelar e Salvar alterações ficam no canto superior direito.

Depois de adicionar critérios pontuados, a seção Pontuação de revisão (%) mostra uma média ponderada deles. É calculada multiplicando a pontuação (%) de cada critério pelo seu peso, somando os resultados e dividindo pelo peso total. Até lá, mostra Não pontuado.

O botão alternar Scorecard de autoavaliação está disponível somente quando todos os critérios usam avaliação por IA.

Como adicionar critérios a um Scorecard

  1. No painel Editar scorecard > Novo critério, em Nome do critério, insira um nome claro para referência, por exemplo Sentimento.

  2. Em Descrição, descreva o que deve ser avaliado, em até 255 caracteres. O avaliador de IA usa essa descrição para decidir qual classificação aplicar.

  3. Em Opções de classificação, clique em Adicionar opção até que o critério tenha pelo menos 2 opções de classificação. A opção Não aplicável está sempre presente e não conta.

  4. Opcionalmente, ative Razões para classificação.

  5. Clique em Salvar para salvar o critério, depois clique em Salvar alterações em Configurações da Avaliação para anexar o Scorecard à Avaliação.

O painel Editar scorecard > Novo critério sobre a página de Avaliações, com um campo Nome do critério, um campo Descrição com 255 caracteres restantes, Pontuar automaticamente com IA selecionado, Pontuar manualmente indisponível, opções de classificação listando Não aplicável com um botão Adicionar opção, um botão alternar Razões para classificação e botões Cancelar e Salvar.

As Avaliações pontuam automaticamente cada critério com IA, usando a descrição do critério e a transcrição da Simulação (todas as mensagens, excluindo eventos). Pontuar manualmente não está disponível, porque Simulações não têm avaliador humano. Conteúdo, Procedimentos e orientações do Fin ainda não estão disponíveis para o avaliador de IA como contexto.

Como definir ponderação de pontuação e Crítico para um critério

Na tabela Critérios de avaliação, cada critério tem uma Ponderação de pontuação e uma configuração Crítico:

A tabela Critérios de avaliação com colunas para Critérios, Ponderação de pontuação e Crítico. Facilidade de Escalada, Esclarecimento e Eficiência têm ponderação 10, e Precisão tem 20. Facilidade de Escalada e Precisão têm Crítico marcado. Sentimento do cliente e Necessita melhoria mostram Não pontuado, com a caixa Crítico indisponível. Uma dica sobre Crítico diz: Se este critério falhar, todo o scorecard falha, independentemente da pontuação de revisão. Um botão + Critérios fica abaixo da tabela.
  • Ponderação de pontuação: quanto o critério conta para a Pontuação de revisão (%). Critérios que mostram Não pontuado não têm ponderação.

  • Crítico: se um critério Crítico falhar, todo o scorecard falha, independentemente da pontuação de revisão. A caixa de seleção Crítico está indisponível para critérios que mostram Não pontuado.


Como ler os resultados do Scorecard para uma Simulação

Para ver como o Fin pontuou em uma única conversa, abra uma Simulação de uma Avaliação que tenha um Scorecard. Junto com sua verificação de Transferência e verificações da Simulação, a Simulação mostra sua Pontuação de revisão e, para cada critério, a classificação dada pelo juiz LLM (modelo de linguagem grande). Se Razões para classificação estiver ativado para um critério, você também verá o motivo do juiz, para entender por que uma resposta foi pontuada daquela forma e transformar isso em uma correção.

Respondeu à sua pergunta?