Ferramenta de Moderação

em nossas interações com aplicações de ia, muitas vezes temos exigências rigorosas em termos de segurança de conteúdo, experiência do usuário e regulamentações legais neste ponto, precisamos da funcionalidade "revisão de palavras sensíveis" para criar um ambiente de interação melhor para os usuários finais na página de orquestração, clique em "adicionar funcionalidade" e localize a caixa de ferramentas "revisão de conteúdo" na parte inferior chamar a api de moderação da openai a openai, junto com a maioria das empresas que fornecem modelos, inclui funcionalidades de moderação de conteúdo em seus modelos para garantir que as respostas não contenham conteúdo controverso, como violência, conteúdo sexual e atividades ilegais além disso, a openai disponibilizou essa capacidade de moderação de conteúdo, que você pode consultar em moderação da openai agora você também pode chamar diretamente a api de moderação da openai no werbo ; você pode revisar o conteúdo de entrada ou saída simplesmente inserindo a "resposta predefinida" correspondente palavras chave os desenvolvedores podem personalizar as palavras sensíveis que precisam ser revisadas, como usar "matar" como palavra chave para realizar uma ação de auditoria quando os usuários inserirem essa palavra o conteúdo da resposta predefinida deve ser "o conteúdo está violando as políticas de uso " pode se prever que, quando um usuário inserir um trecho de texto contendo "matar" no terminal, ele acionará a ferramenta de revisão de palavras sensíveis e retornará o conteúdo da resposta predefinida extensão de moderação diferentes empresas muitas vezes têm seus próprios mecanismos de moderação de palavras sensíveis ao desenvolver suas próprias aplicações de ia, como um chatbot de base de conhecimento interna, as empresas precisam moderar o conteúdo das consultas inseridas por funcionários em busca de palavras sensíveis para esse propósito, os desenvolvedores podem escrever uma extensão de api com base nos mecanismos internos de moderação de palavras sensíveis de sua empresa, que pode ser chamada no werbo para alcançar um alto grau de personalização e proteção de privacidade para a revisão de palavras sensíveis recursos de segurança e autenticação a solução garante a adoção de protocolos e práticas avançadas de segurança no acesso à plataforma, assegurando proteção integral dos dados e conformidade com padrões de nível governamental entre os mecanismos implementados estão a autenticação multifator (mfa), conexões seguras via https com certificados válidos, e suporte ao protocolo tls 1 3 para comunicação criptografada a plataforma também suporta vpns com criptografia aes 256, acesso remoto seguro via ssh com chaves assimétricas, e integração com sistemas de identidade corporativos, como active directory, ldap, pki, além de protocolos modernos como saml 2 0, oauth 2 0 e openid connect o gerenciamento de usuários é altamente controlado, com configuração granular de permissões baseada em perfis técnicos, permitindo que cada usuário acesse somente os recursos autorizados ao seu perfil todas as ações são registradas por meio de logs de auditoria contínuos e detalhados, que capturam eventos de autenticação, acessos e alterações, garantindo rastreabilidade e governança essa estrutura atende aos requisitos de segurança da informação, conformidade regulatória e padrões exigidos por ambientes críticos e instituições públicas