De acordo com um relatório da IT House em 25 de junho, o desenvolvedor Iván Martínez Toro lançou recentemente o modelo de código aberto PrivateGPT, que permite aos usuários fazer perguntas com base em seus próprios documentos sem conexão com a Internet. É relatado que o modelo de código aberto PrivateGPT pode ser executado localmente em dispositivos domésticos, e o modelo de linguagem grande (LLM) de código aberto chamado gpt4 precisa ser baixado antes de ser executado. Em seguida, instrua os usuários a colocar todos os arquivos relacionados em um diretório para que o modelo extraia todos os dados. Depois de treinar o LLM, o usuário pode fazer qualquer pergunta ao modelo e ele responderá usando o documento fornecido como contexto. PrivateGPT pode absorver mais de 58.000 palavras e atualmente requer muitos recursos de computação local (recomenda-se uma CPU de ponta) para configurar. Toro disse que o PrivateGPT está atualmente em fase de proof-of-concept (PoC), o que pelo menos prova que um grande modelo semelhante ao ChatGPT pode ser criado totalmente localmente. empresas para acessar personalização, segurança e privacidade ChatGPT para aumentar a produtividade.
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
De acordo com um relatório da IT House em 25 de junho, o desenvolvedor Iván Martínez Toro lançou recentemente o modelo de código aberto PrivateGPT, que permite aos usuários fazer perguntas com base em seus próprios documentos sem conexão com a Internet. É relatado que o modelo de código aberto PrivateGPT pode ser executado localmente em dispositivos domésticos, e o modelo de linguagem grande (LLM) de código aberto chamado gpt4 precisa ser baixado antes de ser executado. Em seguida, instrua os usuários a colocar todos os arquivos relacionados em um diretório para que o modelo extraia todos os dados. Depois de treinar o LLM, o usuário pode fazer qualquer pergunta ao modelo e ele responderá usando o documento fornecido como contexto. PrivateGPT pode absorver mais de 58.000 palavras e atualmente requer muitos recursos de computação local (recomenda-se uma CPU de ponta) para configurar. Toro disse que o PrivateGPT está atualmente em fase de proof-of-concept (PoC), o que pelo menos prova que um grande modelo semelhante ao ChatGPT pode ser criado totalmente localmente. empresas para acessar personalização, segurança e privacidade ChatGPT para aumentar a produtividade.