网站Logo 西蒙来了
首页
默认分类
Redis常用合集
Redis常用合集
明朝
关于
登录
加速你的大模型速度

加速你的大模型速度

今天使用大模型分析RAG(Retrieval-Augmented Generation)对话质量,需要批量处理多个不同的输入参数。为了加快整体运行速度,打算计划并发执行这些任务。根据函数特性(I/O密集型或CPU密集型),选择多线程或多进程的方式进行并行处理。顺便整理了下加速 python 执行的所

2025-10-20
1
0
python
加速
RAG
总结
加速你的大模型速度

LangChain之特征

1. 获取 Embedding from langchain.embeddings import HuggingFaceEmbeddings from transformers import AutoTokenizer, AutoModel import torch model_name = "s

2025-10-16
2
0
RAG
LangChain
LangChain之特征
LangChain之特征
LangChain之案例分析

LangChain之案例分析

1. 执行多个chain from langchain.llms import OpenAI from langchain.chains import LLMChain from langchain.prompts import PromptTemplate from langchain.chain

2025-10-16
1
0
RAG
LangChain
LangChain之案例分析

LangChain之文档分割

1. RecursiveCharacterTextSplitter: 功能:递归地根据提供的分隔符列表分割文本,直到每个块的大小不超过指定的chunk_size。 from langchain_text_splitters import RecursiveCharacterTextSplitter

2025-10-16
4
0
RAG
LangChain
LangChain之文档分割
LangChain之文档分割
LangChain之文档jia za加载

LangChain之文档jia za加载

1. DirectoryLoader:用于从目录中加载所有文档。 from langchain_community.document_loaders import DirectoryLoader loader = DirectoryLoader('../', glob="**/*.md") docs

2025-10-16
2
0
LangChain
RAG
LangChain之文档jia za加载