Qwen3-Reranker-0.6B入门指南快速搭建本地语义重排序服务你是不是经常遇到这样的问题用AI搜索资料时明明找到了很多相关文档但排在最前面的往往不是最需要的那个或者在做智能客服时系统检索到的答案总是差那么一点意思这就是典型的检索精度问题。传统的检索系统只能找到“相关”的内容但无法判断“哪个更相关”。今天我要介绍的Qwen3-Reranker-0.6B就是专门解决这个痛点的利器。想象一下你问“如何训练一个中文大模型”系统找到了10篇相关文章。传统的做法是直接按关键词匹配度排序但Qwen3-Reranker-0.6B会像一位经验丰富的图书管理员快速浏览这10篇文章然后告诉你“第3篇讲的是具体训练步骤最符合你的需求第5篇讲的是理论基础可以作为补充其他几篇相关性较弱。”这个只有6亿参数的轻量级模型能在本地快速部署帮你把检索结果的精度提升一个档次。接下来我就带你从零开始一步步搭建自己的语义重排序服务。1. 什么是语义重排序为什么需要它在深入技术细节之前我们先搞清楚一个基本问题语义重排序到底是什么以及它为什么重要。1.1 传统检索的局限性传统的文本检索系统比如大家熟悉的Elasticsearch或者基于TF-IDF、BM25的搜索引擎工作原理其实很简单统计关键词出现的频率和位置然后给文档打分。这种方法有个致命缺陷——它只看“词”不看“意”。举个例子你搜索“苹果手机”系统可能会把一篇讲“苹果水果的营养价值”的文章排在前列因为“苹果”这个词出现了很多次。但对用户来说这完全不是想要的结果。1.2 语义重排序的价值语义重排序模型就是来解决这个问题的。它的工作流程分为两步初步检索先用传统方法找到一批可能相关的文档比如前100个精细排序再用深度学习模型对这100个文档进行语义层面的精细排序Qwen3-Reranker-0.6B做的就是第二步的工作。它不关心关键词匹配而是理解查询语句和文档内容的深层语义关系给出更合理的排序。1.3 实际应用场景这个技术在很多地方都能派上用场智能客服系统用户问“我的订单怎么还没发货”系统需要从知识库中找到最相关的解答企业知识管理员工搜索“季度报告模板”需要找到最匹配的文档版本内容推荐平台根据用户的历史阅读偏好推荐最相关的文章学术文献检索研究者查找特定领域的论文需要精准的相关性排序2. 环境准备与快速部署好了理论部分讲得差不多了现在开始动手实践。我会带你用最简单的方式在本地搭建Qwen3-Reranker-0.6B服务。2.1 系统要求首先看看你的电脑能不能跑起来操作系统Windows 10/11macOS 10.15或LinuxUbuntu 18.04Python版本3.8 到 3.11推荐3.9内存至少8GB RAM存储空间需要约2GB空间存放模型显卡可选但推荐如果有NVIDIA GPU显存4GB速度会快很多没有的话用CPU也能跑2.2 一键部署步骤部署过程比你想的要简单得多。如果你用的是CSDN星图镜像基本上就是点几下鼠标的事。对于手动部署的用户可以按照以下步骤操作# 1. 克隆项目代码 git clone https://gitcode.com/hf_mirrors/Qwen/Qwen3-Reranker-0.6B.git cd Qwen3-Reranker-0.6B # 2. 创建Python虚拟环境推荐 python -m venv venv source venv/bin/activate # Linux/macOS # 或者 venv\Scripts\activate # Windows # 3. 安装依赖包 pip install torch transformers modelscope # 4. 运行测试脚本 python test.py运行test.py时系统会自动完成以下几件事从魔搭社区下载Qwen3-Reranker-0.6B模型第一次运行需要下载国内网络直接访问速度很快加载模型到内存中构建一个测试查询和文档集执行重排序并输出结果整个过程大概需要2-5分钟主要时间花在下载模型上。下载完成后后续运行就很快了。2.3 常见问题解决如果你是第一次部署可能会遇到一些小问题这里提前给你解决方案问题1Python包安装失败pip install transformers 报错解决先升级pip或者使用清华镜像源pip install -i https://pypi.tuna.tsinghua.edu.cn/simple transformers modelscope问题2显存不足CUDA out of memory解决Qwen3-Reranker-0.6B其实很轻量但如果你的显卡显存小于4GB可以在代码中设置使用CPU# 在调用模型前添加 import torch device cuda if torch.cuda.is_available() else cpu # 如果显存小强制用CPU # device cpu问题3模型下载慢或失败解决魔搭社区在国内有CDN加速一般不会太慢。如果确实有问题可以手动下载模型文件然后修改代码指定本地路径。3. 基础使用与核心功能模型部署好了现在来看看怎么用它。我会从最简单的例子开始逐步深入到实际应用。3.1 第一个重排序示例让我们先跑一个最简单的例子看看这个模型到底能做什么from transformers import AutoTokenizer, AutoModelForCausalLM import torch # 1. 加载模型和分词器 model_name Qwen/Qwen3-Reranker-0.6B tokenizer AutoTokenizer.from_pretrained(model_name) model AutoModelForCausalLM.from_pretrained(model_name) # 2. 准备查询和文档 query 如何学习Python编程 documents [ Python是一种高级编程语言适合初学者入门, Java在企业级开发中应用广泛, Python的数据科学库如NumPy、Pandas很强大, C适合系统级编程和游戏开发 ] # 3. 对每个文档进行评分 scores [] for doc in documents: # 构建输入文本 text fQuery: {query}\nDocument: {doc}\nIs this document relevant to the query? Answer: # 编码并推理 inputs tokenizer(text, return_tensorspt) with torch.no_grad(): outputs model(**inputs) # 获取相关性分数简化版实际有更精确的计算方式 score outputs.logits[0, -1, :].mean().item() scores.append(score) # 4. 按分数排序 sorted_docs sorted(zip(documents, scores), keylambda x: x[1], reverseTrue) print(重排序结果) for i, (doc, score) in enumerate(sorted_docs): print(f{i1}. 分数{score:.4f} - {doc[:50]}...)运行这个代码你会看到模型给每个文档打了分然后按相关性从高到低排序。不出意外的话关于Python的文档会排在最前面。3.2 核心API详解在实际项目中我们通常不会像上面那样直接调用模型而是使用封装好的API。Qwen3-Reranker-0.6B提供了简洁的调用接口class QwenReranker: def __init__(self, model_pathQwen/Qwen3-Reranker-0.6B, deviceNone): 初始化重排序器 self.tokenizer AutoTokenizer.from_pretrained(model_path) self.model AutoModelForCausalLM.from_pretrained(model_path) if device is None: device cuda if torch.cuda.is_available() else cpu self.model.to(device) self.device device def rerank(self, query, documents, top_k5): 对文档进行重排序 参数 - query: 查询字符串 - documents: 文档列表 - top_k: 返回前k个最相关的文档 返回 - 排序后的(文档, 分数)列表 scores [] for doc in documents: # 构建提示文本 prompt self._build_prompt(query, doc) # 编码 inputs self.tokenizer(prompt, return_tensorspt).to(self.device) # 推理 with torch.no_grad(): outputs self.model(**inputs) # 计算相关性分数 score self._calculate_relevance_score(outputs.logits) scores.append(score) # 组合并排序 results list(zip(documents, scores)) results.sort(keylambda x: x[1], reverseTrue) return results[:top_k] def _build_prompt(self, query, document): 构建提示文本 return fQuery: {query}\nDocument: {document}\nIs this document relevant to the query? Answer: def _calculate_relevance_score(self, logits): 从模型输出计算相关性分数 # 这里简化处理实际可以根据需要调整 # 获取Relevant对应的logit值 relevant_token_id self.tokenizer.encode(Relevant)[0] score logits[0, -1, relevant_token_id].item() return score # 使用示例 reranker QwenReranker() query 机器学习的基本概念 docs [深度学习是机器学习的一个分支, Python编程入门指南, 神经网络原理详解] results reranker.rerank(query, docs, top_k2) for doc, score in results: print(f分数{score:.4f} - {doc})这个封装类把复杂的模型调用简化成了几个简单的方法你可以直接在自己的项目中引用。3.3 批量处理技巧在实际应用中我们经常需要处理大量的文档。如果一个个处理速度会很慢。这里教你几个提升效率的技巧def batch_rerank(self, query, documents, batch_size8): 批量处理文档提升效率 results [] # 分批处理 for i in range(0, len(documents), batch_size): batch_docs documents[i:ibatch_size] # 构建批量提示 prompts [self._build_prompt(query, doc) for doc in batch_docs] # 批量编码 inputs self.tokenizer( prompts, paddingTrue, truncationTrue, max_length512, return_tensorspt ).to(self.device) # 批量推理 with torch.no_grad(): outputs self.model(**inputs) # 批量计算分数 batch_scores self._batch_calculate_scores(outputs.logits) results.extend(list(zip(batch_docs, batch_scores))) # 排序 results.sort(keylambda x: x[1], reverseTrue) return results def _batch_calculate_scores(self, logits): 批量计算分数 scores [] relevant_token_id self.tokenizer.encode(Relevant)[0] for i in range(logits.shape[0]): score logits[i, -1, relevant_token_id].item() scores.append(score) return scores使用批量处理速度可以提升3-5倍特别是在有GPU的情况下。4. 实际应用案例理论讲得再多不如看几个实际例子。下面我通过三个常见场景展示Qwen3-Reranker-0.6B怎么用。4.1 案例一智能文档检索系统假设你公司有一个内部知识库员工经常需要查找技术文档。传统的关键词搜索效果不好因为员工可能用不同的表述搜索相同的内容。class KnowledgeBaseSearcher: def __init__(self, documents): 初始化知识库搜索器 self.documents documents # 文档列表每个文档有id和内容 self.reranker QwenReranker() def search(self, query, top_k10): 智能搜索知识库 步骤 1. 先用简单方法如关键词匹配找到候选文档 2. 用重排序模型精细排序 # 第一步粗筛可以用BM25、TF-IDF等 candidate_docs self._coarse_search(query) # 第二步精排 doc_contents [doc[content] for doc in candidate_docs] reranked_results self.reranker.rerank(query, doc_contents, top_ktop_k) # 第三步组合结果 final_results [] for content, score in reranked_results: # 找到对应的文档信息 doc_info next(doc for doc in candidate_docs if doc[content] content) final_results.append({ id: doc_info[id], title: doc_info[title], content: content[:200] ..., # 摘要 score: score, relevance: self._score_to_level(score) }) return final_results def _coarse_search(self, query): 粗粒度搜索返回候选文档 # 这里简化实现实际可以用Elasticsearch等 keywords query.lower().split() candidates [] for doc in self.documents: content_lower doc[content].lower() match_count sum(1 for kw in keywords if kw in content_lower) if match_count 0: candidates.append(doc) return candidates[:50] # 返回前50个候选 def _score_to_level(self, score): 将分数转换为相关性等级 if score 0.8: return 高度相关 elif score 0.5: return 相关 elif score 0.3: return 一般相关 else: return 弱相关 # 使用示例 docs [ {id: 1, title: Python入门指南, content: Python是一种解释型语言...}, {id: 2, title: Java开发规范, content: Java代码需要遵循一定的编码规范...}, # ... 更多文档 ] searcher KnowledgeBaseSearcher(docs) results searcher.search(怎么开始学编程) for result in results: print(f{result[relevance]}: {result[title]} (分数: {result[score]:.3f}))这个系统能理解用户的真实意图而不是机械匹配关键词。比如用户搜“怎么开始学编程”系统会把Python入门指南排在最前面而不是包含“开始”这个词的其他文档。4.2 案例二电商商品搜索优化电商平台的搜索功能直接影响转化率。用户搜索“夏季连衣裙”系统需要理解用户可能想要的是“碎花连衣裙”、“雪纺连衣裙”还是“休闲连衣裙”。class ProductSearchEngine: def __init__(self, products): 初始化商品搜索引擎 self.products products # 商品列表每个商品有描述信息 self.reranker QwenReranker() def search_products(self, query, filtersNone): 搜索商品并智能排序 参数 - query: 用户搜索词 - filters: 筛选条件如价格范围、品牌等 # 应用筛选条件 filtered_products self._apply_filters(self.products, filters) # 为每个商品构建搜索文本 search_texts [] for product in filtered_products: # 组合商品的各种信息作为搜索文本 text f{product[title]}。{product[description]}。 text f材质{product[material]}。 if product.get(material) else text f风格{product[style]}。 if product.get(style) else search_texts.append(text) # 重排序 product_text_pairs list(zip(filtered_products, search_texts)) texts_only [text for _, text in product_text_pairs] reranked_texts self.reranker.rerank(query, texts_only, top_k20) # 映射回商品信息 text_to_product {text: product for product, text in product_text_pairs} results [] for text, score in reranked_texts: product text_to_product[text] results.append({ product_id: product[id], title: product[title], price: product[price], image: product[image], score: score, match_reason: self._explain_match(query, text) }) return results def _apply_filters(self, products, filters): 应用筛选条件 if not filters: return products filtered products if min_price in filters: filtered [p for p in filtered if p[price] filters[min_price]] if max_price in filters: filtered [p for p in filtered if p[price] filters[max_price]] if brand in filters: filtered [p for p in filtered if p[brand] filters[brand]] return filtered def _explain_match(self, query, product_text): 简单解释为什么这个商品匹配查询 # 这里可以添加更复杂的解释逻辑 return 语义匹配度高 # 模拟数据 products [ { id: 101, title: 碎花雪纺连衣裙, description: 夏季新款碎花连衣裙雪纺材质透气舒适, material: 雪纺, style: 碎花, price: 299, brand: 时尚品牌 }, { id: 102, title: 纯棉T恤, description: 基本款纯棉T恤多色可选, material: 纯棉, style: 简约, price: 89, brand: 基础品牌 } ] engine ProductSearchEngine(products) results engine.search_products(夏季透气连衣裙, {max_price: 500}) for product in results[:5]: print(f{product[title]} - ¥{product[price]} (匹配度: {product[score]:.3f}))通过语义理解系统能知道“夏季透气连衣裙”和“雪纺材质”是强相关的即使商品标题里没有“透气”这个词。4.3 案例三内容推荐系统内容平台需要根据用户的阅读历史推荐他们可能感兴趣的文章。传统的协同过滤方法有冷启动问题语义重排序可以很好地补充。class ContentRecommender: def __init__(self, articles, user_history): 初始化内容推荐器 参数 - articles: 所有文章列表 - user_history: 用户历史阅读记录 self.articles articles self.user_history user_history self.reranker QwenReranker() def recommend_for_user(self, user_id, top_n10): 为用户生成个性化推荐 # 获取用户历史 user_articles self.user_history.get(user_id, []) if not user_articles: # 新用户返回热门文章 return self._get_popular_articles(top_n) # 基于用户最近阅读的文章生成推荐 recent_articles user_articles[-3:] # 取最近3篇 recommendations [] for recent_article in recent_articles: # 找到相似文章 similar self._find_similar_articles(recent_article) recommendations.extend(similar) # 去重和排序 unique_recs self._deduplicate(recommendations) sorted_recs self._rerank_recommendations(user_articles, unique_recs, top_n) return sorted_recs def _find_similar_articles(self, source_article): 找到与源文章相似的文章 source_text f{source_article[title]}。{source_article[summary]} # 准备候选文章 candidate_articles [a for a in self.articles if a[id] ! source_article[id]] candidate_texts [f{a[title]}。{a[summary]} for a in candidate_articles] # 重排序 results self.reranker.rerank(source_text, candidate_texts, top_k5) # 映射回文章信息 text_to_article {f{a[title]}。{a[summary]}: a for a in candidate_articles} similar_articles [] for text, score in results: article text_to_article[text] similar_articles.append({ article: article, similarity_score: score, reason: f与《{source_article[title]}》主题相似 }) return similar_articles def _rerank_recommendations(self, user_history, recommendations, top_n): 对推荐结果进行最终排序 # 基于用户整体兴趣重新排序 user_profile self._build_user_profile(user_history) rec_texts [f{r[article][title]}。{r[article][summary]} for r in recommendations] reranked_texts self.reranker.rerank(user_profile, rec_texts, top_ktop_n) # 重新组织结果 text_to_rec {f{r[article][title]}。{r[article][summary]}: r for r in recommendations} final_results [] for text, score in reranked_texts: rec text_to_rec[text] final_results.append({ id: rec[article][id], title: rec[article][title], summary: rec[article][summary], score: score, reason: rec[reason] }) return final_results def _build_user_profile(self, user_articles): 构建用户兴趣画像 # 简单实现合并用户最近阅读的文章标题 titles [article[title] for article in user_articles[-5:]] return 用户感兴趣的主题包括 .join(titles) def _get_popular_articles(self, top_n): 获取热门文章用于新用户 # 按浏览量排序 popular sorted(self.articles, keylambda x: x.get(views, 0), reverseTrue) return popular[:top_n] def _deduplicate(self, recommendations): 去重 seen_ids set() unique [] for rec in recommendations: article_id rec[article][id] if article_id not in seen_ids: seen_ids.add(article_id) unique.append(rec) return unique这个推荐系统能理解内容的语义而不是仅仅基于标签匹配。比如用户看了几篇关于“机器学习”的文章系统会推荐“深度学习”、“人工智能”等相关主题的内容即使这些文章没有打上相同的标签。5. 性能优化与最佳实践Qwen3-Reranker-0.6B虽然轻量但在实际使用中还是有一些技巧可以提升性能和效果。5.1 速度优化技巧使用GPU加速这是最直接的优化方式。如果有NVIDIA显卡确保安装了正确版本的CUDA和cuDNN。# 检查GPU是否可用 import torch print(fGPU可用: {torch.cuda.is_available()}) print(fGPU数量: {torch.cuda.device_count()}) print(f当前GPU: {torch.cuda.current_device()}) print(fGPU名称: {torch.cuda.get_device_name(0)}) # 设置使用GPU device torch.device(cuda if torch.cuda.is_available() else cpu) model.to(device)批量处理前面已经提到过批量处理能显著提升吞吐量。合适的批量大小取决于你的GPU显存。# 自动调整批量大小 def auto_batch_size(model, max_memory_gb4): 根据可用显存自动计算批量大小 if not torch.cuda.is_available(): return 1 # CPU模式 # 获取GPU显存信息 total_memory torch.cuda.get_device_properties(0).total_memory / 1e9 # GB free_memory torch.cuda.memory_reserved(0) / 1e9 # GB available_memory min(free_memory, max_memory_gb) # 估算每个样本需要的显存经验值 memory_per_sample 0.3 # GB根据实际情况调整 batch_size int(available_memory / memory_per_sample) return max(1, min(batch_size, 32)) # 限制在1-32之间模型量化如果对精度要求不是极高可以考虑使用模型量化来减少内存占用和提升速度。# 使用8位量化 from transformers import BitsAndBytesConfig import torch quantization_config BitsAndBytesConfig( load_in_8bitTrue, llm_int8_threshold6.0 ) model AutoModelForCausalLM.from_pretrained( Qwen/Qwen3-Reranker-0.6B, quantization_configquantization_config, device_mapauto )5.2 效果提升方法提示工程调整提示文本的格式有时能显著提升效果。def build_optimized_prompt(self, query, document): 构建优化的提示文本 # 尝试不同的提示模板 templates [ f查询{query}\n文档{document}\n问题这个文档与查询相关吗回答, f请判断以下文档是否与查询相关。\n查询{query}\n文档{document}\n相关性, fQuery: {query}\nDocument: {document}\nRelevance score (0-1): ] # 可以选择一个固定的模板或者让用户选择 return templates[0] # 使用第一个模板分数归一化不同查询的分数范围可能不同归一化后更容易设置阈值。def normalize_scores(self, scores): 将分数归一化到0-1范围 if not scores: return scores min_score min(scores) max_score max(scores) if max_score min_score: # 所有分数相同返回0.5 return [0.5] * len(scores) normalized [(s - min_score) / (max_score - min_score) for s in scores] return normalized集成多个模型如果需要更高的精度可以考虑集成多个重排序模型。class EnsembleReranker: def __init__(self, model_namesNone): 初始化集成重排序器 if model_names is None: model_names [ Qwen/Qwen3-Reranker-0.6B, # 可以添加其他模型如BGE-Reranker ] self.models [] for name in model_names: reranker QwenReranker(model_pathname) self.models.append(reranker) def rerank(self, query, documents, top_k5): 集成多个模型的结果 all_scores [] for model in self.models: results model.rerank(query, documents, top_klen(documents)) scores [score for _, score in results] all_scores.append(scores) # 平均各个模型的分数 avg_scores [] for i in range(len(documents)): doc_scores [scores[i] for scores in all_scores] avg_score sum(doc_scores) / len(doc_scores) avg_scores.append(avg_score) # 排序 results list(zip(documents, avg_scores)) results.sort(keylambda x: x[1], reverseTrue) return results[:top_k]5.3 监控与评估在实际应用中需要持续监控模型的表现。class RerankerMonitor: def __init__(self): self.performance_log [] def log_query(self, query, documents, predictions, ground_truthNone): 记录一次查询的处理结果 entry { timestamp: time.time(), query: query, num_documents: len(documents), predictions: predictions, ground_truth: ground_truth } if ground_truth: # 计算评估指标 entry[metrics] self._calculate_metrics(predictions, ground_truth) self.performance_log.append(entry) # 保持日志大小 if len(self.performance_log) 1000: self.performance_log self.performance_log[-1000:] def _calculate_metrics(self, predictions, ground_truth): 计算评估指标 # 这里可以实现NDCG、MAP等指标 return { precision_at_5: self._precision_at_k(predictions, ground_truth, k5), precision_at_10: self._precision_at_k(predictions, ground_truth, k10), } def _precision_at_k(self, predictions, ground_truth, k5): 计算PrecisionK top_k [doc for doc, _ in predictions[:k]] relevant_in_top_k sum(1 for doc in top_k if doc in ground_truth) return relevant_in_top_k / k def generate_report(self): 生成性能报告 if not self.performance_log: return 暂无数据 # 计算平均指标 metrics_with_gt [entry[metrics] for entry in self.performance_log if metrics in entry] if not metrics_with_gt: return f共处理 {len(self.performance_log)} 次查询暂无标注数据 avg_precision_5 sum(m[precision_at_5] for m in metrics_with_gt) / len(metrics_with_gt) avg_precision_10 sum(m[precision_at_10] for m in metrics_with_gt) / len(metrics_with_gt) report f 性能报告 - 总查询数{len(self.performance_log)} - 有标注查询数{len(metrics_with_gt)} - 平均Precision5{avg_precision_5:.3f} - 平均Precision10{avg_precision_10:.3f} return report6. 总结与下一步建议通过本文的讲解你应该已经掌握了Qwen3-Reranker-0.6B的基本使用方法和实际应用技巧。这个轻量级模型虽然参数不多但在语义理解方面表现不错特别适合资源有限但又需要提升检索精度的场景。6.1 核心要点回顾轻量高效0.6B参数部署简单对硬件要求低语义理解能理解查询和文档的深层含义不仅仅是关键词匹配灵活应用可以用于搜索、推荐、问答等多种场景易于集成提供简单的API可以快速集成到现有系统中6.2 实际使用建议根据我的经验给你几个实用建议对于刚起步的项目直接使用Qwen3-Reranker-0.6B作为重排序组件它能快速提升检索效果而且部署成本低。对于已有检索系统的升级可以在现有系统后面加一层重排序先用传统方法召回一批结果再用Qwen3-Reranker进行精细排序。对于性能要求高的场景如果发现0.6B模型的效果不够用可以考虑先用它做粗排再用更大的模型做精排在特定领域的数据上做微调集成多个不同模型的结果6.3 学习资源推荐如果你想深入学习相关技术我推荐以下几个方向Transformer原理理解注意力机制是理解所有现代NLP模型的基础信息检索基础学习BM25、TF-IDF等传统方法了解它们的优缺点相似度计算研究余弦相似度、欧氏距离等度量方法评估指标掌握NDCG、MAP、MRR等检索系统评估指标6.4 未来展望语义重排序技术还在快速发展中未来可能会有几个趋势更轻量的模型在保持效果的前提下模型会越来越小多模态重排序不仅能处理文本还能处理图像、视频等多模态内容实时学习模型能够根据用户反馈实时调整排序策略个性化排序为每个用户提供定制化的排序结果Qwen3-Reranker-0.6B是一个很好的起点它让你以很低的成本体验到了语义重排序技术的价值。随着你对这个领域理解的深入你可以尝试更复杂的模型和更精细的优化策略。记住技术是为业务服务的。选择什么样的模型采用什么样的架构最终都要回归到业务需求上来。Qwen3-Reranker-0.6B可能不是最强的模型但对于很多场景来说它可能是最合适的选择。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。