尧图网页设计 
简介这份资源是面向天池新闻文本分类比赛的Python完整实现适合人工智能、计算机相关专业学生、教师及企业开发者用于课程设计、毕业设计或赛题复现。项目以LSTM为核心建模思路同时包含TextCNN、Attention、Bert等对比模型覆盖从数据读取、词表构建、模型定义到训练与优化工具的全流程便于理解文本分类任务的工程组织方式。压缩包共25个文件以14个py源码为主辅以9个pyc编译文件、1个txt词表与1个json配置整体约58KB结构紧凑、模块划分清晰。目前已有161人学习下载说明其具备一定参考价值。读者可据此掌握新闻文本分类的完整赛题方案包括LSTM编码器、TextCNN编码器、注意力机制、预训练参数配置及训练脚本等关键模块并能在现有代码基础上修改以适配其他分类任务适合作为入门进阶与项目立项的实践素材。1. 从一份 LSTM 新闻分类源码说起天池比赛里最容易复现的文本分类方案天池新闻文本分类比赛是很多人接触 NLP 的第一个实战场景而 LSTM 方案几乎是绕不开的基线。你拿到一份基于LTSM天池新闻文本分类比赛python源码.zip解压后大概率看到几个.py文件加一个data目录核心逻辑就是「读数据 → 分词 → 建词表 → 搭 LSTM → 训练 → 预测」。这套流程不复杂但真正跑通并拿到有意义的分数中间有不少细节决定成败。这篇文章面向两类人一是刚学完 python 基础、想找个完整项目练手的入门者二是已经跑过 demo、但分数卡在某个区间上不去的从业者。我会把这份源码背后的数据格式、模型结构、关键参数和常见翻车点拆开讲清楚让你不仅能复现还能知道每一步为什么这么做、改哪里会有收益。2. 天池新闻数据长什么样先搞清楚输入再谈模型2.1 数据格式与字段含义天池新闻文本分类比赛的数据通常以 CSV 或文本文件形式提供训练集包含text和label两列测试集只有text。文本是匿名的字符序列已经过脱敏处理你看到的不是正常中文句子而是一串数字和字符的混合体。这一点非常关键你不能用常规的中文分词工具去处理它因为脱敏后的文本已经失去了词边界信息。常见做法是把每个字符当作一个 token或者按空格切分后把每个片段当作 token。我一般会先统计一下文本长度分布和字符集大小这两个指标直接决定后续词表大小和序列截断长度。import pandas as pd import numpy as np # 读取训练集注意编码格式天池数据常用 utf-8 或 gbk train pd.read_csv(data/train.csv, sep\t, encodingutf-8) print(train.head()) print(train[label].value_counts()) # 统计文本长度分布 text_len train[text].apply(lambda x: len(x.split())) print(最大长度:, text_len.max()) print(95分位长度:, np.percentile(text_len, 95)) print(平均长度:, text_len.mean())这段代码做了三件事确认数据能正常读取、查看标签分布是否均衡、统计文本长度。标签分布决定你要不要做重采样或调整损失函数权重长度分布决定max_len设多少。如果 95 分位长度是 200你设 500 就是浪费计算资源设 100 则会截掉大量信息。2.2 词表构建与序列填充脱敏文本的字符集通常不大几千到一万左右。构建词表时我习惯保留频率大于等于 2 的 token低频 token 统一映射为UNK。这样既能控制词表规模又不至于丢失太多信息。from collections import Counter from tensorflow.keras.preprocessing.sequence import pad_sequences # 统计所有 token 频率 all_tokens [] for text in train[text]: all_tokens.extend(text.split()) counter Counter(all_tokens) # 保留频率2的token其余归为UNK vocab {word: idx 2 for idx, (word, cnt) in enumerate(counter.items()) if cnt 2} vocab[PAD] 0 vocab[UNK] 1 # 文本转序列 def text_to_seq(text, vocab, max_len200): seq [vocab.get(w, 1) for w in text.split()][:max_len] return pad_sequences([seq], maxlenmax_len, paddingpost, truncatingpost)[0] train[seq] train[text].apply(lambda x: text_to_seq(x, vocab))这里有几个参数需要留意max_len根据上一步的统计结果来定一般取 95 分位或 99 分位paddingpost表示在序列后面补零truncatingpost表示超长时从后面截断。这两个选择对 LSTM 的影响不同后面截断意味着你保留的是文本开头部分对于新闻标题类数据通常够用但如果关键信息在末尾就需要改成pre。提示词表构建一定要在训练集上做然后用同一个词表去映射验证集和测试集。用全量数据构建词表会造成标签泄漏分数虚高。3. LSTM 模型搭起来从 Embedding 到全连接层的参数怎么定3.1 模型结构逐层拆解一份典型的 LSTM 文本分类源码模型部分大概长这样Embedding 层 → LSTM 层 → Dropout → 全连接层 → Softmax。每一层的参数都不是随便填的下面逐层说。from tensorflow.keras.models import Sequential from tensorflow.keras.layers import Embedding, LSTM, Dense, Dropout, Bidirectional VOCAB_SIZE len(vocab) 2 # 加上 PAD 和 UNK EMBED_DIM 128 MAX_LEN 200 NUM_CLASSES train[label].nunique() model Sequential([ Embedding(input_dimVOCAB_SIZE, output_dimEMBED_DIM, input_lengthMAX_LEN), Bidirectional(LSTM(128, return_sequencesFalse)), Dropout(0.5), Dense(64, activationrelu), Dropout(0.3), Dense(NUM_CLASSES, activationsoftmax) ]) model.compile( losssparse_categorical_crossentropy, optimizeradam, metrics[accuracy] ) model.summary()Embedding 层的input_dim必须等于词表大小output_dim一般取 128 或 256太小表达力不够太大容易过拟合且训练慢。LSTM 层用双向是常见做法因为文本分类不像生成任务有严格的时序因果限制双向能同时捕捉前后文信息。return_sequencesFalse表示只取最后一个时间步的输出适合分类任务。Dropout 放在 LSTM 之后和全连接层之后比例 0.5 和 0.3 是我常用的组合。如果训练集很大可以适当降低如果训练集小、过拟合严重可以提高到 0.6。3.2 训练参数与早停策略编译时的损失函数选择取决于标签格式。如果标签是整数编码0, 1, 2...用sparse_categorical_crossentropy如果是 one-hot用categorical_crossentropy。优化器 Adam 默认学习率 0.001大多数情况下够用但如果 loss 震荡厉害可以降到 0.0005。from tensorflow.keras.callbacks import EarlyStopping, ModelCheckpoint callbacks [ EarlyStopping(monitorval_loss, patience3, restore_best_weightsTrue), ModelCheckpoint(best_model.h5, monitorval_accuracy, save_best_onlyTrue) ] history model.fit( X_train, y_train, validation_split0.2, epochs20, batch_size64, callbackscallbacks )patience3表示验证集 loss 连续 3 个 epoch 不下降就停止训练restore_best_weightsTrue会恢复到最优 epoch 的权重。这两个参数能帮你省下大量无效训练时间。batch_size设 64 是折中值显存够可以上 128显存紧张就降到 32。注意validation_split0.2是从训练集末尾切分如果数据有排序规律最好先 shuffle 再切分否则验证集分布和训练集不一致早停判断会失准。4. 跑通之后分数上不去LSTM 新闻分类的调参与优化路径4.1 从基线到提分的四个方向基线跑通后准确率通常在 0.85 到 0.92 之间取决于数据版本和划分方式。想再往上走可以从四个方向入手序列长度、词表策略、模型结构、训练技巧。序列长度方面可以尝试把max_len从 200 提到 300 或 400看看验证集准确率有没有提升。如果提升不明显说明文本关键信息集中在前 200 个 token 内没必要加长。词表策略方面可以尝试保留所有 token不设频率阈值或者用字符级 token 替代空格切分。字符级 token 的词表更小但序列更长LSTM 处理长序列时容易梯度消失。模型结构方面可以尝试堆叠两层 LSTM或者在 LSTM 后面加注意力机制。两层 LSTM 的表达能力更强但参数量翻倍小数据集上容易过拟合。# 两层 LSTM 示例 model Sequential([ Embedding(VOCAB_SIZE, EMBED_DIM, input_lengthMAX_LEN), Bidirectional(LSTM(128, return_sequencesTrue)), Bidirectional(LSTM(64, return_sequencesFalse)), Dropout(0.5), Dense(NUM_CLASSES, activationsoftmax) ])训练技巧方面可以尝试学习率衰减、标签平滑、Focal Loss 等。标签平滑能缓解过拟合Focal Loss 适合类别不均衡的场景。4.2 验证集划分与交叉验证单次划分验证集有随机性分数波动可能达到 1 到 2 个百分点。如果想得到更稳定的评估结果可以用 K 折交叉验证。把训练集分成 5 份每次用 4 份训练、1 份验证最后取平均准确率。from sklearn.model_selection import StratifiedKFold skf StratifiedKFold(n_splits5, shuffleTrue, random_state42) scores [] for fold, (train_idx, val_idx) in enumerate(skf.split(X_train, y_train)): X_tr, X_val X_train[train_idx], X_train[val_idx] y_tr, y_val y_train[train_idx], y_train[val_idx] model build_model() # 重新构建模型 model.fit(X_tr, y_tr, validation_data(X_val, y_val), epochs10, batch_size64, verbose0) score model.evaluate(X_val, y_val, verbose0)[1] scores.append(score) print(fFold {fold1} accuracy: {score:.4f}) print(f平均准确率: {np.mean(scores):.4f})K 折交叉验证的代价是训练时间翻 K 倍但换来的是更可靠的评估。如果只是快速迭代单次划分够用如果要写报告或对比不同模型建议用交叉验证。5. 避坑与排查LSTM 新闻分类源码里最容易翻车的五个地方5.1 词表不一致导致预测结果全错现象训练时准确率 0.9预测时输出全是同一个类别。原因训练和预测用了不同的词表或者预测时重新构建了词表token 到 id 的映射完全乱了。解决把训练时构建的词表保存成 JSON 或 pickle 文件预测时直接加载不要重新构建。import json # 保存词表 with open(vocab.json, w, encodingutf-8) as f: json.dump(vocab, f, ensure_asciiFalse) # 加载词表 with open(vocab.json, r, encodingutf-8) as f: vocab json.load(f)5.2 序列填充方向搞反现象模型训练 loss 正常下降但验证集准确率始终比训练集低很多。原因paddingpre和truncatingpre用混了导致序列的有效信息被截断或填充位置不对。解决统一用post或pre并在训练和预测时保持一致。我一般用post因为大多数文本的关键信息在前半部分。5.3 标签未做编码转换现象模型编译时报错提示 loss 函数和标签形状不匹配。原因标签是字符串或浮点数而sparse_categorical_crossentropy要求整数标签。解决用LabelEncoder把标签转成 0 到 N-1 的整数。from sklearn.preprocessing import LabelEncoder le LabelEncoder() y_train le.fit_transform(train[label]) # 保存编码器预测时反变换 import joblib joblib.dump(le, label_encoder.pkl)5.4 显存不足导致训练中断现象训练到一半报 OOM 错误程序崩溃。原因batch_size太大或者max_len设得太长导致单批次数据量超出显存。解决降低batch_size到 32 或 16或者缩短max_len。也可以用tf.data.Dataset做动态填充按批次内最大长度填充而不是全局统一长度。5.5 过拟合严重但不知道从哪调现象训练集准确率 0.99验证集只有 0.85。原因模型参数太多、训练轮次太多、Dropout 比例太低。解决先加 Dropout再考虑减小 LSTM 隐藏单元数最后才是加数据。如果数据量固定可以用早停和权重衰减。from tensorflow.keras.regularizers import l2 # 在 LSTM 和 Dense 层加 L2 正则 Bidirectional(LSTM(128, return_sequencesFalse, kernel_regularizerl2(0.001))) Dense(64, activationrelu, kernel_regularizerl2(0.001))6. 把 LSTM 基线用到自己数据上三个可复用的工程习惯6.1 配置文件与命令行参数分离源码里经常把超参数硬编码在脚本里改一个参数要翻半天。我习惯用一个config.py或 YAML 文件集中管理所有超参数训练脚本通过命令行参数覆盖默认值。import argparse parser argparse.ArgumentParser() parser.add_argument(--max_len, typeint, default200) parser.add_argument(--embed_dim, typeint, default128) parser.add_argument(--lstm_units, typeint, default128) parser.add_argument(--batch_size, typeint, default64) parser.add_argument(--epochs, typeint, default20) parser.add_argument(--dropout, typefloat, default0.5) args parser.parse_args()这样你可以在命令行快速做参数扫描不用改代码。比如python train.py --lstm_units 256 --dropout 0.6就能跑一组新配置。6.2 训练过程可视化与日志记录只看最终准确率不够训练过程中的 loss 和 accuracy 曲线能告诉你很多信息。用matplotlib画出来或者用 TensorBoard 记录。import matplotlib.pyplot as plt def plot_history(history): fig, axes plt.subplots(1, 2, figsize(12, 4)) axes[0].plot(history.history[loss], labeltrain_loss) axes[0].plot(history.history[val_loss], labelval_loss) axes[0].set_title(Loss) axes[0].legend() axes[1].plot(history.history[accuracy], labeltrain_acc) axes[1].plot(history.history[val_accuracy], labelval_acc) axes[1].set_title(Accuracy) axes[1].legend() plt.savefig(training_curve.png) plt.show()如果训练 loss 持续下降但验证 loss 开始上升说明过拟合了该早停或加正则。如果两条曲线都震荡说明学习率太大或 batch_size 太小。6.3 预测结果的后处理与提交格式天池比赛的提交格式通常是 CSV包含text_id和label两列。预测时要注意测试集的text_id顺序必须和提交文件一致标签要反变换回原始编码。test pd.read_csv(data/test.csv, sep\t, encodingutf-8) test[seq] test[text].apply(lambda x: text_to_seq(x, vocab, MAX_LEN)) X_test np.array(test[seq].tolist()) preds model.predict(X_test) pred_labels np.argmax(preds, axis1) pred_labels le.inverse_transform(pred_labels) submission pd.DataFrame({text_id: test[text_id], label: pred_labels}) submission.to_csv(submission.csv, indexFalse, encodingutf-8)我一般会在提交前检查一下预测标签的分布如果某个类别占比异常高或异常低大概率是模型或数据处理出了问题。这个习惯帮我省过好几次后悔药。希望帮到你。本文还有配套的精品资源点击获取 天池新闻文本分类LSTM源码解析：从复现到调参优化
简介这份资源是面向天池新闻文本分类比赛的Python完整实现适合人工智能、计算机相关专业学生、教师及企业开发者用于课程设计、毕业设计或赛题复现。项目以LSTM为核心建模思路同时包含TextCNN、Attention、Bert等对比模型覆盖从数据读取、词表构建、模型定义到训练与优化工具的全流程便于理解文本分类任务的工程组织方式。压缩包共25个文件以14个py源码为主辅以9个pyc编译文件、1个txt词表与1个json配置整体约58KB结构紧凑、模块划分清晰。目前已有161人学习下载说明其具备一定参考价值。读者可据此掌握新闻文本分类的完整赛题方案包括LSTM编码器、TextCNN编码器、注意力机制、预训练参数配置及训练脚本等关键模块并能在现有代码基础上修改以适配其他分类任务适合作为入门进阶与项目立项的实践素材。1. 从一份 LSTM 新闻分类源码说起天池比赛里最容易复现的文本分类方案天池新闻文本分类比赛是很多人接触 NLP 的第一个实战场景而 LSTM 方案几乎是绕不开的基线。你拿到一份基于LTSM天池新闻文本分类比赛python源码.zip解压后大概率看到几个.py文件加一个data目录核心逻辑就是「读数据 → 分词 → 建词表 → 搭 LSTM → 训练 → 预测」。这套流程不复杂但真正跑通并拿到有意义的分数中间有不少细节决定成败。这篇文章面向两类人一是刚学完 python 基础、想找个完整项目练手的入门者二是已经跑过 demo、但分数卡在某个区间上不去的从业者。我会把这份源码背后的数据格式、模型结构、关键参数和常见翻车点拆开讲清楚让你不仅能复现还能知道每一步为什么这么做、改哪里会有收益。2. 天池新闻数据长什么样先搞清楚输入再谈模型2.1 数据格式与字段含义天池新闻文本分类比赛的数据通常以 CSV 或文本文件形式提供训练集包含text和label两列测试集只有text。文本是匿名的字符序列已经过脱敏处理你看到的不是正常中文句子而是一串数字和字符的混合体。这一点非常关键你不能用常规的中文分词工具去处理它因为脱敏后的文本已经失去了词边界信息。常见做法是把每个字符当作一个 token或者按空格切分后把每个片段当作 token。我一般会先统计一下文本长度分布和字符集大小这两个指标直接决定后续词表大小和序列截断长度。import pandas as pd import numpy as np # 读取训练集注意编码格式天池数据常用 utf-8 或 gbk train pd.read_csv(data/train.csv, sep\t, encodingutf-8) print(train.head()) print(train[label].value_counts()) # 统计文本长度分布 text_len train[text].apply(lambda x: len(x.split())) print(最大长度:, text_len.max()) print(95分位长度:, np.percentile(text_len, 95)) print(平均长度:, text_len.mean())这段代码做了三件事确认数据能正常读取、查看标签分布是否均衡、统计文本长度。标签分布决定你要不要做重采样或调整损失函数权重长度分布决定max_len设多少。如果 95 分位长度是 200你设 500 就是浪费计算资源设 100 则会截掉大量信息。2.2 词表构建与序列填充脱敏文本的字符集通常不大几千到一万左右。构建词表时我习惯保留频率大于等于 2 的 token低频 token 统一映射为UNK。这样既能控制词表规模又不至于丢失太多信息。from collections import Counter from tensorflow.keras.preprocessing.sequence import pad_sequences # 统计所有 token 频率 all_tokens [] for text in train[text]: all_tokens.extend(text.split()) counter Counter(all_tokens) # 保留频率2的token其余归为UNK vocab {word: idx 2 for idx, (word, cnt) in enumerate(counter.items()) if cnt 2} vocab[PAD] 0 vocab[UNK] 1 # 文本转序列 def text_to_seq(text, vocab, max_len200): seq [vocab.get(w, 1) for w in text.split()][:max_len] return pad_sequences([seq], maxlenmax_len, paddingpost, truncatingpost)[0] train[seq] train[text].apply(lambda x: text_to_seq(x, vocab))这里有几个参数需要留意max_len根据上一步的统计结果来定一般取 95 分位或 99 分位paddingpost表示在序列后面补零truncatingpost表示超长时从后面截断。这两个选择对 LSTM 的影响不同后面截断意味着你保留的是文本开头部分对于新闻标题类数据通常够用但如果关键信息在末尾就需要改成pre。提示词表构建一定要在训练集上做然后用同一个词表去映射验证集和测试集。用全量数据构建词表会造成标签泄漏分数虚高。3. LSTM 模型搭起来从 Embedding 到全连接层的参数怎么定3.1 模型结构逐层拆解一份典型的 LSTM 文本分类源码模型部分大概长这样Embedding 层 → LSTM 层 → Dropout → 全连接层 → Softmax。每一层的参数都不是随便填的下面逐层说。from tensorflow.keras.models import Sequential from tensorflow.keras.layers import Embedding, LSTM, Dense, Dropout, Bidirectional VOCAB_SIZE len(vocab) 2 # 加上 PAD 和 UNK EMBED_DIM 128 MAX_LEN 200 NUM_CLASSES train[label].nunique() model Sequential([ Embedding(input_dimVOCAB_SIZE, output_dimEMBED_DIM, input_lengthMAX_LEN), Bidirectional(LSTM(128, return_sequencesFalse)), Dropout(0.5), Dense(64, activationrelu), Dropout(0.3), Dense(NUM_CLASSES, activationsoftmax) ]) model.compile( losssparse_categorical_crossentropy, optimizeradam, metrics[accuracy] ) model.summary()Embedding 层的input_dim必须等于词表大小output_dim一般取 128 或 256太小表达力不够太大容易过拟合且训练慢。LSTM 层用双向是常见做法因为文本分类不像生成任务有严格的时序因果限制双向能同时捕捉前后文信息。return_sequencesFalse表示只取最后一个时间步的输出适合分类任务。Dropout 放在 LSTM 之后和全连接层之后比例 0.5 和 0.3 是我常用的组合。如果训练集很大可以适当降低如果训练集小、过拟合严重可以提高到 0.6。3.2 训练参数与早停策略编译时的损失函数选择取决于标签格式。如果标签是整数编码0, 1, 2...用sparse_categorical_crossentropy如果是 one-hot用categorical_crossentropy。优化器 Adam 默认学习率 0.001大多数情况下够用但如果 loss 震荡厉害可以降到 0.0005。from tensorflow.keras.callbacks import EarlyStopping, ModelCheckpoint callbacks [ EarlyStopping(monitorval_loss, patience3, restore_best_weightsTrue), ModelCheckpoint(best_model.h5, monitorval_accuracy, save_best_onlyTrue) ] history model.fit( X_train, y_train, validation_split0.2, epochs20, batch_size64, callbackscallbacks )patience3表示验证集 loss 连续 3 个 epoch 不下降就停止训练restore_best_weightsTrue会恢复到最优 epoch 的权重。这两个参数能帮你省下大量无效训练时间。batch_size设 64 是折中值显存够可以上 128显存紧张就降到 32。注意validation_split0.2是从训练集末尾切分如果数据有排序规律最好先 shuffle 再切分否则验证集分布和训练集不一致早停判断会失准。4. 跑通之后分数上不去LSTM 新闻分类的调参与优化路径4.1 从基线到提分的四个方向基线跑通后准确率通常在 0.85 到 0.92 之间取决于数据版本和划分方式。想再往上走可以从四个方向入手序列长度、词表策略、模型结构、训练技巧。序列长度方面可以尝试把max_len从 200 提到 300 或 400看看验证集准确率有没有提升。如果提升不明显说明文本关键信息集中在前 200 个 token 内没必要加长。词表策略方面可以尝试保留所有 token不设频率阈值或者用字符级 token 替代空格切分。字符级 token 的词表更小但序列更长LSTM 处理长序列时容易梯度消失。模型结构方面可以尝试堆叠两层 LSTM或者在 LSTM 后面加注意力机制。两层 LSTM 的表达能力更强但参数量翻倍小数据集上容易过拟合。# 两层 LSTM 示例 model Sequential([ Embedding(VOCAB_SIZE, EMBED_DIM, input_lengthMAX_LEN), Bidirectional(LSTM(128, return_sequencesTrue)), Bidirectional(LSTM(64, return_sequencesFalse)), Dropout(0.5), Dense(NUM_CLASSES, activationsoftmax) ])训练技巧方面可以尝试学习率衰减、标签平滑、Focal Loss 等。标签平滑能缓解过拟合Focal Loss 适合类别不均衡的场景。4.2 验证集划分与交叉验证单次划分验证集有随机性分数波动可能达到 1 到 2 个百分点。如果想得到更稳定的评估结果可以用 K 折交叉验证。把训练集分成 5 份每次用 4 份训练、1 份验证最后取平均准确率。from sklearn.model_selection import StratifiedKFold skf StratifiedKFold(n_splits5, shuffleTrue, random_state42) scores [] for fold, (train_idx, val_idx) in enumerate(skf.split(X_train, y_train)): X_tr, X_val X_train[train_idx], X_train[val_idx] y_tr, y_val y_train[train_idx], y_train[val_idx] model build_model() # 重新构建模型 model.fit(X_tr, y_tr, validation_data(X_val, y_val), epochs10, batch_size64, verbose0) score model.evaluate(X_val, y_val, verbose0)[1] scores.append(score) print(fFold {fold1} accuracy: {score:.4f}) print(f平均准确率: {np.mean(scores):.4f})K 折交叉验证的代价是训练时间翻 K 倍但换来的是更可靠的评估。如果只是快速迭代单次划分够用如果要写报告或对比不同模型建议用交叉验证。5. 避坑与排查LSTM 新闻分类源码里最容易翻车的五个地方5.1 词表不一致导致预测结果全错现象训练时准确率 0.9预测时输出全是同一个类别。原因训练和预测用了不同的词表或者预测时重新构建了词表token 到 id 的映射完全乱了。解决把训练时构建的词表保存成 JSON 或 pickle 文件预测时直接加载不要重新构建。import json # 保存词表 with open(vocab.json, w, encodingutf-8) as f: json.dump(vocab, f, ensure_asciiFalse) # 加载词表 with open(vocab.json, r, encodingutf-8) as f: vocab json.load(f)5.2 序列填充方向搞反现象模型训练 loss 正常下降但验证集准确率始终比训练集低很多。原因paddingpre和truncatingpre用混了导致序列的有效信息被截断或填充位置不对。解决统一用post或pre并在训练和预测时保持一致。我一般用post因为大多数文本的关键信息在前半部分。5.3 标签未做编码转换现象模型编译时报错提示 loss 函数和标签形状不匹配。原因标签是字符串或浮点数而sparse_categorical_crossentropy要求整数标签。解决用LabelEncoder把标签转成 0 到 N-1 的整数。from sklearn.preprocessing import LabelEncoder le LabelEncoder() y_train le.fit_transform(train[label]) # 保存编码器预测时反变换 import joblib joblib.dump(le, label_encoder.pkl)5.4 显存不足导致训练中断现象训练到一半报 OOM 错误程序崩溃。原因batch_size太大或者max_len设得太长导致单批次数据量超出显存。解决降低batch_size到 32 或 16或者缩短max_len。也可以用tf.data.Dataset做动态填充按批次内最大长度填充而不是全局统一长度。5.5 过拟合严重但不知道从哪调现象训练集准确率 0.99验证集只有 0.85。原因模型参数太多、训练轮次太多、Dropout 比例太低。解决先加 Dropout再考虑减小 LSTM 隐藏单元数最后才是加数据。如果数据量固定可以用早停和权重衰减。from tensorflow.keras.regularizers import l2 # 在 LSTM 和 Dense 层加 L2 正则 Bidirectional(LSTM(128, return_sequencesFalse, kernel_regularizerl2(0.001))) Dense(64, activationrelu, kernel_regularizerl2(0.001))6. 把 LSTM 基线用到自己数据上三个可复用的工程习惯6.1 配置文件与命令行参数分离源码里经常把超参数硬编码在脚本里改一个参数要翻半天。我习惯用一个config.py或 YAML 文件集中管理所有超参数训练脚本通过命令行参数覆盖默认值。import argparse parser argparse.ArgumentParser() parser.add_argument(--max_len, typeint, default200) parser.add_argument(--embed_dim, typeint, default128) parser.add_argument(--lstm_units, typeint, default128) parser.add_argument(--batch_size, typeint, default64) parser.add_argument(--epochs, typeint, default20) parser.add_argument(--dropout, typefloat, default0.5) args parser.parse_args()这样你可以在命令行快速做参数扫描不用改代码。比如python train.py --lstm_units 256 --dropout 0.6就能跑一组新配置。6.2 训练过程可视化与日志记录只看最终准确率不够训练过程中的 loss 和 accuracy 曲线能告诉你很多信息。用matplotlib画出来或者用 TensorBoard 记录。import matplotlib.pyplot as plt def plot_history(history): fig, axes plt.subplots(1, 2, figsize(12, 4)) axes[0].plot(history.history[loss], labeltrain_loss) axes[0].plot(history.history[val_loss], labelval_loss) axes[0].set_title(Loss) axes[0].legend() axes[1].plot(history.history[accuracy], labeltrain_acc) axes[1].plot(history.history[val_accuracy], labelval_acc) axes[1].set_title(Accuracy) axes[1].legend() plt.savefig(training_curve.png) plt.show()如果训练 loss 持续下降但验证 loss 开始上升说明过拟合了该早停或加正则。如果两条曲线都震荡说明学习率太大或 batch_size 太小。6.3 预测结果的后处理与提交格式天池比赛的提交格式通常是 CSV包含text_id和label两列。预测时要注意测试集的text_id顺序必须和提交文件一致标签要反变换回原始编码。test pd.read_csv(data/test.csv, sep\t, encodingutf-8) test[seq] test[text].apply(lambda x: text_to_seq(x, vocab, MAX_LEN)) X_test np.array(test[seq].tolist()) preds model.predict(X_test) pred_labels np.argmax(preds, axis1) pred_labels le.inverse_transform(pred_labels) submission pd.DataFrame({text_id: test[text_id], label: pred_labels}) submission.to_csv(submission.csv, indexFalse, encodingutf-8)我一般会在提交前检查一下预测标签的分布如果某个类别占比异常高或异常低大概率是模型或数据处理出了问题。这个习惯帮我省过好几次后悔药。希望帮到你。本文还有配套的精品资源点击获取