B站风格聊天机器人终极指南打造你的专属暴躁AI助手【免费下载链接】bilibotA local chatbot fine-tuned by bilibili user comments.项目地址: https://gitcode.com/GitHub_Trending/bi/bilibot想体验B站用户特有的暴躁老哥式聊天风格吗厌倦了那些一本正经的AI助手这个基于B站用户评论微调的本地聊天机器人能让你在5分钟内拥有一个会说人话、带点小脾气的智能伙伴。它不仅能用文字跟你互怼还能生成派蒙和林亦的语音对话给你带来前所未有的互动体验。快速入门5分钟部署你的B站风格AI环境配置与项目获取首先确保你的系统已经安装了Python 3.10环境。建议使用Anaconda来管理Python环境这样可以避免依赖冲突问题。# 克隆项目到本地 git clone https://gitcode.com/GitHub_Trending/bi/bilibot # 进入项目目录 cd bilibot # 创建并激活虚拟环境 conda create -n bilibot python3.10 conda activate bilibot # 安装项目依赖 pip install -r requirements.txt模型准备与量化加速项目基于Qwen1.5-32B-Chat模型进行微调但别担心我们提供了量化压缩工具能让模型运行速度提升数倍# 运行模型压缩脚本 python tools/compress_model.py这个压缩过程会将32B的大模型压缩到4位精度在保持对话质量的同时大幅降低内存占用和推理时间。核心功能深度解析不只是聊天那么简单1. 暴躁风格聊天机器人打开终端运行聊天程序python main/chat.py你会看到一个简单的交互界面输入任何问题AI都会以B站用户特有的暴躁老哥风格回应你。比如你问咖啡严格来说是不是也可以叫豆浆它可能会回答你这问题太有创意了咖啡要是能叫豆浆那可乐是不是也能叫中药汤2. 智能问答语音对话项目最有趣的功能是语音对话生成。运行以下命令启动问答对话python main/start_qa_dialogue.py这个程序会从text/questions.txt中读取一系列有趣的问题比如赤道那么暖和为什么不给东北修一条、变形金刚买保险是买车险还是人险等然后生成派蒙提问、AI回答、林亦评论的完整对话流程。3. 自定义对话风格想要调整AI的说话风格编辑text/chat_template.txt文件|im_start|system You are a helpful assistant|im_end| |im_start|user 你是一位B站老用户请使用暴躁的语言风格对以下问题给出简短、机智的回答 {usr_msg}|im_end| |im_start|assistant你可以修改提示词中的暴躁的语言风格为其他风格比如幽默风趣、毒舌吐槽、温柔安慰等让AI以不同的人格与你对话。高级应用打造个性化语音助手集成GPT-SoVITS语音合成项目支持与GPT-SoVITS语音合成项目集成实现真正的语音对话。你需要先配置GPT-SoVITS环境conda create -n GPTSOVITS python3.9 conda activate GPTSOVITS cd GPT-SoVITS pip install -r requirements.txt python webui.py然后启动两个语音API服务分别对应派蒙和林亦的角色# 派蒙语音服务端口9880 python api.py -s SoVITS_weights/paimeng2_e110_s159940.pth -g GPT_weights/paimeng2-e10.ckpt -dr samples/Paimon/疑问—哇这个还有这个…只是和史莱姆打了一场就有这么多结论吗.wav -dt 哇这个还有这个…只是和史莱姆打了一场就有这么多结论吗 -dl zh -a 127.0.0.1 -p 9880 # 林亦语音服务端口9881 python api.py -s SoVITS_weights/linyi_e25_s1150.pth -g GPT_weights/linyi-e50.ckpt -dr samples/linyi/【愤怒】你这问题太弱智了我都不知道该从哪开始骂你。.WAV -dt 你这问题太弱智了我都不知道该从哪开始骂你。 -dl zh -a 127.0.0.1 -p 9881自定义问题库编辑text/questions.txt文件添加你自己的问题为什么程序员喜欢用黑色背景写代码 如果AI有了感情它会先学会什么情绪 早上喝咖啡晚上失眠晚上喝咖啡早上清醒怎么办每个问题都会触发完整的语音对话流程让你的AI助手变得更加个性化。技术架构与优化技巧模型微调原理项目使用苹果的mlx-lm框架进行LoRA微调这是一种高效的参数微调方法只需要训练少量参数就能让基础模型适应新的对话风格。核心训练命令如下python -m mlx_lm.lora --model models/Qwen1.5-32B-Chat --data data/ --train --iters 1000 --batch-size 16 --lora-layers 12性能优化建议内存优化使用4位量化后的模型显存占用从60GB降低到约15GB推理加速调整max_tokens参数控制生成长度避免生成过长响应温度调整修改temp参数0.1-1.0控制回答的创造性值越低回答越确定值越高越有创意数据处理流程项目的数据处理非常巧妙使用B站用户真实评论作为训练数据通过特定提示词模板塑造对话风格结合语音合成技术实现多模态交互常见问题解决指南Q1: 模型加载失败怎么办确保模型文件完整检查models/目录下是否有Qwen1.5-32B-Chat-FT-4Bit文件夹如果没有需要先运行压缩脚本。Q2: 语音合成服务无法连接确认GPT-SoVITS服务已正确启动检查端口9880和9881是否被占用防火墙设置是否允许本地连接。Q3: 回答质量不理想尝试调整text/chat_template.txt中的提示词或者增加训练数据。B站风格的对话需要特定的语料训练才能达到理想效果。Q4: 运行速度太慢确保使用了量化后的4位模型如果还是慢可以尝试减少max_tokens参数值或者使用性能更好的硬件。创意应用场景娱乐聊天伙伴无聊时跟AI互怼体验B站弹幕文化的精髓。AI会以幽默、毒舌的方式回应你的各种奇葩问题。内容创作助手用AI生成有趣的段子、吐槽文案或者为视频配音提供创意灵感。派蒙和林亦的语音风格特别适合制作搞笑视频。语言学习工具通过对话练习中文口语特别是学习网络流行语和年轻人常用的表达方式。心理减压应用有时候跟一个暴躁的AI聊天反而能释放压力它不会生气但会用幽默的方式回应你的烦恼。项目优势与特色本地部署所有数据都在本地处理保护隐私安全风格独特基于B站真实用户评论训练对话风格鲜活有趣多模态交互支持文字语音双重交互方式易于定制可以轻松调整对话风格和问题库性能优化4位量化技术让大模型在消费级硬件上也能流畅运行未来扩展方向想要进一步开发这个项目这里有一些建议添加更多语音角色集成更多B站UP主的语音模型支持多轮对话让AI能记住上下文进行更自然的连续对话开发图形界面制作一个漂亮的聊天界面降低使用门槛移动端适配让这个有趣的AI助手能在手机上使用社区贡献让用户上传自己的对话数据共同训练更丰富的对话风格现在就开始你的B站风格AI助手之旅吧这个项目不仅技术上有趣更重要的是它能给你带来真正的快乐。在技术日益严肃的今天这样一个带点不正经的AI项目或许正是我们需要的数字生活调味剂。【免费下载链接】bilibotA local chatbot fine-tuned by bilibili user comments.项目地址: https://gitcode.com/GitHub_Trending/bi/bilibot创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考