爆炸式增长2019 NLP技术年度回顾随着2019年即将结束我们步入2020年代在此回顾过去一年所取得的成就。我们将逐月梳理发生的所有重要技术进展。同时我们很高兴看到团队今年不断壮大四位新成员加入Sofie Van Landeghem、Adriane Boyd、Walter Henry 和 Sebastián Ramírez。一月 1月15日年初团队作为嘉宾参加了由某机构Allen AI的Matt Gardner和Waleed Ammar主持的NLP Highlights播客。在采访中Matt和Ines讨论了Prodigy、训练语料来源以及为NLP系统进行数据标注的挑战并提出了一些简化流程的思路。 1月16日Ines随后出现在德国巴伐利亚广播电视台的科技纪录片《问问你的冰箱》中探讨AI技术。节目中展示了spaCy、Prodigy以及在GitHub上的日常工作。 1月28日Ines参加了在瑞士洛桑举行的应用机器学习日大会并在语言技术分会上发表了题为《使用spaCy和Prodigy进行NLP实用迁移学习》的演讲重点探讨了利用大规模原始文本语料初始化模型的趋势以及如何在spaCy和Prodigy中应用此类技术。二月 2月1日月初发布了一个实用工具为新的斯坦福NLP库开发的封装器现在其最先进的通用依赖关系模型可以直接在spaCy流程中使用。 2月1日同一天合并了Sofie Van Landeghem提交的优秀拉取请求。通过重构正则表达式并用re模块替换原有实现在保持相同准确率的前提下将各语言的分词速度提升了2-3倍。这也标志着与Sofie卓越合作的开始她随后全职加入spaCy核心团队。 2月6日本月发布了一个有趣的常见问题解答视频。Ines在其中基于给Prodigy和spaCy用户的常见建议分享了NLP标注和训练的实用技巧。✨ 2月18日二月底Prodigy v1.7.0发布。此更新支持在单个实例中轻松设置命名多用户会话并应用了为即将推出的Prodigy Teams开发的多用户功能。同时引入了即时提交设置、跨所有界面的自定义CSS和JavaScript支持。三月 3月9日Ines做客Michael Kennedy的TalkPython播客探讨构建软件业务的经验分享了某机构发展的另一面故事。 3月18日spaCy v2.1发布此次更新修复了大量遗留问题对文档进行了大幅改进提升了速度和准确性简化并加速了安装过程并增加了一些激动人心的新功能如支持ULMFit/BERT/ELMo风格的语言模型预训练。✨ 3月20日Prodigy升级至v1.8以支持spaCy v2.1新增了对预训练的支持、用于审核标注和解决冲突的新配方、多项选择文本分类、简易数据集合并等功能。 3月25日Ines受邀参加在波兹南举行的“数据科学女性”活动就NLP实用迁移学习进行了分享。四月 4月17日发布了广受欢迎的免费课程《使用spaCy进行高级NLP》。Ines构建了交互式应用方便任何想学习spaCy的人使用。五月 5月7日Ines与Sam Charrington在TWiML播客上交流探讨了spaCy、其聚焦工业应用场景的特点以及开源理念。 5月12日spaCy发布v2.1.4改进了训练命令并进行了常规错误修复。六月 6月3日与Kunal Jain在Analytics Vidhya的Data Hack Radio上回顾了spaCy的早期发展、指导库开发的原则并探讨了机器学习与Web开发的相似之处。 6月24日Sofie Van Landeghem正式加入团队Sofie拥有12年机器学习和NLP工程经验。她目前是spaCy核心开发者之一主要负责新的实体链接组件的开发并参与了Hugging Face Neuralcoref组件的工作该组件有望在明年初合并到核心库。七月 7月4-6日首届spaCy IRL大会在柏林举行经过七个月的筹备活动圆满成功。主会场售罄200名参会者13位演讲者包括Yoav Goldberg和Sebastian Ruder作为主题演讲嘉宾。同期培训吸引了70人参加由于需求旺盛在原计划基础上增设了场次。 7月18日Ines做客Python Bytes播客讨论了fast.ai的新NLP课程以及使用Polyaxon进行模型训练和实验管理。 7月29日Ines被选为Mouse vs. Python博客的“本周PyDev”。八月 8月2日发布激动人心的新库spacy-transformers通过这个新接口库用户现在可以在spaCy中使用如BERT、GPT-2、XLNet等大型Transformer模型该库连接了某机构Hugging Face的卓越实现。 8月21日官方学习资料增加新视频系列《使用spaCy进行NLP入门》由Vincent Warmerdam主讲。 8月29日Ines在BR.de发表文章讨论了对人工智能过度期望的潜在陷阱。九月 9月2日Walter Henry加入团队负责协助各类事务。 9月4日spacy-transformers持续改进发布v0.4.0增加了对某机构DistilBERT模型的支持及预打包的DistilBERT模型。 9月15日Adriane Boyd作为第二位spaCy开发者加入团队。她是一位计算语言学家自2005年起从事研究。她于今年春季开始参与spaCy社区并在spaCy IRL大会后正式全职加入。Adriane最初致力于内部数据集和评估系统随后对库进行了大量改进。 9月19日为感谢社区支持发放了新一批贴纸截至年底共寄出超过1100份。 9月24日Vincent回归带来《使用spaCy进行NLP入门 #2》在本集中他构建了一个基于规则的匹配器来启动NER流程。十月 10月1日Sebastián Ramírez加入团队他是FastAPI的作者该库正迅速成为现代REST API的行业标准。他将致力于即将推出的Prodigy Teams项目。 10月2日spaCy v2.2发布新特性包括挪威语和立陶宛语的核心模型、更多标签的荷兰语NER、磁盘占用减少5-10倍、短语匹配速度提升10倍、高效的Doc对象集合序列化、以及用于文本分类训练和数据调试的命令行界面。 10月10日与某机构Mozilla一同在布鲁塞尔举行的META-FORUM 2019上荣获META Seal of Recognition奖。 10月12-15日Ines和Matt参加在钦奈举办的PyCon India大会。Matt分享了如何通过spacy-transformers在spaCy中使用BERT等大型Transformer模型。Ines发表了题为“让他们写代码”的主题演讲。 10月31日spaCy v2.2.2发布新增功能包括nlp.pipe中的多进程支持、简化的GPU安装设置、对卢森堡语的基础支持以及模型修复并为未来API提供了前向兼容支持。十一月 11月1日Ines接受德国杂志Kulturnews采访。 11月8日Ines在慕尼黑举行的Hacking Machine Learning Meetup上就spacy-transformers发表演讲。 11月9日Ines在Zündfunk Netzkongress大会上发表题为“人工智能超越炒作”的演讲探讨了对技术无条件信仰和美化过去的风险。 11月9日Ines就其在Zündfunk的演讲接受了巴伐利亚广播电视台的简短采访。 11月22日sense2vec重磅更新更新了库、模型和演示使用基于Reddit评论数十亿词语训练的关键词上下文词向量对比2015年和2019年的语言变化直观展示了过去四年语言的演变速度。 11月22日开始开源部分数据集和NLP示例项目每个项目包含1000个标注示例、训练/评估脚本、结果、数据可视化工具以及在Reddit上训练的强大tok2vec权重。 11月28日Ines登上SourceSort平台讨论如何用商业开发者工具即Prodigy补充拥有15000星的开源项目spaCy并回顾了spaCy的部分历史。十二月 12月7日Vincent带来《使用spaCy进行NLP入门 #3》讲解如何将基于规则的原型过渡到NER模型以获得更快的实验速度和机器学习基准。 12月9日Ines总结了对2019年AI趋势的关键思考以及对2020年的展望。 12月9日Matt和Ines在Practical AI播客中与Daniel Whitenack和Chris Benson探讨了spaCy的历史以及对NLP最新趋势的看法。✨ 12月18日年度最大规模更新Prodigy v1.9发布。此版本包含全新网站、大量新文档、新的训练和数据转换配方、用于组合界面的“块”式UI、自由文本输入UI等等。FINISHED更多精彩内容 请关注我的个人公众号 公众号办公AI智能小助手或者 我的个人博客 https://blog.qife122.com/对网络安全、黑客技术感兴趣的朋友可以关注我的安全公众号网络安全技术点滴分享