Explosion公司2019年NLP技术盘点与突破

一月1月15日联合创始人接受了NLP Highlights播客采访讨论了Prodigy工具、训练语料来源以及NLP系统数据标注面临的挑战并分享了简化这一流程的思路。1月16日联合创始人出现在德国巴伐利亚广播公司的纪录片《问问你的冰箱》中展示了spaCy、Prodigy以及团队的日常工作。1月28日在瑞士洛桑的应用机器学习日活动中联合创始人发表了题为《使用spaCy和Prodigy进行NLP的实用迁移学习》的演讲重点讨论了使用大型原始文本语料库信息初始化模型的趋势以及如何在spaCy和Prodigy中应用此类技术。二月2月1日构建了一个针对新斯坦福NLP库的封装器使其最先进的通用依赖模型可直接在spaCy流程中使用。2月1日合并了Sofie Van Landeghem提交的重要PR通过重构正则表达式并用re模块替换原有实现在不影响准确率的前提下将各语言的tokenization速度提升了2-3倍。2月6日发布了一段FAQ视频其中分享了针对NLP标注和训练的实用技巧与建议。2月18日Prodigy v1.7.0发布该版本支持在单实例中设置多用户会话引入了为Prodigy Teams开发的多人协作功能并增加了即时提交设置及对所有界面自定义CSS和JavaScript的支持。三月3月9日联合创始人在TalkPython播客中讨论了如何构建软件业务分享了Explosion背后的故事。3月18日spaCy v2.1正式发布修复了大量待处理问题大幅优化文档提升了速度与准确率简化了安装流程并增加了ULMFit/BERT/ELMo风格的语言模型预训练等新功能。3月20日Prodigy升级至v1.8以支持spaCy v2.1新增了预训练支持、用于审核标注和解决冲突的Recipe、多项选择文本分类、便捷的数据集合并等功能。3月25日联合创始人在波兹南的WiDS活动上分享了NLP中的实用迁移学习。四月4月17日发布了广受欢迎的免费课程《使用spaCy进行高级NLP》该交互式应用旨在帮助任何想学习spaCy的人。五月5月7日联合创始人在TWiML播客中探讨了spaCy对工业级用例的关注以及开源生态。5月12日spaCy v2.1.4发布改进了训练命令并修复了常规错误。六月6月3日联合创始人在Data Hack Radio播客中回顾了spaCy的早期发展、指导库开发的核心思想并将机器学习与Web开发进行类比。6月24日Sofie Van Landeghem加入团队。她拥有12年机器学习与NLP工程经验现为spaCy核心开发者主要负责spaCy的新实体链接组件并参与了Hugging Face Neuralcoref组件的开发。七月7月4-6日在柏林举办了首届大型会议spaCy IRL活动吸引了200名与会者13位演讲者包括Yoav Goldberg和Sebastian Ruder的主旨演讲同时举办了培训课程。7月18日联合创始人在Python Bytes播客中讨论了fast.ai的NLP新课程以及使用Polyaxon进行模型训练和实验管理。7月29日联合创始人被Mouse vs. Python博客评为本周PyDev并在采访中分享了编程经历、与Python的结缘及当前项目。八月8月2日发布spacy-transformers库通过新开发的接口库连接spaCy与Hugging Face的实现支持在spaCy中使用BERT、GPT-2、XLNet等大型Transformer模型。8月21日推出新视频系列《使用spaCy进行NLP入门》由Vincent Warmerdam主讲。8月29日联合创始人在BR.de的文章中讨论了过度寄望于人工智能的潜在陷阱。九月9月2日Walter Henry加入团队主要负责协助团队进行各类运营工作。9月4日spacy-transformers v0.4.0发布增加了对Hugging Face DistilBERT的支持并提供了预打包的DistilBERT模型。9月15日计算语言学家Adriane Boyd加入团队拥有自2005年以来的研究经验2012年获得博士学位。她先参与社区贡献后全职加入致力于内部数据集与评估系统并对库进行了大量改进。9月19日为感谢社区向超过1100人发送了第二轮贴纸。9月24日Vincent在《使用spaCy进行NLP入门 #2》中演示了如何构建基于规则的匹配器来引导NER流程。十月10月1日FastAPI作者Sebastián Ramírez加入团队从哥伦比亚迁至柏林参与即将推出的Prodigy Teams及其他项目开发。10月2日spaCy v2.2发布主要新特性包括新增挪威语和立陶宛语核心模型、荷兰语NER增加更多标签、磁盘占用减少5-10倍、短语匹配速度提升10倍、高效序列化Doc对象集合、以及用于文本分类训练和数据调试的CLI。10月10日在布鲁塞尔META-FORUM 2019上与某中心一同荣获META杰出技术认可奖。10月12-15日在印度PyCon大会上团队成员演示了如何通过spacy-transformers在spaCy中使用BERT等大型Transformer模型并发表了题为《让他们写代码》的主旨演讲。10月31日spaCy v2.2.2发布新增nlp.pipe的多进程支持、简化GPU安装与设置、初步支持卢森堡语、模型修复及对未来API的前向兼容支持。十一月11月1日联合创始人接受德国杂志Kulturnews采访。11月8日在慕尼黑的Hacking Machine Learning聚会上联合创始人分享了关于spacy-transformers的内容。11月9日在Zündfunk Netzkongress上联合创始人发表了题为《人工智能超越炒作》的演讲探讨了盲目相信技术的危险以及对过去浪漫化的问题。11月9日联合创始人就其在Zündfunk的演讲接受了德国巴伐利亚广播电视台的简短采访。11月22日sense2vec项目更新发布了新库、模型和演示应用基于Reddit评论数十亿词训练的词向量对比了2015年至2019年的语言变化。11月22日开始开源部分数据集和NLP示例项目每个项目包含1000个标注示例、训练/评估脚本、结果、数据可视化工具以及在Reddit上训练的强大tok2vec权重。11月28日联合创始人登上SourceSort平台讨论如何用商业开发者工具Prodigy来补充拥有超过15000颗星的开源项目spaCy。十二月12月7日Vincent在《使用spaCy进行NLP入门 #3》中讲解了如何将基于规则的原型过渡到NER模型以获得更快的实验结果并建立机器学习基线。12月9日联合创始人总结了2019年AI领域的关键趋势并展望了2020年的发展。12月9日团队成员在Practical AI播客中讲述了spaCy的历史并探讨了NLP的最新趋势。12月18日Prodigy v1.9发布包含全新网站、大量新文档、新的训练和数据转换Recipe、用于组合界面的“块”UI、自由文本输入UI以及众多其他功能。FINISHED更多精彩内容 请关注我的个人公众号 公众号办公AI智能小助手或者 我的个人博客 https://blog.qife122.com/对网络安全、黑客技术感兴趣的朋友可以关注我的安全公众号网络安全技术点滴分享