AI内参_06_005_精读2017年EMNLP最佳长论文之二
你好，我是洪亮杰。
今天我和你分享的主题是二零一七年EMNLP的第二篇最佳长论文。
Emnlp每年都会选出两篇最佳长论文。
我们已经分析过，第一篇男性也喜欢购物，使用语料库级别的约束条件，减少性别偏见的放大程度。
今天我们继续来讲，第二篇EMNLP二零一七年最佳长论文的第二篇是在线论坛中抑郁与自残行为风险评估。
这篇文章，探讨了利用自然语言处理技术来解决一个社会问题。
最近一段时间以来呢，如何利用机器学习、数据、科学等技术来解决和处理社会问题，正逐渐成为很多社会科学和机器学习研究的交叉领域。
我先来介绍作者群的信息。
第一，作者，安德鲁耶特斯计算机博士毕业于美国华盛顿的乔治城大学，目前在德国马克思普朗克信息学院攻读博士后。
他在博士阶段已经发表了多篇，采用深度学习技术和信息检索自然语言处理相关的论文。
第二，作者，阿曼可汗来自伊朗，是乔治城大学计算机系博士生。
阿曼已在信息检索和自然语言处理相关方向发表了多篇论文。
二零一六年，在华盛顿的matt store health实习，并发表了两篇论文。
二零一七年暑假，在美国加州圣何塞的奥多比研究院实习，第三作者，纳斯利戈翰也来自乔治城大学计算机系。
目前在系里担任计算机教授，第一作者是他之前的学生。
第二，作者是他当前的学生。
纳斯利在长达二十年的职业生涯中，先后在工业界和学术圈任制，可以说有很深厚的学术和工业背景。
他在信息检索和文本分析领域已发表了二十多篇论文。
在理解这篇文章的主要贡献之前，我们还是先来弄明白这篇文章主要解决了一个什么场景下的问题。
现代社会，人们生活、工作的压力越来越大，研究表明，很多人都可能受到各式各样精神疾病的困扰。
在当下发达的互联网时代，在线场所为这些精神疾病患者寻求帮助，提供了大量的资源和信息。
特别是一些专业的在线支持社区，或是一些更大的在线社区，比如twitter或者reddit.因此，研究这些人在各种在线社区的行为，对设计更加符合他们需要的系统有很大帮助。
对于很多社会研究人员来说，分析这些人的精神状态才能更好的帮助他们长期发展。
这篇文章提出了一个比较通用的框架来分析这些精神疾病患者的在线行为。
在这个框架下，可以比较准确的分析发布信息的人是否有自残行为，还可以比较容易的分析，哪些用户有可能有抑郁症的状况。
整个框架利用了近年来逐渐成熟的深度学习技术，对文本进行分析。
所以，这里的应用思路很值得借鉴和参考，也可以用于其他场景。
在介绍这篇文章提出的方法之前，作者们用不小的篇幅介绍了文章使用的数据集和如何产生数据的标签。
首先，作者们从著名的在线社区reddit中找到和精神疾病有明确联系的帖子。
这些帖子是按照一个事先准备的语料库来筛选的。
这个语料库是为了比较高精度的发现与精神疾病相关的帖子，例，用语料库里的句式。
比如我已经被诊断得了抑郁症，这样就可以保证在很大程度上找到的帖子是来自精神疾病患者的。
如果一个用户发布了这样的帖子，但在这之前发布的帖子少于一百条，那么这个用户就不会包含在数据库中做这样的筛选。
可能作者们的考虑是太少的，帖子无法比较全面的，包含用户方方面面的行为。
作者们在RDD it社区中挖掘了从二零零六年到二零一六年十年时间里符合条件的所有帖子，并利用人工标注的方式筛选出了九千二百一十个有精神疾病困扰的用户，这些可以当做机器学习的证例。
那么如何寻找复利呢？作者们当然可以利用所有的用户，但是这样带来的后果很可能是研究没有可比性。
如果正立的用户和复利的用户之间差别太大，我们就很难说这些差别是因为精神疾病造成的还是有其他区别带来的。
于是啊作者们想到的方法则是尽可能的对于每一个正立的用户都找到最接近的复利用户。
实际操作中，作者们采取了更加严格的方式，那就是复利的用户必须没有发布过任何与精神疾病相关的帖子，并且在其他方面都需要和正例用户类似。
在这样的条件下，作者们找到了十万、七千二百七十四个复利用户。
对于数据集中的用户而言，每个用户平均发布了九百六十九个帖子，平均长度都多于一百四十个字。
可以说啊由这些用户构成的这个数据集也是本文的一个主要贡献。
这个数据集用于分析抑郁症。
对于自残行为而言，作者们利用了一个叫做reach out的在线社区数据，收集了包括六万五千零二十四个论坛的帖子，其中一千两百二十七个帖子提到了自残。
而对于提及自残的程度，数据分了五个等级，用于表示不同的紧急情况。
这篇论文主要提出了基于卷积神经网络的文本分析框架，分别用于检测抑郁症用户和检测自残倾向度的两个任务中。
虽然这两个任务使用的数据不同，最终采用的模型细节不同。
但是两个任务使用的都是同一个框架。
下面我们就来说一说这个框架的主要思想。
点击文稿可以看到一个简单的框架图。
首先，作者们利用每个用户的发帖信息来对每一个用户进行建模。
基本的思路是通过神经网络来对用户的每一个帖子建模，从中提取有效信息，然后把有效信息汇总成用户的一个表达。
有了这个思路，我们再来看看具体是怎么做的。
每一个帖子一个范围内的单词，首先通过卷积层提取特征，然后提取的特征，再经过最大抽取层集中。
这个步骤基本上就把目前图像处理的标准卷积层应用到文本信息上。
每一个帖子经过这样的变换，就成了特征向量。
有了这样的特征向量之后，用户的多个特征向量整合到一起，根据不同的任务，形成用户的整体表征。
在检测抑郁症的任务上，作者们采用的是平均的方式，也就是把所有的帖子特征向量直接平均得到。
而在检测自残的任务上，作者们则采用了一种比较复杂的形式，把所有的帖子都平铺到一起。
然后再把当前帖子之前的帖子作为复利放在一起。
注意不是整体的形式，而是完全平铺到一起，从而表达为用户的整体特征。
在经过了这样的信息提取之后，后面的步骤就是构建分类器。
这个步骤其实也是深度学习实践中比较常见的做法，那就是利用多层全联通层，最终把转换的信息转换到目标的标签上式。
可以说，在整体的思路上，作者们提出的方法清晰明了。
这里也为我们提供了一种用深度学习模型做文本挖掘的基本模式，那就是用卷积网络提取特征。
然后通过联通层学起分类器，作者们在上面提到的实验数据集上做了很充分的实验。
当然也对比了不少基本的方法，比如直接采用文本特征，然后用支持向量机来做分类器。
在辨别抑郁症的任务上，本文提出的方法综合获取了零点五一的f一值，其中召回达到零点四五，而直接采用支持向量机的方法精度高达零点七二，但是召回指数非常低，只有零点二九。
而在检测自残的任务上，提出方法的准确度能够达到零点八九f一值，达到零点六一都远远高于其他方法。
应该说从可观的数值上，本文的方法效果还是不错的。
今天啊我为你讲了EMNARP二零一七年第二篇年度最佳长论文。
这篇文章介绍了一个采用深度学习模型对论坛文本信息进行分析的应用，那就是如何识别有精神疾病的用户的信息。
一起来回顾一下要点。
第一，我简要介绍了这篇文章的作者群信息。
第二，这篇文章是利用自然语言处理技术，解决一个社会问题的应用论文，构建的数据集很有价值。
第三，文章把目前图像处理的标准卷积层应用到文本信息上，提出了基于卷积神经网络的文本分析框架，用于辨别抑郁症和检测自残倾向，都实现了不错的效果。
最后也给你留一个思考题。
如果说在图像信息上采用卷积层是有意义的那为什么同样的操作对于文本信息也是有效的呢？文本上的卷积操作又有什么物理含义呢？欢迎你给我留言，和我一起讨论。