新浪微信
当前位置:首页>NGO新闻>NGO发声>  【科学公益】朱廷劭:如何用人工智能技术,让站在悬崖边缘的人“且留一步”?

【科学公益】朱廷劭:如何用人工智能技术,让站在悬崖边缘的人“且留一步”?

2019-10-12 10:43:42  来源: 我是科学家iScientist  作者:朱廷劭    点击数量:3170

 

 

当我们享受着现代生活便利与美好的同时,还有一些人群,正在默默承受生活的茫然、无助甚至绝望。全国科学院心理研究所研究员朱廷劭老师所做的事情,就是默默蹲守着一个树洞,识别出有自杀倾向的人,然后对他们说:且留一步。朱廷劭老师带来分享《如何用人工智能技术,让站在悬崖边缘的人“且留一步”?》。

 

 

点击视频可看:朱廷劭演讲视频

 

以下为朱廷劭演讲实录:

 

 

我是朱廷劭,来自全国科学院心理研究所。我们希望能够通过技术手段,向处于自杀困境中的人提供帮助。

 

 

我虽然来自中科院心理所,但其实是纯计算机背景,我的本、硕、博都是计算机专业。

 

 

 

 

我博士毕业于全国科学院计算技术研究所,当时是做语音合成。大家经常听到的“倒车请注意”就是合成的,只不过合成效果比较差。我们希望能够通过人工智能学习到人们说话的韵律规则,从而提高合成语音的自然度。

 

 

从国内毕业之后,我去了阿尔伯塔大学(University of Alberta),属于加拿大人工智能领域排名前三的学校,阿尔法狗(AlphaGo)、阿尔法零(AlphaZero)的主创人员就是这个学校的AI组毕业的。我在加拿大主要研究推荐系统,希望通过对人浏览网页时的行为分析了解他的信息需求,然后从全网找到能够满足他需求的内容。这里面就涉及到对人的行为分析,所以后来我就逐渐接触心理学,希望能够更多地了解它,然后把它跟计算机结合在一起。

 

 

 

 

2012年,我到了中科院心理所。结果发现,心理学和计算机是两个完全不同的世界,其中的差别可能超过全国南方和北方。经过几年的磨合,我觉得现在还算适应。

 

 

我在心理所的主要工作,就是把新的计算机技术运用到心理学领域,去结合心理学的研究或者实践。比如通过对人的一些行为分析(包括步态、面部、语音分析),去了解他的心理状态,就像我们经常说的“读心术”。当然,我们这个是科学研究, 不是迷信。

 

 

 

 

比如,我们想通过分析全国几千年的文言文,去了解古人个体主义和集体主义的心理变化特征。从结果来看,先秦时期的个人主义比较强大,但随着朝代的变迁受到了不断增强的压制。

 

 

由此,我们也试图解释“李约瑟之问”:为什么全国在明朝后期出现了资本主义萌芽,却没有出现资本主义发展?我们觉得可能与个体受到长期的压制有关。

 

 

 

 

除此之外,我们也做一些线下精神疾病的诊断。由于以医生的主观诊断为主,我们有时也能看到报道上说“被精神疾病”。那么,有没有可能利用技术的手段辅助医生做出更科学的诊断?

 

 

如果我们现在问大家:你有没有精神病?
你肯定回答:我没有精神病,我很正常。

 

 

心理学里面有一个概念,“社会赞许性”——我们每个人都想把自己好的一面表现出来。因此,回答也可能是假的,不过一些语音、面部和步态的行为指标(还包括各种各样的行为)很难掩饰。所以,我们想利用人工智能的办法对人的行为进行分析,以此了解他的精神和心理状态,从而为精神疾病的诊断提供辅助。

 

 

人工智能确实可以帮我们做很多事情,我们国家也在大力推进人工智能发展,但它不是万能的。

 

 

 

 

比如,上面两句话看似没问题,但其实包含了自杀意念的表达。

 

 

 

 

“走饭”是在2012年3月自杀的一个南京女大学生,“饭饭”是对她的昵称。在她走后,她的最后一条微博成了树洞,有很多人下面留言。根据2017年2月《冰点周刊》的统计,当时有58万条留言;现在已经超过100万条了,并且每月增加的速度非常快,大概有6000多条。

 

 

2012年到2013年期间,网上有特别多的自杀案例报道。由此我们就想,有没有可能对人的自杀意念或者可能性做出识别?这样或许可以为自杀干预和预防提供帮助。

 

 

 

 

 

我们一般会认为,自杀是个人选择,干预没有必要。但是从研究中来看,其实将近80%的人并非觉得没有必要,而是不知道向哪求助或者如何求助——他遇到问题但不知道该怎么解决,可能自杀是唯一的选择。

 

 

 

 

虽然目前社会上有很多自杀干预和救助热线,但在某些情况下,求助人是一边割腕一边打电话,为时已晚。那么,有没有可能把干预尽量前移,在他刚开始有自杀意念或想法的时候就提供及时专业的指导,帮他解决问题,不要等事情不可挽回的时候再去想办法补救。

 

 

 

 

因此,就需要我们及早主动地去发现那些自杀意念者,而不是被动等待他们打来电话。

 

 

我们以前尝试过人工标注,结果发现工作量特别大,太多的负向信息对工作人员影响也非常大。我们统计了一下,两三千条数据人工标注大约需要一周甚至两周,可能就已经来不及了。

 

 

我想利用人工智能技术对网络上的信息做及时自动的识别,让我们知道某个人是否具有自杀意念。不过其中也有个疑问:人工智能到底能不能做到?

 

 

 

 

举个例子,这是两个人逛商场的行为轨迹,大家觉得哪个是女性?
显然是右边。

 

 

大家虽然没有看到照片,也没有看到这两个人的身份证号,但却能够根据行为指标判断出性别。除此之外,如果把这些商铺的名字列出来,还能大致知道他们的收入情况。

 

 

 

 

所以,我们根据一个人的行为指标,完全可以对他的某些个性特点做出自动判断,在人工智能里边的方法就是机器学习(Machine Learning)。

 

 

 

 

为了对自杀意念做出识别,我们根据不同紧急程度做了一些标注,分为有意念、有计划、有实施三类。我们希望通过人工智能的办法,通过对这些短文本的分析(以前的自杀识别基本上是基于篇幅比较长的遗书和遗言),去了解背后有没有自杀的意念。

 

 

 

 

我们通过模型的优化以及自然语言处理技术和人工智能技术的学习,识别准确率最后能达到84%。现在我们正在跟百度合作,希望能够用更复杂的人工智能技术提高预测精度,节约人工的时间。

 

 

到此为止,其实从做研究的角度来讲就差不多了,写文章也足够了。但是我们想再往前推进一步,跟自杀意念者联系交流。

 

 

我们当时就遇到一个问题:怎么跟他们沟通?

 

 

 

 

一种办法就是广而告之,向他的亲朋好友发信息,让大家赶紧关注他。英国学者在早期做过这样的工作,结果因为侵犯隐私很快被停掉。我们当时觉得,这种方式可能会引发其他人对他的偏见,会完全磨灭他以后主动求助的可能性。除此之外,我们也觉得要保护他的个人尊严。

 

 

我们之前接触过一个案例,一个小女孩跳楼自杀,虽然最后被救下来了,但后来她说,如果以后再跳楼,会找一个其他人绝对找不到的地方。也就是说,她再次实施自杀的方式可能特别决绝。我们希望能够用更好的办法,在保护他们的隐私和尊严的情况下开展交流。

 

 

最后,我们选择了微博私信的方式。私信是一对一的邮件系统,在系统前台根本看不到交互,我们的系统曾经还差点因为日活量太少被关闭——其实,这两年多我们后台有16万的交互。

 

 

 

 

我们经常在网上接收到垃圾消息,一般看都不看就删掉了。那么,如何能保证这些人会点开看?

 

 

 

2016年的3月到9月,我们给看到发表过有自杀意图微博的用户发了用户实验的邀请信,想了解有自杀意念的人需要看到什么样的信息。其实,邀请信的内容也是干预内容,这张截图就是我们第一次发出来的信息。

 

 

发出去后,我们心里非常忐忑,因为现在网上有很多键盘侠,不管你做什么总有人骂;而这个又涉及隐私,特别敏感。我们非常担心会被推上热搜,弄成一个舆情事件,科学院再问责,所里边找我麻烦,最后就做不了了。

 

 

 

 

我们给4222个用户发出信息,并且收到了一些回复。看到回复内容后,我们松了一口气:很多人给我们发来感谢,只有个位数的回复特别负面,不过这很正常。

 

 

 

 

但是有一位微博用户,他的亲人给我回复说他已经自杀死亡了。也就是说,半年之内这个人有过自杀表达,最后真的自杀死亡了,当时给我们的震撼很大——虽然我们发了私信和转介信息,尽到了责任,但是并没有达到一个好的效果。我们就想,有没有可能更进一步地直接提供干预信息,真正地帮助他们。

 

 

 

 

除了热线转接之外,我们还增加了在线的心理测量和自助干预项目。心理测量不同于网上的娱乐测试,是通过专业的手段让他们知道自己当前的情况究竟如何。而自主干预是因为我们发现很多人不愿意跟人讲话,而是愿意跟机器交流。

 

 

同时,我们也招募志愿者(我们希望他是三级以上咨询师,因为是非常专业的交流,有时候可能会影响到个人),特别要求他们用统一的账号进行交流,在保护对方同时也保护自己。

 

 

 

 

所以整个流程就是:用计算机的办法去抓取到数据,然后用训练好的模型识别出有自杀意念的用户,并且也进行人工的核查。

 

 

当时做用户实验时,有人立马回复私信,他说觉得自己很正常,从来没有说过有自杀意念的话,为什么还会收到这样的信息?后来我们找了一下,发现这个人是在某个地方说过,但是他自己的微博上没有,于是我们就把那句话粘贴过去回复他。

 

 

这件事情让我们很警觉,因为如果全用计算机会有误差,而误差一旦出来,互信就彻底被打破了。所以,我们的每一条私信必须保证是发给了确确实实有自杀意念的人。

 

 

 

 

通过私信的发送和交互,我们能够提供及时的干预信息。志愿者会做一些简单的评估,最后能看到他心情的变化,降低自杀的可能性。

 

 

私信究竟该发几次?不能每次都发,否则就是骚扰;以前也从来没有可供借鉴的研究成果。我们通常讲事不过三,但是又觉得可能很多人不看,所以后来定了五次。

 

 

 

 

从结果来看,虽然有人从来不回复私信,也没有跟志愿者交流过,但是这几次的发送使得他觉得有人在关注他,能够感受到来自社会的支持——这有可能是他克服困难的最大动力。

 

 

两年内,我们一直在推进这项工作。我们特别统计了跟志愿者有过交流的人,一共有3733名,想了解他们的反馈怎么样。

 

 

 

 

首先,他们的态度大多比较积极(77%),消极态度的比例也在合理区间内(10%)。除此之外,他们跟志愿者交流的内容,主要是想了解一下救助方法,或者说明自身情况。我们觉得这种办法能够激活他们向外界求助的动机,是非常重要的一步。

 

 

有一点,我们一直很关注:到底是哪些因素导致了自杀的发生?国外的研究说自杀90%是长期精神疾病导致的,而国内一直都有质疑和争论,认为没有到这个数。

 

 

 

 

从我们的结果来看,在所有有自杀意念甚至付诸实施的人群里,接近一半的人是精神健康的,他们面临的最主要的问题是家庭问题,这是非常令人惊讶的结果。除此之外,还有一些因素也会导致自杀的可能性,比如工作、学习、婚恋,包括受欺凌、甚至是被性侵的经历。

 

 

 

 

我们也研究了自杀意念者向谁求助。结果发现,有一半的人从未寻求过帮助。而且在求助人群里边,家人不仅不是第一位,而且比例甚至低于陌生网友。很多时候我们认为家庭是一个人最主要也最重要的资源,但是在最危机的时候,家人不是第一位的,这是需要我们反思的一个问题。

 

 

我们需要有更好的家庭教育,包括生死教育。前段时间上海的初中生跳桥事件,可能并不代表他真的就想自杀,有可能他是通过这种行为去表达对家人的不满,但他没有想到跳桥那刻之后就无法挽回了,我觉得他没有接受很好的生死教育。

 

 

除此之外,青少年和老年是自杀的重灾区。全国农村50岁以上的老年人自杀比例非常高,因为他们没有手机,也不上网,丧失劳动能力后就认为自己成为了家庭的累赘。

 

 

 

 

 

除此之外,我们也看到全国的自杀情况跟国外不太一样,有全国的特点,所以也需要研究适合全国人群的自杀干预方法。

 

 

另外,我们觉得自杀并不仅仅是心理问题导致的,其实包含很多的现实问题,所以它也是一个社会工程,需要整个社会一起努力去解决自杀问题。

 

 

虽然我是学计算机的,但我也认为人工智能只是个技术。它可以帮助我们,但其本身无法解决自杀问题。下面是一个网友对我们工作的评价,我觉得特别贴切——

 

 

 

我们希望能够用基础的办法,去把专业的方法和手段有效地传达到需要的人群中,让他们用更专业的方法去应对自己的问题。不管最后结果怎么样,我们都希望他们能够在自己的世界里边幸福安康。

 

 

谢谢大家。

 

 

 

*免责声明:本站文章图文版权归原作者及原出处所有 ,文章内容为作者个人观点,并不代表本网站。如果您发现网站上有侵犯您的知识产权的作品,请与我们取得联系,我们会及时修改或删除。

分享到:

 
NGO招聘微信扫一扫
更多精彩
TOP 意见反馈