网购订单藏无声呼救“自杀干预师”用人工智能技术联动各方力量协作干预

2020-01-07 14:21:13 | IT在线 | ITOL.com.cn

冬日的深夜,武纲躺在床上,感觉寒意还是浸透了四周,很多时候他都觉得自己这个岗位充满荒诞,在一家电商平台工作,别人卖货,他则是负责把一些订单拦截下来。

“只是把商品拦下来有用吗?”他常问自己,在网上买不到一把刀一根绳子,屏幕那头的自杀者可能随时把自己塞进车轮,或是从天台上跳下去。“你不卖给我,我就从8楼跳下去。再过一会儿,等爸妈睡着了。”武纲是晚上接到平台上的一个商家转来的这个紧急求助,屏幕那头是个12岁的小姑娘。

像他干预的每一个自杀者一样,武纲拼命在想这个孩子的样子和她所处的环境,她是不是受了谁的气?或者说一次考试没考好?他接触过太多这样的情况,应激状态下试图结束生命的人占了绝大多数,“很多时候他们心里就是一个魔。”武纲觉得自己不是在拦截商品,而是要把这世上所有的词语、经历、情感、机智都攒起来,去击垮那个魔,魔鬼往前走一步,这世上就会多一个悲剧。这半年他们胜利了上千次,他和他的小伙伴们给自己岗位取的名字是:自杀干预师。

2019年12月的一天晚上8点,淘宝一家店里来了个奇怪的消费者,客服惯常询问来人购物的用途,对面突然说:我活不下去了。

这是个12岁的小姑娘,因为被父母批评,小姑娘想到自杀。客服吓了一跳,又担心是恶作剧,不料对方说,她之前也自杀过,从家旁边的商店里买了药,结果被救了回来。

这家店的客服在竭力安抚陪伴的同时,将信息反馈给阿里安全部门,信息很快到了武纲那里。

从某种意义上来说,武纲的工作就是与死神赛跑,或者准确地说,是与意图轻生者的求生意志赛跑。

“有一次,商家反映说有用户在线咨询什么可以让自己很快死亡,我们很快发现,陆续有多个商家都反馈说这个消费者在四处寻找轻生工具,而且还明确表示‘你们不要拦我了,拦我是没用的,我不是第一次想死了’,我们能做到的就是第一时间与其所在地公安、居委会等部门联系,和她的情绪抢时间。”

如何避免平台售卖的正常商品被有自杀倾向的消费者滥用?2019年初,武纲和同事筹划着守护生命项目,希望利用人工智能技术并联动商家、公安、第三方机构建立干预机制,对有自杀倾向的人予以安抚和干预,必要时联动线下政府部门快速干预,避免悲剧,半年来,他们挽救了上千条生命。

隐藏在订单背后的呼救信号

“我活不下去了……”2019年12月一天晚上8点,网店客服璐璐在网上接待了一位特殊的顾客。

年仅12岁的女孩婷婷咨询如何购买安眠药,尽管相关处方药早已在平台上停止销售,但因涉及此类商品,璐璐还是按惯例主动询问其用于治疗什么疾病。

“不是治病,我只是活不下去了。”女孩的答复令人担心不已:“上次吃药没有成功,就想着换个方法。”

根据世界卫生组织2014年9月发表的首份预防自杀报告,全球每年有80多万人死于自杀。

时间已经过去5年多,这个数字尚没有官方的更新。但不可否认的是,最近几年,自杀事件屡屡成为社会关注的焦点。

2019年10月14日,韩国艺人崔雪莉自杀身亡,短短40天后,11月24日,其好友、韩国女艺人具荷拉同样因自杀去世,引发巨大关注。

面对愈演愈烈的自杀问题,不少人提出疑问:轻生者在决定自杀前,是不是也曾对这个世界满怀希望?他们是不是也曾拼尽全力,对外呼救?

对于阿里安全的武纲来说,这个问题的答案显然是肯定的。

阿里安全是专门负责处置各种层面风险的部门。除了为消费者打击假货,为商家营造更好的营商环境,帮助买卖双方“放心买、安心卖”,这个部门多年来也一直在尝试用技术+共治的模式帮助解决社会问题。

比如由公安部刑侦局主持开发、阿里安全提供技术支持的打拐神器“团圆”系统,截至2019年11月15日已帮助4204名儿童回家。其提供技术支撑的 “钱盾反诈机器人”,通过来电显示“公安反诈专号”,向潜在的电信网络诈骗受害人拨打电话,发送短信、闪信等提醒信息,提升反诈劝阻成功率,减少电信网络诈骗案件发生,平均每天劝阻3000多人,劝阻成功率超96%。

武纲的任务是和项目组其他同事,对发现的有自杀倾向的人进行安抚和干预。

“很多轻生者也并不是说一开始就决意求死,而是在求生、寻死之间苦苦挣扎,这种痛苦可能很难和家人、朋友等亲近的人表露。但在网络上,面对素昧平生的陌生人,反而可能比较容易敞开心扉。”武纲说,很多时候,他们的冲动行为其实表露出了他们内心正在经历的危机。

12月15日那天晚上,他和同事们就是这样,捕捉到了隐藏在订单背后的这个呼救信号。

相关:生命 来源:北京青年报 作者:王海晋 编辑:IT在线
IT在线网友评论
更多新闻
关于IT在线 | 服务条款 | 网络推广 | 本网招聘 | 联系我们
IT在线 WWW.ITOL.COM.CN
IT在线.com 版权所有 Copyright © 2018 ITOL.com.cn All Rights Reserved.
ICP备案号:蜀ICP备14016386号-1 川公网安备 51010702000150号