首页 >AI

Facebook推新技术:AI能自动锁定有自杀倾向用户

2018-02-24 14:30 编辑: 枣泥布丁 分类:AI 来源:网易科技

(原标题:Facebook is using A.I. to help predict when users may be suicidal)

网易科技讯 2月23日消息,美国纽约肖托夸县的治安官Joseph Gerace看到过许多自杀行为,在他成为公职人员之前,他最好朋友的父亲就以自杀结束了自己的生命。去年7月一位Facebook安全团队的成员打电话给911中心的调度员称,当地一位居民需要紧急救助。Gerace称:“这能够帮助我们提升公共安全。我们不会干预人们的私生活,但是如果出现危险我们就会介入。”

去年8月份肖托夸县当地媒体报道的第一起自杀案例就是由Facebook追踪到的,当时公司收到举报称一位女性在她的Facebook上发出了自杀的信息。多年以来,Facebook都允许内部审核人员对自杀内容进行审查,并且决定是否需要通过自杀预防热线为用户提供帮助,或者在紧急情况下让公司的法律反应团队介入。

随着技术的不断发展,对于Facebook来说必然存在一种工程学方案来应对自杀行为。大约1年以前,Facebook增加了新技术,能够自动标记涉及自杀意图的帖子供公司审查员进行分析。去年11月份,Facebook已经证实这个新系统已经获得了成效。

据Facebook称,这个新系统标记的涉及自杀想法的帖子数量已经提升了20倍,收到Facebook自杀预防系统帮助的人数也增加了两倍。公司也一直在对系统的语言和Instagram的自杀预防系统进行升级,但目前仍然处于研发的早期阶段。周三时Facebook也公布了关于这项技术更多的细节。

虽然表现自杀想法的帖子很少,但自杀是一种很普遍的威胁。据美国疾病控制和预防中心的数据,自杀在美国死亡原因中排名前十,在年龄15到34岁之间的死亡原因中排名第二,仅次于意外伤害。

Facebook自2013年建立一座人工智能(AI)研究实验室并且雇佣著名的研究人员Yann LeCun作为负责人之后,就开始打造AI人才和技术。实验室已经创造出许多令人印象深刻的技术,比如说借助用户照片识别物体、将文本内容转变成其它语言等等。

包括亚马逊、苹果、谷歌和微软在内的所有科技巨头都在AI领域投资升级自己的服务和平台。但是自杀预防并非AI研究人员关注的热门话题。曾在雅虎和微软AI部门任职的一位Facebook研究科学家Umut Ozertem称:“我从未听说过自杀预防系统,但它让我非常感兴趣。自杀行为曾让我失去了三位好朋友。”

Facebook对于自杀预防的探索已经超过了10年,自杀预防也是谷歌和微软正在进行的事情。比如说,如果有人用谷歌搜索“我想自杀”,就会出现国家自杀预防热线的电话号码。微软则会在搜索结果中显示救助中心的信息,并且让用户在Xbox线上服务上报自残信息。(过客)

搜索CocoaChina微信公众号:CocoaChina
微信扫一扫
订阅每日移动开发及APP推广热点资讯
公众号:
CocoaChina
我要投稿   收藏文章
上一篇:AI的艺术造诣也能与人相媲美?但独独缺少“目的性”
下一篇:Threes-AI 玩小三传奇 (上)
我来说两句
发表评论
您还没有登录!请登录注册
所有评论(0

综合评论

相关帖子

sina weixin mail 回到顶部