神译局是36氪旗下编译团队，重视科技、商业、职场、日子等范畴，要点介绍国外的新技能、新观念、新风向。
编者按：家长和教师等人作为传统的“守门人”人物，会对青少年们的自杀倾向进行必定干涉，但当LGBTQ人群呈现心思问题时，由于许多前史原因，他们或许无法干涉。那，谷歌和人工智能能够协助吗？本文作者Sidney Fussell讲了谷歌对自杀协助非营利安排Trevor Project的支撑，两边期望算法能够第一时间辨认高自杀危险人群，进行更及时的干涉。原文宣布在《大西洋月刊》（The Altantic），原文标题The AI That Could Help Curb Youth Suicide。
图片来历：ALASTAIR GRANT / AP PHOTO
防备自杀的文献以为，社区里会有这么一类人，当有社区成员表达自杀的主意时，他们或许会供给协助，他们被称作“守门人”。这个名词没有一个非常谨慎的界说规模，通常情况下，“守门人”包含教师、家长、教练和年长的搭档——当他们看到身边人呈现心思问题时，具有某种办法的威望和干涉才能。
“守门人”是否也包含谷歌？
当用户查找自杀办法相关的关键词时，谷歌会杰出显现全美防备自杀生命线（National Suicide Prevention Lifeline）的电话。但这绝不是满有把握的办法。谷歌可不能修改详细的网页，它只能修改查找成果，这意味着当有人想找自杀办法时，他能够很轻易地经过链接、论坛等办法找到，压根儿不必查找引擎。与此同时，在现如今的互联网上，“碾压”更或许是粉圈的拉踩表达，而不是真实的呼救，但机器或许无法了解其间的细微差别。当人们不运用英语、运用其他言语查找时，谷歌的人工智能在检测自杀意念方面的功率也要低得多。
总的来说，查找成果是一个有用但过于泛泛的干涉办法，能够作为防备战略运用起来。终究，任何人都能够以任何理由查找任何东西。
谷歌对算法防备自杀的最新测验更有针对性——针对那些正在寻求协助的人。
“发生了什么事？”
本年5月，这家科技巨子向非营利安排Trevor Project捐款150万美元，Trevor Project总部坐落加州，经过电话热线（TrevorLifeline）、短信服务（TrevorText）和即时通讯渠道（TrevorChat）向LGBTQ青少年供给心思咨询。该项意图领导者期望经过运用机器学习主动评价来信者的自杀危险，然后改善TrevorText和TrevorChat的服务。全部的全部都从Trevor咨询师的第一个问题开端：“发生了什么事？”
Trevor Project的工作室主任山姆·多里森（Sam Dorison）说：“假如他们有自杀的主意，咱们想保证咱们会以一种不带成见的办法跟他们谈谈，让他们来引导整个对话进程。他们想评论出柜吗？他们需求自己社区内LGBT社群的资源支撑吗？咱们真实让他们来引导对话，这或许最有协助。”
现在，那些想得到自杀协助的人需求排队等候。Trevor的均匀等候时间很短，不会超越五分钟，但在某些紧迫情况下，一秒都耽误不得。Trevor的领导团队期望，跟着对人工智能的开发，它终究能够经过剖析来电者对第一个问题的答复，辨认出自杀危险高的来电者，并立即把这个电话转接给人工咨询师。
谷歌将运用两个数据点进行人工智能练习：青少年与咨询师对话的初始阶段，以及咨询师与他们攀谈后完结的自杀危险评价。其理念是，经过对初始阶段与终究危险评价的数据进行比照，人工智能能够依据最早的反响猜测自杀危险。
Trevor Project的技能总监John Callery说：“咱们以为，假如咱们能够依据开始的几条信息和终究的危险评价来练习算法，那么就会发现许多人类无法发觉但机器却能够辨认的东西，这或许会协助咱们了解更多相关常识。” Callery弥补说，咨询师们将持续做出自己的评价。
算法具有辨认不知道形式的惊人潜力，但要成为一名优异的“守门人”，关键是当呈现问题时，要向前推动并进行干涉。虽然在某些方面，咱们现已做到了，但这终究是不是咱们真实想要融入技能的那些方面还尚不可知。加拿大和英国的公共卫生方案发掘交际媒体数据来猜测自杀危险。在Facebook，一旦算法检测到视频中呈现自残或暴力行为，就会敏捷符号该直播视频，发送给警方。
咱们在谷歌查找“怎样缓解宿醉”，也查找医疗主张，更查找“怎么从失恋中恢复过来”，咱们用谷歌了解全部。查找成果或许是混合了不相关信息的，乃至或许是误导性的，可是查找自身并不会对此做出判别。
得克萨斯大学奥斯汀分校（University of Texas at Austin）人类开展与家庭科学系主任斯蒂芬·罗素（Stephen Russell）表明：“（学生们）回家后上网，他们能够向全世界任何人发表这些信息。”几十年来，Russell一向在对LGBTQ集体进行研讨，他的研讨颇具开创性，他表明，虽然有心思问题的学生的确“不该该用谷歌处理这些问题”，可是，让实际日子中的一切守门人们对LGBTQ人群的观点变得敞开、活跃的确很难，由于几十年来，人们一向对这些集体抱有污名和成见。他说：“ 即使是当今，我也能听到有些管理者说，‘咱们这儿没有这样的孩子。’这一向是实际中的一个困境。”
而Trevor Project的效果就在于此。终究，这个非营利安排的领导团队期望规划出这样一个人工智能体系：它能够猜测LGBTQ年青人们将需求什么资源——住宅、出柜协助、心思治疗——一切这些都是经过剖析谈天中头几条信息来完成的。长时间来看，他们期望人工智能能够进化，能够辨认元数据中的形式，而不仅仅是扫描初始音讯。例如，假如人工智能能够从音讯中确认来信者的教育水平等信息，那么它能否推断出这些结构性要素对自杀危险的影响？
一堆令人目不暇接的“假如，那么”句子看上去不或许抢救一个人的生命，但信任很快，它就能够了。
译者：喜汤
