首页 - - 国际彩讯 - 篮球胜负 - 彩票论坛 - 热点新闻 - 竞猜游戏 - 精彩推荐 - 彩票app - 数据专家 - 投注数据 - 图表走势

平台投注报警钱能找回来吗_人工智能犯罪的风险正在升高,最新研究警告开发人员不要掉以轻心

2020-01-11 16:01:05  

平台投注报警钱能找回来吗_人工智能犯罪的风险正在升高,最新研究警告开发人员不要掉以轻心

平台投注报警钱能找回来吗,一项最新报告突显了人工智能的风险,比如居心险恶的自动驾驶汽车,或是机器人刺客。

2012年,机器学习领域取得突破,激起了一股人工智能投资热潮。时至今日,投资热度仍在持续,我们的生活也更便利了。比如大部分时候,语音识别都很管用,再比如新款iphone的刷脸解锁功能。

从中斩获颇丰的,是掌握相应技能、能构建这类系统的人——他们是最受器重的科技工作者。但最近,一份围绕ai进步黑暗面的报告向这些人发出警示:对于相伴而生的沉甸甸的道德负担,他们不能掉以轻心。

这份文件共99页,列出了人工智能技术的一长串邪恶用途,有的还有些耸人听闻。它呼吁人们尽快围绕ai技术的滥用展开积极讨论。报告所举的例子有:清洁机器人被用来刺杀政治人物;犯罪分子发起高度个性化的自动钓鱼攻击。

针对此类情境,报告提议的防御措施之一是:ai研究人员宁可偏执一点,不要太过开放。该报告称,不论是个人还是企业,ai工作者都应考虑在自己的技术中置入针对犯罪分子或攻击者的安全防范措施——甚至捂住某些概念或工具,不对公众发布。

该报告的作者有二十多人,他们隶属的机构从牛津和剑桥大学、伊隆·马斯克(elon musk)出资的研究所openai、数字维权组织电子前线基金会(eff)、计算机安全公司endgame,到智库新美国安全中心(center for a new american security)等等。

近一年来,伦理成为机器学习领域的主要议题。

这场讨论的一个起因是政府使用算法作出影响公民(如刑事被告人)的决策,而在一些情况下,机器学习系统暴露出偏见。最近,微软和ibm的商用面部分析服务就出现问题,不得不回炉再造,因为在识别深色肤色的人时,它们的准确率会严重降低。

该报告还指出,随着ai软件日益强大、普遍,它还可能造成更加切身的伤害,比如在自动驾驶汽车里,或是将复杂的办公任务自动化的软件。报告警示我们,这些系统很容易被纂改,转而用于犯罪甚至夺人性命。

例如,一台自动驾驶汽车可能被攻陷,成为爆炸物的运送车,或有意撞车。五角大楼曾经资助开发攻击其他软件的软件,而这可能会助犯罪分子一臂之力,帮他们部署更加强大、适应性更好的恶意软件。

有什么办法可以应对呢?

该报告最主要的建议是:围绕安全与安保问题,ai技术的开发人员或公司应展开更加积极、开放的讨论,包括与政策制定者进行讨论。

人工智能研究人员还应具备更加“疑神疑鬼”的心态,在自己的技术发布前考虑一下:它可能以何种形式,被敌方或攻击者利用?

异乎寻常的开放性已经成为ai研究的标志。亚马逊、微软、谷歌通常都守口如瓶,但为了争夺人才,它们纷纷公开发表研究,将内部工具开源。而上述建议则会扼杀这种开放性。

剑桥大学“存在风险研究中心”(center for the study of existential risk)研究员沙哈尔·艾文(shahar avin)是该报告主要作者之一。他说,这种天真的态度已经过时,而其得以形成是由于前面几十年的ai研究总是期望过高但往往未能实现。“在ai领域,人们信口开河,结果实现不了,如此反复,”他说。“现在不一样了,你已经不能视而不见了。”

该报告承认,哪些该发布、哪些不该发布,这个界限不好划分。但报告也宣称,计算机安全、生物技术和国防社群已经证明,开发并实施相应的规范,以负责任的态度披露危险的概念和工具,这是可以做到的。

艾文认为,某些情况下,ai社群已经濒临越界。他举了个例子,即谷歌围绕人工合成高仿真人声的研究。他说,有鉴于俄罗斯特工试图操纵2016年美国总统大选,在研究可能有助于制造假新闻的工具的同时,还应当讨论能够对此起到防护作用的工具。艾文说,这可能包括检测人工合成的音频或视频并予以标记的办法。谷歌并未回应置评请求。

reddit等互联网公司都在打击经过篡改的视频:不法分子利用开源机器学习软件deepfakes将色情视频的主角纂改为明星。

一些ai工作者——以及未来的ai专家——已经开始直面这个问题,思索自己的产品可能有哪些有害用途。加州大学伯克利分校的教授伊昂·斯托伊卡(ion stoica)并未参与此项报告的撰写。他说,他正在和计算机安全领域的同事积极协作,并思索公共政策。最近一项有关ai技术挑战的调查发现,安全与安保问题是主要研究课题,也是一大顾虑。斯托伊卡是这项调查的主要作者。

斯托伊卡也试图让涌向ai和机器学习课程的本科生和研究生了解这样的状况。他乐观地认为,这个领域必能借鉴商用与消费者科技产品、桥梁和飞机建造的最佳实践。

“我们正试着把机器学习变成一门更偏工程学的学科,”斯托伊卡说。“这中间还有一段距离,但我觉得,这个距离正在缩小。”

翻译:雁行

审校:李莉

编辑:漫倩

来源:wired

更多精彩内容,敬请点击蓝字“了解更多”。

博天堂现金网