曾道人论坛 > 联系我们 >

或者恶意攻击者能够自己制造这类武器

时间:2018-07-19 10:04

来源:未知作者:admin点击:

  组织这次行动的生命未来研究所的联合创始人、MIT教授迈克思·泰格马克(Max Tegmark)7月18日在会上宣布了这项宣言。
 
  泰格马克教授泰格马克教授
 
  泰格马克说:“我很高兴看到人工智能的领军人物从对话转向行动,实施一项政治家们迄今未能实施的政策。人工智能有巨大的帮助世界的潜力——如果我们不能容忍其滥用,并致力于防止其滥用。自主杀人的AI武器就像生化武器一样令人厌恶和不安,我们应该以对待生化武器的方式来处理自主武器。
 
  悉尼新南威尔士大学人工智能科学教授Walsh说:“我们不能把谁生和谁死的决定权交给机器。”因为致命性自主武器系统(lethal autonomous weapon systems),简称“LAWS”,“不具备这样做的道德”。
 
  在IJCAI会议上,包括马斯克、DeepMind三位创始人都签署了《致命性自主武器宣言》,宣誓不参与致命性自主武器系统(LAWS)的开发、研制工作。
 
  而就在一年前,116名全球人工智能和机器人领域的专家(包括马斯克和谷歌AI专家Mustafa Suleyman)发表联名公开信,呼吁联合国采取行动禁止“自主杀人机器”,称其为“恐怖武器”。“留给我们做准备的时间不多了,”专家们警告说:“一旦这个潘多拉的盒子被打开,就很难再次关上。”
 
  美国政府在全球范围内使用升级的军用无人机后,工程师和科学家们警告说,自主机器很容易受到黑客的攻击,它们可能被劫持,进而攻击无辜的人群;并且,它们不可避免地很容易就会被恶意攻击者获得,或者恶意攻击者能够自己制造这类武器。
 
  为了演示在自主杀人无人机的威胁下的生活,生命未来研究所协助制作了一个名为“Slaughterbots”(《屠杀机器人》)的影片,视频中的一个片段描绘了数千名大学生被杀人机器人屠杀的景象。这些学生在社交媒体上分享了一段揭露腐败的视频后,被不知名的“黑影人”盯上,机器通过面部识别系统识别学生的身份,进而实施屠杀。
 
  该视频是由“制止杀人机器人运动”(Campaign to Stop Killer Robots)组织制作的,该组织是一个致力于禁止自主武器的国际联盟,生命未来研究所是其中一员。周三,来自数百家公司的2000多名科学家,其中许多是机器人和人工智能领域的著名的研究人员和工程师,联名签署宣言,誓言绝不将他们的技能用于开发自主杀人机器。
 
  这场宣誓行动由总部位于波士顿的非盈利组织未来生命研究所(Future of Life Institute)发起,来自36个国家的多达160个人工智能相关的公司、覆盖90个国家的2400名个人签署了宣言,他们承诺:
 
  在世界上的任何一个国家,自主武器都对公民构成了“明显而现实的危险”,他们“绝不参与自主武器的开发”。
 
  签署者包括谷歌的顶级人工智能研究团队DeepMind;欧洲人工智能协会;ClearPath Robotics/OTTO Motors;瑞典人工智能协会XPRIZE基金会;以及伦敦大学学院。
 
  签署之一承诺的著名人士还包括顶尖的人工智能研究人员Demis Hassabis、Stuart Russell、Yoshua Bengio、Anca Dragan、Toby Walsh以及特斯拉和SpaceX的创始人伊隆·马斯克。
 
  马斯克、哈萨比斯等2000多人签署宣言:决不允许杀人机器人出现!
 
  “人工智能(AI)将在军事系统中扮演越来越重要的角色,公民、政策制定者和领导人都迫切需要区分AI可接受的用途和不可接受用途。”
 
  昨天的瑞典斯德哥尔摩,2000多名AI学者共同签署《致命性自主武器宣言》成为会议国际人工智能联合会议(IJCAI)上的一项重要议题,这也是学界史上最大规模针对“自主武器”的联合签名宣言。
 
  
【责任编辑:admin】
热门文章 更多>>