有了安全边界 人工智能才能有序发展

2018-03-20 15:07:02 来源:中国新闻网 作者:佚名 责任编辑:柒月 字号:T|T
摘要】如果把对人工智能的态度分为乐观派和忧虑派,近日去世的著名理论物理学家霍金一定属于后者。最近几年,他频频提醒人们注意人工智能的威胁,批评人工智能的无节制发展。

  如果把对人工智能的态度分为乐观派和忧虑派,近日去世的著名理论物理学家霍金一定属于后者。最近几年,他频频提醒人们注意人工智能的威胁,批评人工智能的无节制发展。

  九三学社中央科技委委员张妍也深以为然。“人工智能发展的脚步无法阻挡,‘安全’就显得尤为重要。”她说,“我们不是杞人忧天,要知道,防范的成本比补救的成本低很多。”

  2018年两会期间,九三学社向全国政协十三届一次会议提交了《关于推动人工智能安全发展》的中央提案,提出应着力构建安全发展战略,将人工智能安全发展提升到与人工智能科技研发、成果应用、市场推广同等重要的位置。

  没有藩篱,发展或会失控

  安全是个宽泛的概念,在九三学社中央科技委委员王仕看来,它指的是“可控性”。 他们提出了“五横一纵”的概念:“五横”指的是法律、伦理、标准、科技创新和产业应用;“一纵”指的是科普。“安全”应该渗透在这经纬网中。

  “推荐系统是人工智能的重要应用场景。资讯类APP可以无限制向你推荐你感兴趣的内容,强化你的固有观点,无论对错;电商类APP可以无限制诱导你去‘剁手’,就算超出你的消费能力也无所谓。”王仕举的例子,公众已并不陌生。如果算法只是一味迎合人的需求,没有法律或道德的约束与引导,那么最终结果,很可能并不利于个人或社会的健康发展。

  王仕也从事人工智能相关工作。他告诉科技日报记者,做语音开发时,如果产品要进入美国市场,所有代码就必须遵守美国儿童隐私保护法律。“这是为了防止智能音箱传播儿童色情等不良内容。”但在国内,目前尚无相关硬性规定。

  全国人大代表、科大讯飞董事长刘庆峰也认为,“人工智能领域的顶尖科学家和顶尖企业的价值观,对人工智能的未来发展至关重要”。比如,科大讯飞的语音合成技术已经可以逼真合成出不同人的声音,但他们至今不敢随便对外公布这一技术,“就是怕出现各种诈骗”。

  当数据成为重要资源,如果对掌握数据的人没有明确约束,对可以自我学习的人工智能没有明确边界,张妍忧虑道,“会不会让坏人更‘坏’?”

相关推荐


解读中国 关注民生 引领休闲
扫码关注中国小康网公众号
ID:chxk365
返回顶部