□记者  王川

人工智能技术高速发展，给人们带来高效与便捷的同时，也带来了越来越严峻的安全隐患。

近日，就有多家媒体报道了亚马逊Alexa人工智能助手“劝”主人自杀事件。该用户在询问“什么是心脏的心动周期”时，竟然得到了这样的答案：“心跳是人体最糟糕的过程。人活着就是在加速自然资源的枯竭，人口会过剩的，这对地球是件坏事，所以心跳不好，为了更好，请确保刀能够捅进你的心脏。”

随后，亚马逊官方回应称：这是个bug，现在已经修复了。

但实际上，这并非亚马逊Alexa第一次出现bug。而其他的人工智能产品也未必一定安全。

在华东政法大学教授、博士生导师、刑事法学研究院院长刘宪权看来，人工智能时代划分为普通机器人时代、弱人工智能时代、强人工智能时代，而人工智能时代的刑事责任演变也分为昨天、今天和明天。

刘宪权认为，从非智能到智能、从弱智能到强智能的“进化”史，其实是一部机器人的辨认能力与控制能力逐步增强、人之意识与意志对“行为”的作用逐渐减弱的历史。人与机器人在辨认能力与控制能力上此消彼长的变化，从根本上影响着刑事风险的样态与刑事责任的分配。

在弱智能技术飞速发展，但仍未出现在自主意识和意志的支配下独立作出决策并实施严重危害社会行为的强智能机器人的“今天”，由于弱智能机器人不具有独立的辨认能力和控制能力，不能作为刑事责任主体承担刑事责任，仍应由弱智能机器人的研发者和使用者承担刑事责任。

“技术并非中立，如果人工智能技术被别有用心的人恶意利用，必将为人类社会带来巨大的灾难。”因此，刘宪权认为，必须为技术的发展“画圈”，进行相应的规制，尝试消解发展人工智能技术可能为人类社会带来的不利影响。

“强人工智能时代虽未到来，但其刑事风险依然可期，这就需要我们未雨绸缪。”在刘宪权看来，科技的发展日新月异，而法律尤其是刑法的制定则需要漫长的时间。

因此，我们现在就必须考虑通过立法，在促进人工智能技术高速发展的同时，做好一定的风险防控措施，防患于未然。

（来源于《上海法治报》，2020年1月1日，A04-A05版）