智能音箱半夜突然发笑是一种怎样的体验

想想就一阵毛骨悚然。

虽然事后亚马逊回应称是代码错误并修复了这个毛病，但这件事无疑是一个提醒：

如果AI失控会怎样？

AI失控并不是没有可能。人工智能技术跟人脑思考方式不同，人脑依赖推理和演绎的思考路径，而人工智能可能更关注相关性。有一些算法的复杂度甚至超过了人脑的理解范围，如果失控，人类根本无法了解其内在运行机制。

几天前逝去的物理学家霍金就曾多次警告：人类需要控制以人工智能为代表的新兴科技，以防止它们在未来可能对人类生存带来的毁灭性威胁。

现实版“钢铁侠”马斯克也一直持人工智能威胁论，身处AI探索前沿的他认为，“AI比核武器危险得多”。

人工智能威胁论者一直担心，人工智能的发展会带来所谓的“奇点”，即在人类发展的某一特定历史时刻，人工智能会完全超越人类智慧，继而将人类社会带入一场无法想象的变革当中。作一个不恰当的比喻，或许有一天人类的存在就是为了给人工智能提供大数据，就像现在鸡鸭鱼的存在就是为了给人类提供食材。

当然，所谓“奇点”还是一个很遥远的事情，可能是五百年后，也可能是一千年后。你不必因此睡不着觉。

眼下的人工智能还是弱人工智能，只有智能（Intelligence），没有意识（Consciousness），但很多人已经感受到了它的威胁。

抢饭碗

人工智能技术发展迅速，正在被广泛应用于各个领域。就拿眼下正在发生的来说，无人驾驶、无人机、无人超市、无人生产线……“无人xx”从名字上就把人取消了。AI助手、3D打印等等的出现，也让助理性的工作、建筑工人岗位大幅压缩甚至消失。

与工业革命及信息革命不同，人工智能技术所带来的冲击并非像流水线工人代替手工艺者，而是对现有职业和工作版图大规模的颠覆。很多不需要创意的机械性工作，甚至很多金融行业的高薪岗位，都可能因为人工智能而消失。

央视财经频道和腾讯联合发布的一项人工智能话题调查结果显示，接近3成的受访者已经感受到了人工智能给自己工作带来的威胁。更有接近8成的受访者担心某些领域的人工智能应用会威胁自己的隐私。

隐私安全

人工智能的运行机制包括感知、学习、推理、行动四个环节，而这些环节都受数据驱动。如果没有人的行为活动的大数据，人工智能就无法理解人的需求，更没有机会通过学习和推理为人提供精准的服务。大数据是发展AI的基础。

而有关个人的大数据，恰恰是每个人的隐私。

手机里的语音助手，为保证随时能被成功唤醒，时刻都在倾听你的声音；上网搜一样东西，随后就会有各种相关广告推荐给你；LBS（基于位置的服务）更是掌握了你一天的轨迹，去哪儿了它都知道；面部、虹膜、指纹等各种生物识别技术，你的生物特征被悉数采集……

是，大部分数据都存在云端服务器，都有安全防护措施。但，安全总是相对的。

这个感觉就好比是你跟邻居共享一把锁，你觉得安全吗？一旦云端服务器被攻破，丢失的就不是一个人的数据。

AI的自我学习能力对隐私安全也是一个挑战。

美国一个研究小组开发了一套机器学习算法，通过训练，神经网络可以识别图像或视频中隐藏的信息。你如果想通过打马赛克来保护隐私，只能是徒劳了。

为了平衡发展人工智能与保护隐私，业内人士提出了采集数据的三条原则：

收集要授权，使用有界限，存储应保护

人们有时必须把信息让渡出去，才能享受到智能化的服务。但任何机构或个人在收集、利用个人信息时，需先得到用户授权。而且，所有信息应归属于用户本人，收集者所拥有的应当是数据分析的结果，而不是其所有权和处置权。信息收集有度，使用也应有边界。而对于敏感的密码、指纹、签名字迹、人脸特征等身份认证信息，用户本人应绝对掌控。对于信息保护，《网络安全法》明确提出，“谁收集、谁负责”。

AI犯罪

上个月，剑桥、牛津、耶鲁大学的技术与公共安全研究人员，连同隐私与军事专家，共同撰写的《恶意使用人工智能：预测、防范与缓解》对外发布，对滥用人工智能提出警告。

研究人员指出，恶意使用AI能进行大规模、精准、高效的攻击。如果AI技术继续如此快速地发展，那么全球现有的数字和实体防御机制将很快束手无策。

比如，恶意者买个无人机并装入脸部辨识软件后，就能锁定特定人士发起攻击。另外，AI的自我学习能力，已经能让亲眼所见、亲耳所听都不是真的。在类似Tensor Flow这种人工智能开源系统的帮助下，敲几行代码就能造出如假包换的人物演讲。就连手机比如iPhone X和三星S9都已经可以追踪并虚拟人物的表情变化。

人工智能需要规范和监管

人工智能发展三原则

机器人代表了人工智能发展的高级阶段。著名科幻小说家艾萨克-阿西莫夫早在1942年就提出了机器人三定律：

第一法则：机器人不得伤害人类，或坐视人类受到伤害；

第二法则：除非违背第一法则，机器人必须服从人类的命令；

第三法则：在不违背第一及第二法则下，机器人必须保护自己。

这个“三法则”得到了普遍认同，甚至成为了人工智能的研发原则。

我们谈论人工智能的威胁，不是为了否定，而是防患于未然。技术更新迭代是推动社会进步的重要力量，不能因噎废食。

假使有一天人工智能完全超越了人类智慧，人类也不见得会灭亡。

用刘慈欣的话说，我们现在的智慧就比苍蝇高得多，也想消灭苍蝇，但现实是消灭不了。