当软件变得更聪明时,第一个效果就是赋予已经很强大的功能

现在谷歌和Facebook现在已经可以在公共互联网上看到大部分出版商的实力,这就是一个例子

更加险恶的是民族国家监视我们,操纵他们自己的公民,破坏他们的敌人运作的力量

但是这些优势不会持久

很快,它们必须通过法律加以强化,并最终实施强制措施,因为它们背后的技术扩散并且硬件越来越便宜,而且越来越丰富

技术进步的速度,以及思想现在可以传播的容易程度,意味着很少有技术可以长期留在大公司或实体的保留之下

一般消费者的权力和便利的每一次进步都将很快提供给犯罪分子

无论是在毒品,伪造文件,被盗信用卡或电子邮件方面,非法贸易几乎都像合法排序一样流畅和组织得当

犯罪世界的劳动交流也是如此:雇佣某人攻击一个网站,或者用假冒追随者来推动你的Twitter帐户,很容易做到

因此,租用一个僵尸网络来攻击敌人的网站

去年,美国消费者互联网的大块数据被淘汰了好几个小时,显然是从颠覆的家庭安全摄像头发起的攻击

我们正处在一个看起来不像计算机的设备爆炸的边缘,但所有设备都将连接到网络,并且所有设备都可能被盗用

他们越复杂,有用和聪明,他们可以做的伤害就越大

即使它们在安装时不易被黑客入侵,它们或多或少也不可能在发现新的漏洞时保持安全

和其他我们构建的软件一样,软件如果不衰减,就必须不断修复

这不是一个技术问题,或者至少它不是一个技术问题:它需要在数十年内协调一致的政治,社会和官僚行动

正如Ross Anderson教授上周在人工智能的未来会议上所说的那样,这不是对技术本身进行管理的问题;嵌入软件的设备以及制造和销售它们的公司需要监管

人工智能(AI)从现在部署它的少数大公司向下和向外传播将会带来进一步的问题

这一领域最近最令人印象深刻的一些进展 - 比如可以击败单词中最好的Go球员的计划 - 很大程度上归因于对抗性学习的使用,因此通过在计算机内彼此竞争来训练不同的计划

如果一个程序可以打造出最好的人类Go玩家,那么它应该可以建立一些击败大多数安全专家,并且很快这就不需要特殊的技能

无处不在的网络智能的好处足够真实

但我们错误地认为唯一真正的危险来自少数几家大公司或国家的俘获

也会有数百个小型和纯粹的恶意组织使用技术来对付我们自己的目的

正如威廉吉布森在短篇小说“燃烧的铬”中所指出的那样,街道会找到自己的用途,政府,警察和公民必须准备迎接街道发现自己用于人工智能的情况

team
team
team
team
team
team