为谷歌工作的研究人员已经开发出了一种新型的计算机智能,可以不依赖程序员立即学习,而不是以前的任何模式

例如,它可以通过地下伦敦地图浏览,而不需要明确指示如何操作

目前,这种方法比老式的,更专业的人工智能形式效率低,但它对未来具有承诺,并且像计算机编程中的所有这些概念上的进步一样,它更加迫切地提出了社会应该利用这些权力

算法本身就早在计算机之前

算法只是一系列指令

法律代码可以被视为算法

游戏规则可以理解为算法,没有什么比构建游戏更人性化的了

军队也许是最完全的算法形式的社会组织

然而,过多的当代讨论被认为是仿佛计算机网络的算法运作是全新的

的确,他们能够以超人的速度遵循指令,具有超人的保真度以及难以想象的数据量

但这些指示并非来自任何地方

尽管神经网络可以说是编写他们自己的程序,但是他们使用为人类目的收集的数据来实现人类设定的目标

如果数据出现偏差,即使意外,计算机也会放大不公平

如果网络训练成功的措施本身就是愚蠢或者更糟,那么结果就会相应地出现

最近令人震惊的例子包括使用算法对美国的教师进行评分,并决定是否应该让囚犯获得假释

在这两种情况下,其效果都是为了穷人而惩罚穷人

在程序员MaciejCegłowski的话中,这种编程就像对洗钱进行偏见一样

但是因为这些令人厌恶的决定是由计算机程序完成的,所以它们似乎拥有无懈可击的权威

我们不应该给他们这个

自我利益和正义在这里是谨慎的一面

巨型银行之间的算法交易当然要归咎于诸如“闪存崩溃”之类的现象,并且对2008年的巨大财务灾难负责

但是,决定向计算机交付作出决策的能力并不是不可避免的我们

总是有人的责任,这属于那些利用(或至少是释放)计算机网络权力的公司或组织

否则,就像在铁路时间表上责备第一次世界大战的爆发以及它们对动员军队的影响一样

计算机化算法过度的治疗原则上与我们已经发现的嵌入纯粹人体机制的算法的补救措施不同

专家声明必须由外部人员仔细检查,并有理由怀疑,如果聪明和公平,观察员

需要建立一个社会机制来对这些判决提出申诉,并且有办法确定他们的错误并防止他们将来发生

决不能让权力的利益优先于正义和整个社会的利益

team
team
team
team
team
team