科技反噬论：人类蜗居“云端”，算法蚕食世界

卧室里，那个语音操控的小玩意儿（暗指亚马逊Alexa音箱）突然发出一阵阵渗人的笑声，还偷偷地把你与对象间的枕边谈话发送给了你的同事；前一秒，你的孩子还在Youtube上看着小猪佩奇的动画片，下一秒屏幕上的画面就变成了杀戮和流血事件；还有，你曾经用来和老朋友沟通联系的聊天软件，竟然变成了政客们操纵选举和煽动政变的工具。

我们的思维方式产生了异变，这个世界也变得更奇怪了。我们开始相信，世界上的一切都可以计算，我们能通过新的技术来解决任何问题。然而，这些技术并非完全中立：它们反映了我们的政治倾向和偏见，它们超越了国家和法律的管控范围；甚至于，连技术的创造者都开始无法理解自己的发明。最终，我们对这个世界了解得越来越少，因为这些强大的技术正在逐步掌控我们的生活。

新技术不仅能增强我们的能力，还能重塑以及指导这种能力，让我们在科学、政治、教育、战争、商业等领域有所建树。当然，情况有好有坏。如果我们没办法理解复杂技术的确切功能，那么这些技术就会被自私的企业和个人加以滥用。这种例子，在我们身边不胜枚举。我们每天所遇到的不透明制度、歧视事件、暴力、民粹主义等问题都与之存在着因果关系。

我们所身处的，不再是技术光芒所加持的乌托邦世界，而是充满了诡异及不可预见事件的黑暗时代。广泛传播信息的启蒙理想并没有让我们获得更多的相互理解与和平；相反，其似乎正在助长社会分裂、不信任、阴谋论和虚假政治。为了看清事实，我想是时候要了解技术的发展过程，以及我们对其寄予厚望的原因了。

在20世纪50年代，电气工程师所绘制的系统图表里出现了一个新的符号，一个模糊的圆圈。慢慢地，这个圆圈逐渐变成了一朵云的形状。不管工程师的工作内容是什么，他们都可以把其连接到这个云上。还有一个云，它则是一个动力系统，或是数据交换中心，当然也能被称为计算机网络。简单来说，云是一种降低复杂性的做法，让用户能够专心去做手头上的事情。随着时间的推移，网络规模转扩大，互联网程度也逐渐提高，云的重要性也就越发明显。云变为了一个流行语和商业卖点；它跳出了工程师的速记图表，摇身一变，成为了一个象征。

今天，云作为互联网的核心，是一个由强大的能量组成的全球系统。但是，其仍保留着一个神秘的光环 — 几乎不可能被完全掌控。我们在云里工作，在云里存储和取回东西；我们一直在体验云，却从没真正理解云。云并不是一个只有水和无线电波、让你整日不停工作的遥远秘境。它是一个确切的物理基础设施，囊括了电话线、光纤、卫星、海底电缆，以及计算机仓库。云被应用到许多光鲜亮丽大建筑里，我们在那购物、存取钱、社交……正因为我们被表面的那些浮华生活蒙蔽，所以就不那么注意到背后的云。因为不显眼，所以它也就不容易受到批评、调查，以及监管的影响。

在过去的几十年里，世界各地的交易大厅变得越来越安静，因为人类工作人员已经被自动化的数字交易银行所取代。数字化意味着股票交易所内的交易活动越来越频繁。机器处理交易工作时，它们能够立即做出反应。人们还开发了一种被称为高频交易算法（High－Frequency Trading ，简称HFT）的技术，能够在一天之内处理几百万次交易，甚至能够在每笔交易中赚个一两分钱。

在这种高速的运转的市场中，怪事不断。2010年5月6日，道琼斯指数开盘低于前一天。过了几个小时之后，由于受到希腊债务危机事件的影响，该指数开始缓慢下跌。然后，到了下午2：42分，道琼斯指数开始迅速下跌。在不到5分钟的时间里，股市就被抹掉了600多个点；其最低峰值要比前一天的平均数低了将近1000个点，几乎相当于总市值的10％，而且突破了历史单日跌幅记录。但是，在3：07分的时候，其开始迅速上升。在不到25分钟的时间里，其将近回复了600个点。

在这混乱的25分钟里，价值560亿美元的20亿股票几经易手。更糟糕的是，其中的许多交易订单都被美国证券交易委员会（Securities Exchange Commission，简称SEC）判定为了“不实价格”——要么低至1便士，要么高至10万美元。这起事件后被人们称为“闪电崩盘”，多年后仍被调查讨论。

监管机构的一份报告显示，高频交易技术是导致价格波动异常的原因。许多的HFT项目应用都有这样一个设置：当价格到达特定的数字时，系统会自动卖出股票。所以，一旦股价下跌，那么就会有大批应用被同时触发，大量抛售股票。随后，价格下降时又触发了另一组算法，产生了一个连锁反应，导致更多的股票被抛售。结果，连人类交易员也无法控制局势。

还有人认为，这其实是算法引发的危机。人们发现了这样的一种情况，HFT应用向交易所发送了大量“不可执行”的订单；这些订单因为价格波动太大，以至于被交易所忽视。但是，其真实的目的是为了抬空系统，以便在混乱中执行其他交易。

无独有偶，“闪电崩盘”并不是算法导致的唯一乱局。2016年10月，英国脱欧时，英美汇率也经历了一次快跌闪回。2012年10月，美国股市总交易量中4％的订单被某种算法迅速买入卖出，一名评论人挖苦道：“这些算法的动机真是难以理解。”

2013年4月23日，《美联社》（Associated Press）遭到黑客入侵，发布了一条虚假新闻：“白宫发生两起爆炸，奥巴马重伤”。虽然《美联社》记者迅速做出了澄清，但是算法还是造成了股市动荡。当日下午1：08分，距离假新闻发布仅相隔1分钟，道琼斯指数下降了150个点，随后又回弹到了之前的水平。在此期间，1360亿美元的股票市场价值蒸发。

2015年，三星推出了一款智能冰箱；其集成了谷歌的日历服务，让用户能够在厨房直接订购杂货。但这也意味着，黑客能够入侵该设备，盗取用户的邮箱密码。德国的研究人员发现，飞利浦的一款彩色灯泡能被恶意代码侵入，影响范围可从单个装置蔓延到整个城市；严重的话，甚至会触发感光性癫痫。这种情况昔日只会出现在小说情节里面；但现如今，物联网已经把这种虚构的梦魇带到了现实之中。

在Kim Stanley Robinson的小说《极光》（Aurora）中，他描述了一艘负责把人类送到恒星上的智能飞船。由于这段旅程耗时过长，这个飞船最大的任务，就是要确保人类还清醒地活着；为此，这艘飞船无所不用其极：其能通过传感器监视各方、随意开关密封舱门、发出造成生理疼痛的噪音，以及用消防设备降低船舱含氧量，等等。

有趣的是，Google Home也提供了许多类似的功能：联网摄像头、智能门锁、智能恒温器、安防警报系统……说实话，只要某个黑客有点能耐，他就能像那艘飞船一样，把住在里面的人类耍得团团转。

在摒弃这种疯狂小说情节之前，我们再来好好思考一下算法在证券交易所的所作所为。这些事件并非个例，而是复杂系统中的日常情况。现在的问题是，这种流氓算法在更广泛的现实中又会是什么样子的呢？

1  2  下一页>  

标签： Google 代码 谷歌 互联网 网络

版权申明：本站文章部分自网络，如有侵权，请联系：west999com@outlook.com
特别注意：本站所有转载文章言论不代表本站观点！
本站所提供的图片等素材，版权归原作者所有，如需使用，请与原作者联系。