比“老大哥在看着你”更可怕的事发生了！

绝对的控制，导致绝对的灾难。...



乔治·奥威尔的小说《1984》有句名言“老大哥在看着你”。

老大哥作为大洋国和英社的首领，在小说中自始自终没有出现，然而，老大哥其实拥有无处不在的权力。

是的，老大哥无处不在。

我前几天在首尔访问，到处都是CCTV的标识。当然，这里的CCTV不是中央电视台，而是Closed Circuit Television 闭路电视监控系统的缩略语。

韩国人甚至为此得意地说，在首尔监控无死角。

不要以为摄像头就是老大哥，老大哥远比摄像头更无所不在。

斯诺登事件后，无所不在的监控体系进一步得到印证，我们的行动、电话、邮件在网络时代都无处遁形。

我在欧洲和一位国防事务高级专家聊天时，他痛批美国为代表的大国侵犯公民隐私，我求教他怎样才是安全的。他想了想说，你在一个独立的屋子，用一台电脑写作，这台电脑从未接入互联网，从没有任何U盘插入。这或许是安全的。

我注意到，他用的是“或许”。

可惜，网络是躲不开的。互联网、电子邮件、手机、聊天工具，我们都离不开。随着人类社会从信息时代迈向人工智能时代，比“老大哥在看着你”更可怕的事情发生了。智能家居、自动驾驶汽车，如果和人工智能专家携手合作，可以随时改变并拿走你的一切。

圣诞节期间上映的电影《绝对控制》展示了这近乎惊悚的一幕：

老牌007皮尔斯·布鲁斯南所饰演的Mike Regan功成名就，拥有美满的家庭，一栋顶级的全智能别墅，他的公司正准备彻底改变航空业。可他一家认为，享受这些高科技带来的方便理所应当，从而冷落了掌控技术的IT男。IT男失去理智，开始跟踪他的女儿，监视他的生活，往日依赖的全智能家居和汽车系统如今成为最大的安全隐患。



老牌007再战江湖，依然帅气！

随着隐私的全面暴露，Regan一家陷入前所未有的恐慌，一场个人隐私和现代科技的博弈就此展开……

这让我想起了王菲《棋子》里的词：

是的，这比老大哥从安全和社会治理层面进行的监控更可怕。当你最信赖的人、最知道你全家底细的人，利用各种智能设备披露你的隐私、威胁你的家人时，予以反击几乎是一项不可能完成的任务。

这或许是人类社会与人工智能所不得不面对的挑战。

人工智能、自动驾驶，这一切看似美好的事物极大程度地减轻了人类的负担，但它带来的社会伦理问题始终是人类不能回避的话题。自从1818年玛丽·雪莱创作出世界上第一部科幻小说《科学怪人》，到1927年美国西屋公司制造出第一个机器人“电报箱”，再到现在，幻想正在一步步变为现实，人工智能正在深入到人类生活的每一个空间。

这不禁引发了人类新的思考：人应该怎样对待人工智能？

这些，我们没有标准答案。斯皮尔伯格的电影《人工智能》，对此有过探索。而今，电影《绝对控制》更深入一步，我们身边最亲密的人，人工智能的工程师，利用高科技手段和人工智能设备作恶，会怎样改变人类与人工智能之间的关系？

于个体而言，普通人斗不过工程师与机器人的合体；于人类社会而言，当一小撮技术人员控制整个人工智能世界时，这个世界会陷入前所未有的灾难。

我们常说，绝对的权力导致绝对的腐败；这里，我们也可以说，绝对的控制，导致绝对的灾难。

西方主导的科技文明，从蒸汽机为驱动的工业时代开始，发展到互联网为代表的信息时代，而今，则进入机器人为代表的人工智能时代。

工业时代，人在流水线上像机器一样工作，出现了异化；信息时代，信息越发丰富，人类却越发孤独；人工智能时代，一切都可以由机器代劳，一切都如此之简单，然而，我们并没有变得更自由，也没有变得更快乐，相反，我们可能在这种绝对控制下彻底迷失自我。

摆脱控制的方式很多，从东方古典文化里或许能寻找到出路。

陶渊明“采菊东篱下，悠然见南山”，竹林七贤于山野中寻找人生的乐趣，中国古人的智慧放在人工智能时代，依然是值得汲取的。

关机一天，不看微信一天，不去关心网络上的热词，或许会让你发现没有感受过的幸福。我有一年春节，关机五天，忽然幸福指数倍感提高。是的，机器是为我们服务的，人工智能是让我们开心的。不要被它操控，要做他的老大哥，而不要让它做你的老大哥。

我的微信公号：【 worldcomment 】

欢迎像老大哥一样关注这个号！

    关注 王冲