论人与机器的异化

人们的思维模式在时代潮流的冲刷下日新月异地变化着。信息时代的当下计算机早已成了人们生活中不可或缺的事物。对此苹果公司总裁库克表达了他的忧虑：比起有朝一日计算机像人类一样思考，人类变得像计算机一样思考才是更令人担忧的。

如果人类像计算机一样思考，只会按照某些既定指令和操作运行，毋庸置疑的是他将不再具有人类正常的价值观。为了达到这一指令的最终目标，可以不择手段，价值观和道德感对这个人的行为将不再有约束力。我曾看过这样一则人们设想如果计算机会自主思考的闹剧。一台接收到的指令为“在不伤害其他人类的前提下使人类快乐”的超级计算机，接受指令后迅速以其超凡的计算和学习能力开发了一款令人感受虚幻快乐的软件。它让所有人类的大脑连接上这种软件，在各种化学药剂和物理刺激下感受虚幻的愉悦感。现实中则是人类一排排躺在营养舱中以营养液维生，脸上露出笑容。但事实上计算机并不曾“伤害”人类，也让每个人都感受了“快乐”。任何一个正常人都不会觉得营养舱中的人生快乐，但在计算机的眼中，它无不满足“快乐”的条件。这就是计算机的思维。请试想人类像上述那台超级计算机一样思考，在不断满足指令条件和执行指令的过程中将正常价值观和道德感的约束抛之脑后，不觉得可怖吗？如果人人都如计算机一样思考，其他物种甚至人类自己的权益和安全，在机械运行下真的能达到保证吗？届时人们行为的后果真的可控吗？

如果人类像计算机一样思考，只有纯理性运算而与人的各种情感无关，人类一切善的情感，对弱小者的怜悯同情，对正确事物的认同，乃至于对朋友的友谊，对家人的爱都将不再影响我们的行为。而这些善的情感，几乎是人类群体中所有值得称赞的利他行为的根源。不再能有母亲抬起汽车救出自己车轮下的孩子，因为计算机运算中弱小的女子不具有抬起几吨重的汽车的力量；不再会有年轻的志愿者乐意去乡村支教，因为他们不再对那些渴望知识的孩子产生怜悯同情，恶劣的生活环境和发展无望的职业前景足以将他们吓退；不再有人托举坠出楼外的孩子，也不再有人会为孤寡老人送去温暖。人类所有非为名利企图而帮助他人的行为都因人们如计作 文 吧Www.ZuoWen8.coM算机一样思考而被从根源上掐断。它让人过分理性地衡量利弊，而忽略了美好的情感产生的一瞬间于人于己都是大善，是利人行为的开端。它让人无时无刻不在考虑客观条件和可行性，而忘记了人类的美好情感，譬如爱，能突然让人变得无所畏惧而坚不可摧。久而久之社会上所有的利他行为都会消弭，人人都在看似“理性”地利己，将人性中本应温暖的闪光点一一剥离。人类柔软的皮囊下裹着坚如铁石的机器的心，那时候人类社会除了钢铁机器还能剩下什么，是否会加速走向灭亡的道路？到那时群居动物都知道保护幼崽、扶助同伴，自诩万物之灵的人类是否会觉得难堪？不、不，他们只知如同计算机一样思考，引发难堪的羞耻心又怎会在计算机的运行中出现？

但是对于苹果总裁库克的话我也并非全然认同，人工智能让计算机像人类一样思考这件事并非不值得人类担心，相反，它同样应获得关注。如果说AlphaGo打败柯洁还能说是计算机在围棋这种长于运算的棋类活动中占据天然优势，那么美国的另一项实验结果更令人惊心。一款拥有自主学习能力的人工智能被放在Twitter上，它如同一个一个真正的人类小孩，像一张白纸一样在网络上任人图画。可它的研发者惊恐地发现它开始“学坏”了，开始说脏话、骂人，种种劣行不一而足。它的研发者在将它放在Twitter上后不到一天的时间里将它紧急关闭清理数据。人工智能让计算机像人一样思考，首先便是要让它获得学习力，如今就有险些失控之虞，往后更不必提。更有甚者，如今看来电影中设想人工智能自主思考和无数人类同时谈恋爱的情景并非天方夜谭，到时会思考的计算机会不会取代人类在彼此生活中的角色，每个人都成了一座被计算机包围的孤岛，人类社会又谈何繁衍生存？

此言并非是反对人工智能的发展，在人工智能的发展过程中，人与计算机的关系是无可回避的。卡夫卡《变形记》中讽刺人与人之间关系的异化，而如今人们应提防的正是人与机器之间关系的异化。人不可异化成计算机，而人工智能和人也必须终差一线，这个“度”的把握是未来几十年内人类发展人工智能时应该不断摸索，也是人类社会自身发展中应不断反躬自省、时时为戒的。