韩国顶尖棋手李世石以1:4的总比分输给了谷歌开发的人工智能软件AlphaGo（以下简称A），比赛持续了五天，外界的评论随着棋局的跌宕起伏时而忧伤，时而振奋，大都在讨论人类的未来。

其实，人工智能是人创造的，李世石与A的比赛是一场人类智力试验。围棋是这场游戏的道具，李世石是A的配角。假如以后柯洁或古力与A对弈，主角依然是A。

围棋不同于国际象棋，更强调棋手的个性和谋略，其变化组合的多样性远大于象棋。围棋一度被认为是人工智能的禁区。如今禁区已被突破。A甚至通过棋路表现出些许“个性”，领先时从容不迫，给李世石不断施加压力，落后时沉着冷静，迅速修补漏洞。

对比1997年与卡斯帕罗夫对弈国际象棋的超级计算机“深蓝”，A更像是一个有血有肉的棋手，而不是一台冰冷的机器。公众对A蕴含的未知充满好奇，源自于对科技的期待。

按照当下人工智能的发展势头，未来的A不仅能熟练使用它掌握海量知识信息，还可以具备学习新技能和获得新知识的能力。后者使它区别于以往任何一种按照程序和规程运转的机器。A没有人的喜怒哀乐，但它可以在重大决策时做出最理性的分析和决定。它在科技、教育和公共治理领域将拥有广阔的发展空间。

至此，人的情绪成为人最后的精神家园。

而这个家园的消费品甚至都可以由A完成。试想，A记忆了人类历史上所有经典的文学作品、典故，所有影视戏曲的桥段和镜头语言，所有新闻媒体的报道和影音资料，谁敢保证A写出的小说、诗歌和剧本不会超过单一个体的人类创造？换句话说，A可能没有自己的情绪，但它占有了人类所有的情绪产品。

一个关键点是A是否会产生自我意识？如果这一点被突破，那么A就有脱离其制造和设计者，成为独立行为个体的可能。人类是否会被A奴役？答案不在A，而在于人类。创造出有独立意识的A，我相信只是时间问题，而是否可以这样做则是现在就应该讨论的问题。

科技创造是无限的，科技的应用应该是有限的，要受到人类社会道德和伦理的约束。科技伦理是指科技创新活动中人与社会、人与自然和人与人关系的思想与行为准则，它规定了科技工作者及其共同体应恪守的价值观念、社会责任和行为规范。如果人类智力创造最终带来反人类的后果，那么有可能实现这些创新的人或者组织必须被有效限制和管理。

原子弹不可怕，看它掌握在谁的手里。某种意义上，二战后七十多年的总体的世界和平中有原子弹的贡献，因为大国无不忌惮对方的核武器。A如果成为战争武器，那么它必将改写人类历史。

现在的问题是，A的研发者谷歌公司以及其他从事相关研究的企业创造了政府监管的新领域。在人类发展史上，关键的科技创新往往是由公司或个体完成的，随后形成监管法规和游戏规则。勇于创新的公司与负责任的政府的组合，才能在一定程度上保证创新应用符合道德伦理和生态法则，最大限度地服务公共福祉。一个不容回避的现实是，以引力波和人工职能为代表的新的一轮科技突破中，对于新技术应用的约束显然落后了。

信息时代以来，人类社会的全球治理发展水平就已被科技发展甩到了身后。到目前为止，各国对网络监管、气候变化和恐怖主义等问题没有好的解决办法。最重要的原因是，作为全球唯一超级大国的美国对于维护自己的霸权的兴趣远大于倡导全球治理。技术可以用来造福全人类，也可以用来奴役他国。

很多人热衷于讨论未来人工智能能做什么，但我更关心的是基于美国政府和美国公司目前的霸权和技术优势，人工智能未来的权力边界将如何划定？美国在金融、信息、军事、文化之外会不会再多一个“人工智能”的统治领域？

谷歌的口号是“我们不作恶事”。这可以看作是基于科技伦理的一种宣誓。另一方面也显示出谷歌“作恶”的可能。在社会契约中，公共安全和公共服务的提供者是政府，而不是企业。企业运转的终极目的是谋利，而非为公众利益服务。

美国政府如果能够通过棱镜计划，以国家安全和反恐之名，随意监视本国和他国的公民和领导人，那么我们有什么理由对于一个美国公司远远领先的、新的控制力更强的、有着广泛应用的技术领域泰然处之。

在当今世界，只谈技术，不谈政治，是一厢情愿的乌托邦。

人工智能与信息技术组合在一起，有能力渗透进入人类社会的各个领域。几盘围棋很可能昭示的是一个新的技术霸权时代的到来。A不过是一盘人类历史大棋局中落下的第一颗黑子。这盘围棋的棋子有很多，但规则只有一个，永远由强者制定。技术本身不会奴役人，奴役人的永远是人本身。

关于作者：李洋，中国日报四川记者站站长