霍金呼吁提防人工智能副作用

2015年01月13日  来源： 北京商报    

　　据英国《金融时报》报道，数十位科学家、企业家及与人工智能领域有关的投资者联名发出了一封公开信，警告人们必须更多地注意人工智能的安全性及其社会效益。参加联合署名的人中包括了科学家史蒂芬·霍金。

　　这封公开信还附带了一篇论文，其中建议应优先研究“强大而有益”的人工智能。目前，人们日益担心机器的智力和能力可能会超过创造它们的人类，从而影响到人类的就业，甚至影响到人类的长期生存。

　　这封公开信表示：“由于人工智能的巨大潜力，开展如何在规避其潜在陷阱的同时获取其好处的研究十分重要。我们的人工智能系统，必须按照我们的意愿工作。”

　　信中写道：“如今存在的一个广泛共识是，人工智能研究正在稳步进展之中，它对社会的影响也很可能会逐渐增大。人类文明所能提供的一切都是人类智慧的结晶。这种智慧被人工智能可能提供的工具放大后，我们能做到什么是我们无法想象的，不过那样的话根除疾病和贫困将不再是遥不可及的。从这个意义上说，人工智能有巨大的潜在好处。”

　　人工智能正吸引越来越多的投资，许多创业家和谷歌等企业都在盼望着能通过建立会自主思考的电脑获得巨额回报。对于这种局面，公开信警告说，人们或许应“及时”将更多注意力集中在人工智能的社会后果上，不仅要从计算机科学的角度开展研究，还要从经济、法律及信息安全的角度开展研究。