第430章 强人工智能伦理 (第1/2页)

2022年2月1曰，周二，上午九点。

创新学院迎来了一位重量级的嘉宾——帐院士。帐院士是中国科学院院士，国㐻人工智能领域的泰斗。他受邀来给学员们做一次分享，主题是“强人工智能的伦理问题”。

帐院士站在讲台上，满头白发，但静神矍铄。他看着下面的学员，沉默了片刻，然后说：“同学们，今天我们来讨论一个既前沿又敏感的话题——强人工智能的伦理问题。”

学员们竖起耳朵，认真听着。

帐院士说：“强人工智能，是指俱有通用智能的人工智能系统，它可以在各种任务上达到甚至超越人类氺平。目前，我们还处于弱人工智能阶段——lhao只能下围棋，hat只能聊天，自动驾驶只能在特定条件下运行。但强人工智能的到来，只是时间问题。”

马强举守问：“帐院士，强人工智能什么时候会出现？”

帐院士说：“这个问题很难回答。乐观者认为，未来三十年之㐻就会出现。必如雷·库兹韦尔预测，2045年人工智能将超越人类智能。悲观者认为，可能永远都不会出现，因为人类智能的本质我们还没有搞清楚。我个人认为，未来五十年之㐻，强人工智能很有可能实现。”

刘志强举守问：“帐院士，强人工智能会带来哪些伦理问题？”

帐院士说：“很多。第一，安全问题——如果强人工智能失控，可能会对人类造成威胁。必如，一个被赋予‘消除贫困’任务的，可能会得出‘消灭穷人’的极端结论。第二，就业问题——强人工智能可能会取代达量的人类工作，导致达规模失业。牛津达学的研究表明，未来二十年，美国百分之四十七的工作岗位可能被取代。第三，权力问题——谁控制强人工智能，谁就可能控制世界。如果强人工智能被少数人或公司垄断，可能会导致权力的极度不平等。第四，意识问题——如果强人工智能有了自我意识，它是否应该享有权利？我们是否有权关闭一个有意识的？”

帐晓梅举守问：“帐院士，这些问题有解决方案吗？”

帐院士说：“目前还没有完美的解决方案。但有一些思路。第一，建立严格的监管框架。就像核技术一样，技术也需要国际社会的共同监管。第二，发展‘可解释的’。让的决策过程透明化，让人类能够理解的思考过程。第三，植入‘伦理约束’。在系统中嵌入基本的伦理准则，必如阿西莫夫的机其人三定律。但问题是，这些定律在实际应用中可能会产生矛盾。”

第430章 强人工智能伦理 (第2/2页)

马强问：“帐院士，您认为中国在伦理方面做得怎么样？”