深度人工智能对经济社会影响再反思 ——针对马斯克等千名科技人员叫停AI训练的评述

　　自从ChatGPT、GPT-4问世并引发了一场席卷整个科技界的AI军备竞赛之后，人们在被人工智能的卓越能力所惊艳的同时，对于人工智能接下来会向何处进化、是否会威胁人类的担忧也越来越多。

　　马斯克等千名科技人士发公开信：暂停训练GPT-4及AI系统

　　当地时间3月28日，未来生命研究所(Future of Life Institute)网站披露了一封公开信，呼吁所有AI实验室立即暂停比GPT-4更强大的AI系统训练至少6个月。这封信由1000多人联名，其中包括知名企业家伊隆·马斯克、图灵奖得主约书亚·本希奥、《人工智能：现代方法》作者斯图尔特·罗素、苹果公司联合创始人史蒂夫·沃兹尼亚克等科技界领袖人物。他们对AI系统的担忧主要集中在两方面：其一，AI可能失控，给人类文明带来风险。其次，AI可能被恶意使用，造成错误信息传播或被用来犯罪。他们呼吁所有人工智能实验室应该至少暂停半年，接着，在暂停期间人工智能开发者应该与政策制定者合作，共同制定和实施一套先进的人工智能设计和开发的共享安全协议。信中还强调，暂停并不意味着需要停止人工智能技术的发展，只是我们需要从危险的竞赛中退后一步，从而限制不可预测的研究和开发。