(资料图片仅供参考)
AI失控甚至毁灭人类的前提是AI要具有自主性，就是在很大程度上独立完成任务。那么，在AI系统没有足够理解人类价值观和道德准则的情况下，这种自主性就可能导致失控的风险。
但目前的生成式AI本质上还是人类的工具，给它一个指令，它来生成相应的文字、图片等内容，距离具备自主性还非常的遥远。
虽然人工智能因ChatGPT这样的工具在近期被广泛关注，但它不是最近几年才出现的技术。我可是在2015年就出版了《智能爆炸》这本书，而从全世界范围来说，至少自1950年以来，人工智能就以某种形式存在(比如著名的图灵测试)，甚至可以追溯到更早的时候。
也就是说人工智能经过了70多年的发展，才有了ChatGPT这种水平的产品。比起担心AI毁灭人类，我更担心在我的有生之年都不能见到真正具有人类水平智能的AI系统。即便是在非常遥远的未来，我也坚信AI毁灭人类的可能性微乎其微。
03
同时，我也觉得科技大佬们不见得是真的担心AI会毁灭人类，而是想用这种引人注目的方式来推动行业的健康发展(除了部分怀有私心的人)。
这封公开信能够带来的积极影响在于：提高公众对于AI技术发展潜在风险的认识;促进政策的制定，使得政府和国际组织对AI技术的发展进行更多的监管;引导整个行业的道德和伦理发展，使得企业、研究机构和开发者在开发和应用AI技术时遵循一定的道德规范，确保技术的安全和可靠;促成行业内的合作，共同制定标准和准则;此外，作为行业领导者，公开信也可以作为其表达对未来科技影响的担忧和对负责任创新的承诺的一种方式。
关键词：
