界面新闻记者 |
3月29日，一封在非盈利组织生命未来研究所网站上刊登的公开信引发轩然大波。信中呼吁全球所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月，包括埃隆·马斯克、苹果联合创始人史蒂夫·沃兹尼亚克、图灵奖得主约书亚·本吉奥在内的1000余名科技圈商圈重量级人士均签署了这封信函。
按照公开信的提议，在暂停期间，人工智能实验室和独立专家应该共同开发一套用于高级人工智能设计和开发的共享安全协议，并由独立的外部专家进行严格审计和监督。如果这种暂停不能迅速颁布，各国政府应该介入并制定暂停令。
“只有在我们确信强大的人工智能系统的效果将是积极的，风险是可控的，才应该开发。”公开信中指出。
未料一天之后，陆续有科技界重磅人物对上述公开信表示异议。
当前人工智能和机器学习领域最权威的学者之一，谷歌大脑的缔造者、世界上最大的在线学习平台之一Coursera的创始人吴恩达今日的发声引人瞩目。他认为6个月的暂停期并不是一个实用的建议，并连发四条推特表达了对此事的强烈反感。
“呼吁在6个月内暂停让人工智能取得超过GPT-4的进展是一个可怕的想法。我在教育、医疗、食品等方面已经看到了许多AI的新应用，这将帮助许多人。“吴恩达首先指出，更应该平衡人工智能正在创造的巨大价值与现实的风险。
吴恩达继续反驳了马斯克等人要求政府介入干预的观点：让政府暂停他们不了解的新兴技术是反竞争的，这会树立一个可怕先例，是糟糕的创新政策。
这位著名学者承认，人工智能确实有风险，但大多数媒体鼓吹的众多人工智能公司正在疯狂输出危险代码并非事实，绝大多数人工智能团队都很重视负责任的AI和安全。不过他也明白，这并非全部。
在系列推文最后，吴恩达提出了提高人工智能安全性的解决方法，称为了推进人工智能安全，围绕透明度和审计的法规将更加实用，并产生更大影响。
“在推进技术发展的同时，让我们也对安全进行更多的投资，而不是扼杀进步。”吴恩达呼吁。
作为人工智能的一方泰斗，吴恩达的科研史被业内称为人工智能领域的断代史，他在斯坦福大学开设的《机器学习》系列课程于2012年在Coursera上线，十年间吸引了近500万人注册。性格温和的吴恩达此番言辞激烈的表态并不多见。在他的推文下面，Meta数据科学家林致远，英伟达AI研究科学家Jim Fan表示了赞同和支持。
吴恩达之外，还有另一位人工智能领域大神级人物也旗帜鲜明地表达了对公开信内容的反对，这就是图灵三巨头之一，卷积之父杨立昆。
他首先在推特上表示，自己并未签署这封公开信，“我没签，我不同意这封信的前提。”之后，他通过网友的推文继续表露反感。一位网友表示，OpenAI足足等了6个月，才发布了GPT4，而他们甚至为此还写了一份白皮书。杨立昆转发了这条推文并附上了自己的评论：所谓“暂停研发”，不过就是“秘密研发”，这与一些公开信签名者所希望的会恰恰相反。
在杨立昆的推文之下，还有一位大神级人物现身互动。机器学习领域创始人之一、美国人工智能协会前主席Thomas Dietterich发推表示，自己也没签署这封公开信。“这封信充斥着一堆可怕的修辞和无效/不存在的政策处方。” 杨立昆转发这条推文表示赞同。
杨立昆也是Meta的首席科学家。此前不久，他在Meta主导推出的类ChatGPT语言模型Galactica一经亮相便遭遇翻车，但他对ChatGPT的态度一直非常不满，“ChatGPT满嘴胡诌，你们却对它如此宽容，但我家的Galactica才出来三天，就被你们骂到下线了。”他还对硅谷圈子一干明星科学家指出，在这场去年年末由ChatGPT引发的硅谷巨头大模型军备战中，没有人比其他人领先超过两到六个月。
杨立昆性格直率，酷爱在推特上与网友争辩。由于竞争立场关系，他一直对ChatGPT甚至聊天机器人持反对态度，这次却因为马斯克的公开信展露出了与OpenAI冰释前嫌的信号。
国内科技界也有重量级人物就这封公开信表达反对。360创始人周鸿祎今天下午发微博对马斯克请愿叫停GPT-5研发一事发表了看法。
“不管你愿不愿意，GPT都将引领一场新的工业革命，意义超越互联网和iPhone的发明。它将带来生产力的大幅提升，进而提升国家竞争力。中国一定要迎头赶上。”周鸿祎表示。
周鸿祎承认，最近人工智能的指数级跃变确实有点让人措手不及。对于马斯克的请愿信，他不了解内幕，但猜测是GPT的进化路上出现了超乎人类想象的现象。对于人类如何应对AI带来的未来安全挑战，谁也没法给出确定答案，但做安全出身的他坚定认为，不发展才是最大的不安全。
周鸿祎用三体世界中eto组织的三个派别作比，概述了人类与AI如何共处的三种方法：
“降临派”认为人类应该把知识献给AI，甘心做硅基文明的引导程序；“幸存派”有点躺平，认为只要我能生存，未来跟AI以什么样的方式共处都行；“拯救派”认为AI不是来取代人类的，而是来升级人类的，人类将迎来工业革命之后最大的生产力解放。
周鸿祎更加认同“拯救派”的观点，“人类从来都不是靠体能和智能的进化站在食物链顶端的，我们靠的是不断发明和使用工具。GPT就是这个时代最伟大的工具。”
这位360创始人一直预测，GPT-6到GPT-8的版本会产生真正的意识，甚至进化成一个新物种，但他还强调了AI目前仅处于婴儿期，“需要在宽容和支持的基础上进行发展。”言外之意是，现在就担心人工智能的风险为时过早。
评论