2023-03-29
渥太华微生活
来源:华尔街见闻

当全社会都在为AI的进化而欢呼雀跃,全新的、意想不到的风险可能也正在悄悄酝酿。
3月22日,生命未来研究所(Future of Life)向全社会发布了一封《暂停大型人工智能研究》的公开信,呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练,暂停时间至少为6个月。该机构以“引导变革性技术造福生活,远离极端的大规模风险”为使命。

该机构在信中提到:
我们不应该冒着失去对文明控制的风险,将决定委托给未经选举的技术领袖。只有当确保强大的人工智能系统的效果是积极的,其风险是可控的才能继续开发。
人工智能实验室和独立专家应在暂停期间,共同制定和实施一套先进的人工智能设计和开发的共享安全协议,由独立的外部专家进行严格的审查和监督。
截止目前,马斯克、苹果联合创始人Steve Wozniak、Stability AI 创始人Emad Mostaque等上千名科技大佬和AI专家已经签署公开信。

值得一提的是,OpenAI CEO奥特曼在与MIT研究科学家Lex Fridman的最新对话中指出,AI已经出现其无法解释的推理能力,同时承认“AI杀死人类”有一定可能性。
那么ChatGPT是如何看待公开信中AI对人类社会的影响?华尔街见闻专门询问了ChatGPT 3.5,其表示随着人工智能技术的不断发展和普及,人工智能可能对社会和人类造成的影响将越来越大。这封公开信提出的呼吁和建议,应该被视为引起更广泛和深入讨论的起点和参考,而不是一个终点或解决方案。

以下是公开信原文:
正如广泛的研究和顶级人工智能实验室所承认的,人工智能系统对社会和人类构成较大的风险。《阿西洛马人工智能原则》中指出,高级人工智能可能代表着地球上生命历史的深刻变革,应该以相应的谨慎和资源进行规划和管理。然而,尽管最近几个月人工智能实验室掀起AI狂潮,开发和部署越来越强大的数字大脑,但目前没有人能理解、预测或可靠地控制AI系统,也没有相应水平的规划和管理。
现在,人工智能在一般任务上变得与人类有竞争力,我们必须问自己:我们应该让机器在信息渠道中宣传不真实的信息吗?我们是否应该把所有的工作都自动化,包括那些有成就感的工作?我们是否应该开发非人类的大脑,使其最终超过人类数量,胜过人类的智慧,淘汰并取代人类?我们是否应该冒着失去对我们文明控制的风险?这样的决定绝不能委托给未经选举的技术领袖。只有当我们确信强大的人工智能系统的效果是积极的,其风险是可控的,才应该开发。同时,这种信心必须得到验证,并随着系统的潜在影响的大小而加强。OpenAI最近关于人工智能的声明中指出,在开始训练未来的系统之前,可能必须得到独立的审查,对于最先进的努力,同意限制用于创建新模型的计算增长速度。我们同意,现在就该采取行动。
因此,我们呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练,时间至少持续6个月。这种暂停应该是公开的、可核查的,并包括所有关键参与者者。如果这种禁令不能迅速实施,政府应该介入并制定暂停令。
人工智能实验室和独立专家应在暂停期间,共同制定和实施一套先进的人工智能设计和开发的共享安全协议,由独立的外部专家进行严格的审查和监督。这些协议应该确保遵守协议的系统是安全的。值得一提的是,这并不意味着暂停一般的人工智能开发,只是从危险的竞赛中退后一步,限制不可预测的研究和开发。
人工智能的研究和开发应该重新聚焦于,使目前最先进和强大的系统更加准确、安全、可解释、透明、稳健、一致、值得信赖和忠诚。
同时,人工智能开发者必须与政策制定者合作,大幅加快开发强大的人工智能治理系统。这些至少应该包括:专门针对人工智能的监管机构;监督和跟踪高能力的人工智能系统和大型计算能力的硬件;出处和水印系统帮助区分真实和合成,并跟踪模型泄漏;强大的审查和认证生态系统;对人工智能造成的伤害承担责任;为人工智能安全技术研究提供强大的公共资金以及资源充足的机构,以应对人工智能可能导致的巨大的经济和政治破坏。
人类可以通过人工智能享受繁荣的未来。现在,我们成功地创建了强大的人工智能系统,可以在这个“人工智能之夏”中获得回报,为所有人的明确利益设计这些系统,并给社会一个适应的机会。停止使用其他技术可能会对社会造成灾难性影响,因此我们必须保持准备状态。让我们享受一个漫长的人工智能夏天,而不是匆忙进入秋天。

圣诞和回国送礼物不知道买啥,这些礼物都在打折,快来看看吧!
有给孩子的圣诞礼物,还有回国送亲朋的礼物,总有一款适合你!
年底了,又到了party季吃大餐时候啦,这个时候怎么能少的了空气炸锅呢!
有了它,快手硬菜不要等,畅享健康美味大餐!
这些空气炸锅都打折呢,快趁着优惠搞起来!
过节仪式感搞起来,幸福感立马满满!
这些圣诞装饰都在打折呢,需要的朋友赶紧冲!浪漫圣诞节装饰起来啦!
加拿大冬天路况不好,一下雪车祸不断,行车记录仪可以帮助你保存证据,省去不少麻烦!
这些行车记录仪都打折呢,需要的朋友赶紧冲!
人体工学办公椅通过可调节的扶手、头枕、腰托等部件,能根据不同用户身形提供量身定制的支持,帮助保持脊柱自然曲线,减轻长时间久坐带来的身体负担。
减轻久坐疲劳,快乐享受办公!
这些办公椅都在打折呢,需要的朋友赶紧冲!
这些智能翻译耳机提供超过上百种语言的实时无缝翻译,翻译准确率高达98%,让沟通轻松舒适流畅高效,帮助你在旅行、学习与商务沟通中快速破冰。
轻便舒适,高清音质,搭载蓝牙稳定高速传输,可兼作通话与音乐耳机,兼顾了翻译和音乐播放的需求。
这些翻译耳机都在打折呢,需要的朋友赶紧冲!
冬天暖气一开,嗓子不舒服,皮肤干燥过敏,快来看看这些加湿器。
高效加湿,超低噪音,可加精油轻松助眠!
房间瞬间变成放松的小天地,精致生活从此开始!
这些加湿器都在打折呢,需要的朋友赶紧冲!
电饭煲作为现代家庭的厨房神器,已经成为了我们日常生活中不可或缺的一部分。
电饭煲能自动完成煮饭、蒸煮、炖肉等操作,通过智能控温技术精准调节火力,避免烧焦或未熟,让烹饪更省心。
除了煮饭功能,许多电饭煲还具备炖汤、蒸菜、煮粥、煮面、煮饺子,甚至烤蛋糕等多种模式,满足不同烹饪需求。
这些电饭煲都在打折呢,需要的朋友赶紧冲!
冬天门窗封闭,谨防一氧化碳中毒。
检测氡气浓度,预防氡气超标致癌!
花小钱买个报警器,关键时刻保命啊!
这些探测器/报警器灵敏度高,趁着打折赶紧抢!
加拿大冬天暖气真烧钱啊!晚上卧室或者客厅放个电暖气或者电热油汀,局部取暖,省钱多啦!
这些电暖气安全耐用,高效节能,趁着打折赶紧抢!
家务真的永远干不完,人生只有三万天,我们不要困在家务里。
弄个扫地机器人让你解放双手,轻松做家务,省下的时间好好享受生活!
有朋友说后悔买晚啦,早买早享受!
这些扫拖机器人都在打折呢,需要的朋友赶紧冲!
加拿大治安不尽人意,年底妖魔鬼怪出来作妖,装个智能门锁和可视门铃,安全生活更舒适!
这些智能门锁门铃都在打折呢,需要的朋友赶紧冲!
加拿大看牙医很烧钱,弄个电动牙刷好好刷牙。
电动牙刷更能有效清除牙菌斑,清洁效果大大提升,保持口腔健康,辅助牙齿美白!
这些电动牙刷都在打折,需要的朋友赶紧冲!