出品|搜狐科技
作者|郑松毅
(相关资料图)
6月9日,2023智源人工智能大会在北京举办。法国当地时间凌晨四点,被誉为“世界深度学习三巨头”之一的杨立昆(Yann LeCun)在法国视频连线北京现场,发表了主题为《走向能够学习、推理和规划的大模型》的演讲,表达了对于人工智能的深度思考。
搜狐科技在智源大会现场观看了这场演讲,从杨立昆演讲时面露微笑的表情中,可以感受到杨立昆对于人工智能发展的积极乐观态度。此前在马斯克等人联名签署联名信提出人工智能发展将给人类文明带来风险时,杨立昆曾公开反驳,认为人工智能尚未发展到给人类构成严重威胁的程度。演讲中,杨立昆再次强调人工智能是可控的,他表示,“恐惧是由对潜在负面结果的预期引起的,而兴高采烈是由对积极结果的预测产生的,像这样由目标驱动的系统,我将之称为‘目标驱动的人工智能’,它会是可控的,因为我们可以通过成本函数为它设定目标,确保这些系统不会想要接管世界,相反,它会屈从于人类和安全。”
杨立昆表示,人工智能距离人类和动物的能力差距在于逻辑推理和规划,这是智能的重要特征,现在的大模型只能“本能反应”。
“如果你用一万亿或两万亿个token来训练它们,机器的性能是惊人的,但最终机器会犯事实错误、逻辑错误,它们的推理能力是有限的。”
杨立昆强调,基于自我监督的语言模型无法获得关于真实世界的知识。他认为,与人类和动物相比,机器的学习能力并不是很好。几十年来,研发系统的方式都是在用监督学习,但监督学习需要太多标签,学习任何东西都需要进行大量的尝试,强化学习的结果却不尽人意,这些系统是脆弱的,会犯愚钝和错误,且并不会真正地推理和计划。
“就像我们在演讲时,如何从一个观点表达到另一个观点,怎么解释事物,大脑里是有计划的,而不是一字一句的即兴发挥。也许在低层次上,我们在即兴发挥,但在高层次上,我们一定是在规划。所以规划的必要性是非常明显的。我的预测是,在相对短的几年内,理智的人肯定不会再使用自回归元素(自监督学习方法中的模型之一)。这些系统将很快被放弃,因为它们是无法修复的。”
他表示,为了让语言模型真正理解真实世界的知识,需要一个新的架构来取代,而这个架构就是他在一年前所发表的论文中提出的架构,“自主智能(Autonomous Intelligence)”。这是由一个配置模块控制整个系统,基于输入信息,进行预测、推理、决策的架构。其中的“世界模块”具备估计缺失信息、预测未来外界状态的能力。
谈及未来几年AI将面临的挑战,杨立昆指出三个方面,其一是学习世界的表征和预测模型;其二是学习推理,即学习如何有意识、有目的地运用思维去完成任务;最后一个挑战是如何通过将复杂任务分解成简单任务,以分层的方式运行来规划复杂的行动序列。
谈到这里,杨立昆介绍了他发表在论文中的另一个模型“世界模型(World Model)”,该模型可以想象一个场景,并根据场景预测行动结果。目的是找出一系列根据其自己的世界模型预测的行动,并最小化一系列成本的行动序列。
当杨立昆在提问环节被问及有关即将参加的一场关于AGI的地位和未来的辩论时,他表示这场辩论将围绕一个问题展开,即人工智能系统是否会对人类构成生存风险。Max Tegmark 和 Yoshua Bengio 将站在“会”的一边,认为强大的 AI 系统可能对人类构成存在风险。而杨立昆和 Melanie Mitchell 将站在“不”的一边。
“我们的观点不是说没有风险,而是说这些风险虽然存在,但很容易通过精心设计来减轻或抑制。”
杨立昆认为,超智能系统尚未被研发出来,待其被发明出后,再讨论“是否能使超智能系统对人类安全”也来得及。
标签:
上一篇 : 拟定的意思是什么_拟定的意思
下一篇 : 最后一页
最新推荐
演讲中,杨立昆再次强调人工智能是可控的,他表示,“恐惧是由对潜在负
1、大学拟定录取意思就是别的条件已经满足录取要求,但还没有经过政审
【港澳台专线】新台两地自媒体人:用镜头架起两岸交流“心桥”中新
你们好,最近小活发现有诸多的小伙伴们对于打篮球的技巧视频,打篮球的
英国《金融时报》6月9日消息,知情人士称,微软正将一些顶尖的人工智能
坦克500Hi4-T是坦克品牌首款落地量产的新能源车型,拥有强大动力、强大
A股反弹,北向资金单日净买入额创近4个月新高。在隔夜外围市场上涨带动
1、主料小米150g白糖40g炼乳10g无味色拉油50g鸡蛋(中等大小)4个小米
1、尊敬的迅雷用户,您好:DLNA的全称是DIGITALLIVINGNETWORKALLIANCE,其宗旨是En
1、Recovery是个工程模式,你可以进入它进行系统升级,也可以进行系统
【共同缔造安全江夏⑭】摄影作品:电力阶梯---电力工人为了保障江夏区
1、额昨晚才通宵麻刚网看问题--责任鸡打冲锋鸡规则原比摸幺鸡第冲(打)(
1、安居集团主要的是做财务代理,主营业务代理记账。包括深圳市安居企
保卫萝卜4周赛6 10怎么过?今天保卫萝卜4周赛6 10到底怎么过,今天主要
《Mayday》将由Skydance影业为苹果公司AppleTV+打造,除了雷诺兹外,
1、胎菊具有清肝明目以及清热解毒的效果,而且用胎菊泡的茶味道是像含
湖北省地方金融监督管理局党组书记、局长段银弟接受审查调查---记者10
考试用笔漏墨、断墨,污染了考卷,蹭黑了双手……这样的窘况发生在高考
导读1、插曲1:《原时光凝结》Dew插曲2:《呼吸里的记忆》Bie插曲3:《
中新社广西玉林6月10日电 (记者 林浩)广西壮族自治区农业农村厅副
今天(9日),大唐西藏扎拉水电站主体工程正式开工建设,项目配备首台
在市场一片期待和对苹果VisionPro过分美誉之下,扎克伯格坐不住了,批
第76届坎城国际影展影评人周受邀的恐怖电影《梦游(暂译)》,日前在电影
天津北方网讯:主题为非遗融入生活,文化自信自强的非遗展示展演活动,
眼下,岭南地区渐入龙舟赛季。珠江水网密布,孕育出各具地方特色的龙舟
记者从中国国家铁路集团有限公司(下称“国铁集团”)获悉,6月10日,国铁
近期,我国南方地区持续降雨,局地发生极端强降雨。据气象部门预测,6
王艳选择了一双小白鞋来搭配整体造型,注入满满的青春活力,清爽不说,
↑6月9日,湖南省长沙市朝阳小学王晓风老师在特色美育课上向学生们介绍
1、在这几个车里,最值得的是航母HT(Z7+可以排除了,都不是一个时代,
6月9日,武汉三镇队球员高准翼(上)在比赛中突破受阻。
“太方便了,以前都是在路边招手上车或者电话预约,今后可以像打网约车
来为大家解答以上的问题。遥不可及的意思是什么,遥不可及的意思这个很
奥迪a4刷锁车声音教程是可以到4s店去刷一下,其是通过刷ecu刷出来的,
据扬子晚报紫牛新闻报道,此前,湖南登山队的范江涛和谢如祥,在珠穆朗
交通银行任德奇:扩大融资总量、创新产品服务、参与绿色金融市场建设,
极目新闻记者潘锡珩实习生彭睿喆甘逸夫记者从国铁集团获悉,6月10日,
第31届世界大学生夏季运动会将于7月28日至8月8日在成都举行,这是我国
6月8日,市总工会组织各县(市、区)总工会分管女工工作负责人以及有意
“湾湾苔径引青松,苍石坛高进晚风。
6月9日,宁夏银川产业技术研究院与银川产业投资发展集团有限公司签订科
本次活动旨在通过丰富多彩的活动加强市民对于深海大洋的认识。
中新网北京6月10日电(韦香惠)10日,2023全国高考将全部落幕,目前,全国多
沣河景色。位于“十里沣河”文旅带的昆明池七夕公园。 以上图片均为
轻点鼠标,数公里外的易淹水点实时监控画面“跃然屏上”;短短数秒,最
来为大家解答以上的问题。黛色霜青百度百科,黛色霜青这个很多人还不知
坦克500Hi4-T是坦克品牌首款落地量产的新能源车型,拥有强大动力、强大
说他是德甲赛场上的“带刀后卫”,并不为过。如果能从拜仁签下这位全能
3DRealms和独立开发商PetProjectGames发布科幻恐怖FPS新作《RIPOUT》预
“一共上了6节课,我学会了用手机导航、付费、预约看病。”最近,家住
成都抗疫的外籍志愿者:愿为城市“康复”贡献力量
观察:转债退市后怎么办?深市明确了!首日涨跌幅不受限制,还有"退"标识,退市整理期15个交易日
高盛亚太区总裁施南德:五大主题给资管行业带来结构性变革,需重新设计投资组合
口袋妖怪增强绿宝石攻略 游戏攻略图文流程详细[多图]_视焦点讯
无法连接到internet但网络正常(无法连接到internet)
最美童星长大后惊艳全网!16岁时因“不够性感”被导演刷掉,她霸气怒怼:恶心的猪!-环球消息
环球看热讯:国家防总针对南方地区持续降雨启动防汛四级应急响应
天天热点!乌苏京东京喜代运营_打造乌苏京东京喜品牌的成功之路
他又来了!内马尔继续现场观战G4 赛前与好友巴特勒拥抱致意!|每日看点
全球快看点丨RK3588-MIPI屏幕调试笔记:RK3588-MIPI-DSI之LCD上电初始化时序
【天天播资讯】手机移动数据打不开某些网站_手机移动数据点不开
焦点速读:世体:卡塔尔球队展示兴趣,布斯克茨将推迟宣布新东家
环球观天下!金山云(03896)获副董事长兼代理首席执行官邹涛增持200万股公司股份
北京挂牌大兴西红门1宗预申请用地 起始价47亿元 天天即时看
焦点资讯:巨星农牧:
2022年度,公司仔猪阶段成活率在88%左右,育肥猪阶段成活率在87%左右
每日快播:闯荡视频赛道,守住“慢半拍”的老人,上海医学名家这样投身健康科普
魔术有意小威少,6号签+筹码换火箭4号签?班切罗想联手休城波皇|今日播报
天天讯息:数据仓库与数据库的区别联系(数据仓库与数据库的区别)
高考英语考试结束 考生:题型反套路 “李华”再见! 环球今日讯
Copyright © 2015-2022 现在律师网版权所有 备案号:粤ICP备18023326号-5 联系邮箱:855 729 8@qq.com