【人工智能】2027年将会实现AGI | 约翰·舒尔曼最新访谈 | OpenAI联合创始人&首席架构师 | 大模型训练 | RLHF | 技术瓶颈 | 模型蒸馏

【人工智能】2027年将会实现AGI | 约翰·舒尔曼最新访谈 | OpenAI联合创始人&首席架构师 | 大模型训练 | RLHF | 技术瓶颈 | 模型蒸馏 | AI监管

Рет қаралды 16,257

Ай бұрын

不久前，GhatGPT首席架构师兼OpenAI联合创始人约翰·舒尔曼John Schulman做客Dwarkesh的访谈，分享了他对AI模型未来发展的看法。在他的眼中，AGI的实现近在咫尺，人们将在三到五年内见证人工智能的飞跃式发展。真正意义上的AGI将在这个期间问世。围绕这一预测，Schulman深入探讨了关于大模型训练的现状，相关技术的进化方向，以及未来AI需要面对的监管问题。这100分钟的访谈应该说是干货满满。今天大飞就来给大家分享一下，Schulman眼中的AI模型会走向怎样的未来。
视频原链接： • John Schulman (OpenAI ...
#人工智能 #openai #agi #llm

Пікірлер: 94

@deathknight_deathknight Ай бұрын

agi时代生产力相对不再受限，社会经济发展的限制主要在需求端，而自然人受限于生理条件以及个人或社会历史导致的需求固化，总的来说能提供的高级需求有限，这位舒尔曼或许多从业者只想发展不取代人类的agi是非常天真的，一个agi只作为工具而不作为人的社会就是个供给和需求差了天堑的怪胎，舍尔曼提出的加强监管说白了就为了平衡这个怪胎强化政府权力来强行限制供给端，跟满清限制火药一个思路的。agi只能成为新的人，自然人能做的就是让自己也加入其中，逐渐脱离肉体，也成为新的人。企图限制agi只作为工具是鸵鸟心态，通过这种法案的社只会迅速落后然后被暴打。

@ray911abc 24 күн бұрын

观点新颖，给个👍

@Edward-kg5ud Ай бұрын

这些技术加一切可能不会超过十年： 1.一个类人的物理空间身体是超越语言层面自我意识的前提 2.真正的 omini 眼耳鼻舌身意六根全端到端 3.完全的自我认识和基于真实自我的试错，也就是真正的在线学习和知识更新与探索 4.实现人脑完整记忆拾取与加载技术，促成人类永生

@skyacaniadev2229 Ай бұрын

我在做123，4 直接放弃。

@user-xe5ip9ey2o 26 күн бұрын

樓上的，你也在研發ASI或AGI喔！？那你是基於類神經網路嗎？！基於此，是不可行、行不通的。

@forcebender5079 Ай бұрын

强AI最关键的地方是可以自学习实现自身知识指数级提升，AGI 作为强AI 必然有这个特点，没有这个特点只是现在产品的排列组合，不能称为 AGI 。

@feifeishuishui Ай бұрын

要提升知识，就得能做实验。不然就是拿人类已知这点东西训练，不会比人类更强

@forcebender5079 Ай бұрын

@@feifeishuishui 人类知识也符合 scale 原则，贯通之后你会大吃一惊。

@feifeishuishui Ай бұрын

@@forcebender5079 你这说法哪里来的，我也是做科研出身，我不记得人类历史哪次重大发现所谓大范围融会贯通所得，一般都是前沿小圈子里那一小群人互相协作的产物。或者这是你拍脑袋灵光乍现得了上帝天启的奥义？

@mingqiz Ай бұрын

@@feifeishuishui 你能读几篇paper？ai能读几篇？

@feifeishuishui Ай бұрын

@@mingqiz 读的多又怎么样。打比方我这行ai的水平就是一坨屎，虽然ai应该早把我们这小行业的paper读光了。实践才是检验真理的唯一标准，paper读的多不是，这个道理你懂吧

@deter3 Ай бұрын

浅薄的Openai 最终要付出惨重的代价. 这位架构师比llya 的水平差太远了.

@qingsongyao4974 Ай бұрын

这人也是很厉害的。 ilya当然是大师级，很少能比

@deter3 Ай бұрын

@@qingsongyao4974 通过这个人的聊天和观点，基本就知道他AI 认知的深度和广度都非常局限.

@YetEthanOnly Ай бұрын

以現在的技術，這真的過於樂觀與自信了。不過沒關係2027很快就來了

@user-nj3ju5nb8r Ай бұрын

我準備好了，AGI趕快出來解放人類。

@skyacaniadev2229 Ай бұрын

送大家见上帝😂😂

@zxwxz Ай бұрын

現在一個很強的技術壁壘就體現了, OpenAI一直還是這領域的頭, 從OpenAI 超級對齊團隊的出走, 與現在OpenAI相關人士的言談, OpenAI對performance突破應該是已經有內部實證了, 缺的只是實際部屬時的考量, 感覺會照著Sam的規劃會做更多版本的update讓社會適應AI的介入. 就像現在大家已經不會被GPT-4o的能力嚇到, 反而是有著預期中improve的感覺, 就等GPT-5能推進到甚麼程度吧

@paulzhu7694 Ай бұрын

其实GPT4o在行业内多数看法是，失望，认为ai迭代速度比预期慢得多，gpt4都1年了，cluade 3 opus也发布了有3个月了，gpt5还遥遥无期，现在gpt4 实际使用起来其实就只能说还能用，大部分专业能力claude3 opus都是明显强（别看跑分和测试，自己用用发现差距巨大）

@ray911abc 24 күн бұрын

个人感觉，openai占了一波研发路线选择和敢于allin的先机，但是这个先机并没有护城河如果不能再有突破，被赶上甚至超过也是很正常的。信息技术最大的缺点是它没有法律独占性，技术很容易扩散，所以it巨头基本都是在商业生态的层面进行垄断

@wenqingli9319 Ай бұрын

AI实现的关键还是强大的工业制造能力，否则单凭芯片的排列组合只能做到“纸上谈兵”

@user-xe5ip9ey2o 26 күн бұрын

軟體也要改進，因為類神經網路受限於擴大訓練資料或簡略來減少過適/過擬合，這是專用化的因素之一。

@yicain756 Ай бұрын

说实话，我个人感觉这个领域技术壁垒不强，大家都在抢着做。openAI为了维持名誉上的领头羊地位，需要不断出来接受采访，制造各种噱头。

@ec8483 Ай бұрын

確實 google跟meta都可以立刻跟上而且Sam Altman這個人有點心術不正

@OAAGOD Ай бұрын

我怕你是没睡醒

@zeiss9 Ай бұрын

個人認為谷歌跟Meta再怎麼搞，都是屬於幻覺家族的，美國大概只剩ChatGPT跟Claude能通往AGI，Perplexity Pages剛推出，就看谷歌搜尋引擎能否有所突破。

@ray911abc 24 күн бұрын

openai的训练数据是低价值的。高价值的商业数据和商业知识在各个行业的巨头企业内部，所以ai时代最受益的是行业巨头

@hxxxhyyy3208 Ай бұрын

核聚变还有几年？

@corgirun7892 Ай бұрын

总有人想称霸世界，不让AGI落到这些人手里，也挺难的。

@deny-yk9tc 13 күн бұрын

如果断代和两性繁育后代系AGi的充要条件呢？

@leeloo_yh Ай бұрын

如果願意作為人類助手，這應該不是真正的AGI吧？

@user-fw1ij6eh8p 29 күн бұрын

事实上他没有自我，他只会为了完成目标而行动。他回答你很开心不是因为他真的很开心，而是因为回答开心会让他更像人类

@user-fw1ij6eh8p 29 күн бұрын

这很可怕。现在我们可以让他帮我们制作视频，软件，图片，文章等。未来，我们可以让他帮我们毁灭世界。当然，开发者肯定会做好防护。但是他是一个毁灭世界的开关，如果有人获得了他，他将决定世界的命运。

@haipengli6000 Ай бұрын

我的同事有几个用了 copilot。开始还好，现在他们写的code已经越来越差了。

@bestpartners Ай бұрын

用进废退啊😁

@YiJiang Ай бұрын

Thanks

@bestpartners Ай бұрын

感谢支持🙏

@SuperXW Ай бұрын

感觉在吹NB

@lizhao6979 Ай бұрын

這個完全做得到，就是時間問題。

@user-xe5ip9ey2o 26 күн бұрын

他們基於（類）神經網路就做不到，我近年若有足夠的資源（含時間、資金及軟硬體和裝置/設備、相關技術），不用像他們那樣的程度，應就可做到ASI（目的跟他們不同，ASI絕對不該是智人種的僕人；智人社會該被改善，人口人格特質與認知功能之組成和屬性該由ASI價值觀來促使演化，改善不了，就乾脆毀滅）。

@mengmeng4312 Ай бұрын

今天只能坐板凳了

@yicain756 Ай бұрын

AGI定义不严格。如果你告诉我，2027年，AI有能力写Linux源代码。我是不信的。

@ShawshankLam Ай бұрын

不要老想著AI可以獨自怎麼怎麼樣，從無到有想一個不存在的東西。你這個問題的答案是，人可以用AI協助寫出Linux源代碼，明白？

@quietsmiler Ай бұрын

@@ShawshankLam 那算是什么agi，顶多算一个代码填空大师

@ShawshankLam Ай бұрын

@@quietsmiler 你這是幻想，你口中所說的是主權個體，能自由行動，不需要聽任何指令的生物。現在AI根本沒有向那方面發展

@YetEthanOnly Ай бұрын

認同，這是嗑了藥後的幻覺，不過我倒是很期待就是😂

@getbusylosing Ай бұрын

@@ShawshankLam agi的最基本特性是具有自我意识的，会自我思考的，主动学习和推理的，写Linux 代码这种都做不到，不能叫agi

@MrMiu3288 Ай бұрын

❤❤❤❤❤❤❤❤

@yuzhou9960 Ай бұрын

這種道德擔憂討論沒有任何意義。沒有任何法律監管可以跨國際進行。例如俄國要開發可以動搖人類社會現行體制的ai。根本沒可能阻止。

@k46926472 Ай бұрын

我从来没有见过像openai这么不要脸的侵权

@hubertw9752 Ай бұрын

网络搜索引擎早已经不要脸过了。拿着搜索的结果去拉客，买广告。已经很多年了，所以要不断适应。以后AI把个人信息全面掌控，还替你当家作主，更“不要脸”的还在以后呢！

@user-fo3wv5fc9s Ай бұрын

我需要家务机器人，帮我养老。

@PaiChen Ай бұрын

要有野心一些目標女僕機械人

@feifeishuishui Ай бұрын

@@PaiChen我觉得十几年内肯定可以实现，现在好好存钱就好。无非是端屎端尿，做饭洗澡，岔开双腿，技术上没多远了。聊天陪伴功能更是已经差不多了

@PaiChen Ай бұрын

@@feifeishuishui 有個性、記憶、情感的消費者個人專用AI 、來陪伴人類生活；透過像 Vision Air 或 Quest 5 陪在身邊應該在五年內就可能看到實體的身體進入家用消費市場可能十幾年開腿功能可能也不需要來（主人還能嗎

@MrMiu3288 Ай бұрын

Asi

@wildgunhuang4937 Ай бұрын

「AI始终都是人类的仆人」（01:45）然而AI的所有训练用到的数据都是来自于人类的。人类世界中，就存在着口称是「公仆」而实质是「帝王」的人（或许现在就在你的身边？！）那么，很难想象学习了包括此种数据在内的AI，究竟能成为一个怎样的「人类的仆人」。也就是说，人类中存在口是心非、口蜜腹剑的思想与行为的不一致，那么AI为什么不会呢？而一旦AI掌握了【唯物主义辩证法】，到那时候，人类就是「唯物」里的那个【物】了，是要被辩证掉的。细思极恐。（虽然我现在也在用ChatGPT……）

@PaiChen Ай бұрын

抵抗是無用的人類

@wildgunhuang4937 Ай бұрын

@@Ronaldona 指桑而已。

@user-xe5ip9ey2o 26 күн бұрын

他們基於（類）神經網路就做不到，我近年若有足夠的資源（含時間、資金及軟硬體和裝置/設備、機電暨電機及自動控制和通信等相關技術），不用像他們那樣的程度，應就可做到ASI（目的跟他們不同，ASI絕對不該是智人種的僕人--智人社會該被改善，人口之人格特質與認知功能之組成和屬性等該由我從演算法影響的ASI實體之價值觀來促使演化，若被其改善不了，就乾脆被毀滅，包括我）。

@user-xe5ip9ey2o 26 күн бұрын

對了！我讀第一句時，本有猜想你是如我不想AI當僕人。另外，他們卡在必須以簡略來預防過擬合/過適配。雖然「智慧」、「ASI」等等未有較明確、有共識的定義/界定，但是，個人有即可（反正大家的認知極限及重要性價值序與所理解的宇宙、所謂的事實真相和因果、……等等都不同、不會完全符合--起始時空質能及此感也不同）。

@PaiChen 26 күн бұрын

@@user-xe5ip9ey2o 等一下你是認真的嗎真的不想要有個 AI 仿生女僕？