ViT论文逐段精读【论文精读】
Рет қаралды 47,961
2 жыл бұрын更多论文：github.com/mli/paper-reading
@louisyuliu7200 Жыл бұрын
感谢老师精彩的讲解和清楚的分析！
@xuzhang2431 2 жыл бұрын
讲得太棒了！非常感谢！！
@chrischen6 9 ай бұрын
謝謝老師講解 非常清楚 很受用
@user-wv5dc3ut9o Жыл бұрын
感謝大神細心講解
@twyunghui 2 жыл бұрын
謝謝 講解得非常清楚
@pantan4206 2 жыл бұрын
感谢老师！B站看完了来这里再来点赞
@user-wm1yb3zi9x 11 ай бұрын
这个哥们讲的内容很喜欢！👍
@Rocky-px8jg 2 жыл бұрын
谢谢作者分享！
@morningstar618z8 Жыл бұрын
讲得太好了，清晰明了，幽默风趣，全程无尿点！
@geesehoward8838 Жыл бұрын
讲得太仔细了，非常感谢！！
@lionhuang9209 2 жыл бұрын
谢谢讲解！
@zeweichu550 Жыл бұрын
讲得非常好👍学习了
@huangjames8130 Жыл бұрын
所以長話短說 先用CNN(或其他方法）得到足夠小的feature map，再用transformer跑
@Zhichaodeng2023 9 ай бұрын
讲的很清透！点赞
@yifanbai3072 2 жыл бұрын
Zhu老师讲的很棒，感谢
@nicolezhao9597 Жыл бұрын
请问老师叫什么名字？
@lionhuang9209 2 жыл бұрын
Great presentation!
@muyuanliu3175 4 ай бұрын
讲的真的好
@yafengyang1099 Жыл бұрын
讲的太好了
@zhanlucas935 2 жыл бұрын
感谢感谢！！！
@xyh6552 6 ай бұрын
cnn和transformer基本上是同一件事情，只不过cnn更先进在特征就是tags，trasformer先进在不用一个单位一个单位滑动，但是实际上特征层和tags是一件事情的话特征层比tags的attention内积更高效，这类似于用所有basis和前几个特征函数近似，trasformer低效在要标注和attention本身，高效在不需要一个单位一个单位摞
@mingzhaochina Жыл бұрын
真棒！
@alphaprofold5707 2 жыл бұрын
来龙去脉，前因后果， 讲的太好了
@user-dq1en7zd8r Жыл бұрын
怎么找不到 老师的 VITS 解读了呢？
@incameet Жыл бұрын
What is the name of the speaker?
@tedmsxu Жыл бұрын
这个人的水平至少是国内优青水平～！
@baijiu_yaya 7 ай бұрын
44:15处，应该是√d而不是d/2
@grhaonan 11 ай бұрын
Transformer base 的head 数目好像是8吧
@user-dv4su5jw8n Жыл бұрын
哈哈
@liqiushui2427 Жыл бұрын
44分30秒不应该是根号D嘛
@xufenghu3063 2 жыл бұрын
嘿嘿 来了
@xyh6552 6 ай бұрын
消融实验结果差不多是因为加是完全不对的，加所带来的特征在动力系统里面全都平均掉了
@xyh6552 6 ай бұрын
位置信息如何加进去是个编码问题，要尽可能的保证信息无损的同时占用空间小，f（attention（x），position）应该比直接把位置信息加在x里面好
@x7lwavuj976 2 жыл бұрын
老師整容了？
@albertwang5974 2 жыл бұрын
这是另外一个人！
@nicolezhao9597 Жыл бұрын
请问老师叫什么名字？
@user-lp2lu2ms8o 10 ай бұрын
為什麼是224/16=14 然後input = 14*14 為何不是input = 16*16 input 是一個一個patch 的意思嗎?
@huachengli1786 7 ай бұрын
我的理解和你一样。一张图类比一句话。所以一个patch类比于一个词。如果word embedding 是512， 那ViT里对应的就是16x16。
@huachengli1786 7 ай бұрын
你理解的是对的，所以文章标题是 An Image is Worth 16x16 words🤣
@user-lp2lu2ms8o 7 ай бұрын
@@huachengli1786 哈哈我還沒有發現
@dayeye2011 4 ай бұрын
这位帅哥是谁？
@jinhuizhang702 2 жыл бұрын
沐神呢
@hailuyin9915 Жыл бұрын
大神
@jeffreyhao1343 2 жыл бұрын
------------------------------- Pretty good, done. -------------------------------
@jeffreyhao1343 2 жыл бұрын
ViT-FRCNN and SETR
@jeffreyhao1343 2 жыл бұрын
Transformer论文逐段精读: kzfaq.info/get/bejne/pOChn6l6yKm3h4U.html
ОВР Шоу
Рет қаралды 8 МЛН