最近的一周,真的有点辛苦的,不过很开心!
首先是复现了别人论文里的思路放到自己的模型中,发现不仅占用过多的训练时间,而且效果也不是特别好。
然后,自己就开始研究baseline中的公式推导,并且发现自己有了一些新的可做的想法,简单在code中修改了一下,发现效果没有变差,遂开始整理思路、准备coding。
所以剩下的时间就是一直在coding,没想到的是cuda代码中的反向传播需要自己实现——也算是弥补了当时机器学习课没有自己手动实现反向传播算法的遗憾!(有一说一,自己手动实现的时候发现反向传播没有那么简单也没有那么难——很佩服pytorch的自动微分机制,给我们省去了好多时间。
另外,昨天在摸鱼的时候,发现了CVPR上有一篇针对神经辐射场MLP优化的论文,感觉可以加在自己模型这里,能混个Ablation。
突然感觉大学三年也学了不少有意思的东西,比如编译原理解答了我刚进入这个专业的问题——怎么把文本转化成计算机自己的语言;操作系统告诉我那些人是怎么利用底层语言编写一个庞然大物;计算机网络告诉我怎么利用各种算法和数据结构使得计算机之间可以互相交流,什么是网络边缘...
虽然我之前一直觉得我的专业学不到太多数理知识,比如信号处理什么的;但我突然觉得,这些人造的学科,其实也非常美妙。
好几天都没写了。
最近发生了什么呢?
首先就是我最近有点思而不学,有些怠。
其次就是我发现nerfstudio还挺不错的一个框架。
昨天其实已经对于自己做的课题有点迷茫了。
然而,今天重新看了一下之前没好好读的文章,突然感觉又有点信心了。
希望能通过自己的思考创造点新的东西,缝合怪也好、垃圾也好。
我将尝试在这里记一些想法!