CMU Wind-Down

突然发现自己已经整整一年没有写 blog 了（偷懒.jpg），正好现在开完 NeurIPS 在温哥华机场等回国的飞机，来记录一下流水账。这一年学年感觉过的很没有实感，日常翘课，主要 focus 在做 research 和摆烂。不过确实感觉收获了很多，总的来说很满意。

课业

24 Spring 上了大名鼎鼎的 CSAPP 和 LTI 新开的 LLMSys，24 Fall 上了 ECE 的著名水课 CV，顺便还 TA 了 intro2dl 和 intro2ml。这里就不讲 CV 那门课了，基本上没咋学就可以混过去了，可以说是 ECE 著名的大水课之一了。

CSAPP 号称 CMU 的镇校之课，本课的 Lab 质量确实没得说，infra 相当之完善。CSAPP 的考察内容确实比较基础，适合低年级入门 system。所以虽然平时不去上课，但是看看书本和 writeup 也能很快的写完 Lab。期末考试卷子题目感觉也是有一定 pattern 的，刷了几套往年的卷子 overift 一下题型就能考得还算不错。

LLMSys 是今年新开的，是字节 AI Lab 的 Founding Director Lei Li 教的。本来我是对这门课 expectation 很高的，但是可能是因为第一年确实 infra 不够完善，Lab 还有一些 bug，而且整个后半学期就是学生分小组 presentation paper，感觉学到的东西没有想象的多 (也有可能是我对这门课期待值太高了)。

关于助教，整体来说 TA 的工作量是非常轻松的，一般来说负责每周 2 小时 office hour (OH) + 改作业，有时候负责一下 teach（不过对于 master TA 来说，一学期可能都不一定有机会 teach 一次，对于本社恐来说还是很不错的）。这个工作量其实和明面上所谓的 10 小时是有出入的，大概是因为 CMU 一门课有很多 TA。

科研

在这一年里，主要的任务就是做 research了。上半年的一个 milestone 主要是把 TriForce 给做完了，下半年 part-time 字节实习，把暑假没做完的 ShadowKV wrap up了，中间还夹了一个 Speculative Rejection。这里主要说一下付出时间比较多的两个 MLSys 的 work。

我对 TriForce 是有一定情节的，因为这不仅是我在 MLSys 的第一个工作，还是我科研生涯中第一个让自己满意的工作。这个工作对于我来说无疑是非常重要的，给了自己一个及时的正反馈，同时还让自己可以说入门 MLSys 了，也对这个领域的工作有一个基础的 taste，非常感谢教授和 co-author 们。

如果说在 TriForce 中我受到了组里老师和 PhD 的很多帮助，那么暑假在字节做 ShadowKV 的时候就比较独立了，基本上两周和 Prof. Beidi Chen 开一次会。因为我在 Seed-Foundation-MLSys 组里实习，懂算法的人其实不是特别多，大家都主要 focus 在 system side。但是现在看起来其实反倒是个好处，因为这个 project 还是需要非常 efficient 的 CUDA kernel 的，我自己一个人肯定写不了，这里再感谢一下 supportive 的 mentor 和非常厉害的同事们。

今天开了两次会，COLM 和 NeurIPS，感受还挺不一样。COLM 因为是第一届，会场直接定在了 UPenn 的一个展览厅，巨小。好处就是想和谁聊天不用特别仔细去找，整个会场走一圈也就五分钟不到；坏处就是人挤人，讲解 Poster 的 workload 也十分大。相比之下，NeurIPS 的会场就大得多，其单独一个 West 展厅就大了很多倍，各种企业的 Booth 也搞的很不错。在 NeurIPS 面基了很多网友和做 MLSys 的小伙伴，还挺开心的。不过温哥华这几天一直在下雨，原本旅游的心情都没有了，在酒店躺着摆烂。

实习

拿到字节 internship offer 的过程也非常神奇。本来我是没准备找工业界 internship 的，都准备好暑假一直留在匹兹堡做 research 了。但是因为 TriForce 的 arXiv，4/25 HR 主动 reachout 了我。随后立刻约了 5/13 下午连面两轮，第二天就下了 offer，六月初直接到西雅图开始实习。因为时间很紧，所以我在小红书上 random 找了一个 UW 附近的房子短租，结果导致每天上下班坐公交来回得快两个小时 😭，堪称地狱级别的折磨。

在西雅图 ByteDance 做 research intern 的体验可以说是非常不错了。每天的任务很简单纯粹，看看 paper，写写 code，思考 project 该怎么做。实习的小伙伴们也非常不错，一起在西雅图周边玩了很多次！西雅图的夏天很好，有着恰到好处的温度和好看的风景。UW 的校园比 CMU 的校园要大上很多，植被也很丰富，可以在里面散步。

Pre-OPT: 暑期 Internship Extension

由于字节的暑期 project 还没做完，所以延期了一下。比较抽象的是，CMU 不给 CPT，所以只能选择申请 pre-OPT，申请费 + 加急 PP 血亏 2500 刀。所幸处理很快，两周内就拿到 EAD 卡了。

Post-OPT: 毕业

因为年底要从 CMU 毕业，还得重新 file 一遍 post-OPT。本来还准备和上次一样花钱 PP，但发现最近处理都很快，于是就不 PP 了，一个月不到拿到卡。

生活

匹村的生活大体上还是比较枯燥的，有意思的事情不是很多。随便放三张图，第一张是第一次体验 Vision Pro，感觉全程是咧着嘴体验完的，非常有新鲜感。

这两张是 CMU 官方举办的漫展 ScottyCon，这个命名也颇有意思（Scotty 是 CMU 的吉祥物苏格兰狗）。

Farewell to CMU

一年半转瞬即逝，现在回头看起来，来到 CMU 是一个没有让我后悔的选择。在匹兹堡的最后一天本来想去学校的 bookstore 买点小纪念品带回国，但是还是因为太懒忘了去买，不知道下次再来 CMU 是什么时候了 :-)。