Twitxy Saved

Yue Zhao

Verified account This account is verified. Learn more

@yzhao010

Assistant Professor @CSatUSC · Auditable AI Systems: securing and auditing AI agents · Creator of PyOD (60M+ downloads) · 小红书 & 知乎 @微调
33 Following 410 Followers 28 Posts

Latest posts 5

Yue Zhao Verified account @yzhao010
为什么「延迟兑现」在 #学术界 如此珍贵?

因为大部分人没有等待的资本。比如你 12 月 15 号要申请 phd,你需要论文,你需要在项目里做出一些 progress 来让 PI 给你写出强推。而精品需要时间,你只能先做一些过得去的东西(注意此处的限定是一个正经 work 而不是纯 slop),拿到 offer 再徐徐图之。

对于已经有了 3 篇、5 篇、10 篇(所谓)top 论文的人来说,在旁边说别水,其实就是跟富家子弟说“人生有很多容错”是一个道理,何必如此着急。前一阵子的慢科研倡议为什么被大家诟病?因为这就跟发达国家要求发展中国家承担更多节能减排任务一样。

当我逐渐到了都能理解的年纪和阶段的时候,我不会一刀切的对大家说别水 paper,因为很多人解决的生存问题。但我的倡议更多只是,吃饱了以后别养成快餐的习惯,做点至少感兴趣的东西,不那么功利的东西。

换句话说,当大家有了一些论文、impact 以后,有了容错垫之后,如何选择才会决定你的高度。之前,我支持任何人先吃饱(但绝不许给大家喂屎)。
6 replies 4 reposts 93 likes 7.8K views View on X
Yue Zhao Verified account @yzhao010
从 100 引用 到 100 i-10 index,需要多久?

我的个人答案是 7 年。得到 100 citations 靠的是自己的努力科研,而有100 篇文章有 10 个引用,只是因为学生多了、合作多了、以及 #大模型 时代引用超发的结果。

写这个比较标题党的开头,主要是在想,一切 #大X理论 (无论是大粉、大 benchmark、大 author,etc.)的背后,核心的driver 就是 (1)在失去耐心时代,大家希望找到能获得注意力的途径 (2)在不知道现有评估核实失效时,希望能获得更多护城河(3)真没招了。

我申请博士的 2018 年,那会我是真的没有任何正经科研论文的,靠一个工具库也能打动导师的心。而那个时代,认真写一个工具库需要很大的精力,写一个社区会用会关注的工具库更是需要好好经营。和现在 AI vibe 一个不火,赶快去下一个 vibe 的时代已经大相径庭了。

很多年前我写知乎的时候,曾说过一个获得正反馈的方法就是去看看每个新 cite 我的人,看看他们怎么用了我的工作,无论是批评还是肯定。但现在这种微小的正反馈也已无意义,大概率是 LLM 选择了 cite 你的文章,而且甚至是驴头不对马嘴的 cite。

而文章数这个东西,随着你的职业生涯变化,就越来越不重要。在ai agent 的加持下,一个有 5-10 个博士生的组,老师的 20 篇 quota 算上 recycle 很快就到了,所以文章数量其实对于中、大组 PI 真的是无意义的事情了。所以组里人多,自然 paper 多,citations 高,是很难体现个人英雄主义的。

那如果你还在读 PhD,或者准备读,什么还有意义呢?我个人的经验是,回归到做点你自己想做的事情。

今年起,我开始了独立科研,就是不依赖任何学生的,和 agent 一起把自己想做的东西从 0 到 1 整出来。因为这些科研的 topic(主要是 agent auditing 和 ai auditing)是我真的想做的、感兴趣的,那就剥离了功利属性,我觉得很快乐。至少我站着说话不腰疼的说,做自己想做的方向,我内心是不着急的。

这也是我跟我们组学生说的,如果迷茫,你们就去做点至少自己觉得好玩的、感兴趣的,这也是为什么我们组学生做什么的都有,从传统 ai 安全,到 ai 道德、价值观,vlm 的空间视觉,decision model,大模型与用户偏好,还有很多。他们不需要做我想做的东西,我也有我自己想做的东西。

当大水漫灌,大 X 理论淹没一切的时候,我希望至少你能找到一些自己感兴趣的事情,不管火与不火,体会一段创造的快乐。

所以数字退去,大抵上留下的是虚空。真能留住的美好,是过程、是理想主义和个人兴趣探索的过程。
4 replies 1 reposts 42 likes 3.8K views View on X
Yue Zhao Verified account @yzhao010
为什么有人会找你合作论文?

#读博 阶段你最大的可能是开会的时候认识的小伙伴们,他们觉得你有知识能贡献到项目里。尤其是你老板是大牛的话,找你合作的人可能更多,因为他们希望你把老板也带上,走个面。

其实我自己是深刻体会过不在圈子里无人问津的感觉的。我读博前,搞得是独立 research,也没有任何合作的教授。去开过一两次会,真的是大家表面笑嘻嘻,但基本上也不带你玩。

后来我申请到了 博士,虽然还没入学,但是一报老板的名字,他们就叫我一起吃饭了,即便我还至少准 PhD。

这等现实的是世态炎凉给了我一个准则,不要看人下菜,开会的时候遇到谁就跟谁聊,跟谁玩。管他是天王老子还是萌新小朋友。

这个世界的神奇之处在于,我合作写出的第一批 NeurIPS(ADBench)的合作学生是知乎上认识的国内的小同学,之后我们一连搞了几次成功的合作。在没有 LLM 的旧时代,每篇文章其实都有一定的价值。

也可以说我的职业起步于愿意平等的对待每个人。毕竟没读博士前,我也体会过世态炎凉。
10 replies 21 reposts 431 likes 37K views View on X
Yue Zhao Verified account @yzhao010
Today, there might be a weird moment when everyone's #Outlook emails come in at roughly the same time, each with a notification sound.

I really hope I’m sitting in an office where my colleagues’ computers have the sound set to play out loud 🤡