我在Amazon做了3年SDE,在一家公司呆3年是什么感觉?
越来越没有最开始的热情和创造性了,每天觉得自己像个机器,做着重复无聊的工作。当我逐渐意识到AI带来的机遇,看多了码农被AI替代的传言时,我突发奇想,为什么那个不被替代的人不能是我?特别是看到大语言模型的蓬勃发展,我决定转行!
和MLE距离一万步
GO VALLEY
OFFER
那我还要走9999步!
虽然平时也会关注并学习一些AI论文和项目,但一些深层的理论知识,始终难以理解。而且我很有自知之明,缺少相关实战经验,学历背景不够闪亮的我想进入MLE比登天还难,于是决定找专业的人一起试试!
不试一下永远也不知道自己差在哪。
"同学,你在Amazon积累的分布式系统经验不错,但要转MLE,特别是NLP方向,还需要在深度学习和模型优化上下功夫!" —M导师
这是我和直通硅谷M老师第一次沟通时他对我说的话,这一次meeting让我知道,如果说我和MLE的距离是一万步,那么我还需走9999步!
想转行?不知道从哪里开始?机会在这里👇
现在扫码,免费和大厂导师来一次深度meeting!受益颇多!
以前的Amazon经验
GO VALLEY
OFFER
全都用上了!
"你现在的技术栈主要集中在后端开发和分布式系统上,这些其实是很好的基础。但要转到MLE,还需要把这些经验和深度学习的前沿技术结合起来。" —M导师
在详细了解我的背景后,加上我的基础还可以,导师为我量身制定了一个为期6个月的转型计划~
✅前3个月:基础铺垫—主要补充MLE的理论基础。
✅第4、5个月:背景提升—简历中缺少MLE相关项目,需要进行项目实战。
✅最后一个月则把所有精力集中到面试准备上!
顺带提一下,课程制定特别灵活,可以随时根据我的时间修改,毕竟我还是个在职牛马,没有太多时间用来上课。
在进行为期几个月的MLE基础理论铺垫后,M老师说现在的我完全可以和他上手项目了!
就这样,我们开始做多模态大语言模型优化与部署的项目,能感受到M老师对ML领域的理解很深,刚开始做项目还跟不上思路,M老师不厌其烦讲解。
“这么做下来,既能用到你的分布式系统经验,又能展示深度学习的专业能力。”
项目初期我就遇到了第一个挑战:如何在保证模型性能的同时提升推理速度?
求助后,M老师带我深入研究了各种优化技术,当我成功将推理速度提升了3.5倍时,老师说现在还不能高兴太早。
老师带我进一步考虑分布式场景,把我在Amazon积累的经验都用上了,这样做既能不浪费以往的经验,还加入创新,要不说还得是大厂出来的,专业!
后续优化项目时,又带我设计了一个适应性分片策略,利用DeepSpeed和FSDP在AWS和Azure集群上实现高效的多GPU训练。
在此过程中,老师还不断提醒我注意细节:在分布式环境中,模型分片策略直接影响到整体性能,要考虑到网络带宽、显存使用等多个因素!看看我的项目成果👇~
迟迟拿不到面试?也许你和大厂的距离只差一个项目!扫码加入1V1定制计划,手把手带做项目,全面提升背景!
也许面试官更关心的是
GO VALLEY
OFFER
为什么这么做?
陆陆续续收到很多中小公司的面试,很多小公司准备起来没头绪,教务老师就帮我搜寻面试官消息、整理高频题目,后续面试的发挥也是有好有坏,直到我拿到了Google的面试!
一点不夸张,刚收到消息的时候还挺紧张的,毕竟是转行后拿的第一个大厂面邀。最后还是教务老师push最近的进展,我才想起来告诉他们这个消息。
收到一波恭喜后,M老师找到我,进行了一次模拟面试。猝不及防的mock让我什么都来不及准备,面试漏洞百出。不过老师安慰我,这是好事,把踩坑都留在练习场,及时找出问题才能规避掉。
mock中老师对我的问题重点分析,并教我面对一些问题时,该怎么回答。
我也终于了解到,在项目后期,老师带我着重优化模型服务架构,教我如何使用gRPC和FastAPI构建API层,通过Triton Inference Server实现高效模型服务的用意,为了让一切都有迹可循!
因为在面试中,面试官不仅关心你做了什么,更关心你为什么这么做,每个技术选择背后都要有充分的理由。
经过这次mock,我自信心明显提升。在Google的面试中,当我说到【如何通过模型量化和分布式推理优化性能时】,明显感觉到面试官眼前一亮!
你提到使用LoRA进行模型微调,能详细说说为什么选择这个方案吗?
我自信地解释了如何在资源受限的情况下平衡模型性能和训练效率,以及如何通过A/B测试验证优化效果。面试官频频点头,这让我更加确信项目经验的价值。
五轮面试下来,感觉比想象中的顺利。没过多久就收到了Google MLE的OFFER,到现在我还是不太敢相信,就这么,转型成功了?
想转行
GO VALLEY
OFFER
就要少走弯路!
回顾这段经历,如果没有直通硅谷,靠我个人的力量很难转型成功。因此也想给同样转型的朋友一些建议:专业导师很重要,真的能帮你少走弯路!
从路线规划到基础理论铺垫,从项目架构设计到性能优化,从模拟训练到实战应用,直通硅谷带我走的每一步都至关重要。
如果你也在考虑转型MLE,不妨先和专业导师聊聊,找准自己的优势和突破口,相信通过正确的规划和努力,你也一定能实现自己的目标!
Hi,我们是直通硅谷!
我们专注于全球科技行业求职培训,心之所向,是壮大全球华人科技力量。凭借实战中积累的丰富经验,及由1300+全球科技公司在职面试官组成的导师库,我们让求职这件事成为系统的科学,并变得越来越简单!
自2015年,直通硅谷独家秋招计划已帮助8000+学员成功进入全球头部科技公司!
你只需要一个
ALLinONE计划
进入全球头部科技公司