你想说什么?
我想说——你那个模型,能不能用在仓库管理上?不是预测销售额,是预测库存需求。根据过去的出库数据,预测未来一个月每种货需要多少。这样老板订货的时候就有依据了——不是凭经验,是凭数据。
林晨看着老马。老马说不是凭经验,是凭数据的时候,眼睛是亮的。他不是在问一个技术问题,他是在想怎么用AI解决他做了十年的仓库管理问题。他做了十年仓管,他知道仓库里最大的痛点是什么。现在他学了AI,他开始想——能不能用AI解决这个痛点。
林晨说,而且比你想象的简单。销售额预测和库存需求预测,本质上是同一个问题——根据历史数据预测未来。你把销售额出库量天气季节节假日促销活动。模型不用变,变的是数据。
老马愣了一下。这么简单?
思路简单。但做起来不简单——数据要收集、特征要设计、模型要调优。但思路是对的。你回去之后,可以试着做一个demo——用你以前在仓库里的数据,训练一个库存需求预测模型。做出来了,我帮你看。
老马点了一下头。他转身要走,又停住了。
林老师。
我四十三岁了。学了三个星期的Python,连面向对象都还没搞明白。你觉得我能做出来吗?
林晨看着老马。老马的脸上有很深的皱纹——不是年纪大了才有的,是在仓库里搬了十年货搬出来的。他的手很粗糙——手指上有搬货磨出来的茧,指甲缝里有洗不掉的油污。他四十三岁,做了十年仓管,被裁了,来学AI。他连面向对象都还没搞明白,但他已经在想怎么用AI解决仓库管理的问题了。
你能。林晨说,因为你有一个别人没有的东西——你懂业务。你做了十年仓管,你知道仓库里最大的痛点是什么。AI工程师可以帮你写代码,但他们不知道仓库里有什么痛点。你知道。这就是你的优势。
老马沉默了几秒。然后他点了一下头,转身走了。他的背影在走廊里越来越小,但他的脚步很稳——不是那种我一定要成功的稳,是那种我知道我要做什么的稳。
第四周,林晨又讲了一堂课——大模型应用实战。
这门课本该由吴敏讲,但林晨把它拿过来了。不是不信任吴敏——吴敏的NLP课讲得非常好。是大模型这个方向太新了,新到每个月都有新的突破。林晨想亲自讲——因为他自己也在学,在用的过程中学。他想把最新的东西教给学员,而不是教三个月前的东西。
今天讲大模型。林晨站在讲台上。大模型是2023年之后AI领域最大的变革。ChatGPT、文心一言、通义千问——这些你们应该都听过。但今天不讲怎么用大模型——怎么用ChatGPT写文案,怎么用文心一言写代码。那些你们自己就会。今天讲怎么训练大模型——怎么在垂直领域做微调。
他在电子屏幕上打开了一个Colab笔记本。
我们以金融领域为例。假设你有一家证券公司,每天要分析几百份研报。研报很长——一份研报几十页,分析师看完要半小时。能不能用大模型自动分析研报?能。但通用大模型不懂金融术语——它不知道MACD金叉是什么意思,不知道头肩顶是什么形态。所以需要微调——用金融领域的数据,在通用大模型的基础上做二次训练。
他打开了一个数据集——一万份金融研报,每份都标注了关键信息:公司名称、行业、评级、目标价、核心观点。
这个数据集是我自己做的。去年我用爬虫爬了公开的研报数据,然后让实习生标注。标了一万份,花了三个月。数据质量是微调的关键——垃圾数据训练出垃圾模型。
他开始写代码。用LLaMA的开源权重做基座模型,用LoRA做高效微调——不需要训练整个模型,只需要训练一小部分参数。训练过程在云GPU上跑,大概需要两个小时。
训练需要两个小时。我们不等了——我直接给大家看训练好的模型。
他加载了微调好的模型,输入了一份研报的文本。模型在十秒钟内输出了分析结果——公司名称、行业、评级、目标价、核心观点。每一项都准确无误。
这个模型现在在晨枫的投资系统里跑。每天早上,它自动分析最新的研报,把关键信息提取出来,供投资决策参考。它不能替代分析师——但它能把分析师从读研报这件事里解放出来,让分析师去做更有价值的事。
小主,
台下有人举手。林老师,微调一个大模型需要多少成本?
看你微调多大的模型。LLaMA-7B——七十亿参数——用LoRA微调,一块A100显卡,大概两百块钱的算力。如果是LLaMA-70B——七百亿参数——需要八块A100,大概两千块钱。对于企业来说,这个成本可以忽略不计。
那为什么很多企业还没用上大模型?
因为不知道能用来做什么。林晨说,技术不是瓶颈,想象力才是。企业里有很多重复性的文字工作——写报告、回邮件、整理文档、分析数据。这些工作都可以用大模型辅助。但大部分企业不知道大模型能做什么,也不知道怎么把大模型集成到现有的业务流程里。这就是你们的机会——你们学完之后,不是去找AI岗位,是去帮企业用AI。你们是桥梁。
第六周的时候,出了一个问题。
一个叫小彭的学员想退学。小彭二十六岁,之前在广州一家游戏公司做测试,月薪六千。他学AI是想转行做算法工程师。但他在第六周的机器学习阶段遇到了瓶颈——逻辑回归的代价函数他看了三遍没看懂,SVM的核函数他看了五遍还是懵的。他觉得自己学不会了。
张老师发现了他的异常——小彭连续两天没交作业,上课的时候坐在最后一排,低着头,不看屏幕。张老师把他叫到了办公室。