第85章 学习强化学习（1 / 2）
请关闭浏览器的阅读/畅读/小说模式并且关闭广告屏蔽过滤功能，避免出现内容无法显示或者段落错乱。
窗外的深圳湾在晨光中泛着细碎的金光，林晨却无暇欣赏。书房的窗帘拉上了一半，三块屏幕亮着，映着他专注的脸。距离上次黄金期货盈利已经过去一周，账户里的数字又往上跳了跳，稳定在七万八左右。短暂的喜悦过后，一种更深层的渴望在他心里滋长——现有的系统，本质上还是基于规则和传统机器学习模型（预测价格走势）的“半自动”系统。它聪明，但还不够“智慧”。
“如果能训练出一个真正懂得在复杂金融市场里‘生存’和‘狩猎’的智能体呢”？这个念头一旦冒出，就再也压不下去。
他点开收藏夹里标记已久的几篇论文和开源项目。《PygAtariwithDeepRertLearng》、《DeepRertLearngf》。强化学习（RertLearng,RL），这个让AI在游戏里从零开始击败人类冠军的技术，其核心思想深深吸引了他：智能体（Agent）通过与环境（Enviro）交互，根据行动（A）获得的奖励（Reward）来学习最优策略（Policy）。这不正是一个交易员在市场中摸索、试错、最终形成自己交易体系的抽象过程吗？
“把市场看作环境，把买卖操作看作行动，把盈亏看作奖励……”林晨喃喃自语，手指在键盘上无意识地敲击着。这个类比让他兴奋。传统的量化策略，往往是人类设计好规则（比如“金叉买，死叉卖”），或者用监督学习预测未来价格然后制定策略。而强化学习，是让AI自己从海量历史数据中探索，找出能最大化长期累积收益的“行为模式”。它可能发现人类根本想不到的微妙特征和时机。
但兴奋很快被现实的复杂性冲淡。金融市场的“环境”极其复杂、非稳态、充满噪声，奖励信号（盈亏）稀疏且延迟，还存在高昂的“试错成本”（真金白银的亏损）。这比Atari游戏里控制一个小方块吃豆子难了无数个数量级。
“先从概念和经典算法啃起”。林晨定了定神，打开了Notion笔记，新建了一个页面，标题写上“强化学习入坑笔记（量化交易视角）”。
他给自己规划了三天的基础理论学习。第一天，搞懂马尔可夫决策过程（MDP）、价值函数（VaeFun）、策略梯度（PolicyGradient）这些核心概念。厚厚的PRML（PatterionandMaeLearng）书和相关博客文章成了他主要的精神食粮。三十五岁的大脑重新像海绵一样吸收这些略显抽象的数理知识，有时一个公式要推导好几遍，在草稿纸上写满才豁然开朗。
“状态（State）、动作（A）、奖励（Reward）、策略（Policy）……”他像念经一样重复着这些术语，试图将它们烙印在思维里。理解到一定程度后，他开始尝试用Python写一些最简单的模拟环境，比如一个简化的“股票赌大小”游戏，来验证最基本的Q-learng算法。
第二天和第三天，他集中火力攻克两个当下最主流的深度强化学习算法：DQN（DeepQ-work）和PPO（ProxialPoliization）。
DQN算是深度强化学习的开山之作之一，用深度神经网络来近似Q值函数（评估在某个状态下采取某个动作的长期价值）。林晨仔细研究了其核心技巧：经验回放（ExperienceRepy）和目标网络（Targetwork）。经验回放就是把智能体与环境交互的经历（状态、动作、奖励、新状态）存储起来，然后随机抽样进行训练，打破数据间的相关性，提高稳定性。目标网络则是单独用一个更新较慢的网络来提供Q值目标，缓解训练震荡。
“这思路妙啊”，林晨看着代码实现，忍不住赞叹，“就像人不能只盯着最近一笔交易的得失，要时不时回顾总结过去的各种交易情况（经验回放）。也不能因为今天赚了点就立刻飘了，得有个相对稳定的自我评价基准（目标网络）”。
而PPO则属于策略梯度家族，直接优化策略函数本身。它通过一个“裁剪”技巧，限制每次策略更新的幅度，确保训练更加稳定。林晨发现，PPO在连续动作空间（比如决定买卖多少比例仓位）或者更复杂的策略建模上往往比DQN更有优势。
“DQN更像是在学习‘在什么情况下做什么动作最好’的查表，而PPO是在学习一套‘行为准则’本身”。他尝试用自己理解的语言总结。
理论学习告一段落，林晨摩拳擦掌，准备动手将RL融入他的投资系统。这才是真正的挑战。
他首先需要定义“环境”。他选取了A股市场某只流动性较好的ETF（交易所交易基金）的分钟级历史数据，时间跨度三年。环境的状态（State）设计为过去N分钟的价格序列、成交量、以及一些技术指标（如RSI、MACD）的向量。动作（A）简化为三个：买入（全仓）、卖出（清仓）、持有。奖励（Reward）则定义为每次动作转换后持仓市值的变化率（考虑手续费）。
接着是构建智能体。他决定先用相对简单的DQN试试水。在PyTorch框架下，他搭建了一个包含几层全连接网络的Q网络，输入是状态向量，输出是三个动作对应的Q值。
↑返回顶部↑