简介
凯翔是虾皮 LLM 基座团队创始成员,参与从头训练 7B、13B、MoE、Max、Thinker 系列自研 LLM 基座模型,模型的东南亚语言和电商指标居前列。目前主要负责强化学习、长上下文扩展和多轮工具 Agent。曾全程参与建设 LLM 基座训练流程,涉及数据、框架、预训练、对齐、评测等全流程。此前负责搜索团队内的 query 类目分类项目。
凯翔曾经负责微众银行多个产品的智能客服系统,例如微粒贷、微业贷、微车贷等。
凯翔于 2018 年在香港科技大学计算机系杨强教授指导下获得博士学位,本科毕业于中山大学计算机系。他在 SIGKDD、IJCAI、AAAI 等顶级人工智能会议发表了论文,并担任 AAAI、IJCAI 和 ACML 等会议的审稿人。
凯翔的团队获得了 2012 年诺基亚移动数据大赛用户属性预测任务的世界冠军。
研究兴趣
大语言模型,强化学习,长上下文,工具 Agent,对话系统,迁移学习
工作经验
-
虾皮 Shopee,大语言模型团队、搜索和推荐团队,算法专家工程师 | 2021 年至今
-
2023 年 10 月至今。参与训练虾皮 7B、13B、MoE、Max、Thinker 系列自研模型,主要负责强化学习、长上下文扩展和多轮工具 Agent。
-
2023 年 3 月至 10 月。负责搭建迭代了基于开源基座的指令遵循模型 v0.3、v0.4、v0.5,协调并参与了东南亚语言词表扩展、数据准备、训练框架调研改进、训练、长文本扩展、评测等环节。搭建了公司第一个大语言模型评测系统:除标准 benchmark 外,还针对公司场景搭建了自己的测试集合,从 8 个不同维度衡量模型问答性能;构建了内部东南亚语言性能 benchmark;构建了 MMLU 东南亚版本。最终模型对公司内的应用场景达到了一流水平。
-
2021 年 9 月至 2023 年 3 月。搜索关键词类目相关性项目。根据 bad case 定位了搜索类目里的主配件问题,发现人工标注有很多错误标注,对此提出了一个伪标注方法,提升了数据的数量和质量,Bad case rate -2.5%、OPU +0.28%、CTR +1.67%。此外从 0 搭建改进了波兰等新国家的类目相关性模型。
-
-
微众银行,AI 项目组,高级研究员 | 2018 年至 2021 年
负责微众银行智能客服系统技术和算法研发,该系统 24 小时支持微众银行的各个产品,例如微粒贷、微业贷、微车贷等,90% 以上的消息由智能客服自动回复,减少了人工坐席 90% 的工作量。同时负责微众银行 SaaS 云上智能客服系统的技术和算法开发,该系统服务包括长虹电器、上饶银行、宝生村镇银行等第三方合作伙伴。
带领团队竞标、设计、实施并交付了多个智能客服系统项目,包括中国人民银行清算总中心接入组智能客服项目、深圳金融办智能信访助手项目、前海金融办智能信访助手项目等。
-
腾讯 TEG,广点通智能广告平台,实习生 | 2014 年
利用图片特征改进提升广告冷启动推荐算法性能。
教育经历
-
香港科技大学,计算机系博士学位 | 2011 年至 2018 年
导师:杨强教授
博士论文:《任务型对话系统中的强化迁移学习》
诺基亚移动数据挑战赛,世界冠军,2012
-
中山大学,计算机科学与技术学士学位 | 2007 年至 2011 年
国家奖学金(前 1%),2008、2009
一等奖学金(前 5%),2008、2009、2010
论文
-
Shopee LLM Team, Each Prompt Matters: Scaling Reinforcement Learning Without Wasting Rollouts on Hundred-Billion-Scale MoE, Arxiv Preprint, 2025. [Link]
-
Kaixiang Mo, Yuxin Shi, Weiwei Weng, Zhiqiang Zhou, Shuman Liu, Haibo Zhang, Anxiang Zeng, Mid-Training of Large Language Models: A Survey, Arxiv Preprint, 2025. [Link]
-
Shopee LLM Team, Compass-v3: Scaling Domain-Specific LLMs for Multilingual E-Commerce in Southeast Asia, Arxiv Preprint, 2025. [Link]
-
Anxiang Zeng, Haibo Zhang, Kaixiang Mo, Long Zhang, Shuman Liu, Yanhui Huang, Yawen Liu, Yuepeng Sheng, Yuwei Huang, Compass-Thinker-7B Technical Report, Arxiv Preprint, 2025. [Link]
-
Shopee LLM Team, Compass-V2 Technical Report, Arxiv Preprint, 2025. [Link]
-
Shopee LLM Team, Compass-13B Technical Report, Shopee Tech Report, 2024.
-
Shopee LLM Team, Compass: Large Multilingual Language Model for South-east Asia, Arxiv Preprint, 2023. [Link]
-
Shuangyin Li, Yu Zhang, Rong Pan, Kaixiang Mo, Adaptive Probabilistic Word Embedding, The Web Conference 2020 (WWW 2020), April 20-24, 2020 Taipei.
-
Kaixiang Mo, Transfer Reinforcement Learning for Task-oriented Dialogue Systems, HKUST PhD Thesis, 2018. [PDF] [Slides]
-
Kaixiang Mo, Yu Zhang, Qiang Yang, Pascale Fung, Cross-domain Dialogue Policy Transfer via Simultaneous Speech-act and Slot Alignment, Arxiv Preprint, 2018. [Link] [PDF] [Slides]
-
Kaixiang Mo, Yu Zhang, Qiang Yang, Pascale Fung, Fine Grained Knowledge Transfer for Personalized Task-oriented Dialogue Systems, Arxiv Preprint, 2017. [Link] [PDF] [Slides]
-
Weiyan Wang, Yuxiang WU, Yu Zhang, Zhongqi Lu, Kaixiang Mo, Qiang Yang, Integrating User and Agent Models: A Deep Task-Oriented Dialogue System, Arxiv Preprint, 2017. [Link]
-
Wenya Zhu, Kaixiang Mo, Yu Zhang, Zhangbin Zhu, Xuezheng Peng, Qiang Yang, Flexible End-to-End Dialogue System for Knowledge Grounded Conversation, Arxiv Preprint, 2017. [Link]
-
Kaixiang Mo, Qiang Yang, A Survey of Task-Oriented Dialogue Systems, PQE survey, 2017. [PDF] [Slides]
-
Kaixiang Mo, Shuangyin Li, Yu Zhang, Jiajun Li, Qiang Yang, Personalizing a Dialogue System with Transfer Reinforcement Learning, The Thirty-Second AAAI Conference on Artificial Intelligence (AAAI-18), February 2nd - February 7th, 2018, New Orleans, Lousiana, USA. [Link] [Slides]
-
Kaixiang Mo, Bo Liu, Lei Xiao, Yong Li, Jie Jiang, Image Feature Learning for Cold Start Problem in Display Advertising, International Joint Conference on Artificial Intelligence (IJCAI 2015), July 25th - July 31st, 2015, Buenos Aires, Argentina. [PDF]
-
Kaixiang Mo, Erheng Zhong, Qiang Yang, Cross-Task Crowdsourcing, In Proceedings of the ACM SIGKDD International Conference on Knowledge Discovery and Data Mining (KDD'2013), August, 2013, Chicago, Illinois, USA. [PDF] [Data]
-
Erheng Zhong, Ben Tan, Kaixiang Mo, Qiang Yang. User demographics prediction based on mobile data. Pervasive and Mobile Computing Journal. (Accepted)
-
Kaixiang Mo, Ben Tan, Erheng Zhong and Qiang Yang. Your Phone Understands You. Nokia Mobile Data Challenge Workshop, in conjunction with Pervasive'12, Newcastle, June 2012. [PDF] First Place in Demographic Prediction Task. [Link]
学术服务
- AAAI / IJCAI / ACML 审稿人
