发布日期:2024-10-06 02:56 点击次数:197
近日,TsingtaoAI为某运营商时代团队请托指示词工程师高等时代培训,本课程为期2天,真切接洽深度学习与大模子时代在指示词生成与优化、客服大模子居品联想等业务场景中的应用。内容涵盖了深度学习前沿表面、大模子时代架构联想与优化、以及何如将指示词工程与电信行业的本体业务需求淡雅汇聚。通过真切的时代接洽、案例分析和实战操作,学员将学习到最新的LLM时代和指示词工程妙技,并掌抓如安在复杂的业务环境中联想、优化和部署大模子处置决策万博体育,以提高电信业务的自动化和智能化水平。
课程强调时代深度和业务场景的汇聚,恰其时代众人、算法工程师等具有一定深度学习基础的专科东说念主员。课程匡助学员打破时代难点,训诲本体应用能力,并为企业的智能化转型和办事立异提供时代复旧。
讲课现场
内训主张
掌抓深度学习与指示词工程的汇聚应用学员将真切分解深度学习的前沿进展,并掌抓何如将深度学习时代应用于指示词优化,训诲在本体业务场景中的应用能力。真切了解大模子时代架构联想与优化学员将学习大模子的中枢架构联想原则,并通过案例分析与实战操作,掌抓大模子的散布式覆按、推理优化与多场景部署政策,训诲模子的筹备遵守与应用后果。掌抓指示词工程高等妙技与算法优化学员将学习指示词生成的高等妙技与算法优化方法,额外是在复杂场景中的本体应用,训诲指示词工程的时代水存眷立异能力。训诲客服大模子居品联想与优化能力学员将掌抓客服大模子的架构联想、算法优化与性能评估时代,汇聚电信行业的本体业务需求,联想出具备高度实用性的客服大模子处置决策。
课程大纲
第一模块:智能体(Agent)的应用
1.什么是智能体摘抄训诲
1.1智能体的界说与特色1.2智能体的分类(自主智能体、交互智能体、互助智能体等)1.3智能体的基本结构(感知、决策、活动)
2.联想智能体的身分与过程
2.1构建智能体的基本要素(感知器、效应器、学习算法等)2.2智能体的联想经过(需求分析、模子遴选、算法已矣)2.3环境对智能体构建的影响(阻滞环境与灵通环境)2.4智能体的测试与考证
3.索引时代在智能体的作用
任务盘算与回顾不断诟谇时回顾互助多任务并行扩充信息检索与优化
4.企业构建智能体的落地场景种类
4.1构建常识库型智能体(Knowledge-Based Agents)4.2构建系统集成型智能体(ERP-Integrated Agents)4.3构建决策类智能体(Decision-Making Agents)4.4构建活动类智能体(Action-Oriented Agents)要津点总结(时代)
信息检索、常识图谱构建
API集成、中台系统、微办事架构
机器学习(ML)、深度学习(DL)、数据分析与展望
机器东说念主经过自动化(RPA)、物联网(IoT)、自动化限制
5.强化学习在智能体的应用
5.1强化学习的基欢喜趣与框架5.2强化学习在智能体中的本体应用(机器东说念主限制、游戏AI等)5.3强化学习的挑战与优化(探索与欺诈的均衡、奖励联想)
6.详细应用与筹商:
LLM Chain与ReAct Agent切换:已矣对话与盘算功能的交融。
双回顾机制:永劫回顾与对话连贯。
ReAct能力:集成了盘算与扩充的轮回反馈系统。
案例共享
基于llama大模子的数字东说念主智能体的构建。agent 主邀功能波及如下:
自主决策能力任务不断与自动化高度的可定制性与模块化联想增强的互动功能
第二模块:开源大模子的应用与部署,微调
1.真切接洽LLaMA3的目的和参数
1.1 LLaMA3的性能目的(准确率、推理速率、参数目等)1.2 LLaMA3模子的中枢架构1.3对比其他开源模子的上风与颓势
2.LLaMA3的数据散布情况
2.1 LLaMA3的覆按数据源(公开数据、特定规模数据等)2.2数据预处理与清洗的政策2.3数据散布对模子施展的影响(规模特化、泛化能力等)
3.LLaMA3的微调时代
3.1微调的宗旨与必要性3.2微调的不同方法(全模子微调、部分参数微调、LoRA等)3.3搬动学习手脚微调政策3.4微调过程中的常见挑战(过拟合、数据不及等)
4.LLaMA3部署经过,资源评估
4.1部署前的硬件资源评估(GPU/TPU条目、内存需求等)4.2 LLaMA3模子的部署设施(环境准备、模子加载、接口联想)4.3部署中的本钱优化提议(集群建树、弹性膨大等)
5.模子与国产适配
5.1 LLaMA3与国产芯片(如昇腾)的适配决策5.2国产大模子的竞争与合作5.3模子适配中的性能优化要领
6.推理与优化
6.1推理速率优化的时代(模子剪枝、量化、蒸馏等)6.2推理在不同场景中的施展分析(及时性条目、批处理当用等)6.3推理办事的高可用性和容错机制
7.垂直规模的小模子应用
7.1垂直规模小模子的界说与上风7.2小模子在特定行业的部署(法律、医疗、金融等)7.3小模子在资源受限场景下的应用(低功耗开荒、边际筹备等)
案例共享:基于llama3的 助教表情的案例共享,波及以下时代:
llama3的在素质标的的微调llam3的部署,资源的评估花样国产的适配要是通过推理和优化,训诲处理能力等。
第三模块:指示词的优化
以智能客服系统为案例,要点叙述指示词的优化过程、标的和后果。以及优化过程的矫正方法、数据分析和迭代的过程。
1.指示词优化的标的摘抄
1.1指示词在大模子中的作用1.2指示词优化的主要标的(话语精准性、潦倒文连贯性、反馈速率等)1.3指示词优化对模子施展的训诲(生成内容的关连性与准确性)
2.基于客服系统的指示词优化全经过
2.1客服系统指示词优化的需求分析(高效反馈、个性化办事等)2.2指示词联想的初期迭代(要津词提真金不怕火、用户活动分析)2.3指示词优化的反馈与矫正(凭证用户反馈陆续退换)
3.基于客服系统指示词优化的总结
3.1常见指示词优化问题与处置决策3.2指示词优化的始终可贵(动态更新、依期评估)3.3指示词优化的告成案例分析
沿途课程的总结
回应问题和筹商
讲师先容
陈淳厚 大模子/深度学习/智算优化时代众人
训诲配景
硕士学位| 天津大学 专科:高性能筹备
筹商标的:散布式筹备、深度学习模子优化、GPU加快筹备。
专科规模
华为昇腾时代栈: 真切掌抓华为昇腾AI筹备平台,包括昇腾算子开发、HCCL蚁合通讯优化、智算集群树立与性能调优。
智算集群树立与优化: 专注于大限度智算集群的联想、部署、开荒选型、蚁合建树及系统集成,训诲集群性能和踏实性。
深度学习与高性能筹备: 筹商和应用散布式覆按框架、优化时代,进行大限度筹备任务的高效处理。
蚁合与系统集成: 在复杂蚁合环境下进行系统集成,确保数据传输的高效性与系统的踏实性。
AI开发框架: 练习多种AI开发框架,包括NCE fabric、NCE insight fabric、MindX和ModelArts平台的高阶使用。
学术成就
论文发表: 在外洋顶级期刊上发表多篇高影响力筹商论文,波及高性能筹备与AI模子优化规模,包括:《IEEE Transactions on Neural Networks and Learning Systems》:论文汇聚于深度学习时代在高性能筹备中的应用。《Frontiers in Immunology》:筹商了GPU加快时代在生物信息学中的应用。
专利:
“图像分类方法及安设”:矫正了图像分类的准确性和处理速率。
“神经蚁合模子的覆按方法及安设”:优化了神经蚁合模子的覆按遵守。
外洋会议: 屡次在外洋学术会议上发扮演讲,涵盖AI、深度学习和高性能筹备规模。
素质与培训训诫
过往大模子关连的培训内容
大模子(LLM)时代旨趣与应用大模子在不同业业的具体落地案例分析机器学习与神经蚁合基础及进阶Python及Java编程话语应用
关连培训案例
TsingtaoAI:为公司研发团队进行大模子时代培训,内容涵盖大模子的基欢喜趣、开发实际以及在金融科技和营销业务中的应用。苏泊尔:对IT/AI时代团队进行大模子时代培训,训诲团队对大模子时代的分解、掌抓和应用能力。树立银行:开展对于大模子时代系统的专题培训,共享大模子系统联想、时代已矣及本体应用中的训诫和挑战。
孙淳厚,资深大模子算法众人
毕业于中国科学时代大学自动化系,领有20+年IT/AI训诫,先后在IBM、华为、顺丰、KPMG等著名企办事于DBS,UBS,HSBC等大型银行客户。2023年起All in生成式AI应用创业,专注于金融规模的AI筹商、系统实施和培训。闪耀生成式AI关连时代栈和应用系统联想开发。
2023.10-于今:生成式AI研发众人
持续追踪国表里开源和闭源大模子的发展动态,进行土产货部署或通过API集成到系统,练习GPT, Claude, Gemini, Llama, Mistral, Command R, GLM, Qwen, Deepseek, Moonshot, Xunfei Spark, Ernie, Yi, MiniMax等模子,概况凭证金融行业不同的业务场景进行模子中式
练习宽阔开源镶嵌模子和向量数据库,如BGE, Jina, Nomic等系统镶嵌模子和Qdrant, Milvus, Chroma, LanceDB, Fincore等向量数据库,并能提供选型提议
熟练掌抓Langchain, Llamaindex, Langgraph等生成式AI应用开发框架,并能凭证金融行业的业务场景选型和应用
筹商了多个开源和闭源平台级居品,包括Coze, DSPy和各模子厂商提供的在线chatbot和智能体平台等
联想开发了多个生成式AI应用,检朴单的多轮对话聊天机器东说念主,到RAG、Agent、Agentic Workflow还有Vscode代码生成插件和浏览器插件;闪耀生成式AI应用系统架构联想和系统调优
部署了stable-diffusion模子进行文生图能力评估测试,同期持续追踪国表里文生图模子和平台发展, 练习国内厂商文生图平台及API
部署并在系统种集成了speech-to-text和text-to-speech的模子,如Whisper, EmotiVoice
进行了多场大模子时代应用培训,包括对金融行业的IT团队进行的“AIGC大模子时代在金融规模的场景化应用“培训。
2017-2023,KPMG中国智能立异中心时代珍贵东说念主
创建了KPMG中国智能立异中心,不断着从联想、开发、请托、上线到运维的全经过,团队限度快要500东说念主。指导团队面向公司表里部客户联想和开发东说念主工智能、大数据运转的处置决策,围绕信用、风险、合规等业务规模构建常识库、算法模子和业务系统。办事的客户包括国表里著名企业,如HSBC,吉利集团、招商银行、太平洋保障、蚂蚁金服等等。
2001-2014,IBM,从时代开发到业务不断
手脚时代团队珍贵东说念主,指导团队进行应用系统联想、开发、测试、上线和运维;办事的客户包括:PCCW、DBS、国泰航空、UBS、UPS、深圳机场物流园等。
过往关连案例万博体育
Powered by 万博(中国)Kaiyun·官方网站 - 登录入口 @2013-2022 RSS地图 HTML地图