知乎 - AI 大模型课
👉主题：从 AI 编程认知 AI
👨🏼🏫老师：林老师
大纲：
✅1. 什么是AI编程
👉主题：Function Calling
👨🏼🏫老师：孙志岗老师
大纲：
✅1. 看 AI 巨变带来的 UI、API 终极演变
✅2. NLI 塑造未来软件世界
✅3. 大模型连接真实世界的方法
👉主题：Assistants API
👨🏼🏫老师：王卓然老师
大纲：
✅1. GPTs & Assistants API 简介
✅2. 如何在 GPT Store 创建/发布自己的 GPT
✅3. Assistants API 的主要能力
✅4. 基于 Assistants API 开发
import os
from openai import OpenAI
client = OpenAI(api_key=os.getenv('OPENAI_API_KEY'))
# show all uploaded files
uploaded_files = client.files.list()
print(uploaded_files)
# retrive file by file name
target_file_name = "地卫2-卫星遥感应用白皮书.pdf"
target_file_id = None
file_objects = list(filter(lambda x: x.filename == target_file_name, uploaded_files.data))
if len(file_objects) > 0:
target_file_id = file_objects[0].id
# upload file to openai
file = client.files.create(
file = open("../dataset/地卫2-卫星遥感应用白皮书.pdf", "rb"),
purpose='assistants'
)
# check uploaded file status
retrieved_file = client.files.retrieve(file.id)
if retrieved_file:
print(f"File {retrieved_file.filename} upload successfully!")
else:
print("File retrieval failed!")
👉主题：Semantic Kernel
👨🏼🏫老师：王卓然老师
大纲：
✅1. Semantic Kernel 架构
GitHub - microsoft/semantic-kernel: Integrate cutting-edge LLM technology quickly and easily into your apps
Create AI agents with Semantic Kernel | Microsoft Learn
semantic-kernel/python/notebooks/00-getting-started.ipynb at main · microsoft/semantic-kernel · GitHub
今天是讲座课，非常有幸邀请来MyTwins.ai 创始人&CEO，曾任淘宝直播技术总负责人吴桂林（梁舒）老师 。
👉主题：数字分身应用及技术介绍
👨🏼🏫老师：吴桂林（梁舒）老师
🕙时间：今晚8点
大纲：
✅数字分身介绍及应用
👉主题：LangChain
👨🏼🏫老师：王卓然老师
大纲：
✅1. 模型I/O封装
a.模型的封装
b.模型的输入输出
c.PromptTemplate
d.OutputParser
✅2. 数据连接封装
a.文档加载器：Document Loaders
b.文档处理器
c.内置RAG: RetrievalQA
✅3. 记忆封装：Memory
✅4. 链架构： Chain/LCEL
✅5. 大模型时代的软件架构：Agent
a.ReAct
b.SelfAskWithSearch
c.Assistants API
✅6. LangServe
✅7. LangChain.js
👉主题：LLM应用开发工具链
👨🏼🏫老师：王卓然老师
大纲：
✅1.如何维护一个生产级的LLM应用
✅2.LangFuse 平台
a.平台注册与链接
b.AGI课堂跟课助手监控后台演示
c.记录与追踪LLM的调用记录
d.构建回归测试集
e.Prompt 调优与回归测试
f.Prompt 版本管理
g.更多评测标准简介
✅3.LangSmith 平台
a.基本功能
i.LLM调用记录
ii.Playground
b.数据集管理
c.回归测试
✅4.Prompt Flow
a.VSCode 插件
b.与SK结合使用
👉主题：手撕 Agent 实现 AutoGPT
👨🏼🏫老师：王卓然老师
大纲：
✅1. Agent 简介
✅2. Agent 的主流程图
✅3. 设计 ReAct 的 Prompt 模板
✅4. 设计长时和短时 Memory
✅5. 实现主流程
✅6. 设计鲁棒的纠偏策略，防止死循环
✅7. 封装自己的 Tools
✅8. 运行自己的 AutoGPT 助手！
👉主题：模型微调（上）
👨🏼🏫老师：王卓然老师
大纲：
✅1. 小实验1：动手微调一个小 GPT
a. HuggingFace简介
b. 模型加载
c. 数据加载
d. 训练器
✅2. 什么是模型
✅3. 什么是模型训练
a. 训练时几个重要超参
b. 调整超参，再跑实验1
✅4. 求解器 & 损失函数简介
✅5. 小实验2：手写一个简单的神经网络并训练它
👉主题：模型微调（下）
👨🏼🏫老师：王卓然老师
⚠️注意：此前实验室环境中课程的实验代码，fine-tuning-lab.zip，与王老师 今晚（3月28日）教学使用的版本不一致。发现有同学已经提前下载了代码进行实验，建议重新下载最新代码，以便与课上讲解对齐。
大纲：
✅1. 什么是训练/预训练/微调/轻量化微调
✅2. Transformer结构简介
✅3. 轻量化微调
a.Prompt Tuning
b. P-Tuning
c. Prefix Tuning
d. LoRA
e. QLoRA
f. AdaLoRA
✅4. 实验数据集的构建
✅5. 实战 1：基于 Prefix-Tuning 微调 ChatGLM3-6B
✅6. 实战 2：基于 LoRA 微调 ChatGLM3-6B
✅7. 实战 3：基于 QLoRA 微调 Llama2-7B
✅8. 更多训练数据的构建技巧
今天赠送大家一节加餐课——LangChain 核心源码解读 ：关于LLM和Agent
这是 AI 全栈四期学员薛宏伟基于主干课内容，对 LangChain 进行潜心研究的总结。他是一名资深程序员，拥有十五年的软件开发经验，与大家一同从零开始学习AI和LangChain。他对LangChain项目非常推崇，并且深入研究LangChain的源代码结构，热切希望能够与大家分享他的发现。
👉主题：LangChain 核心源码解读 ：关于LLM和Agent
👨🏼🏫老师：薛宏伟
🕙时间：今晚8点
大纲：
✅解读源码，集成自己的大模型到 LangChain
这节课会带给你：
今天的讲座课非常荣幸地邀请到了在大模型落地方面有丰富经验的刘海峰老师，他是 ChatU.ai 和 软积木 创始人，也是微软资深MVP（最有价值专家）和 PEC China 发起人。刘老师在多个领域拥有多年的经验，对技术的研究和探索也赢得业内广泛的赞誉和尊重。今天我们非常期待刘老师能够与我们分享他的理念和经验，让我们受益匪浅。
👉主题：ChatU.ai 企业落地经验
👨🏼🏫老师：刘海峰老师
🕙时间：今晚8点
大纲：
✅1. AI 技术革新与中美产品对比
a. AGI 如何引领行业变革，塑造全新商业生态
b. 创新思维在攻克 AI 难题中的关键作用
c. 从英伟达 GTC 看中美 AI 产品的差异
✅2. 企业在 AGI 应用落地中的挑战与应对策略
a. 企业在实施 AGI 落地时面临的困难与挑战
b. 实现 AGI 应用落地所需的关键要素与条件
c. ChatU.ai 应用落地的背景、意义及给企业带来的价值
d. 从安全性与稳定性方面解析 ChatU.ai 的能力和优势
✅3. ChatU.ai 落地方案的场景与案例深度剖析
a. ChatU.ai 在企业应用落地中的方法与策略
b. 教育领域：个性化学习解决方案的实施与成效
c. 大企业应用：提升工作效率的具体实践与案例分享
d. 客服优化：通过AI技术改善用户服务体验的创新举措
e. ChatU.ai 在不同行业与场景下成功经验的总结与启示
✅4. 展望未来AI发展趋势与企业应用前景
a. AI 行业的未来发展方向的分析与预判
b. 企业在AGI应用落地的前景预测与战略规划
c. 在未来企业 AGI 应用落地的建议与展望
👉主题：多模态大模型（上）
👨🏼🏫老师：多老师
👉老师介绍： C9 名校本硕博毕业，某大厂自研多模态大模型负责人。曾在多家大厂任职 P9 级别以上专家，国内 Top 5 水平。
因雇主公司原因，使用化名保密身份。
大纲：
✅多模态大模型的定义
👉主题：多模态大模型（中）
👨🏼🏫老师：多老师
👉老师介绍： C9 名校本硕博毕业，某大厂自研多模态大模型负责人。曾在多家大厂任职 P9 级别以上专家，国内 Top 5 水平。
因雇主公司原因，使用化名保密身份。
大纲：
✅1.图文多模态大语言模型的评测
✅2.开源社区多模态大语言模型
✅3.开源 LLaVA 图文对话模型的训练
a.模型架构
b.训练过程
c.实战：数据构造与模型训练
✅4. LLaVA 应用衍生以及优化方向
✅5. 支持更多模态的大语言模型
a. X-LLM
b. NexT-GPT
✅6. Multi-Agent 多模态语言模型
✅7. LLM驱动的跨模态生成模型 -VideoPoet
👉主题：多模态大模型（下）
👨🏼🏫老师：多老师
大纲：
✅判别式模型 vs. 生成式模型
✅生成式模型技术路径一览
👉主题：Al 产品部署和交付(上）
👨🏼🏫老师：西树老师
👉拥有近十年开发经验，7年带团队经验，从事web开发多年，前端、后端、服务架构都有涉猎，经历过大公司、创业公司，擅长前端及公司技术选型，拥有丰富的中后台开发经验，精通React技术栈，对前端生态有深入的研究，对服务架构方面，负载均衡，mysql主从复制，k8s、docker有颇深研究。
大纲：
✅1. 硬件选型
a. GPU
b. LPU
c.云服务厂商
d.算力平台
✅2. 带你了解全球大模型
✅3. 使用国产大模型服务
✅4. 搭建 OpenAl 代理
✅5. 热身：基于阿里云 PAI 部署 Stable Diffusion
✅6.在本地计算机运行大模型
👉主题：AI 产品部署和交付(下)
👨🏼🏫老师：西树老师
大纲：
✅大模型的私有化部署
✅基于 vLLM 部署大模型
✅案例：如何优雅地在阿里云私有部署开源大模型
✅部署一套开源 LLM 项目
✅内容安全
✅互联网信息服务算法备案
👉主题：大模型时代的创业机遇
👨🏼🏫老师：孙志岗老师
大纲：
✅1. 大模型应用落地现状
✅2. 创业机遇
a.机会在哪？
b.怎样找到？
c.如何抓住？
✅3. 做独立开发者吗？
a.独立开发的前所未有机会
b.自己是否适合独立开发？
i.超高的自律要求
ii. 注册公司
iii. 日常事务
iv.兼职管理
v.其它困难
c.公司里的「独立开发者」
✅4. 产品研发新流程
✅5. 产品立项
a.如何找到真实需求
b.如何找到商业模式
c.关注种子推广渠道
今天的讲座课非常荣幸地邀请到了David老师，他是来自国产算力芯片企业，负责市场工作。他会给我们做一次与 GPU 相关的科普讲座
👉主题：智能算力那点事儿
👨🏼🏫老师：David老师
🕙时间：今晚8点
大纲：
✅1. 关键词：芯片，算力，生态，商业
✅2. 人工智能三驾马车
✅3. 并行计算为 AI 加速
✅4. GPU 如何被制造出来
✅5. 英伟达的前世今生
a . 从计算机图形学说起
b. 显卡时代：1933-1999
c. GPU 时代：1999-2003
d. GPGPU 时代：2010-
e. GPU集群时代
f. 算力系统时代
✅6. 老黄的刀法
a. 冲破封锁线：赢得生态位的战争
b. 产品差异化：获得游戏和数据中心双赢
c. 需求加杠杆：通过金融放大需求
✅7. 技术路线：tradeoff 的胜利
a. SIMD
b. SIMT
c. DSA
d. 发展趋势
✅8. 优质算力的标准
a. 通用性：适应模型快速迭代
b. 易用性：满足开发人员需求
c. 有效性：理论算力高效利用
d. 低成本：满足运营成本需求
e. 可扩展性：满足不同类型的计算需求
✅9. 产业机会分享
a. 国产算力池：私有云
b. 大模型一体机：AI PC
👉主题：产品设计
👨🏼🏫老师：孙老师
大纲：
✅功能、信息架构和交互设计
✅如何优雅地借鉴
✅写 PRD 是为了什么
✅AI 产品设计原则
👉主题：产品运营
👨🏼🏫老师：孙老师
大纲：
✅运营
👉课程主题：项目方案分析与设计
👨🏼🏫授课老师：王老师
🌟这期项目总结为👇～老师会重点拆解～大家一定要来上课哦！[加油]
✅RAG相关
✅智能招聘相关
✅对话系统相关
✅其它复杂业务和专业领域问题
✅1. 面试通-李世元
✅2. 树洞投诉平台-PJ
✅3. AGI增强的数字孪生运营平台-z猫
✅4. 梦幻历史台-XwixGc
✅5. 福音有问必答项目-上官浪
✅6. Ybot陪伴成长儿童绘画讲故事机器人-嘟嘟
✅7. WALNUT AI大模型智能应答系统-tang
✅8. 电子电气架构文档开发机器人-王啸
✅9. AI报告生成助手-遐迩思成