- 博客(15)
- 收藏
- 关注
RSS订阅原创 书生大模型-进阶岛第6关：MindSearch 快速部署
MindSearch 是一个开源的 AI 搜索引擎框架，具有与 Perplexity.ai Pro 相同的性能。MindSearch 通过搜索解决你在生活中遇到的各种问题MindSearch 通过数百个网页的浏览，提供更广泛、深层次的答案MindSearch 提供了思考路径、搜索关键词等完整的内容，提高回复的可信度和可用性。为 用户提供各种接口，包括 React、Gradio、Streamlit 和本地调试。根据需要选择任意类型。
2024-12-21 16:44:43
696
原创 书生大模型-进阶岛第4关：InternVL 部署微调实践
创建一个 50%A100 的开发机，镜像选 Cuda12.2-conda，其余默认。随便给自己的虚拟环境取个名字（这里我的是 Xtuner_InternVL），运行下面的命令创建我们的模型训练环境。
2024-12-19 01:38:49
1699
原创 书生大模型—进阶岛第3关：LMDeploy 量化部署实践
新建一个 30%A100 开发机，镜像选择 Cuda12.2-conda。由于我们要运行参数量为 7B 的 InternLM2.5，由 InternLM2.5 的码仓查询 InternLM2.5-7b-chat 的config.json 文件可知，该模型的权重被存储为 bfloat16 格式，每个参数需要占用两个字节，因此模型的总的权重大小约为：这就是为什么我们要选 30%A100（24G）的配置。
2024-12-17 13:52:37
885
原创 书生大模型—进阶岛第2关：Lagent 自定义你的 Agent 智能体
什么是 Lagent？Lagent 是一个轻量级开源智能体框架，旨在让用户可以高效地构建基于大语言模型的智能体。同时它也提供了一些典型工具以增强大语言模型的能力，比如 Arxiv 文献搜索工具、Bing 地图工具、Google 搜索、谷歌学术、交互式 IPython 解释器 等。常见工具调用能力范式通用智能体范式这种范式强调模型无需依赖特定的特殊标记（special token）来定义工具调用的参数边界。
2024-12-16 02:52:59
905
原创 书生大模型—基础岛第6关：OpenCompass 书生大模型评测
OpenCompass 是一个面向大模型评测的一站式开源平台，由上海人工智能实验室研发推出。它主要由三大核心模块构建而成：CompassKit、CompassHub 以及 CompassRank。其中，CompassKit 提供丰富的评测基准和模型模板；CompassHub 是一个基准社区，用于发布和分享评测基准和排行榜；CompassRank 则提供全面、客观、中立的分数和排名。
2024-12-12 15:37:45
1646
原创 书生大模型—基础岛第5关：XTuner 微调实践
微调内容需要使用 30% A100 才能完成。微调内容包括了以下两个部分：SFT 数据的获取使用 InternLM2.5-7B-Chat 模型微调。
2024-12-11 12:59:48
879
原创 书生大模型—基础岛第4关：InternLM + LlamaIndex RAG 实践
LlamaIndex 是一个开源的索引框架，专为构建基于大语言模型的应用程序而设计。它提供了一套工具和接口，使得开发者能够更容易地将大语言模型与外部数据源（如数据库、文件系统等）结合起来，让开发者能更加充分地利用大模型的强大能力，同时克服模型在处理特定任务时的局限性。LlamaIndex 允许开发者创建数据索引，这些索引可以被用来快速检索相关信息。它提供了处理查询的机制，包括将查询分解为更小的部分，以及将检索到的信息整合成对模型有用的格式。
2024-12-10 05:34:40
1674
原创 书生大模型—基础岛第3关：LangGPT结构化提示词编写实践
近期相关研究指出，在处理特定文本分析任务时，语言模型的表现有时会遇到挑战，例如在分析单词内部的具体字母数量时可能会出现错误。利用对提示词的精确设计，引导语言模型正确回答出“strawberry”中有几个字母“r”。完成正确的问答交互并提交截图作为完成凭证。技巧1: 描述清晰（回答错误❌）技巧2: 扮演角色（回答错误❌）技巧3: 提供示例（回答错误❌）技巧4: 复杂任务分解，思维链CoT（回答正确✅）技巧5: 情感和物质激励（回答正确✅）
2024-12-09 16:06:37
551
原创 书生大模型—基础岛第2关：玩转书生「多模态对话」与「AI搜索」产品 - 任务
一般情况下主节点会根据子节点得出的结论，总结形成最终回复。部分情况下，主节点会根据子节点得到的结论进一步拆解子问题回到步骤 (1) 直到得到最终结论。
2024-12-07 20:52:53
455
原创 书生大模型—基础岛第1关：书生大模型全链路开源体系
经过一年以来的努力，目前已经将大模型的全链路进行了打通从数据收集整理，数据标注，到模型训练、模型微调、模型评测，再到基于模型的Agent、Rag、搜索引擎，最后到AI应用的部署都进行了方案的实现以及开源。书生浦语的全链路开源包含了从 数据→预训练→微调→部署→测评→应用 的一条龙服务，并且与开源社区的工具进行了无缝的衔接。
2024-12-07 19:21:07
677
原创 MarkDown模板
目录欢迎使用Markdown编辑器新的改变功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入导出导入欢迎使用Markdown编辑器你好！ 这是你第一次使用 Markdown编辑器 所展示的欢迎页。如果你想学习如何使用Markdown编辑器
2021-01-24 12:28:14
162
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人