logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

大模型Lora微调

核心层:注意力层的WqW_qWq​和WvW_vWv​是 LoRA 的必选目标,因其直接控制信息关注与输出生成。扩展层:前馈层(FFN)的W1W_1W1​(升维矩阵)可选择性应用,大模型中更常见。高效性:通过低秩分解(A×BA \times BA×B),LoRA 仅需训练极少参数即可实现接近全量微调的效果。讲的挺好的视频教程:https://www.bilibili.com/video/BV1waZ

#LoRA
大模型Lora微调

核心层:注意力层的WqW_qWq​和WvW_vWv​是 LoRA 的必选目标,因其直接控制信息关注与输出生成。扩展层:前馈层(FFN)的W1W_1W1​(升维矩阵)可选择性应用,大模型中更常见。高效性:通过低秩分解(A×BA \times BA×B),LoRA 仅需训练极少参数即可实现接近全量微调的效果。讲的挺好的视频教程:https://www.bilibili.com/video/BV1waZ

#LoRA
cocos2dx游戏开发简单入门视频教程 (cocos2d-x)- 第1天

cocos2dx 是热门的二维游戏引擎,可以开发win32,iphone,android游戏。我们将一步一步的带着大家完成一款自己的游戏。定位是入门教程,高手勿喷。网上对于这款入门程序有很多教程,但是都是写的,感觉没有视频教程来的直接。转载请注明出处,请尊重劳动成果:http://blog.csdn.net/xingxiliang/article/details/18557631下载链接:http

#cocos2d#游戏引擎
最简单的随机森林的模型

import pandas as pdfrom sklearn.datasets import load_iris​# 1. Read in the dataset# Using the Iris dataset from sklearn for demonstrationdata = load_iris()df = pd.DataFrame(data.data, columns=data.fea

文章图片
#机器学习#人工智能
(1)vmware安装ubuntu13.10之后无法进入桌面;(2)ubuntu13.10无法显示eclipse的下拉菜单

1. vmware安装ubuntu13.10到了最后安装成功了,可是怎么也无法进入ubuntu的桌面,,纠结了半个月,终于解决了,原因是我的xp宿主机不支持gpu加速,修改虚拟机的配置。(当然如果你的宿主电脑配置很高,可以支持加速,就不会遇到这样的问题。)2. 安装了eclipse,但是点击file等菜单无法显示菜单项,这是ubuntu13.10的unity桌面做的不好。我们安

android用usb无法连接ubuntu13.10(vmware中安装ubuntu) lsusb找不到手机

vmware中安装了ubuntu13.10(尝鲜,最新的ubuntu系统,里面各种坑),手机连接到电脑,然后点击vmware的菜单虚拟机(M)->可移动设备(D)->Sony Ericssion Mobile->连接(断开主机) 在vmware的左下角显示我的手机已经连接到了vmware。但是在ubuntu的终端中lsusb根本找不到我的手机。。怎么办?千万不要改变

离线安装老版本android sdk,亲测,linux、windows、mac通用

前提你自己已经有一个完整的adt版本,目录如图:其中的platforms 只有一个子文件夹:下载,解压得到android-10,和android-8的子文件夹,复制到我们原来的platforms下面即可(windows,linux,mac通用,因为这里面是对android的一些描述信息,与宿主系统无关)由于需要调试老版本的android,需要安装android-8、10、14(我自己已经有的sdk

到底了