主页
分类
标签
归档
主页
分类
标签
归档
ResNet
ResNet 论文地址 当时,难以训练更深的神经网络,为此作者提出了一个残差(residual)学习框架,用于简化网络的训练。最终取得了惊人的效果,和当时很多工作比,具有更少的参数和更深的网络,甚至能达到千层 退化现象 深度神经网络在图像分类上取得了一系列巨大突破(AlexNet、VGGNet),他们的成功还表明模型深度对效果的影响非常大,通过标准初始化、中间标准化层的方法解决了梯度爆炸/消...
2024-11-18
ai
ai
阅读全文
GoogLeNet
GoogLeNet 论文地址
2024-11-15
ai
ai
阅读全文
VGGNet
VGGNet 论文地址 作者成功构建出一个非常深的卷积神经网络,并得到了更低的错误率和更强的泛化能力 为了构建一个很深的神经网络,作者 使用了非常小的卷积核 参数随机初始化 数据增强,比如随机裁剪、多尺度训练(放缩) 多GPU并行训练,将图像切分放入GPU中求梯度,将所有GPU中的梯度做均值,作为最终梯度
2024-11-15
ai
ai
阅读全文
AlexNet
AlexNet 论文地址 据说这是大模型的起源与标志 介绍 在图像识别领域,先前的工作使用的数据集都很小,尽管在某些任务中已经达到了人类水平,但是实际情况是非常复杂的,我们需要更大的训练集 为了能从海量的数据中学到东西,模型需要有一个巨大的学习能力。但是由于数据过于庞大,这个任务不能被人力明确定义。对于分类任务,只依靠训练数据是远远不够的,我们还需要有先验知识(prior knowledge...
2024-11-13
ai
ai
阅读全文
Fine-tune Llama3
微调大模型 使用Llama 注意,这个模型会自动在huggingface中下载,超过16G import transformersimport torchmodel_id = "meta-llama/Meta-Llama-3.1-8B-Instruct"pipeline = transformers.pipeline( "text-generation...
2024-10-30
program
program
阅读全文