-
【专栏02】激活函数(一)浅谈激活函数以及其发展
专栏2-激活函数(一)浅谈激活函数以及其发展激活函数是神经网络的相当重要的一部分,在神经网络的发展史上,各种激活函数也是一个研究的方向。我们在学习中,往往没有思考过——为什么用这个函数以及它们是从何而来?生物神经网络曾给予了人工神经网络相当多的启发。如上图,来自树突信号不断累积,如若信号强度超过一个特定阈值,则向轴突继续传递信号。如若未超过,则该信号被神经元“杀死”,无法继续传播。在人工神经网络之中,激活函数有着异曲同工之妙。试想,当我们学习了一些新的东西之后,一些神经元会产生不同的输出信...…
-
【技术博客39】对抗性域适应
39-对抗性域适应域适应简介域适应是迁移学习中最常见的问题之一,域不同但任务相同,且源域数据有标签,目标域数据没有标签或者很少数据有标签。域适应通过将源域和目标域的特征投影到相似的特征空间,这样就可以拿源域的分类器对目标域进行分类了下面拿二分类做说明,如下图:图中红圈是源域,蓝圈是目标域,圆圈和叉是不同特征的数据,源域的分类器将源域的数据分为两类,即虚线所示。此时如果拿源域的分类器在目标域上分类,从图中可以看到,效果很差。 那怎么办呢,有一种方法就是把源域和目标域的分布对齐,如图片右边所示...…
-
【技术博客37】resnet的介绍和实现
37-ResNet的介绍和实现ResNet的介绍为什么要用ResNet我们都知道:在训练卷积神经网络的过程中,当浅层的神经网络训练效果较差时,可以通过适当地加深网络的层数,从而获取一个优化效果更好的模型。这是因为随着网络的深度的增加,网络所能提取的信息就能更加的丰富。然而在实际的实验过程中,我们会发现:随着网络深度的加深,训练集的loss首先会逐渐下降,然后趋于平缓;当我们继续加深网络的深度时,训练集的loss反而开始上升。也就是说,网络出现了“退化”(degradation)的现象。图1...…
-
【技术博客36】 Gpu 编程之从零开始实现 mnist Cnn
36-GPU 编程之从零开始实现 MNIST-CNN很多人最开始接触“ GPU ”想必都是通过游戏,一块高性能的 GPU 能带来非凡的游戏体验。而真正使GPU被越来越多人熟知是因为机器学习、深度学习的大热(也有人用于比特币挖矿),因为庞大的数据与计算量需要更快的处理速度,GPU 编程也因此越来越普遍。从事深度学习的工作者常常自嘲自己为“炼丹师”,因为日常工作是:搭网络,调参,调参,调参……作为刚入门深度学习的小白更是如此,虽然不停的复现着一个又一个的网络,但总有些迷茫。我想这个迷茫来源于深...…
-
【技术博客35】 基于垃圾目标检测任务的yolov5初探
35-基于垃圾目标检测任务的YOLOv5初探作者:余敏君研究背景垃圾分类作为一种有效处理垃圾的科学管理方案,在提高资源利用率、缓解垃圾生产压力以及改善生态环境等方面具有重要意义,是我国社会主义现代化和城市化进程中所必须采取的策略,备受世界各国的迫切关注。2019年以来,随着上海市、杭州市等垃圾分类重点城市有关生活垃圾分类的立法、执法和监督等工作的顺利开展,人们对垃圾分类相关话题的关注度日渐提升,个人垃圾分类的意识也有了很大的提高。但与此同时,由于垃圾的种类极其丰富,个人对垃圾归类的模糊程度...…
-
【专栏01】 推荐系统(一)简要介绍
37-推荐系统(一)简要介绍任少斌什么是推荐系统b站、快手、抖音怎么给你推荐你感兴趣的视频让你点“亿”点就是一小时?网易云、QQ音乐怎么生成你的每日推荐以及专属歌单?淘宝如何在你浏览的时候不断刺激你点开下一个商品?这些都是生活中推荐系统的应用,利用用户的偏好并进行相关推荐。推荐系统应用的场景 电子商务 电影与视频平台 音乐平台 阅读平台 基于位置的服务,比如美团会申请获得用户的地址信息以方便推荐附近的酒店 社交网络,比如微信的视频号会在还有浏览之外出现一个红点 个性化广告,比...…
-
【技术博客34】生成式对抗网络模型综述
34-生成式对抗网络模型综述作者:张真源GANGAN简介生成式对抗网络(Generative adversarial networks,GANs)的核心思想源自于零和博弈,包括生成器和判别器两个部分。生成器接收随机变量并生成“假”样本,判别器则用于判断输入的样本是真实的还是合成的。两者通过相互对抗来获得彼此性能的提升。判别器所作的其实就是一个二分类任务,我们可以计算他的损失并进行反向传播求出梯度,从而进行参数更新。GAN的优化目标可以写作:\(\large\min_G\max_DV(D,G...…
-
【技术博客33】基于lenet网络的细胞识别
33-基于LeNet网络的细胞识别作者:陈玥背景目前,全球疫情仍处于严峻时刻,许多计算机相关领域工作者也都参与到研究病毒、疫情等工作中。足量的高质量的COVID-19 图像数据集能用有效地帮助医院加快筛选和检测新冠肺炎,但由于隐私保护,目前难以获得足量的数据集。因可以先通过疟疾数据集训练细胞检测模型,后面可以利用迁移学习来训练COVID-19。本文使用深度学习框架Keras 在疟疾数据集上训练感染病毒检测器,可以根据细胞图像有效地识别出是否受到感染,是一篇使用深度学习框架Keras 进行疾...…
-
【技术博客32】数据挖掘入门——以二手车价格预测为例
32.数据挖掘入门——以二手车价格预测为例作者:张杰数据挖掘的步骤 Data Analysis Feature Engineering Feature Selection Model Building Model Deployment1. Data Analysis对于数据分析部分,需要探索以下几个点:1)Missing Values2)All The Numerical Variables3)Distribution of the Numerical Variables4)Ca...…
-
版本1.70
新功能: Jupyter Lab目录功能改进: NoteBook协作开发时,前端链接数优化 NoteBook视频拖放优化修复: 修复了一些已知问题new function: Jupyter Lab directory functionImprove: Optimized the number of links during NoteBook collaborative development Optimized NoteBook video drag and dropFix:...…
