其他分享
首页 > 其他分享> > 软工小组对深度学习做出这样的事,看完我惊呆了

软工小组对深度学习做出这样的事,看完我惊呆了

作者:互联网

学习感想

程传奇

深度学习,这是近几年越来越被人们广泛提及的名词。审视我们的生活,有许多领域已经成熟应用深度学习;因为深度学习的发展,我们的生活也变得智能化。但深度学习,同其余所有的技术一样,不是一蹴而就的,无论是它的发展还是产生,都需要时间的积累和理论的发展。有些言论将深度学习看做新时代社会智能化的标志,但深度学习的理论从上世纪就已出现,直到近几年才逐渐被广泛应用。深度学习依然有许多问题没有得到解决:深度学习网络更像一个“黑匣子”,能得到正确的结果但对中间过程没有清晰的理论;参数的设定更偏向于根据经验和不停的调试,缺少理论依据;网络的深度逐渐增加,训练的时间也逐渐增加,在解决复杂的问题时,时间开销较大。我们不应对深度学习的发展盲目乐观,还有许多知识需要学习,还有许多问题需要解决。

余子豪

通过观看这次有关“深度学习”的视频,我再一次深刻地体会到了“深度学习”在不断地发展演变过程中已经具备了“强大”的能力。我也了解到了目前“深度学习”的一些待改进的“缺陷”,如算法输出不稳定,易被“攻击”;模型复杂度高,难以纠错和调试;模型层级复合程度高,参数不透明;模型增量差,迁移能力差;对开放性的推理问题无能为力;人类知识无法有效监督,机器偏见难以避免等等,相信随着科技不断地发展进步,这些缺陷可以得到改善或消除。
同时我也粗略地知道了有关神经网络学习的知识。神经网络学习是利用了矩阵的线性变换和激活函数(如sigmoid函数)的非线性变换,将原始输入空间投影到线性可分的空间去分类。关于这项技术,理论上来说大多利用了概率、函数变换等知识,原始输入中看似难以区分的特征通过一系列的函数变换最终转化为机器容易区分的特征。往细去说,这里面涉及到了感知器、万有逼近定理、梯度消失问题、自编码器、受限玻尔兹曼机(RBM)等原理。观看该视频只是初次接触到这些名词,了解到了大致的框架,还是有所收获。

陈能全

学习人工智能的介绍,感触颇深。目前人工智能人才需求大于供给,国内还需加强对人工智能人才的培养。而以一个程序员的视角来看核心就是策略和算法,要实现人工智能的深度学习,这涉及到很多个函数,很复杂。人工智能没那么简单。而且深度学习也有不能,例如模型过于复杂,难以进行纠错和改正,人工智能专注于感知类问题,对于开放性问题无能为力,人类知识也无法有效引入等,从连接主义和符号主义的对立到合作,推动了人工智能的发展。而要实现人工智能的自主学习就要引入生物模型,例如人类的神经元,以程序员的视角来讲就是算法,就是激活函数,继而建立感知器模仿人类的器官进行一系列复杂的运作。受限玻尔兹曼机无疑加强了人工智能训练的效果。虽然人工智能仅有几十年的发展历史,但是发展很迅速,未来时代必定是人工智能大展身手的时代。

付坤

深度学习是:
通过一系列多层的非线性变换对原始数据进行特征提取,经过一定结构的网络,可以生成契合任务要求的feature map(通过一系列非线性变换后得到的数据模式,也就是每层所得到的feature map),以方便任务在某一数据空间中,可以被区分/识别等。利用数据来不断更迭各层参数以实现更好的map来实现任务。
深度学习目的:
通过某种算法不断优化模型内部的参数,使得模型给出的输出与实际值足够的接近,也就是模型的“预测”足够准确
深度学习不能:
算法输出不稳定,容易被攻击
模型复杂度高,那一纠错和调试
模型层级符合程度高,参数不透明

代码练习

练习目标

本次练习分为两个部分:pytorch基础和简单的深度学习网络应用

pytorch基础

代码中提供了常见的运算。pytorch主要应用于深度学习领域,这使得它的变量以向量和矩阵为核心,基本操作和数据类型与numpy十分相似,但pytorch在数据定义方面的特点在于使用张量来定义运算数据。基于python,pytorch在矩阵操作方面比较便利,这有利于矩阵运算。

代码对于基础学习很有帮助,但也存在着一些小问题,比如常见的数据类型不匹配

此处的@运算符为矩阵乘,出错原因为一个张量内的数据类型为float,而另一个是整数,可以看到之前的定义

对于直接定义的张量,pytorch默认为float。这里使用arange产生数据,数据类型是整数。另外,使用range产生数据,数据类型为float。两个方法很像,但产生数据的数据类型不同。

对于两个不同数据类型的张量进行操作时,应将张量转换为相同的数据类型

简单深度学习网络的应用

代码给出的是数据螺旋状分布。这很有代表性,因为这样的数据很好地回答了为什么需要深度学习网络。对于基础的机器学习模型,能解决很多问题,而且原理直接、清晰。但这些机器学习模型也有自身的局限性,在面对比较奇怪的数据分布情况时,效果就不是很理想,即使可以解决,也需要使用一些技巧。深度学习网络在面对复杂的、难以提炼模型的问题时有明显的优势,其基础结构简单、可以根据问题设计网络的特点使得深度学习网络有比较强的适应性,在解决一些比较复杂的问题时效果比基础机器学习模型好。

这是一个简单的神经网络模型,仅有两层,与基础机器学习模型的线性分类器相似


可以看到分类大致没有问题,但对于螺旋形的数据分布情况,因为是线性分类,对于一些在螺旋边缘的数据分类并不准确


这是第二个神经网络模型,可以看到和第一个神经网络模型十分相似,但是Relu层的添加使得神经网络不再是线性的


可以看到分类效果更好,对于螺旋边缘的数据分类的准确性也比较好。

标签:人工智能,软工,小组,数据类型,学习,pytorch,深度,惊呆,模型
来源: https://www.cnblogs.com/ouc-software2021/p/15379177.html