深度学习属于机器学习的范畴，它可以说是在传统神经网络基础上的升级，约等于神经网络。常见的代表有卷积神经网络 – CNN，循环神经网络 – RNN，生成对抗网络 – GANs，深度强化学习 – RL。

它和传统机器学习在数据预处理上都是类似的。核心差别在特征提取环节，深度学习由机器，不需要人工提取，但是因此深度学习的可解释性很差，而且容易产生偏见，因为它的运作基于数据，虽然能有好的表现，但是我们并不知道他的原理是什么，相当于黑箱。

它是一个相对暴力的模式，自己完成特征提取，再结合尽可能多的训练数据以及计算机的大规模运算能力去调节内部参数，以庞大的参数量的堆积实现对复杂问题的解决。这样的好处是它有更强的学习能力，可以解决更多问题，而且有很好的适应性，同时它通过数据驱动，有更高的上限。但是这种方式带来的就是庞大的计算问题以及其对应的硬件，成本问题， 因此它对于大众的普及仍有一定难度。

深度学习未来可能的发展趋势：硬件设备的发展，计算的简化，设计更强大的模型，更强大的算力。目前实现便携仍有一定难度，但是通过互联网的交互是可行而且实用的，比如gpt。以及深度学习模型的组合叠加，模拟现实中某些结构，从而形成多功能的，协调性强，具有决策能力的智能体。

技术组第三次作业 2023300067 许铭扬

首先，什么是深度学习？它和我们平常经常经常听到的神经网络、机器学习、人工智能又有什么关系？简单地来说：机器学习是人工智能的一个分支，而深度学习又是机器学习的一个重要分支。深度学习的概念源于人工神经网络的研究，但是并不完全等于传统神经网络。

不过在叫法上，很多深度学习算法中都会包含"神经网络"这个词。所以，深度学习可以说是在传统神经网络基础上的升级，约等于神经网络。而最近在各个领域都掀起浪潮的大模型就是深度学习技术的成果。在大致学习了关于深度学习的知识以后，我对深度学习的理解是：其一数学模型与计算机判断算法所构成的构架为基础，再以不断的参数调节与数据训练，以实现实现自主识别目标等等的理论与实践相结合的建模方式。其主要是通过一层一层的处理最后得出结果并完成判断。即是“由多个层组成，它们通常将更简单的模型组合在一起，将数据从一层传递到另一层来构建更复杂的模型。通过训练大量数据自动得出模型”其与传统的机器学习最大的不同点在于其在模型训练之中，在数据预处理之后提取数据之中，传统机器学习的特征提取主要依赖人工，而深度学习的特征提取是机器自动提取的。这也就造成了其很差的可解释性，有时候深度学习虽然能有好的表现，但是我们并不知道他的原理是什么。正是由于其机器自动提取的特性，导致了其计算量大，硬件需求高。而且其在训练数据不平衡的情况下会出现偏见与歧视等情况。

具体到深度学习模型的训练过程从其输入数据是否又目标值，可以分为监督学习，无监督学习，半监督学习。其中监督学习的模型在处理未知数据时需要有标签的数据作为参考，而半监督学习的模型可以更好地利用未标记数据来提高预测能力。她们要求的数据量，预测能力，训练时间，精度，应用场景都有不同。同时训练方法也有多种，如卷积神经网络 – CNN，循环神经网络 – RNN，生成对抗网络 - GANs，深度强化学习 – RL等等。其也各自有各自的原理和特点。

关于其未来可能的发展趋势，首先是应用领域扩展。在完成当下语言类大模型的进化与研究之后。可能会转向机械自主运动控制的进一步发展，力图制造出完全自主作业的机器人。以在各种危险环境之中代替人类，或者造出外表行为与人类无异的机器人以为人类服务。当然，将深度学习模型嵌入物联网系统之中，使其拥有统筹控制的能力，以维护系统的高效运行也是一个可预见的方向。总之，深度学习所创造的智能AI毫无疑问将会出现在我们生活的方方面面。其次是多模态融合，各种方向的数据将会互相交错，互相结合，使其理解和处理更复杂的数据。最最重要的是自主学习的能力。在未来深度学习不会只是“深度”，而是更加自主。相信自主学习将会又掀起深度学习模型的一场革命。

深度学习是机器学习的重要分支，相当于传统神经网络的升级，通过输入层和多个隐藏层（非线性激活函数）来解决复杂问题，可以通过代价函数和模型参数来计算资源消耗。深度学习可以通过反向传播算法根据错误做出调整，向前传递误差信号，并使更新神经元的权重和偏置，从而优化网络权重进行学习。在进行数据预处理后设计模型并进行训练，包括非监督学习和监督学习以及CNN ，RNN，GANs,RL4种典型算法。深度学习学习能力强，同时因为有多个隐藏层，所以可以解决更复杂的问题，依赖数据进行训练，对计算能力和硬件设备有更高要求。深度学习已经在语音识别，计算机视觉，自然语言处理等其他领域发挥了重大作用，在未来发展重点可能会放在深度学习的自学习自适应、多模态融合和跨学科合作中，但是深度学习的模型往往是黑箱，所以可解释性也是未来的一个发展点。

技术组-第三次作业-杨力畅-2023300074.pdf

技术组第三次学习--梁爽--2023300399.pdf

技术组-第三次作业-高佳和-2023300065 对深度学习的理解.pdf

技术组-第3次作业-2022300110-周蕾.pdf

深度学习指的是一种机器学习的方法，它尝试模拟人脑的结构和功能，以便从数据中学习特征和模式。深度学习模型通常由多层神经网络组成，这些网络层之间的连接通过大量数据和计算资源进行训练，以便自动地学习任务。

深度学习的关键概念：

    神经网络： 这是深度学习的基本组成部分，由多个神经元组成的层次结构。神经网络通过将输入数据传递到一系列的层中，并通过每一层的权重和激活函数进行处理，最终产生输出。

    反向传播： 这是一种训练神经网络的方法，它通过计算损失函数关于网络参数的梯度，然后利用梯度下降算法来更新参数，以最小化损失函数。

    卷积神经网络（CNN）： 这是一种常用于处理图像数据的神经网络结构，它通过卷积层和池化层来提取图像中的特征。

    循环神经网络（RNN）： 这是一种特殊的神经网络结构，用于处理序列数据，如文本或时间序列数据。RNN具有记忆性，可以在处理序列数据时考虑上下文信息。

未来深度学习的发展趋势：

    模型的改进与优化： 未来的深度学习研究将致力于改进模型的泛化能力、可解释性和数据效率，以应对现有模型的局限性。

    跨模态学习与多任务学习： 未来的深度学习模型可能会更加注重融合多种数据类型，并同时解决多个相关任务，以提高模型的表征能力和数据利用效率。

    自监督学习与增强学习： 自监督学习和增强学习将成为深度学习的重要研究方向，以减少对标注数据的需求并实现模型自主学习和决策。

    可解释性与安全性： 未来的深度学习模型将更加注重提高模型的可解释性和安全性，以增强用户对模型的信任度并防止恶意攻击和误用。

    低能耗、高效率的模型设计： 随着边缘计算和物联网的发展，未来的深度学习模型将更加关注于设计低能耗、高效率的模型，以适应嵌入式设备和边缘计算场景的需求。

2023302613-孙镇宇 技术组第三周作业

  深度学习是机器学习的新的一个分支，深度学习可以学习给定样本的数据之中的内在规律和表示层次，相比于传统机器学习，它不依赖与人工制作的规则和数据可以自行找到数据之间的内在联系。但是相比之下深度学习所需要的数据量和算力比传统机器学习高得多，需要更多的资金支持，以及在一些算力不足的终端上部署会有性能问题。在可解释性方面，深度学习的可解释性不足，无法得知在模型中有哪些神经元被激活了，以及它们做了什么，这会导致一些潜在的伦理问题。而且从本质上来说，深度学习就是曲线拟合，通过各种算法去拟合曲线。

  未来的发展趋势，可以在语音识别，自然语言处理，文字识别等各种领域大有所为。个人浅显的任务，深度学习在未来可以通过优化算法使其能在一些算力相对小的终端上进行部署。其次就是提升算力，看看能不能由量变引起质变，让深度学习的能力再上一个台阶。

技术组第三次作业-2023300066-邵裕鑫.pdf