[深度学习读书笔记]第一章、前言

  1. 从包含关系上来看，AI(人工智能)下有机器学习，其下又有表示学习，再下就是深度学习了，他们的典型例子及特点是：
    1. 人工智能：通过机器解决人类能够解决的问题，比如像知识库；
    2. 机器学习：通过学习到数据间的模式来获取知识，一般需要人工设计特征，逻辑回归和朴素贝叶斯都是典型的机器学习；
    3. 表示学习：能够自身挖掘出表示本身(特征)，被称为表示学习，常见的表示学习有自编码器(autoencoder)；
    4. 深度学习：深度学习可以通过简单的表示来表达复杂的表示，即分层依次提取简单特征，再构建出更抽象的特征；
  2. 也就是说从特征角度，机器学习的特征往往是手工设计的，表示学习可以挖掘出数据的特征，而深度学习可以分层依次挖掘出简单特征和高级特征；
  3. 深度学习在发展过程中，经历了几次起落，比如首先遇到了线性模型无法学习到异或函数，随着深度提升无法训练等；
  4. 反向传播：Backpropagation是计算当前网络梯度的一种有效方式，它基于链式法则，在正向传播和反向传播过程中都进行了计算，正向传播中计算了单层网络内线性变换的梯度并进行存储，在反向传播会基于链式法则，将后层梯度和本层“相对梯度”计算出本层的梯度。这里详细资料可以查看 http://speech.ee.ntu.edu.tw/~tlkagk/courses/ML_2016/Lecture/BP.pdf 。
赏

谢谢你请我喝咖啡

支付宝
微信

扫一扫，分享到微信

微信分享二维码

tag:

    缺失模块。
    1、请确保node版本大于6.2
    2、在博客根目录（注意不是yilia根目录）执行以下命令：
    npm i hexo-generator-json-content --save

    3、在根目录_config.yml里添加配置： 

      jsonContent:
    meta: false
    pages: false
    posts:
      title: true
      date: true
      path: true
      text: false
      raw: false
      content: false
      slug: false
      updated: false
      comments: false
      link: false
      permalink: false
      excerpt: false
      categories: false
      tags: true

<div style="margin-left:18px;text-indent:2em"><p>喵爸，码农兼奶爸，山东人，08年毕业于山东大学，目前就职于百度。</p> <p> 关注前沿技术，热爱开源。目前潜心于深度学习方面的学习，希望能够写编码到60岁。</p><p>热爱生活，技术之余时常健身读书，轻度生存控。</p> <p>在这里，我会分享我在工作和生活中的感想，欢迎大家和我交流。</p><br><p> 本站所有内容均代表个人观点，与本人雇主及其他团体无关。</p></div>