自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+

rosefun96的博客

深度学习、算法交流q群596506387。

  • 博客(41)
  • 资源 (22)
  • 论坛 (1)
  • 收藏
  • 关注

原创 Lightgbm + LR代码实现

import numpy as np import matplotlib.pyplot as plt#生成用于分类的数据集from sklearn.datasets.samples_generator import make_classificationX,labels=make_classification(n_samples=2000,n_features=20,n_redundant...

2020-01-20 16:03:50 7628 1

原创 LeetCode11. 盛最多水的容器(双指针,java,python)

1 问题给定 n 个非负整数 a1,a2,…,an,每个数代表坐标中的一个点 (i, ai) 。在坐标内画 n 条垂直线,垂直线 i 的两个端点分别为 (i, ai) 和 (i, 0)。找出其中的两条线,使得它们与 x 轴共同构成的容器可以容纳最多的水。说明:你不能倾斜容器,且 n 的值至少为 2。示例:输入: [1,8,6,2,5,4,8,3,7]输出: 49力扣(LeetCod...

2020-01-18 21:37:48 137

原创 含绝对值损失函数的优化分析

1、问题在深度学习中,定义的损失函数含绝对值,如MAE,会存在一阶导数不连续,这时候在不连续的点处该如何进行反向传播?2、案例绝对值函数求导ddx∣u∣=u∣u∣⋅dudx\frac{d}{d x}|u|=\frac{u}{|u|} \cdot \frac{d u}{d x}dxd​∣u∣=∣u∣u​⋅dxdu​L1 损失函数L1(ypredict,ytrue) =∑i=1n∣yt...

2020-01-18 16:53:10 7606 3

原创 Spark安装及介绍

1.Spark介绍并行处理大数据;1.1 MapReduce 算法矩阵向量相乘;指数迭代;随机梯度方法;随机SVD;QR;缺点:1.数据共享的局限性;不同步骤的产物在分布式文件系统;复制和磁盘内存存储导致慢;1.2Spark 计算引擎分布式收集数据结构 RDD(Resilient distributed datasets);2.Spark示例参考:1.Sta...

2020-01-18 15:31:45 167

原创 梯度下降法及其优化算法(优化器Momentum,Adagrad,Adadelta,Adam)

1、动量动量算法,目的是为了让SGD尽可能地跳出局部最优值。vt=γvt−1+η∇θJ(θ)θ=θ−vtv_t = \gamma v_{t-1} + \eta \nabla_\theta J( \theta)\\\theta = \theta - v_tvt​=γvt−1​+η∇θ​J(θ)θ=θ−vt​可以看出,和传统的SGD相比,增加了一个动量系数γ;一般,动量系数γ设为0.9...

2020-01-17 17:03:34 6816

原创 参数优化方法(梯度下降、牛顿法、拟牛顿法、L-BFGS算法、共轭梯度法)

1 分类梯度法,共轭梯度法,牛顿法,拟牛顿法,蒙特卡洛法、Steepest Descent(SD)、L-BFGS等参数优化方法。参数优化目标在机器学习中,在定义好损失函数好,希望通过参数优化,使得损失函数最小。2 梯度下降法(最速下降法)沿着梯度向量的方向,更加容易找到函数的最大值。反过来说,沿着梯度向量相反的方向(去负号),则就是更加容易找到函数的最小值。批量梯度下降法(Bat...

2020-01-17 16:51:21 7260

原创 时间序列预测模型TBATS

1. TBATS简介名字来源: Trigonometric seasonality, Box-Cox transformation, ARMA errors, Trend and Seasonal components.模型使用季节性特征、Box-Cox转换、ARMA误差、趋势和季节组分。2. 模型可以看出预测的 y 由4部分组成, l 是局部水平, b 是趋势水平, d 是ARMA模型...

2020-01-16 15:20:45 1374

原创 数学中几种积:点积(数量积/标量积/内积)、叉积(叉乘/向量积)、外积(张量积/Kronecker积)、哈达玛积(元素积)

1 点积点积(dot product),又称数量积、标量积.输入:一种接受两个等长的数字序列(通常是坐标向量);输出:返回单个数字。在欧几里几何空间中,向量的点积运算又称为内积。表示代数定义推广矩阵的点积/内积,为对应矩阵元素的积之和。A,B是定义为两个相同大小的矩阵。值得注意的是,一些对于A,B大小不同,可以分别把它们组成的向量进行内积。比如在numpy中:im...

2020-01-16 12:41:56 4228

原创 sklearn流型学习实现

from time import timeimport numpy as npimport matplotlib.pyplot as pltfrom mpl_toolkits.mplot3d import Axes3Dfrom matplotlib.ticker import NullFormatterfrom sklearn import manifoldfrom sklear...

2020-01-15 23:45:02 109

原创 科学计算方法:求取平方根5(python实现,梯度下降,二分法)

1 问题求取根号5,并且满足精度小于10的负6次方。2 方法记 f(x)=x2−5f(x) = x^2-5f(x)=x2−5; 求取方程 等于0 的根。方法一 二分法不断维护left,rightleft, rightleft,right ,使得两者相乘小于0。方法二:迭代法根据泰勒展开:如果使用牛顿法,有以上的公式。然后不断迭代。参考:计算方法 PPT...

2020-01-10 23:58:59 820

原创 LeetCode213. 打家劫舍 II(Java,动态规划)

1.问题你是一个专业的小偷,计划偷窃沿街的房屋,每间房内都藏有一定的现金。这个地方所有的房屋都围成一圈,这意味着第一个房屋和最后一个房屋是紧挨着的。同时,相邻的房屋装有相互连通的防盗系统,如果两间相邻的房屋在同一晚上被小偷闯入,系统会自动报警。给定一个代表每个房屋存放金额的非负整数数组,计算你在不触动警报装置的情况下,能够偷窃到的最高金额。示例 1:输入: [2,3,2]输出: 3解释...

2020-01-10 15:24:58 104

原创 LeetCode152. 乘积最大子序列(Java,动态规划)

1.问题给定一个整数数组 nums ,找出一个序列中乘积最大的连续子序列(该序列至少包含一个数)。示例 1:输入: [2,3,-2,4]输出: 6解释: 子数组 [2,3] 有最大乘积 6。力扣(LeetCode);2.解答这是一个动态规划的问题, 从左到右进行遍历,并且维护包含当前元素的最大max_value,最小子序列和min_value(因为最小的负数乘于一个负数,就有可能...

2020-01-10 14:39:46 172

原创 LeetCode91. 解码方法(Java,动态规划)

1.问题一条包含字母 A-Z 的消息通过以下方式进行了编码:'A' -> 1'B' -> 2...'Z' -> 26给定一个只包含数字的非空字符串,请计算解码方法的总数。示例 1:输入: "12"输出: 2解释: 它可以解码为 "AB"(1 2)或者 "L"(12)。力扣(LeetCode);2.方法这里,使用 cur 记录从首字符到当前字符串的解码...

2020-01-10 12:06:24 171

原创 Java类型转换(String转换成int, 强制转换)

1 String 转换为intString myString = "1234";int foo = Integer.parseInt(myString);参考:1 stackoverflow how to convert string to int.

2020-01-10 10:44:57 301

原创 LeetCode63. 不同路径 II(动态规划,Java,python)

1.问题一个机器人位于一个 m x n 网格的左上角 (起始点在下图中标记为“Start” )。机器人每次只能向下或者向右移动一步。机器人试图达到网格的右下角(在下图中标记为“Finish”)。现在考虑网格中有障碍物。那么从左上角到右下角将会有多少条不同的路径?网格中的障碍物和空位置分别用 1 和 0 来表示。说明:m 和 n 的值均不超过 100。示例 1:输入:[ [0,...

2020-01-09 12:15:43 74

原创 LeetCode62. 不同路径(Java,动态规划)

1.问题一个机器人位于一个 m x n 网格的左上角 (起始点在下图中标记为“Start” )。机器人每次只能向下或者向右移动一步。机器人试图达到网格的右下角(在下图中标记为“Finish”)。问总共有多少条不同的路径?**说明:**m 和 n 的值均不超过 100。示例 1:输入: m = 3, n = 2输出: 3解释:从左上角开始,总共有 3 条路径可以到达右下角。1....

2020-01-09 11:56:16 173

原创 SQL高级使用JOIN

1.类型LEFT JOIN、RIGHT JOIN、INNER JOIN、OUTER JOINSQL JOINSQL JOIN 子句用于把来自两个或多个表的行结合起来,基于这些表之间的共同字段。2.几种方式LEFT ONSELECT * FROM ALEFT JOIN B ON A.aID = B.bIDSQL INNER JOINSELECT Websites.id, We...

2020-01-09 09:52:32 69

原创 python 多重list初始化

正确:x = [[foo for i in range(10)] for j in range(10)]错误:x = [[foo for i in range(10)]]*10这样定义的list ,只要其中的某行发生改变,其他行的元素也会发生改变!参考:How to initialize a two-dimensional array in Python?;...

2020-01-08 18:12:57 473

原创 SQL(MySQL)数据库语言学习系列(7): SQL常用语句增删查改

0.简介使用 MySQL导入数据库中的数据库。1.SELECTSQL从数据库中选取数据。语法有:SELECT column_name,column_name FROM table_name;或者:选择全部列:SELECT * FROM table_name;示例:mysql> SELECT name,country FROM Websites;+----------...

2020-01-08 14:15:33 101

原创 SQL(MySQL)数据库语言学习系列(6): MySQL导入数据库(windows系统)

1.下载数据库在菜鸟教程中下载 websites.sql数据库;2.导入数据库方法一# 启动MySQLnet start MySQL# 进入MySQLmysql -u root -pmysql> create database websitesmysql> use websitesmysql> set names utf8;source E:\websit...

2020-01-08 11:10:20 91

原创 python提高运行效率方法

1.设置缓存示例:from functools import lru_cacheclass Solution: @lru_cache(10**8) def climbStairs(self, n): """ :type n: int :rtype: int """ if n == 1: ...

2020-01-08 10:19:14 153

原创 LeetCode70. 爬楼梯(Java,动态规划,简单题)

1.问题假设你正在爬楼梯。需要 n 阶你才能到达楼顶。每次你可以爬 1 或 2 个台阶。你有多少种不同的方法可以爬到楼顶呢?注意:给定 n 是一个正整数。示例 1:输入: 2输出: 2解释: 有两种方法可以爬到楼顶。1. 1 阶 + 1 阶2. 2 阶来源:力扣(LeetCode)2.解法在阶梯 n 处,可以由 n-1 处跳一个阶梯,和 n-2 处跳两个阶梯到达。容易...

2020-01-08 10:13:23 87

原创 Leetcode53. 最大子序和(java,动态规划)

1. 问题给定一个整数数组 nums ,找到一个具有最大和的连续子数组(子数组最少包含一个元素),返回其最大和。示例:输入: [-2,1,-3,4,-1,2,1,-5,4],输出: 6解释: 连续子数组 [4,-1,2,1] 的和最大,为 6。进阶:如果你已经实现复杂度为 O(n) 的解法,尝试使用更为精妙的分治法求解。力扣(LeetCode)2. 解答方法一:思路很简单,...

2020-01-07 20:46:02 149

原创 SQL(MySQL)数据库语言学习系列(4): python的SQL工具包SQLAlchemy

1.简介SQLAlchemy是Python编程语言下的一款开源软件。提供了SQL工具包及对象关系映射(ORM)工具,使用MIT许可证发行。SQLAlchemy“采用简单的Python语言,为高效和高性能的数据库访问设计,实现了完整的企业级持久模型”。2 示例插入数据:Session = sessionmaker(bind=engine)session = Session()m1 =...

2020-01-07 20:00:40 129

原创 SQL(MySQL)数据库语言学习系列(5): 常用MySQL图形化管理工具

1.PHPmyadmin官网 看它免费,先用这个。1.常用MySQL图形化管理工具

2020-01-07 19:42:41 4586

原创 SQL(MySQL)数据库语言学习系列(2): SQL关系模型概念

主键不能重复不是指两条记录不完全相同,而是指能够通过某个字段唯一区分出不同的记录,这个字段被称为主键。记录一旦插入到表中,主键最好不要再修改,因为主键是用来唯一定位记录的,修改了主键,会造成一系列的影响。基本原则是:不使用任何业务相关的字段作为主键。身份证号、手机号、邮箱地址这些看上去可以唯一的字段,均不可用作主键。常见的可作为id字段的类型有:自增整数类型:数据库会在插入数据时自动为...

2020-01-07 17:04:00 101

原创 SQL(MySQL)数据库语言学习系列(1):基本概念

1.SQL是什么SQL,指结构化查询语言,全称是 Structured Query Language。SQL 是用于访问和处理数据库的标准的计算机语言。这类数据库包括:MySQL、SQL Server、Access、Oracle、Sybase、DB2 等等。RDBMS 指关系型数据库管理系统,全称 Relational Database Management System。RDBMS 是...

2020-01-07 15:08:43 80

原创 推荐系统:排序算法(pointwise,pairwise,Listwise)

1. 概念排序学习是机器学习在信息检索系统里的应用,其目标是构建一个排序模型用于对列表进行排序。2. 排序方法2.1 Pointwise 方法Pointwise方法是通过近似为回归问题解决排序问题,将每个查询-文档对的相关性得分作为实数分数或者序数分数,训练排序模型。预测时候对于指定输入,给出查询-文档对的相关性得分。模型在参数训练阶段只考虑对每个<用户,物品>独立的打分,...

2020-01-07 14:58:05 7511

原创 推荐系统中CTR排序模型汇总(LR,GBDT,FM,FFM,MLR,Deep and wide,Deep and cross,deepFM,XDeepFM,PNN,NFM,AFM)

1.CTRctr, click through rate,广告被点击次数 / 广告显示次数。2. CTR 传统预估模型CTR预估模型公式:y=f(x)y = f(x)y=f(x), y∈[0,1]y \in [0, 1]y∈[0,1], 表示广告被点击的概率。2.1 LRLR,logistic regression,是CTR预估模型的最基本模型,适用海量的高维离散特征。f(x)=11+...

2020-01-06 20:20:08 7885

原创 搜索引擎工作原理

1.工作原理搜索引擎输入关键词返回搜索列表的过程?《你刚才在淘宝上买了一件东西》:在首页搜索框中输入“毛衣”二字并按回车键,这时你又产生了一个PV,然后,淘宝网的主搜索系统便开始为你服务,它首先对你输入的内容基于一个分词库进行分词操作。众所周知,英文是以词为单位的,词和词之间靠空格隔开,而中文是以字为单位,句子中所有的字连起来才能描述一个意思。例如,英文句子“I am a studen...

2020-01-06 20:00:26 6472

原创 加快深度神经网络学习的方法

1. 使用优越的优化器如下图所示,Adagrad 比 SGD 优化速度更快。2. BatchNormalization层批标准化 Batch Normalization参考:Alec Radford’s animations for optimization algorithms;How to speed up training of a Neural Network?;...

2020-01-06 16:07:53 6572

原创 多重共线性处理方法

1.多重共线性自变量(解释变量)之间彼此相关的现象,我们称这种现象为多重共线性。2.解决方法手动移除出共线性的变量先做下相关分析,如果发现某两个自变量X(解释变量)的相关系数值大于0.7,则移除掉一个自变量(解释变量),然后再做回归分析。此方法是最直接的方法,但有的时候我们不希望把某个自变量从模型中剔除,这样就要考虑使用其他方法。逐步回归法让系统自动进行自变量的选择剔除,使用逐...

2020-01-06 15:36:10 6897

原创 【坑】最大熵模型

1、最大熵模型2、最优化算法最大熵模型归结为,使用似然函数为目标函数的最优化问题。最优化问题,往往使用,迭代尺度法,梯度下降法,牛顿法,拟牛顿法等。3.1改进的迭代尺度算法IIS思路:求似然对数函数的值,然后以ω=ω+δ来更新参数变量ω,重复求似然对数函数,直到找到最大值为止。技巧:直接求L(ω+δ)-L(ω),使用不等式来减少变量,获得极值。例如δ变量就有δi,i=1,2,…,n.我...

2020-01-06 15:24:29 526

原创 Leetcode226. 翻转二叉树(Java,python)

1.问题描述翻转一棵二叉树。示例:输入: 4 / \ 2 7 / \ / \1 3 6 9输出: 4 / \ 7 2 / \ / \9 6 3 1力扣(LeetCode);2.方案递归的方式解决。/** * Definition for a binary tree node. ...

2020-01-06 14:06:11 108

原创 L1正则化和L2正则化

1.范数定义p范数:1范数:相应的L1正则项:以矩阵www 为例:∑i=1k∣wi∣\sum_{i=1}^k|w_i|i=1∑k​∣wi​∣2范数:相应的L2正则项:∑i=1kwi2\sum_{i=1}^k w_i^2i=1∑k​wi2​2.区别L1:得到的参数的先验概率分布满足拉普拉斯分布,适合获得稀疏解,可用于特征选择等场景;L2:得到的参数w的先验概率分...

2020-01-05 17:18:48 560

原创 Pytorch clamp修剪数据

torch.clamp(input, min, max, out=None) → TensorClamp all elements in input into the range [ min, max ] and return a resulting tensor:参考:torch clamp

2020-01-02 15:17:24 237

原创 Pytorch probability distributions

1.OneHotCategoricaltorch.distributions.one_hot_categorical.OneHotCategorical(probs=None, logits=None, validate_args=None)根据给定的概率probs, 创建一个 one-hot 的类别分布.m = OneHotCategorical(torch.tensor([ 0.1, 0...

2020-01-02 15:04:38 398

原创 Pytorch argmax

1.argmaxtorch.argmax(input, dim, keepdim=False) → LongTensor返回指定维度的最大值的索引。2.示例b = torch.randn(4, 5)torch.argmax(b, dim=0)Output:# btensor([[-2.2276, 0.9573, -1.9554, 0.8877, 0.7543], ...

2020-01-02 14:47:41 2118

原创 Pytorch stop_gradient

1.var.detach()detach():返回一个新的Tensor,并且不需要计算梯度。Returns a new Tensor, detached from the current graph.这里的 var 是指一个tensor。2. var.requires_grad_(requires_grad=False)指定tensor是否需要进行梯度更新。这里的var是指一个te...

2020-01-02 14:30:16 1439

原创 Pytorch 实现tf.gather()

1. 实现tf.gather在pytorch中,实现 tf.gather 很简单,只需要使用 select。select(dim, index) → Tensor比如,import numpy as npa = np.array([[1],[2],[3],[4],[5]])b = torch.from_numpy(a)indices = [ 1, 2, 0]b[indices]...

2020-01-02 11:39:13 1189

python程序设计(浙江大学).rar

python程序设计PPT(浙江大学python课件)对应慕课该课程PPT。 包含9章内容: python语言介绍; 语句; 字符串,列表,元组; 集合,字典; 函数,命名空间和作用域; 文件读写操作; Web应用; 网络爬虫;等

2020-10-22

深度卷积生成对抗网络TensorFlow代码实现

Tensorflow implementation of [Deep Convolutional Generative Adversarial Networks](http://arxiv.org/abs/1511.06434) which is a stabilize Generative Adversarial Networks.

2018-12-25

变分自编码器python代码

generate.py; model.py; train.py; read.py四个代码文件,实现vae。

2018-12-25

Python for Probability,Statistics,and Machine Learning.pdf

Python for Probability,Statistics,and Machine Learning.pdf Python for Probability,Statistics,and Machine Learning.pdf

2018-01-11

tennessee-eastman21Faults.rar

TE过程数据 d00.dat ~ d21.dat 以及 d00_te.dat ~ d21_te.dat

2012-12-31

小波变换详解及应用2页PPT

小波变换 在这一章中,我们介绍小波转换。最近几年来,有一种方法被使 用在分解信号方面,而此方法就是小波转换,为什么我们需要这个方 法去分解信号呢?为了去回答这个问题,我们先来看看另一种对分析信 号的标准工具-傅立叶转换(Fourier transform)。

2017-11-27

从FM到FFM.pdf

美团技术团队的FM各类模型分析,侵删。

2020-04-27

预训练在⾃然语⾔处理的发展,从Word Embedding到BERT模型

预训练在⾃然语⾔处理的发展,从Word Embedding到BERT模型,45页PPT

2018-11-23

C++编写的图书馆管理系统

使用C++编写 的图书馆管理系统。 void ViewBook(ook &amp;boo;,lend &amp;Lin;); void ViewCard(ook &amp;boo;,lend &amp;Lin;)等还几个类。

2017-11-22

Windows直接安装版本redis-3

Windows直接安装版本redis-3.2 64位 下载后解压缩,直接运行安装。

2018-01-30

数据结构基础期末考试 2005-2012.7z

数据结构基础期末考试 2005-2012 Final Exam of Fundamentals of Data Structures 2012-2013.pdf Final Exam of Fundamentals of Data Structures 2011-2012.pdf etc

2017-12-09

TensorFlow_ Large-Scale Machine Learning

TensorFlow_ Large-Scale Machine Learning on Heterogeneous Distributed Systems.pdf )

2017-12-17

arduinoTimerOneLibrary_v1.1.0

The library provides two objects — Timer1 and TimerRTC — to manipulate different hardware timers as follows.

2017-11-08

MySQL编译文件直接下载安装mysqlclient-1.3.7-cp35-none-win_amd64.whl

MySQL编译文件直接下载安装mysqlclient-1.3.7-cp35-none-win_amd64.whl 只使用于python3.5! 其他python需要相应版本的。

2018-01-28

visual studio 黑色主题

visual studio 黑色主题,适用于各个版本,直接导入配置即可。 dark-vision.vssettings

2018-01-25

C程往年试卷2000-2010年

C程往年试卷2000-2010年 ZJU C程往年试卷2000-2010年

2018-01-14

生成对抗网络画猫python

使用对抗神经网络来画猫.pptx; 以及对应的生成对抗网络代码。 使用对抗神经网络来画猫.pptx; 以及对应的生成对抗网络代码。 使用对抗神经网络来画猫.pptx; 以及对应的生成对抗网络代码。

2018-12-25

使用AutoEncoder实现语音增强.pptx

使用AutoEncoder实现语音增强.pptx,15页PPT内容;使用AutoEncoder实现语音增强.pptx

2018-12-29

python qt gui快速编程PyQt编程指南 pdf扫描版及随书源代码源码.zip

PYTHON QT GUI快速编程---PYQT编程指南》,其英文原版书名为:《Rapid GUI Programming with Python and Qt》PDF扫描版; 包括随书源代码。

2018-03-04

人工智能Nilsson(中文版)

人工智能(中文版 nils nilsson).pdf 人工智能: 英文版- 尼尔森, Nils J. Nilsson

2018-11-26

机器学习实战随书代码machine learning in action

机器学习实战随书代码machine learning in action随书代码;CH02-CH15

2017-12-19

深度学习与自然语言处理

2018年发布的,由佐治亚理工学院交互计算学院副教授Jacob Eisenstein编写的深度学习与自然语言处理的教材。 LEARNING;SEQUENCES and TREES;MEANING

2018-12-13

rosefunR的留言板

发表于 2020-01-02 最后回复 2020-04-09

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人 TA的粉丝

提示
确定要删除当前文章?
取消 删除