教育资源为主的文档平台

当前位置: 查字典文档网> 所有文档分类> > 互联网> 简单易学的机器学习算法 极限学习机(ELM)

简单易学的机器学习算法 极限学习机(ELM)

上传者:郭殿杰
|
上传时间:2015-05-06
|
次下载

简单易学的机器学习算法 极限学习机(ELM)

内容需要下载文档才能查看

即存在,和

内容需要下载文档才能查看

,使得

内容需要下载文档才能查看

可以矩阵表示为其中,

内容需要下载文档才能查看

是隐层节点的输出,

内容需要下载文档才能查看

为输出权重,

内容需要下载文档才能查看 内容需要下载文档才能查看

为期望输出。

内容需要下载文档才能查看

,为了能够训练单隐层神经网络,我们希望得到,

内容需要下载文档才能查看

内容需要下载文档才能查看

,使得其中,

内容需要下载文档才能查看

,这等价于最小化损失函数传统的一些基于梯度下降法的算法,可以用来求解这样的问题,但是基本的基于梯度的学习算法需要在迭代的过程中

内容需要下载文档才能查看

调整所有参数。而在ELM算法中, 一旦输入权重和隐层的偏置被随机确定,隐层的输出矩阵

内容需要下载文档才能查看

就被唯一确定。训练单隐层神经网络可以转化为求解一个线性系统。并且输出权重

内容需要下载文档才能查看

可以被确定

其中,三、实验是矩阵

内容需要下载文档才能查看

的Moore-Penrose广义逆。且可证明求得的解的范数是最小的并且唯一。

    我们使用《简单易学的机器学习算法——Logistic回归》中的实验数据。

原始数据集

我们采用统计错误率的方式来评价实验的效果,其中错误率公式为:

内容需要下载文档才能查看

对于这样一个简单的问题,MATLAB代码

主程序

[plain] 

01. 

02. 

03. 

04. 

05. 

06. 

07. 

08. 

09. 

10. 

11. 

12. 

13. 

14. 

15. 

16. 

17. 

18. 

19. 

20. 

21. 

22. 

23. 

24. 

25. 

26. 

27. 

28. 

29. 

30. 

31. 

32. 

33. 

34. 

35. 

36. 

37. 

38. 

39. 

40. 

41. 

42. 

43. 

44. 

45. 

46. 

47. 

48. 

49. 

50. 

51. 

52. 

53. 

54. 

55. 

56. 

57. 

58. 

59. %% 主函数,二分类问题    %导入数据集  A = load('testSet.txt');    data = A(:,1:2);%特征  label = A(:,3);%标签    [N,n] = size(data);    L = 100;%隐层节点个数  m = 2;%要分的类别数    %‐‐初始化权重和偏置矩阵  W = rand(n,L)*2‐1;  b_1 = rand(1,L);  ind = ones(N,1);  b = b_1(ind,:);%扩充成N*L的矩阵    tempH = data*W+b;  H = g(tempH);%得到H    %对输出做处理  temp_T=zeros(N,m);  for i = 1:N      if label(i,:) == 0          temp_T(i,1) = 1;      else           temp_T(i,2) = 1;      end      end  T = temp_T*2‐1;    outputWeight = pinv(H)*T;    %‐‐画出图形  x_1 = data(:,1);    x_2 = data(:,2);    hold on    for i = 1 : N        if label(i,:) == 0            plot(x_1(i,:),x_2(i,:),'.g');        else            plot(x_1(i,:),x_2(i,:),'.r');        end    end    output = H * outputWeight;  %‐‐‐计算错误率  tempCorrect=0;  for i = 1:N      [maxNum,index] = max(output(i,:));      index = index‐1;      if index == label(i,:);          tempCorrect = tempCorrect+1;      end  end    errorRate = 1‐tempCorrect./N;  。激活函数

[plain] 

01. 02. 

03. function [ H ] = g( X )      H = 1 ./ (1 + exp(‐X));  end  

黄老师提供的极限学习机的代码:点击打开链接

版权声明:此文档由查字典文档网用户提供,如用于商业用途请与作者联系,查字典文档网保持最终解释权!

下载文档

热门试卷

2016年四川省内江市中考化学试卷
广西钦州市高新区2017届高三11月月考政治试卷
浙江省湖州市2016-2017学年高一上学期期中考试政治试卷
浙江省湖州市2016-2017学年高二上学期期中考试政治试卷
辽宁省铁岭市协作体2017届高三上学期第三次联考政治试卷
广西钦州市钦州港区2016-2017学年高二11月月考政治试卷
广西钦州市钦州港区2017届高三11月月考政治试卷
广西钦州市钦州港区2016-2017学年高一11月月考政治试卷
广西钦州市高新区2016-2017学年高二11月月考政治试卷
广西钦州市高新区2016-2017学年高一11月月考政治试卷
山东省滨州市三校2017届第一学期阶段测试初三英语试题
四川省成都七中2017届高三一诊模拟考试文科综合试卷
2017届普通高等学校招生全国统一考试模拟试题(附答案)
重庆市永川中学高2017级上期12月月考语文试题
江西宜春三中2017届高三第一学期第二次月考文科综合试题
内蒙古赤峰二中2017届高三上学期第三次月考英语试题
2017年六年级(上)数学期末考试卷
2017人教版小学英语三年级上期末笔试题
江苏省常州西藏民族中学2016-2017学年九年级思想品德第一学期第二次阶段测试试卷
重庆市九龙坡区七校2016-2017学年上期八年级素质测查(二)语文学科试题卷
江苏省无锡市钱桥中学2016年12月八年级语文阶段性测试卷
江苏省无锡市钱桥中学2016-2017学年七年级英语12月阶段检测试卷
山东省邹城市第八中学2016-2017学年八年级12月物理第4章试题(无答案)
【人教版】河北省2015-2016学年度九年级上期末语文试题卷(附答案)
四川省简阳市阳安中学2016年12月高二月考英语试卷
四川省成都龙泉中学高三上学期2016年12月月考试题文科综合能力测试
安徽省滁州中学2016—2017学年度第一学期12月月考​高三英语试卷
山东省武城县第二中学2016.12高一年级上学期第二次月考历史试题(必修一第四、五单元)
福建省四地六校联考2016-2017学年上学期第三次月考高三化学试卷
甘肃省武威第二十三中学2016—2017学年度八年级第一学期12月月考生物试卷

网友关注视频

19 爱护鸟类_第一课时(二等奖)(桂美版二年级下册)_T502436
冀教版小学英语四年级下册Lesson2授课视频
第4章 幂函数、指数函数和对数函数(下)_六 指数方程和对数方程_4.7 简单的指数方程_第一课时(沪教版高一下册)_T1566237
冀教版小学数学二年级下册第二单元《有余数除法的简单应用》
沪教版牛津小学英语(深圳用)五年级下册 Unit 1
冀教版小学英语五年级下册lesson2教学视频(2)
第五单元 民族艺术的瑰宝_16. 形形色色的民族乐器_第一课时(岭南版六年级上册)_T3751175
小学英语单词
冀教版小学数学二年级下册第二单元《租船问题》
冀教版小学数学二年级下册第二单元《有余数除法的整理与复习》
冀教版小学数学二年级下册第二单元《余数和除数的关系》
七年级英语下册 上海牛津版 Unit9
北师大版小学数学四年级下册第15课小数乘小数一
外研版英语三起6年级下册(14版)Module3 Unit2
苏科版数学八年级下册9.2《中心对称和中心对称图形》
第19课 我喜欢的鸟_第一课时(二等奖)(人美杨永善版二年级下册)_T644386
3月2日小学二年级数学下册(数一数)
人教版二年级下册数学
【部编】人教版语文七年级下册《泊秦淮》优质课教学视频+PPT课件+教案,天津市
沪教版八年级下次数学练习册21.4(2)无理方程P19
3.2 数学二年级下册第二单元 表内除法(一)整理和复习 李菲菲
外研版英语三起6年级下册(14版)Module3 Unit1
外研版英语七年级下册module3 unit2第一课时
8.对剪花样_第一课时(二等奖)(冀美版二年级上册)_T515402
第12章 圆锥曲线_12.7 抛物线的标准方程_第一课时(特等奖)(沪教版高二下册)_T274713
七年级英语下册 上海牛津版 Unit3
沪教版牛津小学英语(深圳用) 四年级下册 Unit 8
冀教版英语四年级下册第二课
《空中课堂》二年级下册 数学第一单元第1课时
沪教版牛津小学英语(深圳用) 四年级下册 Unit 3