极限学习机(ELM)会大量映射到激活函数的饱和区域,同时隐含层输入与输岀远远不能获得共同的分布方式,导致泛化性能大打折扣。针对这一问题,研究了在高斯分布下优化激活函数中仿射变换(AT)的极限学习机,主要思想是在隐含层输入数据上引入新型的线性关系,利用梯度下降算法对误差函数中的缩放参数和平移参数进行优化,以满足隐含层输岀能够高度服从高斯分布。基于高斯分布计算仿射参数的方法,能够保证隐节点相互独立的同时,也强调了高度的依赖关系。实验结果表明,在实际分类数据集和图像回归数据集中,隐含层输岀数据不能很好地服从均匀分布,但服从高斯分布趋势,总体上能够达到更好的实验效果与原始ELM算法和AT-ELM1算法比较,均有显著的改善。
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
全部0条评论
快来发表一下你的评论吧 !