entropy
ENTROFORMER: A TRANSFORMER-BASED ENTROPY MODEL基于transformer的熵模型
目录简介模型核心代码性能实验 简介 \(\quad\)由于cnn在捕获全局依赖关系方面效率低,因此该文章提出了基于tansformer的熵模型——Entoformer;并针对图像压缩进行了top-k self-attention和a diamond relative position encodin ......
论文解读(MTEM)《Meta-Tsallis-Entropy Minimization: A New Self-Training Approach for Domain Adaptation on Text Classification》
Note:[ wechat:Y466551 | 可加勿骚扰,付费咨询 ] 论文信息 论文标题:Meta-Tsallis-Entropy Minimization: A New Self-Training Approach for Domain Adaptation on Text Classific ......
模糊散布熵Fuzzy dispersion entropy(Python版)
熵或复杂性度量区分时间序列类别和理解潜在动态的能力是众所周知的。模糊散布熵(Fuzzy dispersion entropy,python代码:https://mbd.pub/o/bread/mbd-ZJuVmZ1u)是采用一种新颖编码方法来保持子序列的符号表示。该算法非常简单,易于实现,作为特征提 ......
增长熵Increment Entropy,多尺度增长熵,层次增长熵,时移多尺度增长熵,复合多尺度增长熵,精细复合多尺度增长熵(Matlab版)
增长熵Increment Entropy,多尺度增长熵,层次增长熵,时移多尺度增长熵,复合多尺度增长熵,精细复合多尺度增长熵(Matlab代码获取链接: https://mbd.pub/o/bread/mbd-ZJqamJds ) 熵已成为量化时间序列复杂性的常用指标,应用于生物医学、神经科学、电气 ......
模糊散布熵Fuzzy dispersion entropy,多尺度模糊散布熵,层次模糊散布熵,时移多尺度模糊散布熵,复合多尺度模糊散布熵,精细复合多尺度模糊散布熵
模糊散布熵Fuzzy dispersion entropy,多尺度模糊散布熵,层次模糊散布熵,时移多尺度模糊散布熵,复合多尺度模糊散布熵,精细复合多尺度模糊散布熵(Matlab代码获取链接: https://mbd.pub/o/bread/mbd-ZJqamJds ) 熵或复杂性度量区分时间序列类别 ......
斜率熵Slop entropy,多尺度斜率熵,层次斜率熵,时移多尺度斜率熵,复合多尺度斜率熵,精细复合多尺度斜率熵(Matlab版)
斜率熵Slop entropy,多尺度斜率熵,层次斜率熵,时移多尺度斜率熵,复合多尺度斜率熵,精细复合多尺度斜率熵(Matlab代码获取链接:https://mbd.pub/o/bread/mbd-ZJqZlJ5t) 熵或复杂性度量区分时间序列类别和理解潜在动态的能力是众所周知的。斜率熵(Slop ......
相位熵Phase entropy,多尺度相位熵,层次相位熵,时移多尺度相位熵,复合多尺度相位熵,精细复合多尺度相位熵
复杂系统内部结构特征的提取一直是研究人员关注的问题。时间序列作为复杂系统的重要信息载体,得到了广泛的研究。时间序列的复杂性与时间序列的多种动态特性密切相关,如长程相关等、多重分形特征、混沌特征等。这些特征的存在使得时间序列表现出不同程度的复杂性。研究人员希望通过分析时间序列的动态模式来揭示复杂系统的 ......
常见LOSS函数之Cross Entropy(交叉熵)
# 常见LOSS函数之Cross Entropy(交叉熵) 交叉熵是分类问题常用的损失函数。 ## 熵 熵表示稳定性或者说惊喜度,熵越高表示越稳定,其惊喜度就越低。 ![image-20230530203221815](https://gitee.com/drenched-with-snow/pic ......
Exercises 1 in Statistical mechanics: entropy, order parameters, and complexity
这里记录一下一些在《Statistical mechanics: entropy, order parameters, and complexity》这本书的第一章中的一些比较有趣的题目。 Q1 There are M dice each with N sides(labeled by intege ......
The Cross-Entropy Loss Function for the Softmax Function
The Cross-Entropy Loss Function for the Softmax Function 作者:凯鲁嘎吉 - 博客园 http://www.cnblogs.com/kailugaji/ 本文介绍含有softmax函数的交叉熵损失函数的求导过程,并介绍一种交叉熵损失的等价形式, ......
用Python和Pytorch使用softmax和cross-entropy
softmax激活函数 softmax激活函数将包含K个元素的向量转换到(0,1)之间,并且和为1,因此它们可以用来表示概率。 python: def softmax(x): return np.exp(x) / np.sum(np.exp(x), axis=0) x=np.array([0.1, ......