Transformer架构已经在现代机器学习领域得到了广泛的应用。注意力是transformer的一大核心组件，其中包含了一个softmax，作用是产生token的一个概率分布。softmax有较高的成本，因为其会执行指数计算和对序列长度求和，这会使得并行化难以执行。GoogleDeepMind想到了一个新思路：用某种不一定会输出概率分布的新方法替代softmax运算。他们还观察到：在用于视觉Transformer时，使用ReLU除以序列长度的注意力可以接近或匹敌传统的softmax注意力。论文：https://arxiv.org/abs/2309.08586这一结果为并行化带来了新方案，因为

我正在创建一个带有循环背景音乐的SpriteKit游戏。问题是音乐太大声了。如何降低音量？这是我用来设置音乐的代码varbackGroundMusic=AVAudioPlayer()varbgMusicUrl:NSURL=NSBundle.mainBundle().URLForResource("BackGround",withExtension:"wav")backGroundMusic=AVAudioPlayer(contentsOfURL:bgMusicUrl,error:nil)backGroundMusic.numberOfLoops=(-1)backGroundMusic.