数据安全分享机制与分布式聚合技术解析

### 数据安全分享机制与分布式聚合技术解析 #### 1. 掩码机制安全性探讨 在数据安全领域，掩码机制的安全性至关重要。我们通过研究其能否抵御暴力搜索攻击来评估其安全性。攻击者可能会随机枚举多个掩码向量，分别用这些掩码向量在表示上训练逆模型，然后将在重建他人数据时表现最佳的向量作为受害者掩码的近似值。 为了探究这一问题，我们进行了实验，研究重建损失 $L_R$ 与攻击者和防御者所持掩码的重叠率之间的关系。重叠率等于掩码向量的汉明距离除以其维度。实验在 MNIST 数据集上进行，相关设置如下表所示： | 重叠率 | 0% | 25% | 50% | 75% | 100% | | --- | --- | --- | --- | --- | --- | | $\epsilon = 50$ | 0.119 | 0.101 | 0.082 | 0.048 | 0.021 | | $\epsilon = 100$ | 0.179 | 0.156 | 0.128 | 0.09 | 0.025 | 从表中可以看出，重叠率越高，隐私泄露的风险就越高。因此，我们接下来将研究掩码的重叠情况。 对于任意 $n$ 维掩码向量 $m_1$ 和 $m_2$，我们用 $H(m_1, m_2)$ 表示它们之间的汉明距离，并定义它们之间的重叠率为 $o(m_1, m_2) = \frac{n - H(m_1, m_2)}{n}$。则有： $P [n - H(m_1, m_2) = i] = \frac{1}{2^n} \binom{n}{i}$ 这意味着 $X = n - H(m_1, m_2) \sim B(n, 0.5)$。 假设 $t$ 是一个实数，且 $\frac{1}{2} < t \leq 1$，根据棣莫弗 - 拉普拉斯定理，$m_1$ 和 $m_2$ 有 $t \cdot n$ 位不同的概率为： $\lim_{n \to \infty}P [o(m_1, m_2) \geq t] = \lim_{n \to \infty}P [tn \leq n - H(m_1, m_2) \leq n] = \lim_{n \to \infty}P \left[ (2t - 1)\sqrt{n} \leq \frac{X - \frac{1}{2}n}{\frac{1}{2}\sqrt{n}} \leq \sqrt{n} \right] = \lim_{n \to \infty}\frac{1}{\sqrt{2\pi}} \int_{(2t - 1)\sqrt{n}}^{\sqrt{n}} e^{-\frac{x^2}{2}} dx = \lim_{n \to \infty}\Phi(\sqrt{n}) - \Phi((2t - 1)\sqrt{n}) = 0$ 因此，如果维度 $n$ 足够大，对于任意 $\frac{1}{2} < t \leq 1$，两个随机 $n$ 维向量的重叠率大于 $t$ 的概率趋近于 0。此外，我们认为 $\epsilon = 50$ 是保留数据信息的可接受隐私预算。也就是说，如果攻击者和用户所持掩码的重叠率大于一个实数 $t$（$\frac{1}{2} < t \leq 1$），则认为攻击成功。当潜在表示的维度足够大时，用户数据的隐私可以得到保证。例如，当潜在表示的维度为 256 时，如果我们接受 75% 作为重叠率，那么 $P [o(m_1, m_2) \geq 0.75] \leq 2.449 \times 10^{-16}$，这意味着掩码机制可以很好地保护数据隐私。 #### 2. 非交互式、安全可验证的分布式聚合技术 在当今数字化时代，智能手机、可穿戴设备和其他物联网设备相互连接，产生了大量数据。这些数据通常需要进行聚合以计算统计信息，从而改进服务。机器学习（ML）算法在这一过程中发挥了重要作用，但同时也带来了严重的隐私和安全问题。 为了解决这些问题，出现了一种新的分布式学习范式——联邦学习（FL）。FL 允许多个用户在中央服务器的协调下协作训练学习模型，同时通过将用户数据存储在源设备上提供强大的隐私保证。具体来说，中央服务器收集和聚合多个用户的本地参数，并使用聚合值来训练全局训练模型。然而，