一篇数据浓缩在医疗数据集应用中的论文。
其实就是在医疗数据集上使用了data condensation的方法,这里使用了DM的方式,并且新增了浓缩时候使用不同的网络。
1. 方法
数据浓缩DC的目的是:
E x ∼ P D [ L ( φ θ O ( x ) , y ) ] ≃ E x ∼ P D [ L ( φ θ c ( x ) , y ) ] \mathbb{E}_{\mathbf{x} \sim P_{\mathcal{D}}}\left[\mathrm{L}\left(\varphi_{\boldsymbol{\theta}^{\mathcal{O}}}(\mathbf{x}), y\right)\right] \simeq \mathbb{E}_{\mathbf{x} \sim P_{\mathcal{D}}}\left[\mathrm{L}\left(\varphi_{\boldsymbol{\theta}^{\mathcal{c}}}(\mathbf{x}), y\right)\right] Ex∼PD[L(φθO(x),y)]≃Ex∼PD[L(φθc(x),y)]
对于数据x,在原始数据 O \mathcal{O} O和生成数据 c \mathcal{c} c上训练得到的模型要有接近的模型效果。
作者用DM来实现数据浓缩,并且选择随机的模型,随机的参数(作者说在DM中,只选择了一个模型的而不同参数训练,这里使用不同模型不同参数更能保护隐私)
min C E ϕ μ k k ∼ Φ , μ k ∼ P μ k ∥ 1 ∣ O ∣ ∑ i = 1 ∣ O ∣ ϕ μ k k ( x i ) − 1 ∣ C ∣ ∑ j = 1 ∣ C ∣ ϕ μ k k ( c j ) ∥ 2 \min _{\mathcal{C}} \mathbb{E}_{\phi_{\boldsymbol{\mu}_k}^k \sim \Phi, \boldsymbol{\mu}_k \sim P_{\boldsymbol{\mu}_k}}\left\|\frac{1}{|\mathcal{O}|} \sum_{i=1}^{|\mathcal{O}|} \phi_{\boldsymbol{\mu}_k}^k\left(\mathbf{x}_i\right)-\frac{1}{|\mathcal{C}|} \sum_{j=1}^{|\mathcal{C}|} \phi_{\boldsymbol{\mu}_k}^k\left(\mathbf{c}_j\right)\right\|^2 CminEϕμkk∼Φ,μk∼Pμk ∣O∣1i=1∑∣O∣ϕμkk(xi)−∣C∣1j=1∑∣C∣ϕμkk(cj) 2