El mecanismo de Laplace es una forma de liberar un número “en privado”, por ejemplo, como en el siguiente escenario:
Usted es un hospital y tiene datos de pacientes de 100 pacientes. Un atacante le envía una consulta, como cuántos de sus pacientes tienen diabetes. La verdadera respuesta es 50. Digamos que el atacante sabe todo lo que sabe sobre 99 de sus pacientes y que 49 de ellos tienen diabetes. Ahora, si responde con la respuesta 50, el atacante se entera de que el paciente número 100 tiene diabetes. (En el momento del ataque, pueden o no saber nada más sobre el paciente número 100. Pero si descubren algo sobre él en una etapa posterior, esto aún constituiría una violación de la privacidad).
El mecanismo de Laplace evitará que esto suceda de la siguiente manera. En lugar de dar siempre la respuesta 50, usted (utilizando el mecanismo de Laplace) respondería con un número diferente que está muy cerca de 50 con una probabilidad muy alta. De hecho, los números cercanos a la respuesta verdadera son exponencialmente más probables que los números que están más lejos. La respuesta que proporciona se toma de una distribución de Laplace con la media de la respuesta verdadera y alguna escala (determinada por el parámetro de privacidad y la sensibilidad de su función de consulta).
- ¿Cuál es la reputación del programa de informática de Cornell, en comparación con otros programas principales? ¿Qué tan bueno es Cornell con trabajos en grandes empresas tecnológicas (por ejemplo, Facebook, etc.), frente a Carnegie Mellon o Stanford?
- ¿Es la máquina de vectores de soporte (SVM) una estructura de datos o un algoritmo?
- Me estoy graduando de un campo de entrenamiento de codificación, pero nunca he tomado una clase de CS. ¿Qué pasantías puedo solicitar este verano?
- ¿Cuáles son algunos buenos memes sobre Geoffrey Hinton / Andrew Ng?
- ¿Cuáles son los mejores casos de uso para aplicar inteligencia artificial a las ventas?
Digamos, por ejemplo, que respondes con 51. Ahora el atacante adivina que la respuesta verdadera es 49 o 50. Sabe que no puede ser 51, pero no está muy seguro de si fue 49 o 50. En otras palabras, no está seguro si la distribución de la que se extrajo el 51 estaba centrada en 50 o 49.
En más detalle, (ignorando por el momento que Laplace es una distribución sobre una variable aleatoria continua; de lo contrario, tenemos que integrarnos para obtener la probabilidad)
[matemáticas] \ frac {P (verdad = 50 | respuesta = 51)} {P (verdad = 49 | respuesta = 51)} = [/ matemáticas]
[matemáticas] \ frac {P (respuesta = 51 | verdad = 50)} {P (respuesta = 51 | verdad = 49)} \ times \ frac {P (verdad = 50)} {P (verdad = 49)}. [/mates]
Si suponemos que el atacante no sabe qué respuesta es más probable a priori, entonces solo podemos ver la razón de las probabilidades. Esas son las densidades de Laplace con parámetros de igual escala, entonces
[matemáticas] \ frac {P (respuesta = 51 | verdad = 50)} {P (respuesta = 51 | verdad = 49)} = [/ matemáticas] [matemáticas] \ frac {e ^ {| 50 – 51 | / scale}} {e ^ {| 49 – 51 | / scale}} = e ^ {- 1 / scale}. [/ math]
Esto satisface la privacidad diferencial con [math] \ epsilon = 1 / scale. [/ Math]
En resumen, el mecanismo de Laplace perturba la respuesta verdadera al elegir una “mentira piadosa”: es útil porque generalmente está muy cerca de la respuesta verdadera, pero es una mentira, ya que aún conserva la privacidad de las personas.
