¿Existe una solución analítica para la regresión logística, similar a la de la ecuación normal para la regresión lineal?

Desafortunadamente, no existe una solución de forma cerrada para maximizar la probabilidad logarítmica (o minimizar el inverso, la función de costo logístico); al menos no se ha encontrado, todavía.

Existe la excepción mencionada por el usuario 13189252085764635660, donde solo tiene 2 observaciones, y hay este documento

  • Lipovetsky, Stan. “Solución analítica de forma cerrada para la regresión logit binaria por predictores categóricos”. Journal of Applied Statistics 42.1 (2015): 37-49. (Solución analítica de forma cerrada para la regresión logit binaria por predictores categóricos)

que “muestra que para las variables explicativas categóricas, es posible presentar la solución en las fórmulas analíticas de forma cerrada”.

El problema es que el sigmoide logístico no es lineal; en caso de regresión lineal, se supone un ruido gaussiano independiente.


Editar: Como el usuario 13189252085764635660 menciona en el comentario a continuación, los principales problemas son los altos puntos de apalancamiento y la separación.


De todos modos, la buena propiedad de la función de costo logístico es que es convexa con un mínimo global, por lo que no deberíamos tener ningún problema para adaptar el modelo a través de la optimización iterativa como el descenso de gradiente, Newton-CG, etc.

Creo que la hay, pero la complejidad de alcanzarla es tan grande que no hemos encontrado su contraparte polinominal.

Ha habido observaciones de la división binaria en términos de división binaria dicotómica categórica en términos de 2 subsecciones de observadores.

Pero creo que el problema deriva del aspecto inherente de la divergencia Kullback-Leibler para empezar.

Dado que todo el prospecto está vinculado en algún aspecto de maximizar los aspectos de error condicional y, de lo contrario, creo que el problema inherente es la profundidad factorial contra el nivel de simulaciones de contabilidad de las interacciones de Tanh.

Lo que quiero decir con esto, es que el problema inherente en términos de enfrentar derivados de espacio cerrado y, de lo contrario, puede llegar a ser una aproximación del metamodelado en términos de contabilización de la detención de límites superiores.

Lo que a su vez quiero decir con esto es que, lo que nos impide, a veces, encontrar integridad matemática en términos de prueba matemática y de lo contrario, generalmente no es una prueba formalizada o de otra manera.

Por lo general, puede ser lógico ser un poder de simulación.

Sin poder simulador real para acentuar realmente la sospecha, y sin alguien que sea lo suficientemente formulado para verbalizar las interacciones.

Puede llevar bastante tiempo, hasta que uno encuentre las interacciones matemáticas.

Sin embargo, después de leer sobre la Regresión logística, creo que incluso si el conjunto deriva inherentemente a ser polinominal, que el aspecto inherente de la similitud Sigmoide en términos de despliegue de Gráficos, conduciría a un conjunto cerrado, inherentemente.

Como en, el límite superior debe tenerse en cuenta, si la realidad del modelado se enfrenta a una divergencia suficiente.

El problema con los polinominales como siempre, como es el problema similar a MC en sí mismo, incluso con algoritmos UBC y lo que no …

Se destaca como una de las problemáticas en términos de tasas de convergencia.

Muchos de los problemas que he visto en la teoría de números y, de lo contrario, no son irresolubles, es solo eso, su escala y la rapidez con la que convergen los modelos, están tan “muy por delante” o convergen tan lentamente

Que es difícil probarlos, en términos de predecir y desglosar mecánicamente toda la interacción.

Pero, para responder tu pregunta:


Para 2 observadores, existen observaciones de él

Para las soluciones polinominales, ninguna se ha encontrado hasta ahora, que yo sepa

¿Creo que existe?

Sí.

¿Lo encontraremos pronto?

Tal vez. Depende de cómo modelemos nuestros modelos en los próximos años.

Solo cuando el número de predictores es 1 y la respuesta pertenece exactamente a dos clases.