Dimensionality Reduction2 1-2. 차원축소 - Feature Selection Exhaustive Search Search all possible combinations ex) 변수 3개에 대해, 7개(=2^3-1) 조합 고려 x1, x2, x3 → y=f(x1), y=f(x2), ..., y=f(x1,x2,x3) Forward Selection From the model with no variables, significant variables are sequentially added Once a variable is selected, it will never be removed Backward Elimination From the model with all variables, irrelevant variables are sequentially removed Once a varia.. 2022. 6. 26. 1-1. 차원 축소 - Overview Curse of dimensionality The number of instances increases exponentially to achieve the same explanation ability when the number of variables increase. 변수의 개수가 선형적으로 늘어날 때, 동일한 설명력을 갖기 위해서 필요한 객체 수는 지수적으로 늘어난다. ex) 두 점 사이 거리가 1인 정보를 표현하기 위해, 1차원에서는 점 2개, 2차원에서는 점 4개, 3차원에서는 점 8개 필요 Sometimes, an intrinsic dimension is relatively low compared to original dimension. 객체의 본질적인 정보를 보존하는 내재적인 차원의 수는 실제.. 2022. 6. 25. 이전 1 다음