[머신러닝] L1 norm, L2 norm, 과적합 방지
norm(노름) 이란, 수학용어로, 실수 혹은 복소수로 이루어진 벡터의 크기를 계산하는 함수를 말한다. L1 norm과 L2 norm이 머신러닝에서 많이 사용되는데, L1 norm 은, 절대값을 사용하고, L2 norm 은, 제곱값을 사용한다. 둘의 특징들을 아래 표에 정리한다. L1 norm L2 norm 벡터 간 거리를 구하는 방법 절대값 제곱값 쓰이는 곳 L1 regularization Lasso회귀 L2 regularization Ridge회귀 knn kmeans 특징(정규화에 쓰였을 때) 가중치가 작은 경우 0으로 만들어 버리므로, 변수 선별이 가능함. 모든 특징들이 다 조금씩은 유용하다고 보는 경우에 쓰면 좋음. 과적합(overfitting) 예측모델이 학습데이터에 대해서는 잘 예측하지만, 학..
이노베이션과 디자인 사고
디자인 사고 종래에 디자인(설계)이 기획, 설계, 개발, 마케팅, 판매로 이어지는 기업 활동의 한 단계였다면, 앞으로는 모든 단계에서 디자인(설계)가 중요하다는 점에서 디자인 사고가 주목받고 있다. 디자인 사고에서 중시하는 것은 적합한 설계를 통해 사용자의 불만, 불편을 빠르게 해결해내는 것으로, 유용성(Desirability), 사업성(Viability), 실현성(Feasibility)을 3요소로 한다. 디자인 사고의 필요성 현 시대는 불확실성이 높고 빠르게 변화해가고 있다. 특히 코로나 팬데믹에 의해 삶의 방식이 순식간에 변화되어, 빠르게 변화하지 못한 기업은 도태된다는 사실이 선명해졌다. 이런 시대에 살아남기 위해서는 개인이든 기업이든 문제점과 과제를 빠르게 파악하고, 문제 해결을 위한 새로운 구조..