본문 바로가기

머신러닝11

머신러닝 - Regularization 과 LASSO, Ridge 정리 이번 포스팅에선 모델선택의 방법 중 하나인 Shrinkage methods 가 사용하는 Regularization (규제화, 벌점화) 와 이를 이용한 LASSO, Ridge Regression에 대해 정리해보려고 한다. 참고한 자료는 수업시간에 사용한 교재 ISLR2와 이를 기반으로 한 유튜브 영상이다. https://www.youtube.com/watch?v=lLlG5xkyqIA&list=PLoROMvodv4rOzrYsAxzQyHb8n_RWNuS1e&index=39&ab_channel=StanfordOnline https://www.statlearning.com/resources-second-edition Resources - Second Edition — An Introduction to Statis.. 2023. 6. 9.
머신러닝 - Bootstrap 정리 with 중심극한정리, R 머신러닝에 대한 포스팅을 거의 하지 않았으나 공부는 꾸준히 하고 있었는데 (학교에서), 최근에 Bagging 과 Boosting에 대해서 배우고 있다. 그런데 이 부분에서도 Resampling 에 대해 배울 때 배웠던 Bootstrap 기법이 꽤 중요한 개념으로 작용하고 있다는 것을 알게 되었다. 그래서 Bootstrap 부터 시작해서, Tree 모형들 더 나아가 Random Forest 와 Bagging, 그리고 Boosting에 대해 쭉 정리해보고자 한다. 이번 포스팅에선 Bootstrap 기법에 대해 정리해보도록 하겠다. 포스팅하면서 참고한 자료는 다음과 같다. https://www.youtube.com/playlist?list=PLoROMvodv4rOzrYsAxzQyHb8n_RWNuS1e http.. 2023. 5. 31.
머신러닝 - 차원 축소와 PCA (3) 이번 포스팅은 PCA에 관한 마지막 포스팅으로, PCA를 통해 분류를 해보도록 하겠다. 그리고 깜빡하고 저번 포스팅에도 명시를 하지 않은 것 같은데, 포스팅에서 다루는 내용의 출처는 수업시간에 배우는 소위 도마뱀책이라고 불리는 hands-on machine learning 이라는 책이다. 그리고 코드의 출처 또한 책과 이어지는 Github 이다. https://github.com/tuitet/Hands-On-Machine-Learning-with-Scikit-Learn-Keras-and-TensorFlow-3rd-Edition GitHub - tuitet/Hands-On-Machine-Learning-with-Scikit-Learn-Keras-and-TensorFlow-3rd-Edition: A seri.. 2023. 4. 15.
머신러닝 - 차원 축소와 PCA (2) 저번 포스팅에서 차원 축소와 그 기법 중 하나인 PCA에 대해서 정리했다. 이번엔 PCA를 직접 해보면서 더 감을 잡아보도록 하겠다. R과 파이썬 모두 PCA를 진행할 수는 있는데 우선 파이썬으로 진행하고 간단하게 정리해보려고 한다. 우선 실습을 위해 다음 패키지들을 import 해줘야 한다. PCA는 대부분의 기능이 그렇듯 싸이킷런에서 제공해주고 있다. 1 2 3 4 5 6 7 8 9 10 from pathlib import Path import numpy as np import pandas as pd from sklearn.decomposition import PCA from sklearn import preprocessing import matplotlib.pylab as plt import dmb.. 2023. 4. 14.
머신러닝 - 차원 축소와 PCA (1) 오늘은 머신 러닝에서 중요한 개념인 차원 축소와, 차원 축소를 진행하는 방법인 PCA와 LDA에 대해 간단하게 정리해보도록 하겠다. 학교에서 배운 내용을 토대로 작성하기 때문에 사소한 오류들이 있을 수 있다. 또한 출처 표시가 없는 자료들은 모두 학교 수업 자료이며, 수업 자료는 다음 책들이 원본이다. Data Mining for Business Analytics: Concepts, Techniques and Applications in Python Data Mining for Business Analytics: Concepts, Techniques, and Applications in R 저자 Shmueli, Galit , Patel, Nitin R. , Bruce, Peter C. 차원 축소와 그 필.. 2023. 4. 12.