함께하는 데이터 분석

오늘은 빅데이터분석기사 필기 합격 후기를 작성하려고 합니다 이번학기가 4학년 1학기여서 빅분기 필기 응시자격을 받았는데요 빅데이터분석기사는 이번 4월 8일 시험이 6회로 오래되진 않은 시험입니다 그래서 시험에 대한 정보가 생각보다 적어 어떤 책으로 해야 되는지 기간을 얼마나 잡아야 하는지 몰랐습니다 그러던 와중 기업은행 인턴할 당시 옆 인턴이 2022년 빅분기 수제비 책을 줘서 그것으로 준비했습니다 그럼 어떤 시험인지 조금 더 알아볼게요! 빅분기 목차 1. 빅데이터 분석 기획 2. 빅데이터 탐색 3. 빅데이터 모델링 4. 빅데이터 결과 해석 이렇게 이루어져 있는데 우선 1단원인 빅데이터 분석 기획은 쌩 암기단원입니다 ADsP를 준비하셨으면 조금 수월하실 것 같아요 2단원인 빅데이터 탐색은 통계학과를 전공..

안녕하세요. 머신러닝을 돌리기 전 전처리 작업 중 하나인 인코딩에 대해 살펴볼게요. 전 포스트에서 말씀드렸기에 간단하게 설명한다면 인코딩은 문자형 변수를 수치형 변수로 변환해주는 것입니다. 저번 포스팅에서는 Label Encoding을 알아봤고 이번에는 One-Hot Encoding을 살펴볼게요. One-Hot Encoding 머신러닝을 공부하신 분들이라면 한 번씩은 들어보셨을 One-Hot Encoding입니다. One-Hot Encoding은 말 그대로 하나만 Hot하고 나머지는 Cold 한다는 뜻입니다. 새로운 칼럼을 추가하여 해당하는 칼럼에만 1을 표시하고 나머지 칼럼에는 0을 표시합니다. 이제 Python을 통해 One-Hot Encoding을 진행해보겠습니다. 라이브러리 불러오기 import ..

안녕하세요. 머신러닝을 돌리기 전 전처리 작업 중 하나인 인코딩을 살펴보겠습니다. 머신러닝 알고리즘은 대부분 문자형 데이터를 이해하지 못하므로 수치형 데이터로 인코딩하는 작업은 거의 필수적이라고 할 수 있습니다. 그래서 오늘은 사이킷런의 대표적인 두 가지 인코딩 방법 중 Label Encoding을 알아보겠습니다. Label Encoding Label Encoding은 어떤 피쳐의 n개의 범주형 데이터를 0 ~ n-1의 수치형 데이터로 변환합니다. 이때 이 변환 값이 수치적 차이를 나타내는 것은 아닙니다. 따라서 선형 회귀 등의 알고리즘에는 적용하는 것은 적합하지 않고 트리 계열의 알고리즘에는 적용해도 괜찮습니다. 이제 Python을 통해 Label Encoding을 살펴보겠습니다. 라이브러리 불러오기 ..

오늘은 마지막 스케일링인 Robust Scaling에 대해 알아보겠습니다. Robust Scaling Robust Scaling은 데이터 값에서 데이터의 중위수를 뺀 것을 IQR인 Q3 - Q1으로 나눈 것입니다. 통계를 배우다 보면 중위수가 이상치에 강하다는 특징을 배울 것입니다. 이 Robust Scaling 역시 이상치의 영향을 최소화하는 스케일링입니다. Standard Scaling에 비해 넓은 범위로 스케일링되는 특징이 있습니다. 이제 Python을 통해 Robust Scaling을 진행하겠습니다. 라이브러리 불러오기 import numpy as np import pandas as pd import seaborn as sns import sklearn 데이터 불러오기 및 정제하기 mpg = sn..

안녕하세요. 오늘은 Scaling 중 하나인 MaxAbs Scaling을 살펴보겠습니다. 바로 시작해볼게요! MaxAbs Scaling MaxAbs Scaling은 데이터의 최대 절댓값이 1, 0이 0으로 스케일링됩니다. 즉, 절댓값이 0에서 1 사이로 매핑되므로 결과적으로 -1에서 1 사이로 스케일링됩니다. Standard Scaling, Min-Max Scaling과 마찬가지로 이상치에 민감하며 앞 2개의 Scaling에 비해 상대적으로 덜 사용됩니다. 이제 Python의 Scikit Learn을 통해 스케일링을 해보겠습니다. 라이브러리 불러오기 import numpy as np import pandas as pd import seaborn as sns import sklearn 데이터 불러오기 및 ..

저번 시간에 본 Standard Scaling에 이어서 오늘은 Min-Max Scaling을 공부해보겠습니다. 스케일링을 하는 이유는 앞선 포스팅인 2022.05.10 - [데이터분석 공부/ML | DL] - [Scikit Learn] Standard Scaling [Scikit Learn] Standard Scaling 안녕하세요. 오늘은 Numerical feature를 Scaling을 해보겠습니다. Scaling의 여러 가지 방법 중 Standard Scaling을 알아보겠습니다. 우선 Scaling을 하는 이유를 말씀드리겠습니다. 예를 들어 머신러닝을 진행 tnqkrdmssjan.tistory.com 이 포스팅을 참고해주세요! 이제 본격적으로 Min-Max Scaling을 알아보겠습니다. Min-..

안녕하세요. 오늘은 Numerical feature를 Scaling을 해보겠습니다. Scaling의 여러 가지 방법 중 Standard Scaling을 알아보겠습니다. 우선 Scaling을 하는 이유를 말씀드리겠습니다. 예를 들어 머신러닝을 진행할 때 종속변수 Y가 토익점수이고 반응 변수 X1은 하루에 영어를 공부하는 시간(단위 : 분) 반응 변수 X2는 모의토익에 응시한 횟수라고 생각해볼게요. 그렇다면 토익 시험이 얼마 남지 않았을 때 하루 6시간을 공부했다고 하면 X1의 값은 360이 되고, 모의토익의 응시 횟수가 10번 정도라고 하면 값의 차이가 너무 크게 나오는 것을 볼 수 있습니다. 이럴 때 반응 변수인 토익점수는 X1인 영어를 공부한 시간에 대해 영향을 크게 받습니다. 반대로 말하면 X2인 모..

안녕하세요. 오늘은 태블로를 이용하여 선 그래프를 그려보겠습니다. 태블로는 날짜 차원에 대해서만 선 그래프를 지원하는 특징이 있습니다. 트리맵을 그렸을 때 사용했던 택배 데이터를 활용하여 선 그래프를 그려보겠습니다. 날짜 차원 날짜 차원은 보라색으로 표시한 것처럼 달력 모양으로 표시되는 특징이 있습니다. 이제 본격적으로 선 그래프를 그려보겠습니다. 선 그래프 그리기 측정값인 매출을 더블클릭하면 막대그래프가 그려집니다. 그다음 날짜 차원이 아닌 문자 차원을 클릭하면 막대그래프가 자동적으로 그려졌죠. 이번에는 날짜 차원인 배송일자를 더블클릭해보겠습니다. 이렇게 자동적으로 선 그래프가 그려집니다. x축이 연 단위로 되어있고 y축은 매출로 이루어져 있습니다. 연도마다 매출의 합계로 선 그래프를 그려준 것입니다...

안녕하세요. 오늘은 태블로를 이용하여 트리맵을 그려보겠습니다. 누적 막대그래프나 파이 차트가 있는데 트리맵을 그리는 이유를 말씀드리겠습니다. 범주의 개수가 적을 때는 누적 막대그래프나 파이 차트가 그리기 용이합니다. 하지만 범주의 개수가 많을 때는 누적 막대그래프나 파이 차트로 그리기에 난잡하여 보기 쉽지 않습니다. 이럴 때 트리맵을 그리면 보다 보기 쉽게 분류할 수 있습니다. 이전에 사용했던 insurance 데이터는 범주의 개수가 많은 차원이 존재하지 않습니다. 따라서 이번 트리맵을 알아볼 때는 이 데이터를 사용하겠습니다. 태블로 실습을 이용하여 예시를 보여드리겠습니다. 누적 막대그래프 그리기 누적 막대그래프를 그려봤습니다. 제품 분류에 대한 매출의 합계를 표현했습니다. 레이블에는 제품 분류, 합계매..

안녕하세요. 오늘은 태블로를 사용하여 도넛 차트를 그려보겠습니다. 도넛 차트는 파이 차트 2개를 합쳐서 1개의 도넛 차트를 만드는 것입니다. 도넛 차트는 파이 차트와 유사하지만 한 가지 장점은 가운데에 요약정보를 하나 더 추가할 수 있다는 것입니다. 이제 시작해보겠습니다! 도넛 차트 그리기 열을 더블클릭을 하면 위와 같이 값을 입력할 수 있습니다. 여기에 0을 입력하고 엔터를 누릅니다. 그다음 자동에서 파이 차트로 바꾸면 위와 같은 한개의 원이 만들어집니다. 이제 위에 있는 합계(0)를 윈도우는 control, 맥은 command를 누른 다음 옆으로 드래그를 해주면 위와 같이 두 개의 원이 생성됩니다. 파이 차트를 보기 쉽게 표준에서 전체보기로 변경해줍니다. 이제 첫 번째 합계(0)에다 색상에 Regio..