딥러닝 4

L1 Loss & L2 Loss

L1 Loss와 L2 Loss는 머신러닝과 딥러닝에서 널리 사용되는 두 가지 손실 함수(loss function)이다. 두 손실 함수는 모델의 예측값과 실제값 사이의 차이를 측정하는 방법을 제공하여, 모델이 학습 과정에서 이 차이를 최소화하도록 돕는다. L1 Loss (Mean Absolute Error, MAE) 정의 : L1 Loss는 예측값과 실제값 사이의 절대값 차이의 평균을 계산한다. 수학적으로는 다음과 같이 표현된다. $$ MAE = \frac{1}{N}\sum_{i=1}^{N}|y_{i} - \hat{y}_{i}| $$ 특징 및 사용 경우 로버스트함(Robustness) : L1 Loss는 이상치(outliers)에 덜 민감하기 때문에 이상치가 많은 데이터에 적합하다. 스파시티(Sparsit..

딥러닝 2024.03.22

[Deep Learning / Pytorch] Dataset & DataLoader

파이토치(PyTorch)에서 Dataset과 DataLoader를 사용하는 주된 이유는 데이터를 효율적으로 처리하고, 모델 학습을 위한 데이터 로딩을 보다 유연하고 관리하기 쉽게 만들기 위해서 사용된다. 이러한 추상화가 불편해 보일 수 있지만, 실제로는 대규모 데이터셋을 다루거나 복잡한 데이터 전처리 과정을 통합할 때 매우 유용하다. Dataset 데이터 추상화: Dataset 클래스는 데이터셋에 대한 추상화를 제공하며, 사용자는 이를 상속받아 __getitem__과 __len__ 메서드를 구현함으로써 데이터의 로딩 방식을 커스터마이징할 수 있다. 이는 다양한 데이터 소스(이미지, 텍스트 파일, CSV 등)를 동일한 인터페이스로 처리할 수 있게 해준다. 유연성: 사용자 정의 데이터셋을 만들 수 있어, 데..

딥러닝/Pytorch 2024.03.12

[Deep Learning] F1 Score 이란

F1 점수(F1 Score)는 분류 작업에서 정밀도(Precision)와 재현율(Recall)의 조화 평균을 사용하여 모델의 정확성을 평가하는 지표다. 이 지표는 데이터셋에 불균형이 있을 때, 즉 어떤 클래스의 샘플이 다른 클래스 샘플 수 보다 훨씬 많아 불균형을 이룰 때 유용하다. F1 점수는 0부터 1 사이의 값으로 표현되며, 1에 가까울수록 모델의 성능이 뛰어남을 의미한다. ※ 조화 평균 : 주어진 수들의 역수의 산술 평균의 역수를 말한다. 평균적인 변화율을 구할 때에 주로 사용 F1 Score expression ※ 정밀도(Precision) : 모델이 양성이라고 예측한 것들 중 실제로 양성인 비율 ※ 재현율(Recall) : 실제 양성 중 모델이 양성으로 올바르게 예측한 비율 True Posit..

딥러닝 2024.03.12

[Deep Learning / Tensorflow] Model Layer 분석 및 파라미터 계산 실습

실습 코드 import tensorflow as tf from tensorflow import keras from keras import layers def get_sequential_model(input_shape): model = keras.Sequential( [ # Input layers.Input(input_shape), # 1st Conv block layers.Conv2D(64, 3, strides=1, activation='relu', padding='same'), layers.Conv2D(64, 3, strides=1, activation='relu', padding='same'), layers.MaxPool2D(), # 이미지 사이즈 반으로 축소 layers.BatchNormalizat..