불균형 데이터 분류

TensorFlow.org에서 보기 Google Colab에서 실행하기 GitHub에서 소스 노트북 다운로드

이 튜토리얼에서는 한 클래스의 예시의 수가 다른 클래스보다 훨씬 많은 매우 불균형적인 데이터세트를 분류하는 방법을 소개합니다. Kaggle에서 호스팅되는 신용 카드 부정 행위 탐지 데이터세트를 사용하여 작업해 보겠습니다. 총 284,807건의 거래에서 492건의 부정 거래를 탐지하는 것을 목표로 합니다. Keras를 사용하여 모델 및 클래스 가중치를 정의하여 불균형 데이터에서 모델을 학습시켜 보겠습니다.

이 튜토리얼에는 다음을 수행하기 위한 완전한 코드가 포함되어 있습니다.

  • Pandas를 사용하여 CSV 파일 로드.
  • 학습, 검증 및 테스트세트 작성.
  • Keras를 사용하여 모델을 정의하고 학습(클래스 가중치 설정 포함)
  • 다양한 측정 기준(정밀도 및 재현율 포함)을 사용하여 모델 평가
  • 다음과 같은 불균형 데이터를 처리하기 위한 일반적인 기술 사용
    • 클래스 가중치
    • 오버샘플링

설정

import tensorflow as tf
from tensorflow import keras

import os
import tempfile

import matplotlib as mpl
import matplotlib.pyplot as plt
import numpy as np
import pandas as pd
import seaborn as sns

import sklearn
from sklearn.metrics import confusion_matrix
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import StandardScaler

2022-12-14 22:49:51.125111: W tensorflow/compiler/xla/stream_executor/platform/default/dso_loader.cc:64] Could not load dynamic library 'libnvinfer.so.7'; dlerror: libnvinfer.so.7: cannot open shared object file: No such file or directory
2022-12-14 22:49:51.125206: W tensorflow/compiler/xla/stream_executor/platform/default/dso_loader.cc:64] Could not load dynamic library 'libnvinfer_plugin.so.7'; dlerror: libnvinfer_plugin.so.7: cannot open shared object file: No such file or directory
2022-12-14 22:49:51.125215: W tensorflow/compiler/tf2tensorrt/utils/py_utils.cc:38] TF-TRT Warning: Cannot dlopen some TensorRT libraries. If you would like to use Nvidia GPU with TensorRT, please make sure the missing libraries mentioned above are installed properly.

mpl.rcParams['figure.figsize'] = (12, 10)
colors = plt.rcParams['axes.prop_cycle'].by_key()['color']

데이터 처리 및 탐색

Kaggle 신용 카드 부정 행위 데이터 세트

Pandas는 구조적 데이터를 로드하고 처리하는 데 유용한 여러 유틸리티가 포함된 Python 라이브러리입니다. CSV를 Pandas 데이터 프레임으로 다운로드하는 데 사용할 수 있습니다.

참고: 이 데이터세트는 빅데이터 마이닝 및 부정 행위 감지에 대한 Worldline과 ULB(Université Libre de Bruxelles) Machine Learning Group의 연구 협업을 통해 수집 및 분석되었습니다. 관련 주제에 관한 현재 및 과거 프로젝트에 대한 자세한 내용은 여기를 참조하거나 DefeatFraud 프로젝트 페이지에서 확인할 수 있습니다.

file = tf.keras.utils
raw_df = pd.read_csv('https://storage.googleapis.com/download.tensorflow.org/data/creditcard.csv')
raw_df.head()

raw_df[['Time', 'V1', 'V2', 'V3', 'V4', 'V5', 'V26', 'V27', 'V28', 'Amount', 'Class']].describe()

클래스 레이블 불균형 검사

데이터세트 불균형을 살펴보겠습니다.:

neg, pos = np.bincount(raw_df['Class'])
total = neg + pos
print('Examples:\n    Total: {}\n    Positive: {} ({:.2f}% of total)\n'.format(
    total, pos, 100 * pos / total))

Examples:
    Total: 284807
    Positive: 492 (0.17% of total)

이를 통해 양성 샘플 일부를 확인할 수 있습니다.

데이터 정리, 분할 및 정규화

원시 데이터에는 몇 가지 문제가 있습니다. 먼저 Time 및 Amount 열이 매우 가변적이므로 직접 사용할 수 없습니다. (의미가 명확하지 않으므로) Time 열을 삭제하고 Amount 열의 로그를 가져와 범위를 줄입니다.

cleaned_df = raw_df.copy()

# You don't want the `Time` column.
cleaned_df.pop('Time')

# The `Amount` column covers a huge range. Convert to log-space.
eps = 0.001 # 0 => 0.1¢
cleaned_df['Log Amount'] = np.log(cleaned_df.pop('Amount')+eps)

데이터세트를 학습, 검증 및 테스트 세트로 분할합니다. 검증 세트는 모델 피팅 중에 사용되어 손실 및 메트릭을 평가하지만 해당 모델은 이 데이터에 적합하지 않습니다. 테스트 세트는 훈련 단계에서는 전혀 사용되지 않으며 마지막에만 사용되어 모델이 새 데이터로 일반화되는 정도를 평가합니다. 이는 훈련 데이터가 부족하여 과대적합이 크게 문제가 되는 불균형 데이터세트에서 특히 중요합니다.

# Use a utility from sklearn to split and shuffle your dataset.
train_df, test_df = train_test_split(cleaned_df, test_size=0.2)
train_df, val_df = train_test_split(train_df, test_size=0.2)

# Form np arrays of labels and features.
train_labels = np.array(train_df.pop('Class'))
bool_train_labels = train_labels != 0
val_labels = np.array(val_df.pop('Class'))
test_labels = np.array(test_df.pop('Class'))

train_features = np.array(train_df)
val_features = np.array(val_df)
test_features = np.array(test_df)

sklearn StandardScaler를 사용하여 입력 특성을 정규화하면 평균은 0으로, 표준 편차는 1로 설정됩니다.

참고: StandardScaler는 모델이 유효성 검사 또는 테스트 세트를 참고하는지 여부를 확인하기 위해 train_features를 사용하는 경우에만 적합합니다. 

scaler = StandardScaler()
train_features = scaler.fit_transform(train_features)

val_features = scaler.transform(val_features)
test_features = scaler.transform(test_features)

train_features = np.clip(train_features, -5, 5)
val_features = np.clip(val_features, -5, 5)
test_features = np.clip(test_features, -5, 5)


print('Training labels shape:', train_labels.shape)
print('Validation labels shape:', val_labels.shape)
print('Test labels shape:', test_labels.shape)

print('Training features shape:', train_features.shape)
print('Validation features shape:', val_features.shape)
print('Test features shape:', test_features.shape)

Training labels shape: (182276,)
Validation labels shape: (45569,)
Test labels shape: (56962,)
Training features shape: (182276, 29)
Validation features shape: (45569, 29)
Test features shape: (56962, 29)

주의: 모델을 배포하려면 전처리 계산을 유지하는 것이 중요합니다. 따라서 레이어로 구현하고 내보내기 전에 모델에 연결하는 것이 가장 쉬운 방법입니다.

데이터 분포 살펴보기

다음으로 몇 가지 특성에 대한 양 및 음의 예시 분포를 비교해 보겠습니다. 이 때 스스로 검토할 사항은 다음과 같습니다.

  • 이와 같은 분포가 합리적인가?
    • 예, 이미 입력을 정규화했으며 대부분 +/- 2 범위에 집중되어 있습니다.
  • 분포 간 차이를 알 수 있습니까?
    • 예, 양의 예에는 극단적 값의 비율이 훨씬 높습니다.
pos_df = pd.DataFrame(train_features[ bool_train_labels], columns=train_df.columns)
neg_df = pd.DataFrame(train_features[~bool_train_labels], columns=train_df.columns)

sns.jointplot(x=pos_df['V5'], y=pos_df['V6'],
              kind='hex', xlim=(-5,5), ylim=(-5,5))
plt.suptitle("Positive distribution")

sns.jointplot(x=neg_df['V5'], y=neg_df['V6'],
              kind='hex', xlim=(-5,5), ylim=(-5,5))
_ = plt.suptitle("Negative distribution")

png

png

모델 및 메트릭 정의

조밀하게 연결된 숨겨진 레이어, 과대적합을 줄이기 위한 드롭아웃 레이어, 거래 사기 가능성을 반환하는 시그모이드 출력 레이어로 간단한 신경망을 생성하는 함수를 정의합니다. 

METRICS = [
      keras.metrics.TruePositives(name='tp'),
      keras.metrics.FalsePositives(name='fp'),
      keras.metrics.TrueNegatives(name='tn'),
      keras.metrics.FalseNegatives(name='fn'), 
      keras.metrics.BinaryAccuracy(name='accuracy'),
      keras.metrics.Precision(name='precision'),
      keras.metrics.Recall(name='recall'),
      keras.metrics.AUC(name='auc'),
      keras.metrics.AUC(name='prc', curve='PR'), # precision-recall curve
]

def make_model(metrics=METRICS, output_bias=None):
  if output_bias is not None:
    output_bias = tf.keras.initializers.Constant(output_bias)
  model = keras.Sequential([
      keras.layers.Dense(
          16, activation='relu',
          input_shape=(train_features.shape[-1],)),
      keras.layers.Dropout(0.5),
      keras.layers.Dense(1, activation='sigmoid',
                         bias_initializer=output_bias),
  ])

  model.compile(
      optimizer=keras.optimizers.Adam(learning_rate=1e-3),
      loss=keras.losses.BinaryCrossentropy(),
      metrics=metrics)

  return model

유용한 메트릭 이해하기

위에서 정의한 몇 가지 메트릭은 모델을 통해 계산할 수 있으며 성능을 평가할 때 유용합니다.

  • 허위 음성과 허위 양성은 잘못 분류된 샘플입니다.
  • 실제 음성과 실제 양성은 올바로 분류된 샘플입니다.
  • 정확도는 올바로 분류된 예의 비율입니다.

\(\frac{\text{true samples} }{\text{total samples} }\)

  • 정밀도는 올바르게 분류된 예측 양성의 비율입니다.

\(\frac{\text{true positives} }{\text{true positives + false positives} }\)

  • 재현율은 올바르게 분류된 실제 양성의 비율입니다.

\(\frac{\text{true positives} }{\text{true positives + false negatives} }\)

  • AUC는 ROC-AUC(Area Under the Curve of a Receiver Operating Characteristic) 곡선을 의미합니다. 이 메트릭은 분류자가 임의의 양성 샘플 순위를 임의의 음성 샘플 순위보다 높게 지정할 확률과 같습니다.
  • AUPRC는 PR curve AUC를 의미합니다. 이 메트릭은 다양한 확률 임계값에 대한 정밀도-재현율 쌍을 계산합니다.

참고: 정확도는 이 작업에 유용한 메트릭이 아닙니다. 항상 False를 예측해야 이 작업에서 99.8% 이상의 정확도를 얻을 수 있습니다.

더 읽어보기:

기준 모델

모델 구축

이제 앞서 정의한 함수를 사용하여 모델을 만들고 학습해 보겠습니다. 모델은 기본 배치 크기인 2048보다 큰 배치 크기를 사용하는 것이 좋습니다. 각 배치에서 양성 샘플을 일부 포함시켜 적절한 기회를 얻는 것이 중요합니다. 배치 크기가 너무 작으면 부정 거래 예시를 제대로 학습할 수 없습니다.

참고: 이 모델은 클래스의 불균형을 잘 다루지 못합니다. 이를 이 튜토리얼의 뒷부분에서 개선하게 될 겁니다.

EPOCHS = 100
BATCH_SIZE = 2048

early_stopping = tf.keras.callbacks.EarlyStopping(
    monitor='val_prc', 
    verbose=1,
    patience=10,
    mode='max',
    restore_best_weights=True)

model = make_model()
model.summary()

Model: "sequential"
_________________________________________________________________
 Layer (type)                Output Shape              Param #   
=================================================================
 dense (Dense)               (None, 16)                480       
                                                                 
 dropout (Dropout)           (None, 16)                0         
                                                                 
 dense_1 (Dense)             (None, 1)                 17        
                                                                 
=================================================================
Total params: 497
Trainable params: 497
Non-trainable params: 0
_________________________________________________________________

모델을 실행하여 테스트해보겠습니다.

model.predict(train_features[:10])

1/1 [==============================] - 0s 409ms/step
array([[0.31587434],
       [0.22539072],
       [0.68509597],
       [0.19135255],
       [0.46167344],
       [0.70078653],
       [0.40190262],
       [0.2730636 ],
       [0.7196849 ],
       [0.30625975]], dtype=float32)

선택사항: 초기 바이어스를 올바로 설정합니다.

이와 같은 초기 추측은 적절하지 않습니다. 데이터세트가 불균형하다는 것을 알고 있으니까요. 출력 레이어의 바이어스를 설정하여 해당 데이터세트를 반영하면(참조: 신경망 훈련 방법: "init well") 초기 수렴에 유용할 수 있습니다.

기본 바이어스 초기화를 사용하면 손실은 약 math.log(2) = 0.69314 

results = model.evaluate(train_features, train_labels, batch_size=BATCH_SIZE, verbose=0)
print("Loss: {:0.4f}".format(results[0]))

Loss: 0.7212

올바른 바이어스 설정은 다음에서 가능합니다.

\( p_0 = pos/(pos + neg) = 1/(1+e^{-b_0}) \) \( b_0 = -log_e(1/p_0 - 1) \) \[ b_0 = log_e(pos/neg)\]

initial_bias = np.log([pos/neg])
initial_bias

array([-6.35935934])

이를 초기 바이어스로 설정하면 모델은 훨씬 더 합리적으로 초기 추측을 할 수 있습니다.

pos/total = 0.0018에 가까울 것입니다.

model = make_model(output_bias=initial_bias)
model.predict(train_features[:10])

1/1 [==============================] - 0s 48ms/step
array([[0.00121839],
       [0.00060421],
       [0.0047377 ],
       [0.00021598],
       [0.00130969],
       [0.00171389],
       [0.00158324],
       [0.00084963],
       [0.0011057 ],
       [0.00022113]], dtype=float32)

이 초기화를 통해서 초기 손실은 대략 다음과 같아야합니다.:

\[-p_0log(p_0)-(1-p_0)log(1-p_0) = 0.01317\]

results = model.evaluate(train_features, train_labels, batch_size=BATCH_SIZE, verbose=0)
print("Loss: {:0.4f}".format(results[0]))

Loss: 0.0141

이 초기 손실은 단순한 상태의 초기화에서 발생했을 때 보다 약 50배 적습니다.

이런 식으로 모델은 처음 몇 epoch를 쓰며 양성 예시가 거의 없다는 것을 학습할 필요는 없습니다. 이렇게 하면 학습을 하면서 손실된 플롯을 더 쉽게 파악할 수 있습니다.

초기 가중치 체크 포인트

다양한 학습 과정을 비교하려면 이 초기 모델의 가중치를 체크포인트 파일에 보관하고 학습 전에 각 모델에 로드합니다.

initial_weights = os.path.join(tempfile.mkdtemp(), 'initial_weights')
model.save_weights(initial_weights)

바이어스 수정이 도움이 되는지 확인하기

계속 진행하기 전에 조심스러운 바이어스 초기화가 실제로 도움이 되었는지 빠르게 확인하십시오

정교한 초기화를 한 모델과 하지 않은 모델을 20 epoch 학습시키고 손실을 비교합니다. 

model = make_model()
model.load_weights(initial_weights)
model.layers[-1].bias.assign([0.0])
zero_bias_history = model.fit(
    train_features,
    train_labels,
    batch_size=BATCH_SIZE,
    epochs=20,
    validation_data=(val_features, val_labels), 
    verbose=0)

model = make_model()
model.load_weights(initial_weights)
careful_bias_history = model.fit(
    train_features,
    train_labels,
    batch_size=BATCH_SIZE,
    epochs=20,
    validation_data=(val_features, val_labels), 
    verbose=0)

def plot_loss(history, label, n):
  # Use a log scale on y-axis to show the wide range of values.
  plt.semilogy(history.epoch, history.history['loss'],
               color=colors[n], label='Train ' + label)
  plt.semilogy(history.epoch, history.history['val_loss'],
               color=colors[n], label='Val ' + label,
               linestyle="--")
  plt.xlabel('Epoch')
  plt.ylabel('Loss')

plot_loss(zero_bias_history, "Zero Bias", 0)
plot_loss(careful_bias_history, "Careful Bias", 1)

png

위의 그림에서 명확히 알 수 있듯이, 검증 손실 측면에서 이와 같은 정교한 초기화에는 분명한 이점이 있습니다.

모델 학습

model = make_model()
model.load_weights(initial_weights)
baseline_history = model.fit(
    train_features,
    train_labels,
    batch_size=BATCH_SIZE,
    epochs=EPOCHS,
    callbacks=[early_stopping],
    validation_data=(val_features, val_labels))

Epoch 1/100
90/90 [==============================] - 2s 11ms/step - loss: 0.0109 - tp: 127.0000 - fp: 63.0000 - tn: 227394.0000 - fn: 261.0000 - accuracy: 0.9986 - precision: 0.6684 - recall: 0.3273 - auc: 0.8005 - prc: 0.3543 - val_loss: 0.0048 - val_tp: 36.0000 - val_fp: 9.0000 - val_tn: 45486.0000 - val_fn: 38.0000 - val_accuracy: 0.9990 - val_precision: 0.8000 - val_recall: 0.4865 - val_auc: 0.9185 - val_prc: 0.7113
Epoch 2/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0068 - tp: 146.0000 - fp: 27.0000 - tn: 181935.0000 - fn: 168.0000 - accuracy: 0.9989 - precision: 0.8439 - recall: 0.4650 - auc: 0.8609 - prc: 0.5527 - val_loss: 0.0042 - val_tp: 50.0000 - val_fp: 10.0000 - val_tn: 45485.0000 - val_fn: 24.0000 - val_accuracy: 0.9993 - val_precision: 0.8333 - val_recall: 0.6757 - val_auc: 0.9187 - val_prc: 0.7042
Epoch 3/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0056 - tp: 173.0000 - fp: 30.0000 - tn: 181932.0000 - fn: 141.0000 - accuracy: 0.9991 - precision: 0.8522 - recall: 0.5510 - auc: 0.8975 - prc: 0.6468 - val_loss: 0.0040 - val_tp: 53.0000 - val_fp: 10.0000 - val_tn: 45485.0000 - val_fn: 21.0000 - val_accuracy: 0.9993 - val_precision: 0.8413 - val_recall: 0.7162 - val_auc: 0.9187 - val_prc: 0.6656
Epoch 4/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0059 - tp: 159.0000 - fp: 26.0000 - tn: 181936.0000 - fn: 155.0000 - accuracy: 0.9990 - precision: 0.8595 - recall: 0.5064 - auc: 0.8886 - prc: 0.6378 - val_loss: 0.0038 - val_tp: 53.0000 - val_fp: 10.0000 - val_tn: 45485.0000 - val_fn: 21.0000 - val_accuracy: 0.9993 - val_precision: 0.8413 - val_recall: 0.7162 - val_auc: 0.9255 - val_prc: 0.7243
Epoch 5/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0057 - tp: 155.0000 - fp: 26.0000 - tn: 181936.0000 - fn: 159.0000 - accuracy: 0.9990 - precision: 0.8564 - recall: 0.4936 - auc: 0.8904 - prc: 0.6365 - val_loss: 0.0037 - val_tp: 56.0000 - val_fp: 11.0000 - val_tn: 45484.0000 - val_fn: 18.0000 - val_accuracy: 0.9994 - val_precision: 0.8358 - val_recall: 0.7568 - val_auc: 0.9255 - val_prc: 0.7067
Epoch 6/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0053 - tp: 165.0000 - fp: 26.0000 - tn: 181936.0000 - fn: 149.0000 - accuracy: 0.9990 - precision: 0.8639 - recall: 0.5255 - auc: 0.8793 - prc: 0.6565 - val_loss: 0.0035 - val_tp: 58.0000 - val_fp: 11.0000 - val_tn: 45484.0000 - val_fn: 16.0000 - val_accuracy: 0.9994 - val_precision: 0.8406 - val_recall: 0.7838 - val_auc: 0.9322 - val_prc: 0.7496
Epoch 7/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0050 - tp: 173.0000 - fp: 33.0000 - tn: 181929.0000 - fn: 141.0000 - accuracy: 0.9990 - precision: 0.8398 - recall: 0.5510 - auc: 0.9049 - prc: 0.6720 - val_loss: 0.0034 - val_tp: 58.0000 - val_fp: 11.0000 - val_tn: 45484.0000 - val_fn: 16.0000 - val_accuracy: 0.9994 - val_precision: 0.8406 - val_recall: 0.7838 - val_auc: 0.9322 - val_prc: 0.7574
Epoch 8/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0052 - tp: 173.0000 - fp: 25.0000 - tn: 181937.0000 - fn: 141.0000 - accuracy: 0.9991 - precision: 0.8737 - recall: 0.5510 - auc: 0.8938 - prc: 0.6419 - val_loss: 0.0033 - val_tp: 59.0000 - val_fp: 11.0000 - val_tn: 45484.0000 - val_fn: 15.0000 - val_accuracy: 0.9994 - val_precision: 0.8429 - val_recall: 0.7973 - val_auc: 0.9389 - val_prc: 0.7669
Epoch 9/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0044 - tp: 190.0000 - fp: 30.0000 - tn: 181932.0000 - fn: 124.0000 - accuracy: 0.9992 - precision: 0.8636 - recall: 0.6051 - auc: 0.9178 - prc: 0.7096 - val_loss: 0.0032 - val_tp: 59.0000 - val_fp: 11.0000 - val_tn: 45484.0000 - val_fn: 15.0000 - val_accuracy: 0.9994 - val_precision: 0.8429 - val_recall: 0.7973 - val_auc: 0.9389 - val_prc: 0.7802
Epoch 10/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0047 - tp: 170.0000 - fp: 34.0000 - tn: 181928.0000 - fn: 144.0000 - accuracy: 0.9990 - precision: 0.8333 - recall: 0.5414 - auc: 0.9130 - prc: 0.6804 - val_loss: 0.0032 - val_tp: 60.0000 - val_fp: 11.0000 - val_tn: 45484.0000 - val_fn: 14.0000 - val_accuracy: 0.9995 - val_precision: 0.8451 - val_recall: 0.8108 - val_auc: 0.9457 - val_prc: 0.7949
Epoch 11/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0048 - tp: 187.0000 - fp: 37.0000 - tn: 181925.0000 - fn: 127.0000 - accuracy: 0.9991 - precision: 0.8348 - recall: 0.5955 - auc: 0.9130 - prc: 0.6679 - val_loss: 0.0030 - val_tp: 59.0000 - val_fp: 11.0000 - val_tn: 45484.0000 - val_fn: 15.0000 - val_accuracy: 0.9994 - val_precision: 0.8429 - val_recall: 0.7973 - val_auc: 0.9457 - val_prc: 0.8003
Epoch 12/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0046 - tp: 185.0000 - fp: 37.0000 - tn: 181925.0000 - fn: 129.0000 - accuracy: 0.9991 - precision: 0.8333 - recall: 0.5892 - auc: 0.9130 - prc: 0.6696 - val_loss: 0.0029 - val_tp: 59.0000 - val_fp: 11.0000 - val_tn: 45484.0000 - val_fn: 15.0000 - val_accuracy: 0.9994 - val_precision: 0.8429 - val_recall: 0.7973 - val_auc: 0.9457 - val_prc: 0.8113
Epoch 13/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0042 - tp: 189.0000 - fp: 29.0000 - tn: 181933.0000 - fn: 125.0000 - accuracy: 0.9992 - precision: 0.8670 - recall: 0.6019 - auc: 0.9244 - prc: 0.7167 - val_loss: 0.0029 - val_tp: 60.0000 - val_fp: 12.0000 - val_tn: 45483.0000 - val_fn: 14.0000 - val_accuracy: 0.9994 - val_precision: 0.8333 - val_recall: 0.8108 - val_auc: 0.9457 - val_prc: 0.8130
Epoch 14/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0042 - tp: 189.0000 - fp: 30.0000 - tn: 181932.0000 - fn: 125.0000 - accuracy: 0.9991 - precision: 0.8630 - recall: 0.6019 - auc: 0.9227 - prc: 0.7123 - val_loss: 0.0029 - val_tp: 61.0000 - val_fp: 12.0000 - val_tn: 45483.0000 - val_fn: 13.0000 - val_accuracy: 0.9995 - val_precision: 0.8356 - val_recall: 0.8243 - val_auc: 0.9457 - val_prc: 0.8147
Epoch 15/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0041 - tp: 197.0000 - fp: 33.0000 - tn: 181929.0000 - fn: 117.0000 - accuracy: 0.9992 - precision: 0.8565 - recall: 0.6274 - auc: 0.9212 - prc: 0.7157 - val_loss: 0.0028 - val_tp: 60.0000 - val_fp: 12.0000 - val_tn: 45483.0000 - val_fn: 14.0000 - val_accuracy: 0.9994 - val_precision: 0.8333 - val_recall: 0.8108 - val_auc: 0.9457 - val_prc: 0.8243
Epoch 16/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0042 - tp: 180.0000 - fp: 26.0000 - tn: 181936.0000 - fn: 134.0000 - accuracy: 0.9991 - precision: 0.8738 - recall: 0.5732 - auc: 0.9291 - prc: 0.7122 - val_loss: 0.0028 - val_tp: 61.0000 - val_fp: 12.0000 - val_tn: 45483.0000 - val_fn: 13.0000 - val_accuracy: 0.9995 - val_precision: 0.8356 - val_recall: 0.8243 - val_auc: 0.9457 - val_prc: 0.8259
Epoch 17/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0041 - tp: 188.0000 - fp: 28.0000 - tn: 181934.0000 - fn: 126.0000 - accuracy: 0.9992 - precision: 0.8704 - recall: 0.5987 - auc: 0.9243 - prc: 0.7179 - val_loss: 0.0027 - val_tp: 61.0000 - val_fp: 12.0000 - val_tn: 45483.0000 - val_fn: 13.0000 - val_accuracy: 0.9995 - val_precision: 0.8356 - val_recall: 0.8243 - val_auc: 0.9457 - val_prc: 0.8291
Epoch 18/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0043 - tp: 192.0000 - fp: 26.0000 - tn: 181936.0000 - fn: 122.0000 - accuracy: 0.9992 - precision: 0.8807 - recall: 0.6115 - auc: 0.9226 - prc: 0.6985 - val_loss: 0.0027 - val_tp: 61.0000 - val_fp: 12.0000 - val_tn: 45483.0000 - val_fn: 13.0000 - val_accuracy: 0.9995 - val_precision: 0.8356 - val_recall: 0.8243 - val_auc: 0.9457 - val_prc: 0.8330
Epoch 19/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0039 - tp: 201.0000 - fp: 30.0000 - tn: 181932.0000 - fn: 113.0000 - accuracy: 0.9992 - precision: 0.8701 - recall: 0.6401 - auc: 0.9211 - prc: 0.7305 - val_loss: 0.0027 - val_tp: 62.0000 - val_fp: 12.0000 - val_tn: 45483.0000 - val_fn: 12.0000 - val_accuracy: 0.9995 - val_precision: 0.8378 - val_recall: 0.8378 - val_auc: 0.9457 - val_prc: 0.8351
Epoch 20/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0041 - tp: 194.0000 - fp: 31.0000 - tn: 181931.0000 - fn: 120.0000 - accuracy: 0.9992 - precision: 0.8622 - recall: 0.6178 - auc: 0.9243 - prc: 0.7319 - val_loss: 0.0027 - val_tp: 62.0000 - val_fp: 12.0000 - val_tn: 45483.0000 - val_fn: 12.0000 - val_accuracy: 0.9995 - val_precision: 0.8378 - val_recall: 0.8378 - val_auc: 0.9457 - val_prc: 0.8345
Epoch 21/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0037 - tp: 206.0000 - fp: 28.0000 - tn: 181934.0000 - fn: 108.0000 - accuracy: 0.9993 - precision: 0.8803 - recall: 0.6561 - auc: 0.9244 - prc: 0.7550 - val_loss: 0.0027 - val_tp: 62.0000 - val_fp: 12.0000 - val_tn: 45483.0000 - val_fn: 12.0000 - val_accuracy: 0.9995 - val_precision: 0.8378 - val_recall: 0.8378 - val_auc: 0.9457 - val_prc: 0.8368
Epoch 22/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0040 - tp: 191.0000 - fp: 30.0000 - tn: 181932.0000 - fn: 123.0000 - accuracy: 0.9992 - precision: 0.8643 - recall: 0.6083 - auc: 0.9275 - prc: 0.7185 - val_loss: 0.0027 - val_tp: 62.0000 - val_fp: 12.0000 - val_tn: 45483.0000 - val_fn: 12.0000 - val_accuracy: 0.9995 - val_precision: 0.8378 - val_recall: 0.8378 - val_auc: 0.9457 - val_prc: 0.8337
Epoch 23/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0040 - tp: 199.0000 - fp: 32.0000 - tn: 181930.0000 - fn: 115.0000 - accuracy: 0.9992 - precision: 0.8615 - recall: 0.6338 - auc: 0.9243 - prc: 0.7164 - val_loss: 0.0026 - val_tp: 62.0000 - val_fp: 12.0000 - val_tn: 45483.0000 - val_fn: 12.0000 - val_accuracy: 0.9995 - val_precision: 0.8378 - val_recall: 0.8378 - val_auc: 0.9457 - val_prc: 0.8394
Epoch 24/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0039 - tp: 199.0000 - fp: 29.0000 - tn: 181933.0000 - fn: 115.0000 - accuracy: 0.9992 - precision: 0.8728 - recall: 0.6338 - auc: 0.9259 - prc: 0.7225 - val_loss: 0.0026 - val_tp: 62.0000 - val_fp: 12.0000 - val_tn: 45483.0000 - val_fn: 12.0000 - val_accuracy: 0.9995 - val_precision: 0.8378 - val_recall: 0.8378 - val_auc: 0.9457 - val_prc: 0.8409
Epoch 25/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0037 - tp: 197.0000 - fp: 28.0000 - tn: 181934.0000 - fn: 117.0000 - accuracy: 0.9992 - precision: 0.8756 - recall: 0.6274 - auc: 0.9260 - prc: 0.7478 - val_loss: 0.0028 - val_tp: 62.0000 - val_fp: 13.0000 - val_tn: 45482.0000 - val_fn: 12.0000 - val_accuracy: 0.9995 - val_precision: 0.8267 - val_recall: 0.8378 - val_auc: 0.9457 - val_prc: 0.8391
Epoch 26/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0036 - tp: 200.0000 - fp: 24.0000 - tn: 181938.0000 - fn: 114.0000 - accuracy: 0.9992 - precision: 0.8929 - recall: 0.6369 - auc: 0.9308 - prc: 0.7609 - val_loss: 0.0027 - val_tp: 62.0000 - val_fp: 13.0000 - val_tn: 45482.0000 - val_fn: 12.0000 - val_accuracy: 0.9995 - val_precision: 0.8267 - val_recall: 0.8378 - val_auc: 0.9457 - val_prc: 0.8384
Epoch 27/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0038 - tp: 203.0000 - fp: 28.0000 - tn: 181934.0000 - fn: 111.0000 - accuracy: 0.9992 - precision: 0.8788 - recall: 0.6465 - auc: 0.9308 - prc: 0.7457 - val_loss: 0.0026 - val_tp: 62.0000 - val_fp: 13.0000 - val_tn: 45482.0000 - val_fn: 12.0000 - val_accuracy: 0.9995 - val_precision: 0.8267 - val_recall: 0.8378 - val_auc: 0.9457 - val_prc: 0.8446
Epoch 28/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0036 - tp: 199.0000 - fp: 29.0000 - tn: 181933.0000 - fn: 115.0000 - accuracy: 0.9992 - precision: 0.8728 - recall: 0.6338 - auc: 0.9308 - prc: 0.7587 - val_loss: 0.0026 - val_tp: 62.0000 - val_fp: 13.0000 - val_tn: 45482.0000 - val_fn: 12.0000 - val_accuracy: 0.9995 - val_precision: 0.8267 - val_recall: 0.8378 - val_auc: 0.9457 - val_prc: 0.8427
Epoch 29/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0038 - tp: 197.0000 - fp: 33.0000 - tn: 181929.0000 - fn: 117.0000 - accuracy: 0.9992 - precision: 0.8565 - recall: 0.6274 - auc: 0.9340 - prc: 0.7425 - val_loss: 0.0027 - val_tp: 62.0000 - val_fp: 13.0000 - val_tn: 45482.0000 - val_fn: 12.0000 - val_accuracy: 0.9995 - val_precision: 0.8267 - val_recall: 0.8378 - val_auc: 0.9457 - val_prc: 0.8402
Epoch 30/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0037 - tp: 198.0000 - fp: 27.0000 - tn: 181935.0000 - fn: 116.0000 - accuracy: 0.9992 - precision: 0.8800 - recall: 0.6306 - auc: 0.9308 - prc: 0.7488 - val_loss: 0.0026 - val_tp: 62.0000 - val_fp: 12.0000 - val_tn: 45483.0000 - val_fn: 12.0000 - val_accuracy: 0.9995 - val_precision: 0.8378 - val_recall: 0.8378 - val_auc: 0.9457 - val_prc: 0.8474
Epoch 31/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0037 - tp: 205.0000 - fp: 34.0000 - tn: 181928.0000 - fn: 109.0000 - accuracy: 0.9992 - precision: 0.8577 - recall: 0.6529 - auc: 0.9308 - prc: 0.7448 - val_loss: 0.0025 - val_tp: 62.0000 - val_fp: 9.0000 - val_tn: 45486.0000 - val_fn: 12.0000 - val_accuracy: 0.9995 - val_precision: 0.8732 - val_recall: 0.8378 - val_auc: 0.9458 - val_prc: 0.8473
Epoch 32/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0037 - tp: 193.0000 - fp: 26.0000 - tn: 181936.0000 - fn: 121.0000 - accuracy: 0.9992 - precision: 0.8813 - recall: 0.6146 - auc: 0.9197 - prc: 0.7402 - val_loss: 0.0027 - val_tp: 62.0000 - val_fp: 13.0000 - val_tn: 45482.0000 - val_fn: 12.0000 - val_accuracy: 0.9995 - val_precision: 0.8267 - val_recall: 0.8378 - val_auc: 0.9458 - val_prc: 0.8456
Epoch 33/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0036 - tp: 213.0000 - fp: 31.0000 - tn: 181931.0000 - fn: 101.0000 - accuracy: 0.9993 - precision: 0.8730 - recall: 0.6783 - auc: 0.9340 - prc: 0.7625 - val_loss: 0.0026 - val_tp: 62.0000 - val_fp: 12.0000 - val_tn: 45483.0000 - val_fn: 12.0000 - val_accuracy: 0.9995 - val_precision: 0.8378 - val_recall: 0.8378 - val_auc: 0.9457 - val_prc: 0.8464
Epoch 34/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0037 - tp: 202.0000 - fp: 33.0000 - tn: 181929.0000 - fn: 112.0000 - accuracy: 0.9992 - precision: 0.8596 - recall: 0.6433 - auc: 0.9356 - prc: 0.7433 - val_loss: 0.0025 - val_tp: 61.0000 - val_fp: 9.0000 - val_tn: 45486.0000 - val_fn: 13.0000 - val_accuracy: 0.9995 - val_precision: 0.8714 - val_recall: 0.8243 - val_auc: 0.9457 - val_prc: 0.8510
Epoch 35/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0037 - tp: 205.0000 - fp: 38.0000 - tn: 181924.0000 - fn: 109.0000 - accuracy: 0.9992 - precision: 0.8436 - recall: 0.6529 - auc: 0.9420 - prc: 0.7504 - val_loss: 0.0025 - val_tp: 62.0000 - val_fp: 9.0000 - val_tn: 45486.0000 - val_fn: 12.0000 - val_accuracy: 0.9995 - val_precision: 0.8732 - val_recall: 0.8378 - val_auc: 0.9457 - val_prc: 0.8505
Epoch 36/100
90/90 [==============================] - 0s 6ms/step - loss: 0.0039 - tp: 193.0000 - fp: 35.0000 - tn: 181927.0000 - fn: 121.0000 - accuracy: 0.9991 - precision: 0.8465 - recall: 0.6146 - auc: 0.9260 - prc: 0.7359 - val_loss: 0.0025 - val_tp: 62.0000 - val_fp: 9.0000 - val_tn: 45486.0000 - val_fn: 12.0000 - val_accuracy: 0.9995 - val_precision: 0.8732 - val_recall: 0.8378 - val_auc: 0.9457 - val_prc: 0.8499
Epoch 37/100
90/90 [==============================] - 0s 6ms/step - loss: 0.0034 - tp: 204.0000 - fp: 25.0000 - tn: 181937.0000 - fn: 110.0000 - accuracy: 0.9993 - precision: 0.8908 - recall: 0.6497 - auc: 0.9436 - prc: 0.7690 - val_loss: 0.0026 - val_tp: 62.0000 - val_fp: 13.0000 - val_tn: 45482.0000 - val_fn: 12.0000 - val_accuracy: 0.9995 - val_precision: 0.8267 - val_recall: 0.8378 - val_auc: 0.9457 - val_prc: 0.8453
Epoch 38/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0034 - tp: 214.0000 - fp: 36.0000 - tn: 181926.0000 - fn: 100.0000 - accuracy: 0.9993 - precision: 0.8560 - recall: 0.6815 - auc: 0.9436 - prc: 0.7767 - val_loss: 0.0025 - val_tp: 62.0000 - val_fp: 9.0000 - val_tn: 45486.0000 - val_fn: 12.0000 - val_accuracy: 0.9995 - val_precision: 0.8732 - val_recall: 0.8378 - val_auc: 0.9458 - val_prc: 0.8513
Epoch 39/100
90/90 [==============================] - 0s 6ms/step - loss: 0.0035 - tp: 213.0000 - fp: 23.0000 - tn: 181939.0000 - fn: 101.0000 - accuracy: 0.9993 - precision: 0.9025 - recall: 0.6783 - auc: 0.9388 - prc: 0.7605 - val_loss: 0.0025 - val_tp: 62.0000 - val_fp: 9.0000 - val_tn: 45486.0000 - val_fn: 12.0000 - val_accuracy: 0.9995 - val_precision: 0.8732 - val_recall: 0.8378 - val_auc: 0.9458 - val_prc: 0.8500
Epoch 40/100
90/90 [==============================] - 0s 6ms/step - loss: 0.0036 - tp: 199.0000 - fp: 30.0000 - tn: 181932.0000 - fn: 115.0000 - accuracy: 0.9992 - precision: 0.8690 - recall: 0.6338 - auc: 0.9484 - prc: 0.7462 - val_loss: 0.0025 - val_tp: 62.0000 - val_fp: 9.0000 - val_tn: 45486.0000 - val_fn: 12.0000 - val_accuracy: 0.9995 - val_precision: 0.8732 - val_recall: 0.8378 - val_auc: 0.9457 - val_prc: 0.8510
Epoch 41/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0037 - tp: 191.0000 - fp: 35.0000 - tn: 181927.0000 - fn: 123.0000 - accuracy: 0.9991 - precision: 0.8451 - recall: 0.6083 - auc: 0.9324 - prc: 0.7398 - val_loss: 0.0026 - val_tp: 62.0000 - val_fp: 9.0000 - val_tn: 45486.0000 - val_fn: 12.0000 - val_accuracy: 0.9995 - val_precision: 0.8732 - val_recall: 0.8378 - val_auc: 0.9458 - val_prc: 0.8511
Epoch 42/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0035 - tp: 197.0000 - fp: 28.0000 - tn: 181934.0000 - fn: 117.0000 - accuracy: 0.9992 - precision: 0.8756 - recall: 0.6274 - auc: 0.9357 - prc: 0.7594 - val_loss: 0.0026 - val_tp: 62.0000 - val_fp: 10.0000 - val_tn: 45485.0000 - val_fn: 12.0000 - val_accuracy: 0.9995 - val_precision: 0.8611 - val_recall: 0.8378 - val_auc: 0.9457 - val_prc: 0.8475
Epoch 43/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0035 - tp: 206.0000 - fp: 27.0000 - tn: 181935.0000 - fn: 108.0000 - accuracy: 0.9993 - precision: 0.8841 - recall: 0.6561 - auc: 0.9468 - prc: 0.7608 - val_loss: 0.0025 - val_tp: 62.0000 - val_fp: 9.0000 - val_tn: 45486.0000 - val_fn: 12.0000 - val_accuracy: 0.9995 - val_precision: 0.8732 - val_recall: 0.8378 - val_auc: 0.9457 - val_prc: 0.8515
Epoch 44/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0033 - tp: 213.0000 - fp: 27.0000 - tn: 181935.0000 - fn: 101.0000 - accuracy: 0.9993 - precision: 0.8875 - recall: 0.6783 - auc: 0.9373 - prc: 0.7850 - val_loss: 0.0025 - val_tp: 62.0000 - val_fp: 9.0000 - val_tn: 45486.0000 - val_fn: 12.0000 - val_accuracy: 0.9995 - val_precision: 0.8732 - val_recall: 0.8378 - val_auc: 0.9457 - val_prc: 0.8481
Epoch 45/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0034 - tp: 207.0000 - fp: 27.0000 - tn: 181935.0000 - fn: 107.0000 - accuracy: 0.9993 - precision: 0.8846 - recall: 0.6592 - auc: 0.9372 - prc: 0.7685 - val_loss: 0.0025 - val_tp: 62.0000 - val_fp: 9.0000 - val_tn: 45486.0000 - val_fn: 12.0000 - val_accuracy: 0.9995 - val_precision: 0.8732 - val_recall: 0.8378 - val_auc: 0.9458 - val_prc: 0.8515
Epoch 46/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0035 - tp: 197.0000 - fp: 23.0000 - tn: 181939.0000 - fn: 117.0000 - accuracy: 0.9992 - precision: 0.8955 - recall: 0.6274 - auc: 0.9340 - prc: 0.7717 - val_loss: 0.0026 - val_tp: 62.0000 - val_fp: 13.0000 - val_tn: 45482.0000 - val_fn: 12.0000 - val_accuracy: 0.9995 - val_precision: 0.8267 - val_recall: 0.8378 - val_auc: 0.9457 - val_prc: 0.8503
Epoch 47/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0034 - tp: 214.0000 - fp: 31.0000 - tn: 181931.0000 - fn: 100.0000 - accuracy: 0.9993 - precision: 0.8735 - recall: 0.6815 - auc: 0.9468 - prc: 0.7765 - val_loss: 0.0026 - val_tp: 62.0000 - val_fp: 12.0000 - val_tn: 45483.0000 - val_fn: 12.0000 - val_accuracy: 0.9995 - val_precision: 0.8378 - val_recall: 0.8378 - val_auc: 0.9458 - val_prc: 0.8506
Epoch 48/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0036 - tp: 200.0000 - fp: 29.0000 - tn: 181933.0000 - fn: 114.0000 - accuracy: 0.9992 - precision: 0.8734 - recall: 0.6369 - auc: 0.9324 - prc: 0.7516 - val_loss: 0.0025 - val_tp: 62.0000 - val_fp: 9.0000 - val_tn: 45486.0000 - val_fn: 12.0000 - val_accuracy: 0.9995 - val_precision: 0.8732 - val_recall: 0.8378 - val_auc: 0.9458 - val_prc: 0.8530
Epoch 49/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0033 - tp: 209.0000 - fp: 23.0000 - tn: 181939.0000 - fn: 105.0000 - accuracy: 0.9993 - precision: 0.9009 - recall: 0.6656 - auc: 0.9421 - prc: 0.7801 - val_loss: 0.0026 - val_tp: 62.0000 - val_fp: 12.0000 - val_tn: 45483.0000 - val_fn: 12.0000 - val_accuracy: 0.9995 - val_precision: 0.8378 - val_recall: 0.8378 - val_auc: 0.9457 - val_prc: 0.8479
Epoch 50/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0034 - tp: 206.0000 - fp: 32.0000 - tn: 181930.0000 - fn: 108.0000 - accuracy: 0.9992 - precision: 0.8655 - recall: 0.6561 - auc: 0.9436 - prc: 0.7699 - val_loss: 0.0026 - val_tp: 62.0000 - val_fp: 8.0000 - val_tn: 45487.0000 - val_fn: 12.0000 - val_accuracy: 0.9996 - val_precision: 0.8857 - val_recall: 0.8378 - val_auc: 0.9457 - val_prc: 0.8484
Epoch 51/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0034 - tp: 207.0000 - fp: 29.0000 - tn: 181933.0000 - fn: 107.0000 - accuracy: 0.9993 - precision: 0.8771 - recall: 0.6592 - auc: 0.9372 - prc: 0.7687 - val_loss: 0.0025 - val_tp: 62.0000 - val_fp: 9.0000 - val_tn: 45486.0000 - val_fn: 12.0000 - val_accuracy: 0.9995 - val_precision: 0.8732 - val_recall: 0.8378 - val_auc: 0.9458 - val_prc: 0.8520
Epoch 52/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0033 - tp: 203.0000 - fp: 23.0000 - tn: 181939.0000 - fn: 111.0000 - accuracy: 0.9993 - precision: 0.8982 - recall: 0.6465 - auc: 0.9389 - prc: 0.7772 - val_loss: 0.0026 - val_tp: 62.0000 - val_fp: 12.0000 - val_tn: 45483.0000 - val_fn: 12.0000 - val_accuracy: 0.9995 - val_precision: 0.8378 - val_recall: 0.8378 - val_auc: 0.9457 - val_prc: 0.8505
Epoch 53/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0034 - tp: 206.0000 - fp: 32.0000 - tn: 181930.0000 - fn: 108.0000 - accuracy: 0.9992 - precision: 0.8655 - recall: 0.6561 - auc: 0.9420 - prc: 0.7719 - val_loss: 0.0026 - val_tp: 62.0000 - val_fp: 10.0000 - val_tn: 45485.0000 - val_fn: 12.0000 - val_accuracy: 0.9995 - val_precision: 0.8611 - val_recall: 0.8378 - val_auc: 0.9457 - val_prc: 0.8494
Epoch 54/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0035 - tp: 206.0000 - fp: 30.0000 - tn: 181932.0000 - fn: 108.0000 - accuracy: 0.9992 - precision: 0.8729 - recall: 0.6561 - auc: 0.9356 - prc: 0.7599 - val_loss: 0.0026 - val_tp: 62.0000 - val_fp: 11.0000 - val_tn: 45484.0000 - val_fn: 12.0000 - val_accuracy: 0.9995 - val_precision: 0.8493 - val_recall: 0.8378 - val_auc: 0.9457 - val_prc: 0.8502
Epoch 55/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0034 - tp: 206.0000 - fp: 27.0000 - tn: 181935.0000 - fn: 108.0000 - accuracy: 0.9993 - precision: 0.8841 - recall: 0.6561 - auc: 0.9341 - prc: 0.7673 - val_loss: 0.0025 - val_tp: 61.0000 - val_fp: 9.0000 - val_tn: 45486.0000 - val_fn: 13.0000 - val_accuracy: 0.9995 - val_precision: 0.8714 - val_recall: 0.8243 - val_auc: 0.9457 - val_prc: 0.8521
Epoch 56/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0032 - tp: 210.0000 - fp: 29.0000 - tn: 181933.0000 - fn: 104.0000 - accuracy: 0.9993 - precision: 0.8787 - recall: 0.6688 - auc: 0.9389 - prc: 0.7840 - val_loss: 0.0026 - val_tp: 62.0000 - val_fp: 13.0000 - val_tn: 45482.0000 - val_fn: 12.0000 - val_accuracy: 0.9995 - val_precision: 0.8267 - val_recall: 0.8378 - val_auc: 0.9457 - val_prc: 0.8482
Epoch 57/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0033 - tp: 206.0000 - fp: 28.0000 - tn: 181934.0000 - fn: 108.0000 - accuracy: 0.9993 - precision: 0.8803 - recall: 0.6561 - auc: 0.9468 - prc: 0.7722 - val_loss: 0.0025 - val_tp: 61.0000 - val_fp: 8.0000 - val_tn: 45487.0000 - val_fn: 13.0000 - val_accuracy: 0.9995 - val_precision: 0.8841 - val_recall: 0.8243 - val_auc: 0.9457 - val_prc: 0.8533
Epoch 58/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0034 - tp: 200.0000 - fp: 30.0000 - tn: 181932.0000 - fn: 114.0000 - accuracy: 0.9992 - precision: 0.8696 - recall: 0.6369 - auc: 0.9403 - prc: 0.7666 - val_loss: 0.0026 - val_tp: 62.0000 - val_fp: 10.0000 - val_tn: 45485.0000 - val_fn: 12.0000 - val_accuracy: 0.9995 - val_precision: 0.8611 - val_recall: 0.8378 - val_auc: 0.9457 - val_prc: 0.8517
Epoch 59/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0034 - tp: 211.0000 - fp: 25.0000 - tn: 181937.0000 - fn: 103.0000 - accuracy: 0.9993 - precision: 0.8941 - recall: 0.6720 - auc: 0.9372 - prc: 0.7704 - val_loss: 0.0026 - val_tp: 62.0000 - val_fp: 10.0000 - val_tn: 45485.0000 - val_fn: 12.0000 - val_accuracy: 0.9995 - val_precision: 0.8611 - val_recall: 0.8378 - val_auc: 0.9457 - val_prc: 0.8503
Epoch 60/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0032 - tp: 210.0000 - fp: 22.0000 - tn: 181940.0000 - fn: 104.0000 - accuracy: 0.9993 - precision: 0.9052 - recall: 0.6688 - auc: 0.9372 - prc: 0.7833 - val_loss: 0.0026 - val_tp: 62.0000 - val_fp: 10.0000 - val_tn: 45485.0000 - val_fn: 12.0000 - val_accuracy: 0.9995 - val_precision: 0.8611 - val_recall: 0.8378 - val_auc: 0.9457 - val_prc: 0.8525
Epoch 61/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0033 - tp: 205.0000 - fp: 26.0000 - tn: 181936.0000 - fn: 109.0000 - accuracy: 0.9993 - precision: 0.8874 - recall: 0.6529 - auc: 0.9451 - prc: 0.7705 - val_loss: 0.0026 - val_tp: 62.0000 - val_fp: 10.0000 - val_tn: 45485.0000 - val_fn: 12.0000 - val_accuracy: 0.9995 - val_precision: 0.8611 - val_recall: 0.8378 - val_auc: 0.9457 - val_prc: 0.8507
Epoch 62/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0033 - tp: 200.0000 - fp: 32.0000 - tn: 181930.0000 - fn: 114.0000 - accuracy: 0.9992 - precision: 0.8621 - recall: 0.6369 - auc: 0.9420 - prc: 0.7737 - val_loss: 0.0026 - val_tp: 61.0000 - val_fp: 9.0000 - val_tn: 45486.0000 - val_fn: 13.0000 - val_accuracy: 0.9995 - val_precision: 0.8714 - val_recall: 0.8243 - val_auc: 0.9458 - val_prc: 0.8488
Epoch 63/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0034 - tp: 205.0000 - fp: 30.0000 - tn: 181932.0000 - fn: 109.0000 - accuracy: 0.9992 - precision: 0.8723 - recall: 0.6529 - auc: 0.9452 - prc: 0.7794 - val_loss: 0.0025 - val_tp: 61.0000 - val_fp: 8.0000 - val_tn: 45487.0000 - val_fn: 13.0000 - val_accuracy: 0.9995 - val_precision: 0.8841 - val_recall: 0.8243 - val_auc: 0.9457 - val_prc: 0.8510
Epoch 64/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0035 - tp: 202.0000 - fp: 29.0000 - tn: 181933.0000 - fn: 112.0000 - accuracy: 0.9992 - precision: 0.8745 - recall: 0.6433 - auc: 0.9340 - prc: 0.7590 - val_loss: 0.0026 - val_tp: 62.0000 - val_fp: 10.0000 - val_tn: 45485.0000 - val_fn: 12.0000 - val_accuracy: 0.9995 - val_precision: 0.8611 - val_recall: 0.8378 - val_auc: 0.9457 - val_prc: 0.8469
Epoch 65/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0033 - tp: 206.0000 - fp: 27.0000 - tn: 181935.0000 - fn: 108.0000 - accuracy: 0.9993 - precision: 0.8841 - recall: 0.6561 - auc: 0.9436 - prc: 0.7802 - val_loss: 0.0027 - val_tp: 62.0000 - val_fp: 10.0000 - val_tn: 45485.0000 - val_fn: 12.0000 - val_accuracy: 0.9995 - val_precision: 0.8611 - val_recall: 0.8378 - val_auc: 0.9457 - val_prc: 0.8467
Epoch 66/100
90/90 [==============================] - 1s 6ms/step - loss: 0.0034 - tp: 196.0000 - fp: 31.0000 - tn: 181931.0000 - fn: 118.0000 - accuracy: 0.9992 - precision: 0.8634 - recall: 0.6242 - auc: 0.9403 - prc: 0.7677 - val_loss: 0.0028 - val_tp: 62.0000 - val_fp: 13.0000 - val_tn: 45482.0000 - val_fn: 12.0000 - val_accuracy: 0.9995 - val_precision: 0.8267 - val_recall: 0.8378 - val_auc: 0.9457 - val_prc: 0.8340
Epoch 67/100
86/90 [===========================>..] - ETA: 0s - loss: 0.0032 - tp: 207.0000 - fp: 30.0000 - tn: 175793.0000 - fn: 98.0000 - accuracy: 0.9993 - precision: 0.8734 - recall: 0.6787 - auc: 0.9452 - prc: 0.7839Restoring model weights from the end of the best epoch: 57.
90/90 [==============================] - 1s 6ms/step - loss: 0.0032 - tp: 212.0000 - fp: 30.0000 - tn: 181932.0000 - fn: 102.0000 - accuracy: 0.9993 - precision: 0.8760 - recall: 0.6752 - auc: 0.9452 - prc: 0.7846 - val_loss: 0.0026 - val_tp: 61.0000 - val_fp: 9.0000 - val_tn: 45486.0000 - val_fn: 13.0000 - val_accuracy: 0.9995 - val_precision: 0.8714 - val_recall: 0.8243 - val_auc: 0.9457 - val_prc: 0.8517
Epoch 67: early stopping

학습 이력 확인

이 섹션에서는 훈련 및 검증 세트에서 모델의 정확도 및 손실에 대한 플롯을 생성합니다. 이는 과대적합 확인에 유용하며 과대적합 및 과소적합 튜토리얼에서 자세히 알아볼 수 있습니다.

또한, 위에서 만든 모든 메트릭에 대해 다음과 같은 플롯을 생성할 수 있습니다. 거짓 음성이 예시에 포함되어 있습니다.

def plot_metrics(history):
  metrics = ['loss', 'prc', 'precision', 'recall']
  for n, metric in enumerate(metrics):
    name = metric.replace("_"," ").capitalize()
    plt.subplot(2,2,n+1)
    plt.plot(history.epoch, history.history[metric], color=colors[0], label='Train')
    plt.plot(history.epoch, history.history['val_'+metric],
             color=colors[0], linestyle="--", label='Val')
    plt.xlabel('Epoch')
    plt.ylabel(name)
    if metric == 'loss':
      plt.ylim([0, plt.ylim()[1]])
    elif metric == 'auc':
      plt.ylim([0.8,1])
    else:
      plt.ylim([0,1])

    plt.legend()

plot_metrics(baseline_history)

png

참고: 검증 곡선은 일반적으로 훈련 곡선보다 성능이 좋습니다. 이는 주로 모델을 평가할 때 drop out 레이어가 활성화 되지 않았기 때문에 발생합니다.

메트릭 평가

혼동 행렬을 사용하여 실제 레이블과 예측 레이블을 요약할 수 있습니다. 여기서 X축은 예측 레이블이고 Y축은 실제 레이블입니다.

train_predictions_baseline = model.predict(train_features, batch_size=BATCH_SIZE)
test_predictions_baseline = model.predict(test_features, batch_size=BATCH_SIZE)

90/90 [==============================] - 0s 1ms/step
28/28 [==============================] - 0s 1ms/step

def plot_cm(labels, predictions, p=0.5):
  cm = confusion_matrix(labels, predictions > p)
  plt.figure(figsize=(5,5))
  sns.heatmap(cm, annot=True, fmt="d")
  plt.title('Confusion matrix @{:.2f}'.format(p))
  plt.ylabel('Actual label')
  plt.xlabel('Predicted label')

  print('Legitimate Transactions Detected (True Negatives): ', cm[0][0])
  print('Legitimate Transactions Incorrectly Detected (False Positives): ', cm[0][1])
  print('Fraudulent Transactions Missed (False Negatives): ', cm[1][0])
  print('Fraudulent Transactions Detected (True Positives): ', cm[1][1])
  print('Total Fraudulent Transactions: ', np.sum(cm[1]))

테스트 데이터세트에서 모델을 평가하고 위에서 생성한 메트릭 결과를 표시합니다.

baseline_results = model.evaluate(test_features, test_labels,
                                  batch_size=BATCH_SIZE, verbose=0)
for name, value in zip(model.metrics_names, baseline_results):
  print(name, ': ', value)
print()

plot_cm(test_labels, test_predictions_baseline)

loss :  0.003468161914497614
tp :  74.0
fp :  8.0
tn :  56850.0
fn :  30.0
accuracy :  0.9993329048156738
precision :  0.9024389982223511
recall :  0.7115384340286255
auc :  0.9323335289955139
prc :  0.8059106469154358

Legitimate Transactions Detected (True Negatives):  56850
Legitimate Transactions Incorrectly Detected (False Positives):  8
Fraudulent Transactions Missed (False Negatives):  30
Fraudulent Transactions Detected (True Positives):  74
Total Fraudulent Transactions:  104

png

만약 모델이 모두 완벽하게 예측했다면 대각행렬이 되어 예측 오류를 보여주며 대각선 값은 0이 됩니다. 이와 같은 경우, 매트릭에 거짓 양성이 상대적으로 낮음을 확인할 수 있으며 이를 통해 플래그가 잘못 지정된 합법적인 거래가 상대적으로 적다는 것을 알 수 있습니다. 그러나 거짓 양성 수를 늘리더라도 거짓 음성을 더 낮추고 싶을 수 있습니다. 거짓 음성은 부정 거래가 발생할 수 있지만, 거짓 양성은 고객에게 이메일을 보내 카드 활동 확인을 요청할 수 있기 때문에 거짓 음성을 낮추는 것이 더 바람직할 수 있기 때문입니다.

ROC 플로팅

이제 ROC을 플로팅 하십시오. 이 그래프는 출력 임계값을 조정하기만 해도 모델이 도달할 수 있는 성능 범위를 한눈에 보여주기 때문에 유용합니다.

def plot_roc(name, labels, predictions, **kwargs):
  fp, tp, _ = sklearn.metrics.roc_curve(labels, predictions)

  plt.plot(100*fp, 100*tp, label=name, linewidth=2, **kwargs)
  plt.xlabel('False positives [%]')
  plt.ylabel('True positives [%]')
  plt.xlim([-0.5,20])
  plt.ylim([80,100.5])
  plt.grid(True)
  ax = plt.gca()
  ax.set_aspect('equal')

plot_roc("Train Baseline", train_labels, train_predictions_baseline, color=colors[0])
plot_roc("Test Baseline", test_labels, test_predictions_baseline, color=colors[0], linestyle='--')
plt.legend(loc='lower right');

png

AUPRC 플로팅

이제 AUPRC를 플로팅하겠습니다. 보간된 정밀도-재현율 곡선 아래 영역으로, 분류 임계값의 여러 값에 대한 (재현율, 정밀도) 점을 플로팅하여 얻습니다. 계산 방법에 따라 PR AUC는 모델의 평균 정밀도와 동일할 수 있습니다.

def plot_prc(name, labels, predictions, **kwargs):
    precision, recall, _ = sklearn.metrics.precision_recall_curve(labels, predictions)

    plt.plot(precision, recall, label=name, linewidth=2, **kwargs)
    plt.xlabel('Precision')
    plt.ylabel('Recall')
    plt.grid(True)
    ax = plt.gca()
    ax.set_aspect('equal')

plot_prc("Train Baseline", train_labels, train_predictions_baseline, color=colors[0])
plot_prc("Test Baseline", test_labels, test_predictions_baseline, color=colors[0], linestyle='--')
plt.legend(loc='lower right');

png

정밀도가 비교적 높은 것 같지만 재현율과 ROC 곡선(AUC) 아래 면적이 높지 않습니다. 분류자가 정밀도와 재현율 모두를 최대화하려고 하면 종종 어려움에 직면하는데, 불균형 데이터세트로 작업할 때 특히 그렇습니다. 관심있는 문제의 맥락에서 다른 유형의 오류 비용을 고려하는 것이 중요합니다. 이 예시에서 거짓 음성(부정 거래를 놓친 경우)은 금전적 비용이 들 수 있지만 , 거짓 양성(거래가 사기 행위로 잘못 표시됨)은 사용자 만족도를 감소시킬 수 있습니다.

클래스 가중치

클래스 가중치 계산

목표는 부정 거래를 식별하는 것이지만, 작업할 수 있는 양성 샘플이 많지 않지 않기 때문에 분류자는 이용 가능한 몇 가지 예에 가중치를 두고자 할 것입니다. 매개 변수를 통해 각 클래스에 대한 Keras 가중치를 전달한다면 이 작업을 수행할 수 있습니다. 이로 인해 모델은 더 적은 클래스 예시에 "더 많은 관심을 기울일" 수 있습니다.

# Scaling by total/2 helps keep the loss to a similar magnitude.
# The sum of the weights of all examples stays the same.
weight_for_0 = (1 / neg) * (total / 2.0)
weight_for_1 = (1 / pos) * (total / 2.0)

class_weight = {0: weight_for_0, 1: weight_for_1}

print('Weight for class 0: {:.2f}'.format(weight_for_0))
print('Weight for class 1: {:.2f}'.format(weight_for_1))

Weight for class 0: 0.50
Weight for class 1: 289.44

클래스 가중치로 모델 교육

이제 해당 모델이 예측에 어떤 영향을 미치는지 확인하기 위하여 클래스 가중치로 모델을 재 교육하고 평가해 보십시오.

참고: class_weights를 사용하면 손실 범위가 변경됩니다. 이는 옵티마이저에 따라 훈련의 안정성에 영향을 미칠 수 있습니다. tf.keras.optimizers.SGD와 같이 단계 크기가 그래디언트의 크기에 따라 달라지는 옵티마이저는 실패할 수 있습니다. 여기서 사용된 옵티마이저인 tf.keras.optimizers.Adam은 스케일링 변경의 영향을 받지 않습니다. 또한, 가중치로 인해 총 손실은 두 모델 간에 비교할 수 없습니다.

weighted_model = make_model()
weighted_model.load_weights(initial_weights)

weighted_history = weighted_model.fit(
    train_features,
    train_labels,
    batch_size=BATCH_SIZE,
    epochs=EPOCHS,
    callbacks=[early_stopping],
    validation_data=(val_features, val_labels),
    # The class weights go here
    class_weight=class_weight)

Epoch 1/100
90/90 [==============================] - 3s 11ms/step - loss: 2.0359 - tp: 150.0000 - fp: 155.0000 - tn: 238665.0000 - fn: 268.0000 - accuracy: 0.9982 - precision: 0.4918 - recall: 0.3589 - auc: 0.8151 - prc: 0.3412 - val_loss: 0.0062 - val_tp: 50.0000 - val_fp: 11.0000 - val_tn: 45484.0000 - val_fn: 24.0000 - val_accuracy: 0.9992 - val_precision: 0.8197 - val_recall: 0.6757 - val_auc: 0.9237 - val_prc: 0.6484
Epoch 2/100
90/90 [==============================] - 1s 6ms/step - loss: 1.0229 - tp: 179.0000 - fp: 244.0000 - tn: 181718.0000 - fn: 135.0000 - accuracy: 0.9979 - precision: 0.4232 - recall: 0.5701 - auc: 0.8656 - prc: 0.4522 - val_loss: 0.0076 - val_tp: 61.0000 - val_fp: 15.0000 - val_tn: 45480.0000 - val_fn: 13.0000 - val_accuracy: 0.9994 - val_precision: 0.8026 - val_recall: 0.8243 - val_auc: 0.9462 - val_prc: 0.6712
Epoch 3/100
90/90 [==============================] - 1s 6ms/step - loss: 0.8179 - tp: 189.0000 - fp: 452.0000 - tn: 181510.0000 - fn: 125.0000 - accuracy: 0.9968 - precision: 0.2949 - recall: 0.6019 - auc: 0.8968 - prc: 0.4678 - val_loss: 0.0103 - val_tp: 62.0000 - val_fp: 25.0000 - val_tn: 45470.0000 - val_fn: 12.0000 - val_accuracy: 0.9992 - val_precision: 0.7126 - val_recall: 0.8378 - val_auc: 0.9649 - val_prc: 0.7120
Epoch 4/100
90/90 [==============================] - 1s 6ms/step - loss: 0.5910 - tp: 231.0000 - fp: 707.0000 - tn: 181255.0000 - fn: 83.0000 - accuracy: 0.9957 - precision: 0.2463 - recall: 0.7357 - auc: 0.9136 - prc: 0.5209 - val_loss: 0.0137 - val_tp: 63.0000 - val_fp: 46.0000 - val_tn: 45449.0000 - val_fn: 11.0000 - val_accuracy: 0.9987 - val_precision: 0.5780 - val_recall: 0.8514 - val_auc: 0.9720 - val_prc: 0.7136
Epoch 5/100
90/90 [==============================] - 1s 6ms/step - loss: 0.4221 - tp: 246.0000 - fp: 1329.0000 - tn: 180633.0000 - fn: 68.0000 - accuracy: 0.9923 - precision: 0.1562 - recall: 0.7834 - auc: 0.9458 - prc: 0.4880 - val_loss: 0.0196 - val_tp: 63.0000 - val_fp: 98.0000 - val_tn: 45397.0000 - val_fn: 11.0000 - val_accuracy: 0.9976 - val_precision: 0.3913 - val_recall: 0.8514 - val_auc: 0.9780 - val_prc: 0.7362
Epoch 6/100
90/90 [==============================] - 1s 6ms/step - loss: 0.3619 - tp: 254.0000 - fp: 2135.0000 - tn: 179827.0000 - fn: 60.0000 - accuracy: 0.9880 - precision: 0.1063 - recall: 0.8089 - auc: 0.9538 - prc: 0.4209 - val_loss: 0.0279 - val_tp: 66.0000 - val_fp: 198.0000 - val_tn: 45297.0000 - val_fn: 8.0000 - val_accuracy: 0.9955 - val_precision: 0.2500 - val_recall: 0.8919 - val_auc: 0.9854 - val_prc: 0.6866
Epoch 7/100
90/90 [==============================] - 1s 6ms/step - loss: 0.3156 - tp: 261.0000 - fp: 3182.0000 - tn: 178780.0000 - fn: 53.0000 - accuracy: 0.9823 - precision: 0.0758 - recall: 0.8312 - auc: 0.9560 - prc: 0.3469 - val_loss: 0.0379 - val_tp: 66.0000 - val_fp: 328.0000 - val_tn: 45167.0000 - val_fn: 8.0000 - val_accuracy: 0.9926 - val_precision: 0.1675 - val_recall: 0.8919 - val_auc: 0.9900 - val_prc: 0.6526
Epoch 8/100
90/90 [==============================] - 1s 6ms/step - loss: 0.3293 - tp: 262.0000 - fp: 4228.0000 - tn: 177734.0000 - fn: 52.0000 - accuracy: 0.9765 - precision: 0.0584 - recall: 0.8344 - auc: 0.9488 - prc: 0.2940 - val_loss: 0.0480 - val_tp: 67.0000 - val_fp: 502.0000 - val_tn: 44993.0000 - val_fn: 7.0000 - val_accuracy: 0.9888 - val_precision: 0.1178 - val_recall: 0.9054 - val_auc: 0.9919 - val_prc: 0.6263
Epoch 9/100
90/90 [==============================] - 1s 6ms/step - loss: 0.2882 - tp: 272.0000 - fp: 4740.0000 - tn: 177222.0000 - fn: 42.0000 - accuracy: 0.9738 - precision: 0.0543 - recall: 0.8662 - auc: 0.9553 - prc: 0.2709 - val_loss: 0.0531 - val_tp: 67.0000 - val_fp: 558.0000 - val_tn: 44937.0000 - val_fn: 7.0000 - val_accuracy: 0.9876 - val_precision: 0.1072 - val_recall: 0.9054 - val_auc: 0.9927 - val_prc: 0.6019
Epoch 10/100
90/90 [==============================] - 1s 6ms/step - loss: 0.2583 - tp: 273.0000 - fp: 5368.0000 - tn: 176594.0000 - fn: 41.0000 - accuracy: 0.9703 - precision: 0.0484 - recall: 0.8694 - auc: 0.9612 - prc: 0.2619 - val_loss: 0.0619 - val_tp: 67.0000 - val_fp: 632.0000 - val_tn: 44863.0000 - val_fn: 7.0000 - val_accuracy: 0.9860 - val_precision: 0.0959 - val_recall: 0.9054 - val_auc: 0.9932 - val_prc: 0.5846
Epoch 11/100
90/90 [==============================] - 1s 6ms/step - loss: 0.2378 - tp: 277.0000 - fp: 5948.0000 - tn: 176014.0000 - fn: 37.0000 - accuracy: 0.9672 - precision: 0.0445 - recall: 0.8822 - auc: 0.9657 - prc: 0.2346 - val_loss: 0.0676 - val_tp: 67.0000 - val_fp: 692.0000 - val_tn: 44803.0000 - val_fn: 7.0000 - val_accuracy: 0.9847 - val_precision: 0.0883 - val_recall: 0.9054 - val_auc: 0.9930 - val_prc: 0.5360
Epoch 12/100
90/90 [==============================] - 1s 6ms/step - loss: 0.2927 - tp: 271.0000 - fp: 6239.0000 - tn: 175723.0000 - fn: 43.0000 - accuracy: 0.9655 - precision: 0.0416 - recall: 0.8631 - auc: 0.9521 - prc: 0.2106 - val_loss: 0.0726 - val_tp: 67.0000 - val_fp: 745.0000 - val_tn: 44750.0000 - val_fn: 7.0000 - val_accuracy: 0.9835 - val_precision: 0.0825 - val_recall: 0.9054 - val_auc: 0.9934 - val_prc: 0.5083
Epoch 13/100
90/90 [==============================] - 1s 6ms/step - loss: 0.2615 - tp: 276.0000 - fp: 6768.0000 - tn: 175194.0000 - fn: 38.0000 - accuracy: 0.9627 - precision: 0.0392 - recall: 0.8790 - auc: 0.9598 - prc: 0.2089 - val_loss: 0.0761 - val_tp: 67.0000 - val_fp: 781.0000 - val_tn: 44714.0000 - val_fn: 7.0000 - val_accuracy: 0.9827 - val_precision: 0.0790 - val_recall: 0.9054 - val_auc: 0.9934 - val_prc: 0.5079
Epoch 14/100
90/90 [==============================] - 1s 6ms/step - loss: 0.2580 - tp: 281.0000 - fp: 6655.0000 - tn: 175307.0000 - fn: 33.0000 - accuracy: 0.9633 - precision: 0.0405 - recall: 0.8949 - auc: 0.9594 - prc: 0.2182 - val_loss: 0.0754 - val_tp: 67.0000 - val_fp: 778.0000 - val_tn: 44717.0000 - val_fn: 7.0000 - val_accuracy: 0.9828 - val_precision: 0.0793 - val_recall: 0.9054 - val_auc: 0.9934 - val_prc: 0.5080
Epoch 15/100
85/90 [===========================>..] - ETA: 0s - loss: 0.3046 - tp: 265.0000 - fp: 6316.0000 - tn: 167463.0000 - fn: 36.0000 - accuracy: 0.9635 - precision: 0.0403 - recall: 0.8804 - auc: 0.9450 - prc: 0.1987Restoring model weights from the end of the best epoch: 5.
90/90 [==============================] - 1s 6ms/step - loss: 0.3009 - tp: 276.0000 - fp: 6610.0000 - tn: 175352.0000 - fn: 38.0000 - accuracy: 0.9635 - precision: 0.0401 - recall: 0.8790 - auc: 0.9465 - prc: 0.1966 - val_loss: 0.0765 - val_tp: 67.0000 - val_fp: 783.0000 - val_tn: 44712.0000 - val_fn: 7.0000 - val_accuracy: 0.9827 - val_precision: 0.0788 - val_recall: 0.9054 - val_auc: 0.9933 - val_prc: 0.5040
Epoch 15: early stopping

학습 이력 조회

plot_metrics(weighted_history)

png

매트릭 평가

train_predictions_weighted = weighted_model.predict(train_features, batch_size=BATCH_SIZE)
test_predictions_weighted = weighted_model.predict(test_features, batch_size=BATCH_SIZE)

90/90 [==============================] - 0s 1ms/step
28/28 [==============================] - 0s 1ms/step

weighted_results = weighted_model.evaluate(test_features, test_labels,
                                           batch_size=BATCH_SIZE, verbose=0)
for name, value in zip(weighted_model.metrics_names, weighted_results):
  print(name, ': ', value)
print()

plot_cm(test_labels, test_predictions_weighted)

loss :  0.019669152796268463
tp :  83.0
fp :  129.0
tn :  56729.0
fn :  21.0
accuracy :  0.9973666667938232
precision :  0.39150944352149963
recall :  0.7980769276618958
auc :  0.9632759094238281
prc :  0.6987218856811523

Legitimate Transactions Detected (True Negatives):  56729
Legitimate Transactions Incorrectly Detected (False Positives):  129
Fraudulent Transactions Missed (False Negatives):  21
Fraudulent Transactions Detected (True Positives):  83
Total Fraudulent Transactions:  104

png

여기서 클래스 가중치를 사용하면 거짓 양성이 더 많기 때문에 정확도와 정밀도는 더 낮지만, 반대로 참 양성이 많으므로 재현율과 AUC는 더 높다는 것을 알 수 있습니다. 정확도가 낮음에도 불구하고 이 모델은 재현율이 더 높습니다(더 많은 부정 거래 식별). 물론 두 가지 유형의 오류 모두 비용이 발생합니다(많은 합법 거래를 사기로 표시하여 사용자를 번거롭게 하는 것은 바람직하지 않으므로). 따라서, 여러 유형 오류 간 절충 사항을 신중하게 고려해야 합니다.

ROC 플로팅

plot_roc("Train Baseline", train_labels, train_predictions_baseline, color=colors[0])
plot_roc("Test Baseline", test_labels, test_predictions_baseline, color=colors[0], linestyle='--')

plot_roc("Train Weighted", train_labels, train_predictions_weighted, color=colors[1])
plot_roc("Test Weighted", test_labels, test_predictions_weighted, color=colors[1], linestyle='--')


plt.legend(loc='lower right');

png

AUPRC 플로팅

plot_prc("Train Baseline", train_labels, train_predictions_baseline, color=colors[0])
plot_prc("Test Baseline", test_labels, test_predictions_baseline, color=colors[0], linestyle='--')

plot_prc("Train Weighted", train_labels, train_predictions_weighted, color=colors[1])
plot_prc("Test Weighted", test_labels, test_predictions_weighted, color=colors[1], linestyle='--')


plt.legend(loc='lower right');

png

오버샘플링

소수 계급 과대 표본

관련된 접근 방식은 소수 클래스를 오버 샘플링 하여 데이터 세트를 리 샘플링 하는 것입니다.

pos_features = train_features[bool_train_labels]
neg_features = train_features[~bool_train_labels]

pos_labels = train_labels[bool_train_labels]
neg_labels = train_labels[~bool_train_labels]

NumPy 사용

긍정적인 예에서 적절한 수의 임의 인덱스를 선택하여 데이터 세트의 균형을 수동으로 조정할 수 있습니다.:

ids = np.arange(len(pos_features))
choices = np.random.choice(ids, len(neg_features))

res_pos_features = pos_features[choices]
res_pos_labels = pos_labels[choices]

res_pos_features.shape

(181962, 29)

resampled_features = np.concatenate([res_pos_features, neg_features], axis=0)
resampled_labels = np.concatenate([res_pos_labels, neg_labels], axis=0)

order = np.arange(len(resampled_labels))
np.random.shuffle(order)
resampled_features = resampled_features[order]
resampled_labels = resampled_labels[order]

resampled_features.shape

(363924, 29)

tf.data 사용

tf.data를 사용하는 경우 균형있는 예를 생성하는 가장 쉬운 방법은 positive와 negative 데이터세트로 시작하여 이들을 병합하는 것입니다. tf.data guide에서 더 많은 예를 참조하시기 바랍니다.

BUFFER_SIZE = 100000

def make_ds(features, labels):
  ds = tf.data.Dataset.from_tensor_slices((features, labels))#.cache()
  ds = ds.shuffle(BUFFER_SIZE).repeat()
  return ds

pos_ds = make_ds(pos_features, pos_labels)
neg_ds = make_ds(neg_features, neg_labels)

각 데이터 세트는 (feature, label) 쌍으로 되어 있습니다.

for features, label in pos_ds.take(1):
  print("Features:\n", features.numpy())
  print()
  print("Label: ", label.numpy())

Features:
 [-0.55467083 -0.97922813  0.59080477  0.59643053 -0.89905801  0.48952454
  1.15946322  0.01864729 -0.12317742 -0.13615181  1.15007822 -0.79930697
 -2.14706985  0.60117816  1.53918159  0.0180766  -0.13999689  0.98266206
  0.58410867  1.57832521  0.83951491  1.15214517  1.86547002 -0.04804956
 -0.57735273  1.44586154 -0.82327406 -0.51314852  1.63526419]

Label:  1

tf.data.Dataset.sample_from_datasets를 사용하여 이 둘을 병합합니다.

resampled_ds = tf.data.Dataset.sample_from_datasets([pos_ds, neg_ds], weights=[0.5, 0.5])
resampled_ds = resampled_ds.batch(BATCH_SIZE).prefetch(2)

for features, label in resampled_ds.take(1):
  print(label.numpy().mean())

0.5068359375

이 데이터 세트를 사용하려면 epoch당 스텝 수가 필요합니다.

이 경우 "epoch"의 정의는 명확하지 않습니다. 각 음성 예시를 한 번 볼 때 필요한 배치 수라고 해봅시다.

resampled_steps_per_epoch = np.ceil(2.0*neg/BATCH_SIZE)
resampled_steps_per_epoch

278.0

오버 샘플링 된 데이터에 대한 학습

이제 클래스 가중치를 사용하는 대신 리 샘플링 된 데이터 세트로 모델을 학습하여 이러한 방법이 어떻게 비교되는지 확인하십시오.

참고: 긍정적인 예를 복제하여 데이터가 균형을 이루었기 때문에 총 데이터 세트 크기가 더 크고 각 세대가 더 많은 학습 단계를 위해 실행됩니다. 

resampled_model = make_model()
resampled_model.load_weights(initial_weights)

# Reset the bias to zero, since this dataset is balanced.
output_layer = resampled_model.layers[-1] 
output_layer.bias.assign([0])

val_ds = tf.data.Dataset.from_tensor_slices((val_features, val_labels)).cache()
val_ds = val_ds.batch(BATCH_SIZE).prefetch(2) 

resampled_history = resampled_model.fit(
    resampled_ds,
    epochs=EPOCHS,
    steps_per_epoch=resampled_steps_per_epoch,
    callbacks=[early_stopping],
    validation_data=val_ds)

Epoch 1/100
278/278 [==============================] - 9s 25ms/step - loss: 0.4348 - tp: 235044.0000 - fp: 60383.0000 - tn: 280909.0000 - fn: 49970.0000 - accuracy: 0.8238 - precision: 0.7956 - recall: 0.8247 - auc: 0.9020 - prc: 0.9208 - val_loss: 0.2105 - val_tp: 68.0000 - val_fp: 944.0000 - val_tn: 44551.0000 - val_fn: 6.0000 - val_accuracy: 0.9792 - val_precision: 0.0672 - val_recall: 0.9189 - val_auc: 0.9713 - val_prc: 0.7421
Epoch 2/100
278/278 [==============================] - 7s 24ms/step - loss: 0.2044 - tp: 255378.0000 - fp: 14590.0000 - tn: 270323.0000 - fn: 29053.0000 - accuracy: 0.9233 - precision: 0.9460 - recall: 0.8979 - auc: 0.9713 - prc: 0.9775 - val_loss: 0.1154 - val_tp: 70.0000 - val_fp: 911.0000 - val_tn: 44584.0000 - val_fn: 4.0000 - val_accuracy: 0.9799 - val_precision: 0.0714 - val_recall: 0.9459 - val_auc: 0.9737 - val_prc: 0.7321
Epoch 3/100
278/278 [==============================] - 7s 24ms/step - loss: 0.1569 - tp: 259317.0000 - fp: 10136.0000 - tn: 274474.0000 - fn: 25417.0000 - accuracy: 0.9376 - precision: 0.9624 - recall: 0.9107 - auc: 0.9842 - prc: 0.9865 - val_loss: 0.0844 - val_tp: 70.0000 - val_fp: 794.0000 - val_tn: 44701.0000 - val_fn: 4.0000 - val_accuracy: 0.9825 - val_precision: 0.0810 - val_recall: 0.9459 - val_auc: 0.9722 - val_prc: 0.7070
Epoch 4/100
278/278 [==============================] - 7s 24ms/step - loss: 0.1306 - tp: 262548.0000 - fp: 8590.0000 - tn: 276185.0000 - fn: 22021.0000 - accuracy: 0.9462 - precision: 0.9683 - recall: 0.9226 - auc: 0.9899 - prc: 0.9907 - val_loss: 0.0699 - val_tp: 69.0000 - val_fp: 738.0000 - val_tn: 44757.0000 - val_fn: 5.0000 - val_accuracy: 0.9837 - val_precision: 0.0855 - val_recall: 0.9324 - val_auc: 0.9745 - val_prc: 0.7112
Epoch 5/100
278/278 [==============================] - 7s 24ms/step - loss: 0.1170 - tp: 263962.0000 - fp: 7829.0000 - tn: 276956.0000 - fn: 20597.0000 - accuracy: 0.9501 - precision: 0.9712 - recall: 0.9276 - auc: 0.9923 - prc: 0.9926 - val_loss: 0.0618 - val_tp: 69.0000 - val_fp: 713.0000 - val_tn: 44782.0000 - val_fn: 5.0000 - val_accuracy: 0.9842 - val_precision: 0.0882 - val_recall: 0.9324 - val_auc: 0.9763 - val_prc: 0.7139
Epoch 6/100
278/278 [==============================] - 7s 24ms/step - loss: 0.1074 - tp: 266098.0000 - fp: 7432.0000 - tn: 276960.0000 - fn: 18854.0000 - accuracy: 0.9538 - precision: 0.9728 - recall: 0.9338 - auc: 0.9937 - prc: 0.9938 - val_loss: 0.0570 - val_tp: 69.0000 - val_fp: 693.0000 - val_tn: 44802.0000 - val_fn: 5.0000 - val_accuracy: 0.9847 - val_precision: 0.0906 - val_recall: 0.9324 - val_auc: 0.9777 - val_prc: 0.7176
Epoch 7/100
278/278 [==============================] - 7s 24ms/step - loss: 0.1001 - tp: 267557.0000 - fp: 7203.0000 - tn: 277084.0000 - fn: 17500.0000 - accuracy: 0.9566 - precision: 0.9738 - recall: 0.9386 - auc: 0.9946 - prc: 0.9946 - val_loss: 0.0521 - val_tp: 69.0000 - val_fp: 652.0000 - val_tn: 44843.0000 - val_fn: 5.0000 - val_accuracy: 0.9856 - val_precision: 0.0957 - val_recall: 0.9324 - val_auc: 0.9790 - val_prc: 0.7097
Epoch 8/100
278/278 [==============================] - 7s 24ms/step - loss: 0.0947 - tp: 268874.0000 - fp: 7028.0000 - tn: 276906.0000 - fn: 16536.0000 - accuracy: 0.9586 - precision: 0.9745 - recall: 0.9421 - auc: 0.9952 - prc: 0.9950 - val_loss: 0.0488 - val_tp: 69.0000 - val_fp: 638.0000 - val_tn: 44857.0000 - val_fn: 5.0000 - val_accuracy: 0.9859 - val_precision: 0.0976 - val_recall: 0.9324 - val_auc: 0.9799 - val_prc: 0.7108
Epoch 9/100
278/278 [==============================] - 7s 25ms/step - loss: 0.0902 - tp: 269135.0000 - fp: 7035.0000 - tn: 277727.0000 - fn: 15447.0000 - accuracy: 0.9605 - precision: 0.9745 - recall: 0.9457 - auc: 0.9956 - prc: 0.9954 - val_loss: 0.0455 - val_tp: 69.0000 - val_fp: 610.0000 - val_tn: 44885.0000 - val_fn: 5.0000 - val_accuracy: 0.9865 - val_precision: 0.1016 - val_recall: 0.9324 - val_auc: 0.9807 - val_prc: 0.7111
Epoch 10/100
278/278 [==============================] - 7s 24ms/step - loss: 0.0865 - tp: 270473.0000 - fp: 7086.0000 - tn: 277235.0000 - fn: 14550.0000 - accuracy: 0.9620 - precision: 0.9745 - recall: 0.9490 - auc: 0.9959 - prc: 0.9957 - val_loss: 0.0433 - val_tp: 69.0000 - val_fp: 615.0000 - val_tn: 44880.0000 - val_fn: 5.0000 - val_accuracy: 0.9864 - val_precision: 0.1009 - val_recall: 0.9324 - val_auc: 0.9812 - val_prc: 0.7028
Epoch 11/100
276/278 [============================>.] - ETA: 0s - loss: 0.0824 - tp: 269530.0000 - fp: 6996.0000 - tn: 275642.0000 - fn: 13080.0000 - accuracy: 0.9645 - precision: 0.9747 - recall: 0.9537 - auc: 0.9963 - prc: 0.9961Restoring model weights from the end of the best epoch: 1.
278/278 [==============================] - 7s 24ms/step - loss: 0.0823 - tp: 271452.0000 - fp: 7062.0000 - tn: 277672.0000 - fn: 13158.0000 - accuracy: 0.9645 - precision: 0.9746 - recall: 0.9538 - auc: 0.9963 - prc: 0.9961 - val_loss: 0.0412 - val_tp: 69.0000 - val_fp: 607.0000 - val_tn: 44888.0000 - val_fn: 5.0000 - val_accuracy: 0.9866 - val_precision: 0.1021 - val_recall: 0.9324 - val_auc: 0.9816 - val_prc: 0.7035
Epoch 11: early stopping

만약 훈련 프로세스가 각 기울기 업데이트에서 전체 데이터 세트를 고려하는 경우, 이 오버 샘플링은 기본적으로 클래스 가중치와 동일합니다.

그러나 여기에서와 같이, 모델을 배치별로 훈련할 때 오버샘플링된 데이터는 더 부드러운 그래디언트 신호를 제공합니다. 각 양성 예시가 하나의 배치에서 큰 가중치를 가지기보다, 매번 여러 배치에서 작은 가중치를 갖기 때문입니다.

이 부드러운 기울기 신호는 모델을 더 쉽게 훈련 할 수 있습니다.

교육 이력 확인

학습 데이터의 분포가 검증 및 테스트 데이터와 완전히 다르기 때문에 여기서 측정 항목의 분포가 다를 수 있습니다. 

plot_metrics(resampled_history)

png

재교육

균형 잡힌 데이터에 대한 훈련이 더 쉽기 때문에 위의 훈련 절차가 빠르게 과적합 될 수 있습니다.

epoch를 나누어 tf.keras.callbacks.EarlyStopping를 보다 세밀하게 제어하여 훈련 중단 시점을 정합니다.

resampled_model = make_model()
resampled_model.load_weights(initial_weights)

# Reset the bias to zero, since this dataset is balanced.
output_layer = resampled_model.layers[-1] 
output_layer.bias.assign([0])

resampled_history = resampled_model.fit(
    resampled_ds,
    # These are not real epochs
    steps_per_epoch=20,
    epochs=10*EPOCHS,
    callbacks=[early_stopping],
    validation_data=(val_ds))

Epoch 1/1000
20/20 [==============================] - 3s 56ms/step - loss: 1.1473 - tp: 11103.0000 - fp: 9113.0000 - tn: 56891.0000 - fn: 9422.0000 - accuracy: 0.7858 - precision: 0.5492 - recall: 0.5410 - auc: 0.8163 - prc: 0.6707 - val_loss: 0.6167 - val_tp: 63.0000 - val_fp: 15152.0000 - val_tn: 30343.0000 - val_fn: 11.0000 - val_accuracy: 0.6673 - val_precision: 0.0041 - val_recall: 0.8514 - val_auc: 0.8796 - val_prc: 0.4022
Epoch 2/1000
20/20 [==============================] - 1s 28ms/step - loss: 0.6997 - tp: 14659.0000 - fp: 8326.0000 - tn: 12207.0000 - fn: 5768.0000 - accuracy: 0.6559 - precision: 0.6378 - recall: 0.7176 - auc: 0.7461 - prc: 0.8279 - val_loss: 0.5798 - val_tp: 66.0000 - val_fp: 12901.0000 - val_tn: 32594.0000 - val_fn: 8.0000 - val_accuracy: 0.7167 - val_precision: 0.0051 - val_recall: 0.8919 - val_auc: 0.9219 - val_prc: 0.6033
Epoch 3/1000
20/20 [==============================] - 1s 28ms/step - loss: 0.5494 - tp: 16095.0000 - fp: 7381.0000 - tn: 13146.0000 - fn: 4338.0000 - accuracy: 0.7139 - precision: 0.6856 - recall: 0.7877 - auc: 0.8236 - prc: 0.8814 - val_loss: 0.5260 - val_tp: 68.0000 - val_fp: 9533.0000 - val_tn: 35962.0000 - val_fn: 6.0000 - val_accuracy: 0.7907 - val_precision: 0.0071 - val_recall: 0.9189 - val_auc: 0.9387 - val_prc: 0.6616
Epoch 4/1000
20/20 [==============================] - 1s 29ms/step - loss: 0.4807 - tp: 16677.0000 - fp: 6348.0000 - tn: 14147.0000 - fn: 3788.0000 - accuracy: 0.7525 - precision: 0.7243 - recall: 0.8149 - auc: 0.8587 - prc: 0.9043 - val_loss: 0.4725 - val_tp: 67.0000 - val_fp: 6386.0000 - val_tn: 39109.0000 - val_fn: 7.0000 - val_accuracy: 0.8597 - val_precision: 0.0104 - val_recall: 0.9054 - val_auc: 0.9500 - val_prc: 0.6841
Epoch 5/1000
20/20 [==============================] - 1s 29ms/step - loss: 0.4335 - tp: 17000.0000 - fp: 5508.0000 - tn: 14962.0000 - fn: 3490.0000 - accuracy: 0.7803 - precision: 0.7553 - recall: 0.8297 - auc: 0.8805 - prc: 0.9186 - val_loss: 0.4249 - val_tp: 67.0000 - val_fp: 4010.0000 - val_tn: 41485.0000 - val_fn: 7.0000 - val_accuracy: 0.9118 - val_precision: 0.0164 - val_recall: 0.9054 - val_auc: 0.9557 - val_prc: 0.7010
Epoch 6/1000
20/20 [==============================] - 1s 29ms/step - loss: 0.3995 - tp: 17406.0000 - fp: 4611.0000 - tn: 15574.0000 - fn: 3369.0000 - accuracy: 0.8052 - precision: 0.7906 - recall: 0.8378 - auc: 0.8946 - prc: 0.9295 - val_loss: 0.3864 - val_tp: 69.0000 - val_fp: 2720.0000 - val_tn: 42775.0000 - val_fn: 5.0000 - val_accuracy: 0.9402 - val_precision: 0.0247 - val_recall: 0.9324 - val_auc: 0.9581 - val_prc: 0.6994
Epoch 7/1000
20/20 [==============================] - 1s 29ms/step - loss: 0.3680 - tp: 17413.0000 - fp: 3956.0000 - tn: 16601.0000 - fn: 2990.0000 - accuracy: 0.8304 - precision: 0.8149 - recall: 0.8535 - auc: 0.9117 - prc: 0.9381 - val_loss: 0.3531 - val_tp: 69.0000 - val_fp: 1974.0000 - val_tn: 43521.0000 - val_fn: 5.0000 - val_accuracy: 0.9566 - val_precision: 0.0338 - val_recall: 0.9324 - val_auc: 0.9591 - val_prc: 0.7071
Epoch 8/1000
20/20 [==============================] - 1s 30ms/step - loss: 0.3402 - tp: 17711.0000 - fp: 3290.0000 - tn: 17159.0000 - fn: 2800.0000 - accuracy: 0.8513 - precision: 0.8433 - recall: 0.8635 - auc: 0.9238 - prc: 0.9465 - val_loss: 0.3237 - val_tp: 69.0000 - val_fp: 1614.0000 - val_tn: 43881.0000 - val_fn: 5.0000 - val_accuracy: 0.9645 - val_precision: 0.0410 - val_recall: 0.9324 - val_auc: 0.9599 - val_prc: 0.7126
Epoch 9/1000
20/20 [==============================] - 1s 29ms/step - loss: 0.3214 - tp: 17827.0000 - fp: 2886.0000 - tn: 17607.0000 - fn: 2640.0000 - accuracy: 0.8651 - precision: 0.8607 - recall: 0.8710 - auc: 0.9322 - prc: 0.9520 - val_loss: 0.2980 - val_tp: 69.0000 - val_fp: 1344.0000 - val_tn: 44151.0000 - val_fn: 5.0000 - val_accuracy: 0.9704 - val_precision: 0.0488 - val_recall: 0.9324 - val_auc: 0.9608 - val_prc: 0.7262
Epoch 10/1000
20/20 [==============================] - 1s 29ms/step - loss: 0.3009 - tp: 18039.0000 - fp: 2543.0000 - tn: 17866.0000 - fn: 2512.0000 - accuracy: 0.8766 - precision: 0.8764 - recall: 0.8778 - auc: 0.9395 - prc: 0.9576 - val_loss: 0.2754 - val_tp: 69.0000 - val_fp: 1179.0000 - val_tn: 44316.0000 - val_fn: 5.0000 - val_accuracy: 0.9740 - val_precision: 0.0553 - val_recall: 0.9324 - val_auc: 0.9628 - val_prc: 0.7284
Epoch 11/1000
20/20 [==============================] - 1s 29ms/step - loss: 0.2860 - tp: 18124.0000 - fp: 2217.0000 - tn: 18200.0000 - fn: 2419.0000 - accuracy: 0.8868 - precision: 0.8910 - recall: 0.8822 - auc: 0.9455 - prc: 0.9613 - val_loss: 0.2564 - val_tp: 69.0000 - val_fp: 1075.0000 - val_tn: 44420.0000 - val_fn: 5.0000 - val_accuracy: 0.9763 - val_precision: 0.0603 - val_recall: 0.9324 - val_auc: 0.9656 - val_prc: 0.7330
Epoch 12/1000
20/20 [==============================] - 1s 30ms/step - loss: 0.2730 - tp: 18217.0000 - fp: 2016.0000 - tn: 18415.0000 - fn: 2312.0000 - accuracy: 0.8943 - precision: 0.9004 - recall: 0.8874 - auc: 0.9504 - prc: 0.9644 - val_loss: 0.2392 - val_tp: 69.0000 - val_fp: 1017.0000 - val_tn: 44478.0000 - val_fn: 5.0000 - val_accuracy: 0.9776 - val_precision: 0.0635 - val_recall: 0.9324 - val_auc: 0.9680 - val_prc: 0.7343
Epoch 13/1000
20/20 [==============================] - 1s 31ms/step - loss: 0.2616 - tp: 18205.0000 - fp: 1788.0000 - tn: 18682.0000 - fn: 2285.0000 - accuracy: 0.9006 - precision: 0.9106 - recall: 0.8885 - auc: 0.9542 - prc: 0.9668 - val_loss: 0.2235 - val_tp: 69.0000 - val_fp: 963.0000 - val_tn: 44532.0000 - val_fn: 5.0000 - val_accuracy: 0.9788 - val_precision: 0.0669 - val_recall: 0.9324 - val_auc: 0.9710 - val_prc: 0.7393
Epoch 14/1000
20/20 [==============================] - 1s 33ms/step - loss: 0.2495 - tp: 18265.0000 - fp: 1585.0000 - tn: 18898.0000 - fn: 2212.0000 - accuracy: 0.9073 - precision: 0.9202 - recall: 0.8920 - auc: 0.9573 - prc: 0.9690 - val_loss: 0.2101 - val_tp: 68.0000 - val_fp: 952.0000 - val_tn: 44543.0000 - val_fn: 6.0000 - val_accuracy: 0.9790 - val_precision: 0.0667 - val_recall: 0.9189 - val_auc: 0.9729 - val_prc: 0.7423
Epoch 15/1000
20/20 [==============================] - 1s 31ms/step - loss: 0.2436 - tp: 18314.0000 - fp: 1515.0000 - tn: 18927.0000 - fn: 2204.0000 - accuracy: 0.9092 - precision: 0.9236 - recall: 0.8926 - auc: 0.9593 - prc: 0.9702 - val_loss: 0.1978 - val_tp: 68.0000 - val_fp: 936.0000 - val_tn: 44559.0000 - val_fn: 6.0000 - val_accuracy: 0.9793 - val_precision: 0.0677 - val_recall: 0.9189 - val_auc: 0.9748 - val_prc: 0.7431
Epoch 16/1000
20/20 [==============================] - 1s 29ms/step - loss: 0.2339 - tp: 18312.0000 - fp: 1438.0000 - tn: 19063.0000 - fn: 2147.0000 - accuracy: 0.9125 - precision: 0.9272 - recall: 0.8951 - auc: 0.9626 - prc: 0.9720 - val_loss: 0.1869 - val_tp: 68.0000 - val_fp: 928.0000 - val_tn: 44567.0000 - val_fn: 6.0000 - val_accuracy: 0.9795 - val_precision: 0.0683 - val_recall: 0.9189 - val_auc: 0.9756 - val_prc: 0.7338
Epoch 17/1000
20/20 [==============================] - 1s 30ms/step - loss: 0.2266 - tp: 18101.0000 - fp: 1272.0000 - tn: 19393.0000 - fn: 2194.0000 - accuracy: 0.9154 - precision: 0.9343 - recall: 0.8919 - auc: 0.9644 - prc: 0.9728 - val_loss: 0.1770 - val_tp: 68.0000 - val_fp: 906.0000 - val_tn: 44589.0000 - val_fn: 6.0000 - val_accuracy: 0.9800 - val_precision: 0.0698 - val_recall: 0.9189 - val_auc: 0.9761 - val_prc: 0.7346
Epoch 18/1000
20/20 [==============================] - 1s 30ms/step - loss: 0.2223 - tp: 18367.0000 - fp: 1230.0000 - tn: 19225.0000 - fn: 2138.0000 - accuracy: 0.9178 - precision: 0.9372 - recall: 0.8957 - auc: 0.9655 - prc: 0.9740 - val_loss: 0.1683 - val_tp: 68.0000 - val_fp: 915.0000 - val_tn: 44580.0000 - val_fn: 6.0000 - val_accuracy: 0.9798 - val_precision: 0.0692 - val_recall: 0.9189 - val_auc: 0.9756 - val_prc: 0.7358
Epoch 19/1000
20/20 [==============================] - 1s 32ms/step - loss: 0.2154 - tp: 18395.0000 - fp: 1122.0000 - tn: 19340.0000 - fn: 2103.0000 - accuracy: 0.9213 - precision: 0.9425 - recall: 0.8974 - auc: 0.9678 - prc: 0.9755 - val_loss: 0.1604 - val_tp: 68.0000 - val_fp: 916.0000 - val_tn: 44579.0000 - val_fn: 6.0000 - val_accuracy: 0.9798 - val_precision: 0.0691 - val_recall: 0.9189 - val_auc: 0.9756 - val_prc: 0.7276
Epoch 20/1000
20/20 [==============================] - 1s 29ms/step - loss: 0.2068 - tp: 18310.0000 - fp: 1045.0000 - tn: 19525.0000 - fn: 2080.0000 - accuracy: 0.9237 - precision: 0.9460 - recall: 0.8980 - auc: 0.9703 - prc: 0.9769 - val_loss: 0.1530 - val_tp: 68.0000 - val_fp: 923.0000 - val_tn: 44572.0000 - val_fn: 6.0000 - val_accuracy: 0.9796 - val_precision: 0.0686 - val_recall: 0.9189 - val_auc: 0.9748 - val_prc: 0.7285
Epoch 21/1000
20/20 [==============================] - 1s 29ms/step - loss: 0.2037 - tp: 18369.0000 - fp: 1007.0000 - tn: 19508.0000 - fn: 2076.0000 - accuracy: 0.9247 - precision: 0.9480 - recall: 0.8985 - auc: 0.9714 - prc: 0.9777 - val_loss: 0.1463 - val_tp: 68.0000 - val_fp: 922.0000 - val_tn: 44573.0000 - val_fn: 6.0000 - val_accuracy: 0.9796 - val_precision: 0.0687 - val_recall: 0.9189 - val_auc: 0.9749 - val_prc: 0.7290
Epoch 22/1000
20/20 [==============================] - 1s 29ms/step - loss: 0.1998 - tp: 18566.0000 - fp: 1022.0000 - tn: 19262.0000 - fn: 2110.0000 - accuracy: 0.9235 - precision: 0.9478 - recall: 0.8979 - auc: 0.9722 - prc: 0.9785 - val_loss: 0.1406 - val_tp: 69.0000 - val_fp: 918.0000 - val_tn: 44577.0000 - val_fn: 5.0000 - val_accuracy: 0.9797 - val_precision: 0.0699 - val_recall: 0.9324 - val_auc: 0.9752 - val_prc: 0.7296
Epoch 23/1000
20/20 [==============================] - 1s 28ms/step - loss: 0.1945 - tp: 18381.0000 - fp: 987.0000 - tn: 19539.0000 - fn: 2053.0000 - accuracy: 0.9258 - precision: 0.9490 - recall: 0.8995 - auc: 0.9745 - prc: 0.9796 - val_loss: 0.1350 - val_tp: 69.0000 - val_fp: 914.0000 - val_tn: 44581.0000 - val_fn: 5.0000 - val_accuracy: 0.9798 - val_precision: 0.0702 - val_recall: 0.9324 - val_auc: 0.9750 - val_prc: 0.7299
Epoch 24/1000
20/20 [==============================] - 1s 29ms/step - loss: 0.1892 - tp: 18437.0000 - fp: 930.0000 - tn: 19564.0000 - fn: 2029.0000 - accuracy: 0.9278 - precision: 0.9520 - recall: 0.9009 - auc: 0.9757 - prc: 0.9804 - val_loss: 0.1302 - val_tp: 69.0000 - val_fp: 925.0000 - val_tn: 44570.0000 - val_fn: 5.0000 - val_accuracy: 0.9796 - val_precision: 0.0694 - val_recall: 0.9324 - val_auc: 0.9746 - val_prc: 0.7302
Epoch 25/1000
18/20 [==========================>...] - ETA: 0s - loss: 0.1876 - tp: 16760.0000 - fp: 807.0000 - tn: 17477.0000 - fn: 1820.0000 - accuracy: 0.9287 - precision: 0.9541 - recall: 0.9020 - auc: 0.9762 - prc: 0.9811Restoring model weights from the end of the best epoch: 15.
20/20 [==============================] - 1s 32ms/step - loss: 0.1884 - tp: 18564.0000 - fp: 888.0000 - tn: 19489.0000 - fn: 2019.0000 - accuracy: 0.9290 - precision: 0.9543 - recall: 0.9019 - auc: 0.9761 - prc: 0.9809 - val_loss: 0.1259 - val_tp: 69.0000 - val_fp: 927.0000 - val_tn: 44568.0000 - val_fn: 5.0000 - val_accuracy: 0.9795 - val_precision: 0.0693 - val_recall: 0.9324 - val_auc: 0.9741 - val_prc: 0.7312
Epoch 25: early stopping

훈련 이력 재확인

plot_metrics(resampled_history)

png

메트릭 평가

train_predictions_resampled = resampled_model.predict(train_features, batch_size=BATCH_SIZE)
test_predictions_resampled = resampled_model.predict(test_features, batch_size=BATCH_SIZE)

90/90 [==============================] - 0s 1ms/step
28/28 [==============================] - 0s 1ms/step

resampled_results = resampled_model.evaluate(test_features, test_labels,
                                             batch_size=BATCH_SIZE, verbose=0)
for name, value in zip(resampled_model.metrics_names, resampled_results):
  print(name, ': ', value)
print()

plot_cm(test_labels, test_predictions_resampled)

loss :  0.1987897902727127
tp :  91.0
fp :  1216.0
tn :  55642.0
fn :  13.0
accuracy :  0.9784241914749146
precision :  0.06962509453296661
recall :  0.875
auc :  0.9669501185417175
prc :  0.7082945108413696

Legitimate Transactions Detected (True Negatives):  55642
Legitimate Transactions Incorrectly Detected (False Positives):  1216
Fraudulent Transactions Missed (False Negatives):  13
Fraudulent Transactions Detected (True Positives):  91
Total Fraudulent Transactions:  104

png

ROC 플로팅

plot_roc("Train Baseline", train_labels, train_predictions_baseline, color=colors[0])
plot_roc("Test Baseline", test_labels, test_predictions_baseline, color=colors[0], linestyle='--')

plot_roc("Train Weighted", train_labels, train_predictions_weighted, color=colors[1])
plot_roc("Test Weighted", test_labels, test_predictions_weighted, color=colors[1], linestyle='--')

plot_roc("Train Resampled", train_labels, train_predictions_resampled, color=colors[2])
plot_roc("Test Resampled", test_labels, test_predictions_resampled, color=colors[2], linestyle='--')
plt.legend(loc='lower right');

png

AUPRC 플로팅

plot_prc("Train Baseline", train_labels, train_predictions_baseline, color=colors[0])
plot_prc("Test Baseline", test_labels, test_predictions_baseline, color=colors[0], linestyle='--')

plot_prc("Train Weighted", train_labels, train_predictions_weighted, color=colors[1])
plot_prc("Test Weighted", test_labels, test_predictions_weighted, color=colors[1], linestyle='--')

plot_prc("Train Resampled", train_labels, train_predictions_resampled, color=colors[2])
plot_prc("Test Resampled", test_labels, test_predictions_resampled, color=colors[2], linestyle='--')
plt.legend(loc='lower right');

png

튜토리얼을 이 문제에 적용

불균형 데이터 분류는 학습 할 샘플이 너무 적기 때문에 본질적으로 어려운 작업입니다. 항상 데이터부터 시작하여 가능한 한 많은 샘플을 수집하고 모델이 소수 클래스를 최대한 활용할 수 있도록 어떤 기능이 관련 될 수 있는지에 대해 실질적인 생각을 하도록 최선을 다해야 합니다. 어떤 시점에서 모델은 원하는 결과를 개선하고 산출하는데 어려움을 겪을 수 있으므로 문제의 컨텍스트와 다양한 유형의 오류 간의 균형을 염두에 두는 것이 중요합니다.