Imbalanced Dataset

Imbalanced

1. Undersampling

1-1. Random Undersampling

๋ง๊ทธ๋ž˜๋Œ ๋‹ค์ˆ˜ ๋ฐ์ดํ„ฐ๋ฅผ ์†Œ์ˆ˜ ๋ฐ์ดํ„ฐ์˜ ๊ฐœ์ˆ˜์— ๋งž์ถ”์–ด ๋žœ๋ค์œผ๋กœ ์ ๊ฒŒ ๋ฝ‘๋Š” ๋ฐฉ์‹์ด๋‹ค. ๋‹ค์ˆ˜ ํด๋ž˜์Šค์˜ ์ •๋ณด๊ฐ€ ์†Œ์ˆ˜ ํด๋ž˜์Šค์˜ ์ •๋ณด๋ฅผ ์••๋„ํ•˜๋Š” ๊ฒƒ์„ ๋ง‰๊ธฐ ์œ„ํ•จ์ด๋‹ค.

๊ฐ€์žฅ ๊ฐ€๊นŒ์šด ๋ฐ์ดํ„ฐ๊ฐ€ ๋‹ค๋ฅธ ํด๋ž˜์Šค์ผ ๊ฒฝ์šฐ, ํ•œ ์Œ์œผ๋กœ ๋ฌถ๊ณ  ์ด๋ฅผ ํ† ๋ฉ• ๋งํฌ๋ผ๊ณ  ๋ถ€๋ฅธ๋‹ค. ๊ทธ์ค‘์—์„œ ๋‹ค์ˆ˜ ํด๋ž˜์Šค์— ์†ํ•œ ๋ฐ์ดํ„ฐ๋ฅผ ์ œ๊ฑฐํ•˜๋Š” ๋ฐฉ์‹์ด๋‹ค.

1-3. CNN (Condensed Nearest Neighbors)

  1. ์†Œ์ˆ˜ ํด๋ž˜์Šค ๋ฐ์ดํ„ฐ๋Š” ๊ทธ๋Œ€๋กœ ์œ ์ง€ํ•œ๋‹ค.
  2. ๋‹ค์ˆ˜ ํด๋ž˜์Šค ๋ฐ์ดํ„ฐ๋Š”, 1NN(KNN์—์„œ K๋ฅผ 1๋กœ ์„ค์ •ํ•œ ๊ฒƒ)์—์„œ NN์ด ์†Œ์ˆ˜ ํด๋ž˜์Šค์— ์†ํ•˜๋ฉด ๋‚จ๊ธฐ๊ณ  ์•„๋‹ˆ๋ฉด ์ œ๊ฑฐํ•œ๋‹ค.

1-4. One Sided Selection

Tomek’s Link + CNN(Condensed Nearest Neighbors)
Tomek’s Link๋ฅผ ๋จผ์ € ์ ์šฉํ•˜๊ณ  CNN์„ ์ด์–ด์„œ ์ ์šฉํ•˜๋Š” ๋ฐฉ๋ฒ•์ด๋‹ค.

1-5. ENN (Edited Nearest Neighbors)

๋‹ค์ˆ˜ ํด๋ž˜์Šค ๋ฐ์ดํ„ฐ ์ค‘์—์„œ K๊ฐœ์˜ NN์ด ๋‹ค์ˆ˜ ํด๋ž˜์Šค์ด๋ฉด ์‚ญ์ œํ•˜๋Š” ๋ฐฉ์‹์ด๋‹ค. ๋‹จ, K๊ฐœ์˜ NN์ด ๋ชจ๋‘ ๋‹ค์ˆ˜ ํด๋ž˜์Šค์ผ ๋•Œ ์‚ญ์ œํ•˜๋Š” ๋ฐฉ๋ฒ•(kind_sel="all")์ด ์žˆ๊ณ , ๊ณผ๋ฐ˜์ˆ˜ ์ด์ƒ์ผ ๊ฒฝ์šฐ ์‚ญ์ œํ•˜๋Š” ๋ฐฉ๋ฒ•(kind_sel="mode")์ด ์žˆ๋‹ค.

1-6. Neighborhood Cleaning Rule

CNN(Condensed Nearest Neighbors) + ENN(Edited Nearest Neighbors)

2. Oversampling

2-1. Random Oversampling

์†Œ์ˆ˜ ๋ฐ์ดํ„ฐ๋ฅผ ๋žœ๋ค์œผ๋กœ ๋ณต์ œํ•˜์—ฌ ๋‹ค์ˆ˜ ๋ฐ์ดํ„ฐ์™€ ๊ฐœ์ˆ˜๋ฅผ ๋งž์ถ”๋Š” ๋ฐฉ์‹์ด๋‹ค.

2-2. ADASYN

ADASYN์€ Adaptive Synthetic Sampling์˜ ์•ฝ์ž์ด๋‹ค. ์†Œ์ˆ˜ ๋ฐ์ดํ„ฐ ์ค‘์—์„œ KNN์„ ๊ณจ๋ผ์„œ ์ง์„ ์ƒ์˜ ๋ฐ์ดํ„ฐ๋ฅผ ์ƒ์„ฑํ•˜๋Š” ๋ฐฉ์‹์ด๋‹ค.

2-3. SMOTE

SMOTE๋Š” Synthetic Minority Oversampling Technique์˜ ์•ฝ์ž์ด๋‹ค. ADASYN์ฒ˜๋Ÿผ ์†Œ์ˆ˜ ํด๋ž˜์Šค ๋ฐ์ดํ„ฐ๋ฅผ ํ™œ์šฉํ•˜์—ฌ ๋ฐ์ดํ„ฐ๋ฅผ ์ƒ์„ฑํ•˜์ง€๋งŒ, ๋Œ€์‹ ์— ๋ฌด์กฐ๊ฑด ์†Œ์ˆ˜ ๋ฐ์ดํ„ฐ๋ผ๊ณ  ํ•˜์ง€ ์•Š๊ณ  ๋ถ„๋ฅ˜ ๋ชจํ˜•์— ๋”ฐ๋ผ ํด๋ž˜์Šค๋ฅผ ๊ตฌ๋ถ„ํ•œ๋‹ค๋Š” ๊ฒƒ์ด ์ฐจ์ด์ ์ด๋‹ค.

3. Hybrid

3-1. SMOTE + ENN

์œ„ ๋ฐฉ๋ฒ•๋ก ๋“ค์€ ๋ชจ๋‘ python ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ ์ค‘์—์„œ imblearn์—์„œ ๋ชจ๋‘ ๊ตฌํ˜„์ด ๋˜์–ด์žˆ๋‹ค.

Reference

[1] ์ฐธ๊ณ ์‚ฌ์ดํŠธ