การสร้างและคัดเลือกคุณลักษณะ

การสร้างและคัดเลือกคุณลักษณะเป็นขั้นตอนสำคัญในการสร้างแบบจำลองการเรียนรู้ของเครื่องที่มีประสิทธิภาพ กระบวนการเหล่านี้ประกอบด้วยการสร้างคุณลักษณะใหม่และการเลือกคุณลักษณะที่เกี่ยวข้องมากที่สุด เพื่อเพิ่มประสิทธิภาพของแบบจำลอง

ในบทเรียนนี้ คุณจะได้เรียนรู้เทคนิคการสร้างและคัดเลือกคุณลักษณะเพื่อเพิ่มความแม่นยำในการทำนาย

วิศวกรรมคุณลักษณะคืออะไร

วิศวกรรมคุณลักษณะคือการสร้างคุณลักษณะใหม่จากข้อมูลดิบ เพื่อทำให้แบบจำลองการเรียนรู้ของเครื่องมีประสิทธิภาพมากขึ้น ตัวอย่างเช่น:

• สกัดคุณลักษณะตามเวลา เช่น วัน เดือน หรือชั่วโมง จากการประทับเวลา
• รวมคุณลักษณะหลายรายการเข้าด้วยกันเป็นคุณลักษณะใหม่
• ปรับมาตราส่วนคุณลักษณะเชิงตัวเลขเพื่อทำให้ช่วงค่าเป็นมาตรฐานเดียวกัน

การสร้างคุณลักษณะใหม่

มาสร้างคุณลักษณะใหม่โดยอ้างอิงจากข้อมูลที่มีอยู่กัน:

# Example: Creating new features
import pandas as pd

data = {'Timestamp': ['2025-01-01 12:00:00', '2025-01-02 15:30:00']}
df = pd.DataFrame(data)
df['Hour'] = pd.to_datetime(df['Timestamp']).dt.hour
df['Day'] = pd.to_datetime(df['Timestamp']).dt.day
print(df)

การปรับมาตราส่วนคุณลักษณะ

การปรับมาตราส่วนช่วยให้คุณลักษณะเชิงตัวเลขทั้งหมดอยู่ในมาตราส่วนเดียวกัน ซึ่งช่วยเพิ่มประสิทธิภาพของแบบจำลอง:

# Example: Scaling features
from sklearn.preprocessing import MinMaxScaler

scaler = MinMaxScaler()
values = [[10], [20], [30]]
scaled_values = scaler.fit_transform(values)
print(scaled_values)

การคัดเลือกคุณลักษณะ

การคัดเลือกคุณลักษณะคือการเลือกคุณลักษณะที่เกี่ยวข้องมากที่สุดสำหรับแบบจำลอง เทคนิคที่ใช้กันทั่วไป ได้แก่:

• วิธีการกรอง: เลือกคุณลักษณะโดยอ้างอิงจากค่าทางสถิติ เช่น สหสัมพันธ์
• วิธีการแบบห่อหุ้ม: ใช้อัลกอริทึม เช่น การกำจัดคุณลักษณะแบบเวียนเกิด (RFE)
• วิธีการแบบฝังตัว: เลือกคุณลักษณะระหว่างการฝึกแบบจำลอง เช่น การถดถอยแบบแลสโซ

การคัดเลือกคุณลักษณะตามสหสัมพันธ์

คุณลักษณะที่มีสหสัมพันธ์สูงอาจซ้ำซ้อนกัน ใช้ Pandas เพื่อคำนวณค่าสหสัมพันธ์:

# Example: Correlation-based feature selection
import pandas as pd

data = {'Feature1': [1, 2, 3], 'Feature2': [2, 4, 6], 'Feature3': [1, 1, 1]}
df = pd.DataFrame(data)
print(df.corr())

การกำจัดคุณลักษณะแบบเวียนเกิด (RFE)

RFE เป็นวิธีการแบบห่อหุ้มที่กำจัดคุณลักษณะที่สำคัญน้อยที่สุดออกทีละรอบ:

# Example: RFE
from sklearn.feature_selection import RFE
from sklearn.linear_model import LogisticRegression

X = [[1, 2, 3], [4, 5, 6], [7, 8, 9]]
y = [0, 1, 0]
model = LogisticRegression()
rfe = RFE(model, n_features_to_select=2)
rfe.fit(X, y)
print("Selected Features:", rfe.support_)

ความสำคัญของคุณลักษณะด้วยแบบจำลองที่ใช้ต้นไม้

แบบจำลองที่ใช้ต้นไม้ เช่น แบบจำลองป่าสุ่ม จะให้คะแนนความสำคัญของคุณลักษณะ:

# Example: Feature importance
from sklearn.ensemble import RandomForestClassifier

X = [[1, 2, 3], [4, 5, 6], [7, 8, 9]]
y = [0, 1, 0]
model = RandomForestClassifier()
model.fit(X, y)
print("Feature Importances:", model.feature_importances_)

ข้อผิดพลาดทั่วไปในการสร้างคุณลักษณะ

ต่อไปนี้คือข้อผิดพลาดบางประการที่ควรหลีกเลี่ยง:

• สร้างคุณลักษณะมากเกินไป ซึ่งอาจทำให้เกิดการเรียนรู้มากเกินไป
• มองข้ามความจำเป็นในการปรับมาตราส่วนสำหรับอัลกอริทึมที่ใช้ระยะห่าง
• ใช้คุณลักษณะที่มีสหสัมพันธ์สูง ซึ่งทำให้เกิดความซ้ำซ้อน

เราเรียนรู้อะไรบ้าง

ในบทเรียนนี้ คุณได้เรียนรู้เกี่ยวกับ:

• ความสำคัญของการสร้างและคัดเลือกคุณลักษณะในการเรียนรู้ของเครื่อง
• เทคนิคการสร้างคุณลักษณะใหม่และการปรับมาตราส่วนคุณลักษณะเชิงตัวเลข
• วิธีเลือกคุณลักษณะที่เกี่ยวข้องโดยใช้วิธีต่าง ๆ เช่น RFE และแบบจำลองที่ใช้ต้นไม้
• ข้อผิดพลาดทั่วไปที่ควรหลีกเลี่ยงระหว่างการสร้างคุณลักษณะ

ทำได้ดีมาก! ไปต่อกันที่หัวข้อถัดไป