Điều chuẩn

Thuộc phần Học có giám sát trong hành trình Machine Learning của Coddy. Bài học 34 trên 58.

Mô hình tuyến tính bị khớp quá mức dựa vào các trọng số lớn để uốn cong theo từng hàng dữ liệu nhiễu. Hồi quy Ridge áp dụng mức phạt cho các trọng số lớn, còn alpha đặt ra mức phạt đó.

Đây là 20 cây đàn guitar đã qua sử dụng, với sáu đặc trưng được dùng để dự đoán giá:

Sáu đường biểu diễn trọng số của từng đặc trưng đàn guitar theo alpha từ 0.01 đến 1000. Tình trạng bắt đầu ở mức 116, thương hiệu ở mức 104, tuổi đàn ở mức âm 83; tất cả đều tiến dần về 0 khi alpha tăng

Nó chỉ khác một chỗ so với LinearRegression, có các trọng số là [-83. 116. 104. 27. 17. 15.]:

from sklearn.linear_model import Ridge

ridge = Ridge(alpha=100)
ridge.fit(X_train, y_train)
print(np.round(ridge.coef_))

Kết quả in ra:

[-14.  18.  16.  10.   5.   8.]

Alpha lớn hơn, trọng số nhỏ hơn, ít bị quá khớp hơn. Nếu quá lớn, mô hình sẽ bị thiếu khớp.

Thử thách

Trung bình

Một trang web du lịch dự đoán giá thuê mỗi đêm của các căn nhà nghỉ dựa trên 8 đặc trưng, chỉ dùng 16 căn nhà nghỉ. Chương trình đọc alpha; phần mã khởi đầu chia và chuẩn hóa dữ liệu.

Huấn luyện một mô hình LinearRegression và một mô hình Ridge với alpha đó.
In tổng độ lớn trọng số của từng mô hình: lấy các trọng số bỏ dấu, cộng lại rồi làm tròn.
In R bình phương của từng mô hình trên tập kiểm tra (3 chữ số thập phân) và mô hình tốt hơn, như bên dưới.

Với một khu vực khác và 5:

Total weight size: plain 90, ridge 53
Test R squared: plain -0.471, ridge 0.642
Better on new cottages: ridge

Tự làm thử

import numpy as np
import pandas as pd
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import StandardScaler
from sklearn.linear_model import LinearRegression, Ridge
from sklearn.metrics import r2_score

alpha = float(input())

# Đừng thay đổi các dòng bên dưới: 28 căn nhà nghỉ, 8 đặc trưng và giá mỗi đêm tính bằng euro
cottages = pd.read_csv("cottages.csv")
features = ["size_m2", "bedrooms", "lake_m", "age_years", "town_km", "sauna", "road_noise_db", "forest_m"]
X = cottages[features]
y = cottages["price"]
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.4, random_state=0)
scaler = StandardScaler()
X_train = scaler.fit_transform(X_train)
X_test = scaler.transform(X_test)

# Viết code của bạn bên dưới