Makine Öğrenmesinin Temelleri · Dijital ders notu
Karar ağaçları, regresyon ağaçları, ensemble learning
- Ders
- Makine Öğrenmesinin Temelleri (ELM472)
- Dönem
- 7. Dönem · 2024–2025 Güz
- Biçim
- PDF · 5 sayfa · 0,2 MB · el yazısı görünümlü LaTeX
- Orijinal not
- Ders6.pdf
The digital notes were created from the handwritten notes with the help of Claude (Anthropic); they are meant as a supplementary resource and may contain errors. Always rely on the original notes and the official course materials.
Bu notta neler var?
- Karar ağaçları , Regresyon ağaçları
- Decision tree
- Impurity measures
- Entropy
- Gini Sabiti
- Regresyon ağaçları
- Ensemble Learning
- Bagging
- Boosting
- Adaboost
Notun metni
Düz metin olarak göster (formüller ve çizimler yoktur)
Karar ağaçları , Regresyon ağaçları
ifle yapmaya çalışalım
Sınır değerleri nasıl belirleyeceğimizi bulalım
En sonda amaç homojen olarak verileri ayırmak, olabildiğince tek bir sınıf istiyorum
en saf durum tek bir olasılığın 1 kalanın 0 olması
→ tek bir sınıf varsa minimum
çok sınıf varsa maksimum
dallanırken max entropy nerdeyse ordan devam et
Metrik olarak varyans , veya L_1 kullanılabilir.
(Goodness of split)
En büyük sıkıntısı overfitting dalın en alt yaprağına indiğimiz için
L_1 norm aykırı değerlere hassasiyeti az
100 tane karar ağacı alırım, yeni bir örnek geldiği zaman oylama yapıyorum böylece kestirimcinin varyansı küçülür.
Verinin özel bir bölgesine outputta daha iyi bir sınıflandırıcı varsa bu şekilde yaklaşabilir
verinin hangi bölgesinde hangi fonksiyon daha iyi
Aynı modelin parametrelerini değiştirip lineer kombinasyonlarını kullanıyoruz
haftaya feature selection ve dimension reduction işleyeceğiz