Najpierw nazwij problem: „ile?”, „czy?”, czy „kto do kogo jest podobny?”
Wybór między regresją, klasyfikacją i klasteryzacją zacina się zwykle na pierwszym pytaniu: jaki właściwie jest kształt Twojego celu? Jeśli to nie jest jasne, algorytmy będą strzelać na oślep. Zanim więc cokolwiek wytrenujesz, odpowiedz sobie na trzy proste pytania.
„Ile?” – zadania regresyjne
Gdy przewidujesz liczbę ciągłą (cena, czas, popyt, temperatura), mówimy o regresji. W wariantach specjalnych przewidujesz percentyle (np. czas dostawy P90), logarytm wartości (gdy rozkład jest mocno prawostronny) albo różnicę do trendu (w szeregach czasowych).
„Czy?” – zadania klasyfikacyjne
Gdy wynik to etykieta (spam/nie-spam, churn/nie-churn, typ produktu), to klasyfikacja. Może być binarna, wieloklasowa, wieloetykietowa lub porządkowa (np. ocena w skali 1–5, gdzie 5 jest „większe” od 4).
„Kto do kogo podobny?” – zadania klasteryzacyjne
Gdy nie masz etykiet i chcesz grupować obserwacje po podobieństwie (segmentacja klientów, grupy ofert, wykrywanie tematów), używasz klasteryzacji. To metoda nienadzorowana: najpierw szukasz struktury, potem nadajesz sens biznesowy tym grupom.
Krótki brief decyzyjny: pytania, które prowadzą do wyboru
Przed wejściem w algorytmy odpowiedz na kilka praktycznych pytań. To one podpowiedzą, czy i co trenować, jak mierzyć sukces i czego unikać.
- Czy wynik biznesowy jest liczbą, etykietą, czy hipotezą o podobieństwie?
- Jakie są koszty różnych typów błędów (niedoszacowanie vs przeszacowanie, false positive vs false negative)?
- Czy masz etykiety? Jeśli nie – czy klasteryzacja ma pomóc je zbudować?
- Jak duży i czysty masz zbiór danych? Czy klasy są niezbalansowane? Czy dane są czasowe lub grupowane?
- Jak ważna jest interpretowalność i szybkość predykcji w produkcji?
- Jak będziesz walidował model (czas, grupy, leakage)?
- Jakie metryki odpowiadają KPI (MAE vs MAPE, recall vs precision, PR-AUC vs ROC-AUC)?
- Czy w razie sukcesu potrafisz wdrożyć i monitorować model (drift, rekalkibracja, próg decyzyjny)?
Mapa porównawcza: regresja, klasyfikacja, klasteryzacja
Dla porządku – szybkie zestawienie różnic, typowych metryk i przykładów. Prosto, bez przepiśników akademickich.
| Aspekt | Regresja | Klasyfikacja | Klasteryzacja |
|---|---|---|---|
| Wyjście | Wartość ciągła (liczba) | Etykieta (binarna, wieloklasowa, porządkowa) | Przynależność do grupy (bez etykiet na starcie) |
| Przykłady | Cena, popyt, czas dostawy, zużycie | Churn, fraud, kategoria produktu, priorytet zgłoszenia | Segmentacja klientów, grupy produktów, tematy dokumentów |
| Metryki | MAE, RMSE, RMSLE, MAPE, R², quantile loss | Precision, Recall, F1, AUC-ROC, PR-AUC, LogLoss, MCC | Silhouette, Davies–Bouldin, Calinski–Harabasz, stabilność |
| Rozsądny start | Regresja liniowa/Elastic Net, Random Forest, Gradient Boosting | Logistic Regression, Random Forest, XGBoost/LightGBM | k-means, GMM, DBSCAN/HDBSCAN, hierarchiczna |
| Kiedy nie? | Gdy cel faktycznie jest kategoryczny | Gdy masz zbyt mało przykładów na klasę | Gdy masz etykiety i jasny KPI – lepsza klasyfikacja/regresja |
| Pułapki | Asymetryczne koszty, outliery, heteroskedastyczność, data leakage | Nierównowaga klas, zły próg, brak kalibracji, leakage | K-means na niesferycznych klastrach, skala cech, „magiczne K” |
Regresja: kiedy przewidujesz „ile?” i jak nie przeszacować problemu
Wskaźnik ciągły i konsekwencje wyboru
Regresja to wybór, gdy cel jest liczbowy i ma sens w skali ciągłej. Jeśli Twoje „ile” to w rzeczywistości kilka etykiet (np. poziomy ryzyka: niski/średni/wysoki), rozważ klasyfikację porządkową lub progową kalibrację, zamiast regresji z późniejszym zaokrąglaniem. To częsty antywzorzec: model regresyjny „dobrze wygląda” w RMSE, ale fatalnie rozdziela poziomy ryzyka po zaokrągleniu.
Metryki a koszt biznesowy
Dobranie metryki do kosztów to połowa sukcesu:
- MAE – odporniejsze na outliery niż RMSE, interpretuje się prosto („średni błąd w jednostkach celu”).
- RMSE – karze duże błędy bardziej, dobre gdy „wtopa” boli wykładniczo.
- MAPE – sensowny przy skalach dodatnich i braku zer. Uwaga na obiekty o małej wartości – metryka wariuje.
- RMSLE – przydaje się przy rozkładach z długim ogonem i gdy nie chcesz przesadnie karać niedoszacowań/wysokich wartości.
- Quantile loss (pinball) – świetna, gdy koszt jest asymetryczny: np. przewidywanie czasu dostawy P90, by rzadziej spóźniać się wobec klienta.
Algorytmy na start i co z ich wymaganiami
Na pierwszy ogień najczęściej wchodzą: regresja liniowa/Elastic Net (szybka, interpretowalna), Random Forest (odporna na nieliniowości), oraz gradient boosting (XGBoost, LightGBM, CatBoost) – zwykle najlepszy kompromis jakości do czasu. Dla danych o wielu kategoriach CatBoost często wygrywa prostotą – nie wymaga agresywnego one-hot i dobrze radzi sobie z brakami. Gdy liczba cech jest ogromna (teksty, obraz), rozważ sieci neuronowe lub gotowe reprezentacje (embeddingi) + model płytki.
Walidacja i pułapki
Typowe błędy w regresji:
- Losowa walidacja w szeregach czasowych – wprowadza przewidywanie „z przyszłości w przeszłość”. Używaj walidacji kroczącej.
- Data leakage przez cechy zbudowane na całym zbiorze (np. target encoding bez podziału na foldy).
- Ignorowanie heteroskedastyczności – gdy wariancja błędu rośnie z wartością, rozważ transformację celu lub ważoną metrykę.
- Outliery – potrafią „pociągnąć” RMSE, ale też niosą informację. Osobno zbadaj ich wpływ i sens biznesowy.
Kiedy regresja nie ma sensu
Jeżeli próbujesz przewidzieć wynik egzaminu w skali 1–5, ale jedynie poziomy są istotne, klasyfikacja porządkowa będzie rozsądniejsza. Podobnie, jeśli prognozujesz popyt, ale realnie zamawiasz w „paczki” po 10 sztuk – uwzględnij dyskretyzację w funkcji celu albo planuj decyzyjnie (prognoza → reguła zamówienia), zamiast liczyć na „ładny” RMSE.
Klasyfikacja: „czy?” ma więcej odcieni niż prosty accuracy
Warianty problemu i wybór metryki
W klasyfikacji pierwszy wybór to typ: binarna, wieloklasowa, wieloetykietowa, porządkowa. Każdy z nich niesie inne konsekwencje:
- Binarna – najczęstsza (fraud, churn). Główne metryki: Precision, Recall, F1, PR-AUC, ROC-AUC. Gdy klasy są rzadkie, PR-AUC bywa lepszym kompasem niż ROC-AUC.
- Wieloklasowa – np. kategoria produktu. Dobrze liczyć macro/micro-averaged F1, bo rozkład klas zwykle jest nierówny.
- Wieloetykietowa – dokument może mieć kilka tagów. Tu metryki typu subset accuracy są zbyt surowe; użyj macro F1 per etykieta lub Jaccard.
- Porządkowa – poziom ryzyka 1–5. Sensowne są metryki uwzględniające dystans (Quadratic Weighted Kappa) lub utrata karząca pomyłki „o dwa poziomy” bardziej.
Próg, kalibracja i koszty błędów w praktyce
Model klasyfikacyjny nie kończy pracy na „procentach”. Trzeba jeszcze ustawić próg decyzji. Dwa kroki robią różnicę:
- Kalibracja prawdopodobieństw – Platt (logistyczna) lub izotoniczna na walidacji. Dzięki temu 0,7 naprawdę znaczy ~70% szansy. Sprawdź krzywą niezawodności i Brier score.
- Dobór progu pod koszt – zamiast maksymalizować F1 w ciemno, policz oczekiwany koszt przy różnych progach (macierz kosztów). Np. przy fraudzie czasem opłaca się obniżyć próg, by złapać więcej podejrzanych transakcji kosztem dodatkowych kontroli.
Pro tip z życia: gdy zespół operacyjny ma ograniczoną przepustowość (np. 200 leadów dziennie), optymalizuj „Recall @ k” albo „Precision przy top-k”, a nie ogólne AUC.
Nierównowaga klas: strategie, które działają
Rzadkie klasy potrafią wyprowadzić metryki na manowce. Zamiast „accuracy 99%” wybierz narzędzia pasujące do skali problemu:
- Ważenie klas (class_weight) – pierwszy i najbezpieczniejszy krok.
- Resampling – undersampling większości lub SMOTE/ADASYN dla mniejszości, ale zawsze w obrębie foldów, by nie wprowadzić leakage.
- Threshold moving – po trenowaniu na zbalansowanych wagach ustawiasz próg pod koszt/pojemność procesu.
- Metryki – PR-AUC, Recall@Precision≥X, MCC. Stratified CV, a w danych czasowych lub grupowych: TimeSeriesSplit/GroupKFold.
Startowe algorytmy i ich kompromisy
Na tablicach i w dashboardach rządzą proste wybory:
- Logistic Regression – szybka, skalowalna, dobrze działa na danych rzadkich (tekst). Wymaga standaryzacji i sensownego doboru cech.
- Drzewa/Boostingi (RF, XGBoost, LightGBM, CatBoost) – świetne na nieliniowości i interakcje. Często potrzebują kalibracji, za to dobrze znoszą brak liniowych założeń.
- Naive Bayes – prosty baseline do tekstu. Zaskakująco mocny, gdy dane są bardzo rzadkie.
- SVM (liniowy) – dobry na wysokowymiarowe, ale trudniejszy w kalibracji. Wersje nieliniowe są ciężkie wdrożeniowo.
- Embeddings + płytki klasyfikator – przy obrazie/tekście często wygrywa: weź gotowe reprezentacje i naucz prostą warstwę decyzyjną.
Walidacja bez złudzeń
Żeby nie trenować „na przyszłości”, dopasuj walidację do danych:
- Serie czasowe – walidacja krocząca, żadnego mieszania dni.
- Grupy (klient, użytkownik, sklep) – GroupKFold, by przykład z tej samej grupy nie wpadł jednocześnie do train i val.
- Feature engineering i selekcja – zawsze wewnątrz pipeline’u CV, inaczej ryzyko leakage rośnie jak drożdże.
Klasteryzacja: kiedy grupy naprawdę pomagają
Klasteryzacja ma sens, gdy:
- Brakuje etykiet, a chcesz zmapować przestrzeń problemu (segmenty klientów, typy zachowań).
- Szukanie anomalii: gęste „normalne” masy i punkty odstające (DBSCAN/HDBSCAN potrafią wyłapać szum).
- Chcesz zrobić featury: identyfikator klastra, odległość do centroidu czy gęstość bywa świetnym sygnałem dla modelu nadzorowanego.
Z kolei strata czasu, gdy masz już etykiety i jasny KPI – wtedy nadzorowane podejście szybciej da wartość. Do wyboru sałatki owocowej z metryk też nie namawiamy.
Dobór metody do kształtu danych
- k-means – sferyczne, podobne gęstości, standardyzowane cechy. K wybierasz heurystycznie (elbow, silhouette), a nie objawieniem.
- GMM – elipsoidalne klastry, miękkie przypisania (przydają się jako „prawdopodobieństwa segmentu”).
- DBSCAN/HDBSCAN – zmienna gęstość, obecność szumu, liczba klastrów wychodzi z danych. Wrażliwe na skalę i metrykę.
- Hierarchiczna – dobra do eksploracji; drzewo klastrów ułatwia rozmowę z biznesem („tu przetniemy na 5 segmentów”).
- Spektralna – nieliniowe, „półksiężycowe” struktury, ale kosztowna obliczeniowo (macierz podobieństwa).
Jak ocenić, że grupy mają sens
Bez etykiet nie ma złotego standardu, ale są sygnały jakości:
- Metryki wewnętrzne: silhouette, Davies–Bouldin, Calinski–Harabasz. Traktuj jako wskazówki, nie wyrocznię.
- Stabilność – powtarzalność klastrów przy bootstrapie/innym seedzie.
- Walidacja biznesowa – różnice w KPI między klastrami (np. konwersja, ARPU) oraz sensowne „persony”. Jeśli klastry nie różnią się w niczym istotnym, odłóż je na półkę.
Po klasteryzacji: od segmentów do działania
- Etykietowanie klastrów i reguły – szybkie kampanie, rekomendacje, priorytety obsługi.
- Modele per segment – osobne klasyfikatory/regresje dla różnych grup mogą poprawić trafność.
- Active learning – wybierz reprezentantów klastrów do ręcznego oznaczenia, by szybko zbudować nadzorowany model.
- Monitoring – segmenty „pływają”. Zaplanuj przeliczenia (np. co kwartał) i alarmy na drift rozkładów.
Kiedy klasteryzacja przeszkadza
- Wysokowymiarowe, szumne cechy bez sensownej reprezentacji (najpierw redukcja wymiaru/embeddingi).
- Gdy i tak potrzebujesz binarnej decyzji z kosztem błędu – klasyfikacja da szybciej KPI.
- Gdy odległość to fikcja (różne skale, dominujące cechy). Brak standaryzacji zabija sens podobieństwa.
Które podejście dla kogo i kiedy
- Produkt/PM z jasno zdefiniowanym KPI – jeśli wynik to decyzja „tak/nie” lub kategoria, bierz klasyfikację; dobierz metrykę do kosztu i przepustowości. Gdy KPI to liczba, idź w regresję z właściwą funkcją straty (np. quantile).
- Data/Analityk z małym budżetem etykiet – zacznij od klasteryzacji + active learning, potem przełącz się na model nadzorowany.
- Inżynier wdrożeniowy z limitem opóźnienia/CPU – proste modele (logreg, małe drzewa) z dobrą kalibracją i progami. Boostingi, jeśli mieszczą się w SLO.
- Zespoły compliance/ryzyka – klasyfikacja z kontrolą progu i silnym monitoringiem driftu; dla regresji używaj metryk asymetrycznych, jeśli to odzwierciedla koszt.
Ścieżka pracy: od baseline’u do decyzji o wdrożeniu
- Baseline bez ML lub model naiwny (średnia, reguła, majority class) – punkt odniesienia.
- Szybka iteracja cech i prostych modeli (logreg/regresja liniowa, k-means jako eksploracja) na poprawnej walidacji.
- Wybór metryk pod koszt i proces (MAE vs quantile, PR-AUC vs Recall@k). Ustal docelowe progi.
- Model docelowy (boosting/DBSCAN itp.) + kalibracja/wybór K/parametrów na walidacji.
- Test na danych z hold-outu lub w czasie (ostatnie okno). Sprawdź stabilność i wrażliwość na drift.
Regresja: gdy „ile?” nie znaczy „MSE i do domu”
Dobierz funkcję straty do kształtu błędu
Cel liczbowy bywa kapryśny. Różne rozkłady i koszty błędów wymagają innych funkcji straty:
- MAE vs MSE/RMSE – MSE mocniej karze duże pomyłki (dobre, gdy skrajne błędy są naprawdę kosztowne), MAE jest bardziej odporna na odstające wartości i lepiej oddaje medianowy błąd.
- Błąd asymetryczny – quantile (pinball loss). Gdy niedoszacowanie jest groźniejsze niż przeszacowanie (np. zapas magazynowy), ustaw tau > 0.5. Dla „lepiej dmuchać na zimne” wybierz wyższy kwantyl.
- Dane zliczane (0,1,2,…) – Poisson/NegBin z linkiem log. Nie ujemne prognozy, sensowna wariancja rosnąca z poziomem.
- Wiele zer + ogon – modele dwuczłonowe (hurdle/two-part): najpierw „czy zero?”, potem „ile jeśli >0”. Często wygrywa z jedną regresją wszystko-w-jednym.
- Skala procentowa i wzrosty – RMSLE bywa stabilniejszy niż RMSE; z MAPE uważaj przy zerach (dzieli przez zero) i małych wartościach.
- Oceny ocenzurowane/czasy do zdarzenia – rozważ survival (Cox, AFT) lub regresję kwantylową z uwzględnieniem cenzury, zamiast prób „naprawiania” MSE.
Metryki, które grają w jednej drużynie z biznesem
- MAE/RMSE – raportuj obie, gdy interesuje Cię i typowy i skrajny błąd.
- Pinball loss + pokrycie przedziałów – jeśli przewidujesz kwantyle/przedziały, sprawdzaj zarówno stratę kwantylową, jak i „coverage” (czy 80% przedział trafia ~80% przypadków).
- SMAPE/RMSLE – sensowne przy rozkładach log-normalnych i gdy proporcje są ważniejsze niż różnice bezwzględne.
Mała wskazówka: metryka raportowana zarządowi nie musi być metryką trenowania, ale niech nie przeczy temu, co optymalizuje algorytm.
Rozsądne algorytmy na start i ich kompromisy
- Regresja liniowa + Ridge/Lasso/Elastic Net – szybka, przewidywalna, dobra do bazelinu i interpretacji współczynników. Wymaga standaryzacji i kontroli współliniowości.
- GBDT (XGBoost/LightGBM/CatBoost) – mocne na nieliniowości, wspierają quantile/Tweedie/Poisson. Często najlepszy „one-size-fits-most”.
- Random Forest Regressor – stabilny baseline, ale bywa wolniejszy i mniej precyzyjny przy skomplikowanych interakcjach niż boosting.
- GLM (Poisson, Gamma, Tweedie) – gdy ważna jest zgodność z rozkładem i prosta interpretacja linku.
- Quantile Regression (GBDT/QRF) – gdy potrzebne są scenariusze pesymistyczne/realistyczne/optymistyczne.
- SVR/kNN Regressor – niszowe w produkcji (skalowanie!), ale czasem dają szybki punkt odniesienia.
Walidacja w regresji: pułapki do ominięcia
- Serie czasowe – nie mieszaj przyszłości z przeszłością; użyj walidacji kroczącej.
- Grupy i lokalne zależności – GroupKFold/LeaveOneGroupOut (np. sklepy/urządzenia), by nie przeciekała informacja o stałych efektach.
- Transformacje celu/cech – standaryzacja, log, target encoding tylko wewnątrz foldów CV. Inaczej leakage murowany.
Regresja czy klasyfikacja przy tym samym KPI? Test lakmusowy
Gdy masz liczbę i kuszą „koszyki” lub progi, pomyśl o konsekwencjach. Poniżej szybkie porównanie decyzji:
| Kryterium | Lepsza REGRESJA | Lepsza KLASYFIKACJA |
|---|---|---|
| Potrzeba dokładnej liczby lub rankingu | Tak – priorytetem jest kolejność i różnice (np. wycena, popyt) | Nie – wystarczy etykieta (np. kwalifikacja leadu) |
| Decyzja operacyjna zależy od jednego progu | Tak, ale raportuj też prawdopodobieństwo przekroczenia progu (kwantyle) | Tak – ustaw próg i optymalizuj pod koszt/przepustowość |
| Koszty asymetryczne wokół progu | Quantile/Two-part – kontrolujesz kierunek pomyłki | Macierz kosztów + tuning progu – prostsze wdrożenie |
| Komunikacja z biznesem | Lepiej, gdy „ile” ma znaczenie (np. dni opóźnienia) | Łatwiej, gdy biznes żyje etykietą (Approve/Review/Reject) |
| Nierównowaga przypadków „powyżej progu” | Bywa trudniej (mało przykładów ogona) | Naturalny wybór (klasy rzadkie + PR-AUC) |
| Utrzymanie i stabilność progu | Wymaga monitoringu rozkładu i recalibracji kwantyli | Wymaga monitoringu kalibracji i stabilizacji progu |
- Unikaj „regresja + zaokrąglanie do klas” – tracisz informację o niepewności i porządku.
- Gdy kosze są uporządkowane (1–5), rozważ klasyfikację porządkową lub regresję z dyskretyzacją tylko na wyjściu raportowym.
- Jeśli finalnie liczy się ranking (kto trafi do top-k), regresja lub klasyfikacja z dobrze skalibrowanym scorem zwykle zagrają podobnie – wybierz prostsze wdrożeniowo.
Jeśli decyzja operacyjna naprawdę obraca się wokół jednego progu, klasyfikacja upraszcza życie: łatwiej kalibrować wynik do prawdopodobieństwa, ustawiać próg pod przepustowość i monitorować go w czasie. Trik produkcyjny: utrzymuj celowy odsetek pozytywów (np. stały wolumen wniosków do weryfikacji) i automatycznie dosuwaj próg, gdy zmienia się napływ danych. Warunek konieczny: kalibracja (isotonic/Platt) i dashboard, który pokazuje Expected Positive Rate vs. capacity — bez tego próg „ucieknie”, a kolejka zapełni się szybciej niż arkusz Excela nowymi kolumnami.
Klasyfikacja: decyzje „czy?” bez zgadywania progu
Gdy wynik kończy się etykietą, kluczowe stają się dwa elementy: kalibracja prawdopodobieństwa i świadomy dobór progu pod koszty oraz pojemność procesu. Jeden próg rzadko pasuje do wszystkich – nie róbmy z niego religii.
Metryki skrojone pod koszt i proces
- PR-AUC – właściwa, gdy klasa pozytywna jest rzadka; pokazuje, co dzieje się tam, gdzie naprawdę będziesz pracować (Top-N).
- Precision@k / Recall@k – najlepsze, gdy masz stałą przepustowość (np. zespół sprawdzi do k spraw dziennie).
- F-β – gdy chcesz jawnie „przewalczyć” recall nad precision (β>1) lub odwrotnie (β<1).
- Brier score + krzywe kalibracji – czy p=0.2 naprawdę oznacza 20%? Bez tego próg pływa jak tratwa.
- ROC-AUC – dobry sanity check dla rankingów, ale przy silnej nierównowadze bywa mylący.
- Oczekiwany koszt decyzji – użyj macierzy kosztów i znajdź próg minimalizujący stratę przy danych ograniczeniach.
Nierównowaga klas i małe zbiory: co działa w praktyce
- Stratified CV + GroupKFold przy korelacjach wewnątrz grup (np. urządzenia, sklepy) – chroni przed zbyt optymistycznymi wynikami.
- Wagi klas vs. oversampling – zacznij od wag (class_weight). SMOTE itp. tylko wewnątrz foldów CV i raczej na cechach znormalizowanych.
- Przesuwanie progu zamiast „dokręcania” modelu – szybciej dostosujesz się do celu biznesowego przy stabilnym rankingu.
- PU learning (positive–unlabeled) – gdy masz tylko pozytywy i tło; alternatywa dla „negatywy z kapelusza”.
- Opóźnione etykiety – snapshoty walidacyjne bez wycieków (tylko przykłady z etykietą znaną w momencie decyzji).
Modele startowe i ich kompromisy
- Logistic Regression (+ regularizacja) – szybka, czytelna, świetna do bazelinu i cech liniowych; wymaga skalowania i dbałości o interakcje.
- GBDT (XGBoost/LightGBM/CatBoost) – mocne rankingi i obsługa nieliniowości; zazwyczaj potrzebują kalibracji (Platt/Isotonic), jeśli ważne są prawdopodobieństwa.
- Random Forest Classifier – stabilny baseline; bywa gorzej kalibrowany out-of-the-box niż boosting.
- Linear SVM/NB na tekst – świetne przy rzadkich wektorach (TF-IDF); po treningu dokalibruj do p(y=1).
Klasteryzacja w praktyce: dobór algorytmu i ocena jakości
Segmentacja ma sens, gdy „podobieństwo” rzeczywiście coś znaczy dla decyzji. Wybór algorytmu i miary odległości to 80% sukcesu.
Krótki przewodnik po algorytmach
- k-means – szybki, lubi kule (zbliżone wariancje, odległość euklidesowa). Wymaga standaryzacji. Wybór K: silhouette/gap, nie sam „łokieć z wykresu na oko”.
- GMM – elipsy, miękkie przypisania (prawdopodobieństwa klastra); przydatny, gdy wariancje różne.
- DBSCAN/HDBSCAN – kształty dowolne, wykrywa szum; potrzebuje sensownego eps/min_samples. Świetny na outliery, słabszy przy zróżnicowanych gęstościach.
- Spectral – gdy klastery są „na rozmaitości” (nieliniowe granice); pamiętaj o konstrukcji grafu podobieństwa i skalowaniu.
Ocena: nie tylko wewnętrzne indeksy
- Silhouette / Davies–Bouldin / Calinski–Harabasz – szybkie wskaźniki separacji, ale nie zastąpią walidacji biznesowej.
- Stabilność – powtórz klasteryzację po bootstrappingu/perturbacjach i policz zgodność (np. ARI) między biegami.
- Ewaluacja zewnętrzna – gdy później pojawiają się etykiety: ARI/NMI jako mierniki zgodności.
- Użyteczność downstream – czy segment jako feature poprawia precision@k? Jeśli tak, segmentacja pracuje na KPI, a nie na estetykę wykresu.
Uwaga narzędziowa: redukcja wymiaru (PCA) przed klasteryzacją często pomaga. UMAP/t-SNE – świetne do wizualizacji, ale dystanse po transformacji bywają zdradliwe; traktuj je eksploracyjnie.
Most między podejściami: łączenie w ścieżce decyzyjnej
- Klaster → etykiety → klasyfikacja – wybierz po 10–20 reprezentantów z każdego segmentu do ręcznego oznaczenia, wytrenuj model nadzorowany i przejmij stery metrykami.
- Id klastrów jako cecha – prosty feature, który bywa zaskakująco silny (zwłaszcza w tablicowych danych klient–produkt).
- Pseudo-labeling – gdy etykiet mało, a masz silny model bazowy; kontroluj jednak szum, używając tylko przykładów z wysoką pewnością.
- Problemy porządkowe – zamiast „regresja + zaokrąglanie”, użyj klasyfikacji porządkowej (proportional odds, ordinal boosting) lub regresji z monotonicznymi ograniczeniami po cechach kluczowych.
Mini porównanie: trzy zadania, różne konsekwencje
| Kryterium | Regresja | Klasyfikacja | Klasteryzacja |
|---|---|---|---|
| Pytanie biznesowe | Ile? | Czy/która kategoria? | Kto do kogo podobny? |
| Wymagane dane | Etykiety liczbowe | Etykiety klas | Brak etykiet |
| Metryki startowe | MAE/RMSE/Pinball | PR-AUC/Precision@k/Brier | Silhouette/Stabilność/ARI* |
| Szybki baseline | Średnia/GLM | Majority/LogReg | k-means (eksploracja) |
| Typowa pułapka | Regresja + zaokrąglanie | Ignorowanie kalibracji | K-means na nieskalowanych cechach |
| Gdzie daje wartość „od ręki” | Ranking/priorytetyzacja | Decyzje progowe z kosztem | Segmentacja do eksploracji i AL |
* ARI/NMI – gdy masz odniesienie (np. częściowe etykiety lub „prawie prawdę”).
Szybka checklista wyboru podejścia
- Jaki jest typ celu i decyzji: liczba, kategoria, czy eksploracja podobieństw?
Mapowanie problemu na typ zadania: krótkie scenariusze
- Prognoza popytu/frekwencji – potrzebujesz wartości liczbowej (ile sztuk/klientów). Wybór: regresja (MAE/Pinball dla kwantyli), a klasyfikacja tylko jako dodatni próg (np. „czy przekroczę 80% sali?”) do operacyjnej decyzji.
- Fraud/ryzyko zadłużenia – decyzja progowa + rzadkie przypadki. Wybór: klasyfikacja z kalibracją i PR-AUC/Precision@k; regresja ma sens, jeśli koszt zależy płynnie od skali szkody (loss given event).
- Segmentacja klientów do marketingu – nie masz etykiet ani jednoznacznego KPI. Wybór: klasteryzacja do hipotez i AB testów; szybko sprawdź, czy „segment jako feature” poprawia wyniki klasyfikacji rekomendacji/odpowiedzi na ofertę.
- Ocena jakości leadów (ranking sprzedaży) – liczy się top-k. Wybór: klasyfikacja lub regresja jako model rankingowy; kluczowe są metryki @k i stabilna kalibracja. Nie komplikuj, jeśli prosty model daje ten sam top-k.
- Ocena satysfakcji w skali 1–5 – porządek ma znaczenie. Wybór: klasyfikacja porządkowa lub regresja kwantylowa; unikaj „zaokrąglania z regresji”, bo gubi informację o niepewności.
Plan działania: od bazelinu do decyzji o wdrożeniu
- Ustal decyzję i koszt – jaka akcja zależy od modelu i co boli bardziej (fałszywy alarm czy przeoczenie)? Z tego wynikają metryki i próg.
- Zbuduj baseline:
- Regresja: średnia/medianowa, GLM z kilkoma cechami.
- Klasyfikacja: majority class, logistyczna z podstawowymi cechami.
- Klasteryzacja: k-means po standaryzacji lub HDBSCAN dla szumu.
- Walidacja jak w produkcji:
- TimeSeriesSplit dla zadań czasowych i opóźnionych etykiet.
- GroupKFold przy korelacjach w obrębie jednostek (klient, urządzenie, sklep).
- Nie mieszaj sesji/rekordów tej samej jednostki między train/test.
- Dobierz metryki pod koszt:
- Regresja: MAE, RMSE, Pinball (kwantyle pod SLA); rozdziel koszt niedoszacowania i przeszacowania.
- Klasyfikacja: PR-AUC, Precision@k, Brier + kalibracja, oczekiwany koszt.
- Klasteryzacja: silhouette/stabilność + wpływ na downstream (czy pomaga innemu modelowi?).
- Iteracje szybkie → kalibracja → próg/kwantyl:
- Boosting/las losowy/logistyczna jako „mocny” etap, ale próg ustalaj na walidacji według kosztu.
- Isotonic/Platt, gdy wynik ma być p(y=1) lub gdy sterujesz wolumenem pracy.
- Dla regresji: kwantyle (np. p90) zamiast „średniej + margines na czuja”.
- Test produkcyjny:
- AB/zbliżony do produkcji shadow mode; monitoruj drift i kalibrację.
- Champion–challenger: utrzymuj prosty model jako punkt odniesienia.
- Monitoring i rekalibracja:
- Stabilność progu/kwantyla vs. przepustowość i SLA.
- Drift cech, drift etykiet, performance decay; alerty zanim „Excel doda nowe kolumny” sam z siebie.
Ryzyka, które zafałszowują wybór
- Wyciek czasowy – cechy znane dopiero po decyzji w treningu. Rozwiązanie: cięcia czasowe i „feature availability matrix”.
- Target encoding bez porządnego CV – wyciek przez średnie klas. Używaj wewnątrz foldów, z noise/regularizacją.
- Imputacja i skalowanie poza pipeline – transformacje dopasowane na całym zbiorze zaburzają walidację.
- „Łokieć” w k-means na oko – wybieraj K metryką i stabilnością, nie wrażeniem estetycznym wykresu.
- Nierównowaga klas oceniana ROC-AUC – ładnie wygląda, mało mówi o top-k. Przerzuć się na PR-AUC i metryki @k.
- Ordinalny cel traktowany jak nominalny – gubisz informację o porządku; sięgnij po modele porządkowe lub monotoniczne ograniczenia.
- Opóźnione etykiety mieszane z bieżącymi – walidacja zawyża wyniki. Zostaw bufor (lag) i snapshoty z „zamrożonymi” etykietami.
- K-means na kategoriach/mieszanych skalach – odległość euklidesowa nie rozumie kodów; rozważ Gower/embedingi albo modele mieszane.
Dla kogo które podejście ma najwięcej sensu
- Analityk/PM z KPI progowym (budżet, wolumen obsługi) – klasyfikacja z kalibracją i jasno ustawionym progiem; prosty dashboard do kontroli odsetka pozytywów.
- Data Scientist junior z celem liczbowym i sezonowością – regresja z GLM/GBDT, Pinball loss dla SLA, walidacja czasowa, potem dopiero „wodotryski”.
- Inżynier danych w projekcie eksploracyjnym – klasteryzacja do hipotez + szybkie AB; równolegle sprawdź, czy identyfikator klastra jako cecha poprawia model nadzorowany.
- Zespół ryzyka z małą liczbą fraudów – klasyfikacja z wagami klas, PR-AUC, PU learning gdy brak wiarygodnych negatywów.
Mini ściąga decyzyjna (ostatni checkpoint przed startem)
- Czy decyzja jest liczbowa (ile?), progowa/kategoryczna (czy/co?), czy eksploracyjna (podobieństwa)?
- Masz etykiety? Jeśli nie – zacznij od klasteryzacji i planu dosetykietowania (active learning, reprezentanci klastrów).
- Jaki jest koszt błędów i ograniczenia procesu (przepustowość, SLA, budżet)? Na tej podstawie wybierz metryki i próg/kwantyl.
- Struktura danych: czas/serializacja, grupy, nierównowaga klas, mała próba – to dyktuje walidację (TimeSeriesSplit/GroupKFold) i techniki (class_weight/kwantyle).
- Czy potrzebujesz prawdopodobieństw/pewności? Jeśli tak – kalibracja obowiązkowa i monitorowanie.
- Jakie są ograniczenia wdrożeniowe: latencja, interpretowalność, koszty utrzymania? Wybierz najprostszy model, który dowozi metryki.
- Czy „podobieństwo” jest definiowalne i użyteczne biznesowo? Jeśli nie, klasteryzacja poczeka – idź w nadzorowane.
- Plan testu produkcyjnego i rollbacku gotowy? Champion–challenger, alerty na drift, harmonogram rekalibracji.
- Minimalny baseline ustalony i zapisany (z seedami)? Bez tego nie wiesz, czy „lepsze” naprawdę jest lepsze.
Kiedy lepiej uważać: sygnały alarmowe przed wyborem
- Masz mało danych i rzadki pozytyw? Modele klasyfikacyjne będą miały wysoką wariancję. Rozważ proste GLM/GBDT z silną regularyzacją, wagi klas, a czasem nawet regresję na zagregowanej jednostce (tydzień/region) zamiast rekordu.
- Cel numeryczny z wieloma zerami (zero-inflated)? Jednostopniowa regresja będzie „ciągnąć” do zera. Użyj modelu dwuczęściowego: najpierw klasyfikacja „czy >0?”, potem regresja warunkowa „ile, jeśli >0?”.
- Brak stabilnej definicji podobieństwa? Klasteryzacja zamieni się w sesję artystyczną. Jeśli nie potrafisz w dwóch zdaniach opisać metryki sensownej biznesowo, wstrzymaj się i zbierz etykiety.






