Regresja, klasyfikacja, klasteryzacja: co wybrać i kiedy?

0
15
Rate this post

Nawigacja:

Najpierw nazwij problem: „ile?”, „czy?”, czy „kto do kogo jest podobny?”

Wybór między regresją, klasyfikacją i klasteryzacją zacina się zwykle na pierwszym pytaniu: jaki właściwie jest kształt Twojego celu? Jeśli to nie jest jasne, algorytmy będą strzelać na oślep. Zanim więc cokolwiek wytrenujesz, odpowiedz sobie na trzy proste pytania.

„Ile?” – zadania regresyjne

Gdy przewidujesz liczbę ciągłą (cena, czas, popyt, temperatura), mówimy o regresji. W wariantach specjalnych przewidujesz percentyle (np. czas dostawy P90), logarytm wartości (gdy rozkład jest mocno prawostronny) albo różnicę do trendu (w szeregach czasowych).

„Czy?” – zadania klasyfikacyjne

Gdy wynik to etykieta (spam/nie-spam, churn/nie-churn, typ produktu), to klasyfikacja. Może być binarna, wieloklasowa, wieloetykietowa lub porządkowa (np. ocena w skali 1–5, gdzie 5 jest „większe” od 4).

„Kto do kogo podobny?” – zadania klasteryzacyjne

Gdy nie masz etykiet i chcesz grupować obserwacje po podobieństwie (segmentacja klientów, grupy ofert, wykrywanie tematów), używasz klasteryzacji. To metoda nienadzorowana: najpierw szukasz struktury, potem nadajesz sens biznesowy tym grupom.

Krótki brief decyzyjny: pytania, które prowadzą do wyboru

Przed wejściem w algorytmy odpowiedz na kilka praktycznych pytań. To one podpowiedzą, czy i co trenować, jak mierzyć sukces i czego unikać.

  • Czy wynik biznesowy jest liczbą, etykietą, czy hipotezą o podobieństwie?
  • Jakie są koszty różnych typów błędów (niedoszacowanie vs przeszacowanie, false positive vs false negative)?
  • Czy masz etykiety? Jeśli nie – czy klasteryzacja ma pomóc je zbudować?
  • Jak duży i czysty masz zbiór danych? Czy klasy są niezbalansowane? Czy dane są czasowe lub grupowane?
  • Jak ważna jest interpretowalność i szybkość predykcji w produkcji?
  • Jak będziesz walidował model (czas, grupy, leakage)?
  • Jakie metryki odpowiadają KPI (MAE vs MAPE, recall vs precision, PR-AUC vs ROC-AUC)?
  • Czy w razie sukcesu potrafisz wdrożyć i monitorować model (drift, rekalkibracja, próg decyzyjny)?

Mapa porównawcza: regresja, klasyfikacja, klasteryzacja

Dla porządku – szybkie zestawienie różnic, typowych metryk i przykładów. Prosto, bez przepiśników akademickich.

AspektRegresjaKlasyfikacjaKlasteryzacja
WyjścieWartość ciągła (liczba)Etykieta (binarna, wieloklasowa, porządkowa)Przynależność do grupy (bez etykiet na starcie)
PrzykładyCena, popyt, czas dostawy, zużycieChurn, fraud, kategoria produktu, priorytet zgłoszeniaSegmentacja klientów, grupy produktów, tematy dokumentów
MetrykiMAE, RMSE, RMSLE, MAPE, R², quantile lossPrecision, Recall, F1, AUC-ROC, PR-AUC, LogLoss, MCCSilhouette, Davies–Bouldin, Calinski–Harabasz, stabilność
Rozsądny startRegresja liniowa/Elastic Net, Random Forest, Gradient BoostingLogistic Regression, Random Forest, XGBoost/LightGBMk-means, GMM, DBSCAN/HDBSCAN, hierarchiczna
Kiedy nie?Gdy cel faktycznie jest kategorycznyGdy masz zbyt mało przykładów na klasęGdy masz etykiety i jasny KPI – lepsza klasyfikacja/regresja
PułapkiAsymetryczne koszty, outliery, heteroskedastyczność, data leakageNierównowaga klas, zły próg, brak kalibracji, leakageK-means na niesferycznych klastrach, skala cech, „magiczne K”

Regresja: kiedy przewidujesz „ile?” i jak nie przeszacować problemu

Wskaźnik ciągły i konsekwencje wyboru

Regresja to wybór, gdy cel jest liczbowy i ma sens w skali ciągłej. Jeśli Twoje „ile” to w rzeczywistości kilka etykiet (np. poziomy ryzyka: niski/średni/wysoki), rozważ klasyfikację porządkową lub progową kalibrację, zamiast regresji z późniejszym zaokrąglaniem. To częsty antywzorzec: model regresyjny „dobrze wygląda” w RMSE, ale fatalnie rozdziela poziomy ryzyka po zaokrągleniu.

Metryki a koszt biznesowy

Dobranie metryki do kosztów to połowa sukcesu:

  • MAE – odporniejsze na outliery niż RMSE, interpretuje się prosto („średni błąd w jednostkach celu”).
  • RMSE – karze duże błędy bardziej, dobre gdy „wtopa” boli wykładniczo.
  • MAPE – sensowny przy skalach dodatnich i braku zer. Uwaga na obiekty o małej wartości – metryka wariuje.
  • RMSLE – przydaje się przy rozkładach z długim ogonem i gdy nie chcesz przesadnie karać niedoszacowań/wysokich wartości.
  • Quantile loss (pinball) – świetna, gdy koszt jest asymetryczny: np. przewidywanie czasu dostawy P90, by rzadziej spóźniać się wobec klienta.

Algorytmy na start i co z ich wymaganiami

Na pierwszy ogień najczęściej wchodzą: regresja liniowa/Elastic Net (szybka, interpretowalna), Random Forest (odporna na nieliniowości), oraz gradient boosting (XGBoost, LightGBM, CatBoost) – zwykle najlepszy kompromis jakości do czasu. Dla danych o wielu kategoriach CatBoost często wygrywa prostotą – nie wymaga agresywnego one-hot i dobrze radzi sobie z brakami. Gdy liczba cech jest ogromna (teksty, obraz), rozważ sieci neuronowe lub gotowe reprezentacje (embeddingi) + model płytki.

Walidacja i pułapki

Typowe błędy w regresji:

  • Losowa walidacja w szeregach czasowych – wprowadza przewidywanie „z przyszłości w przeszłość”. Używaj walidacji kroczącej.
  • Data leakage przez cechy zbudowane na całym zbiorze (np. target encoding bez podziału na foldy).
  • Ignorowanie heteroskedastyczności – gdy wariancja błędu rośnie z wartością, rozważ transformację celu lub ważoną metrykę.
  • Outliery – potrafią „pociągnąć” RMSE, ale też niosą informację. Osobno zbadaj ich wpływ i sens biznesowy.

Kiedy regresja nie ma sensu

Jeżeli próbujesz przewidzieć wynik egzaminu w skali 1–5, ale jedynie poziomy są istotne, klasyfikacja porządkowa będzie rozsądniejsza. Podobnie, jeśli prognozujesz popyt, ale realnie zamawiasz w „paczki” po 10 sztuk – uwzględnij dyskretyzację w funkcji celu albo planuj decyzyjnie (prognoza → reguła zamówienia), zamiast liczyć na „ładny” RMSE.

Klasyfikacja: „czy?” ma więcej odcieni niż prosty accuracy

Warianty problemu i wybór metryki

W klasyfikacji pierwszy wybór to typ: binarna, wieloklasowa, wieloetykietowa, porządkowa. Każdy z nich niesie inne konsekwencje:

  • Binarna – najczęstsza (fraud, churn). Główne metryki: Precision, Recall, F1, PR-AUC, ROC-AUC. Gdy klasy są rzadkie, PR-AUC bywa lepszym kompasem niż ROC-AUC.
  • Wieloklasowa – np. kategoria produktu. Dobrze liczyć macro/micro-averaged F1, bo rozkład klas zwykle jest nierówny.
  • Wieloetykietowa – dokument może mieć kilka tagów. Tu metryki typu subset accuracy są zbyt surowe; użyj macro F1 per etykieta lub Jaccard.
  • Porządkowa – poziom ryzyka 1–5. Sensowne są metryki uwzględniające dystans (Quadratic Weighted Kappa) lub utrata karząca pomyłki „o dwa poziomy” bardziej.

Próg, kalibracja i koszty błędów w praktyce

Model klasyfikacyjny nie kończy pracy na „procentach”. Trzeba jeszcze ustawić próg decyzji. Dwa kroki robią różnicę:

  • Kalibracja prawdopodobieństw – Platt (logistyczna) lub izotoniczna na walidacji. Dzięki temu 0,7 naprawdę znaczy ~70% szansy. Sprawdź krzywą niezawodności i Brier score.
  • Dobór progu pod koszt – zamiast maksymalizować F1 w ciemno, policz oczekiwany koszt przy różnych progach (macierz kosztów). Np. przy fraudzie czasem opłaca się obniżyć próg, by złapać więcej podejrzanych transakcji kosztem dodatkowych kontroli.

Pro tip z życia: gdy zespół operacyjny ma ograniczoną przepustowość (np. 200 leadów dziennie), optymalizuj „Recall @ k” albo „Precision przy top-k”, a nie ogólne AUC.

Nierównowaga klas: strategie, które działają

Rzadkie klasy potrafią wyprowadzić metryki na manowce. Zamiast „accuracy 99%” wybierz narzędzia pasujące do skali problemu:

  • Ważenie klas (class_weight) – pierwszy i najbezpieczniejszy krok.
  • Resampling – undersampling większości lub SMOTE/ADASYN dla mniejszości, ale zawsze w obrębie foldów, by nie wprowadzić leakage.
  • Threshold moving – po trenowaniu na zbalansowanych wagach ustawiasz próg pod koszt/pojemność procesu.
  • Metryki – PR-AUC, Recall@Precision≥X, MCC. Stratified CV, a w danych czasowych lub grupowych: TimeSeriesSplit/GroupKFold.

Startowe algorytmy i ich kompromisy

Na tablicach i w dashboardach rządzą proste wybory:

  • Logistic Regression – szybka, skalowalna, dobrze działa na danych rzadkich (tekst). Wymaga standaryzacji i sensownego doboru cech.
  • Drzewa/Boostingi (RF, XGBoost, LightGBM, CatBoost) – świetne na nieliniowości i interakcje. Często potrzebują kalibracji, za to dobrze znoszą brak liniowych założeń.
  • Naive Bayes – prosty baseline do tekstu. Zaskakująco mocny, gdy dane są bardzo rzadkie.
  • SVM (liniowy) – dobry na wysokowymiarowe, ale trudniejszy w kalibracji. Wersje nieliniowe są ciężkie wdrożeniowo.
  • Embeddings + płytki klasyfikator – przy obrazie/tekście często wygrywa: weź gotowe reprezentacje i naucz prostą warstwę decyzyjną.

Walidacja bez złudzeń

Żeby nie trenować „na przyszłości”, dopasuj walidację do danych:

  • Serie czasowe – walidacja krocząca, żadnego mieszania dni.
  • Grupy (klient, użytkownik, sklep) – GroupKFold, by przykład z tej samej grupy nie wpadł jednocześnie do train i val.
  • Feature engineering i selekcja – zawsze wewnątrz pipeline’u CV, inaczej ryzyko leakage rośnie jak drożdże.

Klasteryzacja: kiedy grupy naprawdę pomagają

Klasteryzacja ma sens, gdy:

  • Brakuje etykiet, a chcesz zmapować przestrzeń problemu (segmenty klientów, typy zachowań).
  • Szukanie anomalii: gęste „normalne” masy i punkty odstające (DBSCAN/HDBSCAN potrafią wyłapać szum).
  • Chcesz zrobić featury: identyfikator klastra, odległość do centroidu czy gęstość bywa świetnym sygnałem dla modelu nadzorowanego.

Z kolei strata czasu, gdy masz już etykiety i jasny KPI – wtedy nadzorowane podejście szybciej da wartość. Do wyboru sałatki owocowej z metryk też nie namawiamy.

Dobór metody do kształtu danych

  • k-means – sferyczne, podobne gęstości, standardyzowane cechy. K wybierasz heurystycznie (elbow, silhouette), a nie objawieniem.
  • GMM – elipsoidalne klastry, miękkie przypisania (przydają się jako „prawdopodobieństwa segmentu”).
  • DBSCAN/HDBSCAN – zmienna gęstość, obecność szumu, liczba klastrów wychodzi z danych. Wrażliwe na skalę i metrykę.
  • Hierarchiczna – dobra do eksploracji; drzewo klastrów ułatwia rozmowę z biznesem („tu przetniemy na 5 segmentów”).
  • Spektralna – nieliniowe, „półksiężycowe” struktury, ale kosztowna obliczeniowo (macierz podobieństwa).

Jak ocenić, że grupy mają sens

Bez etykiet nie ma złotego standardu, ale są sygnały jakości:

  • Metryki wewnętrzne: silhouette, Davies–Bouldin, Calinski–Harabasz. Traktuj jako wskazówki, nie wyrocznię.
  • Stabilność – powtarzalność klastrów przy bootstrapie/innym seedzie.
  • Walidacja biznesowa – różnice w KPI między klastrami (np. konwersja, ARPU) oraz sensowne „persony”. Jeśli klastry nie różnią się w niczym istotnym, odłóż je na półkę.

Po klasteryzacji: od segmentów do działania

  • Etykietowanie klastrów i reguły – szybkie kampanie, rekomendacje, priorytety obsługi.
  • Modele per segment – osobne klasyfikatory/regresje dla różnych grup mogą poprawić trafność.
  • Active learning – wybierz reprezentantów klastrów do ręcznego oznaczenia, by szybko zbudować nadzorowany model.
  • Monitoring – segmenty „pływają”. Zaplanuj przeliczenia (np. co kwartał) i alarmy na drift rozkładów.

Kiedy klasteryzacja przeszkadza

  • Wysokowymiarowe, szumne cechy bez sensownej reprezentacji (najpierw redukcja wymiaru/embeddingi).
  • Gdy i tak potrzebujesz binarnej decyzji z kosztem błędu – klasyfikacja da szybciej KPI.
  • Gdy odległość to fikcja (różne skale, dominujące cechy). Brak standaryzacji zabija sens podobieństwa.

Które podejście dla kogo i kiedy

  • Produkt/PM z jasno zdefiniowanym KPI – jeśli wynik to decyzja „tak/nie” lub kategoria, bierz klasyfikację; dobierz metrykę do kosztu i przepustowości. Gdy KPI to liczba, idź w regresję z właściwą funkcją straty (np. quantile).
  • Data/Analityk z małym budżetem etykiet – zacznij od klasteryzacji + active learning, potem przełącz się na model nadzorowany.
  • Inżynier wdrożeniowy z limitem opóźnienia/CPU – proste modele (logreg, małe drzewa) z dobrą kalibracją i progami. Boostingi, jeśli mieszczą się w SLO.
  • Zespoły compliance/ryzyka – klasyfikacja z kontrolą progu i silnym monitoringiem driftu; dla regresji używaj metryk asymetrycznych, jeśli to odzwierciedla koszt.

Ścieżka pracy: od baseline’u do decyzji o wdrożeniu

  1. Baseline bez ML lub model naiwny (średnia, reguła, majority class) – punkt odniesienia.
  2. Szybka iteracja cech i prostych modeli (logreg/regresja liniowa, k-means jako eksploracja) na poprawnej walidacji.
  3. Wybór metryk pod koszt i proces (MAE vs quantile, PR-AUC vs Recall@k). Ustal docelowe progi.
  4. Model docelowy (boosting/DBSCAN itp.) + kalibracja/wybór K/parametrów na walidacji.
  5. Test na danych z hold-outu lub w czasie (ostatnie okno). Sprawdź stabilność i wrażliwość na drift.
  6. Regresja: gdy „ile?” nie znaczy „MSE i do domu”

    Dobierz funkcję straty do kształtu błędu

    Cel liczbowy bywa kapryśny. Różne rozkłady i koszty błędów wymagają innych funkcji straty:

  • MAE vs MSE/RMSE – MSE mocniej karze duże pomyłki (dobre, gdy skrajne błędy są naprawdę kosztowne), MAE jest bardziej odporna na odstające wartości i lepiej oddaje medianowy błąd.
  • Błąd asymetryczny – quantile (pinball loss). Gdy niedoszacowanie jest groźniejsze niż przeszacowanie (np. zapas magazynowy), ustaw tau > 0.5. Dla „lepiej dmuchać na zimne” wybierz wyższy kwantyl.
  • Dane zliczane (0,1,2,…) – Poisson/NegBin z linkiem log. Nie ujemne prognozy, sensowna wariancja rosnąca z poziomem.
  • Wiele zer + ogon – modele dwuczłonowe (hurdle/two-part): najpierw „czy zero?”, potem „ile jeśli >0”. Często wygrywa z jedną regresją wszystko-w-jednym.
  • Skala procentowa i wzrosty – RMSLE bywa stabilniejszy niż RMSE; z MAPE uważaj przy zerach (dzieli przez zero) i małych wartościach.
  • Oceny ocenzurowane/czasy do zdarzenia – rozważ survival (Cox, AFT) lub regresję kwantylową z uwzględnieniem cenzury, zamiast prób „naprawiania” MSE.

Metryki, które grają w jednej drużynie z biznesem

  • MAE/RMSE – raportuj obie, gdy interesuje Cię i typowy i skrajny błąd.
  • Pinball loss + pokrycie przedziałów – jeśli przewidujesz kwantyle/przedziały, sprawdzaj zarówno stratę kwantylową, jak i „coverage” (czy 80% przedział trafia ~80% przypadków).
  • SMAPE/RMSLE – sensowne przy rozkładach log-normalnych i gdy proporcje są ważniejsze niż różnice bezwzględne.

Mała wskazówka: metryka raportowana zarządowi nie musi być metryką trenowania, ale niech nie przeczy temu, co optymalizuje algorytm.

Rozsądne algorytmy na start i ich kompromisy

  • Regresja liniowa + Ridge/Lasso/Elastic Net – szybka, przewidywalna, dobra do bazelinu i interpretacji współczynników. Wymaga standaryzacji i kontroli współliniowości.
  • GBDT (XGBoost/LightGBM/CatBoost) – mocne na nieliniowości, wspierają quantile/Tweedie/Poisson. Często najlepszy „one-size-fits-most”.
  • Random Forest Regressor – stabilny baseline, ale bywa wolniejszy i mniej precyzyjny przy skomplikowanych interakcjach niż boosting.
  • GLM (Poisson, Gamma, Tweedie) – gdy ważna jest zgodność z rozkładem i prosta interpretacja linku.
  • Quantile Regression (GBDT/QRF) – gdy potrzebne są scenariusze pesymistyczne/realistyczne/optymistyczne.
  • SVR/kNN Regressor – niszowe w produkcji (skalowanie!), ale czasem dają szybki punkt odniesienia.

Walidacja w regresji: pułapki do ominięcia

  • Serie czasowe – nie mieszaj przyszłości z przeszłością; użyj walidacji kroczącej.
  • Grupy i lokalne zależności – GroupKFold/LeaveOneGroupOut (np. sklepy/urządzenia), by nie przeciekała informacja o stałych efektach.
  • Transformacje celu/cech – standaryzacja, log, target encoding tylko wewnątrz foldów CV. Inaczej leakage murowany.

Regresja czy klasyfikacja przy tym samym KPI? Test lakmusowy

Gdy masz liczbę i kuszą „koszyki” lub progi, pomyśl o konsekwencjach. Poniżej szybkie porównanie decyzji:

KryteriumLepsza REGRESJALepsza KLASYFIKACJA
Potrzeba dokładnej liczby lub rankinguTak – priorytetem jest kolejność i różnice (np. wycena, popyt)Nie – wystarczy etykieta (np. kwalifikacja leadu)
Decyzja operacyjna zależy od jednego proguTak, ale raportuj też prawdopodobieństwo przekroczenia progu (kwantyle)Tak – ustaw próg i optymalizuj pod koszt/przepustowość
Koszty asymetryczne wokół proguQuantile/Two-part – kontrolujesz kierunek pomyłkiMacierz kosztów + tuning progu – prostsze wdrożenie
Komunikacja z biznesemLepiej, gdy „ile” ma znaczenie (np. dni opóźnienia)Łatwiej, gdy biznes żyje etykietą (Approve/Review/Reject)
Nierównowaga przypadków „powyżej progu”Bywa trudniej (mało przykładów ogona)Naturalny wybór (klasy rzadkie + PR-AUC)
Utrzymanie i stabilność proguWymaga monitoringu rozkładu i recalibracji kwantyliWymaga monitoringu kalibracji i stabilizacji progu
  • Unikaj „regresja + zaokrąglanie do klas” – tracisz informację o niepewności i porządku.
  • Gdy kosze są uporządkowane (1–5), rozważ klasyfikację porządkową lub regresję z dyskretyzacją tylko na wyjściu raportowym.
  • Jeśli finalnie liczy się ranking (kto trafi do top-k), regresja lub klasyfikacja z dobrze skalibrowanym scorem zwykle zagrają podobnie – wybierz prostsze wdrożeniowo.

Jeśli decyzja operacyjna naprawdę obraca się wokół jednego progu, klasyfikacja upraszcza życie: łatwiej kalibrować wynik do prawdopodobieństwa, ustawiać próg pod przepustowość i monitorować go w czasie. Trik produkcyjny: utrzymuj celowy odsetek pozytywów (np. stały wolumen wniosków do weryfikacji) i automatycznie dosuwaj próg, gdy zmienia się napływ danych. Warunek konieczny: kalibracja (isotonic/Platt) i dashboard, który pokazuje Expected Positive Rate vs. capacity — bez tego próg „ucieknie”, a kolejka zapełni się szybciej niż arkusz Excela nowymi kolumnami.

Klasyfikacja: decyzje „czy?” bez zgadywania progu

Gdy wynik kończy się etykietą, kluczowe stają się dwa elementy: kalibracja prawdopodobieństwa i świadomy dobór progu pod koszty oraz pojemność procesu. Jeden próg rzadko pasuje do wszystkich – nie róbmy z niego religii.

Metryki skrojone pod koszt i proces

  • PR-AUC – właściwa, gdy klasa pozytywna jest rzadka; pokazuje, co dzieje się tam, gdzie naprawdę będziesz pracować (Top-N).
  • Precision@k / Recall@k – najlepsze, gdy masz stałą przepustowość (np. zespół sprawdzi do k spraw dziennie).
  • F-β – gdy chcesz jawnie „przewalczyć” recall nad precision (β>1) lub odwrotnie (β<1).
  • Brier score + krzywe kalibracji – czy p=0.2 naprawdę oznacza 20%? Bez tego próg pływa jak tratwa.
  • ROC-AUC – dobry sanity check dla rankingów, ale przy silnej nierównowadze bywa mylący.
  • Oczekiwany koszt decyzji – użyj macierzy kosztów i znajdź próg minimalizujący stratę przy danych ograniczeniach.

Nierównowaga klas i małe zbiory: co działa w praktyce

  • Stratified CV + GroupKFold przy korelacjach wewnątrz grup (np. urządzenia, sklepy) – chroni przed zbyt optymistycznymi wynikami.
  • Wagi klas vs. oversampling – zacznij od wag (class_weight). SMOTE itp. tylko wewnątrz foldów CV i raczej na cechach znormalizowanych.
  • Przesuwanie progu zamiast „dokręcania” modelu – szybciej dostosujesz się do celu biznesowego przy stabilnym rankingu.
  • PU learning (positive–unlabeled) – gdy masz tylko pozytywy i tło; alternatywa dla „negatywy z kapelusza”.
  • Opóźnione etykiety – snapshoty walidacyjne bez wycieków (tylko przykłady z etykietą znaną w momencie decyzji).

Modele startowe i ich kompromisy

  • Logistic Regression (+ regularizacja) – szybka, czytelna, świetna do bazelinu i cech liniowych; wymaga skalowania i dbałości o interakcje.
  • GBDT (XGBoost/LightGBM/CatBoost) – mocne rankingi i obsługa nieliniowości; zazwyczaj potrzebują kalibracji (Platt/Isotonic), jeśli ważne są prawdopodobieństwa.
  • Random Forest Classifier – stabilny baseline; bywa gorzej kalibrowany out-of-the-box niż boosting.
  • Linear SVM/NB na tekst – świetne przy rzadkich wektorach (TF-IDF); po treningu dokalibruj do p(y=1).

Klasteryzacja w praktyce: dobór algorytmu i ocena jakości

Segmentacja ma sens, gdy „podobieństwo” rzeczywiście coś znaczy dla decyzji. Wybór algorytmu i miary odległości to 80% sukcesu.

Krótki przewodnik po algorytmach

  • k-means – szybki, lubi kule (zbliżone wariancje, odległość euklidesowa). Wymaga standaryzacji. Wybór K: silhouette/gap, nie sam „łokieć z wykresu na oko”.
  • GMM – elipsy, miękkie przypisania (prawdopodobieństwa klastra); przydatny, gdy wariancje różne.
  • DBSCAN/HDBSCAN – kształty dowolne, wykrywa szum; potrzebuje sensownego eps/min_samples. Świetny na outliery, słabszy przy zróżnicowanych gęstościach.
  • Spectral – gdy klastery są „na rozmaitości” (nieliniowe granice); pamiętaj o konstrukcji grafu podobieństwa i skalowaniu.

Ocena: nie tylko wewnętrzne indeksy

  • Silhouette / Davies–Bouldin / Calinski–Harabasz – szybkie wskaźniki separacji, ale nie zastąpią walidacji biznesowej.
  • Stabilność – powtórz klasteryzację po bootstrappingu/perturbacjach i policz zgodność (np. ARI) między biegami.
  • Ewaluacja zewnętrzna – gdy później pojawiają się etykiety: ARI/NMI jako mierniki zgodności.
  • Użyteczność downstream – czy segment jako feature poprawia precision@k? Jeśli tak, segmentacja pracuje na KPI, a nie na estetykę wykresu.

Uwaga narzędziowa: redukcja wymiaru (PCA) przed klasteryzacją często pomaga. UMAP/t-SNE – świetne do wizualizacji, ale dystanse po transformacji bywają zdradliwe; traktuj je eksploracyjnie.

Most między podejściami: łączenie w ścieżce decyzyjnej

  • Klaster → etykiety → klasyfikacja – wybierz po 10–20 reprezentantów z każdego segmentu do ręcznego oznaczenia, wytrenuj model nadzorowany i przejmij stery metrykami.
  • Id klastrów jako cecha – prosty feature, który bywa zaskakująco silny (zwłaszcza w tablicowych danych klient–produkt).
  • Pseudo-labeling – gdy etykiet mało, a masz silny model bazowy; kontroluj jednak szum, używając tylko przykładów z wysoką pewnością.
  • Problemy porządkowe – zamiast „regresja + zaokrąglanie”, użyj klasyfikacji porządkowej (proportional odds, ordinal boosting) lub regresji z monotonicznymi ograniczeniami po cechach kluczowych.

Mini porównanie: trzy zadania, różne konsekwencje

KryteriumRegresjaKlasyfikacjaKlasteryzacja
Pytanie biznesoweIle?Czy/która kategoria?Kto do kogo podobny?
Wymagane daneEtykiety liczboweEtykiety klasBrak etykiet
Metryki startoweMAE/RMSE/PinballPR-AUC/Precision@k/BrierSilhouette/Stabilność/ARI*
Szybki baselineŚrednia/GLMMajority/LogRegk-means (eksploracja)
Typowa pułapkaRegresja + zaokrąglanieIgnorowanie kalibracjiK-means na nieskalowanych cechach
Gdzie daje wartość „od ręki”Ranking/priorytetyzacjaDecyzje progowe z kosztemSegmentacja do eksploracji i AL

* ARI/NMI – gdy masz odniesienie (np. częściowe etykiety lub „prawie prawdę”).

Szybka checklista wyboru podejścia

  • Jaki jest typ celu i decyzji: liczba, kategoria, czy eksploracja podobieństw?
  • Mapowanie problemu na typ zadania: krótkie scenariusze

  • Prognoza popytu/frekwencji – potrzebujesz wartości liczbowej (ile sztuk/klientów). Wybór: regresja (MAE/Pinball dla kwantyli), a klasyfikacja tylko jako dodatni próg (np. „czy przekroczę 80% sali?”) do operacyjnej decyzji.
  • Fraud/ryzyko zadłużenia – decyzja progowa + rzadkie przypadki. Wybór: klasyfikacja z kalibracją i PR-AUC/Precision@k; regresja ma sens, jeśli koszt zależy płynnie od skali szkody (loss given event).
  • Segmentacja klientów do marketingu – nie masz etykiet ani jednoznacznego KPI. Wybór: klasteryzacja do hipotez i AB testów; szybko sprawdź, czy „segment jako feature” poprawia wyniki klasyfikacji rekomendacji/odpowiedzi na ofertę.
  • Ocena jakości leadów (ranking sprzedaży) – liczy się top-k. Wybór: klasyfikacja lub regresja jako model rankingowy; kluczowe są metryki @k i stabilna kalibracja. Nie komplikuj, jeśli prosty model daje ten sam top-k.
  • Ocena satysfakcji w skali 1–5 – porządek ma znaczenie. Wybór: klasyfikacja porządkowa lub regresja kwantylowa; unikaj „zaokrąglania z regresji”, bo gubi informację o niepewności.

Plan działania: od bazelinu do decyzji o wdrożeniu

  1. Ustal decyzję i koszt – jaka akcja zależy od modelu i co boli bardziej (fałszywy alarm czy przeoczenie)? Z tego wynikają metryki i próg.
  2. Zbuduj baseline:
    • Regresja: średnia/medianowa, GLM z kilkoma cechami.
    • Klasyfikacja: majority class, logistyczna z podstawowymi cechami.
    • Klasteryzacja: k-means po standaryzacji lub HDBSCAN dla szumu.
  3. Walidacja jak w produkcji:
    • TimeSeriesSplit dla zadań czasowych i opóźnionych etykiet.
    • GroupKFold przy korelacjach w obrębie jednostek (klient, urządzenie, sklep).
    • Nie mieszaj sesji/rekordów tej samej jednostki między train/test.
  4. Dobierz metryki pod koszt:
    • Regresja: MAE, RMSE, Pinball (kwantyle pod SLA); rozdziel koszt niedoszacowania i przeszacowania.
    • Klasyfikacja: PR-AUC, Precision@k, Brier + kalibracja, oczekiwany koszt.
    • Klasteryzacja: silhouette/stabilność + wpływ na downstream (czy pomaga innemu modelowi?).
  5. Iteracje szybkie → kalibracja → próg/kwantyl:
    • Boosting/las losowy/logistyczna jako „mocny” etap, ale próg ustalaj na walidacji według kosztu.
    • Isotonic/Platt, gdy wynik ma być p(y=1) lub gdy sterujesz wolumenem pracy.
    • Dla regresji: kwantyle (np. p90) zamiast „średniej + margines na czuja”.
  6. Test produkcyjny:
    • AB/zbliżony do produkcji shadow mode; monitoruj drift i kalibrację.
    • Champion–challenger: utrzymuj prosty model jako punkt odniesienia.
  7. Monitoring i rekalibracja:
    • Stabilność progu/kwantyla vs. przepustowość i SLA.
    • Drift cech, drift etykiet, performance decay; alerty zanim „Excel doda nowe kolumny” sam z siebie.

Ryzyka, które zafałszowują wybór

  • Wyciek czasowy – cechy znane dopiero po decyzji w treningu. Rozwiązanie: cięcia czasowe i „feature availability matrix”.
  • Target encoding bez porządnego CV – wyciek przez średnie klas. Używaj wewnątrz foldów, z noise/regularizacją.
  • Imputacja i skalowanie poza pipeline – transformacje dopasowane na całym zbiorze zaburzają walidację.
  • „Łokieć” w k-means na oko – wybieraj K metryką i stabilnością, nie wrażeniem estetycznym wykresu.
  • Nierównowaga klas oceniana ROC-AUC – ładnie wygląda, mało mówi o top-k. Przerzuć się na PR-AUC i metryki @k.
  • Ordinalny cel traktowany jak nominalny – gubisz informację o porządku; sięgnij po modele porządkowe lub monotoniczne ograniczenia.
  • Opóźnione etykiety mieszane z bieżącymi – walidacja zawyża wyniki. Zostaw bufor (lag) i snapshoty z „zamrożonymi” etykietami.
  • K-means na kategoriach/mieszanych skalach – odległość euklidesowa nie rozumie kodów; rozważ Gower/embedingi albo modele mieszane.

Dla kogo które podejście ma najwięcej sensu

  • Analityk/PM z KPI progowym (budżet, wolumen obsługi) – klasyfikacja z kalibracją i jasno ustawionym progiem; prosty dashboard do kontroli odsetka pozytywów.
  • Data Scientist junior z celem liczbowym i sezonowością – regresja z GLM/GBDT, Pinball loss dla SLA, walidacja czasowa, potem dopiero „wodotryski”.
  • Inżynier danych w projekcie eksploracyjnym – klasteryzacja do hipotez + szybkie AB; równolegle sprawdź, czy identyfikator klastra jako cecha poprawia model nadzorowany.
  • Zespół ryzyka z małą liczbą fraudów – klasyfikacja z wagami klas, PR-AUC, PU learning gdy brak wiarygodnych negatywów.

Mini ściąga decyzyjna (ostatni checkpoint przed startem)

  • Czy decyzja jest liczbowa (ile?), progowa/kategoryczna (czy/co?), czy eksploracyjna (podobieństwa)?
  • Masz etykiety? Jeśli nie – zacznij od klasteryzacji i planu dosetykietowania (active learning, reprezentanci klastrów).
  • Jaki jest koszt błędów i ograniczenia procesu (przepustowość, SLA, budżet)? Na tej podstawie wybierz metryki i próg/kwantyl.
  • Struktura danych: czas/serializacja, grupy, nierównowaga klas, mała próba – to dyktuje walidację (TimeSeriesSplit/GroupKFold) i techniki (class_weight/kwantyle).
  • Czy potrzebujesz prawdopodobieństw/pewności? Jeśli tak – kalibracja obowiązkowa i monitorowanie.
  • Jakie są ograniczenia wdrożeniowe: latencja, interpretowalność, koszty utrzymania? Wybierz najprostszy model, który dowozi metryki.
  • Czy „podobieństwo” jest definiowalne i użyteczne biznesowo? Jeśli nie, klasteryzacja poczeka – idź w nadzorowane.
  • Plan testu produkcyjnego i rollbacku gotowy? Champion–challenger, alerty na drift, harmonogram rekalibracji.
  • Minimalny baseline ustalony i zapisany (z seedami)? Bez tego nie wiesz, czy „lepsze” naprawdę jest lepsze.

Kiedy lepiej uważać: sygnały alarmowe przed wyborem

  • Masz mało danych i rzadki pozytyw? Modele klasyfikacyjne będą miały wysoką wariancję. Rozważ proste GLM/GBDT z silną regularyzacją, wagi klas, a czasem nawet regresję na zagregowanej jednostce (tydzień/region) zamiast rekordu.
  • Cel numeryczny z wieloma zerami (zero-inflated)? Jednostopniowa regresja będzie „ciągnąć” do zera. Użyj modelu dwuczęściowego: najpierw klasyfikacja „czy >0?”, potem regresja warunkowa „ile, jeśli >0?”.
  • Brak stabilnej definicji podobieństwa? Klasteryzacja zamieni się w sesję artystyczną. Jeśli nie potrafisz w dwóch zdaniach opisać metryki sensownej biznesowo, wstrzymaj się i zbierz etykiety.
Poprzedni artykułLicencje open source w firmie: jak nie złamać warunków
Następny artykułRoadmapa produktu bez chaosu: jak planować funkcje, dług techniczny i eksperymenty A B
Łukasz Zalewski
Łukasz Zalewski specjalizuje się w infrastrukturze, sieciach i praktycznych aspektach administracji systemami. Pisze o konfiguracji usług, monitoringu, kopiach zapasowych i planowaniu ciągłości działania, zwracając uwagę na detale, które decydują o stabilności. Lubi podejście „najpierw prostota”: pokazuje rozwiązania możliwe do wdrożenia etapami i opisuje, jak je testować przed produkcją. Weryfikuje ustawienia na własnych środowiskach, a rekomendacje opiera na dokumentacji i doświadczeniu z awariami. Na Polskiekino.com.pl promuje odpowiedzialne utrzymanie i przewidywalne zmiany.