Zadanie 4

* Bayes Net Toolbox dla Matlaba. (Spróbuję go odpalić pod Octavą.)

# Skonstruuj model graficzny z węzłem ukrytym, tzn. ze zmienną nieobserwowalną, i wykorzystaj go do przeprowadzenia grupowania danych. (Jeśli zmienne są ciągłe i modelowane węzłami gaussowskimi, podejście to przypomina tzw. mikstury gaussowskie.)

Sugerowane narzędzie: Bayes Net Toolbox dla Matlaba. (Spróbuję go odpalić pod Octavą.)

Potężnym narzędziem znajdowania i wykorzystywania struktury zależności w danych są tzw. modele graficzne, albo sieci Bayesowskie (w szerokim sensie). Jest to niestety podejście bardzo kosztowne obliczeniowo. Proste i nadające się do ogromnych zbiorów danych podejście to reguły asocjacyjne. Modelują one zależności współwystępowania w danych szczególnej postaci: krotek binarych, czyli (w zwartej reprezentacji) zbiorów. (Zagadnienie tego rodzaju nazywa się "koszykiem rynkowym" -- "market basket".) Klasyczne ujęcie "koszyka rynkowego" musi brać każdy przedmiot jako osobną zmienną binarną; zbiory-krotki w terminologii "koszyka rynkowego" nazywane są tranzakcjami. Uczenie reguł asocjacyjnych działa poprzez najpierw wybranie podzbiorów przedmiotów o dużym nośniku (ang. "support"), tzn. podzbiorów zawartych w wielu tranzakcjach, następnie utworzeniu wśród nich reguł postaci {$A \Rightarrow B$} o dużej pewności (ang. "confidence"), tzn. jeśli tranzakcja zawiera podzbiór {$A$}, to bardzo często zawiera też podzbiór {$B$}, czyli {$P(B|A)=\frac{P(A \cap B)}{P(A)}$} jest duże. Bardziej zaawansowane techniki selekcji reguł wykorzystują zależności statystyczne, uwzględniające też "przykłady negatywne" i częstości obu podzbiorów przedmiotów, np. "lift" {$P(B|A)=\frac{P(A \cap B)}{P(A)*P(B)}$}, "conviction" {$P(B|A)=\frac{P(A)*P(\neg B)}{P(A \cap \neg B)}$}, test chi-kwadrat.

Potężnym narzędziem znajdowania i wykorzystywania struktury zależności w danych są tzw. modele graficzne, albo sieci Bayesowskie (w szerokim sensie). Jest to niestety podejście bardzo kosztowne obliczeniowo. Proste i nadające się do ogromnych zbiorów danych podejście to reguły asocjacyjne. Modelują one zależności współwystępowania w danych szczególnej postaci: krotek binarych, czyli (w zwartej reprezentacji) zbiorów. (Zagadnienie tego rodzaju nazywa się "koszykiem rynkowym" -- "market basket".) Klasyczne ujęcie "koszyka rynkowego" musi brać każdy przedmiot jako osobną zmienną binarną; zbiory-krotki w terminologii "koszyka rynkowego" nazywane są tranzakcjami. Uczenie reguł asocjacyjnych działa poprzez najpierw wybranie podzbiorów przedmiotów o dużym nośniku (ang. "support"), tzn. podzbiorów zawartych w wielu tranzakcjach, następnie utworzeniu wśród nich reguł postaci {$A \Arrow B$} o dużej pewności (ang. "confidence"), tzn. jeśli tranzakcja zawiera podzbiór {$A$}, to bardzo często zawiera też podzbiór {$B$}, czyli {$P(B|A)=\frac{P(A \cap B)}{P(A)}$} jest duże. Bardziej zaawansowane techniki selekcji reguł wykorzystują zależności statystyczne, uwzględniające też "przykłady negatywne" i częstości obu podzbiorów przedmiotów, np. "lift" {$P(B|A)=\frac{P(A \cap B)}{P(A)*P(B)}$}, "conviction" {$P(B|A)=\frac{P(A)*P(\not B)}{P(A \cap \not B)}$}, test chi-kwadrat.

Potężnym narzędziem znajdowania i wykorzystywania struktury zależności w danych są tzw. modele graficzne, albo sieci Bayesowskie (w szerokim sensie). Jest to niestety podejście bardzo kosztowne obliczeniowo. Proste i nadające się do ogromnych zbiorów danych podejście to reguły asocjacyjne. Modelują one zależności współwystępowania w danych szczególnej postaci: krotek binarych, czyli (w zwartej reprezentacji) zbiorów. (Zagadnienie tego rodzaju nazywa się "koszykiem rynkowym" -- "market basket".) Klasyczne ujęcie "koszyka rynkowego" musi brać każdy przedmiot jako osobną zmienną binarną; zbiory-krotki w terminologii "koszyka rynkowego" nazywane są tranzakcjami. Uczenie reguł asocjacyjnych działa poprzez najpierw wybranie podzbiorów przedmiotów o dużym nośniku (ang. "support"), tzn. podzbiorów zawartych w wielu tranzakcjach, następnie utworzeniu wśród nich reguł postaci {$A \implies B$} o dużej pewności (ang. "confidence"), tzn. jeśli tranzakcja zawiera podzbiór {$A$}, to bardzo często zawiera też podzbiór {$B$}, czyli {$P(B|A)=\frac{P(A \cap B)}{P(A)}$} jest duże. Bardziej zaawansowane techniki selekcji reguł wykorzystują zależności statystyczne, uwzględniające też "przykłady negatywne" i częstości obu podzbiorów przedmiotów, np. "lift" {$P(B|A)=\frac{P(A \cap B)}{P(A)*P(B)}$}, "conviction" {$P(B|A)=\frac{P(A)*P(\not B)}{P(A \cap \not B)}$}, test chi-kwadrat.

Potężnym narzędziem znajdowania i wykorzystywania struktury zależności w danych są tzw. modele graficzne, albo sieci Bayesowskie (w szerokim sensie). Jest to niestety podejście bardzo kosztowne obliczeniowo. Proste i nadające się do ogromnych zbiorów danych podejście to reguły asocjacyjne. Modelują one zależności współwystępowania w danych szczególnej postaci: krotek binarych, czyli (w zwartej reprezentacji) zbiorów. (Zagadnienie tego rodzaju nazywa się "koszykiem rynkowym" -- "market basket".) Klasyczne ujęcie "koszyka rynkowego" musi brać każdy przedmiot jako osobną zmienną binarną; zbiory-krotki w terminologii "koszyka rynkowego" nazywane są tranzakcjami. Uczenie reguł asocjacyjnych działa poprzez najpierw wybranie podzbiorów przedmiotów o dużym nośniku (ang. "support"), tzn. podzbiorów zawartych w wielu tranzakcjach, następnie utworzeniu wśród nich reguł postaci {$A \implies B$} o dużej pewności (ang. "confidence"), tzn. jeśli tranzakcja zawiera podzbiór {$A$}, to bardzo często zawiera też podzbiór {$B$}, czyli {$P(B|A)=\frac{P(A \cap B)}{P(A)}$} jest duże. Bardziej zaawansowane techniki selekcji reguł wykorzystują zależności statystyczne, uwzględniające też "przykłady negatywne" i częstości obu podzbiorów przedmiotów, np. "lift" {$P(B|A)=\frac{P(A \cap B)}{P(A)*P(B)}$}, "conviction" {$P(B|A)=\frac{P(A)*P(~B)}{P(A \cap ~B)}$}, test chi-kwadrat.