TeiSerron.gr
Σχολή Μηχανικών => 3ο Εξάμηνο => Τμήμα Μηχανικών Πληροφορικής, Υπολογιστών & Τηλεπικοινωνιών => Θεωρία της Πληροφορίας => Μήνυμα ξεκίνησε από: Sérmac στις 21 Σεπτεμβρίου 2012, 14:04
-
Τμήμα Πληροφορικής και Επικοινωνιών
Θεωρία της Πληροφορίας
Ασκήσεις με λύσεις
Είναι το ίδιο αρχείο που υπήρχε κάποτε εδώ:
http://sites.google.com/site/vassilisit/it.pdf
-
Στην σελίδα 5 στο Εντροπία διαύλου Η(Υ/Χ)
μπορεί καποιος να γραψει μια σειρα αναλυτικα
τι αντικαθιστουμε στο p(xi,yj) log (yj/xi)?
Για παραδειγμα -p(x1,y1)log(y1/x1)=0,66*log(0,66/0,66) ?
η ως y1,y2,y3,y4 και x1,x2,x3 θα παρουμε τις τιμες που βρηκαμε
για τις εντροπιες εξοδου και εισοδου αντιστοιχα?
Ευχαριστω !
-
Είναι πολύ σημαντικό να καταλάβεις την διαφορά μεταξύ
P(X/Y) και P(ΧΥ)
Το P(X/Y) δείχνει εξάρτηση και κανονικά γράφεται P(X|Y).
Το P(X/Y) ΔΕΝ ΕΙΝΑΙ ΔΙΑΙΡΕΣΗ, είναι δεσμευμένη πιθανότητα (δες Δεσμευμένες Πιθανότητες στο μάθημα Θεωρία Πιθανοτήτων και Στατιστικής).
Και τώρα :
Από το παράδειγμα βλέπουμε πως το p(x1,y1) = 0.2 (αρχικός πίνακας)
Το p(y1|x1) = 0.66 (το λύνει πιο πάνω) *
Άρα για στο -p(x1,y1)log(y1/x1)= - 0.2log(0.66)
(
Θυμίζω ότι είναι log με βάση 2 ΚΑΙ ΟΧΙ βάση 10.
Σε απλό κομπουτεράκι για να λυθεί έχοντας log με βάση το 10 θα κάνεις:
(log(0.66)/log(10))*(log(10)/log(2))== log(0.66)/log(2)
)
*Διορθώθηκε μετά απο υποδειξη από Nal
-
Σε ευχαριστω παρα πολυ για τον χρονο και την βοηθεια σου ειλικρινα το χρειαζομουνα !!!
Καλη εξεταστικη και καλα αποτελεσματα !
Το p(y1|x1) = 0.66 (το λύνει πιο πάνω) μαλλον ηθελες να πεις :)
για να μην μπερδευτουν τα παιδια !