Startseite
Forum
Fragen
Suchen
Formeleditor
Über Uns
Registrieren
Login
FAQ
Suchen
Foren-Übersicht
->
Sonstiges
Antwort schreiben
Benutzername
(du bist
nicht
eingeloggt!)
Titel
Nachrichtentext
Smilies
Weitere Smilies ansehen
Schriftfarbe:
Standard
Dunkelrot
Rot
Orange
Braun
Gelb
Grün
Oliv
Cyan
Blau
Dunkelblau
Indigo
Violett
Weiß
Schwarz
Schriftgröße:
Schriftgröße
Winzig
Klein
Normal
Groß
Riesig
Tags schließen
Schreibt eure Formeln hier im Board am besten mit Latex!
So gehts:
Latex-Kurzbeschreibung
|
Formeleditor
[quote="schnudl"]Die Entropie einer Quelle S ist der Erwartungswert der Information. Jedes Zeichen im deutschen Alphabet hat eine bestimmte Information, je nachdem wie häufig ein Buchstabe auftritt. Die Information eines Zeichens ist [latex]I(p_i) = -\log_2 p_i[/latex] H ist davon der Erwartungswert: [latex]H(S) = -\sum_i p_i \log_2 p_i[/latex] Der Informationsgehalt deines Satzes ist die Summe der Beiträge einzelnen Buchstaben. Das ist aber natürlich nicht die Entropie der Quelle... Du musst unterscheiden zwischen Information und Erwartungswert der Information. Beides wird in Bit angegeben. Letzteres bezeichnet man als Entropie.[/quote]
Optionen
HTML ist
aus
BBCode
ist
an
Smilies sind
an
BBCode in diesem Beitrag deaktivieren
Smilies in diesem Beitrag deaktivieren
Spamschutz
Text aus Bild eingeben
Alle Zeiten sind GMT + 1 Stunde
Gehe zu:
Forum auswählen
Themenbereiche
----------------
Mechanik
Elektrik
Quantenphysik
Astronomie
Wärmelehre
Optik
Sonstiges
FAQ
Sonstiges
----------------
Off-Topic
Ankündigungen
Thema-Überblick
<table border="0" cellpadding="3" cellspacing="1" width="100%" class="forumline"> <tr> <th class="thCornerL" width="22%" height="26">Autor</th> <th class="thCornerR">Nachricht</th> </tr> <tr> <td width="22%" align="left" valign="top" class="row1"><span class="name"><a name=""></a><b>schnudl</b></span></td> <td class="row1" height="28" valign="top"><table width="95%" border="0" cellspacing="0" cellpadding="0"> <tr> <td width="95%"><img src="templates/subSilver/images/icon_minipost.gif" width="12" height="9" alt="Beitrag" title="Beitrag" border="0" /><span class="postdetails">Verfasst am: 22. März 2015 07:43<span class="gen"> </span> Titel: </span></td> </tr> <tr> <td colspan="2"><hr /></td> </tr> <tr> <td colspan="2"><span class="postbody">Die Entropie einer Quelle S ist der Erwartungswert der Information. <br />Jedes Zeichen im deutschen Alphabet hat eine bestimmte Information, je nachdem wie häufig ein Buchstabe auftritt. Die Information eines Zeichens ist <br /> <br /><img class="latex2png" src="https://www.matheboard.de/latex2png/latex2png.php?I(p_i) = -\log_2 p_i"> <br /> <br />H ist davon der Erwartungswert: <br /> <br /><img class="latex2png" src="https://www.matheboard.de/latex2png/latex2png.php?H(S) = -\sum_i p_i \log_2 p_i"> <br /> <br />Der Informationsgehalt deines Satzes ist die Summe der Beiträge einzelnen Buchstaben. Das ist aber natürlich nicht die Entropie der Quelle... <br /> <br />Du musst unterscheiden zwischen Information und Erwartungswert der Information. Beides wird in Bit angegeben. Letzteres bezeichnet man als Entropie.</span></td> </tr> </table></td> </tr> <tr> <td colspan="2" height="1" class="spaceRow"><img src="templates/subSilver/images/spacer.gif" alt="" width="1" height="1" /></td> </tr> <tr> <td width="22%" align="left" valign="top" class="row2"><span class="name"><a name=""></a><b>tastingo</b></span></td> <td class="row2" height="28" valign="top"><table width="95%" border="0" cellspacing="0" cellpadding="0"> <tr> <td width="95%"><img src="templates/subSilver/images/icon_minipost.gif" width="12" height="9" alt="Beitrag" title="Beitrag" border="0" /><span class="postdetails">Verfasst am: 21. März 2015 23:20<span class="gen"> </span> Titel: </span></td> </tr> <tr> <td colspan="2"><hr /></td> </tr> <tr> <td colspan="2"><span class="postbody">Ich glaube der Informationsgehalt ist gleich die Entropie wenn man den Informationsgehalt von mehreren Zeichen zusammenrechnen möchte. In diesem Fall wäre Entropie=Informationsgehalt.</span></td> </tr> </table></td> </tr> <tr> <td colspan="2" height="1" class="spaceRow"><img src="templates/subSilver/images/spacer.gif" alt="" width="1" height="1" /></td> </tr> <tr> <td width="22%" align="left" valign="top" class="row1"><span class="name"><a name=""></a><b>tastingo</b></span></td> <td class="row1" height="28" valign="top"><table width="95%" border="0" cellspacing="0" cellpadding="0"> <tr> <td width="95%"><img src="templates/subSilver/images/icon_minipost.gif" width="12" height="9" alt="Beitrag" title="Beitrag" border="0" /><span class="postdetails">Verfasst am: 21. März 2015 20:49<span class="gen"> </span> Titel: </span></td> </tr> <tr> <td colspan="2"><hr /></td> </tr> <tr> <td colspan="2"><span class="postbody">Ok den Informationsgehalt habe ich nun 100% verstanden aber die Entropie der Quelle.. Was ist das? Was die Entropie in der Nachrichtentechnik bedeutet ist mir klar ...</span></td> </tr> </table></td> </tr> <tr> <td colspan="2" height="1" class="spaceRow"><img src="templates/subSilver/images/spacer.gif" alt="" width="1" height="1" /></td> </tr> <tr> <td width="22%" align="left" valign="top" class="row2"><span class="name"><a name=""></a><b>tastingo</b></span></td> <td class="row2" height="28" valign="top"><table width="95%" border="0" cellspacing="0" cellpadding="0"> <tr> <td width="95%"><img src="templates/subSilver/images/icon_minipost.gif" width="12" height="9" alt="Beitrag" title="Beitrag" border="0" /><span class="postdetails">Verfasst am: 21. März 2015 11:24<span class="gen"> </span> Titel: Entropie und Informationsgehalt berechnen (Unteschied?)</span></td> </tr> <tr> <td colspan="2"><hr /></td> </tr> <tr> <td colspan="2"><span class="postbody">Ich hatte das bereits bei Microcontroller gefragt die sind sich jedoch der Meinung das Entropie=Informationsgehalt gilt.. <br /> <br />Also es gibt da folgende Art von Aufgabe: <br /> <br />„SIE EN TER PRISE“ <br /> <br />Berechnen Sie den Informationsgehalt jedes Zeichens (in bit)! (4 P) <br /> <br />Das habe ich nun berechnet über den Informationsgehalt. Genauer gesagt unter Wiki bei informationsgehalt den Punkt ,,Beispiele für statistisch unabhängige Ereignisse" Das habe ich benutzt. <br /> <br />Wenn ich nun auf der darauffolgenden Aufgabe die Entropie berechnen soll was ändert sich? Laut Definition ist es mathematisch betrachtet dasselbe .. Die Aussagen der einzelnen Begriffe sind aber nicht dasselbe ..</span></td> </tr> </table></td> </tr> <tr> <td colspan="2" height="1" class="spaceRow"><img src="templates/subSilver/images/spacer.gif" alt="" width="1" height="1" /></td> </tr> </table>
Registrieren
Login
FAQ
Suchen
