Deprecated: WP_Dependencies->add_data() est appelé avec un argument qui est obsolète depuis la version 6.9.0 ! Les commentaires conditionnels IE sont ignorés par tous les navigateurs pris en charge. in /var/www/html/wp-includes/functions.php on line 6260 Entropie d’une variable aléatoire [Python] - Mathprepa
On définit {h(x)=-x\ln x} pour {x\gt0} et {h(0)=0}, ce qui donne une fonction continue sur {\mathbb R_+}. Pour une variable aléatoire réelle discrète {X}, si la famille {(h(\mathbb P(X=x)))_{x\in X(\Omega)}} est sommable, son entropie est {H(X)=\sum_{x\in X(\Omega)}h(\mathbb P(X=x))}Dans le cas contraire, on dit ici que {X} n’a pas d’entropie. Les questions [P] utilisent Python.
Dans la question 1, {X} prend ses valeurs dans un ensemble fini non vide {E=\{x_1,\ldots,x_n\}} ; on note {p_i=\mathbb P(X=x_i)}.
1. (a) [P] Écrire entrop(p), recevant la liste des probabilités et renvoyant {(e,d)}, où {e=H(X)} et {d=e-\ln n}.
1. (b) [P] Écrire loibin(n,p) pour la loi binomiale et loiuni(n) pour la loi uniforme sur {\{0,\ldots,n\}}. Que donne entrop pour {\mathcal B(15,2/5)} et pour la loi uniforme sur {\{0,\ldots,15\}} ?
2. Une urne contient une boule noire et une rouge. On tire une boule ; si elle est rouge, on s’arrête. Sinon, on la remet et on ajoute une noire, puis on recommence. Soit {X} le nombre de tirages, avec {X=0} si le jeu ne s’arrête pas. Déterminer sa loi. A-t-elle une espérance, une entropie ?
3. Montrer que {p_n=\ln2\left(\frac1{\ln n}-\frac1{\ln(n+1)}\right),\quad n\ge2}définit une loi de probabilité. La variable correspondante a-t-elle une espérance, une entropie ?
5. (b) Soit {Y} à valeurs dans {\mathbb N^*}, avec {q_n=\mathbb P(Y=n)\gt0} et {\mathbb E(Y)=\mathbb E(X)}. Montrer que {-\sum\limits_{n\ge1}q_n\ln p_n=H(X)}, puis que {H(Y)\le H(X)}.
Les contenus originaux de Mathprepa — notamment les cours, les rédactions d’exercices et les corrigés — ainsi que les éléments originaux de sa présentation, de sa mise en forme et de son architecture éditoriale sont protégés par le droit d’auteur. Cette protection concerne notamment le choix, l’agencement et l’organisation des ressources.
Sauf autorisation préalable écrite, leur reproduction, adaptation ou diffusion, intégrale ou partielle, est interdite, sous réserve des exceptions prévues par le Code de la propriété intellectuelle.
Les documents, logiciels et éléments graphiques de tiers demeurent soumis aux droits de leurs titulaires respectifs.