2014年5月10日土曜日

グレた確率統計 ~二項分布と幾何分布~

(ここに、”確率とはなにか”というのがいるとは思うのですが、前提知識としておきます)
(期待値、分散、モーメント母関数の定義はwikipediaに任せます)

# 二項分布

「二項」と言うくらいですから、コインの裏表のように「2つの事象」のどちらかが生じるような試行を考えます。コインになぞらえて、2つの事象をそれぞれH(head)とT(tail)と呼ぶことにします。
各試行は独立とします。このような試行をベルヌーイ試行と言うそうです。
さて、ベルヌーイ試行をn回行ったとき、Hがk回生じる確率は、

$$
Pr(X = k) = {}_n \mathrm{C}_k p^k (1-p)^{n-k} = \frac{n!}{(n-k)! k!} p^k (1-p)^{n-k}
$$

となるのは高校出てたら分かるでしょう!
もちろん、これは $ k : 0 \to \infty $ まで足し合わせると、1になるのは読者への演習(ry

概形はおおよそこんな感じになります。

0.3の確率で当たるなら、10回繰り返せば3回くらい出るだろうというのは間違ってないのがわかります。



一応、期待値と分散を求めておきましょう。(以下、適宜 $ q = 1-p $と書きます)
そのために、モーメント母関数を求めると、

$$
M_X (t) = E[e^{tX}] = \sum_{k=1}^n {}_n\mathrm{C}_k~e^{tk}~p^k(1-p)^{n-k} \\ = \sum_{k=1}^n {}_n\mathrm{C}_k~(pe^{t})^k~q^{n-k} = (q +pe^t)^n
$$

なので、ここから芋づる式に期待値と分散は、

* 期待値
$$
E[X] = \frac{\mathrm{d} }{\mathrm{d} t}M_X(0) =npe^t(q+pe^t)^{n-1}|_{t=0} = np
$$

* 分散
$$
E[X^2] = \frac{\mathrm{d^2} }{\mathrm{d} t^2}M_X(0) = \frac{\mathrm{d} }{\mathrm{d} t} npe^t(q+pe^t)^{n-1} \\ = npe^t(q+pe^t)^{n-1}+n(n-1)p^2e^{2t}(q+pe^t)^{n-2} |_{t=0} \\ = np + n(n-1)p^2 = n^2p^2 - np^2 + np
$$
$$
\therefore Var[X] = E[X^2] - E[X]^2 \\ = n^2p^2 - np^2 + np - n^2p^2  = np(1-p)~~~(= npq)
$$

となりますね!

# 幾何分布

これもベルヌーイ試行を考えます。
先ほどの二項分布では、Hの生じた回数をカウントしていたわけですが、
今回は、Hが1回生じるまでにかかる試行回数をカウントしましょう。
試行の度にカウンターを押し、Hが出たときのカウンターの数値がk となっている確率は、
k-1 回Tが出て、その次にHが出ればいいわけですから、

$$
Pr(X=k)=p(1-p)^{k-1} ~~~ (= pq^{k-1})
$$

と簡単に求まります。これが $ k : 1 \to \infty $ まで足し合わせると1になるのは読者への(ry
概形はこんな感じになります。もちろんのことながら、右下がりの指数関数ですね。


これも期待値と分散を求めましょう。
もちろん!モーメント母関数を求めますと、

$$
M_X(t)=E[e^{tX}]= \sum_{k=1}^\infty e^{tk}p(1-p)^{k-1} \\
= \frac{p}{q}\sum_{k=1}^\infty (qe^t)^k = p\cdot \frac{e^t}{1-qe^t}
$$

となりますから、ここから期待値と分散は

* 期待値
$$
E[X] = \frac{\mathrm{d} }{\mathrm{d} t}M_X(0) = p\cdot\frac{e^t(1-qe^t)+qe^{2t}}{(1-qe^t)^2} = p\cdot \frac{e^t}{(1-qe^t)^2}|_{t=0}=\frac{1}{p}
$$

* 分散
$$
E[X^2] = \frac{\mathrm{d^2} }{\mathrm{d} t^2}M_X(0) = \frac{\mathrm{d} }{\mathrm{d} t} \left( p\cdot\frac{e^t}{(1-qe^t)^2}\right) \\
= p \cdot \frac{(1-qe^t)^2~e^t + 2qe^{2t}(1-qe^t)}{(1-qe^t)^4} \\
= p \cdot \frac{(1-qe^t)~e^t + 2qe^{2t}}{(1-qe^t)^3} |_{t=0} = p \cdot \frac {p+2q}{p^3}=\frac{2-p}{p^2}\\
$$
$$
\therefore
Var(X) = E[X^2]-E[X]^2 = \frac{2-p}{p^2} - \left( \frac{1}{p} \right )^2 = \frac{1-p}{p^2}
$$

となりますね。

さて、ここで幾何分布の無記憶性を示しておきましょう。
無記憶性というのは「今までの結果はこれからのことに影響しない」ということです。
数式で書くと、条件付き確率で

$$
\forall n,k \in \mathbb{N}~~Pr(X > n+k|X > n) = P(X > k)
$$

と書けます。これに代入するために、$Pr(X > k)$を求めておきましょう:

$$
Pr(X > k) = 1 - \sum_{i=1}^{k}p(1-p)^{i-1} \\
= 1 - p\cdot\frac{1-q^{k}}{1-q} = 1- (1-q^k) = q^k
$$

簡単ですね!てなわけで、無記憶性の数式に代入すると、

$$
Pr(X > n+k|X > n) = \frac{Pr(X > n+k \wedge  X>n)}{Pr(X > n)} \\
= \frac{Pr(X>n+k)}{Pr(X>n)} = \frac{q^{n+k}}{q^n} = q^k = Pr(X>k)
$$

となり、確かに「過去のことなんか、関係ない!」となります。


# どんなことに使えるか

これら2つの分布の大本はベルヌーイ試行です。つまり、「YES or NOな現象」です。
ですから、
* 繰り返し行われる
* 独立である
* 確率は一定である
* その結果がデジタル値(0か1か、YESかNOか、HかTか)
ならば、上2つの分布がなりたつと考えていいでしょう。

ex1)
商店街のイベントで電子くじ引きをすることに決まった。
電子くじ引きは当たりか外れかのどちらかが一定の確率で出るとする。
「どうせなら」ということで、当たりは一度出たらくじ引きは終了とし、
その代わり、景品を(しょぼくれた商店街のくせに)ハワイ旅行にすることに。
もちろんのことながら、すぐ当たられては商売上がったりである。
そこで、100人より多いところで当たりが出る確率が
i) 90%になる当たりの確率 p とそのときの期待値
ii) 95%になる当たりの確率 p とそのときの期待値
iii) 99% になる当たりの確率 p とそのときの期待値
を求めてほしい。

ex2)
商品のとある機械は、1ヶ月に1度のメンテナンスで一定の割合である部分の故障が見つかる。
うちの方針で、必ずこちらが修理代を負担することになっている。
i) 今月、50台の機械をメンテナンスしたところ、4台が故障していた。
これは、今までのデータを見る限りごく平均的な故障台数である。
機械1台が次の月に故障している確率 p を求めよ。

ii) こんなにしょっちゅう故障されては、修理代のせいで赤字になってしまう。
そこで、会議の末、「2年保証」にすることにした。
つまり、なんとか故障確率を下げて、2年まではもつようにすればいい。
そこで、2年経つまでは故障しない確率が90%になるような故障確率を求めてほしい。

iii) 改善が達成したとき、修理代が1回10万円かかるとして、
1台、1年あたりの経費削減の見込みを求めてほしい。

iv) さらに、現在の機械保有者数は50人であり、これから保有者数が変わらないと仮定する。
また、故障確率を0.001下げるのに20万円の費用がかかる。
経費削減の分でこれを賄おうとすると、大体何年かかるか。


~解答~
ex1)
i) p = 0.00105305, 期待値 : 950人
ii) p = 0.000512801, 期待値 : 1950人
iii) p = 0.000100498, 期待値 : 9950人

ex2)
i) p = 0.08
ii) $p_{\mathrm{new}} = 0.0044$
iii) 90720円
iv) 3.3年

2014年5月9日金曜日

グレた確率統計

統計学の本は大体、二項分布から始まり、ポアソン分布、幾何分布、指数分布、…と次に分布の一覧をよこしてきます。
ただ、分布をたくさん与えられる(押し付けられる?)からといって、確率分布への理解が深まるとはあまり思えません。
 たしかに、期待値や分散の計算問題としては優秀ではありますが…それだけのために、ねえ?

大まかに分けて、「確率と統計」は2つの道に進めると思います。
ひとつは、正統派な統計の方。推定とか検定に繋がる道です。こっちの道の主役は正規分布、t分布、χ2分布などなど…。実践的な推定や検定へとつながっていきます。
もうひとつは、「統計」らしからぬ(?)方で、指数分布、ガウス分布、ポアソン分布などが主役となります。 これはどんな道かというと、確率過程に繋がるであろう道です。待ち行列とかですね。 人によっては、統計の道よりもこの確率過程の道をガンガン進んだほうが楽しく、有用かもしれません。
(ツールとしての統計学においては、変に深く数学的基礎をやるよりは、さっさと推定・検定をエクセルとかRを使いながらざくざくやっていく方がいいかもしれないわけです。途中で詰まってしまうくらいなら!

というわけで、おそらくどこかにそのようなテキストはあると思いますが、備忘録がてら、数回に分けてそれについて書いていこうかなと思うわけです。

2014年2月2日日曜日

なんかすごいのの練習とamong理論のメモ

http://www.codecogs.com/eq.latex?数式(TeX) で、それ相応の画像が出力されるというのを見つけたので、テストテスト
ただし、代替の場合 \ はURL内で無効っぽいので、%5C にする必要があるっぽい

メレオロジー参考: http://211.1.212.79/jalop/japanese/ronbun/2003/saito.pdf
codecogs参考: http://d.hatena.ne.jp/Zellij/20130103/p1

----
※ XAYのことを、「XはYについてamongである」「XはYについてamongなもの」とか訳します。


(E)

「どんな複数変項についても、かならずamongなindividualが存在する。」
これは集合と大きく違うところで、いわゆる『空複数』なんてものは存在しないということ。
集合は要素ゼロ(すなわち空集合)なものもあるが、複数変項にはそんなものが存在しない。
なぜなら、複数変項はそれ自体に実体はないからだ。
集合は「集合」というひとつの(数学的)単数的実体であるため、内部構造がnullでも存在しうる。

(AX1)

「XはYについてamongであるとは、XについてamongなすべてのindividualそれぞれがYとamongであるということ。」
amongの第一項(左側)は分配的だということ。


「Xがindividualであるとは、Xとamongなあらゆる複数変項Yについて、XはYについてamongであるということ。」



「XがYと同じ(the same things)とは、XとYが互いにamongであるということ。」


「XはYと被っている(overlap)とは、XともYともamongな複数変項Zが存在するということ」

(M1)

「amongは推移律を満たす」
かな?

(M2)

「XとamongなWすべてがYと被っているならば、XはYとamongである」

(弱補足性:weak supplementation principle)

「XはYとamongだが、YはXとamongでない場合、YにはXとamongでない部分がある」


Theorem
T1

反射律(推移律から明らか)

T2(強分配性)


Extensionality 1


Extensionaliti 2


T3


T4




2013年12月1日日曜日

最近思っていたことを散らかす

おそらくほとんどがはじロジ関連。

1. 文字
Normanさんが考案した8マス文字をとりあえず{.bikur}と呼ぶことにして、ポン太さん考案の俺調整のあの文字を{.pontcos}と呼ぶことにする。
一応形はできたけど、母音が割と煩雑で、うーん、これは使えないような気がするなあとか。
まあ、βテストに入りました!

2. タグとかの相互作用
bridi演算子というナイスな概念を見つけたので、それで一気にまとめるのがよさそうだ。BAI、テンス、存在変項(da)、論理接続詞というのはすべてbridi演算子で、論理接続詞以外はすべて一項演算子である。これらは結局、名辞として冠頭における。逆に、これら一項bridi演算子というのは、冠頭に置いてbridiを修飾するものとして定義できる。すなわち、{mi cinba mu'i lonu mi prami do}は、{mu'i lonu mi prami do kei zo'u mi cinba}「私があなたを愛するという事象を動機として、以下の命題が成り立つ: 私はキスをする。」の構文糖衣と定義する。こうすると個人的にはキレイだなと思う。

「~だから~でない」と「~だからといって~でない」というのも、「~だから」はほとんどすべての場合で名辞で表されるわけで、一度冠頭に置いて、{naku}との順の兼ね合いで理解すればよい。

guskantさんによれば、{ije}と{.i}の違いは、冠頭が存在するときに現れるらしいが、これは恐らくPEGをみたら良さそうだ。{mu'i lonu mi prami do zo'u mi cinba do .ije mi pamjai do}のときは、mu'i句は{mi cinba do}と{mi pamjai do}の両方に係るが、{mu'i lonu mi prami do zo'u mi cinba do .i mi pamjai do} とした場合は、つまり、{ije}でなく{i}にした場合は前者のみに係るそうだ。ちなみに、{ije}を使っても{zo'u}がなければ前者のみに係るそう。これもおそらくPEGで判明する。

名辞についての記述が割と少ないので、はじロジでもちゃんとしたことが書けないなあという感じ。

3. PS
PSは「文の枠組み」という説明もありだけど、述なれ語は「一枚の絵」であるという説明をはじロジのどこかでしたい。ある概念を表す絵、情景があって、それの要素に順番に番号を振る感じ。それがPSにほかならない。たとえば、これはツイッターのとある方が描いていたのだけれど、{dunda}という語がもつ概念を絵で表すとこんな感じで、それに番号を振っている。番号の振り方はロジバン委員会で決められるが、dundaでは「与える人」に1を、「与えられる物」に2を、「受け取る人」に3が振られている。bajraやvecnuに関しても同様。このことから分かることは、SE類やFA類による項の並べ替えは構文上のことにとどまって、なんの意味も変えないということである。結局、私たちはselbriの表す「絵」に番号を振っているだけであり、その付番の仕方を変えたところで、見える景色は何も変わらない。


もちろん、この教え方には限界がきて、「抽象概念」はどうするんだ、ということになります。そうなるとまあ難しいところですが、初期の頃はほとんどこれで済むと思うし、この説明の単純明快さはなかなかいいと思う。

そして、brivlaに動詞や形容詞や名詞といった従来の品詞がないのもこれに起因していて、dundaが名詞的にも形容詞的にも動詞的にも機能するのは、結局「その絵をどう見るか」という話になるわけです。「その絵をどうみるか」というのは意味の曖昧さにも繋がってきますが、ロジバンはgismuにおいて、「絵」だけを提示していて、その絵から何を読み取れ、ということは言っていないように思います。付番された絵、をどのように感じるかは人それぞれで、矛盾が生じない限り、そこから引き出された意味はおそらく永久に変えられることはないと思います。ここらへんはなんかウィトゲンシュタインあたりを彷彿とさせますね。


4. jo'u の意味
jointly というのが謎だ!

5. TeXとロジバン
ロジバンのmeksoでTeX書けそうと少し思ったんだけど、誰か実装してるかな?

6. 学習容易性と言語の中立性
連想ゲームとして、これらは自由エネルギーの式を考えさせる。
ΔF = ΔE - T ΔS
理想としては学習容易性が高い、すなわち学習においての労力がいらないほうがよく、さらに言語の中立性が高い (これは結局、その言語がどの言語からも独立しているという意味で乱雑さを持っているということだろう)ほうがいいわけですが、学習容易性は必ず文化的側面からの寄与をもっているので、言語中立性、すなわちその言語の乱雑さが高まれば高まるほど、その文化的側面からの寄与が下がり、結果、学習容易性も下がらざるをえません。結果的に、これら2つは拮抗している。平衡状態では、ΔF=0であることを考えれば、 学習容易性の変化と、言語の中立性の変化は依存しています。学習容易性を下げるには、相応の中立性の排除が必須であり、中立性の確立には学習難易度を上げなければならない。まあ、当たり前の結果です。

個人的には、この等式が成り立つとして、言語にとっての温度とはなんだろうというのが興味深いですが。

7. 発音
はじロジの発音の章をなんとかしなければ。IPAを消すか、すべてIPAを盛り込むか…。どっちのがいいんだろう。

8. lujvoの作り方
はじロジに載せないとなあ…。cogyxek uitkiには要論を書いたので、それをうまあく、はじロジ用にまとめなおさないと。

9. fu'ivla
これも、まず僕が勉強しないといけないんだよおう。

10. はじロジの書き残し
色々まだまだ残ってるから書かないと…。



割と多かった。