*そうそう寺子屋ブログも半年以上ぶりに再開です!!!お待たせしました!!
寺子屋「ディープ・ラーニングの数学」の配信開始です!
幻の寺子屋であった「ディープ・ラーニング」がようやく配信されるのは喜ばしいことです(笑)
で、今回はあえて荒削りな初回の講座の方を編集しました。
荒削りな方が伝わることもあるので。
普通は追加開催があれば、追加開催のほうを編集します。追加開催のほうが洗練されるので。ただ今回はレベルの高さと荒削りさを優先しました。
で、その寺子屋の中で受講生が「この数学は古い数学ですよね?」と質問しているシーンがあります。この数学とは、もちろんディープ・ラーニングの数学の1つのことです。
その受講生の言う通りで、肝となったモンテカルロ法は古い数学です。あのフォン・ノイマンがモナコ公国の地域から名付けたものです。機械学習においては、乱数を用いた強化学習法として使われています。
By 投稿者自身による作品, CC 表示-継承 3.0, Link
*神はサイコロ遊びのみが好きなのです。
*「私は、神が、物理学ばかりでなく、純粋数学においても、自然数論においてさえ、サイコロをふることを証明した。」(チャイティン)
決して新しい数学ではなく、そして理論的な数学でもないアプローチなのです。
たとえば、円周率を求めるときに、モンテカルロ法はサイコロを振ります。
(いや、「求める」というときの厳密さをゆるめてサイコロを振ります)
(というのも、数学が好きな厳密な解ではなく、いわゆる近似解だからです)。
By nicoguaro - 投稿者自身による作品, CC 表示 3.0, Link
*モンテカルロ法を円周率πの値の近似に適用した例。30,000点をランダムに置いたとき、πの推定量は実際の値から0.07%以下の誤差の範囲内にあった。
*「これって円周率を求めているのではなく、円周率の近似ですよね」って突っ込む人がいますが、人類は数値で言えば近似以外の円周率を手にしていません(アルゴリズムは所有しているのかもしれませんが)。
そしてそのロジックで言うならば、人は永遠に円周率を手にできません。不完全性定理ゆえではなくw、円周率は無理数だからです。
円周率のπ(パイ)という記号は星の王子さまの羊の小屋と同じで、羊ではなく無限桁の情報が入っているという耳障りの良い嘘です。そもそも数値計算はどこまでいっても無限には到達しません。
*たとえば、天才少年のジェイクくんは40桁で十分と言っています(いや、正確には39桁ですね)。なぜなら、、、
「小数点以下三九ケタまで分かれば、観測可能な星の外周を水素原子レベルまで推定できるからだよ。ぼくにはそれが分かれば十分だったから」(リンク先は関連ブログ記事です)。
「足るを知る」ですね〜(違うか)(でも現実的であるというか、自分が知りたいことを知っていることを大事です)(自分が知りたいことや、自分が手にしたいことを知らないから、夢が叶わないのです)(←ココ重要)
![]() | ぼくは数式で宇宙の美しさを伝えたい 1,836円 Amazon |
*余談ながら、天才と言えば、14歳にして自宅の庭で核融合炉をつくったテイラーくんの話も面白すぎます。
![]() | 太陽を創った少年:僕はガレージの物理学者 2,700円 Amazon |
何が言いたいかといえば、いつもの話です。
数学の厳密性というのは、古き良きガウスやオイラーの時代で終わったのです。
「テキトーで良くない?うまくいけばとりあえず良くない?」というのが、チャイティンの誘惑です(格調高く言うならば、「数学の物理学化」ですね)。
実際、理論的には問題が解けないということを理論家が証明できるというのはよくあることですが、ソフトウェアエンジニアは、普通はうまくいく、つまり適当な時間内に良い近似を与える巧妙なアルゴリズムを見つけ出すものなんです。私は、人間の知的能力というのはそれに近いものだろうと考えています。うまくまねができるようにわずかでも、少しずつ這い上がっていくのです。(チャイティン「セクシーな数学」)
![]() | セクシーな数学―ゲーデルから芸術・科学まで Amazon |
これって進化論を思い出すという人もいるでしょうが、まっすぐにその通りです。
チャイティンも生命のこと、進化のことを想定して書いています。
その絡みで言えば、遺伝的アルゴリズムというのがあります。
これはそのまま進化論の数学版です。
そしてこれがなぜかうまく機能するのです。
でも、この手法って人間も使っています。
たとえば数学の問題を解くときに、とりあえず「当たりをつける」ことをして、「そうだと過程して考えてみる」などとします。考えてみてダメだったら、やり直せばいいので(チャイティンの言う数学の物理学化も同じです。いくつかの予想を公理にしてしまえという乱暴な議論に見えますが、物理学はそうやって成功してきています。その公理が間違えていたら、やり直せばいいのです。そしてそもそも決定不能命題は不完全性定理より存在するわけで、それはもしかしたらリーマン予想なのかもしれないわけです。そしてその予想を公理に放り込めば、数学はもっと豊かになるのかもしれません)
(将棋におけるコンピューターの導入は特に序盤のランダム性を増しました。そもそも終盤は圧倒的に強かったのですが、その強さが序盤まで波及したのです。そのことで、将棋の世界は広がりました。将棋の世界というある1つの情報空間が膨張したのです)
そうやって、「うまくまねができるようにわずかでも、少しずつ這い上がっていくのです。」
という観点が必要です。
それはAIがやっていることであり、人間がやっていることであり、生命がやり続けていることなのです。
(素人考えですが、フレーム問題の解決はここらへんにあるように思います。古い数学では説明できないことが、工学というか、新しい数学にはたくさん起こるのです)。
僕らが重要視しているプラトン的な世界観、数学の厳密な世界、全知全能の神が治めたもうこの宇宙、みたいな概念が壊れていっているのです(そこにニュートン的な世界観も含まれます。ラプラスの魔に象徴されるような世界観です)。
というわけで、ディープ・ラーニングの数学の配信開始を枕に違う話をするつもりでしたが、これで終了にします!!
余談ながら、Golden Buzzer、感動的ですね!
いや、「ちょっと何を言っているかわからない」という方のためにもう少し補助線を出すと、いま自分が可能とか不可能とか思っている視点というのは、そんなに役に立たないということです。
「絶対無理」と思っても、「どう考えても不可能」と思っても、遺伝的アルゴリズムでなんとかなったりするのです。
不可能であることがたとえ数学的に証明されていても、同じ数学の手法を用いて、解決可能なのです。それも短時間に。そんなアルゴリズムを発見すれば良いのです。
どうやって発見するのか、それは単純です。もがき苦しめば良いのです。
試行錯誤を繰り返していると、クリームにおぼれたネズミが泳いでいるうちにバターにすることで助かるのと同じです。
やりたいことが見つかったら、できない理由を探すのではなく、できるためのアルゴリズムを探しましょう。
実際、理論的には問題が解けないということを理論家が証明できるというのはよくあることですが、ソフトウェアエンジニアは、普通はうまくいく、つまり適当な時間内に良い近似を与える巧妙なアルゴリズムを見つけ出すものなんです。
One more thing!
人々の積極的な活動の相当部分は、道徳的だろうと快楽的だろうと経済的だろうと、数学的な期待よりは、自然に湧いてくる楽観論によるものなのです。たぶん、かなりたってからでないと結果の全貌がわからないようなことを積極的にやろうという人々の決断は、ほとんどがアニマルスピリットの結果でしかないのでしょう――これは手をこまねくより何かをしようという、自然に湧いてくる衝動です。定量的な便益に定量的な発生確率をかけた、加重平均の結果としてそんな決断が下されるのではありません。目論見書に書かれた内容がいかに率直で誠意あるものだろうと、事業はそれに従って動いているふりをしているだけです。将来便益の厳密な計算などに基づいていない点では、南極探検より多少ましでしかありません。ですから、アニマルスピリットが衰えて自然発生的な楽観論が崩れ、数学的な期待以外あてにできなくなると、事業は衰退して死にます――その際の損失の恐れは、以前の利潤期待に比べて根拠の点では大差ないのですが。
南極探検より多少マシとケインズは言います。
ここケインズは期待値について言及されています(定量的な便益に定量的な発生確率をかけた、加重平均の結果)。
でも、そういう期待はゴールではないのです。「手をこまねくより何かをしようという、自然に湧いてくる衝動」なのです。
【寺子屋新コンテンツ『ディープラーニングの数学』】
【時間、場所、デバイス】 いつでもどこでも、どのデバイスでも!!
【受講料】 3万円(銀行振込、もしくはPayPal決済) ヴァーチャル受講配信開始!!
【受講資格】 ブログ読者
【持ち物】 筆記用具と熱い情熱
【お申し込み】お申し込みはこちらから。
c.f.ディープラーニングはユニバーサルグラマーの夢を見るのか? 2017-05-02
人生にレモン(苦難)が多いならレモネードを作ればいい!人生が苦しみなら悟ればいい?!2017-08-24