猫になりたい

コンサルのデータ分析屋、計量経済とか機械学習をやっています。pyてょnは3.7を使ってマスコレルウィンストングリーン。

機械学習:SHAP valueの論文を理解する

NIPS2017の論文、 A Unified Approach to Interpreting Model Predictions で提案されたSHAP valueについて、SHAP valueの式の中身を理解することに重点を置いてまとめました。 合わせて続編の論文である [1802.03888] Consistent Individualized Feature At…

Deep Learning:ResNetの解説とpytorchによる実装

前回の記事(VGG16をkerasで実装した)の続きです。 今回はResNetについてまとめた上でpytorchを用いて実装します。 ResNetとは 性能 新規性 ResNetのアイディア Bottleneck Architectureによる更なる深化 Shortcut connectionの実装方法 実装と評価 原論文…

python:Jupyterのtimeitマジックコマンドの結果の見方

Jupyter notebookを使ってコードの実行時間を測るとき、多くの人は%timeコマンドで実行時間を計測し、さらに何度か時間して平均的な実行時間を測定するのに%timeitマジックコマンドを使っていると思います(少なくとも私はそうです)。 しかし%timeitの出力…

DeepLearning:pytorchとkerasの速度比較

2019-03-27:実験に使ったkaggleのkernelへのリンクを追加 最近流行っているpytorchとkeras(tensorflow backend)だとpytorchの方が計算が倍早いという話を聞いたので試してみました。 結果、シンプルなモデルで比較した結果pytorhの方がkerasより3倍早いこと…

計量経済学:一般化モーメント法(GMM)のアイディアについてまとめた

昔から何度勉強してもわからなかったので、Hansen(1982)により提案された一般化モーメント法(Generalized method of moments: GMM)について、そのアイディアを自分なりにまとめました(Gaussian Mixture ModelのGMMではないので注意)。 以下では、先ずモー…