1_プログラミング– category –

Lasso回帰でパラメータのalphaを変化させるとどんな風に特徴量が選択されていくのか見てみました。 特徴量が選択されて削減されると言っても、どの特徴量が削られていくか気になるね。 Lasso回帰でもalphaというパラメータが存在していて、この値を大きく...

リッジ回帰とは違った過学習を防ぐ手段を備えたLasso回帰を勉強したよ RidgeとLassoはセットで覚えるみたいだね Ridge回帰は線形回帰の重みを0に近づける方向に補正をかけることで、回帰モデルの複雑化を抑制するというものでした。これは、L2ノルムという...

リッジ回帰のパラメータによって学習曲線がどんな風に変わるか確認してみたよ パラメータの違いを視覚化するのも大事だね 前回は、リッジ回帰のalpha=10のときの学習曲線を描きました。リッジ回帰のパラメータを変化させることによって、学習曲線にどんな...

学習曲線というものをしりました。 アルゴリズムのチューニングに役立つね。 機械学習アルゴリズムのチューニングをするにあたって、訓練データへの精度と未知のテストデータへの精度がサンプル数においてどのように変化しているのかを知ることができる、...

回帰でも交差検証を使わないとですね。 そうだね、リッジ回帰には交差検証もやってくれるRidgeCVっていうものもあるらしいね。 前回までの回帰問題に対しては、train_test_splitでデータを分割するのみでした。分類の時も交差検証という方法で訓練データと...

リッジ回帰という過学習を抑える回帰方法を勉強しました。 数学的に勉強しようとすると難しくなってくるところだね。 今回、リッジ回帰というものを勉強しました。正直、何となく数学的な計算イメージはわかるのですが、いろいろ調べると統計学の深いお話...

特徴量には、多重共線性という問題が発生する場合があるみたい。 マルチコリニアリティ、マルチコ、と呼ばれるらしいね。 前回の記事で、特徴量の選択は、目的変数（ボストン住宅価格データの場合価格データ）に相関が強いものを選択することを学びました...

今までは特徴量多ければ良いと思ってたけど、色々調べてたらどうやら違うみたい。 確かに、多ければ一概にいいってものでもなさそうだね。 ボストンの住宅価格の予測を、重回帰で行いましたが、いろいろ調べていると、データの選択をおこなっていないと、...

線形回帰って、直線引くだけでしょ、特別すごいことしてなさそうな気もするけど・・・ 特徴量が増えたとき、いいらしいよ。複雑な超平面で分離していくからシンプルだけど、効果的なんじゃないかな。 線形モデルは、１特徴量での予測だと、直線を引くだけ...

ここ一ヶ月で、教師あり学習の分類と回帰を学んでいたよ。 AIプログラミングについてどんな風に感じ方が変わったのかな？ AIプログラミングについて学び始めて約１ヶ月が経過しました。勉強を始めた当初よりは何となくどんなものかがわかってきたつもりで...

最小二乗法って、1800年くらいとかに考案されたんだね・・・ 歴史あるよね。高校でも習ったような気がするね。 前回、ボストンの住宅価格データの「部屋数」から「住宅価格」を求める時にLinearRegression(線形回帰)という方法で関係性を直線の予測線にし...

まずは部屋数の特徴量のデータに対する住宅価格のモデルを作成する、単回帰をやってみました。 ちょっと言葉が学者風になってきたね。 前回までで、scikit-learnで読み込むことができるボストンの住宅価格データについてみてきました。このデータを利用し...