ML / Kaggle / Poker エンジニア @ PFN

Joined October 2024
来週の #IBIS2026 @大宮では2件発表します! 1つは時系列基盤モデルを使った制御についてで、夏季インターン生による発表です🎉 予測問題で訓練された時系列基盤モデルはどこまで因果を捉え、制御に使えるのか?試してみると通常の学習器とはかなり様子が違い、興味深い性質が色々見つかりました!ポスター2日目(水曜)前半です。 もう1つは以前から取り組んでいる小データ(サンプル効率的)学習理論に関する、長年の問いへの統一的な回答を(一定)出した話です!CoTや時系列の途中情報、蒸留の確率ラベル、ラベルの信頼度など、学習時のみ使える補助情報を因果構造の面から分類し、それによるサンプル効率化の機序と度合い(特に収束レート)を議論しています。ポスター1日目(火曜)後半です。 どちらも面白いのでよろしくお願いします!
1
5
35
2,562
PFNでKagglerオープンハウスを実施します! 私はチームメイトとKaggricultureの1位解法を説明します 弊社GM勢による座談会もあるので、ぜひご参加ください! (日時変更のため再掲)
12
1
72
3,941
流石にやらざるを得ない
Could we get more from a quantum computer by asking it to do less? ⚛️ Verifiable Quantum Circuit Compilation, hosted by @GoogleQuantumAI and Kaggle, is live! Build search and AI methods to compile quantum circuits for real-world bottlenecks in chemistry, fusion energy, and numerical analysis. 💰 Prize Pool: $150,000 ⏰ Entry Deadline: January 13, 2027
1
13
1,074
kaggriculture 3位のsolution公開しました!! BC + PPO + 動かしたい方向への学習時の報酬 +post-processが主な内容になります。 kaggle.com/competitions/kagg…
15
3
169
14,378
関西Kaggler会と日程がかぶっており、日時が変更になるかもしれないのでいったん削除します🙏
1
77
農業シミュレーションゲームをプレイするAIエージェントを開発して獲得点数を競うKaggleコンペ「Kaggriculture」で、10,148チームのうちPFNメンバーを2人含む4人のチームが優勝しました!🎉 kaggle.com/competitions/kagg…
1
10
1
128
9,489
morim retweeted
Kaggriculture 1位でした!
Kaggriculture 1位確定しました! 学部時代からやりたいと思っていたKaggleを社会人になってから本気ではじめられて、しかも1位も取れて感動です チームメイト(大学同期と会社同期)と弊社と対戦相手の皆様に感謝 #kaggle #goldmedal - kaggle.com/certification/com…
2
5
60
1,874
Kaggriculture 優勝してました! AHCでも優勝できるように頑張りたい(ง๑ •̀_•́)ง
Kaggriculture 1位確定しました! 学部時代からやりたいと思っていたKaggleを社会人になってから本気ではじめられて、しかも1位も取れて感動です チームメイト(大学同期と会社同期)と弊社と対戦相手の皆様に感謝 #kaggle #goldmedal - kaggle.com/certification/com…
1
4
63
1,417
Kaggriculture 1位確定しました! 学部時代からやりたいと思っていたKaggleを社会人になってから本気ではじめられて、しかも1位も取れて感動です チームメイト(大学同期と会社同期)と弊社と対戦相手の皆様に感謝 #kaggle #goldmedal - kaggle.com/certification/com…
11
11
3
253
14,240
著者よりも情報が早い方が・・・! 『因果機械学習入門』という本を書きました! 機械学習を用いて個別化された因果効果を推定する手法群を中心に、「データからよりよい意思決定を行う」ための因果推論とその周辺を、意思決定理論を土台に体系的に解説しています。 使う側としては因果推論でも強化学習でも何でもよいのに、個別に勉強して選べるレベルまで理解するのは大変なので1冊にしました!(ただし濃縮されているので個々の本を読むよりお手軽かというと・・・) ぜひご予約お願いします!!! 目次↓
2
43
5
257
36,218
Currently 1st / 10,246, w.p. at least 95%! We posted a simplified version of our solution in the discussion! kaggle.com/competitions/kagg…
3
2
47
2,364
- Addressed model weaknesses (e.g. disliking tomatoes and struggling with extreme shop layouts) by continuously pretraining on data generated from self-play against a strong heuristic solver
1
1
167
- Added post-processing masks to prevent invalid actions, leakage from sheds, and forgetting to sell - For the final submitted model, we ran another ~144M env steps of RL with these masks enabled. Without those 144M steps, we would have dropped to 2nd place
1
171
本当にチームゲーで誰を欠いても1or2位は取れなかった
11
928
現状 1/10246 w.p. at least 95%です! 我々の解法の簡易Verをdiscussionに投稿しました! kaggle.com/competitions/kagg… 要約 - 10MのTransformerをlb top20で事前学習後、合計15B env step程度self play RL(PPO)で学習← orbit warsのisaiahのenv stepから一位をとるにはこの程度が必要と推定 (1/n)
3
11
2
126
8,884
- 特徴量: すべての観測情報と相手のaction履歴から推定した相手の持ち物 - 出力: unitの生のactionとmarketの購入品目、個数 - 途中でlbのメタを継続学習 - モデルの弱点(トマト嫌い、極端なshop配置に弱い)を強力なheuristic solverの自己対戦で得たデータを継続事前学習することで補う (2/n)
1
8
823
- 後処理に無効actionやshedからの漏れ、売却忘れを防ぐマスクを追加 - 最後に提出したモデルではマスクを追加した状態でRLを144Menv step程度実行。この144M stepがなければ2位に陥落していた((((;゚Д゚)))) 自分はモデル構築と10MモデルのBC, PPOを担当 (3/3)
8
449
ヒューリスティック担当として、探索ベースの解法を追い求めていました。 2週間前まではチームメイトのRLに食らいついていたのですが、徐々に差をつけられ、最終的にはBC用データの一部として飲み込まれました(ᯅ̈ )
kaggricultureいったんお疲れさまでした~ PPO調整で眠れない日々が続いたのでようやくよく眠れそう 48 B200の最終subが恐怖過ぎるが、後は祈るのみ
1
4
1
30
1,349