The document discusses hyperparameter optimization in machine learning models. It introduces various hyperparameters that can affect model performance, and notes that as models become more complex, the number of hyperparameters increases, making manual tuning difficult. It formulates hyperparameter optimization as a black-box optimization problem to minimize validation loss and discusses challenges like high function evaluation costs and lack of gradient information.
This document summarizes context-aware recommendation and factorization machines. It discusses how factorization machines improve on traditional matrix factorization models by incorporating additional context features. It also introduces gradient boosting factorization machines which further enhance factorization machines by optimizing the factorization model with gradient boosting algorithms.
This document summarizes research on using structured event representations extracted from news articles to predict stock price movements. Key points include:
- Events are extracted from articles and represented as tuples of actors, actions, and objects to capture the who, what, when of events.
- A deep neural network model is used to predict stock price changes based on extracted event representations.
- The model achieves better performance than baselines that use bag-of-words representations of articles.
16. (5)
Online submodular welfare maximization
• 各頂点uに対して単調なsubmodular関数 𝑓0: 29
→ 𝑅<
を定める
• ⽬目的関数としてはuに対して割り当てられた頂点集合を𝑉0とし
たとき∑ 𝑓0(𝑉0)0 を最適化する
a
b
c
x
U V
y
z
𝑓> 𝑥, 𝑦 + 𝑓B 𝑧 + 𝑓D(∅)
左のグラフにおいては以下が⽬目的
関数の値となる
18. Input model
• 頂点Vがどのようにくるかについてモデル化する
• Adversarial order
• グラフおよび順番に対してなんの仮定も置かないモデル、グラフおよ
びvのくる順番はアルゴリズムに対して最悪結果となるような順番もあ
り得る
• Random order
• グラフのとりうる形状は任意のものを考えるが、vの到着する順番はラ
ンダムに選択される
19. Input model
• Unknown IID
• 隣接するUの頂点、枝の重みもしくはbid額が同⼀一の独⽴立な確率分布D
に基づいて⽣生成される
• やってくる⼊入⼒力の頂点vは分布Dから⽣生成された隣接頂点および重みを
もってやってくる
• Known IID
• Unknown IIDとおなじ、ただし分布Dが既知
20. Competitive ratio (競合⽐比)
• オフラインでグラフの形状がわかっている場合に対してオフラ
インでの最適値と、オンラインアルゴリズムが達成できる値の
⽐比率を競合⽐比と呼ぶ
• ⼊入⼒力がAdversarial modelの場合
• min
I,JKLMK
O
PQR R
STU R
, すべてのグラフ、Vの順序に対する⽐比率の最⼩小のものと
なる
• またアルゴリズムがランダムアルゴリズムの場合 min
I,JKLMK
O
V[PQR R ]
STU R
, ア
ルゴリズムの期待値との⽐比率になる
• ⼊入⼒力がRandomの場合
• min
I
V[PQR R ]
STU R
と任意のグラフに対する⽐比率となる
21. Competitive ratio (競合⽐比)
• IIDモデルの場合
• min
Y
𝐸[
PQR R
STU R
]と分布に対しての最⼩小値で表現される
• 各⼊入⼒力間での競合⽐比の値の関係性は
• Theorem 2.1
• C.R(Adv) <= C.R (RO) <= C.R (Unk-‑IID) <= C.R (K-‑IID)
• で表される