loroch > optimization

Lesezeichen (verstecken)5
Anzeige
alles
nur Lesezeichen
Lesezeichen pro Seite
5
10
20
50
100
sortieren nach
hinzugefügt am
Titel
RSS
BibTeX
XML

11506.01186.pdf
https://arxiv.org/pdf/1506.01186.pdf
vor 6 Jahren von @loroch
alle anzeigen
optimization
deep_learning
optimizationdeep_learning
KopierenLöschen
- Community-Eintrag
- Versionsverlauf dieses Eintrags
1Adaptive Bound Optimization for Online Convex Optimization
https://static.googleusercontent.com/media/research.google.com/en//pubs/archive/36483.pdf
vor 6 Jahren von @loroch
alle anzeigen
optimization
optimization
KopierenLöschen
- Community-Eintrag
- Versionsverlauf dieses Eintrags
1duchi11a.dvi
http://www.jmlr.org/papers/volume12/duchi11a/duchi11a.pdf
vor 6 Jahren von @loroch
alle anzeigen
optimization
deep_learning
optimizationdeep_learning
KopierenLöschen
- Community-Eintrag
- Versionsverlauf dieses Eintrags
1Efficient Online and Batch Learning Using Forward Backward Splitting
http://www.jmlr.org/papers/volume10/duchi09a/duchi09a.pdf
vor 6 Jahren von @loroch
alle anzeigen
optimization
dual_averaging
learning
optimizationdual_averaginglearning
KopierenLöschen
- Community-Eintrag
- Versionsverlauf dieses Eintrags
1Primal-dual subgradient methods for convex problems
http://ium.mccme.ru/postscript/s12/GS-Nesterov%20Primal-dual.pdf
vor 6 Jahren von @loroch
alle anzeigen
optimization
dual_averaging
deep_learning
optimizationdual_averagingdeep_learning
KopierenLöschen
- Community-Eintrag
- Versionsverlauf dieses Eintrags

⟨⟨
⟨
1
⟩
⟩⟩

Publikationen (verstecken)23
Anzeige
alles
nur Publikationen
Publikationen pro Seite
5
10
20
50
100
sortieren nach
hinzugefügt am
Titel
Autor
Erscheinungsdatum
Eintragstyp
Hilfe für erweiterte Sortierung...
RSS
BibTeX
RDF
mehr...

2A Hierarchical Model for Device Placement
A. Mirhoseini, A. Goldie, H. Pham, B. Steiner, Q. Le, und J. Dean. (2018)
vor 6 Jahren von @loroch
alle anzeigen
RNN
optimization
RL
deep_learning
placement
device
RNNoptimizationRLdeep_learningplacementdevice
KopierenLöschenDiese Publikation zur Ablage hinzufügen
2Accelerating stochastic gradient descent using predictive variance reduction
R. Johnson, und T. Zhang. Advances in neural information processing systems, Seite 315--323. (2013)
vor 6 Jahren von @loroch
alle anzeigen
optimization
variance_reduction
optimizationvariance_reduction
KopierenLöschenDiese Publikation zur Ablage hinzufügen
1Ad click prediction: a view from the trenches
H. McMahan, G. Holt, D. Sculley, M. Young, D. Ebner, J. Grady, L. Nie, T. Phillips, E. Davydov, D. Golovin und 1 andere Autor(en). Proceedings of the 19th ACM SIGKDD international conference on Knowledge discovery and data mining, Seite 1222--1230. ACM, (2013)
vor 6 Jahren von @loroch
alle anzeigen
optimization
optimization
KopierenLöschenDiese Publikation zur Ablage hinzufügen
24Adam: A Method for Stochastic Optimization.
D. Kingma, und J. Ba. CoRR, (2014)
vor 6 Jahren von @loroch
alle anzeigen
momentum
optimization
methods
training
deep_learning
gradient_descend
momentumoptimizationmethodstrainingdeep_learninggradient_descend
KopierenLöschenDiese Publikation zur Ablage hinzufügen
3Adding One Neuron Can Eliminate All Bad Local Minima
S. Liang, R. Sun, J. Lee, und R. Srikant. arXiv preprint arXiv:1805.08671, (2018)
vor 6 Jahren von @loroch
alle anzeigen
optimization
deep_learning
optimizationdeep_learning
KopierenLöschenDiese Publikation zur Ablage hinzufügen
9An overview of gradient descent optimization algorithms
S. Ruder. (2016)cite arxiv:1609.04747Comment: Added derivations of AdaMax and Nadam.
vor 6 Jahren von @loroch
alle anzeigen
overview
optimization
deep_learning
gradient_descend
overviewoptimizationdeep_learninggradient_descend
KopierenLöschenDiese Publikation zur Ablage hinzufügen
2Backprop without Learning Rates Through Coin Betting.
F. Orabona, und T. Tommasi. CoRR, (2017)
vor 6 Jahren von @loroch
alle anzeigen
optimization
backpropagation
training
deep_learning
gradient_descend
optimizationbackpropagationtrainingdeep_learninggradient_descend
KopierenLöschenDiese Publikation zur Ablage hinzufügen
1Coin betting and parameter-free online learning
F. Orabona, und D. Pál. Advances in Neural Information Processing Systems, Seite 577--585. (2016)
vor 6 Jahren von @loroch
alle anzeigen
optimization
deep_learning
optimizationdeep_learning
KopierenLöschenDiese Publikation zur Ablage hinzufügen
3Deep Gradient Compression: Reducing the Communication Bandwidth for Distributed Training
Y. Lin, S. Han, H. Mao, Y. Wang, und W. Dally. (2017)cite arxiv:1712.01887Comment: we find 99.9% of the gradient exchange in distributed SGD is redundant; we reduce the communication bandwidth by two orders of magnitude without losing accuracy.
vor 6 Jahren von @loroch
alle anzeigen
optimization
gradient
deep_learning
communication
compression
optimizationgradientdeep_learningcommunicationcompression
KopierenLöschenDiese Publikation zur Ablage hinzufügen
2Deep learning with Elastic Averaging SGD
S. Zhang, A. Choromanska, und Y. LeCun. (2014)cite arxiv:1412.6651Comment: NIPS2015 camera-ready version.
vor 6 Jahren von @loroch
alle anzeigen
ASGD
optimization
distributed
ASGDoptimizationdistributed
KopierenLöschenDiese Publikation zur Ablage hinzufügen
3Device placement optimization with reinforcement learning
A. Mirhoseini, H. Pham, Q. Le, B. Steiner, R. Larsen, Y. Zhou, N. Kumar, M. Norouzi, S. Bengio, und J. Dean. arXiv preprint arXiv:1706.04972, (2017)
vor 6 Jahren von @loroch
alle anzeigen
RNN
CNN
devices
optimization
CPU
RL
deep_learning
placement
GPU
RNNCNNdevicesoptimizationCPURLdeep_learningplacementGPU
KopierenLöschenDiese Publikation zur Ablage hinzufügen
1DNN's Sharpest Directions Along the SGD Trajectory
S. Jastrzębski, Z. Kenton, N. Ballas, A. Fischer, Y. Bengio, und A. Storkey. (2018)
vor 6 Jahren von @loroch
alle anzeigen
optimization
deep_learning
optimizationdeep_learning
KopierenLöschenDiese Publikation zur Ablage hinzufügen
3Don't decay the learning rate, increase the batch size
S. Smith, P. Kindermans, C. Ying, und Q. Le. arXiv preprint arXiv:1711.00489, (2017)
vor 6 Jahren von @loroch
alle anzeigen
batch_size
scaling
optimization
deep_learning
learning_rate
batch_sizescalingoptimizationdeep_learninglearning_rate
KopierenLöschenDiese Publikation zur Ablage hinzufügen
2Dual averaging methods for regularized stochastic learning and online optimization
L. Xiao. Journal of Machine Learning Research, 11 (Oct): 2543--2596 (2010)
vor 6 Jahren von @loroch
alle anzeigen
optimization
deep_learning
optimizationdeep_learning
KopierenLöschenDiese Publikation zur Ablage hinzufügen
1Follow-the-Regularized-Leader and Mirror Descent: Equivalence Theorems and L1 Regularization
H. McMahan. Proceedings of the 14th International Conference on Artificial Intelligence and Statistics (AISTATS), (2011)
vor 6 Jahren von @loroch
alle anzeigen
optimization
dual_averaging
learning
optimizationdual_averaginglearning
KopierenLöschenDiese Publikation zur Ablage hinzufügen
1How Does Batch Normalization Help Optimization?(No, It Is Not About Internal Covariate Shift)
S. Santurkar, D. Tsipras, A. Ilyas, und A. Madry. arXiv preprint arXiv:1805.11604, (2018)
vor 6 Jahren von @loroch
alle anzeigen
optimization
deep_learning
batch_normalization
optimizationdeep_learningbatch_normalization
KopierenLöschenDiese Publikation zur Ablage hinzufügen
2Metaheuristic design of feedforward neural networks: A review of two decades of research.
V. Ojha, A. Abraham, und V. Snásel. Eng. Appl. of AI, (2017)
vor 6 Jahren von @loroch
alle anzeigen
overview
metaheuristic
optimization
methods
training
deep_learning
overviewmetaheuristicoptimizationmethodstrainingdeep_learning
KopierenLöschenDiese Publikation zur Ablage hinzufügen
6Optimization Methods for Large-Scale Machine Learning
L. Bottou, F. Curtis, und J. Nocedal. (2016)quantization overview.
vor 6 Jahren von @loroch
alle anzeigen
optimization
machine_learning
deep_learning
second_order
optimizationmachine_learningdeep_learningsecond_order
KopierenLöschenDiese Publikation zur Ablage hinzufügen
1Regression shrinkage and selection via the lasso: a retrospective
R. Tibshirani. Journal of the Royal Statistical Society: Series B (Statistical Methodology), 73 (3): 273--282 (2011)
vor 6 Jahren von @loroch
alle anzeigen
overview
optimization
lasso
overviewoptimizationlasso
KopierenLöschenDiese Publikation zur Ablage hinzufügen
1Scale-free algorithms for online linear optimization
F. Orabona, und D. Pál. International Conference on Algorithmic Learning Theory, Seite 287--301. Springer, (2015)
vor 6 Jahren von @loroch
alle anzeigen
optimization
deep_learning
optimizationdeep_learning
KopierenLöschenDiese Publikation zur Ablage hinzufügen

⟨⟨
⟨
1
2
⟩
⟩⟩

BibSonomy

Lesezeichen (verstecken)5
Anzeige
alles
nur Lesezeichen
Lesezeichen pro Seite
5
10
20
50
100
sortieren nach
hinzugefügt am
Titel
RSS
BibTeX
XML

11506.01186.pdf

1Adaptive Bound Optimization for Online Convex Optimization

1duchi11a.dvi

1Efficient Online and Batch Learning Using Forward Backward Splitting

1Primal-dual subgradient methods for convex problems

Publikationen (verstecken)23
Anzeige
alles
nur Publikationen
Publikationen pro Seite
5
10
20
50
100
sortieren nach
hinzugefügt am
Titel
Autor
Erscheinungsdatum
Eintragstyp
Hilfe für erweiterte Sortierung...
RSS
BibTeX
RDF
mehr...

2A Hierarchical Model for Device Placement

2Accelerating stochastic gradient descent using predictive variance reduction

1Ad click prediction: a view from the trenches

24Adam: A Method for Stochastic Optimization.

3Adding One Neuron Can Eliminate All Bad Local Minima

9An overview of gradient descent optimization algorithms

2Backprop without Learning Rates Through Coin Betting.

1Coin betting and parameter-free online learning

3Deep Gradient Compression: Reducing the Communication Bandwidth for Distributed Training

2Deep learning with Elastic Averaging SGD

3Device placement optimization with reinforcement learning

1DNN's Sharpest Directions Along the SGD Trajectory

3Don't decay the learning rate, increase the batch size

2Dual averaging methods for regularized stochastic learning and online optimization

1Follow-the-Regularized-Leader and Mirror Descent: Equivalence Theorems and L1 Regularization

1How Does Batch Normalization Help Optimization?(No, It Is Not About Internal Covariate Shift)

2Metaheuristic design of feedforward neural networks: A review of two decades of research.

6Optimization Methods for Large-Scale Machine Learning

1Regression shrinkage and selection via the lasso: a retrospective

1Scale-free algorithms for online linear optimization

Stöbern

Verwandte Tags

Konzepte

Tags

Lesezeichen (verstecken)5 Anzeigeallesnur LesezeichenLesezeichen pro Seite5102050100 sortieren nachhinzugefügt amTitel RSSBibTeXXML

Publikationen (verstecken)23 Anzeigeallesnur PublikationenPublikationen pro Seite5102050100 sortieren nachhinzugefügt amTitelAutorErscheinungsdatumEintragstypHilfe für erweiterte Sortierung... RSSBibTeXRDFmehr...

Stöbern

Verwandte Tags

Tags

Lesezeichen (verstecken)5
Anzeige
alles
nur Lesezeichen
Lesezeichen pro Seite
5
10
20
50
100
sortieren nach
hinzugefügt am
Titel
RSS
BibTeX
XML

Publikationen (verstecken)23
Anzeige
alles
nur Publikationen
Publikationen pro Seite
5
10
20
50
100
sortieren nach
hinzugefügt am
Titel
Autor
Erscheinungsdatum
Eintragstyp
Hilfe für erweiterte Sortierung...
RSS
BibTeX
RDF
mehr...