Etiket arşivi: derin öğrenme

Deep Learning Heroes / Derin Öğrenme Kahramanları

Bu yazıda Derin Öğrenme (Deep Learning) deyince akla gelen kişilerden bazılarını vermek istiyorum. Listedeki kişiler araştırılıp ne yaptıkları öğrenilebilir ve derin öğrenme heveslisi kişilere bir kapı aralanabilir düşüncesiyle bu listeyi hazırladım. Liste zamanla genişleyebilir.

  • Andrew NG
  • Geoffrey Hinton (Boltzman Machines)
  • Pieter Abbeel
  • Ian Goodfellow
  • Yoshua Bengio
  • Yuanqing Lin
  • Andrej Karpathy
  • Ruslan Salakhutdinov
  • Yann LeCun (LeNet-5)
  • Terry Sejnowski
  • Alex Krizhevsky (AlexNet)
  • Ilya Sutskever
  • Karen Simonyan (VGG-16)
  • Andrew Zisserman
  • Kaiming He (ResNet)
    • Xiangyu Zhang
    • Shahqing Ren
    • Jian Sun
  • Christian Szegedy (Inception Network – GoogLeNet)
    • Wei Liu
    • Yangqing Jia
    • Pierre Sermanet
    • Scott Reed
    • Dragomir Anguelov
    • Dumitru Erhan
    • Vincent Vanhoucke
    • Andrew Rabinovich
  • Russ Girshik (R-CNN)
    • Jeff Donahue
    • Trevor Darnell
    • Jitendra Malik
  • Shaoqing Ren (Faster R-CNN)
    • Kaiming He
    • Ross Girshick
    • Jian Sun
  • Yaniv Taigman (Deepface)
    • Ming Yang
    • Marc’Aurelio Ranzato
    • Lior Wolf
  • Florian Schroff (FaceNet)
    • Dimitry Kalinichenko
    • James Philbin
  • Mathew Zeiler (visualizing and understanding CNNs)
    • Rob Fergus
  • Leon A. Gatys (A neural algorithm of artistic style)
    • Alexander S. Ecker
    • Matthias Bethge

Deep Learning Keywords (Derin Öğrenme Anahtar Kelimeler)

Derin Öğrenme’ye (deep learning) ilgi duyduğumdan biraz araştırma yapmıştım. Açıkçası konuya çok hakim değilim ama ileride üzerinde çalışmak istiyorum. Yaptığım araştırma neticesinde bazı anahtar kelimeleri ileride ipucu olur diyerek not etmiştim. Bu notları bir yazı ile paylaşmak istedim. İleride bu anahtar kelimeleri kullanarak detaylı bir şekilde öğrenip kullanmayı düşünüyorum.

  • Imagenet yarışması – Stanford – image-net.org
  • Deepdream – Google
  • Machine Learning
  • Supervised – Unsupervised – Reinforcement Learning (köpek eğitimi)
  • mnist samples
  • Derin Öğrenme = Çok Katmanlı YSA (Yapay Sinir Ağı)
  • Bayes – SVM – overfitting
  • abstract + generalization (10 bin köpekten evrendeki hepsine)
  • Hiperparametre (n parametre n denklem)
  • Karar ağacı veriyle uyumlu olmalı
  • Bootstraping – Sentetik veri seti – opencv
  • MLP (Multilayer Perceptron), FCN (Fully Connected Networks), FFN (Feed Forward Network)
  • Input – Hidden Layer – Output + Back Propagation (to hidden layer)
  • Epoch
  • Batch – Mini batch (input’u parçalayarak)
  • Hyper-Parameters – learning rate, over fitting (dropout), regularization, momentum.
  • iPython
  • matplotlib (grafik python)
  • miletosacademy.com – Berkin Malkoç – Teknokent
  • Theano Framework (gpu’da çalışabiliyor)
  • Minist Problemi
  • Spark-python
  • Cudnn (Cuda deep learning)
  • Konvolüsyonel sinir ağları
  • Bias da öğrenilecek bir parametre
  • DNN – (FFNN – RNN – RBM/DBN)
  • FFNN – feed forward -> MLP, CNN (Konvolüsyonel Sinir Ağları)
  • RNN (Recurrent) – nöron kendine dönüyor. Geri besleme var. Simple, LSTM
  • CNN – Konvolüsyonel katman (conv, relu), Pooling katmanı, fully connected katman.
  • Googlenet – convolution, pooling, softmax, other
  • Özyinelemeli Sinir Ağları FRAMEWORKS – GPU (Theano (mlp, cnn, rnn, ltsm), Caffe (json’a benziyor), Tensorflow, knet.jl (nvidia), digit (caffe + görsellik))
  • Datasets – Mnist (el yazısı), cifar-10 (10 obje resim)
  • Jupyter
  • Özyinelemeli sinir ağları – zamana bağlı problemler için ses, yazı, video vs.
  • vanishing gradient problemi – insan hafızası gibi – lstm
  • Kısıtlanmış Boltzman Makinesi, Hopfield ağı, özkodlayıcılar
  • Reuter corpus – Salakhutdinov science volume 313 504-507 2006
  • python pycharm
  • spyder (bilimsel), matlab
  • rstudio
  • profiling – programdaki dar boğazların tespiti için
  • makefile – otomasyon
  • markdown (rmarkdown)
  • Julia
  • t-test
  • Kaggle
  • Panda S, r-python