| Hafta | Konular | Ön Hazırlık |
|---|
| 1 | Derin Öğrenmeye Giriş ve Temel Matematiksel Problemler | Kavramsal: Derin öğrenmenin klasik makine öğrenmesinden farkını, "öğrenme problemi"nin bir optimizasyon problemi olarak nasıl formüle edildiğini inceleyin. Matematik: Küme teorisi, fonksiyon kavramı (tanım/değer kümesi), vektör-matris gösterimi, temel türev ve gradyan fikrini gözden geçirin. Hazırlık sorusu: Bir regresyon problemini "en iyi fonksiyonu bulma" problemi olarak nasıl ifade edersiniz? |
| 2 | Aktivasyon Fonksiyonları | Kavramsal: Doğrusal olmayan (non-linear) dönüşümlerin ağlara neden gerekli olduğunu inceleyin. Matematik: Reel analiz temelleri, limit, süreklilik, türevlenebilirlik; üstel ve logaritmik fonksiyonlar; sigmoid, tanh, ReLU'nun türev davranışlarını gözden geçirin.Hazırlık: ReLU'nun sıfırda türevlenemez olması pratikte neden büyük bir problem yaratmaz? |
| 3 | Maliyet Fonksiyonları | Kavramsal: Kayıp (loss) ile maliyet (cost) fonksiyonu farkını, öğrenmenin bir minimizasyon problemi olarak nasıl kurulduğunu inceleyin. Matematik: Konvekslik kavramı, normlar (L1, L2), olasılık ve olabilirlik (likelihood) temelleri; çapraz entropi (cross-entropy) kaybının olabilirlik ile ilişkisini araştırın. Hazırlık sorusu: MSE konveks bir fonksiyon mudur? Cross-entropy için aynı soruyu sorun. |
| 4 | Minimum Bulma Algoritmaları | Ön bilgi: Maliyet fonksiyonları ve konvekslik tekrar edilmeli. Matematik: Çok değişkenli kalkülüs, gradyan, Hessian matrisi, Taylor serisi açılımı; özdeğer/özvektörlerin bir kritik noktanın minimum/maksimum/eyer noktası olup olmadığını nasıl belirlediğini araştırın. Kısa çalışma: İki değişkenli basit bir fonksiyon için 2–3 iterasyon gradyan inişi yapın. Hazırlık sorusu: Öğrenme oranı (learning rate) çok büyük seçilirse yakınsama neden bozulabilir? |
| 5 | Soyut Nöron Modeli | Kavramsal: Bir nöronun matematiksel olarak afin dönüşüm + aktivasyon fonksiyonu bileşimi olarak nasıl tanımlandığını inceleyin. Matematik: Lineer cebir, iç çarpım, matris-vektör çarpımı, afin dönüşümler, hiperdüzlemler. Hazırlık sorusu: Tek bir nöron geometrik olarak neyi temsil eder (örn. ikili sınıflandırmada)? |
| 6 | Sinir Ağlarının Matematiksel Yapısı | Ön bilgi: Soyut nöron modeli tekrar edilmeli. Matematik: Matris kalkülüsü, zincir kuralı (chain rule), bileşke fonksiyonlar; ileri yayılımın (forward pass) katmanlar arası fonksiyon bileşkesi olarak yazılışını inceleyin. Hazırlık: Geri yayılımın (backpropagation) aslında zincir kuralının otomatik/sistematik uygulanması olduğunu küçük bir 2 katmanlı ağ üzerinde göstermeye çalışın. |
| 7 | Yaklaşım Teoremlerine Giriş | Kavramsal: Bir sinir ağının "hangi fonksiyonları temsil edebileceği" sorusunun neden önemli olduğunu inceleyin. Matematik: Fonksiyonel analiz temelleri, kompaktlık, düzgün (uniform) yakınsama; klasik Weierstrass yaklaşım teoremine giriş yapın. Hazırlık sorusu: "Evrensel yaklaşıklama" ifadesi tam olarak ne anlama gelir, her fonksiyon rastgele az hatayla mı yaklaşılabilir, yoksa belirli koşullar altında mı? |
| 8 | Ara Sınav 1 | |
| 9 | Tek Boyutlu Girdiler ve Evrensel Yaklaşıklayıcılar | Ön bilgi: Yaklaşım teoremlerine giriş tekrar edilmeli. Matematik: Stone-Weierstrass teoremi, düzgün yakınsama, temel ölçü teorisi kavramlarına giriş. Hazırlık sorusu: Tek gizli katmanlı bir ağın evrensel yaklaşıklayıcı olması, pratikte neden çok derin ağların tercih edilmesini engellemez? |
| 10 | Kesin Öğrenme ve Bilgi Temsili | Kavramsal: "Kesin öğrenme" (exact learning) ile "yaklaşık öğrenme" arasındaki farkı inceleyin. Matematik: Bilgi teorisi temelleri, entropi, kombinatorik sayma prensipleri. Hazırlık sorusu: Bir ağın belirli bir eğitim kümesini "ezberlemesi" (interpolate etmesi) ile genelleme yapabilmesi arasındaki matematiksel gerilim nedir? |
| 11 | Bilgi Kapasitesi ve Sinir Ağlarının Temsil Gücü | Ön bilgi: Bilgi temsili tekrar edilmeli. Matematik: VC boyutu, kombinatorik sınırlar, olasılıksal genelleme sınırları (generalization bounds) kavramlarına giriş. Hazırlık sorusu: Bir ağın parametre sayısı arttıkça kapasitesi de artar; bu artış neden her zaman daha iyi genelleme anlamına gelmez? |
| 12 | Havuzlama ve Evrişimli Sinir Ağlarının Matematiksel Temelleri | Kavramsal: Konvolüsyonel katmanların parametre paylaşımı ve yerellik (locality) ilkelerini inceleyin. Matematik: Konvolüsyon işlemi, temel Fourier fikirleri, tensör cebiri temelleri. Hazırlık sorusu: Havuzlama (pooling) işlemi matematiksel olarak bir bilgi kaybı mıdır, yoksa bir tür değişmezlik mi kazandırır? |
| 13 | Tekrarlayan Sinir Ağlarının Matematiksel Temelleri | Ön bilgi: Zincir kuralı ve gradyan tabanlı optimizasyon tekrar edilmeli. Matematik: Dinamik sistemler, fark denklemleri, kararlılık analizi için özdeğerlerin rolü; zamanla geri yayılımda (backpropagation through time) gradyanların neden patlayabileceğini/kaybolabileceğini araştırın. Hazırlık sorusu: Gradyan kaybolması (vanishing gradient) problemi RNN'lerde neden özellikle şiddetlidir? |
| 14 | Sınıflandırma Teorisi ve Üretici Modeller | Kavramsal: Ayrıştırıcı (discriminative) ile üretici (generative) modeller arasındaki farkı inceleyin. Matematik: Olasılık dağılımları, Bayes teoremi, karar sınırları (decision boundaries); KL ıraksaması (divergence) kavramına giriş yapın. Hazırlık sorusu: Bir sınıflandırıcının olasılık dağılımını doğrudan modellemesi (üretici) ile sadece karar sınırını öğrenmesi (ayrıştırıcı) arasındaki fark ne zaman pratik önem kazanır? |
| 15 | Stokastik Sinir Ağları ve Genel Değerlendirme | Kavramsal: Belirlenimci (deterministic) ağlar ile stokastik ağlar arasındaki farkı inceleyin. Matematik: Stokastik süreçler, Markov zincirleri, temel olasılık teorisi tekrarı. Genel değerlendirme hazırlığı: Dönem boyunca işlenen konulardan (optimizasyon, yaklaşım teoremleri, bilgi kapasitesi, CNN/RNN matematiği) en az ikisini birbirine bağlayan kısa bir literatür/özet çalışması hazırlayın. Tartışma sorusu: "Derin öğrenmenin matematiksel temellerinde bugün hâlâ tam çözülmemiş en önemli soru nedir?" |
| 16 | Final | |
