Ünite 02 / 03
Görüntü ve Dizi Mimarileri
Girdinin yapısını kullanan mimarilerin ne kattığının ve neyi hâlâ kaçırdığının sayılması: evrişimin aynı işi tam bağlı katmana göre kaç ağırlıkla yapması, havuzlamanın attığı bilgi ile kaydırmaya dayanıklılık, derinlik arttıkça eğimin ilk katmana ulaşması ve atlamalı bağlantının bunu düzeltmesi, gizli durumun dizi uzadıkça taşıyabildiği bilgi, kapı birimlerinin kaç adım geriye bağımlılık taşıdığı, dikkat ağırlıklarının kaçının doğru adıma gitmesi ve yüksek ağırlığın açıklama olmaması, baş sayısının kattığı fark ile konum kodlaması çıkarıldığında kaybolan sıra bilgisi, öğrenilen gömme ile öğrenilmeyen izdüşümün farkı, aktarımın kaç örnekle kattığı ve dondurma ile ince ayarın ayrımı, geri kurma hatası ile çekişmeli düzenin iki koşum arasındaki kararsızlığı.
Yayın Güncelleme
Dersler
- 01 Evrişim İşlemi Girdinin yapısını kullanan ilk katmanın kaç ağırlıkla çalıştığının sayılması: aynı 144 çıktıyı üreten tam bağlı katman 20.880 sayı tutarken 3x3 evrişim çekirdeği 10 sayı tutuyor, oran 2.088 kat. Elle yazılmış iki çekirdek dolgusuz 0,8900, dolgu 1 ile 0,9380 uyuşma veriyor ve aradaki fark tümüyle kenar hücrelerdir. Sınamada en sık sınıf 0,5850 iken 1.169 parametreli tam bağlı ağ eğitim kümesini tamamen ezberleyip 0,5100 ve 0,5350 veriyor, 23 parametreli evrişimli ağ ise 0,8000 ve 0,8150 veriyor: iki koşum arasındaki fark tam bağlı ağda 0,0250, evrişimli ağda 0,0150. 9 dk okuma
- 02 Havuzlama Havuzlamanın attığı bilginin ve karşılığında aldığının sayılması: 2x2 en büyük havuzlama 144 hücreyi 36'ya indiriyor, ortalama 96,9 hücre geri kurulabiliyor ve geriye 46,0 bitlik bir belirsizlik kalıyor. Ham ızgara havuzlandığında hat bilgisi tümüyle gidiyor, uyuşma 0,9380'den 0,4220'ye düşüyor; aynı havuzlama öznitelik haritasına uygulandığında kaydırmaya dayanıklılık yüzde 0,0'dan yüzde 38,1'e, genel havuzlamada yüzde 88,7'ye çıkıyor. Taban çizgisi 0,5850 iken havuzlamasız ağ 309 parametreyle 0,5150 ve 0,5350, 2x2 havuzlamalı ağ 93 parametreyle 0,6100 ve 0,6150, genel havuzlamalı ağ 23 parametreyle 0,8050 ve 0,8050 veriyor; kaydırılan sınama kümesinde değişen karar sayısı sırasıyla 84, 49 ve 12. 11 dk okuma
- 03 Evrişimli Ağ Mimarileri Derinliğin kattığının ve eğimin ilk katmana ulaşıp ulaşmadığının sayılması: düz yığında ilk katmana ulaşan eğim büyüklüğü derinlik 0'da 6,405e-01 iken derinlik 8'de 9,269e-07'ye iniyor, atlamalı bağlantı aynı derinlikte 6,779e-01 tutuyor ve oran 731.349 kat. Taban çizgisi 0,5850 iken 23 parametreli sığ ağ 0,7850 ve 0,8050, 63 parametreli düz derinlik 2 ağı iki koşumda da 0,5850 veriyor, yani daha derin ağ daha sığ ağı geçemiyor. Atlamalı bağlantı aynı derinlikte 0,7950 ve 0,8150, derinlik 5'te 0,8150 ve 0,8900 veriyor; derinliğin kattığı 0,0575'lik ortalama fark, aynı ağın iki koşumu arasındaki 0,0750'lik farktan küçüktür. 6 dk okuma
- 04 Yinelemeli Ağlar Gizli durumun dizi uzadıkça ne kadar bilgi taşıdığının sayılması: aynı dizinin yalnız ilk adımı değiştirildiğinde son gizli durumdaki fark uzunluk 2'de 0,92844 iken uzunluk 12'de 0,00913'e iniyor, adım başına çarpan 0,62. İlk adımdaki işaretin son durumdan geri okunma doğruluğu 1,0000'den 0,5300'e, yani rastlantı düzeyine düşüyor. Aynı 61 parametreli ağ uzunluk 2'de taban çizgisini 0,2300 ve 0,2800, uzunluk 8'de 0,2100 ve 0,1700, uzunluk 10'da 0,1850 ve 0,1850 geçerken uzunluk 12'de yalnız 0,0250 ve 0,0050 geçiyor: bağımlılık on adımda taşınıyor, on iki adımda taşınmıyor. 11 dk okuma
- 05 Kapı Birimleri Uzun bağımlılığın kaç adım geriye taşınabildiğinin sayılması: eğitimsiz ağda ilk adımdaki işaretin son gizli durumda kalan payı yalın 6 birimli ağda yüzde 0,98 ve yüzde 0,05, 9 birimli yalın ağda yüzde 0,71 ve yüzde 0,05 iken kapı birimli ağda yüzde 9,34 ve yüzde 5,63. Aynı tur bütçesinde uzunluk 8'e kadar üç yapı da taban çizgisini 0,1700–0,2800 geçiyor; uzunluk 12'de 61 parametreli yalın ağ 0,0250 ve 0,0050'ye düşerken 115 parametreli kapı birimli ağ 0,2650 ve 0,2050, 118 parametreli geniş yalın ağ 0,2700 ve 0,1700 veriyor. Kapı yapısının eşit bütçeli yalın ağa üstünlüğü on iki adımda ölçülemiyor, çünkü geniş yalın ağın iki koşumu arasındaki 0,1000'lik fark iki yapı arasındaki farktan büyük. 12 dk okuma
- 06 Dikkat Mekanizması Dizinin uzak bir adımına doğrudan bakmanın ne kazandırdığının ve okunan ağırlıkların ne kadarının açıklama olduğunun ölçülmesi: en sık sınıf tabanı 0,6333 iken aynı dikkat ağının iki koşumu ayrılmış kümede 0,8889 ve 0,9944 veriyor, aradaki 0,1056 yalnız ilklendirme tohumundan geliyor; birinci koşum işaret adımına ağırlığın yalnız 0,2721'ini gönderip en büyük ağırlığı örneklerin 0,3444'ünde doğru adıma koyarken 0,8889 doğruluk üretiyor, ikinci koşum ise 0,9691 ve 1,0000 veriyor. Adım çıkarma sınamasında ağırlık ile etkinin uyumu birinci koşumda 0,5889'da kalıyor; ikinci koşumda ağırlığı 0,5'i aşan 180 örneğin 43'ünde o adımın çıkarılması tahmini 0,05'ten az oynatıyor. 10 dk okuma
- 07 Çok Başlı Dikkat ve Dönüştürücüler Sorgunun çoğaltılmasının ve konum kodlamasının aynı parametre bütçesinde ne kattığının ölçülmesi: 33 parametre sabit tutulup baş sayısı 1, 2 ve 4 yapıldığında ayrılmış küme ortalaması 0,8722, 0,8806 ve 0,8972 oluyor, yani baş sayısının kattığı 0,0250 iken tek bir kurulumun iki koşumu arasındaki fark 0,0500'e çıkıyor. İki başlı ağın ikinci koşumu başları dizinin iki ucuna ayırıyor (ağırlık merkezleri 3,30 ve 8,55, ayrıklık 0,7264) ama birinci koşum ayırmıyor (5,57 ve 6,30) ve doğruluğu düşmüyor. Konum kodlaması çıkarıldığında iki koşum da tam olarak taban çizgisine, 0,6611'e iniyor ve okumalar karıştırıldığında çıktı 0,0000 oynuyor. 12 dk okuma
- 08 Gömme Katmanları Ayrık bir olay kodunun sürekli bir vektöre eşlenmesinin ne kattığının ölçülmesi: en sık sınıf tabanı 0,6444 iken 103 parametreli öğrenilen gömme 150 turda 0,9722 ve 0,9833 veriyor, 157 parametreli bir-sıcak kodlama aynı turda 0,7167 ve 0,7000'de kalıp aynı sayıya ancak 600 turda ulaşıyor (0,9611 ve 0,9556). Aynı boyuttaki dondurulmuş tablo 0,6944 ve 0,7278'de kalıyor, sıralı sayısal kod ise dört tur bütçesinde de tam olarak tabanda duruyor. Öğrenilen tabloda şüpheli kodlarla öbür kodlar arasındaki uzaklık grup içi uzaklığın 3,9153 katı, dondurulmuş tabloda 1,0728 katıdır. 11 dk okuma
- 09 Öğrenme Aktarımı Kurgu bir kaynak görevden kendi elimizle üretilen önceden eğitilmiş bir modelin hedef göreve taşınmasının ne kattığının ölçülmesi: en sık sınıf tabanı 0,6444 iken yirmi etiketle sıfırdan eğitim 0,7194, dondurmalı aktarım 0,8417 ve ince ayarlı aktarım 0,8083 veriyor. Dondurma dört ölçümde de 0,83 dolayında düz duruyor ve sıfırdan eğitim onu kırk ile seksen örnek arasında geçiyor; ince ayar dört noktanın üçünde sıfırdanın üstünde kalıyor ama yüz altmış örnekte fark 0,0028'e iniyor. Kaynak görevden gelen tablo bakım ayrımını 3,6373, şüpheli ayrımını 2,4767 taşıyor; ince ayardan sonra bu iki sayı 2,4685 ve 3,7991 oluyor. 11 dk okuma
- 10 Üretici Modeller Etiket olmadan çalışan iki üretici düzenin aynı kurgu dizi kümesinde ölçülmesi: ortalama diziyle geri kurma tabanı 2,9007 iken doğrusal otokodlayıcı bir örtük boyutta 1,2817 ve 1,2815, dört boyutta 0,7346 ve 0,7314 veriyor; iki koşumun hatası en fazla 0,0311 ayrılırken aynı koşumların bulduğu yönler 1,6330 ile 3,4005 arasında ayrılıyor. Çekişmeli düzende ayırt edicinin gerçek diziler üzerindeki doğruluğu 0,6133'ten 0,3467'ye inip 0,4600'e dönüyor ve iki koşumun ürettiği adım ortalamaları birbirinden 1,2707 uzaklaşıyor — her birinin gerçek kümeden sapmasından, 0,5321 ve 0,8877'den, daha fazla. 9 dk okuma