Ünite 04 / 04
Yerel Modeller ve Uyarlama
Modeli kendi donanımında çalıştırmanın ve uyarlamanın ödünleşimlerinin sayılması: parametre sayısı ile bağlam uzunluğunun bellekte tuttuğu sayı ve bütçenin yettiği eşzamanlı istek, basamak sayısı düştükçe düşen bellek ile isabetin düştüğü nokta ve hangi görevde önce düştüğü, aynı görevde istem düzeneği ile ince ayarın yan yana ölçülmesi ve ince ayarın kazanmadığı durum, tam güncelleme, katman dondurma ve düşük ranklı ekin güncellediği parametre payı ile isabet ve saklanan sayı adedi, büyük modelin çıktısıyla eğitilen küçük modelin kendi başına eğitilene göre kazandığı ve kapatamadığı açık, dört kullanım koşulu sınıfının bir senaryoda kapattığı dağıtım seçeneği.
Yayın Güncelleme
Dersler
- 01 Kendi Barındırdığın Modeller Modeli kendi donanımında çalıştırmanın biriminin belirteç değil bellek olması: üç kurgu ölçeğin ağırlık belleği 70,5 milyon, 367,5 milyon ve 2,14 milyar sayı, 960 belirteçlik bağlamda istek başına ara durum 11,8 milyon, 47,2 milyon ve 157,3 milyon sayı, üç milyar sayılık bütçenin yettiği eşzamanlı istek 248, 55 ve 5, aynı 120 kurgu talepte etiket isabeti 0,6333, 0,8167 ve 0,8667. Eşzamanlı istek ile isabetin çarpımı 157,1'den 4,3'e düşüyor, yani en büyük ölçek doğru yanıt kapasitesinin otuz altıda birini veriyor. Dağılım sıcaklığı sıfırken iki koşum aynı 0,8667'yi veriyor, 0,02'de 120 talebin 28'i koşumdan koşuma değişiyor. 5 dk okuma
- 02 Nicemleme Bir ağırlığın kaç basamakla tutulduğunun bellek ve isabet üzerindeki etkisinin aynı 120 kurgu talepte ölçülmesi: 16 basamakta ağırlık belleği 34,3 milyar basamak ve eşzamanlı istek 5, 8 basamakta 17,2 milyar ve 24, 4 basamakta 8,6 milyar ve 62. Beş sınıflı konu ataması 0,8667'den 8 basamakta 0,8750'de kalıyor, 4 basamakta 0,8000'e, 3 basamakta 0,6333'e, 2 basamakta 0,2083'e düşüyor; iki sınıflı aciliyet ayrımı aynı düzeylerde 0,9417, 0,9333, 0,8583 ve 0,3583. Ortalama karar farkı beş sınıfta 0,1597, iki sınıfta 0,2665 olduğu için ince ayrım önce gidiyor. 121 satırın ayırt edici farkı 4 basamakta 24 satırda, 3 basamakta 53 satırda tamamen siliniyor. 10 dk okuma
- 03 İnce Ayar Aynı etiketli örneklerin isteme konmasıyla ağırlıklara işlenmesinin aynı 60 kurgu sınama kaydında yan yana ölçülmesi: düzeneksiz taban 0,6000, dört örnekle ince ayar hiçbir ağırlığı oynatmıyor ve 0,6000'de kalıyor, sekiz örnekte 0,7333 ile istem düzeneğinin 0,6500'ünü geçiyor, on altı örnekte 0,8833. Otuz iki örnekte iki yol 0,9000 ile 0,9500 bandında örtüşüyor, altmış örnekte istem düzeneği 0,9667 veriyor ve ince ayar 0,9500'de kalıyor: ince ayar kazanmıyor. Bedel iki ayrı birimdedir; istem düzeneği istek başına bağlamı 28,48'den 623,48 belirtece, yani 21,9 katına çıkarıyor, ince ayar bir kerelik 180 güncelleme adımı ve 605 ağırlığın 0,2992 payını oynatıyor. 11 dk okuma
- 04 Uyarlama Yöntemleri Aynı saha uyarlamasında tam güncelleme, katman dondurma ve düşük ranklı ekin güncellediği parametre payı ile isabetinin yan yana ölçülmesi: 2292 sayılık kurgu yerel model saha yazımında 0,2500 ve 0,0833 veriyor, tam güncelleme 1,0000 ve 0,9861, yalnız başı güncelleyen katman dondurma 0,6944 ve 0,7500, parametrelerin 0,2094'ünü güncelleyen düşük ranklı ek 0,9583 ve 0,9306. Rankı 3'ten 4'e çıkarmak uyarlama başına 210 sayı daha saklatır ve ortalama kazancı 0,0070'tir, iki koşum farkının altında. Sekiz alana uyarlamada saklanan sayı 18336'ya karşı 6132'dir ve gizli genişlik büyüdükçe ekin payı 0,2094'ten 0,0284'e iner. 11 dk okuma
- 05 Damıtma Büyük modelin etiketlediği 240 kurgu kayıtla eğitilen küçük bir modelin, yalnız altı insan etiketiyle eğitilen aynı modele göre ne kazandığının iki görevde ölçülmesi: konu görevinde 0,5000'den 0,6333'e çıkıyor ve öğretmenin isabetinin tamamını yakalıyor, ama 240 insan etiketinin verdiği 0,9000'e göre açığın yalnız üçte birini kapatıyor. Ayrı konu sayma görevinde damıtma geri götürüyor, 0,5833'ten 0,3667 ve 0,2417'ye düşüyor, çünkü öğretmen saymıyor. Damıtılmış modelin hatalarının 0,9545'i öğretmenin de yanıldığı kayıtlarda, altı etiketle eğitilende bu pay 0,3000. 4 dk okuma
- 06 Model Depoları ve Kullanım Koşulları Bir kullanım senaryosunda dört kullanım koşulu sınıfının kaç dağıtım seçeneğini kapattığının sayılması: dört varlık türü ile dört kanaldan kurulu on altı seçenekten kullanım sınırı tek başına 6, yeniden dağıtım hakkı 3, türev çalışma koşulu 2 ve ticari kullanım kaydı 2 seçenek kapatıyor, toplam 13; birlikte kapattıkları ise 10, çünkü üç seçenek birden fazla koşulla kapanıyor. Açık kalan altı seçeneğin dördü tek kanaldadır. Kullanım sınırının kaldırılması altı değil üç seçenek açar. Aylık istek hacmi üç katına çıktığında açık seçenek altıdan dörde, on katına çıktığında bire iner. Ders M28/K03 kursunun kapanışıdır. 8 dk okuma