Büyük dil modeli (LLM) nedir
Büyük dil modeli, metni token denen küçük parçalara bölen ve bir sonraki tokenın ne olması gerektiğini defalarca tahmin eden bir programdır. İçinde bir olgular tablosu yoktur; elinde olan şey, muazzam bir metin yığınından türetilmiş ve hangi devamın daha olası olduğunu belirleyen ağırlıklardır.
- Ders 2 / 15
- Başlangıç
- Ücretsiz, kayıt yok
Bu hesaba ne girer, ne girmez
Hesaba üç girdi ulaşır ve bir metin çıkar. Dördüncü girdi hiç bağlı değildir ve o boş yuva, bu araçların tuhaf davranışlarının çoğunu açıklar.
-
1İsteminiz ve bütün sohbet
Her turda yeniden okunur ve bağlam penceresine sığmak zorundadır. Dışında kalan, model için yoktur.
-
2Eğitilmiş ağırlıklar
Eğitimin sonucudur, sonrasında sabittir. Bugünkü konuşmanız onlarda hiçbir şeyi değiştirmez.
-
3Seçimde biraz rastlantı
En olası seçenek her zaman alınmaz; bir sorunun iki yanıt almasının nedeni budur.
-
Bir doğruluk kaynağı
Modele arama araçları verilmedikçe böyle bir girdi yoktur. Hesabın içinde şu parça olgu, şu uydurma diyen hiçbir şey yoktur.
-
Sonraki tokenı tahmin etmek
Her seferinde tek token, sonra bütün hesap yeniden. Okuduğunuz cümle o tek adımın tekrarıdır.
-
Okuduğunuz metin
Bu metnin akıcılığı doğru olup olmadığı hakkında bir şey söylemez; akıcılık tam da bu hesabın uğruna eniyilendiği şeydir.
Bu çizim basitleştirilmiştir ve iç mimari hakkında bir şey söylemez. Gösterdiği tek şey, yanıtı hangi şeylerin etkilediğidir.
Son kontrol: Bu dersteki bilgiler ve araç adları bu tarihte kaynaklarıyla yeniden doğrulanır.
Token nedir ve neden her şey onunla sayılır
Model metni kelime kelime görmez. Önce metni token denen parçalara böler: bazen bütün bir kelime, bazen yarısı, bazen yalnızca bir noktalama işareti ya da bir boşluk. Bu bölünmeyi kimse elle yazmadı; modelin eğitildiği metnin kendisinden türetildi. Bu yüzden sık geçen kelimeler genellikle tek token olur, seyrek kelimeler birkaç parçaya ayrılır.
Bunun sizin için önemi şu: bu araçlarda sayılan her şey token cinsinden sayılır. Girdi tavanı, çıktı tavanı ve fatura. Girdinin milyon token başına şu kadar dolar olduğunu okuduğunuzda birim budur; kelime de değil, karakter de.
Daha az temsil edilen bir dilde yazan herkes için ciddi bir nokta: eğitim metninde daha az görünmüş bir dil genellikle daha ince tokenlara ayrılır; yani aynı anlam daha çok tokenla yazılır ve dolayısıyla daha pahalıya gelir. Bunu bu sunucuda ölçmedik, çünkü bu modellerin hiçbirinin tokenlayıcısı burada kurulu değil ve kaynağı olmayan bir sayı yazmayız. Sizin için önemliyse, bir paragrafı ve çevirisini üreticinin kendi token sayacına bırakın ve iki rakamı yan yana koyun; on saniye sürer ve yanıt sizin olur.
Bağlam penceresi ne kadar ve ne değil
Bağlam penceresi, modelin tek seferde görebildiğinin tavanıdır: isteminiz, eklediğiniz dosyalar ve buraya kadarki bütün konuşma, hepsi birlikte. Bu tavanın dışında kalan her şey model için yoktur. Unutmuş değildir; hiç görmemiştir.
Boyutlar büyük ve üreticiden üreticiye değişiyor. Kendi kaynaklı referansımızda Claude Opus 5 1.000.000 token pencereye sahip; Anthropic model belgeleri bunu söylüyor. GPT-5.6 Terra, OpenAI'ın kendi model sayfasına göre 1.050.000 token seviyesinde. Ağırlıkları açık olan Llama 4 Scout ise Meta'nın model kartında 10.000.000 token olarak bildiriliyor; bu sonuncusu üreticinin iddiası, bizim ölçtüğümüz bir şey değil.
Şimdi bağlam penceresinin ne olmadığı: bellek değildir. Model iki konuşma arasında hiçbir şey hatırlamaz ve tek bir konuşmanın içinde de her turda bütün metni baştan okur. Uzun bir konuşmanın pahalılaşmasının ve yavaşlamasının nedeni budur. Kendi uyguladığımız kural basit: uzun bir oturumda önemli yönergeyi başta söylemiş olmaya güvenmek yerine sona yakın yeniden yazarız.
Bu sayıların kendisi hakkında bir uyarı: daha büyük pencere, modelin daha çok gördüğü anlamına gelir; daha iyi anladığı anlamına değil. Hiçbir üretici, on milyon tokenlık bir pencerenin sonundaki yanıt kalitesinin başındakiyle aynı olacağını taahhüt etmiyor.
Eğitim ve çalıştırma: bütünüyle farklı iki iş
Sürekli birbirine karışan iki şey. Eğitim bir kez olur, haftalar ya da aylar sürer, pahalı donanım yığını üzerinde çalışır ve sonrasında değişmeyen bir ağırlık dosyası üretir. Çalıştırma ise siz yazdığınızda olan şeydir: ağırlıklar sabittir ve yalnızca sizin girdiniz bir çıktı üretmek üzere onların içinden geçer.
Bu ayrımdan çıkan ve çoğu kişinin beklemediği şey: model sizin konuşmanızdan öğrenmez. Hatasını bugün düzeltin, yarın yeni bir sohbette aynı hatayı yapar. Bazı ürünlerin bellek dediği şey, modelin yanında tutulan ve konuşmanın başına yapıştırılan bir nottur; modelin kendisinde bir değişiklik değil.
Bir sonraki bölüme bağlanan ve yukarıdakiyle karıştırılmaması gereken bir kayıt: modelin konuşmanızdan öğrenmemesi, metninizin hiçbir yerde saklanmadığı anlamına gelmez. Verinin saklanması ve sonraki sürümlerin eğitimini besleyip beslemediği üreticinin kararıdır ve plana ve ayarlara göre değişir.
Eğitim bir kez, çalıştırma her seferinde
Eğitim: bir kez, yayımdan önce
- Haftalar ya da aylar sürer ve pahalı donanım yığınında çalışır
- Çıktısı, sonrasında değişmeyen bir ağırlık dosyasıdır
- Modelin bilgi kesimi tam burada belirlenir
- Bunda hiçbir rolünüz yoktur ve erişiminiz de yoktur
Çalıştırma: her yazdığınızda
- Saniyeler sürer ve token başına faturalanır
- Ağırlıklar sabittir ve içlerinden yalnızca sizin girdiniz geçer
- Bu turdan hiçbir şey modelin içinde kalmaz
- Gerçekten denetiminizin olduğu tek yer, yani istem üzerinden
Biri diğerinden iyi değildir; bir modelin ömründe iki ayrı aşamadır. Bu ikisini karıştırmak, bu araçlara dair yanlış beklentilerin çoğunun kaynağıdır.
Neden biliyor kelimesi yanlış kelime
Bir dil modeli her adımda tek bir şey yapar: buraya kadarki bütün tokenlara bakarak hangi sonraki tokenın daha olası olduğunu hesaplar, birini seçer ve baştan başlar. Okuduğunuz cümle, o tek adımın tekrarıdır; bir yerde saklı bir yanıtın geri çağrılması değil.
Bundan doğrudan iki sonuç çıkar. Birincisi, bilmediği şeyi de aynı akıcılıkla yazar; çünkü o hesabın içinde şu kısım olgu, şu kısım uydurma diyen hiçbir işaret yoktur. Bir makale başlığının ya da bir sayfa numarasının tamamen doğru görünüp hiç var olmamasının nedeni budur. Anthropic bunu kendi belgelerinde halüsinasyon diye adlandırıp azaltma yollarını anlatıyor; yani üretici de bunu söylenti değil, gerçek bir zayıflık sayıyor.
İkincisi, sonraki tokenı seçmek her zaman en olası seçeneğe gitmez; içinde bir miktar rastlantı vardır ve aynı sorunun iki farklı yanıt almasının nedeni budur. Programatik erişimde bu denetlenebilir; sohbet penceresinde genellikle denetlenemez.
Her felsefi tartışmadan kısa, pratik bir sınama: modelin size verdiği ve bir dakikadan kısa sürede açıp bakamadığınız her iddia, hâlâ bir iddiadır. Bu cümle her modelde çalışır; bu yıl da, gelecek yıl da.
Bu açıklamanın günlük işte ne değeri var
Dört şey, her biri doğrudan yukarıdaki bölümlerden birinden. Bir: model her turda bütün konuşmayı yeniden okuduğu için uzun oturumları bölün ve her yeni işe boş bir sayfada başlayın. İki: kaynak uydurduğu için hiçbir referansı bağlantısını açmadan kabul etmeyin; size hiç bağlantı vermediyse arama olmamıştır.
Üç: fatura token cinsinden olduğu için daha kısa çıktı istemek gerçekten ucuza gelir ve iki satırlık yanıt için yüz sayfalık dosya göndermek gerçekten pahalıya. Dört: model konuşmanızdan öğrenmediği için, her seferinde tekrarladığınız yönergeyi kısa bir dosyada tutun ve her oturumun başına yapıştırın. Kendi işimizde bu tek alışkanlık her şeyden çok zaman geri kazandırdı ve daha pahalı bir plan gerektirmiyor.
Bu açıklamanın size vermediği bir şey de var: hangi modelin sizin işiniz için daha iyi olduğu. O yanıt kıyaslamalara, fiyata ve erişime bağlıdır ve haftadan haftaya değişir; dolayısıyla yeri, gelecek yıl da doğru kalması beklenen bir kavram dersi değil, bu sitenin referans bölümüdür.
Yapay zekayla hızlı yol
Modelin her turda bütün konuşmayı yeniden okuduğunu ve oturumlar arasında hiçbir şey hatırlamadığını bildiğinizde, buradan doğrudan pratik bir teknik çıkar; kendini ileri kullanıcı sayan pek az kişinin gerçekten kullandığı bir teknik: bir oturumu sonsuza kadar uzatmak yerine, sonunda modelden bir devir sayfası yazmasını isteyin ve onu yeni bir sohbete yapıştırın. Burada hızlı ve ucuz bir model yeter, çünkü bu yargı işi değil özetleme işidir.
- Oturum yavaşlamış gibi geldiği ya da model başta söylediğiniz bir şeyi göz ardı etmeye başladığı anda orada durun. O an genellikle beklediğinizden erken gelir.
- Aşağıdaki reçeteyi aynı oturumun içinde çalıştırın ve çıktıyı ürünün kendi belleğine değil, düz bir metin dosyasına kaydedin.
- Sayfayı bir kez kendiniz okuyun ve söylediğinizi hatırlamadığınız her şeyi çizin. Bu adım isteğe bağlı değildir ve gerekçesi aşağıda.
- Yeni oturuma o sayfayla başlayın. Aynı dosya bir sonraki sefer de temeldir ve giderek o iş için kalıcı yönergenize dönüşür.
Kopyalamaya hazır şablon
Bu oturumdaki iş bitti. Boş bir sohbete yapıştıracağım ve oradan devam edebileceğin bir devir sayfası yaz.
Sayfanın biçimi, tam olarak şu başlıklarla:
Amaç: {tek cümle}
Alınan kararlar: {kısa liste, her biri yarım satırlık gerekçesiyle}
Mevcut durum: {neredeyiz}
Açık sorular: {henüz yanıtı olmayanlar}
Yeniden deneme: {bu oturumda denenip işe yaramayanlar}
Kurallar:
1. Yalnızca bu oturumda gerçekten söylenenlerden yaz. Bilmediğin bir şeyi yazma.
2. Fazladan açıklama ve giriş yok. Yalnızca bu beş başlık.
3. Kısa yaz. Amaç hacmi azaltmak, konuşmayı yeniden anlatmak değil.
4. Emin olmadığın yerde o satıra soru işaretiyle başla ki görebileyim.Çıktıya güvenmeden önce: Sayfayı, oturum boyunca yoldan çıkmış olabilecek modelin kendisi yazar; dolayısıyla uydurduğu her şey bir sonraki sohbete de taşınır, bu kez yerleşmiş bir karar görüntüsüyle. Yapıştırmadan önce bir kez okumak bu yöntemin bütün maliyetidir. İş müşteri verisi ya da gizli bilgi içeriyorsa, sayfa da o veriyi taşır; konuşmaya uyguladığınız kurallar bu dosya için de geçerlidir.
Bu işte yapay zeka
Bu konuyu anlamak için araçlarla yapılacak en iyi şey, size kendi sınırlarını göstermelerini sağlamaktır. Öğretici yanıt alan üç soru: bu konuşmanın hangi kısmını artık göremiyorsun, yanıtının hangi kısmından emin değilsin ve bana açabileceğim bir kaynak ver. Tutumumuz şu: bir modele kendisini sormak, örneğin sürümünü ya da penceresinin boyutunu, en az güvenilir yanıtı üretir; çünkü o bilgi, eğitimi bittiğinde henüz yoktu.
Gerçekten işe yarayan araçlar
- Claude Yanıtının hangi kısmından emin olmadığını sorduğunuzda daha dolaysız karşılık verir ve boşluğu uydurma bir güvenle daha az doldurur. İran, Anthropic'in iki desteklenen ülke listesinin hiçbirinde yok; bunu ağ testiyle değil, Anthropic'in kendi sayfasında okuduk.
- Gemini Farsçayı iyi anlar ve bağlam penceresinin uzun bir dosyada nasıl davrandığını sınamaya uygundur. Google'ın kendi sayfası Gemini web uygulamasının 230'dan fazla ülke ve bölgede çalıştığını söylüyor ve İran o listede yok.
- ChatGPT En yaygın seçim ve bu iş için kabul edilebilir. İrandan erişim hakkında bir iddiada bulunmuyoruz: OpenAI'ın desteklenen ülkeler sayfası, o alan adının geri kalanı gibi, bu sunucuya erişim hatası döndürüyor ve arkasında hiçbir şey olmayan bir iddiayı yazmayız.
Nerede geri teper
Bu konudaki somut risk, modelin kendisi hakkında güvenilmez bir anlatıcı olmasıdır. Bu, yukarıda okuduğunuz eğitim ve çalıştırma ayrımından çıkar: model, istem söylemedikçe kendi sürümünü, penceresinin boyutunu ya da içinde çalıştığı ürünün ayarlarını bilmez; çıktısı kesinlik için değil akıcılık için kurulduğundan da yine kendinden emin yanıtlar. Yani en çok kesinlik istediğiniz yerde uydurma yanıt olasılığı en yüksektir. Anthropic buna kendi belgelerinde halüsinasyon diyor ve azaltma yollarını yazmış. İkinci risk doğrulukla değil veriyle ilgili: plana ve ayarlara bağlı olarak gönderdiğiniz metin eğitimde kullanılabilir; Anthropic bunu gizlilik sayfasında açıklıyor ve yukarıdaki bölümde kurduğunuz devir sayfası da aynı hesaba dahildir. Bu araçların İrandan erişim ve ödeme durumu için satın alma rehberine bakın.
Kaynaklar: Anthropic: reduce hallucinations Anthropic: is my data used for model training Anthropic: supported countries Google: where the Gemini web app is available
Bu tavsiyenin sınırı
Bu ders işin biçimini açıklar, içini değil. Belirli bir yanıtın neden çıktığı, üreticinin dışında kimsenin çözemeyeceği bir sorudur; çoğu durumda içinde de kimse çözemez. İkincisi, bu sayfadaki üç sayının bir tarihi var ve bu sitenin yapay zeka bölümündeki kaynaklı dosyalardan alındı; üreticiler bu rakamları değiştirir ve sayfanın üstündeki denetim tarihinin anlamı tam olarak budur. Üçüncüsü, dil modeli yalnızca bir model türüdür: görüntü, ses ve video modelleri başka bir mantıkla çalışır ve bu sayfa onlarla ilgili değildir.
Kendi işimizden
Bu sitenin yapay zeka bölümü için 110 model sürümü sayfası tutuyoruz. Bu dersin denetlendiği gün, bunların 37'si adı belirtilmiş bir kaynakla bağlam penceresi taşıyordu: en küçüğü bir çeviri modelinde 8.000 token, en büyüğü ise Llama 4 Scout'un aynı on milyonu. Sayarken bizi şaşırtan şey, o 37'nin 16'sının farklı üreticilerde tam olarak bir milyonda durmasıydı. Rakip şirketlerden on altı modelin üzerinde tam olarak uzlaştığı bir rakam teknik bir tavan değildir; bir ürün kararıdır. Kendiniz saymak isterseniz, wp-content/plugins/rgb-ai/data/versions/ altındaki dosyalar ve context_tokens anahtarı aynı şeyi söylüyor.
Gerçek devam soruları
Büyük dil modeli ile sohbet botu farklı mı?
Evet. Model motordur; sohbet botu ise onun çevresine kurulmuş üründür: arayüz, sohbet geçmişi, araçlar, sınırlar ve şirket politikaları. Tek bir model birkaç farklı ürünün arkasında durabilir ve tek bir ürün, yaptığınız işe göre birkaç farklı modeli çağırabilir.
Neden aynı soruya her seferinde farklı yanıt veriyor?
Çünkü sonraki tokenı seçmek her zaman en olası seçeneğe gitmez; içinde bir miktar rastlantı vardır. Bu ayar bilinçlidir ve metni daha doğal, daha az tekrarlı kılar. Aynı çıktıya ihtiyacınız varsa programatik erişim üzerinden denetlenebilir; sohbet penceresinde genellikle denetlenemez.
Daha büyük bağlam penceresi daha iyi model demek mi?
Hayır. Daha büyük pencere yalnızca modelin tek seferde daha çok metin gördüğü anlamına gelir. Bunun ne kadarını gerçekten kullandığı ayrı bir sorudur ve hiçbir üretici pencerenin tamamında eşit kalite vaat etmedi. Sıradan işler için bugünün en ucuz modellerindeki pencere zaten çoğu ihtiyaçtan büyüktür.