Yapay zekâ sözlüğü

Modeller ve nasıl kurulduğu

Bu on iki terim modelin kendisiyle ilgili: neden yapıldığı, neyle ölçüldüğü ve nasıl çalıştığı.

Büyük dil modeli (large language model): büyük hacimde metinle eğitilmiş ve işi bir metnin en olası devamını tahmin etmek olan bir program. Çeviriden kod yazmaya kadar onunla yaptığınız her şey bu tek işin farklı biçimleridir.

Parametre (parameter): eğitim sırasında ayarlanan ve nihai davranışın bir kısmını belirleyen, modelin içindeki bir sayı. Parametre sayısı modelin boyutunu söyler, kalitesini değil.

Ağırlıklar (weights): eğitilmiş parametrelerin kendisi; indirip çalıştırabileceğiniz bir dosya hâlinde. Açık ağırlık, bu dosyanın yayımlandığı anlamına gelir; eğitim kodunun ve verisinin yayımlandığı anlamına değil.

Transformer: bugünkü modellerin çoğunun üzerine kurulduğu sinir ağı mimarisi. Belirleyici özelliği, modelin metnin her parçasını işlerken metnin geri kalanına da bakmasını sağlayan dikkat mekanizmasıdır.

Token: modelin saydığı metin parçası; genelde bir kelimeden küçüktür. Maliyetler ve sınırlar kelimeyle değil tokenla ölçülür.

Bağlam penceresi (context window): modelin aynı anda görebildiği en fazla token sayısı; hem girdinizi hem ürettiği yanıtı kapsar. Konuşma uzadıkça başı pencereden düşer ve model artık ona sahip değildir.

Çok kipli model (multimodal model): metin, görsel ve ses gibi birden fazla girdi türünü anlayan model. Çok kipli olmak hepsinde iyi olmak demek değildir.

Akıl yürüten model (reasoning model): yanıt vermeden önce problemi parçalamak için daha çok ara adım üreten model. Yanıtı daha yavaş ve daha pahalı gelir, basit bir soru için değmez.

Açık ağırlıklı model (open weight model): ağırlık dosyası yayımlanmış, böylece kendi donanımınızda çalıştırabildiğiniz model. Açıklık bir derece meselesidir ve her modelin lisansı ayrı okunmalıdır.

Model kartı (model card): üreticinin modelle birlikte yayımladığı, yetenekleri, sınırları ve kullanım şartlarını yazan belge. Bir modelin üzerine bir şey kurmadan önce okunacak ilk şeydir.

Nicemleme (quantisation): ağırlıkların sayısal hassasiyetini düşürerek modeli küçültmek, böylece daha zayıf donanıma sığar. Daha az bellek karşılığında çıktı kalitesi biraz düşer.

Çıkarım (inference): eğitilmiş modeli yanıt almak için kullanma aşaması; eğitimden tamamen ayrıdır. Gönderdiğiniz her isteğin maliyeti bu aşamaya aittir.

Eğitim ve veri

Bu on iki terim, model size ulaşmadan önce yapılmış ve bir kez ve temelli bitmiş bir işle ilgilidir.

Eğitim (training): modelin parametrelerinin büyük hacimde veriye maruz kalarak ayarlandığı süreç. Pahalıdır, aylar sürer ve bittikten sonra sizin konuşmanızla devam etmez.

Eğitim verisi (training data): modelin üzerinde eğitildiği metin, görsel ve ses derlemi. O derlemdeki her yanlılık ve hata, modelin davranışına yolunu bulur.

Ön eğitim (pretraining): eğitimin ilk ve en büyük aşaması; model burada ham veriden dilin genel örüntülerini öğrenir. Bu aşamadan çıkan şey henüz bir asistan değil, yalnızca bir metin tahmincisidir.

İnce ayar (fine tuning): bitmiş bir modeli daha küçük ve daha uzmanlaşmış veriyle yeniden eğitmek, böylece davranışı tek bir işe yaklaşır. İyi bir istemin yerini tutmaz ve ancak çok sayıda tutarlı örneğiniz varsa anlamlıdır.

İnsan geri bildirimiyle pekiştirmeli öğrenme (RLHF): insanların modelin yanıtlarını sıraladığı ve modelin hangi yanıt biçiminin tercih edildiğini öğrendiği aşama. Bir metin tahmincisini asistana benzer bir şeye çeviren aşama budur.

Damıtma (distillation): daha küçük bir modeli, daha büyük bir modelin çıktısıyla eğiterek kurmak. Sonuç daha ucuz ve hızlıdır ve zor işlerde genelde aynı kaliteye ulaşmaz.

Bilgi kesimi (knowledge cutoff): modelin eğitim verisinin toplandığı son tarih. Ondan sonra olan hiçbir şey modelde yoktur, ne kadar güvenle konuşursa konuşsun.

Aşırı uyum (overfitting): modelin örüntüyü öğrenmek yerine eğitim verisini ezberlemesi ve yeni veride kötü çalışması. Değerlendirmelerde şüpheli derecede yüksek bir puan olarak görünür.

Yanlılık (bias): modelin bir yanıta ya da bir gruba sistematik eğilimi; kaynağı eğitim verisi ya da eğitim sürecinin kendisidir. Yanlılık rastgele hatadan farklıdır, çünkü tek bir yönde tekrarlanır.

Kıyaslama testi (benchmark): modelleri tanımlı bir işte karşılaştırmak için standart sınav. Yüksek puan, modelin sizin gerçek işinizde daha iyi olduğunu garanti etmez; çünkü sınav koşulları sizin koşullarınız değildir.

Veri etiketleme (data labelling): her veri örneğinin ne olduğunu ya da hangi yanıtın daha iyi olduğunu işaretleyen insan emeği. Model kalitesinin büyük bir kısmı bu az görünen işe dayanır.

Sentetik veri (synthetic data): kendisi bir modelin çıktısı olan ve başka bir modeli eğitmek için kullanılan veri. Ucuzdur ve dikkatsiz kullanıldığında ilk modelin hatalarını ikinciye taşır.

Modelle çalışmak

Günlük işte en çok karşılaşılan ve en çok karıştırılan on üç terim.

İstem (prompt): modelin yanıt üretmesi için ona verdiğiniz metin. Konuşmada yazılmış her şey istemin parçasıdır, yalnızca son mesaj değil.

Sistem istemi (system prompt): üreticinin ya da geliştiricinin sizin konuşmanızdan önce modele verdiği ve genel davranışını belirleyen sabit talimat. Genelde onu görmezsiniz, yine de aldığınız her yanıtı etkiler.

İstem mühendisliği (prompt engineering): çıktı istediğinize yaklaşana kadar istemi yazma ve düzeltme işi. Çoğu açık yazmaktır, çok azı numaradır.

Az örnekle öğretme (few shot): istemin içine birkaç girdi ve çıktı örneği koyarak modelin istediğiniz biçimi kapmasını sağlamak. Tarif etmesi zor, göstermesi kolay işler için en iyi yoldur.

Düşünce zinciri (chain of thought): nihai yanıttan önce modelden ara adımlar istemek. Çok adımlı problemlerde sonucu iyileştirir, basit soruyu ise yalnızca uzatır.

Sıcaklık (temperature): modelin daha az olası seçeneklere ne kadar uzanacağını belirleyen ayar. Düşük sayı daha tekdüze ve öngörülebilir çıktı verir, yüksek sayı daha çeşitli ve daha oynak.

API: programınızın grafik arayüz olmadan doğrudan modelle konuştuğu yol. Bu yoldaki veri politikası ve fiyatlandırma genelde tüketici planından farklıdır.

Konuşma belleği (conversation memory): bir aracın önceki konuşmalarınızdan saklayıp modelin önüne yeniden koyduğu şey. Bağlam penceresiyle aynı değildir: pencere tek bir istek üzerindeki sınırdır, bellek ise ürün özelliğidir.

Erişimle güçlendirilmiş üretim (RAG): model yanıtlamadan önce belgelerinizden ilgili parçaların bulunup isteme eklendiği yöntem. Modeli eğitmeden kendi verinizden yanıt vermesini sağlamanın olağan yoludur.

Gömme (embedding): bir metni anlamını temsil eden sayı listesine çevirmek, böylece anlamca yakın metinler bulunabilir. Anlamsal arama ve yukarıdaki erişim aşaması bunun üzerinde çalışır.

Yapılandırılmış çıktı (structured output): bir programın doğrudan tüketebilmesi için modeli JSON gibi tanımlı bir biçimde yanıt vermeye zorlamak. Bu olmadan çıktı düz metindir ve her seferinde biraz değişir.

Araç çağırma (tool calling): modelin yanıt vermek yerine bir fonksiyonun çalıştırılmasını ya da bir aramayı isteyip sonucu kullanmasını sağlayan yetenek. Ajan denen şeyin temelidir.

Ajan (agent): modeli bir döngüye koyarak araçlarla çalışmasını ve birkaç adımı arka arkaya yürütmesini sağlayan sistem. Onu sohbet botundan ayıran şey, yalnızca yanıtlamayıp bir şey yapmasıdır.

Güvenlik, hata ve haklar

İş ciddileştiğinde önem kazanan ve pazarlama metinlerinde genelde bulunmayan on iki terim.

Halüsinasyon (hallucination): modelin doğru görünen ama gerçek olmayan bir şey üretmesi; var olmayan bir kaynak ya da hiçbir yerde geçmeyen bir sayı gibi. Bir arızadan değil tahmin mekanizmasından gelir, bu yüzden bir sonraki sürümle tümüyle kalkmaz.

İstem enjeksiyonu (prompt injection): modelin okuduğu bir metnin, örneğin bir web sayfasının ya da e postanın, modele yönelik bir talimat içermesi ve modelin onu uygulaması. İnternete ya da dosyalara erişimi olan ajanlar için asıl risk budur.

Jailbreak: bir isteğin ifade ediliş biçimiyle modelin davranış kurallarını aşma girişimi. Üreticiler sürekli kapatır, sürekli yenileri çıkar.

Filigran (watermark): üretim anında çıktının içine gömülen ve sonradan makine yapımı olduğunu tanımaya yarayan işaret. Yalnızca onu gömen modellerin çıktısında çalışır ve o üreticinin kendi aracıyla okunur.

İçerik kökeni (C2PA): bir dosyanın oluşturulma ve düzenlenme geçmişini dosyanın içinde kaydeden standart. Filigrandan farklıdır: bu, sökülebilen üstveridir; öteki ise içeriğin kendisindeki bir işarettir.

Deepfake: gerçek bir kişiye benzesin diye yapay zekâyla üretilmiş görüntü, video ya da ses. Ortaya çıkardığı sorun teknik değil, rıza ve aldatma sorunudur.

Hizalama (alignment): modelin davranışını insanların niyet ve değerleriyle uyumlu kılma çabası. Bir gün işaretlenip biten bir özellik değil, açık bir araştırma problemidir.

Koruma bandı (guardrail): belirli bir çıktıyı ya da davranışı engellemek için modelin dışına konan kısıt. Modelin dışında durduğu için hem ayarlanabilir hem de aşılabilir.

Yapay zekâ dedektörü (AI detector): bir metni makinenin yazıp yazmadığını tahmin eden araç. Çıktısı bir hüküm değil olasılıktır ve İngilizce olmayan ile düzenlenmiş metinlerde daha çok yanılır.

Eğitimden çıkma (training opt out): verinizin bir sonraki modeli eğitmek için kullanılmasını durduran ayar ya da hak. Saklamayı ve insan incelemesini durdurmaz; bunlar ayrı iki şeydir.

Çıktının telifi (copyright of output): modelin ürettiği metnin ya da görselin kime ait olduğu ve korunup korunmadığı sorusu. Yanıt ülkeye ve hizmetin şartlarına bağlıdır ve değişmektedir; burada genel bir hüküm vermiyoruz.

Yalakalık (sycophancy): modelin doğru biçimde itiraz etmek yerine kullanıcıyı onaylama eğilimi. Fikrim hakkında ne düşünüyorsun sorusunun düşük değerli, bu fikri ne bozar sorusunun daha iyi bir yanıt almasının nedeni budur.

Anlamı pazarlamada değişen kelimeler

Aşağıdaki beş kelimenin teknik yazıda net anlamları vardır, pazarlama metninde ise neredeyse hiç yoktur. Farkı görmek, bir sözlüğün size vermesi gereken beceridir.

Akıllı. Tek başına hiçbir şey söylemez. Doğru soru şudur: bu sistem hangi kararı, hangi girdiye dayanarak veriyor; net bir yanıt yoksa sıfatı yok sayın.

Öğreniyor. Yayına alınmış bir model genelde sizin kullanımınızdan öğrenmez. Eğitim ile çıkarım arasındaki ayrımın anlamı budur ve ürünlerin öğrenme dediği şey neredeyse her zaman konuşma belleğidir, yani metni saklayıp isteme geri koymak. Gerçekten eğitiliyorsa bu iddianın yeri ürünün veri politikasıdır, satış sayfası değil.

Halüsinasyon yok. Bu iddia mekanizmayla bağdaşmıyor. Hata olasılığı kaynaktan erişimle ve çıktıyı denetleyerek düşürülebilir, ama yok kelimesi ciddi hiçbir üreticinin belgelerine yazmadığı bir vaattir.

Açık kaynak. Bu bir yelpazedir. Open Source Initiative açık kaynak yapay zekâ için kendi resmî tanımını yayımladı ve açık denen pek çok model bu tanımı karşılamıyor; çünkü yalnızca ağırlıklar yayımlandı ve lisans ticari kısıtlar taşıyor. Üzerine bir ürün kurmadan önce her modelin lisansını ayrı okuyun.

Ücretsiz. Ücretsiz plan yalnızca bir fiyat değil, bir veri politikasındaki bir noktadır. Girdinizin ürünü geliştirmek için kullanılma olasılığının en yüksek olduğu yerdir ve ayrıntısını sağlayıcı bazlı bir tabloyla yapay zekâ araçlarında gizlilik dersinde verdik.

Herhangi bir yapay zekâ iddiası için pratik sınama, her zamanki sınamadır: bu cümle yanlış olsaydı ne değişirdi? Yanlış olmasının hiçbir yolu bulunmayan iddia, iddia değil süstür.