Sohbet robotlarının çalışmasını sağlayan yapay zekâ dil modelleri terabaytlarca metin üzerinde eğitilmiştir. Ancak, bu sistemlerdeki bellek sınırlıdır. Eski OpenAI mühendislerinin kurduğu Anthropic şirketi, Claude adlı sohbet robotu için bağlam penceresini genişleterek 75.000 kelimeye çıkardı. Bu, ChatGPT’deki yaklaşık 3.000 kelimenin oldukça üzerindedir.
BU HABERLER İLGİNİZİ ÇEKEBİLİR
Bard, Bing ve ChatGPT gibi rakiplerine karşı geliştirilen Claude, klasik bir romanı sadece 30 saniyede tamamen anlayabilecek kapasiteye ulaştı. Ancak, bu yeni kapasite şu anda sadece Anthropic iş ortakları tarafından şirketin API’si aracılığıyla kullanılabilmektedir.
Yapay zekâ dil modellerinin büyük miktarda metni işlemesi, önemli hesaplama kaynakları gerektirse de artan yetenekleri, bu sistemleri daha kullanışlı hale getirecektir. Sohbet robotlarının bağlam penceresi, tam olarak kelime veya karakter sayısına karşılık gelmeyen belirteçlere göre ölçülmektedir.
22 Saniye gibi Kısa Sürede Romanda Yapılan Değişikliği Buldu
Önceden yaklaşık 9.000 belirteç (token) işleyebilen Claude, şimdi ise 100.000 belirteç yani yaklaşık 75.000 kelime işleyebilme kapasitesine sahip oldu. Karşılaştırma yapacak olursak, ücretli bir hizmet olan OpenAI’nin GPT-4’ü yaklaşık 8.000 belirteç işleyebilirken, tam sürümü 32.000 belirteç işleyebiliyor.
Anthropic, Claude’un genişletilmiş bağlam penceresi sayesinde uzun belgeleri birkaç dakika içinde özetleyebileceğini ve analiz edebileceğini belirtiyor. Şirket, bir insanın 75.000 kelimelik bir metni okumasının yaklaşık beş saat sürdüğünü ifade ediyor. Claude’a yapılan bir testte, geliştiriciler Muhteşem Gatsby romanını okuttular ve bir satırda yapılan değişikliği bulmasını istediler. Claude, yapılan değişikliği sadece 22 saniyede doğru şekilde tespit edebildi.
