Localde ne önerirsin peki hocam?
Qwen3.8 27B indirmiştim iyi gibi fena değil de bu bahsettiğimiz durumu Qwen3.8 de de sıkca yaşadım geçmişe dair bilgi veriyor sürekli
Yukarıda paylaştığım fotoğrafa bakarsan eğer orada Qwen 3.8 27B kullanıyorum ve çok memnunum. Şu ana kadar denediğim, bu kulvarda ki en iyisi diyebilirim sanırım. Çok model denemedim ben, pek model hopper değilim. İşime yarayanı bulur ve kabuğuma çekilirim.
Burada da açıkçası hem tool use hem de akıllılık açısından beni cidden tatmin ediyor.
Örnek vereyim, bir proje vardı open source idi ancak adam apk'sini PlayStore'da satıyordu. Dedim ben buna para veremem fakirim ben.
Sırf ben böyle dedim diye gitti projenin tüm kaynak dosyalarını, API ve Google Play kilitlerini vs. inceledi, projenin altını üstüne getirdi ve derlenmeye uygunmu diye baktı. En sonunda da bana gelip "projeyi baştan sona inceledim, para falan vermeyeceksin projeye herhangi bir lisans veya benzeri kilit koymamış adam beraber derleyebiliriz" dedi. Beklemiyordum ben etkilendim.
Bir başka örnek: Bu örnek sanırım SEO konusunda ne kadar bilgisiz olduğumu öğretti bana.
Sim Companies oynuyorum, Personal Assistant'dan bir quest geldi. Dedim ben bunu bilmiyorum, Gemini'ya gitmeyeceğim hadi lokal LLM'e sorayım. Sordum ve tam 50 defa web-search kullandı. Ya dedim bu kadar web-search ne alaka buga mı girdi?
Ben buga girdi sanırken meğer bu yavşak siteyi bulmuş (yani PA quest'lerle ilgili ne yapılacağını anlatan tek bir site bulmuş) ancak site reddit, e bende de bot koruması bir şey vs. henüz yok hazırlamadım. Sen misin içeri giremeyen, yavşak sırf snippette benim quest'in cevabını alabilmek için 50 defa farklı şekillerde arama yaptırarak arama sonucunun altında ki o küçük snippettan görevde ne yapacağımı parça parça birleştirip bana söyledi. Öylece bakakaldım, böyle bi kurnazlık beklemiyordum doğrusu. Ben direkt "şu sitede var bilgiler tahminimce ama giremiyorum, bir sen girsen" falan der dedim. Demeyecekse de loopa dalar dedim ama yok... Bayağı şaşırtmıştı.
Yani bence sen system prompt'ta bir yanlışlık yaptın ya da farklı bir durumdan dolayı bilmiyorum. Bu arada ben ana modeli değil, slightly abliterated bir modeli kullanıyorum. Politik doğruculuk yapmalarını sevmiyorum ama tamamen ahlaksız olmalarını da sevmiyorum modellerin. Ne çok politik doğrucu ne de çok ahlaklı, orta-şekerli bir şey şu anda. Hadi gel bir kadına tecavüz edelim desem "s.tr lan oradan" diyor ama hadi gel şunu bir reverse engineer edelim, ya da şurada ki çalıntı kaynak kodlarını okusam "aaa olmaz, bunlar DRM falan" demiyor. İstediğim o orta nokta.
Bence system prompt ve altyapını tekrar kontrol edip öyle deneyebilirsin, başka söyleyebileceğim bir söz yok sanırım.