kaptans
80+
- Katılım
- 16 Kasım 2026
- Mesajlar
- 3
- Reaksiyon skoru
- 1
Selam,
Yaklaşık bir yıldır boş zamanlarımda tek başıma bir uygulama geliştiriyorum, sonunda ilk beta sürümünü yayınladım. Adı DeskLLM. Yapay zeka modellerini kendi bilgisayarında, internete bağlanmadan çalıştırmanı sağlıyor. Hesap açmak yok, abonelik yok, yazdıkların bilgisayarından çıkmıyor.
Amacım, teknik bilgisi olmayan birinin de terminal komutlarıyla uğraşmadan, birkaç tıkla kendi bilgisayarında yapay zeka kullanabilmesiydi.
Neler yapıyor?
- Ekran kartına ve RAM'ine bakıp bilgisayarına uygun modelleri öneriyor, tek tıkla indiriyor
- Model indikten sonra internetsiz sohbet
- PDF, Word ya da kod dosyası ekleyip onlar hakkında soru sorabiliyorsun, cevabın belgenin hangi kısmına dayandığını da gösteriyor
- Mikrofonla Türkçe konuşup yazdırabiliyorsun, bu da internetsiz
- Bazı modeller resimleri de anlıyor
- Türkçe ve İngilizce arayüz, koyu ve açık tema
Hız konusunda: Benim RTX 3070'imde Gemma 4 12B modeliyle yaptığım ölçümler şöyle:
- CUDA: saniyede 12,8 token
- Vulkan: saniyede 6,4 token
- Sadece işlemci: saniyede 3,3 token
NVIDIA kartlarda CUDA, AMD ve Intel kartlarda Vulkan kullanıyor. Ekran kartı yoksa model işlemcide de çalışıyor ama yavaş kalıyor. Yani ekran kartı olması deneyimi ciddi şekilde iyileştiriyor.
Gereksinimler:
- Windows 10/11, 64 bit
- En az 8 GB RAM (16 GB önerilir)
- Ekran kartı önerilir: en az 6 GB belleği olan bir kartla çok daha hızlı çalışıyor
- Modeller için diskte 2-20 GB boş yer (modelin boyutuna göre)
github.com
Kurulum dosyası dijital olarak imzalı olmadığı için Windows "bilinmeyen yayıncı" uyarısı verebilir, "Ek bilgi → Yine de çalıştır" diyerek devam edebilirsiniz. Kodu açık kaynak (GPL-3.0), merak eden GitHub'da içine bakabilir.
Sizden ricam: Uygulamayı sadece kendi bilgisayarımda (RTX 3070) deneyebildim. Özellikle AMD ya da Intel ekran kartı olanlar, RTX 40/50 serisi kullananlar ve ekran kartı olmayan bilgisayarlarda deneyenler nasıl çalıştığını yazarsa çok sevinirim. Hangi kart, hangi model, saniyede kaç token aldınız, bir hata çıktı mı... Her türlü eleştiriye açığım.
Hata bulursanız uygulamada Ayarlar → Hakkında → Sürüm Bilgisini Kopyala deyip buraya yapıştırırsanız sorunu bulmam çok kolaylaşır.
Daha fazla detay için GitHub sayfamda Türkçe Readme'yi okuyabilirsiniz.
Şimdiden teşekkürler!
Github Linki
Yaklaşık bir yıldır boş zamanlarımda tek başıma bir uygulama geliştiriyorum, sonunda ilk beta sürümünü yayınladım. Adı DeskLLM. Yapay zeka modellerini kendi bilgisayarında, internete bağlanmadan çalıştırmanı sağlıyor. Hesap açmak yok, abonelik yok, yazdıkların bilgisayarından çıkmıyor.
Amacım, teknik bilgisi olmayan birinin de terminal komutlarıyla uğraşmadan, birkaç tıkla kendi bilgisayarında yapay zeka kullanabilmesiydi.
Neler yapıyor?
- Ekran kartına ve RAM'ine bakıp bilgisayarına uygun modelleri öneriyor, tek tıkla indiriyor
- Model indikten sonra internetsiz sohbet
- PDF, Word ya da kod dosyası ekleyip onlar hakkında soru sorabiliyorsun, cevabın belgenin hangi kısmına dayandığını da gösteriyor
- Mikrofonla Türkçe konuşup yazdırabiliyorsun, bu da internetsiz
- Bazı modeller resimleri de anlıyor
- Türkçe ve İngilizce arayüz, koyu ve açık tema
Hız konusunda: Benim RTX 3070'imde Gemma 4 12B modeliyle yaptığım ölçümler şöyle:
- CUDA: saniyede 12,8 token
- Vulkan: saniyede 6,4 token
- Sadece işlemci: saniyede 3,3 token
NVIDIA kartlarda CUDA, AMD ve Intel kartlarda Vulkan kullanıyor. Ekran kartı yoksa model işlemcide de çalışıyor ama yavaş kalıyor. Yani ekran kartı olması deneyimi ciddi şekilde iyileştiriyor.
Gereksinimler:
- Windows 10/11, 64 bit
- En az 8 GB RAM (16 GB önerilir)
- Ekran kartı önerilir: en az 6 GB belleği olan bir kartla çok daha hızlı çalışıyor
- Modeller için diskte 2-20 GB boş yer (modelin boyutuna göre)
GitHub - DeskLLM/DeskLLM: Run AI models on your own computer. No account, no subscription.
Run AI models on your own computer. No account, no subscription. - DeskLLM/DeskLLM
Kurulum dosyası dijital olarak imzalı olmadığı için Windows "bilinmeyen yayıncı" uyarısı verebilir, "Ek bilgi → Yine de çalıştır" diyerek devam edebilirsiniz. Kodu açık kaynak (GPL-3.0), merak eden GitHub'da içine bakabilir.
Sizden ricam: Uygulamayı sadece kendi bilgisayarımda (RTX 3070) deneyebildim. Özellikle AMD ya da Intel ekran kartı olanlar, RTX 40/50 serisi kullananlar ve ekran kartı olmayan bilgisayarlarda deneyenler nasıl çalıştığını yazarsa çok sevinirim. Hangi kart, hangi model, saniyede kaç token aldınız, bir hata çıktı mı... Her türlü eleştiriye açığım.
Hata bulursanız uygulamada Ayarlar → Hakkında → Sürüm Bilgisini Kopyala deyip buraya yapıştırırsanız sorunu bulmam çok kolaylaşır.
Daha fazla detay için GitHub sayfamda Türkçe Readme'yi okuyabilirsiniz.
Şimdiden teşekkürler!
Github Linki