Yerel Ai Sistem Toplayacam Yardımcı Olurmusunuz ?

Katılım
16 Temmuz 2022
Mesajlar
19
Reaksiyon skoru
0
benim kenarda duran apu bir sistemim var. özellikleri r5 5600g 16gb 3200mhz xpg ram 512gb kioxia ssd msi b550m a pro micro atx anakart ve gameboosterın psulu kasası var 550watt olması lazım sanırım. buna gerekirse anakrt ve psu yükseltmesi yaparak ve 2 tane ekran kartı alarak ai sunucusu yapmak istiyorum bütçem çok yok önerileriniz ne olur
 
8.nesil i7 işlemci ile bile yapıyorum ben, aldırış etme sen topla sistemi ddr4 sistemin olması çok avantajlı ramleri ilerde uyguna yükseltebilirsin, nvidia ekran kartı alman lazım 3060 12gb gibi
 
8.nesil i7 işlemci ile bile yapıyorum ben, aldırış etme sen topla sistemi ddr4 sistemin olması çok avantajlı ramleri ilerde uyguna yükseltebilirsin, nvidia ekran kartı alman lazım 3060 12gb gibi
Hangi sistem ile hangi model ile neyi yapıyorsun sadece merak ettim açıkçası.
Mesaj otomatik olarak birleştirildi:

benim kenarda duran apu bir sistemim var. özellikleri r5 5600g 16gb 3200mhz xpg ram 512gb kioxia ssd msi b550m a pro micro atx anakart ve gameboosterın psulu kasası var 550watt olması lazım sanırım. buna gerekirse anakrt ve psu yükseltmesi yaparak ve 2 tane ekran kartı alarak ai sunucusu yapmak istiyorum bütçem çok yok önerileriniz ne olur
Sunucu yapmana gerek yok düşük bütçe ile sadece size yetecek seviyede bir Localde model çalıştırabilirsiniz. Bunun içinde kendi sistemini özelleştirip local de model çalıştırmak en mantıklısı olacaktır. Bunun içinde en azından 16gb vram'e ihtiyacınız var.
Mesaj otomatik olarak birleştirildi:

Kaç gb ram ile ai sunucusu kurulur?
Genellikle sadece vram bir gerek gibi gözükse de aslında ram ihtiyacı da vardır bu durumda genellikle şu hesap kullanılıyor ne kadar vram var ise onun 2 katı kadar ram ihtiyacı var demektir. Burada eğer ben Localde Deepseek R1 çalıştıracam derseniz 350gb vram ve 1,35TB Ram(Kimi K3 hiç girmiyorum bile) ihtiyacınız olur ama ben LLM tarzı değilde küçük bir model çalıştıracağım derseniz de Qwen 3.8 kullanabilirsiniz burada da Q4 kullansanız dahil 16GB Vram ihtiyacınız doğuyor.
 
Son düzenleme:
Hangi sistem ile hangi model ile neyi yapıyorsun sadece merak ettim açıkçası.
Mesaj otomatik olarak birleştirildi:


Sunucu yapmana gerek yok düşük bütçe ile sadece size yetecek seviyede bir Localde model çalıştırabilirsiniz. Bunun içinde kendi sistemini özelleştirip local de model çalıştırmak en mantıklısı olacaktır. Bunun içinde en azından 16gb vram'e ihtiyacınız var.
Mesaj otomatik olarak birleştirildi:


Genellikle sadece vram bir gerek gibi gözükse de aslında ram ihtiyacı da vardır bu durumda genellikle şu hesap kullanılıyor ne kadar vram var ise onun 2 katı kadar ram ihtiyacı var demektir. Burada eğer ben Localde Deepseek R1 çalıştıracam derseniz 350gb vram ve 1,35TB Ram(Kimi K3 hiç girmiyorum bile) ihtiyacınız olur ama ben LLM tarzı değilde küçük bir model çalıştıracağım derseniz de Qwen 3.8 kullanabilirsiniz burada da Q4 kullansanız dahil 16GB Vram ihtiyacınız doğuyor.
8.nesil i7 işlemci ile bile yapıyorum ben, aldırış etme sen topla sistemi ddr4 sistemin olması çok avantajlı ramleri ilerde uyguna yükseltebilirsin, nvidia ekran kartı alman lazım 3060 12gb gibi
Hangi sistem ile hangi model ile neyi yapıyorsun sadece merak ettim açıkçası.
Mesaj otomatik olarak birleştirildi:


Sunucu yapmana gerek yok düşük bütçe ile sadece size yetecek seviyede bir Localde model çalıştırabilirsiniz. Bunun içinde kendi sistemini özelleştirip local de model çalıştırmak en mantıklısı olacaktır. Bunun içinde en azından 16gb vram'e ihtiyacınız var.
Mesaj otomatik olarak birleştirildi:


Genellikle sadece vram bir gerek gibi gözükse de aslında ram ihtiyacı da vardır bu durumda genellikle şu hesap kullanılıyor ne kadar vram var ise onun 2 katı kadar ram ihtiyacı var demektir. Burada eğer ben Localde Deepseek R1 çalıştıracam derseniz 350gb vram ve 1,35TB Ram(Kimi K3 hiç girmiyorum bile) ihtiyacınız olur ama ben LLM tarzı değilde küçük bir model çalıştıracağım derseniz de Qwen 3.8 kullanabilirsiniz burada da Q4 kullansanız dahil 16GB Vram ihtiyacınız doğuyor.
ben gamegaraj slayer r9t 5050 var onda yapıyrum 8gb ile çalışıyor büyük bölümü yaptım geri ses agentı falan kaldı işte. o eski kasaya şimdi bir rtx 3060 sonra bir kaç yükseltme ile ikinci bir 3060 alarak tamamlamak istiyorum. sonra ramleri satar yükseltir işlemciyide aynı satar yükseltirim kasa boşta dursun istemiyorum
 
benim kenarda duran apu bir sistemim var. özellikleri r5 5600g 16gb 3200mhz xpg ram 512gb kioxia ssd msi b550m a pro micro atx anakart ve gameboosterın psulu kasası var 550watt olması lazım sanırım. buna gerekirse anakrt ve psu yükseltmesi yaparak ve 2 tane ekran kartı alarak ai sunucusu yapmak istiyorum bütçem çok yok önerileriniz ne olur
boşuna uğraşma çok isteğin varsa birkaç dolara vast.ai dan sunucu kirala hevesin gitsin.
 
Hangi sistem ile hangi model ile neyi yapıyorsun sadece merak ettim açıkçası.
Mesaj otomatik olarak birleştirildi:


Sunucu yapmana gerek yok düşük bütçe ile sadece size yetecek seviyede bir Localde model çalıştırabilirsiniz. Bunun içinde kendi sistemini özelleştirip local de model çalıştırmak en mantıklısı olacaktır. Bunun içinde en azından 16gb vram'e ihtiyacınız var.
Mesaj otomatik olarak birleştirildi:


Genellikle sadece vram bir gerek gibi gözükse de aslında ram ihtiyacı da vardır bu durumda genellikle şu hesap kullanılıyor ne kadar vram var ise onun 2 katı kadar ram ihtiyacı var demektir. Burada eğer ben Localde Deepseek R1 çalıştıracam derseniz 350gb vram ve 1,35TB Ram(Kimi K3 hiç girmiyorum bile) ihtiyacınız olur ama ben LLM tarzı değilde küçük bir model çalıştıracağım derseniz de Qwen 3.8 kullanabilirsiniz burada da Q4 kullansanız dahil 16GB Vram ihtiyacınız doğuyor.
gözüm öyle en büyükleri değil bana yetecek kadar 32 40 falan o kadarlık aiları çalıştırırım
 
Geri
Top