Kendi Yapay Zekamızı Nasıl Kurarız?

Описание: Çoğumuz yapay zekayı kullanırken API'ler aracılığıyla şirketlere verilerimizi gönderiyoruz. Peki ya güvenlik? Verilerimizin gizliliğini koruyarak, dev şirketlere (OpenAI vb.) bağlı kalmadan kendi yapay zeka modelimizi nasıl kurabiliriz?

Bu videoda işin mutfağına giriyoruz ve açık kaynaklı (open source) yapay zeka modellerini kendi sistemimizde nasıl çalıştıracağımızı adım adım inceliyoruz. Elbette bu güçlü modeller bilgisayarlarımızı biraz yorabiliyor. Ancak endişelenmeyin; bellek sorunlarını nasıl aşacağımızı, modelleri nasıl sıkıştıracağımızı (Quantization) ve sistemimizi nasıl hızlandıracağımızı çok basit bir dille anlattım.

Kendi yapay zeka sunucunu ayağa kaldırmaya hazırsan, videoya geçelim! İyi seyirler.

⏳ Video Bölümleri (Timestamps):
00:00 - Giriş
05:06 - Hazır API Kullanmak Neden Riskli Olabilir?
08:16 - Çözüm: Açık Kaynaklı (Open Source) Modeller
14:34 - Model Nedir?
16:27 - Sayılar RAM'de Nasıl Tutulur?
20:37 - Modellerdeki Boyut Problemi
21:27 - Sihirli Çözüm: Modelleri Sıkıştırmak (Quantization)
22:40 - Hikaye 1
28:52 - Hangi Modeli Kullanmam Lazım? ve Hikaye 2
32:20 - KV Cache
41:02 - vLLM ve Paged Attention
46:24 - Tensor Paralelism
49:29 - vLLM Komutu Üzerinden Sistemi İnceleme
58:28 - Son Özet ve Kapanış

🔔 Kanalıma abone olmayı ve yeni videolardan haberdar olmak için zili açmayı unutmayın!