Bu muhabbetin üzerinden 2 yıl geçmiş. 2 yılda deepseek distile edilmiş dosyalarla standalone olarak bir laptopa bile kurulabilecek hale geldi.
hugginface'de 6 ay önce 80GB gpu ram isteyen (100bin dolarlık kartlar gerekiyor) modeller yine distile edilerek 20gb'larda (4090'larda vb) çalışır hale getirildiler.
Yani bu alanda neredeyse 90'ların PC'lerinde görülen bir hızla ilerleme kat ediliyor. Önümüzdeki 50 yıl yapay zeka ile hayatın değiştiği bir dönem olacak gibi.
biz de şimdiden bu işlere alışmamız lazım:
buyrun benim kendi makinemde sıkça kullandığım birkaç AI araç:
https://huggingface.co/openai/whisper-large-v3Bu belgesel film üretiminde çok işe yarıyor. Ses dosyalarını metne dönüştürüyor. Eskiden dinleyip yazmak zorunda kalırdık, günler alırdı, 10 dakikası şimdi 5 saniye falan sürüyor benim RTX2070'de.
https://github.com/InsightEdge01/MistralOCR/tree/mainmistral AI OCR. Bu sadece OCR etmiyor aynı zamanda sayfadaki font biçmine göre MarkDown ile biçimlendiriyor. Okuyamadığı yerleri de kesip aralara jpg olarak yapıştırıyor.
(Bunun için
https://mistral.ai/ 'den bir ücretsiz hesap oluşturup API key almalısınız)
stability ai'ın text-to-image generatorü:
https://huggingface.co/stabilityai/stable-diffusion-xl-base-1.0Biraz modası geçse de bunu PixelArt lora'ları ile yönlendirince iyi çıktılar veriyor.
özellikle
https://huggingface.co/nerijs/pixel-art-xl tek bir şeyi generate etmek için çok iyi sonuç veriyor. Kılıç, çekiç, kedi vs.
ve tabii ki deepseek chatgpt'nin yapamadığı birçok işi hallediyor. Biliyorum çünkü chatGPT üyesiyim ve projeler için aktif kullanıyorum, fakat deepseek hep arka planda yardım için açık. Deepseek her seferinde chatgpt'den daha iyi ve bütün sonuç veriyor. Uzun sohbetlerde hedef kaçırmıyor. Örneğin 300 satırlık bir kod verin, chatgpt'den refactor isteyin, kodun yarısını dışarıda bırakıyor, unutuyor. Deepseek'de böyle bir problem yok.
https://huggingface.co/deepseek-ai/DeepSeek-R1Bunları web'den kullanmak uygun değil, hugginface kredinizi zaten 3-5 generationda harcarsınız. Fakat makinenize torch, python ve pip kurarak indirip deneyebilirsiniz. Tüm modeller çok iyi bir ekran kartı istiyor elbette, ne kadar ram varsa o kadar iyi. 8GB başlangıç seviyesidir ama 6GB ile de çalışıyorlar, 4GB ile pek şansınız yok. 12-24GB ise Ai'ciler için iyi gibi.