Ako pažljivo pratite svijet veštačka inteligencijaVjerovatno ste do sada čuli to ime. DeepSeekOvaj model umjetne inteligencije iz Kine privukao je pažnju cijele industrije nudeći performanse vrlo slične onima giganata poput OpenAI-a Ili Google, ali sa mnogo nižim troškovima računarstva i implementacije. Sve je ovo navelo mnoge ljude u Silicijumskoj dolini da podignu obrvu i počnu pažljivo da obraćaju pažnju.
Ono što DeepSeek čini posebno zanimljivim jeste to što je model otvorenog koda pod MIT licencomTo znači da ga svako može preuzeti, revidirati, modificirati, koristiti u komercijalne svrhe i, što je najzanimljivije za vas, pokrenite ga lokalno na svom računaruMožete ga koristiti bez slanja podataka na eksterne servere, čime ćete spriječiti da vaši razgovori završe pohranjeni u podatkovnim centrima u Kini ili bilo kojoj drugoj zemlji i ostvariti dobitak privatnost i kontrolu.
Šta je DeepSeek i zašto izaziva toliko pažnje oko njega?
DeepSeek je ušao u globalnu diskusiju jer nudi vrlo visoki rezultati u zadacima razgovora i logičkog zaključivanja po mnogo nižoj cijeni od velikih vlasničkih modela. Njegov otvoreni pristup stavlja ga u istu ligu kao i prijedloge kompanija Meta, Google ili Microsoft, koje su također objavile svoje modele. kao što je prikazano u poređenju između Copilota i DeepSeekaali s agresivnošću u troškovima i efikasnosti koja je izazvala pometnju u cijelom sektoru.
Ovaj projekat jasno podržava ekosistem otvorenog koda: biti pod MIT licencaMožete ga integrirati u komercijalne projekte, modificirati, kombinirati s drugim alatima i općenito izgradite vlastitu AI infrastrukturu bez potrebe da plaćate svaki put kada želite pokrenuti testove ili nešto ozbiljno implementirati. Ova činjenica je čak navela neke lidere u industriji da preispitaju svoj stav o otvorenom kodušto pokazuje uticaj koji ima.
Nadalje, jedna od najatraktivnijih stvari je to što je DeepSeek dizajniran da bude u mogućnosti da pokrenuti lokalno na korisničkim računarima Zahvaljujući pojednostavljenim, smanjenim verzijama glavnog modela, ne treba vam cijeli podatkovni centar da biste iskoristili njegove osnovne mogućnosti; s pristojnim računarom možete početi eksperimentirati i koristiti ga kao svakodnevnog asistenta.
Još jedan važan detalj je da je DeepSeek stavio mnogo naglaska na postupno zaključivanje. u R1 model, o čemu ćemo kasnije raspravljati, može pokazati svoj misaoni proces između oznaka Kada ga pokrenete s određenim alatima, to vam omogućava da vidite kako razlaže probleme prije nego što vam da konačan odgovor.
Kompletni modeli naspram pojednostavljenih modela: zašto ne biste trebali instalirati "velikog igrača"
DeepSeek nije jedan model, već porodica. Na vrhu kataloga je... DeepSeek-R1:671b, prava zvijer s nekim 671.000 milijardi parametaraU komprimiranom obliku, ovaj model je otprilike 120 GB (sa originalnih 720 GB), što daje predstavu o obimu resursa potrebnih za pravilno funkcionisanje.
Da vam dam ideju, kreator poput Matthew Berman Čak je imao priliku testirati R1:671b u oblaku koristeći server s AMD EPYC procesorom. 128 jezgara, više od 2 TB RAM-a, nekoliko NVMe SSD diskova i 8 AMD Instinct MI300X grafičkih procesora sa 192 GB svaki. U osnovi, ono što bi se kolokvijalno nazivalo "NASA-in računar", daleko od desktop ili laptop računara koje imamo kod kuće.
Na suprotnoj strani su verzije destilovano ili redukovano iz DeepSeeka. Ove varijante koriste tehniku u kojoj manji model uči oponašati ponašanje većeg, koristeći njegovu prednost fino podešavanje i njegova optimizirana podešavanjaMnoge mogućnosti originalnog modela su zadržane, ali sa daleko manjim brojem parametara i manjom potrošnjom resursa. destilirani modeli iz DeepSeek-a Obično se nalaze ispod 8.000 milijardi parametara i veličine su između 4 i 5 GB. To vam omogućava da preuzmite ih, pohranite i pokrenite na običnom računaru bez da vam se oprema zapali. Žrtvujete određenu preciznost i snagu, ali zauzvrat ih možete koristiti svaki dan.
Sa ovim lakšim verzijama, računar sa 32 GB RAM-a i zasebna grafička kartica sa 8 GB VRAM-a (Na primjer, AMD Radeon RX 580) je sposobna za savršeno upotrebljivo pokretanje DeepSeeka. Odgovori se generiraju nešto sporije nego na webu ili na moćnim serverima, ali je iskustvo potpuno funkcionalno, iako sa... GPU je skoro na 100% opterećenju dok se model generira.
Prednosti lokalnog korištenja DeepSeeka na Windowsu 11
Velika privlačnost uvođenja DeepSeeka na vaš Windows 11 je u tome što prelazite sa ovisnosti o cloud servisu na... vaša vlastita umjetna inteligencija koja radi na vašoj mašiniTo sa sobom donosi niz prednosti koje za mnoge korisnike više nego nadoknađuju trud početne instalacije.
Prvo je očigledno: možete koristiti DeepSeek Nema internetske veze Nakon što se predložak preuzme. Idealno ako radite na laptopu koji se prebacuje između različitih mreža.
Druga velika prednost je privatnost i kontrolu podatakaBudući da sve radi na vašem računaru, ulazi i izlazi modela nikada ne napuštaju vaš računar. Ako imate posla s osjetljivim informacijama, internim dokumentima kompanije ili ličnim podacima, ne morate brinuti o tome na kojim serverima vaši razgovori završavaju.
Nadalje, budući da ne ovisite o zajedničkoj infrastrukturi, na vas ne utječe bez redova čekanja, prekida usluge ili ograničenja zbog zasićenosti korisnikaAko vaš računar ima dovoljno resursa, DeepSeek će odgovoriti isključivo na osnovu onoga što vaš hardver može podnijeti, bez obzira na to koliko drugih ljudi koristi model negdje drugdje.
Konačno, činjenica da DeepSeek potiče od otvorenog koda i lokalno izvršne Zbog toga je idealan kandidat ako želite eksperimentirati, integrirati ga s drugim aplikacijama, automatizirati radne procese ili postaviti okruženje za testiranje umjetne inteligencije u potpunosti pod svojom kontrolom. Za programere i napredne korisnike, ovo je prava poslastica.
Preporučeni hardverski zahtjevi za maksimalno iskorištavanje
Iako je DeepSeek u svojim destiliranim verzijama dizajniran da bude prilagođeniji resursima, važno je biti svjestan nekoliko stvari. minimalne hardverske specifikacije tako da iskustvo nije frustrirajuće. Tehnički, možete ga pokrenuti na manje snažnim mašinama, ali što se više približite ovim specifikacijama, to bolje.
U području pamćenja, toplo se preporučuje imati barem 16 GB RAM-a32 GB je idealna memorija ako želite raditi s malo slobodnog prostora i istovremeno otvarati druge programe. S manje memorije riskirate stalno kašnjenje ili da Windows počne učitavanje stranica na disk, što rezultira drastičnim padom performansi.
Što se tiče grafičke kartice, ključ leži u Dostupna VRAM memorijaZa pojednostavljenu verziju DeepSeek R1, kao što su 7B ili 8B, GPU sa 6-8 GB VRAM-a bi trebao biti dovoljan, iako što više prostora imate, to bolje. Ako vaš računar nema namjensku grafičku karticu, neki modeli se mogu osloniti isključivo na CPU, ali će performanse biti znatno lošije.
Za skladištenje, trebali biste imati barem 5 GB besplatno po modelu koji želite instalirati, plus dodatni prostor za druge modele i za sam Windows 11. Preporučuje se korištenje SSD-a umjesto mehaničkog tvrdog diska, jer su vrijeme učitavanja i pristup velikim datotekama znatno brži.
Ako imate moderni računar sa Integrisani NPU (procesor specijaliziran za umjetnu inteligenciju)Windows 11 će postepeno dobijati podršku za korištenje u raznim zadacima. Međutim, trenutno će veliki dio opterećenja za DeepSeek pasti prvenstveno na GPU i CPU, posebno pri radu sa zahtjevnijim LLM modelima.
DeepSeek na vašem računaru sa Ollamom: lagana opcija iz konzole
Jedan od najjednostavnijih i najmoćnijih načina za lokalno korištenje DeepSeeka na Windowsu 11 je putem NemojTo je program koji funkcionira kao upravitelj AI modela i njime se upravlja iz sistemske konzole. Nema tradicionalni grafički interfejs, ali zauzvrat... Uveliko pojednostavljuje proces preuzimanja i izvršavanja.
Preuzimanje i instalacija
Za početak, trebate posjetiti službenu Ollama web stranicu, ollama.comi pritisnite tipku PreuzimanjeStranica automatski detektuje vaš operativni sistem, ali ako želite, možete preuzeti instalacijski program za drugu kompatibilnu platformu, kao što su macOS ili GNU/Linux.
Nakon što preuzmete datoteku, samo trebate Pokrenite instalacijski program i slijedite upute čarobnjakaProces je vrlo jednostavan: kliknite na dalje, prihvati, instaliraj i gotovi ste. Ollama je prilično lagana aplikacija, tako da neće trebati dugo da se u potpunosti instalira na vaš računar.
Nakon što je instalacija završena, morate pokrenuti Ollamu. Možda će vam se činiti kao da se ništa ne događa kada je otvorite, ali program zapravo samo stoji tamo. radi u pozadini kao servisOd sada se magija dešava iz komandnog prozora Windowsa 11.
Otvorite Komandni redak (CMD) s administratorskim privilegijama Ili, ako više volite, Windows Terminal. Tu ćete upisati potrebne naredbe za preuzimanje i pokretanje DeepSeek-a s Ollamom, bez kompliciranih interfejsa ili skrivenih menija.
Pokrenite DeepSeek R1 8B sa Ollamom
Sada kada je Ollama pokrenuta, sljedeći korak je instaliranje DeepSeeka na vaš tvrdi disk. Najpraktičnija verzija za većinu korisnika Windowsa 11 je deepseek-r1:8b, što je smanjena varijanta R1 modela veličine oko 4,7 GB, dizajnirana za normalnije računare.
Da biste ga preuzeli bez pokretanja, upišite sljedeću naredbu u prozor naredbi i pritisnite Enter: ollama pull deepseek-r1:8bOva naredba govori Ollami da preuzme model iz svoje biblioteke i da ga pripremi za upotrebu kada ga želite koristiti.
Preuzimanje zauzima nekoliko gigabajta, tako da će vrijeme potrebno za to zavisiti od brzinu vaše internet vezeVidjet ćete napredak prikazan sve dok Ollama ne potvrdi da je model uspješno pohranjen na vaš računar. Nakon završetka, DeepSeek R1 8B je spreman za upotrebu.
Kada se model pokrene, prozor komandne linije će se pretvoriti u neku vrstu minimalistički chatMožete upisati svoj upit (svoj zahtjev ili pitanje) i gledati kako DeepSeek generira odgovor, red po red. Iako je interfejs osnovni, više je nego dovoljan i vrlo jednostavan za mnoge upotrebe.
Promjena verzija i upravljanje sesijom u Ollami
Jedna od zanimljivih stvari kod Ollame je to što vam omogućava isprobajte različite varijacije istog modela sa samo drugačijom oznakom. U slučaju DeepSeek R1, dostupne verzije možete provjeriti na stranici biblioteke Ollama, u odjeljku deepseek-r1 oznake.
Da biste promijenili verziju, jednostavno zamijenite broj u naredbi. Na primjer, možete napisati ollama run deepseek-r1:7b o ollama pokrenuti deepseek-r1:x prema objavljenim opcijama. Što je veći broj parametara, to je više snažan i blizak punom modelu Bit će to iskustvo, ali će također zahtijevati više resursa od vašeg računara.
Kada koristite DeepSeek iz komandne linije, možete upute za pokretanje na španskom Nema problema. Model se više oslanja na engleski jezik, ali ako ga jasno zamolite da odgovori na španskom ili ako dosljedno koristite španski za unos, prilagodit će se bez većih problema.
Jedan od zanimljivih detalja DeepSeek R1 je to što može pokazati svoje Interno obrazloženje između oznakaDakle, prije nego što vidite konačni odgovor, možete posmatrati kako model mentalno analizira problem. Ovo je dobar način da bolje razumijete njihov "proces razmišljanja" i uočite potencijalne nedostatke u njihovoj logici.
Kada želite izaći iz DeepSeek sesije u Ollami, jednostavno ukucajte komandu /doviđenjaOvo vas vraća u normalnu konzolu bez zatvaranja prozora. A ako želite vidjeti druge korisne komande koje su dostupne, možete upisati /? kako bi vam sam Ollamama mogao pokazati najvažnije opcije.
Korištenje DeepSeeka s grafičkim interfejsom na Windowsu 11 zahvaljujući LM Studiju
Ako vam se razgovor s umjetnom inteligencijom iz konzole čini pomalo zamornim, možete se odlučiti za rješenje s čist i moderan grafički interfejsTu to dolazi do izražaja. LM Studio, aplikacija dostupna za Windows, macOS i Linux koja vam omogućava lokalno preuzimanje i pokretanje LLM-ova na prilično jednostavan način.
LM Studio funkcioniše kao središte jezičkih modelaIz vlastitog interfejsa možete pretraživati predloške, preuzimati ih, konfigurirati i otvarati chatove s njima bez dodirivanja terminala. Nadalje, uključuje okruženje za razgovor vrlo slično web chatbotovima poput ChatGPT-a, što ga čini idealnim za manje tehničke korisnike.
Da biste ga instalirali, posjetite službenu web stranicu, lmstudio.aiPreuzmite instalacijski program za Windows. Nakon što ga pokrenete, proces instalacije je jednostavan kao praćenje čarobnjaka, bez posebno kompliciranih opcija. Za nekoliko minuta, LM Studio će biti spreman za rad.
Kada ga prvi put otvorite, LM Studio obično nudi preuzimanje modela. Plamen 3.1 8B Meta Kao početni primjer, preporučuje se prihvatiti ovo preuzimanje i dozvoliti mu da se instalira i učita, jer to olakšava glatko upravljanje drugim modelima iz istog interfejsa.
Sada kada je Llama 3.1 8B instalirana i dostupna, sljedeći korak će biti Pronađite i preuzmite DeepSeek u njegovoj destiliranoj verziji, da biste ga koristili kao glavni predložak za chat u LM Studiju na Windowsu 11.
Pretražite, preuzmite i učitajte DeepSeek u LM Studiju
Unutar LM Studija, vidjet ćete nekoliko ikona u lijevoj bočnoj traci. Da biste pronašli DeepSeek, kliknite na onu koja odgovara odjeljku. Discover, koji djeluje kao tražilica i katalog dostupnih modela.
U zoni Pretraga modelaNa vrhu ćete vidjeti polje za pretragu. Upišite "DeepSeek" i pričekajte da se pojavi lista kompatibilnih modela. Obično će se, između ostalog, prikazati dvije varijante zasnovane na R1: DeepSeek R1 destilator (Qwen 7B) y DeepSeek R1 destilator (Plamen 8B).
Obje opcije su validne za korištenje na vašem Windows 11 računaru. Verzija zasnovana na Llama 8B je obično nešto veća, jer uključuje oko milijardu dodatnih parametaraAli može ponuditi i malo veći kapacitet. Odaberite onaj koji najbolje odgovara resursima vašeg tima.
Nakon što odaberete željenu verziju, odaberite model i pritisnite dugme. PreuzimanjeLM Studio će se pobrinuti za preuzimanje svih potrebnih datoteka. Kao i kod Ollame, vrijeme će uglavnom zavisiti od brzine vaše internet veze i veličine modela.
Nakon što je preuzimanje završeno, LM Studio će vam prikazati popup notifikacija što označava da je proces završen. Ova obavijest obično uključuje dugme poput ovog: Load Model tako da možete odmah učitati DeepSeek i biti spreman za ćaskanje.
Konfigurišite i započnite razgovor sa DeepSeek-om u LM Studiju
Jednom kada kliknete na Load Model Iz obavještenja ili liste preuzetih modela, LM Studio će učitati DeepSeek u memoriju i omogućiti vam da ga koristite kao mehanizam za razgovor. Sljedeći korak je odlazak na odjeljak razgovor, također u meniju s lijeve strane.
U prozoru za ćaskanje, na vrhu, vidjet ćete dugme ili padajući meni s tekstom poput ovog: Odaberite model za učitavanjeKliknite tamo i odaberite DeepSeek model koji ste upravo preuzeli. Na taj način ćete koristiti taj model za buduće razgovore u LM Studiju.
Kada odaberete DeepSeek, program će vam prikazati niz opcije konfiguracijekao što su maksimalni broj žetona, postavke temperature, top-p i drugi napredni parametri. Ako niste sigurni šta da podesite, možete ostaviti zadane postavke i jednostavno ponovo dodirnuti. Load Model da započnemo.
Nakon učitavanja, možete upisati svoj prvi upit ili zadatak u tekstualno polje ispod. Vidjet ćete da Logo koji se pojavljuje u interfejsu je logo LM Studija.Ne DeepSeek-ov, ali interno je ovaj drugi taj koji generira odgovore.
Da bi razgovor tekao na španskom, dovoljno je da počnite sami pisati na španskomModel će obično pratiti jezik na kojem ste postavili pitanje. Ako vam ikada odgovori na engleskom, možete mu eksplicitno reći da želite odgovore na španskom (iz Španije) i on će se uglavnom prilagoditi odatle.
Sa svime što nude destilovane verzije DeepSeeka, kombinacija otvorenih modela, alata poput Ollame ili LM Studija i snage umjereno modernog Windows 11 računara pretvara vaš računar u... prava lična laboratorija za umjetnu inteligencijuPosjedovanje moćne umjetne inteligencije lokalno vam daje slobodu, privatnost i ogromnu marginu za učenje i eksperimentiranje bez ograničenja koja nameću treće strane.
