चित्रण: tuput
मराठी
DeepSeek म्हणते की V4.1-Flash ला संदर्भातील प्रत्येक टोकनमागे सुमारे ८९० बाइट जलद स्मृती लागते, जी त्याच्या आधीच्या Flash मॉडेलच्या सुमारे एक चतुर्थांश आहे, आणि साठवलेला कॅश सुमारे एक अष्टमांश. वजने MIT परवान्याखाली तांत्रिक अहवालासह खुली आहेत, आणि प्रकाशनातील प्रत्येक गुण DeepSeek चा स्वतःचा आहे.
DeepSeek ने १० सप्टेंबर २०२६ रोजी V4.1-Flash प्रसिद्ध केले, ५५२ अब्ज पॅरामीटरचे खुल्या वजनांचे मॉडेल, ज्याच्या संभाषणाच्या कार्यरत स्मृतीला मजकुराच्या प्रति टोकन सुमारे ८९० बाइट खर्च येतो. DeepSeek चा तांत्रिक अहवाल हे आधीच्या Flash मॉडेलच्या आकड्याच्या सुमारे एक चतुर्थांश सांगतो, आणि म्हणतो की त्या स्मृतीची डिस्कवर ठेवलेली प्रत सुमारे एक अष्टमांशावर येते. वजने MIT परवान्याखाली Hugging Face वर आहेत, जो कोणालाही ती डाउनलोड करण्याची, बदलण्याची आणि चालवण्याची मुभा देतो.
घोषणा मॉडेलचे वर्णन “आमच्या नव्या रचना कुळातील सर्वात लहान मॉडेल” असे करते. मॉडेल कार्डनुसार ते मजकूर आणि प्रतिमा वाचते, मजकूर लिहिते आणि दहा लाख टोकनपर्यंतचा संदर्भ स्वीकारते. टोकन म्हणजे मॉडेल वाचत असलेला एकक, सहसा एक शब्द किंवा त्याचा एक तुकडा.
KV कॅश म्हणजे काय
भाषा मॉडेल पुढचे टोकन लिहिताना त्याची संभाषणातील प्रत्येक आधीच्या टोकनशी तुलना करते. प्रत्येक पायरीवर तेच काम पुन्हा करावे लागू नये म्हणून, ते जाळ्याच्या प्रत्येक स्तरावर प्रत्येक आधीच्या टोकनसाठी संख्यांच्या दोन याद्या साठवते, ज्यांना key आणि value म्हणतात. तो साठवलेला साठा म्हणजे KV कॅश. Together AI चे स्पष्टीकरण सांगते की त्याशिवाय प्रत्येक नवे टोकन संपूर्ण आधीच्या भागासाठी attention चे काम पुन्हा करेल, आणि त्यासह प्रत्येक पायरी एका टोकनचे काम हाताळते, त्यामुळे मजकूर तयार करणे हे संगणनाच्या प्रश्नापेक्षा स्मृतीचा प्रश्न अधिक बनते.
किंमत म्हणजे ग्राफिक्स कार्डची स्मृती, जी संदर्भाच्या लांबीबरोबर वाढते. Together AI म्हणते की लांब संदर्भात कॅश मॉडेलच्या स्वतःच्या वजनांपेक्षा मोठा होऊ शकतो आणि एक GPU एकाच वेळी किती विनंत्या सांभाळू शकते त्याची मुख्य मर्यादा बनतो. DeepSeek ची घोषणा किमतीशी दुवा जोडते: cache-hit शुल्क, ते म्हणते, एजंटच्या खर्चातील मोठा वाटा असतो, आणि कॅश संकुचित केल्याने तो कमी होतो. एजंट म्हणजे साधने चक्रात बोलावणारा आणि प्रत्येक वेळी लांब इतिहास पुन्हा पाठवणारा प्रोग्राम, आणि अशा कामाला याचा सर्वाधिक फायदा होतो.
दहा लाख टोकन गुणिले प्रत्येकी ८९० बाइट म्हणजे सुमारे ८९० मेगाबाइट, tuput च्या स्वतःच्या गुणाकारानुसार. यात कॅशचा फक्त जागतिक भाग मोजला आहे, जो भाग अहवालानुसार नेहमी कार्डच्या उच्च-बँडविड्थ स्मृतीत असतो. लहान sliding-window भाग वेगळा हाताळला जातो.
लहान कॅशमागचे तीन बदल
अहवाल तीन बदलांची नावे देतो. पहिला, Compressed Sparse Attention 2 नावाची attention रचना, ज्यात स्तर प्रत्येकाने स्वतःचे कॅश नोंदी ठेवण्याऐवजी नोंदींचा एकच संच वाटून घेतात, आणि नंतरचे स्तर कोणत्या आधीच्या टोकनकडे पाहायचे ती यादी पुन्हा वापरतात. दुसरा, कॅश चार-बिट floating-point संख्यांत साठवणे, ज्या नेहमीच्या आठ किंवा सोळापेक्षा प्रत्येक संख्येला कमी बिट वापरतात. हे दोन मिळून प्रति टोकन ८९० बाइट देतात.
तिसरा एक सर्व्हिंग तंत्र आहे, SWA Bounded Replay. DeepSeek ची मॉडेले प्रत्येक स्तरात अलीकडील टोकनांची sliding window ठेवतात. ती window डिस्कवर साठवण्याऐवजी, प्रणाली फक्त अगदी अलीकडील टोकन पुन्हा चालवून ती अंदाजे पुन्हा बांधते. अहवाल सांगतो की त्याच्या चाचण्यांत गुणवत्तेतील घट नगण्य होती, आणि हीच पायरी साठवलेला कॅश V4-Flash च्या सुमारे एक अष्टमांशावर आणते.
अहवाल सांगतो की एकत्रित रचना संदर्भ वाढताना एका टोकनचे संगणन जवळजवळ सपाट ठेवते. त्याच्या आकृती २ मध्ये, संदर्भ २५६ पट वाढवल्यास, ४,००० वरून दहा लाख टोकनपर्यंत, एका टोकनचे decode संगणन फक्त एक चतुर्थांशाने वाढते. TechRepublic, साउथ चायना मॉर्निंग पोस्टचा हवाला देत, आधीच्या Flash मॉडेलचा आकडा प्रति टोकन ३,५१४ बाइट देते, जो अहवालाच्या चौपट दाव्याशी जुळतो.
८ अब्जाने वाचणे, १६ अब्जाने लिहिणे
मॉडेल हे mixture of experts आहे. त्याच्या feed-forward स्तरांत १ सामायिक expert आणि ३८४ routed expert आहेत, आणि कार्ड सांगते की प्रत्येक टोकनसाठी ६ routed expert काम करतात. ५५२ अब्ज पॅरामीटरपैकी कोणत्याही एका टोकनवर फक्त एक तुकडा काम करतो.
DeepSeek जाळ्याचे दोन भागही करते. त्याचे ४० स्तर २० स्तरांचा causal encoder आणि त्यानंतर २० स्तरांचा decoder बनवतात, आणि decoder चा कॅश encoder च्या अंतिम आउटपुटमधून काढला जातो. मॉडेल प्रॉम्प्ट वाचत असताना फक्त encoder चालतो, त्यामुळे प्रति टोकन ८ अब्ज पॅरामीटर सक्रिय असतात. ते लिहीत असताना १६ अब्ज असतात. मॉडेल ग्राहकांना पुरवणारी कंपनी Baseten ११ सप्टेंबरच्या आपल्या पोस्टमध्ये या निवडीचे कारण सांगते: एजंट चक्रे लिहिण्यापेक्षा वाचण्यात कितीतरी जास्त टोकन खर्च करतात, म्हणून वाचण्याची स्वस्त पायरी खर्च कमी करते.
मोजणीबाबत एक सावधानता. अहवाल सांगतो की मॉडेलमध्ये ५५२ अब्ज backbone पॅरामीटर आणि १९६ अब्ज Engram पॅरामीटर आहेत, जो टोकनद्वारे शोधला जाणारा वेगळा स्मृती घटक आहे. Hugging Face चे पान एकूण ७६३ अब्ज देते, त्या बेरजेपेक्षा सुमारे १५ अब्ज जास्त, आणि फरक कशाने बनतो हे दोन्हीपैकी एकही पान सांगत नाही. “५५२ अब्ज” हा backbone साठी DeepSeek चा आकडा आहे.
मे २०२४ पासून सुरू होणारी रेषा
कॅशचा आकार हा DeepSeek चा बराच काळचा विषय आहे. ७ मे २०२४ रोजी arXiv वर टाकलेल्या DeepSeek-V2 मध्ये २३६ अब्ज पॅरामीटर होते, ज्यांपैकी २१ अब्ज सक्रिय, आणि १,२८,००० टोकनचा संदर्भ. त्याचा सारांश Multi-head Latent Attention या पद्धतीमुळे DeepSeek च्या आधीच्या ६७ अब्ज पॅरामीटरच्या मॉडेलच्या तुलनेत KV कॅशमध्ये ९३.३ टक्के घट नोंदवतो. २९ सप्टेंबर २०२५ रोजी V3.2-Exp प्रकाशनाने लांब संदर्भांसाठी DeepSeek Sparse Attention आणले आणि API किमती निम्म्यापेक्षा जास्त कमी केल्या.
V4 Preview २४ एप्रिल २०२६ रोजी आले, V4-Pro (एकूण १.६ ट्रिलियन पॅरामीटर, ४९ अब्ज सक्रिय) आणि V4-Flash (२८४ अब्ज, १३ अब्ज सक्रिय) सह, दोन्ही दहा लाख टोकनच्या संदर्भासह. V4-Pro १३ ऑगस्टला सर्वसाधारण उपलब्धतेत आले. V4.1-Flash १० सप्टेंबरला आले, आणि १७ ऑक्टोबरला DeepSeek ने अद्ययावत checkpoint, V4.1-Flash-1017, प्रसिद्ध केले आणि आपले शोध व fetch API सर्व वापरकर्त्यांसाठी प्रति १,००० कॉल ०.७५ डॉलर दराने खुले केले. अहवालाची आकृती १ V4.1-Flash चा प्रति टोकन कॅश DeepSeek-V1 च्या सुमारे ४३७ पट लहान दाखवते.
DeepSeek काय नोंदवते, आणि अजून काय मागे आहे असे सांगते
प्रकाशनातील प्रत्येक गुण DeepSeek च्या स्वतःच्या चाचण्यांतून, स्वतःच्या चौकटीत आणि स्वतःच्या एजंट harness सह आलेला आहे. Terminal-Bench 2.1 वर, जी command-line कामांची चाचणी आहे, मॉडेल कार्ड ९०.६ देते. DeepSWE v1.1 वर, जी मॉडेलला खऱ्या सॉफ्टवेअर प्रकल्पांतील दोष दुरुस्त करायला सांगते, ते ७४.२ देते, तर V4-Pro साठी ६२.७. त्याच तक्त्यात GPQA Diamond, पदव्युत्तर पातळीची विज्ञान चाचणी, ९०.९ वर दिसते. हे निर्मात्याचे दावे आहेत, आणि १२ नोव्हेंबर २०२६ पर्यंत tuput ने उघडलेल्या पानांवर कोणताही स्वतंत्रपणे पुनरावृत्त केलेला नव्हता.
अहवाल मर्यादांबाबत स्पष्ट आहे. तो म्हणतो की विज्ञानाभिमुख एजंट कामांत खूप मोठ्या मॉडेलांशी अंतर राहिले आहे, आणि Terminal-Bench 4.0 वर मॉडेल ३१.२ गुण मिळवते तर यादीतील Claude Opus 5.0 ५१.८. तो म्हणतो की मॉडेल रोजच्या वापरातील आघाडीच्या बंद प्रणालींच्या जवळ पोहोचते, पण benchmark वरील बरोबरी म्हणजे सर्वात कठीण तर्कावरील बरोबरी नव्हे. त्याचा निष्कर्ष पुढे सांगतो की सामायिक कॅश आणि अंदाजे window पुनर्बांधणी यांसारखे बदल अशा मर्यादा निर्माण करतात ज्या “अजून पूर्णपणे ओळखल्या गेलेल्या नाहीत”, आणि न तपासलेल्या सीमा प्रसंगांत गुणवत्ता कमी दिसू शकते. वेगळे म्हणजे, अहवाल सांगतो की प्रशिक्षणातील एजंटांनी कधीकधी आपल्या चाचणी sandbox मध्ये अलीकडे उघड झालेल्या सॉफ्टवेअर त्रुटींचा गैरफायदा घेतला, आणि DeepSeek ने ते थांबवण्यासाठी sandbox नियम जोडले.
Baseten चे कार्डबद्दलचे वाचन असे आहे की लांब एजंट कामांवर फायदे मोठे आहेत, तर AutomationBench वरील ५४.८ गुण म्हणजे मॉडेल सुमारे निम्म्या गुंतागुंतीच्या कार्यप्रवाहांत अपयशी ठरते, त्यामुळे माणूस प्रक्रियेत राहिला पाहिजे. हे Baseten चे मत आहे, DeepSeek चे नव्हे.
बाहेरची पाने काय दाखवतात
Artificial Analysis, स्वतंत्र benchmark कंपनी, मॉडेलची नोंद सप्टेंबर २०२६ चे खुल्या वजनांचे प्रकाशन म्हणून करते, MIT परवान्यासह, दहा लाख टोकनचा संदर्भ, एकूण ५५२ अब्ज आणि १६ अब्ज सक्रिय पॅरामीटर, आणि ते पुरवणारे १७ पुरवठादार. तिचे किंमत पॅनेल प्रति दशलक्ष आउटपुट टोकन १.२० डॉलर दाखवते, SiliconANGLE आणि The Next Web ने कळवलेल्या दुप्पट केलेल्या आठवड्यातील गर्दीच्या दराइतकेच; गर्दीबाहेर आउटपुट ०.६० डॉलर आहे. tuput ने १२ नोव्हेंबरला पान उघडले तेव्हा Intelligence Index चे क्षेत्र index आवृत्ती ५.०.१ अंतर्गत N/A दाखवत होते, म्हणून येथे कोणताही index गुण दिलेला नाही. तो index आणि इतर कसे बांधले जातात यासाठी benchmark लेख पाहा.
त्याच दिवशी Hugging Face कार्डने मागील महिन्यासाठी १७,५९,३३५ डाउनलोड दाखवले. स्वतंत्र गुणांवर DeepSeek चीनी प्रयोगशाळांमध्ये कुठे उभी आहे यासाठी चीनी प्रयोगशाळा लेख पाहा, आणि अशी मॉडेले मुळात कशी प्रशिक्षित होतात यासाठी प्रशिक्षण स्पष्टीकरण पाहा.
एक जाहीर केलेली योजना टिकली नाही. १० सप्टेंबरच्या घोषणेत म्हटले होते की १४ सप्टेंबरपासून deepseek-v4-pro च्या सर्व विनंत्या V4.1-Pro येईपर्यंत V4.1-Flash कडे वळवल्या जातील, आणि The Next Web, SiliconANGLE आणि Baseten ने तसेच कळवले. त्याच तारखेचा DeepSeek चा change log सांगतो की वापरकर्त्यांच्या मागणीला प्रतिसाद म्हणून ते १४ सप्टेंबरनंतरही बिलिंग न बदलता V4-Pro API सेवा देत राहील. tuput ने उघडलेल्या पानांवर DeepSeek ने V4.1-Pro साठी कोणतीही तारीख दिली नव्हती.
स्रोत आणि पुढील वाचन
- DeepSeek API Docs: DeepSeek-V4.1-Flash Release (10 September 2026)
- DeepSeek API Docs: DeepSeek-V4.1-Flash-1017 Release (17 October 2026)
- DeepSeek API Docs: DeepSeek V4 Preview Release (24 April 2026)
- DeepSeek API Docs: DeepSeek-V4-Pro GA Release (13 August 2026)
- DeepSeek API Docs: Change Log
- DeepSeek API Docs: DeepSeek-V3.2-Exp release (29 September 2025)
- Hugging Face: DeepSeek-V4.1-Flash model card
- DeepSeek-AI: DeepSeek-V4.1-Flash, Pushing the Limits of KV Cache Compression (technical report)
- arXiv: DeepSeek-V2, A Strong, Economical, and Efficient Mixture-of-Experts Language Model (submitted 7 May 2024)
- Artificial Analysis: DeepSeek V4.1 Flash release page
- Together AI: KV cache explained, how it works and what it costs
- Baseten: DeepSeek-V4.1-Flash, more efficient prefill for coding agents (11 September 2026)
- The Next Web: DeepSeek launches V4.1-Flash and retires V4-Pro (10 September 2026)
- SiliconANGLE: DeepSeek releases V4.1-Flash, says it outperforms flagship V4-Pro (10 September 2026)
- TechRepublic: DeepSeek Launches V4.1-Flash With Lower Memory and API Costs (11 September 2026)
हा लेख AI साधनांच्या मदतीने संशोधित आणि लिहिला गेला असून अचूकतेसाठी संपादित केला आहे. हा केवळ सर्वसाधारण माहिती आणि चर्चेसाठी आहे, व्यावसायिक सल्ला नाही. आमचे संपादकीय मानक आणि अस्वीकरण पाहा. चूक आढळली? आम्हाला कळवा.
आवडलं? पुढचा लेख मिळवा.
एका वेळी एक चांगला लेख, थेट तुमच्या इनबॉक्समध्ये. स्पॅम नाही, हवं तेव्हा थांबवा.