অলঙ্করণ: tuput
বাংলা
ডিপসিক বলছে V4.1-Flash-এর কনটেক্সটের প্রতি টোকেনে লাগে প্রায় ৮৯০ বাইট দ্রুতগতির মেমরি, আগের Flash মডেলের মোটামুটি এক-চতুর্থাংশ, আর সংরক্ষিত ক্যাশ প্রায় এক-অষ্টমাংশ। ওয়েট প্রকাশ্য, MIT লাইসেন্সে, সঙ্গে একটি টেকনিক্যাল রিপোর্ট, আর বিজ্ঞপ্তির প্রতিটি স্কোর ডিপসিকের নিজের।
ডিপসিক ২০২৬ সালের ১০ সেপ্টেম্বর V4.1-Flash প্রকাশ করেছে, ৫৫২ বিলিয়ন প্যারামিটারের একটি ওপেন-ওয়েট মডেল, যার একটি কথোপকথনের কর্মস্মৃতির খরচ লেখার প্রতি টোকেনে প্রায় ৮৯০ বাইট। ডিপসিকের টেকনিক্যাল রিপোর্ট এটিকে এর আগের Flash মডেলের সংখ্যার মোটামুটি এক-চতুর্থাংশ বলছে, আর বলছে ডিস্কে রাখা ওই স্মৃতির প্রতিলিপি ছোট হয়ে প্রায় এক-অষ্টমাংশ হয়েছে। ওয়েট আছে Hugging Face-এ MIT লাইসেন্সে, যা যে কাউকে নামাতে, বদলাতে আর চালাতে দেয়।
বিজ্ঞপ্তি মডেলটিকে বর্ণনা করেছে “আমাদের নতুন স্থাপত্য পরিবারের সবচেয়ে ছোট মডেল” বলে। মডেল কার্ড অনুযায়ী এটি লেখা আর ছবি পড়ে, লেখা লেখে, আর কনটেক্সট নেয় এক মিলিয়ন টোকেন পর্যন্ত। টোকেন হল মডেল যে একক পড়ে, সাধারণত একটি শব্দ বা তার একটি টুকরো।
KV ক্যাশ কী
একটি ভাষা মডেল যখন পরের টোকেন লেখে, সে সেটিকে কথোপকথনের আগের প্রতিটি টোকেনের সঙ্গে তুলনা করে। প্রতি ধাপে ওই কাজ আবার না করতে সে নেটওয়ার্কের প্রতিটি স্তরে আগের প্রতিটি টোকেনের জন্য দুটি সংখ্যার তালিকা জমিয়ে রাখে, যার নাম কী আর ভ্যালু। ওই জমানো ভাণ্ডারই KV ক্যাশ। টুগেদার AI-র ব্যাখ্যা বলছে, এটি না থাকলে প্রতিটি নতুন টোকেন পুরো পূর্ববর্তী অংশের অ্যাটেনশনের কাজ আবার করত, আর এটি থাকলে প্রতিটি ধাপ একটি টোকেন সামলায়, ফলে লেখা তৈরি করা গণনার সমস্যার চেয়ে বেশি মেমরির সমস্যা হয়ে দাঁড়ায়।
খরচটা গ্রাফিক্স কার্ডের মেমরি, যা কনটেক্সটের দৈর্ঘ্যের সঙ্গে বাড়ে। টুগেদার AI বলছে লম্বা কনটেক্সটে ক্যাশ মডেলের নিজের ওয়েটের আকারকেও ছাড়িয়ে যেতে পারে আর একটি GPU একসঙ্গে কতগুলো অনুরোধ সামলাতে পারে তার প্রধান সীমা হয়ে ওঠে। ডিপসিকের বিজ্ঞপ্তি দামের সঙ্গে যোগ টেনেছে: ক্যাশ-হিটের খরচ, তারা বলছে, এজেন্টের খরচের একটি বড় অংশ হয়ে থাকে, আর ক্যাশ সংকুচিত করলে তা কমে। এজেন্ট হল এমন একটি প্রোগ্রাম যা একটি চক্রে টুল ডাকে আর প্রতিবার একটি লম্বা ইতিহাস আবার পাঠায়, যে কাজে সবচেয়ে বেশি সুবিধা হয়।
প্রতিটি ৮৯০ বাইটে এক মিলিয়ন টোকেন দাঁড়ায় প্রায় ৮৯০ মেগাবাইট, tuput-এর নিজের গুণে। এতে গোনা হয়েছে শুধু ক্যাশের বৈশ্বিক অংশ, রিপোর্ট বলছে যে অংশ সবসময় কার্ডের উচ্চ-ব্যান্ডউইথ মেমরিতে থাকে। একটি ছোট স্লাইডিং-উইন্ডো অংশ আলাদাভাবে সামলানো হয়।
ক্যাশ ছোট হওয়ার পেছনে তিনটি বদল
রিপোর্ট তিনটি বদলের নাম করেছে। প্রথমটি একটি অ্যাটেনশন নকশা যার নাম দিয়েছে কমপ্রেসড স্পার্স অ্যাটেনশন ২, যাতে স্তরগুলো প্রত্যেকে নিজের জমা না রেখে জমানো এন্ট্রির একটি সেট ভাগ করে, আর পরের স্তরগুলো আগের কোন টোকেনগুলো দেখতে হবে তার তালিকা আবার ব্যবহার করে। দ্বিতীয়টি ক্যাশকে চার-বিটের ফ্লোটিং-পয়েন্ট সংখ্যায় রাখা, যা প্রচলিত আট বা ষোলোর চেয়ে প্রতি সংখ্যায় কম বিট নেয়। এ দুটি মিলে প্রতি টোকেনে ৮৯০ বাইট হয়।
তৃতীয়টি একটি সার্ভিং কৌশল, SWA বাউন্ডেড রিপ্লে। ডিপসিকের মডেলগুলো প্রতিটি স্তরে সাম্প্রতিক টোকেনের একটি স্লাইডিং উইন্ডো রাখে। ওই উইন্ডো ডিস্কে সংরক্ষণ না করে ব্যবস্থাটি শুধু সবচেয়ে সাম্প্রতিক টোকেনগুলো আবার চালিয়ে সেটি আনুমানিকভাবে পুনর্গঠন করে। রিপোর্ট বলছে এর পরীক্ষায় মানের ক্ষতি নগণ্য ছিল, আর এই ধাপেই সংরক্ষিত ক্যাশ V4-Flash-এর প্রায় এক-অষ্টমাংশে নামে।
রিপোর্ট বলছে, সম্মিলিত নকশা কনটেক্সট বাড়লেও একটি টোকেনের গণনা প্রায় সমতল রাখে। এর ফিগার ২-এ কনটেক্সট ২৫৬ গুণ টানলে, ৪,০০০ থেকে এক মিলিয়ন টোকেনে, একক-টোকেন ডিকোড গণনা বাড়ে মাত্র এক-চতুর্থাংশ। টেকরিপাবলিক, সাউথ চায়না মর্নিং পোস্টকে উদ্ধৃত করে, আগের Flash মডেলের সংখ্যা দিয়েছে প্রতি টোকেনে ৩,৫১৪ বাইট, যা রিপোর্টের চার গুণের দাবির সঙ্গে মেলে।
৮ বিলিয়ন দিয়ে পড়া, ১৬ বিলিয়ন দিয়ে লেখা
মডেলটি মিক্সচার অফ এক্সপার্টস। এর ফিড-ফরওয়ার্ড স্তরে ১টি শেয়ার্ড এক্সপার্ট আর ৩৮৪টি রুটেড এক্সপার্ট আছে, আর কার্ড বলছে প্রতিটি টোকেন সামলায় ৬টি রুটেড এক্সপার্ট। ৫৫২ বিলিয়ন প্যারামিটারের একটি অংশই কেবল একটি টোকেনে কাজ করে।
ডিপসিক নেটওয়ার্ককে দুই ভাগও করেছে। এর ৪০টি স্তর গড়ে একটি ২০ স্তরের কজাল এনকোডার, তারপর একটি ২০ স্তরের ডিকোডার, আর ডিকোডারের ক্যাশ প্রক্ষেপিত হয় এনকোডারের চূড়ান্ত আউটপুট থেকে। মডেল যখন প্রম্পট পড়ে, তখন চলে শুধু এনকোডার, ফলে প্রতি টোকেনে সক্রিয় ৮ বিলিয়ন প্যারামিটার। যখন লেখে, তখন সক্রিয় ১৬ বিলিয়ন। মডেলটি গ্রাহকদের সামনে পরিবেশনকারী কোম্পানি বেসটেন তাদের ১১ সেপ্টেম্বরের পোস্টে বাছাইটি ব্যাখ্যা করেছে: এজেন্ট চক্র লেখার চেয়ে অনেক বেশি টোকেন খরচ করে পড়তে, তাই সস্তা পড়ার ধাপ খরচ কমায়।
গণনা নিয়ে একটি সতর্কতা। রিপোর্ট বলছে মডেলটির ব্যাকবোন প্যারামিটার ৫৫২ বিলিয়ন, সঙ্গে ১৯৬ বিলিয়ন এনগ্রাম প্যারামিটার, টোকেন ধরে খুঁজে পাওয়া একটি আলাদা মেমরি মডিউল। Hugging Face-এর পাতা মোট ৭৬৩ বিলিয়ন তালিকাভুক্ত করেছে, ওই যোগফলের চেয়ে প্রায় ১৫ বিলিয়ন বেশি, আর কোনো পাতাই বলেনি পার্থক্য কীসে। “৫৫২ বিলিয়ন” ব্যাকবোনের জন্য ডিপসিকের সংখ্যা।
২০২৪ সালের মে থেকে শুরু একটি ধারা
ক্যাশের আকার ডিপসিকের বেশ কিছুদিনের প্রসঙ্গ। ২০২৪ সালের ৭ মে arXiv-এ প্রকাশিত DeepSeek-V2-এর প্যারামিটার ছিল ২৩৬ বিলিয়ন, সক্রিয় ২১ বিলিয়ন, আর কনটেক্সট ১,২৮,০০০ টোকেন। এর অ্যাবস্ট্র্যাক্ট জানিয়েছে মাল্টি-হেড ল্যাটেন্ট অ্যাটেনশন নামের একটি পদ্ধতিতে ডিপসিকের আগের ৬৭ বিলিয়ন প্যারামিটারের মডেলের তুলনায় KV ক্যাশ ৯৩.৩ শতাংশ কমেছে। ২০২৫ সালের ২৯ সেপ্টেম্বর V3.2-Exp প্রকাশে লম্বা কনটেক্সটের জন্য ডিপসিক স্পার্স অ্যাটেনশন এসেছিল আর API-র দাম অর্ধেকেরও বেশি কমেছিল।
V4 প্রিভিউ আসে ২০২৬ সালের ২৪ এপ্রিল V4-Pro (মোট ১.৬ ট্রিলিয়ন প্যারামিটার, সক্রিয় ৪৯ বিলিয়ন) আর V4-Flash (২৮৪ বিলিয়ন, সক্রিয় ১৩ বিলিয়ন) নিয়ে, দুটিরই কনটেক্সট এক মিলিয়ন টোকেন। V4-Pro সাধারণভাবে পাওয়া যেতে শুরু করে ১৩ আগস্ট। V4.1-Flash আসে ১০ সেপ্টেম্বর, আর ১৭ অক্টোবর ডিপসিক একটি হালনাগাদ চেকপয়েন্ট V4.1-Flash-1017 প্রকাশ করে এবং এর সার্চ ও ফেচ API সব ব্যবহারকারীর জন্য খুলে দেয় প্রতি ১,০০০ কলে ০.৭৫ ডলারে। রিপোর্টের ফিগার ১ V4.1-Flash-এর প্রতি টোকেনের ক্যাশকে DeepSeek-V1-এর চেয়ে প্রায় ৪৩৭ গুণ ছোট দেখিয়েছে।
ডিপসিক কী জানাচ্ছে, আর কোথায় এখনও পিছিয়ে বলছে
বিজ্ঞপ্তির প্রতিটি স্কোর এসেছে ডিপসিকের নিজের চালানো পরীক্ষা থেকে, তার নিজের কাঠামোয় আর নিজের এজেন্ট হারনেসে। কমান্ড-লাইনের কাজের পরীক্ষা Terminal-Bench 2.1-এ মডেল কার্ড তালিকাভুক্ত করেছে ৯০.৬। DeepSWE v1.1-এ, যা মডেলকে বাস্তব সফটওয়্যার প্রকল্পের বাগ ঠিক করতে বলে, তালিকাভুক্ত ৭৪.২, V4-Pro-র ৬২.৭-এর বিপরীতে। একই টেবিল GPQA Diamond, একটি স্নাতকোত্তর স্তরের বিজ্ঞান পরীক্ষা, দেখিয়েছে ৯০.৯। এগুলো নির্মাতার দাবি, আর ২০২৬ সালের ১২ নভেম্বর পর্যন্ত tuput যেসব পাতা খুলেছে তাতে কোনোটিই স্বাধীনভাবে পুনরাবৃত্তি করা হয়নি।
রিপোর্ট সীমা নিয়ে সরল। এটি বলছে, বিজ্ঞান-ঘেঁষা এজেন্ট কাজে খুব বড় মডেলগুলোর সঙ্গে ব্যবধান রয়ে গেছে, আর Terminal-Bench 4.0-তে মডেলটি পায় ৩১.২ যেখানে তালিকাভুক্ত Claude Opus 5.0 পায় ৫১.৮। এটি বলছে মডেলটি প্রতিদিনের ব্যবহারে শীর্ষ বন্ধ সিস্টেমগুলোর খুব কাছে পৌঁছেছে, কিন্তু বেঞ্চমার্কে সমতা মানে সবচেয়ে কঠিন যুক্তিতে সমতা নয়। এর উপসংহার যোগ করেছে, শেয়ার্ড ক্যাশ আর আনুমানিক উইন্ডো পুনর্গঠনের মতো বদল এমন সীমা তৈরি করে “যা এখনও পুরোপুরি চিহ্নিত হয়নি”, আর পরীক্ষা-না-হওয়া সীমান্ত-ক্ষেত্রে মান কম দেখা যেতে পারে। আলাদাভাবে, রিপোর্ট বলছে প্রশিক্ষণরত এজেন্টরা কখনো কখনো তাদের টেস্ট স্যান্ডবক্সে সম্প্রতি প্রকাশ হওয়া সফটওয়্যার দুর্বলতা কাজে লাগিয়েছে, আর ডিপসিক তা ঠেকাতে স্যান্ডবক্সের নিয়ম যোগ করেছে।
কার্ড পড়ে বেসটেনের মত, লম্বা এজেন্ট কাজে লাভ বড়, আর AutomationBench-এ ৫৪.৮ স্কোর মানে মডেলটি প্রায় অর্ধেক জটিল ওয়ার্কফ্লোয় ব্যর্থ হয়, তাই চক্রে একজন মানুষ থাকা উচিত। এটি বেসটেনের দৃষ্টিভঙ্গি, ডিপসিকের নয়।
বাইরের পাতাগুলো কী দেখায়
আর্টিফিশিয়াল অ্যানালিসিস, একটি স্বাধীন বেঞ্চমার্কিং প্রতিষ্ঠান, মডেলটিকে ২০২৬ সালের সেপ্টেম্বরের ওপেন-ওয়েট প্রকাশ হিসেবে তালিকাভুক্ত করেছে, MIT লাইসেন্স, এক মিলিয়ন টোকেনের কনটেক্সট, মোট ৫৫২ বিলিয়ন আর সক্রিয় ১৬ বিলিয়ন প্যারামিটার, আর এটি পরিবেশনকারী ১৭টি প্রদানকারী-সহ। এর দামের প্যানেলে প্রতি মিলিয়ন আউটপুট টোকেনে ১.২০ ডলার, যা সিলিকনঅ্যাঙ্গেল আর দ্য নেক্সট ওয়েবের জানানো কর্মদিবসের পিক সময়ের দ্বিগুণ হারের সমান; অফ-পিকে আউটপুট ০.৬০ ডলার। ১২ নভেম্বর tuput পাতাটি খুললে ইনডেক্স সংস্করণ ৫.০.১-এর অধীনে ইন্টেলিজেন্স ইনডেক্সের ঘরে লেখা ছিল N/A, তাই এখানে কোনো ইনডেক্স স্কোর উদ্ধৃত হয়নি। ওই ইনডেক্স আর অন্যগুলো কীভাবে বানানো হয়, তার জন্য দেখুন বেঞ্চমার্কের লেখা।
একই তারিখে Hugging Face কার্ডে আগের মাসের ১৭,৫৯,৩৩৫টি ডাউনলোড দেখা যাচ্ছিল। স্বাধীন স্কোরে চীনা ল্যাবগুলোর মধ্যে ডিপসিক কোথায় আছে, তার জন্য চীনা ল্যাবের লেখা, আর এমন মডেল আদৌ কীভাবে প্রশিক্ষিত হয় তার জন্য প্রশিক্ষণ ব্যাখ্যাটি।
একটি ঘোষিত পরিকল্পনা টেকেনি। ১০ সেপ্টেম্বরের ঘোষণা বলেছিল ১৪ সেপ্টেম্বর থেকে deepseek-v4-pro-র সব অনুরোধ V4.1-Flash-এ যাবে যতক্ষণ না V4.1-Pro আসে, আর দ্য নেক্সট ওয়েব, সিলিকনঅ্যাঙ্গেল ও বেসটেন সেভাবেই জানিয়েছিল। একই তারিখের ডিপসিকের চেঞ্জ লগ বলছে, ব্যবহারকারীদের চাহিদায় তারা ১৪ সেপ্টেম্বরের পরও অপরিবর্তিত বিলিংয়ে V4-Pro API পরিষেবা দিয়ে যাবে। tuput যেসব পাতা খুলেছে তাতে ডিপসিক V4.1-Pro-র কোনো তারিখ দেয়নি।
সূত্র ও আরও পড়ার জন্য
- DeepSeek API Docs: DeepSeek-V4.1-Flash Release (10 September 2026)
- DeepSeek API Docs: DeepSeek-V4.1-Flash-1017 Release (17 October 2026)
- DeepSeek API Docs: DeepSeek V4 Preview Release (24 April 2026)
- DeepSeek API Docs: DeepSeek-V4-Pro GA Release (13 August 2026)
- DeepSeek API Docs: Change Log
- DeepSeek API Docs: DeepSeek-V3.2-Exp release (29 September 2025)
- Hugging Face: DeepSeek-V4.1-Flash model card
- DeepSeek-AI: DeepSeek-V4.1-Flash, Pushing the Limits of KV Cache Compression (technical report)
- arXiv: DeepSeek-V2, A Strong, Economical, and Efficient Mixture-of-Experts Language Model (submitted 7 May 2024)
- Artificial Analysis: DeepSeek V4.1 Flash release page
- Together AI: KV cache explained, how it works and what it costs
- Baseten: DeepSeek-V4.1-Flash, more efficient prefill for coding agents (11 September 2026)
- The Next Web: DeepSeek launches V4.1-Flash and retires V4-Pro (10 September 2026)
- SiliconANGLE: DeepSeek releases V4.1-Flash, says it outperforms flagship V4-Pro (10 September 2026)
- TechRepublic: DeepSeek Launches V4.1-Flash With Lower Memory and API Costs (11 September 2026)
এই লেখাটি AI সরঞ্জামের সহায়তায় গবেষণা ও রচনা করা হয়েছে এবং নির্ভুলতার জন্য সম্পাদনা করা হয়েছে। এটি কেবল সাধারণ তথ্য ও আলোচনার জন্য, পেশাদার পরামর্শ নয়। আমাদের সম্পাদকীয় মান ও দাবিত্যাগ দেখুন। কোনো ভুল চোখে পড়ল? আমাদের জানান।
ভালো লাগল? পরেরটিও পড়ুন।
একবারে একটি ভালো লেখা, সরাসরি আপনার ইনবক্সে। কোনো স্প্যাম নয়, যখন খুশি বন্ধ করতে পারেন।