चित्रण: tuput
मराठी
ॲपलच्या ऑन-डिव्हाइस मॉडेलमध्ये सुमारे ३ अब्ज पॅरामीटर आणि ४,०९६ टोकनची विंडो आहे. गुगलने Gemma 4 E2B आणि E4B साठी फोनची १.१ GB आणि २.५ GB मेमरी नमूद केली आहे. जवळजवळ प्रत्येक अचूकता गुण मॉडेल बनवणाऱ्या कंपनीनेच चालवलेला आहे, आणि ऑगस्टमध्ये सुरू झालेल्या स्वतंत्र फोन बेंचमार्कने एकाच आयफोनचे वेळ प्रसिद्ध केले.
गुगलच्या Gemma 4 मॉडेल कार्डात त्याच्या लहान फोन मॉडेलसाठी, E2B साठी, २.३ अब्ज प्रभावी पॅरामीटर नमूद आहेत, आणि गुगलच्या आकार तक्त्यात त्यासाठी मोबाइल मेमरीचा आकडा १.१ GB आणि मोठ्या E4B साठी २.५ GB दिला आहे. ॲपलचे ऑन-डिव्हाइस मॉडेल हे ३ अब्ज पॅरामीटरचे दाट (डेन्स) जाळे आहे, जे प्रत्येक सत्रात ४,०९६ टोकनच्या विंडोत काम करते. हे ८ ऑक्टोबर २०२६ पर्यंतचे कंपन्यांचे स्वतःचे आकडे आहेत, आणि त्यांना जोडलेले बहुतेक गुणही कंपन्यांनीच चालवले होते.
पॅरामीटर म्हणजे मॉडेलमधील शिकलेली एक संख्या, आणि टोकन म्हणजे इंग्रजीतील सुमारे तीन ते चार अक्षरांचा शब्दाचा तुकडा, असे ॲपल सांगते.
ॲपल काय प्रसिद्ध करते
ॲपलने आपली तिसऱ्या पिढीची फाउंडेशन मॉडेल ८ जून २०२६ रोजी जाहीर केली. त्यांपैकी दोन फोनवर चालतात. AFM 3 Core हे ३ अब्ज पॅरामीटरचे दाट मॉडेल आहे. AFM 3 Core Advanced २० अब्ज पॅरामीटर फ्लॅश स्टोरेजमध्ये ठेवते, प्रत्येक विनंतीसाठी १ ते ४ अब्ज सक्रिय करते, आणि निवडलेले भाग कार्यरत मेमरीत आणते. ॲपल म्हणते की मोठे मॉडेल त्याच्या सर्वात सक्षम चिपसाठी आहे आणि कोणत्याही उपकरणाचे नाव घेत नाही. दोन्हींपैकी कोणत्याही मॉडेलसाठी ते मेमरीचा आकडा देत नाही.
विकसकांना सर्वप्रथम अडचण येते ती विंडोची. ॲपलच्या ३१ मार्च २०२६ रोजी अद्ययावत केलेल्या TN3193 या तांत्रिक टिपणात म्हटले आहे की ऑन-डिव्हाइस मॉडेलची संदर्भ विंडो (कॉन्टेक्स्ट विंडो) प्रत्येक सत्रात ४,०९६ टोकनची आहे. सूचना, प्रॉम्प्ट, टूल व्याख्या आणि मॉडेलची स्वतःची उत्तरे हे सर्व तिच्यात मोजले जाते. इंग्रजी मजकुरात प्रत्येक टोकनमागे सुमारे तीन ते चार अक्षरे येतात, आणि चिनी, जपानी किंवा कोरियन मजकुरात सुमारे एक.
गुगल काय प्रसिद्ध करते
Gemma 4 कार्ड E2B साठी २.३ अब्ज प्रभावी पॅरामीटर आणि एम्बेडिंगसह ५.१ अब्ज देते, आणि E4B साठी ४.५ अब्ज आणि ८ अब्ज. प्रभावी म्हणजे मॉडेल सक्रियपणे वापरत असलेली संख्या, जी कमी असते कारण मोठे लुकअप तक्ते त्याच्या बाहेर असतात. दोन्ही आकार १,२८,००० टोकनच्या संदर्भाला समर्थन देतात.
मेमरी तक्ता ४-बिट आवृत्त्यांसाठी २.९ GB आणि ४.५ GB, आणि त्याच्या LiteRT-LM रनटाइमसाठी मोबाइल ओळीखाली १.१ GB आणि २.५ GB नमूद करतो. फक्त मजकूर वापरणाऱ्या मोबाइल वापरासाठी ०.८४ GB आणि २.२ GB आहे. तक्ता वेट्स लोड करण्याचा आहे आणि त्याच्या टिपांनुसार संभाषणासोबत वाढणारी कार्यरत मेमरी, म्हणजे KV कॅश, त्यात धरलेली नाही.
Gemini Nano, जी आवृत्ती अँड्रॉइड फोन AICore या सिस्टम सेवेमार्फत चालवतात, ती याच कुटुंबातून बनलेली आहे. गुगलच्या २ एप्रिल २०२६ च्या पोस्टनुसार Gemma 4 हा Gemini Nano 4 चा पाया आहे, ज्याला ती मागील आवृत्तीपेक्षा ४ पटीपर्यंत वेगवान आणि बॅटरीवर ६०% पर्यंत हलकी म्हणते. पोस्ट दोन्ही दाव्यांसाठी चाचणीच्या कोणत्याही अटी नमूद करत नाही. ML Kit पान Nano 4 ला Pixel 11 मालिका आणि Galaxy Z Flip8 व Fold8 च्या तीन मॉडेलवर दाखवते, तर Pixel 9 आणि 10 फोन आवृत्ती 3 खाली येतात. त्याच पानावर असाही इशारा आहे की वेगवेगळ्या Nano आवृत्त्या एकाच प्रॉम्प्टला वेगवेगळे उत्तर देऊ शकतात.
मेटा आणि मायक्रोसॉफ्ट
मेटाचे Llama 3.2 1B कार्ड १.२३ अब्ज पॅरामीटर नमूद करते, जे २५ सप्टेंबर २०२४ रोजी प्रसिद्ध झाले. मेटाच्या ExecuTorch रनटाइमसह OnePlus 12 वर, क्वांटाइझ केलेली आवृत्ती डिस्कवर १,०८३ MB आणि कार्यरत मेमरीत १,९२१ MB घेते आणि प्रति सेकंद ५०.२ टोकन डीकोड करते. पूर्ण-अचूकतेची आवृत्ती २,३५८ MB आणि ३,१८५ MB घेते आणि १९.२ पर्यंतच पोहोचते. त्या चाचण्या मेटाने चालवल्या. मेटाचे नवे लहान Llama मॉडेल tuput ला आढळले नाही.
मायक्रोसॉफ्टच्या Phi-4-mini-instruct मध्ये ३.८ अब्ज पॅरामीटर आणि १,२८,००० टोकनची विंडो आहे, आणि ते फेब्रुवारी २०२५ मध्ये प्रसिद्ध झाले. त्याचे कार्ड MMLU, म्हणजे सामान्य ज्ञानाची परीक्षा, यात ६७.३ आणि GSM8K, म्हणजे शालेय गणिताच्या उदाहरणांचा संच, यात ८८.६ गुण नोंदवते. कार्ड फोनची मेमरी किंवा वेगाचा आकडा देत नाही.
चिप, आणि इतर कोणीही न तपासलेले दावे
मीडियाटेकने १५ सप्टेंबर २०२६ रोजी Dimensity 9600 Pro जाहीर केली. प्रसिद्धीपत्रक म्हणते की NPU 1090 (न्यूरल प्रोसेसिंग युनिट, म्हणजे एआयसाठी बनवलेला चिपचा भाग) मध्ये प्रीफिल कामगिरी ५१% जास्त आहे, म्हणजे प्रॉम्प्ट अधिक वेगाने वाचला जातो, आणि प्रति वॅट टोकन ५५% जास्त आहेत. चिप ३० अब्ज पॅरामीटरपर्यंतच्या मॉडेलना समर्थन देते असेही ते म्हणते. एकमेव तळटीप सांगते की मेट्रिक्स “मीडियाटेक प्रयोगशाळांतील डेमो उपकरणाच्या चाचणी”तून आले, कोणत्याही तुलनेच्या चिपचे किंवा मॉडेलचे नाव न घेता. पहिले फोन याच तिमाहीत येणार आहेत.
क्वालकॉमने सप्टेंबर २०२६ मध्ये Snapdragon 8 Elite Extreme Gen 6 सादर केली. HotHardware चे २२ सप्टेंबरचे वृत्त क्वालकॉमचे आकडे असे देते: NPU ३५% पर्यंत जलद, शेअर्ड मेमरी मागील पिढीपेक्षा ५०% मोठी आणि INT4 प्रीफिल ५०% पर्यंत जास्त. क्वालकॉमचे उदाहरण ३० अब्जांहून जास्त पॅरामीटरचे मिक्श्चर-ऑफ-एक्स्पर्ट्स मॉडेल आहे, ज्यात प्रत्येक टोकनसाठी सुमारे ३ अब्ज सक्रिय असतात, आणि हे ३० अब्जांचे दाट मॉडेल चालवण्यासारखे नाही असा इशारा HotHardware देते. पहिल्या फोनपैकी एक म्हणून ते Motorola Signature 27 चे नाव घेते.
स्वतंत्र चाचणी
Artificial Analysis ने Liquid AI सोबत काम करत २४ ऑगस्ट २०२६ रोजी फोन बेंचमार्क सुरू केले. त्याने ४१ क्वांटाइझ्ड बिल्डना गुण दिले आणि iPhone 17 Pro वर ३३ चालवल्या, आणि सुरुवातीचा लेख फक्त त्या एका उपकरणाचे फोनवरील वेळ प्रसिद्ध करतो. बिल्ड ४-बिट किंवा त्यापेक्षा कमी अचूकतेवर ८ GB मध्ये बसणे आवश्यक होते आणि ते llama.cpp इंजिनवर चालले.
२.६ ते ३ अब्ज पॅरामीटरच्या दोन मॉडेलनी त्याच्या पाच चाचण्यांच्या सरासरीत ६३ वर बरोबरी केली. LFM2.5-2.6B ने ८.० सेकंद आणि २.३ GB घेतले, आणि Nanbeige4.2-3B ने २१.४ सेकंद आणि ४.० GB घेतले. ९ अब्ज पॅरामीटरच्या दोन मॉडेलनी २५ सेकंदांहून जास्त आणि ६.९ GB घेतले. Gemma 4 E4B हे त्याने नाव घेतलेल्या मॉडेलांपैकी एक आहे. ॲपलचे मॉडेल आणि Gemini Nano यांचे नाव नाही.
MMLU Pro, म्हणजे त्याच सामान्य ज्ञान परीक्षेची अधिक कठीण आवृत्ती, यात गुगलचे Gemma 4 कार्ड E4B साठी ६९.४% आणि E2B साठी ६०.०% नोंदवते, आणि मॉडेलची अनेक डेटासेटवर चाचणी झाली एवढेच सांगते. ॲपलची तिसऱ्या पिढीची पोस्ट कोणतेही प्रमाणित बेंचमार्क नोंदवत नाही. ॲपलच्या स्वतःच्या मानवी बाजू-बाजूच्या मूल्यमापनात AFM 3 Core ला २०२५ च्या मॉडेलच्या २३.३% च्या तुलनेत ४५.६% प्रॉम्प्टवर पसंती मिळाली, आणि तांत्रिक अहवाल येईल असे ॲपलने सांगितले. ८ ऑक्टोबरपर्यंत tuput ला तो सापडला नाही.
मॉडेल काय करू शकत नाहीत
ॲपलचे WWDC25 सत्र सांगते की ऑन-डिव्हाइस मॉडेल गणित किंवा कोडसाठी वापरू नका आणि तथ्यांसाठी त्यावर अवलंबून राहू नका. प्रशिक्षणाच्या तारखेनंतरच्या घटना त्याला माहीत नसतील, आणि ते उत्तरे रचू शकते. Phi-4-mini चा आकार ते साठवू शकणाऱ्या तथ्यांना मर्यादा घालतो, असे मायक्रोसॉफ्टचे कार्ड म्हणते, आणि इंग्रजीबाहेर मॉडेल कमकुवत आहे. Gemma 4 चुकीची किंवा कालबाह्य तथ्ये सांगू शकते, असे गुगलचे कार्ड म्हणते. अँड्रॉइडचे Gemini Nano पान टोकन मर्यादा, हार्डवेअर मर्यादा आणि “मॉडेलच्या क्षमतेच्या सीमा” यांची यादी करते, पण मर्यादा देत नाही. Artificial Analysis ने एजेंटिक बेंचमार्क वगळले, कारण लहान मॉडेल त्यांत शून्याच्या जवळ गुण मिळवतात.
उपकरणावर भारतीय भाषा
ॲपलचे सपोर्ट पान, १४ सप्टेंबर २०२६ रोजी प्रसिद्ध, ॲपल इंटेलिजन्ससाठी १६ भाषांच्या नोंदी देते, त्यात इंग्रजी, जपानी आणि तुर्की आहेत, आणि कोणत्याही भारतीय भाषेचे नाव घेत नाही. अँड्रॉइडवरील ML Kit सारांश API इंग्रजी, जपानी आणि कोरियन भाषांना समर्थन देते. Gemma 4 चे पूर्वप्रशिक्षण १४० हून जास्त भाषांमध्ये झाले आहे, ३५ हून जास्त भाषांना तयार स्थितीत समर्थन आहे, तरी कार्ड त्यांची यादी देत नाही. मेटा Llama 3.2 1B साठी अधिकृतपणे समर्थित आठ भाषांमध्ये हिंदीची यादी करते, आणि त्याचे कार्ड दाखवते की बेस मॉडेलला बहुभाषिक MMLU मध्ये हिंदीत ३३.५ आणि फ्रेंचमध्ये ४०.५ गुण मिळाले.
भारतीय बनावटीचा पर्याय Sarvam Edge आहे, जो १४ फेब्रुवारी २०२६ रोजी जाहीर झाला. सर्वमची पोस्ट सुमारे २९४ MB चा ७४ दशलक्ष पॅरामीटरचा भाषण ओळखणारा, सुमारे ६० MB चा २४ दशलक्ष पॅरामीटरचा भाषण निर्माण करणारा आणि सुमारे १५० दशलक्ष पॅरामीटर व ३३४ MB चा अनुवाद मॉडेल यांची यादी देते. भाषण १० भारतीय भाषांना लागू आहे आणि अनुवाद त्याच १० अधिक इंग्रजी, असे ११० जोड्या होतात. Snapdragon 8 Gen 3 वर भाषण ओळख ३०० मिलिसेकंदांच्या आत सुरू होते, असे सर्वम सांगते, तरी Google Cloud शी केलेल्या तुलनेसाठी पोस्ट शब्द त्रुटी दर प्रसिद्ध करत नाही. उत्पादन पान २२ भाषा सांगते, जे पोस्टच्या १० शी जुळत नाही. क्लाउड आवृत्त्यांसाठी सर्वमचे गुण भाषण आणि अनुवाद मॉडेल लेखात आहेत, आणि व्यापक प्रयत्न भारताच्या स्वतःच्या भाषांतील एआय लेखात आहेत.
इंटेल इंडिया आणि सरकारच्या भाषिणी विभागाने २ मार्च २०२६ रोजी BHASHINI Vidyalekha जाहीर केले, इंग्रजी व्याख्याने लिहून काढणारे आणि विद्यार्थ्यांसाठी त्यांचे भाषांतर करणारे ऑफलाइन साधन. ते Intel Core Ultra लॅपटॉपवर चालते, फोनवर नाही, आणि घोषणा त्याच्या भाषांची नावे देत नाही. सर्वमच्या उत्पादन पानानुसार Edge ही व्यावसायिक सेवा आहे, कंपनीशी संपर्क साधून मिळवता येते, आणि ओपन सोर्स नाही.
स्रोत आणि पुढील वाचन
- Apple Machine Learning Research: Introducing the Third Generation of Apple's Foundation Models (8 June 2026)
- Apple Developer: TN3193, Managing the on-device foundation model's context window (updated 31 March 2026)
- Apple Developer: Explore prompt design and safety for on-device foundation models (WWDC25, session 248)
- Apple Support: Apple Intelligence supported languages and iPhone models (published 14 September 2026)
- Google AI for Developers: Gemma 4 model card
- Google AI for Developers: Gemma 4 model overview and memory requirements
- Android Developers Blog: Gemma 4, the new standard for local agentic intelligence on Android (2 April 2026)
- Google for Developers: Overview of the ML Kit GenAI APIs (updated 7 October 2026)
- Google for Developers: ML Kit GenAI Summarization API (updated 7 October 2026)
- Android Developers: Gemini Nano and AICore (updated 8 October 2026)
- Hugging Face: Meta Llama-3.2-1B model card
- Hugging Face: Microsoft Phi-4-mini-instruct model card
- MediaTek: Dimensity 9600 Pro press release (15 September 2026)
- HotHardware: Snapdragon 8 Elite Extreme Gen 6 release coverage (22 September 2026)
- Artificial Analysis: Mobile phone intelligence and inference benchmarks (24 August 2026)
- Sarvam AI: Announcing Sarvam Edge (14 February 2026)
- Sarvam AI: Sarvam Edge product page
- IANS: Intel and Digital India BHASHINI bring offline multilingual capabilities to AI PCs (2 March 2026)
हा लेख AI साधनांच्या मदतीने संशोधित आणि लिहिला गेला असून अचूकतेसाठी संपादित केला आहे. हा केवळ सर्वसाधारण माहिती आणि चर्चेसाठी आहे, व्यावसायिक सल्ला नाही. आमचे संपादकीय मानक आणि अस्वीकरण पाहा. चूक आढळली? आम्हाला कळवा.
आवडलं? पुढचा लेख मिळवा.
एका वेळी एक चांगला लेख, थेट तुमच्या इनबॉक्समध्ये. स्पॅम नाही, हवं तेव्हा थांबवा.