Mediatek ने माइक्रोसॉफ्ट के PHI-3.5 AI मॉडल को डिमेंसिटी चिपसेट पर अनुकूलन की घोषणा की

मीडियाटेक ने सोमवार को घोषणा की कि उसने अब Microsoft के PHI-3.5 आर्टिफिशियल इंटेलिजेंस (AI) मॉडल के लिए अपने कई मोबाइल प्लेटफार्मों को अनुकूलित किया है। छोटे भाषा मॉडल (SLM) की PHI-3.5 श्रृंखला, जिसमें PHI-3.5 विशेषज्ञों का मिश्रण (MOE), PHI-3.5 मिनी और PHI-3.5 विजन शामिल है, अगस्त में जारी किया गया था। ओपन-सोर्स एआई मॉडल को गले लगाने वाले चेहरे पर उपलब्ध कराया गया था। ठेठ संवादी मॉडल होने के बजाय, ये निर्देश थे कि वे ऐसे मॉडल थे जिनके लिए उपयोगकर्ताओं को वांछित आउटपुट प्राप्त करने के लिए विशिष्ट निर्देशों को इनपुट करने की आवश्यकता होती है।

में एक ब्लॉग भेजामीडियाटेक ने घोषणा की कि इसकी डिमेनिस्टी 9400, डिमेंसिटी 9300, और डिमेंसिटी 8300 चिपसेट अब PHI-3.5 AI मॉडल के लिए अनुकूलित हैं। इसके साथ, ये मोबाइल प्लेटफ़ॉर्म कुशलता से प्रक्रिया और ऑन-डिवाइस जनरेटिव एआई कार्यों के लिए मध्यस्थता की न्यूरल प्रोसेसिंग यूनिट्स (एनपीयू) का उपयोग कर सकते हैं।

एक विशिष्ट एआई मॉडल के लिए एक चिपसेट का अनुकूलन करने में उस विशेष मॉडल के प्रसंस्करण शक्ति, मेमोरी एक्सेस पैटर्न और डेटा प्रवाह का कुशलतापूर्वक समर्थन करने के लिए हार्डवेयर डिज़ाइन, आर्किटेक्चर और चिपसेट के संचालन को शामिल करना शामिल है। अनुकूलन करने के बाद, एआई मॉडल विलंबता और बिजली की खपत को कम करेगा, और थ्रूपुट में वृद्धि करेगा।

मीडियाटेक ने कहा कि इसके प्रोसेसर न केवल Microsoft के PHI-3.5 MOE के लिए अनुकूलित हैं, बल्कि PHI-3.5 मिनी के लिए भी हैं जो बहु-भाषी समर्थन और PHI-3.5 दृष्टि प्रदान करता है जो मल्टी-फ्रेम छवि समझ और तर्क के साथ आता है।

विशेष रूप से, PHI-3.5 MOE में 16×3.8 बिलियन पैरामीटर हैं। हालांकि, दो विशेषज्ञों (विशिष्ट उपयोग के मामले) का उपयोग करते समय उनमें से केवल 6.6 बिलियन सक्रिय पैरामीटर हैं। दूसरी ओर, PHI-3.5 में 4.2 बिलियन पैरामीटर और एक छवि एनकोडर है, और PHI-3.5 मिनी में 3.8 बिलियन पैरामीटर हैं।

प्रदर्शन के लिए आ रहा है, Microsoft ने दावा किया कि PHI-3.5 MOE ने सभी मिथुन 1.5 फ्लैश और GPT-4O मिनी AI मॉडल दोनों को स्क्वैलिटी बेंचमार्क पर बेहतर बनाया, जो पाठ के एक ब्लॉक को संक्षेप में पढ़ता है और सटीकता का परीक्षण करता है।

जबकि डेवलपर्स Microsoft PHI-3.5 का लाभ उठा सकते हैं, जो सीधे चेहरे या Azure AI मॉडल कैटलॉग के माध्यम से हो सकते हैं, मीडियाटेक के न्यूरोपिलॉट SDK टूलकिट भी इन SLM तक पहुंच प्रदान करते हैं। चिप निर्माता ने कहा कि उत्तरार्द्ध डेवलपर्स को अनुकूलित ऑन-डिवाइस एप्लिकेशन बनाने में सक्षम करेगा, जो कि उपर्युक्त मोबाइल प्लेटफार्मों पर एआई मॉडल का उपयोग करके जेनेक्टिव एआई अनुमान में सक्षम है।