थोडक्यात
- Minions, Apple silicon Mac चे रिकामे GPU एकत्र करून embedding आणि LLM उत्तरांसारखी इन्फरन्स कामे नवीन GPU न घेता चालवते (Apple).
- हे एका संस्थेसाठी बनवले आहे: सर्व्हर कामांचे उप-कामांत विभाजन करतो, Mac ती उचलतात, आणि एखादा Mac शांत झाला की watchdog त्याचे उप-काम पुन्हा वाटतो.
- पेपरनुसार प्रतीक्षा 10 तासांहून जास्त वरून काही मिनिटांवर आली, पण त्यात ना डिव्हाइसची संख्या आहे ना वेगाचे मोजमाप.
- MLX Network हा वेगळा, स्वतंत्र प्रकल्प आहे: कोणाचाही Mac, उत्तरे इतर Mac शी तपासली जातात, बक्षीस MLX टोकनमध्ये. त्याचा Apple शी संबंध नाही.
1Minions म्हणजे काय
«Minions: A Dynamic and Distributed Virtual GPU Cloud Built on Idle Apple Silicon Devices» हा तीन पानांचा पेपर Apple च्या Jianhua Li, Yun Xing, Girisha De Silva, Ryan Flint, Kai Yuan आणि Sean Suchter यांनी लिहिला; तो 9 ऑक्टोबर 2026 रोजी प्रकाशित झाला (arXiv) आणि Apple Machine Learning Research वर आहे (Apple).
त्याची सुरुवात अशी: embedding बनवणे आणि LLM उत्तरे यांसारखी इन्फरन्स कामे सहसा केंद्रीय GPU क्लस्टरची वाट पाहतात, जे वाढवणे महाग आहे आणि जे अनेकदा भरलेले असतात, तर Apple silicon Mac चे GPU रोजच्या वापरात बहुतेक रिकामे असतात. हे रिकामे GPU «without additional hardware investment» एका सामायिक इन्फरन्स प्लॅटफॉर्ममध्ये जोडता येतील का, असा प्रश्न Minions विचारते (पेपर).
2हे कसे काम करते
- Minion Server वेब इंटरफेस आणि API द्वारे कामे स्वीकारतो, ती तपासतो आणि प्रत्येकाचे उप-कामांत विभाजन करतो.
- एक PostgreSQL डेटाबेस प्रत्येक काम, उप-काम आणि heartbeat जतन करतो. Mac कधीही थेट त्याच्यापर्यंत जात नाहीत.
- Minion Executor प्रत्येक Mac वर चालतो: REST द्वारे उप-कामे उचलतो, ऑब्जेक्ट स्टोरेजमधून (Amazon S3) इनपुट आणि कॅशमध्ये नसल्यास मॉडेलही डाउनलोड करतो, Mac च्या GPU वर चालवतो आणि निकाल परत लिहितो.
- Minion Watchdog काम करणाऱ्या Mac चे heartbeat (दर पाच मिनिटांनी) पाहतो, आणि Mac झोपला, नेटवर्क गेले, बंद झाला किंवा मालकाने थांबवला तर उप-काम पुन्हा रांगेत टाकतो.
केंद्रीय शेड्युलर नाही: Mac एका उप-कामासाठी स्पर्धा करतात, आणि डेटाबेसमधील एक युनिकनेस अट फक्त एकालाच जिंकू देते. कामे येण्याच्या क्रमाने चालतात, पण Mac चा मालक त्याला आधी एखाद्या टीमच्या प्रकल्पावर लावू शकतो. embedding Hugging Face transformers ने आणि LLM उत्तरे Ollama ने, Mac च्या GPU वर चालतात (पेपर).
3पेपर काय सांगतो
पेपरनुसार Minions «has been used to support GPU inference workloads across multiple teams». त्याचे एकमेव कोष्टक आधी आणि नंतरची तुलना करते: GPU ची प्रतीक्षा तासांवरून (10 हून जास्तपर्यंत) मिनिटांवर, नवीन GPU च्या मागण्या आवश्यक वरून शून्यावर, पायाभूत सुविधांचा खर्च जास्त वरून शून्यावर, आणि स्केलिंगची मेहनत हाताने करण्यावरून आपोआप होण्यावर (पेपर).
तो मानवी बाजूही सांगतो. टीम सदस्य Slack वर सहकाऱ्यांना एखाद्या प्रकल्पासाठी executor चालवायला सांगतात, आणि काहींना काळजी होती की त्यांचा डेटा त्यांच्या टीमबाहेरील डिव्हाइसवर प्रक्रिया होईल. Minions याचे उत्तर एका टीम किंवा संस्थेपुरत्या मर्यादित इन्स्टॉलेशनने देते, प्रत्येकाचा स्वतःचा डेटाबेस आणि स्वतःचा Mac समूह.
4तो कशाचा दावा करत नाही
- बेंचमार्क नाही. ना प्रति सेकंद टोकन, ना Mac ची संख्या, ना डेटा सेंटर GPU शी तुलना.
- ट्रेनिंग नाही. वितरित ट्रेनिंगला भविष्यातील काम म्हटले आहे.
- एक मोठा GPU नाही. प्रत्येक उप-काम एका Mac वर चालते; एक मॉडेल अनेक Mac मध्ये वाटण्याचे वर्णन पेपरमध्ये नाही.
- निकालांची तपासणी नाही. Mac परत पाठवतात त्या उत्तरांची पडताळणी कशी होते हे पेपर सांगत नाही.
- ना मोबदला, ना उत्पादन. सहभागी Mac ला बक्षीस मिळत नाही, आणि पेपर Apple च्या कोणत्याही सेवेची घोषणा करत नाही.
त्याचा निष्कर्ष पुढे पाहतो: रिकामे Mac संस्थांमध्ये, आणि कदाचित जगभरात, सुरक्षितपणे जोडता आले तर («across organizations—or potentially across the global community—can be securely federated»), ते GPU चा मोठा सामायिक साठा बनू शकतात. पेपरमध्ये ही भविष्यातील एक दिशा आहे, बांधलेली गोष्ट नाही (पेपर).
5MLX Network कसे वेगळे आहे
| Minions (Apple चे संशोधन) | MLX Network | |
|---|---|---|
| कोण सहभागी होतो | एका टीम किंवा संस्थेतील Mac | Apple Silicon Mac आणि MLX Node असलेला कोणीही |
| काय चालते | embedding (Hugging Face) आणि LLM उत्तरे (Ollama) | Apple च्या MLX फ्रेमवर्कवर LLM कामे |
| काम कसे येते | Mac केंद्रीय सर्व्हरवरून उप-कामे उचलतात | MLX Node तुम्ही ठरवलेल्या मर्यादेत नेटवर्ककडे काम मागतो |
| उत्तरांची तपासणी | वर्णन नाही | इतर Mac च्या उत्तरांशी आणि माहीत असलेल्या चाचणी कामांशी तुलना |
| बक्षीस | काहीही नाही: असलेले हार्डवेअर, शून्य खर्च | दर तासाला MLX टोकन, मोफत सीटवर 30 दिवस लॉक |
| स्थिती | संशोधन पेपर; ट्रेनिंग भविष्यातील काम | 18 ऑक्टोबर 2026 पासून मेननेट, प्रत्येक ब्लॉक सार्वजनिक एक्सप्लोरर वर |
दोन्ही एकाच निरीक्षणापासून सुरू होतात: Apple silicon Mac मध्ये सक्षम GPU आहेत जे दिवसाचा बराच वेळ रिकामे असतात. Minions हे एका संस्थेतच, ज्यांच्यावर आधीच विश्वास आहे अशा Mac मध्ये ठेवते. MLX Network हे सर्वांसाठी खुले करते, म्हणून उत्तरे इतर Mac शी तपासते आणि पडताळलेल्या कामाचा मोबदला देते. MLX Network स्वतंत्र आहे आणि Apple शी संबंधित नाही; त्याचे नाव ते ज्या MLX फ्रेमवर्कवर चालते त्यावरून आले आहे (हे नाव का).
तुमचा Mac सहभागी व्हावा असे वाटते? MLX Node मोफत आहे आणि तुम्ही परवानगी द्याल तेव्हाच आणि तितकेच काम करतो; नियम व्हाइटपेपर मध्ये आहेत, आणि नेटवर्कमधील प्रत्येक Mac MLX World वर दिसतो. MLX टोकनचे मूल्य घसरू शकते: धोके वाचा.
6प्रश्न
- Apple, Mac पासून बनलेले GPU क्लाउड सुरू करत आहे का?
- पेपर असे म्हणत नाही. टीम आधीच इन्फरन्ससाठी वापरत असलेल्या प्रणालीचे ते वर्णन करते, आणि ट्रेनिंग व संस्थांमध्ये रिकामे Mac जोडणे यांना भविष्यातील दिशा म्हणते. कोणत्याही उत्पादनाची घोषणा नाही.
- Minions अनेक Mac ना एक GPU बनवते का?
- नाही. एखादे काम स्वतंत्र उप-कामांत विभागले जाते आणि प्रत्येक एकाच Mac वर चालते. एक मॉडेल अनेक Mac वर चालवण्याचे वर्णन पेपरमध्ये नाही.
- Minions कोणती मॉडेल चालवते?
- transformers लायब्ररीद्वारे Hugging Face ची embedding मॉडेल, आणि Ollama द्वारे LLM उत्तरे, Mac च्या GPU वर. पेपर कोणत्याही विशिष्ट मॉडेलचे नाव घेत नाही.
- MLX Network हे Apple किंवा Minions चा भाग आहे का?
- नाही. MLX Network हे MLX Node चालवणाऱ्या Mac चे स्वतंत्र नेटवर्क आहे. त्याचा Apple शी संबंध नाही आणि Minions प्रकल्पाशी काही देणेघेणे नाही.