ahmetbeyler
New member
Yararlı Apple MLX otomatik öğrenme çerçevesi ile çalışmak istiyorsanız, mümkün olan maksimum m-çip gücüne sahip bir MAC kullanmanız gerekiyordu. Yerel LLM'lerin gerçekleştirilmesi, macOS altında yemin etmenin ve sonuç olarak Apple Socs'tan ve birleşik anılarından daha iyi yararlanması gereken optimize edilmiş Lama, Qwen veya Mistral MLX varyantlarını çekmenin mümkün olduğu LM Studio gibi araçların hayranları. MLX, bazı geliştiriciler söz konusu olduğunda artık diğer platformlara yayılabilir. MLX'in arkasındaki GitHub projesinin bir parçası olarak, şu anda bir Cuda yemek pişiriyor. Means: NVIDIA tabanlı sistemler gelecekte MLX kullanabilir.
Mac'te gelişir, kümede performans gösterir
Ancak, proje hala başlangıçta. Bir ürün olgunluğu varsa, MLX optimize edilmiş modellerin, örneğin formasyonun bir parçası olarak en güçlü NVIDIA GPU'ları için nispeten kolay değiştirilebileceği düşünülebilir. Buna ek olarak, MLX modelleri en azından teorik olarak daha hızlı yayılabilir çünkü Cuda'nın arkasında çok daha geniş bir topluluğa sahiptir.
MLX, Apple Silikon ve GPU arayüz metali için özel olarak optimize edilmiştir. Nvidia GPU'ları durumunda, CUDA'daki metal (birleşik hesaplama cihazının mimarisini temsil eder) değiştirilecektir. MLX, Swift, C ve C ++ saldırıları sağlanır. Cuda'nın arkasındaki ana geliştirici ZCBENZ kullanıcı adı ile yemek pişiriyor Japonya'dan geliyor. Bilgilerine göre, Apple işin bir kısmını bitiriyor.
Geliştirici: Apple projeye dahil
“Bir Cuda yemek pişirmenin iki nedeni var” diyor geliştirici. “Birincisi, birleşik bellek Cuda'yı destekliyor (…) İkincisi, NVIDIA Donanımı bilimsel alanda ve büyük işleme kümelerinde çok uzak [“Massive Computations”, schreibt zcbenz im Original] Bu nedenle yararlıdır. Diyerek şöyle devam etti: “Bu nedenle, SuperComputer'da uygulamak için kodu Mac'inize yerel olarak yazıp test edebiliyorsanız yararlıdır.” Geliştiricinin iyi bir deneyimi olurdu. “
Projenin ne kadar hızlı ilerlediği görülüyor. İlkbaharda başladı. Bu hafta Zcbenz, Cuda Cooking'in hala geliştirme aşamasında olduğunu ve resmi olarak yayınlanmadığını duyurdu. “İşler daha iyi bir formdaysa” daha fazla bilgi olacak.
(BSC)
Ne yazık ki, bu bağlantı artık geçerli değil.
Boşa harcanan eşyalara olan bağlantılar, 7 günlük daha büyükse veya çok sık çağrılmışsa gerçekleşmez.
Bu makaleyi okumak için bir Haberler+ paketine ihtiyacınız var. Şimdi yükümlülük olmadan bir hafta deneyin – yükümlülük olmadan!
Mac'te gelişir, kümede performans gösterir
Ancak, proje hala başlangıçta. Bir ürün olgunluğu varsa, MLX optimize edilmiş modellerin, örneğin formasyonun bir parçası olarak en güçlü NVIDIA GPU'ları için nispeten kolay değiştirilebileceği düşünülebilir. Buna ek olarak, MLX modelleri en azından teorik olarak daha hızlı yayılabilir çünkü Cuda'nın arkasında çok daha geniş bir topluluğa sahiptir.
MLX, Apple Silikon ve GPU arayüz metali için özel olarak optimize edilmiştir. Nvidia GPU'ları durumunda, CUDA'daki metal (birleşik hesaplama cihazının mimarisini temsil eder) değiştirilecektir. MLX, Swift, C ve C ++ saldırıları sağlanır. Cuda'nın arkasındaki ana geliştirici ZCBENZ kullanıcı adı ile yemek pişiriyor Japonya'dan geliyor. Bilgilerine göre, Apple işin bir kısmını bitiriyor.
Geliştirici: Apple projeye dahil
“Bir Cuda yemek pişirmenin iki nedeni var” diyor geliştirici. “Birincisi, birleşik bellek Cuda'yı destekliyor (…) İkincisi, NVIDIA Donanımı bilimsel alanda ve büyük işleme kümelerinde çok uzak [“Massive Computations”, schreibt zcbenz im Original] Bu nedenle yararlıdır. Diyerek şöyle devam etti: “Bu nedenle, SuperComputer'da uygulamak için kodu Mac'inize yerel olarak yazıp test edebiliyorsanız yararlıdır.” Geliştiricinin iyi bir deneyimi olurdu. “
Projenin ne kadar hızlı ilerlediği görülüyor. İlkbaharda başladı. Bu hafta Zcbenz, Cuda Cooking'in hala geliştirme aşamasında olduğunu ve resmi olarak yayınlanmadığını duyurdu. “İşler daha iyi bir formdaysa” daha fazla bilgi olacak.
(BSC)
Ne yazık ki, bu bağlantı artık geçerli değil.
Boşa harcanan eşyalara olan bağlantılar, 7 günlük daha büyükse veya çok sık çağrılmışsa gerçekleşmez.
Bu makaleyi okumak için bir Haberler+ paketine ihtiyacınız var. Şimdi yükümlülük olmadan bir hafta deneyin – yükümlülük olmadan!