مقایسه لپ‌تاپ‌های مجهز به هوش مصنوعی محلی نشان می‌دهد که قدرت پردازنده گرافیکی به‌تنهایی تعیین‌کننده نیست؛ نرم‌افزارهای مورد استفاده برای اجرای مدل‌ها و میزان حافظه در دسترس نیز نقش مهمی دارند. در آزمایشی که دو پلتفرم NVIDIA RTX Spark و AMD Strix Halo را برای اجرای مدل‌های هوش مصنوعی بررسی کرده، محصول انویدیا در بیشتر کارهایی که هر دو دستگاه قادر به انجام آن‌ها بودند، سریع‌تر عمل کرده است؛ با این حال، دستگاه AMD توانسته مدل بزرگ‌تری را اجرا کند که نسخه ۶۴ گیگابایتی رقیب از اجرای آن ناتوان بود.
مقایسه RTX Spark و AMD Strix Halo در اجرای هوش مصنوعی
در این مقایسه، لپ‌تاپ Lenovo Yoga 9n با تراشه NVIDIA RTX Spark N1X و حافظه یکپارچه ۶۴ گیگابایتی، در برابر Asus ROG Flow Z13 با پردازنده AMD Ryzen AI Max+ 395 و حافظه ۱۲۸ گیگابایتی قرار گرفته است. هر دو دستگاه از ویندوز ۱۱ استفاده می‌کنند و مدل‌های هوش مصنوعی را به‌صورت محلی اجرا می‌کنند؛ یعنی برای پردازش اصلی نیازی به ارسال داده‌ها به سرور ابری ندارند.
| ویژگی | NVIDIA RTX Spark | AMD Strix Halo |
|---|---|---|
| پردازنده | RTX Spark N1X | Ryzen AI Max+ 395 |
| حافظه یکپارچه | ۶۴ گیگابایت | ۱۲۸ گیگابایت |
| پهنای باند حافظه اعلام‌شده | ۳۰۰ گیگابایت بر ثانیه | ۲۵۶ گیگابایت بر ثانیه |
| پلتفرم پردازش هوش مصنوعی | CUDA | ROCm |
| مزیت اصلی | سرعت بیشتر در بسیاری از آزمون‌ها | ظرفیت حافظه بالاتر در مدل ۱۲۸ گیگابایتی |
سرعت اجرای مدل‌های هوش مصنوعی؛ برتری انویدیا
در آزمون‌های اجرای مدل‌های زبانی با نرم‌افزار Ollama، دستگاه مجهز به RTX Spark در پردازش ورودی و تولید پاسخ سریع‌تر عمل کرده است. پردازش ورودی به زمانی گفته می‌شود که مدل برای خواندن متن و آماده‌سازی پاسخ نیاز دارد؛ تولید توکن نیز سرعت نوشتن پاسخ توسط مدل را نشان می‌دهد.
در آزمایش‌های انجام‌شده، RTX Spark متن ورودی را حدود ۲٫۱ تا ۳٫۵ برابر سریع‌تر پردازش کرده و سرعت تولید پاسخ نیز در مدل‌های آزمایش‌شده حدود ۱٫۴ تا ۱٫۶ برابر بیشتر بوده است. در تولید تصویر با ComfyUI و مدل FLUX.2 Klein 4B نیز اختلاف قابل توجه بود: ساخت یک تصویر با وضوح ۱۰۲۴ در ۱۰۲۴ پیکسل روی دستگاه انویدیا حدود ۲۶ ثانیه و روی دستگاه AMD حدود ۶۶ ثانیه زمان برد.
چرا CUDA در برابر ROCm اهمیت دارد؟
اختلاف عملکرد فقط با تفاوت پهنای باند حافظه توضیح داده نمی‌شود. پهنای باند اعلام‌شده برای RTX Spark حدود ۱۷ درصد بیشتر است، اما در بعضی آزمون‌ها اختلاف سرعت تولید پاسخ از این میزان فراتر رفته است. یکی از توضیح‌های محتمل، تفاوت اکوسیستم نرم‌افزاری CUDA انویدیا و ROCm شرکت AMD است.
CUDA در بسیاری از ابزارهای هوش مصنوعی به‌خوبی پشتیبانی می‌شود و توسعه‌دهندگان معمولاً برای آن بهینه‌سازی‌های گسترده‌ای انجام می‌دهند. ROCm نیز امکان اجرای مدل‌ها روی سخت‌افزار AMD را فراهم می‌کند، اما سازگاری ابزارها و نسخه‌های مختلف نرم‌افزار می‌تواند متفاوت باشد. بنابراین هنگام خرید سیستم برای اجرای هوش مصنوعی محلی، بهتر است علاوه بر مشخصات سخت‌افزار، پشتیبانی نرم‌افزارهای موردنیاز را هم بررسی کنید.
حافظه ۱۲۸ گیگابایتی AMD؛ مزیت اجرای مدل‌های بزرگ
با وجود سرعت بالاتر RTX Spark در بیشتر آزمون‌های مشترک، دستگاه AMD یک برتری مهم دارد: ظرفیت حافظه بیشتر. در آزمایش انجام‌شده، مدل gpt-oss 120B با نیاز تقریبی ۶۰ گیگابایت حافظه روی دستگاه AMD با حافظه ۱۲۸ گیگابایتی اجرا شد و سرعت تولید آن به حدود ۳۱٫۷ توکن در ثانیه رسید. نسخه ۶۴ گیگابایتی RTX Spark به دلیل محدودیت حافظه قابل استفاده برای پردازش گرافیکی نتوانست این مدل را بارگذاری کند.
این نتیجه به معنی برتری همیشگی AMD نیست؛ ظرفیت حافظه به مدل، روش فشرده‌سازی و تنظیمات اجرای آن بستگی دارد. با این حال، اگر قصد دارید مدل‌های زبانی بسیار بزرگ را به‌صورت محلی اجرا کنید، حافظه بیشتر می‌تواند از سرعت خام پردازش مهم‌تر باشد.
برای اجرای هوش مصنوعی محلی کدام گزینه بهتر است؟
انتخاب بین NVIDIA RTX Spark و AMD Strix Halo به نوع استفاده شما بستگی دارد:
- برای سرعت بیشتر: RTX Spark در آزمون‌های مشترک اجرای مدل‌های زبانی و تولید تصویر عملکرد سریع‌تری نشان داده است.
- برای اجرای مدل‌های بسیار بزرگ: پیکربندی ۱۲۸ گیگابایتی AMD می‌تواند مدل‌هایی را اجرا کند که در حافظه قابل استفاده نسخه ۶۴ گیگابایتی رقیب جا نمی‌شوند.
- برای سازگاری نرم‌افزاری: پیش از خرید بررسی کنید ابزارهایی مانند Ollama و ComfyUI با سخت‌افزار و سیستم‌عامل دستگاه انتخابی شما سازگار باشند.
- برای استفاده روی باتری: مصرف انرژی و محدودیت حالت‌های عملکردی دستگاه را نیز در نظر بگیرید؛ نتایج آزمایش‌ها نشان می‌دهد تفاوت عملکرد هنگام استفاده بدون شارژر ممکن است بیشتر شود.
در مجموع، RTX Spark برای کسانی که سرعت اجرای مدل‌های پشتیبانی‌شده را در اولویت قرار می‌دهند گزینه جذابی است؛ اما AMD Strix Halo با حافظه یکپارچه بیشتر، برای اجرای مدل‌های بزرگ‌تر مزیت مهمی دارد. این مقایسه همچنین نشان می‌دهد که در بازار هوش مصنوعی محلی، کیفیت نرم‌افزار و سازگاری ابزارها به‌اندازه قدرت سخت‌افزار اهمیت دارد.
اینتوتک