برای اجرای مدل‌های ، صرفاً انتخاب یک مدل کم‌حجم کافی نیست؛ تنظیماتی مثل حالت تفکر، روش نمونه‌برداری و اندازه پنجره متن نیز مستقیماً بر سرعت و کیفیت پاسخ و میزان مصرف حافظه تأثیر می‌گذارند. در چنین سیستمی بهتر است تنظیمات را متناسب با سخت‌افزار انتخاب کنید، نه اینکه دقیقاً از توصیه‌هایی پیروی کنید که برای مدل‌های ابری و سرورهای قدرتمند نوشته شده‌اند.

واحد پردازش عصبی یا NPU یکی از بخش‌های سخت‌افزاری جدید در بعضی لپ‌تاپ‌ها و کامپیوترهای مجهز به هوش مصنوعی است. با این حال، وجود NPU به‌تنهایی به معنی سریع‌تر اجرا شدن همه مدل‌های هوش مصنوعی نیست. در برخی کارها، پردازنده گرافیکی مجتمع یا حتی CPU عملکرد بهتری دارد؛ درحالی‌که NPU می‌تواند برای پردازش‌های کم‌مصرف و پس‌زمینه، مانند تبدیل صدا به متن، انتخاب مناسبی باشد.

برای استفاده از این تراشه هم دیگر همیشه به قابلیت‌های اختصاصی Copilot+ ویندوز محدود نیستید. ابزارهایی مانند Lemonade و FastFlowLM امکان اجرای بعضی مدل‌های هوش مصنوعی محلی را روی NPU فراهم می‌کنند. در ادامه بررسی می‌کنیم این ابزارها چگونه کار می‌کنند و NPU در عمل برای چه کارهایی ارزش استفاده دارد.

مدل‌های معمولاً برای استدلال پیچیده و برنامه‌نویسی پیشرفته گزینه‌های قدرتمندی هستند؛ اما برای بسیاری از کارهای روزمره، اجرای هوش مصنوعی روی کامپیوتر شخصی می‌تواند انتخابی اقتصادی‌تر و مناسب‌تر باشد. با استفاده از مدل‌های محلی مانند Gemma 4 و Qwen می‌توانید فایل‌های شخصی را تحلیل کنید، کد بنویسید و پاسخ پرسش‌های معمولی را بگیرید؛ بدون اینکه برای هر درخواست به سرویس ابری نیاز داشته باشید. البته میزان کیفیت و سرعت به مدل انتخابی و سخت‌افزار شما بستگی دارد.

مدل‌های حالا می‌توانند فراتر از پاسخ دادن به سؤال‌های عمومی عمل کنند. اگر به یک مدل زبانی محلی امکان جست‌وجو در اینترنت بدهید، می‌تواند اطلاعات جدیدتر را پیدا کند، محتوای صفحات وب را بخواند و بر اساس آن‌ها پاسخ بسازد؛ بدون اینکه برای هر سؤال مجبور باشید مستقیماً از جست‌وجوی گوگل استفاده کنید.

این روش برای کسانی که از مدل‌های محلی روی کامپیوتر شخصی استفاده می‌کنند، جذاب است؛ به‌خصوص اگر بخواهند حریم خصوصی بیشتری داشته باشند و در عین حال به اطلاعات به‌روز دسترسی پیدا کنند. البته جست‌وجوی وب به‌تنهایی دقت مدل را تضمین نمی‌کند و همچنان باید منابع پاسخ‌ها را بررسی کرد.

پرداخت هزینه برای چند سرویس هوش مصنوعی مختلف خیلی سریع می‌تواند به یک هزینه ماهانه قابل توجه تبدیل شود. مشکل مهم‌تر این است که برخلاف سرویس‌هایی مانند موسیقی، فضای ابری یا طراحی گرافیکی که هرکدام کاربرد مشخصی دارند، بسیاری از سرویس‌های هوش مصنوعی در بخش‌هایی از قابلیت‌های خود با یکدیگر هم‌پوشانی دارند.

اگر بیشتر کارهای روزمره شما شامل گفت‌وگو با هوش مصنوعی، جست‌وجوی وب، خلاصه‌سازی اسناد، برنامه‌نویسی، طراحی یا تحقیق باشد، لازم نیست الزاماً برای انجام هرکدام یک اشتراک جداگانه تهیه کنید. بخشی از این کارها را می‌توان با ابزارهای متن‌باز و اجرای مدل‌های هوش مصنوعی روی کامپیوتر انجام داد.

مرورگرهای مجهز به هوش مصنوعی معمولاً برای پاسخ‌گویی به پرسش‌ها یا خلاصه‌کردن صفحات وب به سرویس‌های ابری متکی هستند. یک روش متفاوت این است که مدل زبانی را روی کامپیوتر اجرا کنید و مرورگر را به همان مدل محلی متصل کنید. در این حالت پردازش گفت‌وگو با مدل روی سیستم خودتان انجام می‌شود و برای استفاده از مدل نیازی به اشتراک ماهانه یا کلید API سرویس‌های ابری ندارید.

BrowserOS از اتصال به مدل‌های محلی از طریق ابزارهایی مانند LM Studio و Ollama پشتیبانی می‌کند. مدل محلی می‌تواند برای خلاصه‌کردن صفحه فعلی، پرسیدن سؤال درباره محتوای صفحه و مقایسه اطلاعات چند تب کاربرد داشته باشد.