مدل‌های هوش مصنوعی محلی حالا می‌توانند فراتر از پاسخ دادن به سؤال‌های عمومی عمل کنند. اگر به یک مدل زبانی محلی امکان جست‌وجو در اینترنت بدهید، می‌تواند اطلاعات جدیدتر را پیدا کند، محتوای صفحات وب را بخواند و بر اساس آن‌ها پاسخ بسازد؛ بدون اینکه برای هر سؤال مجبور باشید مستقیماً از جست‌وجوی گوگل استفاده کنید.
این روش برای کسانی که از مدل‌های محلی روی کامپیوتر شخصی استفاده می‌کنند، جذاب است؛ به‌خصوص اگر بخواهند حریم خصوصی بیشتری داشته باشند و در عین حال به اطلاعات به‌روز دسترسی پیدا کنند. البته جست‌وجوی وب به‌تنهایی دقت مدل را تضمین نمی‌کند و همچنان باید منابع پاسخ‌ها را بررسی کرد.
چرا اتصال هوش مصنوعی محلی به اینترنت اهمیت دارد؟
مدل زبانی محلی معمولاً پاسخ‌های خود را بر اساس داده‌هایی تولید می‌کند که هنگام آموزش در اختیارش قرار گرفته‌اند. به همین دلیل، برای توضیح مفاهیم عمومی یا پاسخ به پرسش‌های قدیمی مناسب است؛ اما ممکن است درباره اخبار روز، نسخه جدید نرم‌افزارها یا تغییرات اخیر اطلاعات نادرست ارائه کند.
از طرف دیگر، جست‌وجوی گوگل همیشه سریع‌ترین راه رسیدن به پاسخ نیست. تبلیغات، صفحات کم‌کیفیت و خلاصه‌های تولیدشده با هوش مصنوعی ممکن است پیدا کردن اطلاعات قابل اعتماد را دشوار کنند. این مسئله به معنی بی‌فایده بودن گوگل نیست؛ بلکه نشان می‌دهد جست‌وجو و ارزیابی منابع همچنان اهمیت دارند.
با اتصال هوش مصنوعی به اینترنت، می‌توان این دو قابلیت را کنار هم قرار داد: مدل سؤال را تحلیل می‌کند، موتور جست‌وجو صفحات مرتبط را پیدا می‌کند و مدل با خواندن محتوای صفحات پاسخ دقیق‌تری می‌سازد.
مزیت‌های این روش عبارت‌اند از:
- دسترسی به اطلاعات جدیدتر از داده‌های آموزشی مدل
- خلاصه‌سازی چند صفحه وب در قالب یک پاسخ منسجم
- امکان بررسی منابع و مقایسه اطلاعات متناقض
- استفاده از مدل هوش مصنوعی روی کامپیوتر شخصی برای کاهش وابستگی به سرویس‌های ابری
- کنترل بیشتر بر مدل انتخابی و نحوه انجام جست‌وجو
نکته مهم این است که هوش مصنوعی محلی متصل به اینترنت لزوماً به معنی پردازش کاملاً آفلاین نیست. مدل ممکن است روی کامپیوتر شما اجرا شود، اما درخواست‌های جست‌وجو به یک سرویس آنلاین ارسال شوند. بنابراین اگر حفظ حریم خصوصی برایتان اهمیت دارد، باید سیاست داده‌های سرویس جست‌وجو را نیز بررسی کنید.
چگونه به مدل هوش مصنوعی محلی در Jan امکان جست‌وجوی وب بدهیم؟
برنامه Jan امکان اتصال مدل‌های زبانی محلی به ابزارهای جست‌وجو و خواندن صفحات وب را فراهم می‌کند. در این روش، مدل ابتدا نتایج جست‌وجو را دریافت می‌کند و سپس می‌تواند محتوای صفحات مرتبط را بخواند و از اطلاعات آن‌ها برای پاسخ استفاده کند.
برای فعال کردن این قابلیت، وارد تنظیمات Jan شوید و بخش جست‌وجوی وب را بررسی کنید.
Settings > Web Search
تنظیمات > جست‌وجوی وب
گزینه Web Search را فعال نگه دارید. در تنظیمات معمول Jan، سرویس Exa می‌تواند بدون وارد کردن کلید API برای جست‌وجوی پایه استفاده شود؛ البته محدودیت‌های سرویس رایگان ممکن است تغییر کنند. برای استفاده از سرویس‌های دیگر، باید تنظیمات ارائه‌دهنده مربوطه را انجام دهید.
هنگام شروع گفتگو، مدلی را انتخاب کنید که از استفاده از ابزارها پشتیبانی کند. همه مدل‌های زبانی توانایی فراخوانی ابزارهای جست‌وجو را ندارند. سپس سؤالی مشخص مطرح کنید؛ به عنوان مثال، به‌جای پرسیدن «آخرین تغییرات نرم‌افزار چیست؟» نام نرم‌افزار و بازه زمانی موردنظر را هم ذکر کنید.
تفاوت مهم در این است که جست‌وجو فقط فهرستی از نتایج و خلاصه آن‌ها را فراهم می‌کند؛ اما ابزار خواندن صفحه می‌تواند محتوای کامل‌تری را در اختیار مدل قرار دهد. اگر مدل فقط به خلاصه نتایج تکیه کند، احتمال دارد جزئیات مهم یا تاریخ انتشار را اشتباه تشخیص دهد.
اتصال جست‌وجوی اینترنتی به LM Studio با Brave Search
اگر از LM Studio استفاده می‌کنید، می‌توانید با کمک ابزارهای سازگار با MCP قابلیت جست‌وجوی وب را به گردش کار مدل اضافه کنید. یکی از گزینه‌ها Brave Search است که موتور جست‌وجوی مستقل خود را دارد و برای دسترسی از طریق API به کلید مخصوص نیاز دارد.
در این روش، لازم است یک کلید API از سرویس Brave Search دریافت کنید و اتصال ابزار جست‌وجو را طبق تنظیمات نسخه مورد استفاده خود در LM Studio انجام دهید. در بعضی روش‌های اتصال MCP، تنظیمات سرور در فایل پیکربندی ذخیره می‌شوند؛ محل و قالب این فایل به نسخه برنامه و روش نصب بستگی دارد.
این گزینه برای کسانی مناسب است که می‌خواهند کنترل بیشتری روی موتور جست‌وجو داشته باشند. با این حال، برخلاف تنظیم پایه جست‌وجوی وب در Jan، راه‌اندازی آن ممکن است به تنظیمات بیشتری نیاز داشته باشد و استفاده از API نیز تابع سهمیه و شرایط سرویس ارائه‌دهنده است.
بهترین مدل هوش مصنوعی محلی برای جست‌وجوی وب با کارت گرافیک ۸ گیگابایتی
برای اجرای مدل محلی با کارت گرافیک ۸ گیگابایتی، فقط حجم فایل مدل اهمیت ندارد. مقدار حافظه موردنیاز به روش فشرده‌سازی مدل، طول پنجره زمینه، حافظه مصرفی برنامه و ابزارهای جانبی نیز وابسته است.
خانواده Qwen به دلیل توانایی استفاده از ابزارها می‌تواند گزینه مناسبی برای این کار باشد. مدل‌های کوچک‌تر مانند Qwen 3.5 4B با فشرده‌سازی مناسب معمولاً فضای بیشتری برای حافظه زمینه و سایر اجزای برنامه باقی می‌گذارند. مدل‌های بزرگ‌تر مانند نسخه 9B ممکن است در بعضی تنظیمات قابل اجرا باشند، اما باید مصرف حافظه و سرعت پاسخ‌گویی را جداگانه بررسی کرد.
برای انتخاب مدل به این نکات توجه کنید:
- پشتیبانی از فراخوانی ابزارها: مدل باید بتواند از ابزار جست‌وجو و خواندن صفحات استفاده کند، نه اینکه صرفاً درباره اینترنت متن تولید کند.
- حجم فشرده‌سازی: نسخه‌هایی مانند Q4_K_M معمولاً تعادل مناسبی بین حجم و کیفیت ایجاد می‌کنند.
- طول زمینه: هرچه اطلاعات صفحات بیشتری وارد گفتگو شود، مصرف حافظه نیز ممکن است افزایش پیدا کند.
- کیفیت پاسخ و منابع: مدل باید بتواند اطلاعات را با منابع مرتبط تطبیق دهد و تاریخ‌ها یا نسخه‌ها را با هم اشتباه نگیرد.
حتی مدل‌های مجهز به جست‌وجوی وب هم ممکن است پاسخ نادرست تولید کنند. بهتر است در پرسش‌های مربوط به آپدیت نرم‌افزارها، خبرهای جدید یا اطلاعات فنی حساس، از مدل بخواهید منابع اصلی را بررسی کند و تاریخ انتشار را با متن صفحه تطبیق دهد.
اینتوتک