برای اجرای مدل‌های ، صرفاً انتخاب یک مدل کم‌حجم کافی نیست؛ تنظیماتی مثل حالت تفکر، روش نمونه‌برداری و اندازه پنجره متن نیز مستقیماً بر سرعت و کیفیت پاسخ و میزان مصرف حافظه تأثیر می‌گذارند. در چنین سیستمی بهتر است تنظیمات را متناسب با سخت‌افزار انتخاب کنید، نه اینکه دقیقاً از توصیه‌هایی پیروی کنید که برای مدل‌های ابری و سرورهای قدرتمند نوشته شده‌اند.