اگر از مدل‌های هوش مصنوعی فقط برای چت استفاده کنید، معمولاً هزینه سرویس چندان پیچیده نیست. اما وقتی مدل را از طریق API به ابزارهایی مانند اتوماسیون‌ها و دستیارهای برنامه‌نویسی و Agentها متصل می‌کنید، تعداد درخواست‌ها می‌تواند خیلی سریع افزایش پیدا کند و هزینه استفاده از مدل‌های تجاری بالا برود.

در چنین شرایطی، استفاده از مدل‌های رایگان یا متن‌باز از طریق API می‌تواند گزینه‌ای برای کاهش هزینه باشد. NVIDIA در سرویس NIM خود مجموعه‌ای از مدل‌ها را با عنوان Free Endpoint ارائه می‌کند و تعداد و نوع این مدل‌ها در طول زمان تغییر می‌کند. در حال حاضر مدل‌هایی از شرکت‌هایی مانند Z.ai و Meta و Google و OpenAI در این فهرست دیده می‌شوند.