ساخت دستیار تحقیقاتی هوش مصنوعی به‌صورت کاملاً محلی؛ اجرای RAG با Ollama و اسناد شخصی

اگر با PDF، مقاله، گزارش یا مجموعه‌ای از اسناد زیاد سروکار دارید، می‌توانید به‌جای آپلود آن‌ها در سرویس‌های ابری، یک دستیار تحقیقاتی هوش مصنوعی را روی کامپیوتر خودتان راه‌اندازی کنید. ترکیب Ollama با یک مدل زبانی محلی، مدل Embedding و ابزارهایی مانند Open WebUI یا AnythingLLM امکان ساخت یک سیستم RAG را فراهم می‌کند که اطلاعات موردنیاز را از میان فایل‌های شخصی پیدا کرده و در اختیار مدل قرار می‌دهد.

مزیت اصلی این روش فقط رایگان بودن نیست؛ اسناد در حالت اجرای کاملاً محلی روی سیستم باقی می‌مانند و برای پردازش آن‌ها به ارسال فایل به یک سرویس ابری نیاز ندارید. خود Ollama نیز اعلام می‌کند که در اجرای محلی، داده و محتوای پردازش‌شده روی دستگاه کاربر باقی می‌ماند.

مدل‌های زبانی بزرگ زمانی وارد جریان اصلی فناوری شدند که OpenAI یکی از آنها را داخل یک پنجره چت قرار داد و نام ChatGPT را روی آن گذاشت. رابط کاربری آن‌قدر ساده و قابل‌فهم بود که تقریباً همه از آن الگوبرداری کردند و هنوز هم بیشتر مردم هوش مصنوعی را همین‌طور تصور می‌کنند: یک سؤال می‌نویسید و یک پاسخ دریافت می‌کنید. اما از آن زمان تغییرات زیادی رخ داده است.

امروزه مجموعه کاملی از ابزارها در کنار این مدل‌ها قرار گرفته‌اند؛ از دسترسی به فایل‌ها و دستورالعمل‌های سفارشی گرفته تا Skillهای قابل استفاده مجدد و کنترل مرورگر. این قابلیت‌ها مدل‌های هوش مصنوعی را از چت‌بات‌های ساده به دستیارهایی تبدیل می‌کنند که واقعاً می‌توانند کارها را انجام دهند.

اگر هنوز از Claude مانند یک چت‌بات ساده استفاده می‌کنید، بخش قابل‌توجهی از ارزشی را که اشتراک شما می‌تواند ارائه دهد، از دست می‌دهید. در ادامه‌ی مطلب با اینتوتک همراه باشید تا تغییراتی را که برای استفاده حداکثری از Claude منطقی به نظر می‌رسد را توضیح دهیم.