راه اندازی لوکال سرور روی lm studio

در قسمت قبل به آموزش جامع LM Studio برای نصب و راه اندازی مدل های آفلاین هوش مصنوعی پرداختیم. برای اینکه بتوان از طریق برنامه دیگری  (مثلا anything llm ) به برنامه lm studio دسترسی داشت، می بایست مطابق تصویر زیر از منوی دولوپر ، لوکال سرور را Run کرد.

اجرای Lmstudio روی لوکال سرور

بعد از اجرای لوکال سرور، لینک ایجاد شده توسط lm studio را در برنامه مذکور کپی کنید

ال ام استودیو

در برنامه Anything llm لینک مذکور در قسمت مدل زبانی مطابق تصویر زیر کپی شود. البته اگر مراحل به درستی انجام شود برنامه anything llm لینک را بصورت خودکار شناسایی میکند.

aything llm

• اگر در برنامه anything llm با خطای زیر مواجه شدید باید مقدار contex length در برنامه lm studio  را به مقداری بیشتر از حدی که در متن خطا امده است افزایش دهید.

RAG چیست؟

به زبان ساده، RAG به LLM اجازه می‌دهد تا به جای تکیه صرف بر دانش داخلی خود، به اسناد و اطلاعاتی که شما به آن می‌دهید (مثلاً فایل‌های PDF، اسناد متنی، وب‌سایت‌ها) دسترسی پیدا کند و پاسخ‌های دقیق‌تری بر اساس آن اطلاعات ارائه دهد.

کاربرد RAG با AnythingLLM:

• ایجاد دستیار هوشمند شخصی

 می‌توانید اسناد کاری، یادداشت‌ها، یا کتاب‌های خود را به AnythingLLM متصل کنید و سپس از LLM بپرسید تا خلاصه‌ای از آن‌ها ارائه دهد، به سوالات شما بر اساس آن اطلاعات پاسخ دهد، یا حتی محتوای جدیدی بر اساس آن‌ها تولید کند.

• پرسش و پاسخ از روی مستندات

 شرکت‌ها می‌توانند مستندات فنی، راهنماهای کاربری، یا گزارش‌های خود را به سیستم متصل کنند تا کارمندان بتوانند به راحتی اطلاعات مورد نیاز خود را بیابند.

• تحلیل داده‌های خاص

 می‌توانید مجموعه‌ای از مقالات، تحقیقات، یا گزارش‌های مالی را به سیستم بدهید و از LLM بخواهید تا روندها، ارتباطات، یا نکات کلیدی را استخراج کند.