این هوش مصنوعی روی کامیپوتر شما پردازش می‌شود و برای اجرای آن به یک پردازشگر گرافیکی RTX سری 30 یا 40 نیاز دارید.

انویدیا نسخه دموی هوش مصنوعی Chat with RTX را عرضه کرد؛ در این دمو می‌توانید یک چت‌بات شخصی‌سازی‌شده روی کامپیوتر خود داشته باشید. این هوش مصنوعی کارهای مختلفی انجام می‌دهد و روی کامپیوتر شما پردازش می‌شود؛ البته به یک پردازشگر گرافیکی RTX سری 30 یا 40 با حداقل 8 گیگابایت VRAM نیاز دارید.

براساس گزارش ورج، Chat with RTX می‌تواند کارهای مختلفی انجام دهد. برای مثال می‌توانید لینک یک ویدیوی یوتوب را برای آن بفرستید و خلاصه‌ای از محتوای ویدیو دریافت کنید؛ البته هنوز این نسخه دمو باگ‌هایی دارد و نباید انتظار داشته باشید با یک هوش مصنوعی بی‌نقص مواجه شوید. به‌نظر می‌رسد این هوش مصنوعی در خلاصه‌کردن مطالب بلند خوب عمل می‌کند و می‌توانید به آن یک متن بلند بدهید و بخواهید که آن را کوتاه‌تر کند.

هوش مصنوعی Chat with RTX انویدیا

اشکال بزرگ Chat with RTX این است که شبیه یک نسخه آزمایشی کدنویسی‌شده اولیه است. برای اجرای این هوش مصنوعی باید یک وب سرور و نمونه پایتون را روی کامپیوتر خود نصب کنید؛ سپس این چت‌بات از مدل‌های Mistral یا Llama 2 برای جستجوی داده‌ها استفاده می‌کند. این هوش مصنوعی از هسته‌های تنسور انویدیا در پردازشگر گرافیکی RTX برای سرعت‌بخشیدن به درخواست‌های شما بهره می‌برد.

براساس گزارش‌ها، نصب این هوش مصنوعی روی کامپیوتر زمان‌بر خواهد بود. برنامه چت‌بات نیز تقریباً 40 گیگابایت حجم دارد و نمونه پایتون آن حدود 3 گیگابایت رم اشغال می‌کند. پس از نصب برنامه، از یک مرورگر به Chat with RTX دسترسی پیدا می‌کنید.

یکی دیگر از اشکالات Chat with RTX این است که تاریخچه گفتگوی شما را به یاد نمی‌آورد؛ و نمی‌توانید سؤالات بعدی را براساس سؤالات قبلی طرح کنید. درهرصورت باتمام باگ‌های این هوش مصنوعی، چنین چت‌باتی که روی کامپیوتر پردازش می‌شود، قدمی رو به جلو برای انویدیا محسوب می‌شود.