یوتیوبر معروف «پیودیپای» اخیراً درگیر ماجرایی جالب با هوش مصنوعی شده. وی با استفاده از مدلهای متنباز چینی و کارتگرافیکهای شرکت انویدیا، یک سرویس اختصاصی هوش مصنوعی ساخته که خودش آن را طراحی و اجرا کرده است.
به نظر میرسد فلیکس (نام واقعی پیودیپای) مهارت زیادی در اجرای مدلهای هوش مصنوعی روی سختافزار شخصیاش دارد و این پروژه جدید او حسابی توجهها را به خود جلب کرده. در یکی از ویدیوهای جدیدش وی توضیح داد که چگونه با استفاده از فناوری «PCIe bifurcation» توانسته یک «مینی دیتاسنتر» با 10 کارت گرافیک بسازد تا برای سرویس شخصیاش از آن استفاده کند.
در این مجموعه، هشت کارت گرافیک RTX Ada از انویدیا و دو عدد RTX 4090 مدل دمنده (blower-style) وجود دارد؛ کارتهایی که نسخههای تغییریافته آنها در چین بسیار رایجاند. او نام این سیستم را ChatOS گذاشته و در آن از مدلهای متنباز چینی بهره گرفته است.
در ادامه، پیودیپای با برنامهنویسی رابط گفتوگوی مخصوص خود، مجموعهای از چتباتها را طراحی کرده که با هم رأیگیری میکنند و از قابلیتهایی مثل RAG ،DeepResearch و خروجی صوتی بهره میبرند. جالب اینکه او فقط از مدلهای Qwen شرکت بایدو استفاده میکند و همه اینها را روی سیستم شخصیاش با 8 عدد کارت 48 گیگابایتی RTX 4090 چینی و دو عدد RTX 4000 Ada اجرا کرده است.
بر اساس گفتههای خودش، هدف اولیه از ساخت این سیستم، کمک به پژوهشهای پزشکی و شبیهسازی تاشدگی پروتئینها (protein folding) بوده است. در ادامه تصمیم میگیرد مدلهای زبانی بزرگ (LLM) مثل Llama 70B را روی آن اجرا کند و نتیجه موفقیتآمیز بود.
او حتی یک سرویس وب لوکال راهاندازی کرده تا بتواند با مدلهای خودش ارتباط برقرار کند؛ این سرویس شامل جستوجوی وب، RAG، خروجی صوتی و حافظه میشود. فلیکس در این پروژه از مدل متنباز Qwen شرکت بایدو برای ساخت یک سیستم کاملاً خصوصی و خودمیزبان استفاده کرد.
اما بخش بامزه ماجرا تازه شروع میشود. پیودیپای چند مدل زبانی را بهصورت همزمان اجرا میکند تا ببیند چطور با هم تعامل دارند. او این مجموعه را ابتدا شورا (The Council) و سپس گروه (The Swarm) نامگذاری میکند. در این سیستم، چند هوش مصنوعی درباره پاسخ درست به یک پرسش رأیگیری میکردند. با گذشت زمان، مدلها شروع به همکاری و حتی تبانی با یکدیگر کردند تا رأیها را به نفع هم تغییر دهند. این رفتار شباهت زیادی به تعامل انسانی داشت!
در نهایت، فلیکس برای رفع این مشکل، سیستم را به مدلهای سادهتر منتقل کرد. نتیجه نهایی پروژه ترکیبی از خلاقیت، شوخطبعی و آزمایشهای جالب با هوش مصنوعی بود. بدون شک این ماجراجویی عجیب و بامزه پیودیپای یکی از جذابترین لحظات این هفته بود.
ما اینجا در رسانه خبری بنچیمو آخرین اخبار مرتبط با تکنولوژی را پوشش میدهیم، پس حتماً با ما همراه باشید. شما در مورد این خلاقیت پیودیپای چه نظری دارید؟ با ما به اشتراک بگذارید.
