یه گزارش پیشرفت بدم خدمتتون.
این چند روز یه مقدار با مدلهایی که دارم کار انجام دادم. لازم به ذکره که همهشون یه جورایی تحت خانواده qwen هستن. دو تا مدل general که tool callingشون خوبه رو هم اضافه کردم (qwen3.5:4b و qwen3:8b).
راستی اون مدلی که توهم میزد با خودش صحبت میکرد رو (با کمال تأسف) حذفش کردم کلا.
اینا همه مدلهای قویای نیستن. احتمالا از عهده تسکای سخت هم خیلی خوب بر نمیان و قابل اعتماد نیستن. ولی در شرایط مناسب کارا هستن. مدل deepseek که reasoning داره خیلی خوب گاهی استدلال میکنه. اکثرشون فارسیشون بدک نیست، منو یاد gpt سه و خوردهای (که اگه درست خاطرم باشه در زمان با نخستوزیری دکتر مصدق منتشر شده بود) میندازن به این لحاظ. توانایی کد زنیشون هم جالبه. چندتا سوال متوسط که برای المپیاد فیزیک طرح کرده بودم (جدید بود کاملا) رو رو qwen3:8b تست کردم و خوب از پسشون بر اومد. در کل حیرتانگیزه با این حجم کم چه کارهایی میکنن. عملا فقط به اندازه یه بازی با گرافیک مدرن دارن از gpu کار میکشن!
تو عرصه راه انداختن agent تا حالا کار خاصی نکردهم، چون تسک مشخصی توی ذهنم نداشتم براشون. یه مشکل دیگهم هم این بوده که به تعداد بندگان خدا ابزار برای کارهای agentic هست. خیلیی زیادن و واقعا قضیه برام گیجکننده شده. این جا به نظرم جاییه که میتونم برای این آزمایشها یه اهدافی تعریف کنم: این که مثلا با این امکانات سختافزاری حداقلی، با مدلهای بسیار محدود شده، نهایت قدرتی که میشه بهش رسید چیه؟ دارم قلقلک میشم که خودم یه agent system مطابق نیازهام برای همین امکانات محدود درست کنم.
مثلا مسائلی که باهاشون دست و پنچه میشه نرم کرد از این جنسه:
پنجره کانتکست کوچیک رو چجور میخوایم مدیریت کنیم؟ احتمالا راه حلش از جنس چند لایه کردن حافظه (حافظه کوتاهمدت و بلندمدت یا در حالت ایدهآل با لایههای میانیه)
تقسیمبندی agentها چگونه باشه؟ احتمالا باید ایجنت برنامهریز، ایجنت ریوویو کننده، ایجنت اجرا کننده، ایجنت تست کننده داشته باشیم.
چجوری میشه مسائل امنیتی (مثلا از جنس محدود کردن اینجنت به فولدر خاص و محدود کردن commandهایی که میتونه اجرا کنه) رو مدیریت کرد؟ (این رو میدونم دغدغه @sah هم بوده اخیرن)
چطور میشه دسترسی به اینترنت یا داکیومنتهای مورد نیاز رو به آسونی براشون فراهم کرد؟
مدلهای کمحجم با قابلیت vision رو چجور میشه وارد بازی کرد؟
کلا فضای جالبیه حالا که دارم بهش فکر میکنم. یک همچین سیستمی اگه بتونه برای ساعتها اجرا بشه، آیا میتونه از عهده تسکهایی که مدلهای قویتر تو زمان کمتر از پسشون بر میان بر بیاد؟
در نهایت فقط هم به «برنامهنویسی» فکر نمیکنم. یه همچین سیستمی قاعدتاً باید چندمنظوره باشه.
