ایجنت هوش مصنوعی چیست؟
ایجنت سامانهای است که فقط پاسخ متنی تولید نمیکند؛ هدف مشخصی دریافت میکند، وضعیت را بررسی میکند، ابزار مناسب را انتخاب میکند و نتیجه را در چند مرحله تحویل میدهد. تفاوت اصلی آن با چتبات در داشتن گردشکار، ابزار، کنترل وضعیت و قواعد تصمیمگیری است.
مرحله ۱: مسئله را دقیق تعریف کنید
بهجای «یک ایجنت فروش بساز»، بنویسید: «ایجنت باید سؤال مشتری را دریافت کند، پاسخ را فقط از پایگاه دانش فروشگاه پیدا کند، در صورت نبود پاسخ درخواست را برای اپراتور ثبت کند و هیچ سفارش یا پرداختی را بدون تأیید انسان انجام ندهد.» نتیجه مورد انتظار باید قابل اندازهگیری باشد.
مرحله ۲: ورودی و خروجی را مشخص کنید
ورودیها، فرمت داده، محدودیت حجم و دادههای ممنوع را بنویسید. خروجی نیز باید قرارداد مشخص داشته باشد؛ برای مثال JSON شامل پاسخ، منبع، سطح اطمینان و نیاز یا عدم نیاز به بررسی انسانی.
مرحله ۳: ابزارها و Tool Calling
هر ابزار باید یک مسئولیت محدود داشته باشد. دسترسی خواندن و نوشتن را جدا کنید و عملیات حساس را به تأیید کاربر یا مدیر وابسته کنید. ابزار جستوجو، پایگاه دانش، تقویم و ارسال پیام نباید مجوز بیشتر از نیاز دریافت کنند.
مرحله ۴: حافظه و وضعیت
مشخص کنید چه اطلاعاتی فقط در همان گفتوگو و چه اطلاعاتی با رضایت کاربر نگهداری میشود. داده حساس، رمز، API Key و متن خصوصی نباید در حافظه بلندمدت یا لاگ عمومی قرار گیرد.
مرحله ۵: طراحی Workflow
گردشکار را به مراحل دریافت ورودی، اعتبارسنجی، بازیابی اطلاعات، تصمیم، اجرای ابزار، کنترل نتیجه و پاسخ نهایی تقسیم کنید. برای هر مرحله حالت موفق، ناموفق، Timeout و بازگشت امن تعریف کنید.
مثال کاربردی
ایجنت خلاصهساز اسناد ابتدا نوع و حجم فایل را بررسی میکند، متن را در Sandbox استخراج میکند، اطلاعات حساس را حذف میکند، خلاصه را میسازد و در پایان محدودیتهای تحلیل را اعلام میکند.
چکلیست نهایی
- هدف و معیار موفقیت روشن است.
- ورودی و خروجی قرارداد مشخص دارند.
- ابزارها حداقل دسترسی لازم را دارند.
- خطا و Timeout مدیریت میشود.
- داده حساس وارد لاگ نمیشود.
- عملیات پرریسک تأیید انسانی دارد.
- تستهای عادی، مرزی و مخرب اجرا شدهاند.
جمعبندی
ایجنت خوب با مدل بزرگتر شروع نمیشود؛ با مسئله روشن، دسترسی محدود، گردشکار قابل آزمون و گزارش شفاف ساخته میشود.