چرا AI Agent‌های خودمختار لایه بعدی زیرساخت فین‌تک هستند

در پنج سال گذشته، بانک‌ها سرمایه‌گذاری سنگینی در سیستم‌های هوش مصنوعی مکالمه‌محور انجام داده‌اند، به این امید که خدمات مشتریان را متحول کرده و به کاهش هزینه‌های عملیاتی کمک کنند.

به نظر می‌رسید این سیستم‌ها می‌توانند همه کارها را انجام دهند: بازنشانی رمز عبور، اعلام موجودی، و خیلی بیشتر. اما اکثر بانک‌ها متوقف شده‌اند. این فناوری قرار بود خدمات مشتریان را متحول کند، اما در نهایت تنها بهره‌وری را افزایش داد. مدل هوش مصنوعی نتوانست به هدف اصلی دست یابد — تغییر نحوه عملکرد مالی.

شرکت‌هایی مانند Merehead در حال توسعه چنین زیرساختی هستند و عوامل خودمختار را مستقیماً در هسته سیستم‌های معاملاتی و درگاه‌های پرداخت ادغام می‌کنند. این امر به مؤسسات مالی اجازه می‌دهد نه تنها اطلاعات ارائه دهند، بلکه عملیات پیچیده را — از مدیریت نقدینگی تا اجرای تراکنش‌های زنجیره‌ای متقاطع — بدون دخالت انسانی خودکار کنند.

این موضوع عجیبی است: بانک‌ها از مدل‌های زبانی پیچیده‌ای استفاده می‌کنند که پرس‌وجوهای پیچیده را درک می‌کنند، اما این سیستم‌ها تقریباً هیچ کاری خودشان انجام نمی‌دهند. توضیح می‌دهند که ترجمه چیست، اما آن را انجام نمی‌دهند. درباره استراتژی‌های سرمایه‌گذاری صحبت می‌کنند، اما سهام نمی‌خرند یا نمی‌فروشند. مشکل این نیست که هوش مصنوعی بد است، بلکه این است که نمی‌توانیم بفهمیم چگونه از آن به‌طور مؤثر استفاده کنیم.

برای بهبود فناوری‌های مالی، باید نه فقط چت‌بات‌های پرحرف‌تر، بلکه سیستم‌های هوشمندی بسازیم که بتوانند به تنهایی فکر کنند، برنامه‌ریزی کنند و وظایف مالی پیچیده را بدون نیاز به کمک مداوم انجام دهند. ادغام هوش مصنوعی در کسب‌وکار به ۷۷٪ رسیده است و مدل‌های در دسترس هر چه بیشتر به‌طور مؤثر مورد استفاده قرار می‌گیرند.

صنعت اکنون در حال گذار بزرگی است: از هوش مصنوعی مکالمه‌محور معمولی به AI Agent های خودمختار قدرتمند. این عوامل می‌توانند به تنهایی وظایف مالی پیچیده را مدیریت کنند. گویی کل منطق زیرساخت فین‌تک در حال تغییر است!

قبلاً فقط پاسخ می‌دادند، حالا عمل می‌کنند: معماری چگونه در حال تغییر است

چت‌بات‌ها معمولاً ساده کار می‌کنند: سؤال بپرس و جواب بگیر. سؤال می‌پرسید، سیستم منظور شما را می‌فهمد، اطلاعات جستجو می‌کند و جواب برمی‌گرداند. اما این کار نسبتاً ساده‌ای است؛ واقعاً نمی‌توان با آن کار خاصی انجام داد، و از این نظر هم امن است چون به سیستم‌های دیگر متصل نیست.

عوامل خودمختار چیزها را تغییر می‌دهند. آن‌ها فقط به سؤالات پاسخ نمی‌دهند؛ بلکه فرآیندهای پیچیده‌ای را که چندین سیستم را در بر می‌گیرند انجام می‌دهند. آن‌ها بر اساس داده‌ها تصمیم می‌گیرند و اقداماتی انجام می‌دهند که می‌توانند بر امور مالی تأثیر بگذارند. به عنوان مثال، یک عامل مبتنی بر هوش مصنوعی OpenAI می‌تواند بیش از توصیه درباره تغییرات پرتفولیو انجام دهد. بازار را اسکن می‌کند، ریسک‌ها را ارزیابی می‌کند، در صرافی‌های مختلف معاملات انجام می‌دهد، و گزارش‌هایی برای اطمینان از انطباق تولید می‌کند، در حالی که تمام اقداماتش را ثبت می‌کند.

معماری عوامل خودمختار

عوامل مالی خودمختار بر سه اصل کلیدی استوارند: توانایی تفکر روشن، ادغام محکم با سیستم‌های مختلف، و امنیت قوی. برخلاف چت‌بات‌ها که صرفاً می‌فهمند کاربر چه می‌خواهد، عوامل خودمختار قادر به تفکر منطقی هستند. آن‌ها وظایف پیچیده را به مراحل ساده تقسیم می‌کنند، پیشرفت را رصد می‌کنند و با ظهور اطلاعات جدید برنامه‌هایشان را تطبیق می‌دهند.

نحوه کارکرد یک AI Agent:

۱. لایه ادراک (زمینه و داده)

این لایه تمام اطلاعات را جمع‌آوری می‌کند: نرخ ارز، موجودی‌ها، ریسک‌ها، قوانین. این لایه صرفاً داده‌ها را برای مراحل بعدی آماده می‌کند.

۲. لایه استدلال (تفسیر و برنامه‌ریزی)

در اینجا، LLM‌ها وضعیت را تحلیل می‌کنند و می‌فهمند چه باید کرد. اما هیچ چیزی را اجرا نمی‌کنند؛ فقط گزینه‌ها را پیشنهاد می‌دهند.

۳. موتور سیاست و ریسک (محدودیت‌ها و کنترل‌ها)

در اینجا، هر تصمیم عامل از نظر انطباق با قوانین بررسی می‌شود: محدودیت‌ها، قوانین، تنظیمات مشتری. همه چیز اینجا شفاف است، هیچ آماتوریسمی وجود ندارد.

۴. لایه اجرا (اجرای اقدامات)

از طریق APIهای تخصصی اجرا می‌شود: سیستم‌های معاملاتی، بانک‌ها، خدمات پرداخت. عامل مستقیماً به پول دست نمی‌زند، بلکه فقط دستورات صادر می‌کند.

۵. لایه ممیزی و مشاهده‌پذیری

هر اقدام ثبت می‌شود: ورودی، استدلال، قوانین اعمال‌شده، نتایج. بنابراین، همه چیز شفاف است و الزامات را برآورده می‌کند.

۶. حلقه بازخورد (آموزش و تطبیق)

نتایج کار عامل برای بهبود استراتژی‌ها استفاده می‌شود، اما همه چیز تحت کنترل است، بدون تغییر منطق کسب‌وکار به دلخواه.

امنیت در اولویت

وقتی هوش مصنوعی شروع به مدیریت امور مالی می‌کند، همه به طور طبیعی کمی نگران امنیت خواهند بود. هوش مصنوعی می‌تواند چند دروغ بگوید و وانمود کند که حقیقت می‌گوید در حالی که در واقع بی‌معنی است، و اگر از این ترفندها برای تصمیم‌گیری‌های مالی استفاده کند، خطرناک است. بنابراین، مهندسان باید چیزی شبیه به یک محیط ایزوله برای هوش مصنوعی طراحی کنند — جایی که بتواند عمل کند، اما با محدودیت‌های فراوان. برای کاهش خطر توهمات و راه‌حل‌های غیرعادی، مفید است که به NIST AI Risk Management Framework (AI RMF 1.0) تکیه کنیم و کنترل را در کل چرخه عمر مدل ایجاد کنیم.

اعتبارسنجی ورودی و امنیت پرامپت

قبل از اینکه هوش مصنوعی حتی شروع به فهمیدن اینکه با درخواست چه کند بکند، درخواست باید از چندین بررسی امنیتی عبور کند. هر تلاشی برای فریب دادن هوش مصنوعی با پرس‌وجوهای پیچیده باید فیلتر شود. تقریباً تمام تهدیدات کلیدی برای عواملی با پردازش خروجی ناامن به خوبی در OWASP Top 10 برای برنامه‌های LLM (Prompt Injection و غیره) توضیح داده شده‌اند. علاوه بر این، باید اطمینان حاصل کنیم که افراد از سیستم سوءاستفاده نکنند یا آن را بیش از حد بارگذاری نکنند.

متخصصان برتر دائماً تلاش می‌کنند تا سیستم را هک کنند تا ضعف‌ها را قبل از افراد مخرب پیدا کنند. این اکنون کاملاً ضروری است، چون سهام نه فقط اعتبارات، بلکه مقدار زیادی پول هم هست.

موتور سیاست و کنترل تراکنش

درون محیط ایزوله چیزی به نام موتور سیاست وجود دارد. این موتور اطمینان می‌دهد که هوش مصنوعی قوانین شرکت و قوانین حقوقی را نقض نکند. هر اقدام هوش مصنوعی در برابر مجموعه‌ای از قوانین بررسی می‌شود. محدودیت‌های تراکنش وجود دارد تا از انجام هر کار اشتباهی توسط هوش مصنوعی جلوگیری شود، و اگر یک تراکنش بزرگ یا پرریسک باشد، باید توسط انسان تأیید شود.

همه چیزی که هوش مصنوعی انجام می‌دهد ثبت می‌شود — هر تصمیم، هر اقدام. این برای اطمینان از انطباق و توانایی تحقیق در صورت بروز مشکل ضروری است. اگر عامل با پرداخت‌های ارز دیجیتال یا عملیات با دارایی‌های مجازی سروکار داشته باشد، محدودیت‌ها و نظارت باید با در نظر گرفتن راهنمایی FATF درباره دارایی‌های مجازی و VASPها (AML/CFT) طراحی شوند.

چرا سیستم مدیریت سفارشی خودتان بهتر از SaaS است

راه‌حل‌های SaaS وجود دارند که وعده می‌دهند به سرعت هوش مصنوعی را به امور مالی شما اضافه کنند. این ویژگی‌ها پیاده‌سازی آسانی دارند، شروع با هزینه کم ممکن است، و توسط متخصصان دائماً به‌روزرسانی می‌شوند. اگر به یک چت‌بات ساده یا چیزی غیرمرتبط با امور مالی نیاز دارید، SaaS مناسب است. اما اگر می‌خواهید هوش مصنوعی امور مالی شما را مدیریت کند، SaaS پاسخ نیست.

مشکل اصلی کنترل است. وقتی از SaaS استفاده می‌کنید، داده‌های مهمتان با افراد دیگری به اشتراک گذاشته می‌شود، و اینجاست که سردردها شروع می‌شوند: چگونه از آن داده‌ها محافظت کنید، چگونه مقررات را رعایت کنید، و چگونه به طور کلی تأیید کنید که همه چیز امن است.

تصور کنید هوش مصنوعی به تنهایی یک معامله میلیون دلاری انجام دهد، بر اساس تحلیل هوشمند بازار. هر اقدام باید قابل توضیح، قابل تأیید و قانونی باشد. اما SaaS اغلب مثل یک جعبه سیاه است. هیچ چیز قابل مشاهده نیست، هیچ چیز قابل درک نیست. این برای شرکت‌های مالی نامناسب است.

پیکربندی دستی کمک می‌کند تا هر جزئیاتی از عملکرد عامل مدیریت شود. شرکت‌ها می‌توانند مدل‌های زبانی را برای نیازهای خود انتخاب و سفارشی کنند. همچنین می‌توانند سیستم‌های قوانینی ایجاد کنند که ریسک‌ها و الزامات خودشان را در نظر می‌گیرند. علاوه بر این، همه اینها به راحتی با استفاده از پروتکل‌ها و استانداردهای امنیتی آشنا با سیستم‌های داخلی ادغام می‌شوند.

سرمایه‌گذاری در چنین توسعه‌ای با انعطاف عملیاتی جبران می‌شود. اگر مقررات تغییر کنند، تهدیدات جدید ظهور کنند، یا کسب‌وکار مسیر متفاوتی را در پیش بگیرد، شرکت‌هایی که پیکربندی دستی دارند می‌توانند معماری عامل را بدون وابستگی به فروشندگان تغییر دهند. در دنیای امروز با رقابت و قوانین در حال تغییر دائمی، این امر حیاتی است.

به سوی آینده

گذار از هوش مصنوعی مکالمه‌محور به عوامل خودمختار چیزی برای آینده نیست؛ همین الان در حال وقوع است، با محرک مدل‌های زبانی پیشرفته، ساختارهای API بهبودیافته، و رقابت فزاینده در اتوماسیون فرآیندهای مالی پیچیده. شرکت‌هایی که این را درک می‌کنند و در یک پایه محکم سرمایه‌گذاری می‌کنند، مزایای قابل توجهی به دست خواهند آورد: کارایی بیشتر، کاهش ریسک، و مشتریان راضی‌تر.

برای اطمینان از موفقیت، رویکردی جدی لازم است. شرکت‌ها باید مهندسان باتجربه‌ای استخدام کنند که بتوانند سیستم‌های هوش مصنوعی پیچیده ایجاد و نگهداری کنند. باید قوانینی برای جلوگیری از نوآوری بیش از حد و حفظ کنترل ایجاد شود.

مهم است که همه بفهمند که هوش مصنوعی یک چوب جادویی نیست، بلکه ابزار قدرتمندی است که باید به درستی پیکربندی، آزمایش و دائماً نظارت شود.

در ده سال آینده، مؤسسات مالی که موفق خواهند شد آن‌هایی هستند که هنر مدیریت عملیات خودمختار را تسلط می‌یابند. آن‌ها از AI Agent ها برای انجام وظایف روتین استفاده خواهند کرد و این کار را با دقت استثنایی انجام خواهند داد. این امر مردم را آزاد می‌کند تا روی تصمیم‌های استراتژیک و مشکلات پیچیده تمرکز کنند. آن‌ها سیستم‌هایی ایجاد خواهند کرد که با هر عملیاتی یاد می‌گیرند و بهبود می‌یابند.

سؤال دیگر این نیست که آیا هوش مصنوعی سیستم مالی را متحول خواهد کرد یا نه. سؤال این است که چه کسی این تغییر را رهبری خواهد کرد و چه کسی عقب خواهد ماند. تصمیماتی که اکنون می‌گیرید تعیین خواهند کرد که شرکت شما در آینده چقدر موفق خواهد بود.

Why Autonomous AI Agents Are the Next Layer of Fintech Infrastructure در ابتدا در Coinmonks در Medium منتشر شد، جایی که مردم با برجسته کردن و پاسخ دادن به این داستان به گفتگو ادامه می‌دهند.