هوش مصنوعی در بانکداری دیگر فقط یک ابزار آزمایشی برای پاسخگویی سریعتر به مشتری نیست. بانکها از مدلهای هوشمند در پشتیبانی، بازاریابی، تشخیص تقلب، ارزیابی ریسک و کمک به تصمیمگیری استفاده میکنند؛ و همین گسترش، نهادهای ناظر را وادار کرده است از مرحله توصیههای کلی عبور کنند و به سراغ نحوه استفاده واقعی مؤسسات مالی بروند.
کمیسیون اوراق بهادار و سرمایهگذاری استرالیا، ASIC، اعلام کرده بررسی رسمی استفاده بخش بانکی این کشور از هوش مصنوعی در تعامل با مشتریان را انجام خواهد داد. رویترز در ۳۰ سپتامبر گزارش داد تمرکز نهاد ناظر بر این است که فناوریهای مبتنی بر AI چگونه بر مصرفکنندگان اثر میگذارند و بانکها برای مدیریت ریسکهای ناشی از آن چه سازوکارهایی دارند.
چرا این بررسی برای بانکها مهم است؟
ریسک هوش مصنوعی در بانک فقط به خطای یک چتبات محدود نمیشود. وقتی یک مدل در پیشنهاد محصول، اولویتبندی مشتری، تشخیص تقلب یا پشتیبانی از تصمیم اعتباری نقش پیدا میکند، خطای سیستم میتواند مستقیماً به رفتار نابرابر، توصیه نامناسب یا تصمیمی منجر شود که توضیح آن برای مشتری دشوار است.
ASIC پیشتر تأکید کرده بود قوانین موجود درباره خدمات مالی، حمایت از مصرفکننده و حاکمیت شرکتی با ورود فناوری جدید از بین نمیروند. به بیان ساده، یک مؤسسه نمیتواند صرفاً به این دلیل که تصمیم یا تعامل توسط مدل هوش مصنوعی پشتیبانی شده، مسئولیت نتیجه را به فناوری منتقل کند.
این رویکرد برای هیئتمدیره و مدیران ارشد بانکها اهمیت ویژه دارد. سؤال ناظر فقط این نیست که «آیا بانک از AI استفاده میکند؟»؛ بلکه این است که چه کسی مدل را تأیید کرده، داده ورودی از کجا آمده، عملکرد آن چگونه پایش میشود، خطاها چگونه کشف میشوند و در چه نقاطی انسان اختیار توقف یا اصلاح تصمیم را دارد.
ریسک سایبری به مسئله اصلی تبدیل شده است
در کنار حقوق مصرفکننده، امنیت سایبری بخش مهم دیگری از موضوع است. ASIC در ماههای گذشته درباره سرعت و مقیاس تهدیدهای مرتبط با مدلهای پیشرفته هشدار داده بود. APRA و ASIC نیز در اوت از مؤسسات مالی خواستند آگاهی از ریسکهای «frontier AI» را به اقدام عملی تبدیل کنند.
عاملهای هوشمند میتوانند بعضی فرایندهای عملیاتی را سریعتر کنند، اما همان قابلیت برنامهریزی و اجرای چندمرحلهای میتواند سطح حمله را هم گسترش دهد. برای بانکها، آسیبپذیری در چنین سیستمی ممکن است فقط یک رخداد فناوری نباشد و به افشای اطلاعات، اختلال عملیاتی یا زیان مستقیم مشتری تبدیل شود.
به همین دلیل، معماری دسترسی، ثبت رویدادها، محدودیت اختیار عاملها، آزمایش پیش از استقرار و امکان مداخله انسانی از اجزای اصلی حاکمیت AI در مؤسسات مالی شدهاند.
هوش مصنوعی میتواند مفید باشد؛ مسئله نحوه کنترل آن است
موضع نهادهای ناظر استرالیا مخالفت با استفاده از هوش مصنوعی نیست. ASIC در اسناد و سخنرانیهای خود به مزایایی مانند مدیریت بهتر ریسک، خدمات شخصیسازیشده و کارایی بالاتر اشاره کرده است. مسئله زمانی ایجاد میشود که سرعت پذیرش فناوری از توان سازمان برای شناخت و کنترل پیامدهای آن جلو بزند.
برای مشتری، نتیجه عملی این بحث باید قابل لمس باشد: اگر یک سیستم خودکار بر تصمیمی اثر گذاشته است که به وام، بیمه، سرمایهگذاری یا دسترسی به خدمات مرتبط میشود، مؤسسه باید بتواند نشان دهد فرآیند منصفانه، قابل نظارت و مطابق قانون بوده است.
پیام برای صنعت فینتک
این بررسی فقط برای بانکهای استرالیایی اهمیت ندارد. فینتکها، ارائهدهندگان زیرساخت بانکی و شرکتهایی که مدلهای هوش مصنوعی را به مؤسسات مالی میفروشند نیز با همان پرسش روبهرو هستند: چه کسی مسئول خروجی مدل است و کنترل واقعی در کدام نقطه قرار دارد؟
اگر رویکرد استرالیا به الزامات دقیقتر برای آزمون، ثبت، نظارت و پاسخگویی منجر شود، میتواند بر قرارداد بانکها با فروشندگان فناوری نیز اثر بگذارد. در چنین فضایی، مزیت رقابتی فقط داشتن مدل قویتر نیست؛ توانایی اثبات اینکه مدل قابل کنترل، قابل ممیزی و سازگار با مقررات است نیز بخشی از محصول خواهد بود.
برای سرمایهگذاران حوزه مالی و فناوری، روند نظارتی استرالیا یک نشانه مهم است: مرحله بعدی پذیرش AI در خدمات مالی احتمالاً کمتر درباره نمایش قابلیتهای جدید و بیشتر درباره حاکمیت، مسئولیت و کنترل ریسک خواهد بود.
تحریریه EFINX
این نام برای مطالبی استفاده میشود که با اتکا به چند منبع معتبر، بازنویسی و راستیآزمایی میشوند و مسئولیت نهایی ویرایش آنها با تحریریه EFINX است.