نهادهای نظارتی آمریکا بدون آنکه هنوز مقررات سختگیرانه تازهای وضع کنند، با سؤالات هدفمند، بانکها را واداشتهاند سازوکار توقف اضطراری سیستمهای هوش مصنوعی، نحوه مدیریت دادههای مشتریان و ریسک تأمینکنندگان فناوری را شفاف کنند.
منابع آگاه میگویند نهادهای ناظر بر نظام بانکی آمریکا، نظارت خود بر نحوه بهکارگیری هوش مصنوعی در بانکها و مؤسسات مالی را به شکلی محسوس افزایش دادهاند. دفتر کنترلکننده ارز (OCC) و فدرال رزرو اکنون در جریان بازرسیهای معمول خود از بانکها میخواهند دقیقاً مشخص کنند که هوش مصنوعی در کدام بخشهای پرریسک؛ از جمله اعطای وام، احراز هویت مشتریان و غربالگری تحریمها به کار گرفته شده است.
به گفته سه منبع مطلع، بازرسان دیگر تنها به کلیات بسنده نمیکنند؛ آنها درباره نحوه همکاری بانکها با شرکتهای تأمینکننده فناوری، شیوه حفاظت از دادههای مشتریان و وجود ابزارهایی مانند «کلید توقف اضطراری» برای خاموشکردن سامانههای هوش مصنوعی در مواقع ضروری پرسشهای دقیقی مطرح میکنند. همچنین چارچوبهای حاکمیتی بانکها شامل سازوکارهای کنترلی، میزان نظارت انسانی بر تصمیمهای هوش مصنوعی، مدیریت ریسک طرفهای ثالث، نظارت بر پیمانکاران فرعی و برنامههای اضطراری در صورت اختلال یا شکست سامانهها، زیر ذرهبین قرار گرفته است.
یکی از این منابع تأکید میکند که «موضوع استفاده از هوش مصنوعی اکنون به بخشی ثابت از تمامی بازرسیهای بانکی تبدیل شده و این گفتوگوها هم به صورت کتبی و هم شفاهی انجام میشود.»
تمرکز بر ریسکهای نسل جدید هوش مصنوعی
نهادهای نظارتی پیشتر نیز از افزایش توجه خود به استفاده بانکها از هوش مصنوعی خبر داده بودند. دفتر پاسخگویی دولت آمریکا سال گذشته اعلام کرد که رگولاتورها در حال ارزیابی خطرات مرتبط با این فناوری در بخش خدمات مالی هستند. در ماه آوریل نیز OCC، فدرال رزرو و شرکت بیمه سپردههای فدرال (FDIC) گفتند که قصد دارند درخواست رسمی اطلاعاتی درباره نحوه استفاده بانکها از هوش مصنوعی، از جمله سامانههای مولد و عاملمحور، منتشر کنند؛ اقدامی که به معنای وضع مقررات جدید نیست، بلکه به جمعآوری اطلاعات و دیدگاهها پیش از هرگونه تصمیمگیری کمک میکند.
یکی از موضوعات داغ در این بررسیها، توان بانکها برای مواجهه با سامانههای پیشرفته و بهسرعت در حال تحول هوش مصنوعی است. کارشناسان امنیت سایبری هشدار دادهاند که مدلهایی مانند «میتوس» (Mythos) از شرکت آنتروپیک به دلیل توانایی بالقوه در شناسایی و بهرهبرداری از آسیبپذیریهای سایبری، میتوانند چالشهای جدی برای زیرساختهای قدیمی فناوری بانکها ایجاد کنند. وزارت خزانهداری آمریکا و نهادهای نظارتی نیز خطرات امنیتی ناشی از این نسل جدید هوش مصنوعی و میزان آمادگی مؤسسات مالی را به دقت زیر نظر دارند.
نظارت بر سامانهها و تأمینکنندگان فناوری
با وجود این حساسیتها، منابع آگاه میگویند بازرسان هنوز قصد محدود کردن کاربردهای خاص هوش مصنوعی را ندارند و بیشتر بر جمعآوری اطلاعات و ارزیابی روشهای موجود متمرکزند. آنها به جای تدوین مقررات اختصاصی جدید، فعلاً از چارچوبهای موجود مانند مدیریت ریسک مدلها، نظارت بر ریسک طرفهای ثالث و قوانین حمایت از مصرفکنندگان برای سنجش مدیریت این فناوری استفاده میکنند.
یکی از نگرانیهای اصلی رگولاتورها این است که سامانههای هوش مصنوعی فراتر از اختیارات تعریفشده عمل کنند یا به دادههایی دسترسی پیدا کنند که مجاز به استفاده از آنها نیستند. از بانکها خواسته شده توضیح دهند چه سازوکارهای کنترلی برای محدود کردن رفتار مدلهای هوش مصنوعی و میزان دسترسی آنها به دادهها در اختیار دارند. وجود نظارت انسانی، ابزارهای توقف اضطراری و مشخص بودن مسئولیت افراد در مواقع بحرانی نیز از دیگر محورهای پرتکرار پرسشهاست.
ریسکهای ناشی از تأمینکنندگان فناوری نیز بخش مهمی از این بازرسیها را تشکیل میدهد. با افزایش وابستگی بانکها به شرکتهای خارجی برای تهیه ابزارهای هوش مصنوعی، نهادهای نظارتی میخواهند اطمینان یابند که این شرکتها و پیمانکاران فرعی آنها نیز همان استانداردهای امنیتی و حاکمیتی مورد انتظار بانکها را رعایت میکنند. همچنین از بانکها پرسیده میشود که در صورت وقوع رخنه امنیتی یا مشکل جدی در سامانههای تأمینکنندگان، آیا برنامه خروج و جایگزینی مشخصی دارند یا خیر.
مقرراتسازی در برابر فناوری پرشتاب
سرعت پیشرفت هوش مصنوعی، خود به چالشی برای نهادهای نظارتی تبدیل شده است. منابع آگاه هشدار میدهند که این فناوری بسیار سریعتر از چرخه سنتی یادگیری، تدوین مقررات و قانونگذاری پیش میرود و بیم آن میرود که هر دستورالعمل رسمی در مدتی کوتاه قدیمی و ناکارآمد شود.
بر همین اساس، پیشبینی میشود مقامهای نظارتی همچنان به نظارت مبتنی بر اصول کلی و ارزیابی موردی و نه مقررات جزئی و دستوپاگیر تکیه کنند. با این حال، میشل بومن، نایبرئیس فدرال رزرو در امور نظارت بانکی اخیراً با اشاره به همین پویایی گفت: «امروز بانکها برای استفاده از هوش مصنوعی به چارچوبهای موجود مدیریت ریسک تکیه میکنند. هرچند این ابزارها برای کمک به استقرار حاکمیت مناسب و مدیریت ریسک طراحی شدهاند، اما باید بررسی کنیم که آیا این دستورالعملها برای آینده نیز کارآمد خواهند بود یا خیر.»