الگوریتم‌های مدیریت ریسک و خطرات آن‌ها
آیا ما واقعا ماهیت ریسک‌های کسبوکاری مربوط به هوش مصنوعی را در کرده‌ایم؟
از سال گذشته که هوش مصنوعی و یادگیری ماشین بازگشت قدرتمندی به عرصه کسبوکاری داشته‌اند، این سوال در ذهن بسیاری از تصمیم‌گیران بوده است. جستجو برای پاسخ این پرسش باعث شده تا تصمیم‌گیران و شرکت‌های بزرگ میلیاردها دلار در حوزه تحقیق و توسعه مدیریت ریسک توسط هوش مصنوعی سرمایه‌گذاری کنند. مشکل اصلی این است که ریسک در کسب‌وکارها تعریف گسترده‌ای دارد و با وجود این که برخی از راهکارهای هوش مصنوعی در برخی زمینه‌ها مثل مدیریت بایاس فردی و تفسیرپذیری عمیق‌تر کار کرده‌اند، اما الگوریتم‌های مدیرت ریسک به عنوان یک مفهوم کلی در جامعه کسبوکاری به درستی درک نشده‌اند.
تفاوت مدیریت ریسک سنتی و الگوریتم‌های مدیریت ریسک
تعریف سنتی ریسک و مدیریت ریسک در کسبوکار محدود و گاهی بسیار خطرناک است. در مدل سنتی ما قوانین محکم و ثابتی داریم که با یکدیگر تلاقی ندارند. برای مثال در مدل سنتی یک فنجان قهوه نمی‌تواند هم سایز بزرگ باشد هم سایز متوسط. بنابراین عبارت‌های قوه بزرگ و قهوه متوسط نماینده این دو نوع قهوه‌اند. وقتی ما یکی از قهوه‌ها را انتخاب می‌کنیم، سایر گزینه‌ها به طور خودکار حذف می‌شوند.
اما در هوش مصنوعی تصمیم‌ها به عنوان محدوده‌هایی در نظر گرفته می‌شوند که می‌توانند با هم تلاقی داشته و برخی قوانین می‌توانند با هم هم‌پوشانی داشته باشند. در مثال قهوه، اندازه فنجان مانند نسبت قهوه به شیر در انواع قهوه‌ها یک ویژگی مستقل است که می‌توان خروجی آن را با تغییر پارامتر ورودی (مقدار قهوه) به محدوده‌های جدید (از سایز متوسط قهوه به سایز بزرگ قهوه) هدایت کرد (قهوه بیشتر به شیر بیشتری نیاز دارد و شیر بیشتر یعنی فنجان بزرگتر). این موضوع توسط منطق خطی قابل توضیح نیست. در واقع مدیریت ریسک با هوش مصنوعی یعنی باید بر اساس گروهی از متغیرهای ورودی تحلیل‌های حساس را انجام داد. در مثال بالا هوش مصنوعی باید پیش‌بینی کند تا چه مقدار می‌توان قهوه را زیاد کرد تا سایز فنجان از متوسط به بزرگ تغییر نکند (آستانه لبریز شدن فنجان).
خطرهای معمول تجاری و فنی هوش مصنوعی
مانند هر حوزه دیگری، استفاده از هوش مصنوعی برای مدیریت ریسک خطرهای خاص خود را به همراه دارد، از جمله:
- احتمال ایجاد تجربه کاربری بد
- احتمال به خطر افتادن منافع ذی‌نفعان
- خطرهای حقوقی و قانونی
- حفاظت از حقوق مصرف‌کنندگان و مشتریان
- بروز خطا در اثر نقص در سیستم
- بروز خطاهای فنی و اجرایی
- خطرات مرتبط با امنیت سایبری
- امنیت داده‌ها
در کنار این خطرات، نامشخص بودن وضعیت حکمرانی داده در سطح جهانی، نیاز به آموزش مشتریان برای استفاده از راهکارهای مبتنی بر هوش مصنوعی و احتمال تحمیل هزینه اضافی بر کسبوکار به دلیل عدم اطمینان کامل مشتریان راهکارهای مبتنی بر هوش مصنوعی از جمله مواردی‌اند که استفاده از هوش مصنوعی برای مدیریت ریسک را دچار چالش می‌کنند.
دسته‌بندی خطرهای ناشی از الگوریتم‌های مدیریت ریسک
به طور کلی خطرهای ناشی از الگوریتم مدیریت ریسک را می‌توان در سه زمینه دسته‌بندی کرد:
داده ورودی: داده‌های ورودی یکی از نقاط بالقوه برای بروز خطا و خطر‌اند. استفاده از داده‌های جهت‌دار، ناقص، تاریخ‌گذشته و یا حتی غلط می‌تواند به طور چشمگیری مسیر تصمیم گیری الگوریتم را تحت تاثیر قرار دهد.
طراحی الگوریتم: در طراحی الگوریتم نیز مواردی مانند پیش‌داوری، فرضیه‌سازی، مناسب نبودن مدل تمرینی و خطارهای برنامه‌نویسی می‌توانند الگوریتم را دچار خطر کنند.
تصمیم‌های خروجی: تفسیر نادرست از خروجی و یا استفاده نامناسب از آن می‌تواند منجر به بروز خطر شود.
چطور ریسک‌های مربوط به الگوریتم را مدیریت کنیم؟
الگوریتم‌ها به دلیل فراگیری، تکامل سریع و قدرت پردازش بالا امکاناتی با دقت زیاد را در اختیار ما می‌گذارند که سابق بر این غیر ممکن بود. از این رو می‌توان گفت که الگوریتم‌ها به رشد خود به عنوان بخشی جدایی‌ناپذیر از قسمت‌های مختلف کسبوکار ادامه می‌دهند. به همین دلیل مدیریت رسک‌های الگوریتمی اهمیت بسیاری دارد. به طور کلی سه عامل باعث تفاوت مدیریت ریسک الگوریتمی و سنتی می‌شود:
- الگوریتم‌ها بر اساس داده‌ها و مدل‌های اختصاصی ساخته می‌شوند
- الگوریتم‌ها پیچیده و غیر قابل پیش‌بینی‌اند و به سختی می‌توان آن‌ها را توضیح داد
- استانداردها و قوانین نظارتی برای الگورتیم‌ها دچار نقص جدی‌اند
بنابراین برای مدیریت خطرات الگوریتم‌های مدیریت ریسک به مدرن‌سازی چارچوب‌های مدیریت ریسک سنتی نیاز داریم. این مدرن‌سازی باید بر اساس نیاز سازمان‌های مختلف به صورت درونی توسعه پیدا کرده و زیرساخت لازم برای مدیریت ریسک به وسیله الگوریتم‌ها را فراهم آورد.
انواع الگورتیم‌های مدیریت ریسک
راهکارهای مدیریت ریسک به وسیله الگوریتم‌ها از راهبردهای مختلفی بهره می‌برند. برخی از الگوریتم‌های پراستفاده برای مدیریت ریسک را در ادامه می‌بینید:
- یادگیری با ناظر
- یادگیری بدون ناظر
- یادگیری تقویتی
- یادگیری گروهی
- هوش مصنوعی قابل توضیح (مانند LIME و SHAP)
در دنیای امروز که هوش مصنوعی و یادگیری ماشین به طور چشمگیری در حال پیشرفت‌اند، آشنایی با الگوریتم‌های مدیریت ریسک و به کار بردن آن‌ها در سازمان‌های مدرن امری اجتناب‌ناپذیر است. آینده ما به الگورتیم‌ها گره خورده و یادگیری این الگوریتم‌ها باید در دستور کار سازمان‌ها قرار بگیرد.
در شبکههای اجتماعی به اشتراک بگذارید
