بررسی نقش هوش مصنوعی توضیح‌پذیر در افزایش اعتماد مدیران مالی به خروجی‌های الگوریتمی و تصمیمات سرمایه‌گذاری

نویسندگان

  • مهدی طاهری نیا گروه حسابداری، دانشگاه تهران، تهران، ایران نویسنده
  • ابراهیم رویانی گروه حسابداری، دانشگاه تهران، تهران، ایران نویسنده
  • سید رضا مرادیان گروه حسابداری، دانشگاه تهران، تهران، ایران نویسنده مسئول

کلمات کلیدی:

هوش مصنوعی توضیح‌پذیر, اعتماد الگوریتمی, مدیران مالی, تصمیمات سرمایه‌گذاری, تحلیل مضمون, حاکمیت داده, خروجی‌های الگوریتمی

چکیده

هدف پژوهش حاضر تبیین نقش هوش مصنوعی توضیح‌پذیر در شکل‌گیری اعتماد مدیران مالی به خروجی‌های الگوریتمی و نحوه اثرگذاری آن بر تصمیمات سرمایه‌گذاری در سازمان‌های مالی و غیرمالی شهر تهران بود. این پژوهش با رویکرد کیفی و روش تحلیل مضمون انجام شد. مشارکت‌کنندگان شامل 20 نفر از مدیران مالی، مدیران سرمایه‌گذاری، تحلیلگران ارشد مالی، مدیران ریسک و مدیران فناوری مالی فعال در شرکت‌ها و مؤسسات مالی مستقر در تهران بودند که با نمونه‌گیری هدفمند و گلوله‌برفی انتخاب شدند. داده‌ها از طریق مصاحبه‌های نیمه‌ساختاریافته گردآوری شد و فرایند نمونه‌گیری تا دستیابی به اشباع نظری ادامه یافت؛ اشباع اولیه در مصاحبه هجدهم حاصل شد و دو مصاحبه تکمیلی برای اطمینان از کفایت داده‌ها انجام گرفت. مصاحبه‌ها پس از اخذ رضایت آگاهانه ضبط، پیاده‌سازی و با استفاده از نرم‌افزار NVivo تحلیل شدند. تحلیل داده‌ها بر اساس مراحل کدگذاری باز، طبقه‌بندی مفهومی و استخراج مضامین اصلی انجام شد و برای افزایش اعتبار یافته‌ها از بازبینی مشارکت‌کنندگان، بررسی همتایان، مسیر ممیزی و مقایسه مستمر داده‌ها استفاده گردید. تحلیل داده‌ها به استخراج پنج مقوله اصلی منجر شد: «کاهش ابهام شناختی از طریق فهم منطق الگوریتم»، «تقویت اعتبارسنجی حرفه‌ای و کنترل انسانی»، «افزایش پاسخگویی، شفافیت ریسک و حاکمیت داده»، «طراحی تعاملی و زمینه‌مند توضیحات الگوریتمی» و «تبدیل اعتماد کورکورانه به اعتماد مشروط و قابل پایش». مشارکت‌کنندگان تأکید کردند که توضیح‌پذیری زمانی اعتماد ایجاد می‌کند که فراتر از نمایش فنی متغیرها باشد و بتواند ارتباط میان داده‌ها، منطق مدل، سطح عدم‌قطعیت و پیامد تصمیم سرمایه‌گذاری را برای مدیر مالی روشن کند. نتایج نشان داد هوش مصنوعی توضیح‌پذیر نه صرفاً یک ابزار فنی، بلکه سازوکاری مدیریتی برای کاهش فاصله میان تحلیل الگوریتمی و قضاوت حرفه‌ای است. اعتماد مدیران مالی به خروجی‌های الگوریتمی زمانی افزایش می‌یابد که توضیحات ارائه‌شده دقیق، قابل فهم، متناسب با زمینه تصمیم، قابل ممیزی و همراه با امکان مداخله انسانی باشد. بنابراین، پیاده‌سازی موفق XAI در تصمیمات سرمایه‌گذاری مستلزم ترکیب شفافیت فنی، حاکمیت داده، آموزش مدیران مالی و چارچوب‌های پاسخگویی سازمانی است.

دانلودها

دسترسی به دانلود اطلاعات مقدور نیست.

مراجع

Adadi, A., & Berrada, M. (2018). Peeking inside the black-box: A survey on explainable artificial intelligence (XAI). IEEE Access, 6, 52138–52160. https://doi.org/10.1109/ACCESS.2018.2870052

Bank of England, & Financial Conduct Authority. (2024). Artificial intelligence in UK financial services – 2024. Bank of England.

Barredo Arrieta, A., Díaz-Rodríguez, N., Del Ser, J., Bennetot, A., Tabik, S., Barbado, A., García, S., Gil-López, S., Molina, D., Benjamins, R., Chatila, R., & Herrera, F. (2020). Explainable artificial intelligence (XAI): Concepts, taxonomies, opportunities and challenges toward responsible AI. Information Fusion, 58, 82–115. https://doi.org/10.1016/j.inffus.2019.12.012

Ben David, D., Resheff, Y. S., & Tron, T. (2021). Explainable AI and adoption of financial algorithmic advisors: An experimental study. Proceedings of the 2021 AAAI/ACM Conference on AI, Ethics, and Society. https://doi.org/10.48550/arXiv.2101.02555

Braun, V., & Clarke, V. (2006). Using thematic analysis in psychology. Qualitative Research in Psychology, 3(2), 77–101. https://doi.org/10.1191/1478088706qp063oa

Dietvorst, B. J., Simmons, J. P., & Massey, C. (2015). Algorithm aversion: People erroneously avoid algorithms after seeing them err. Journal of Experimental Psychology: General, 144(1), 114–126. https://doi.org/10.1037/xge0000033

European Banking Authority. (2020). EBA report on big data and advanced analytics. European Banking Authority.

European Commission. (2024). Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence. European Union.

Guest, G., Bunce, A., & Johnson, L. (2006). How many interviews are enough? An experiment with data saturation and variability. Field Methods, 18(1), 59–82. https://doi.org/10.1177/1525822X05279903

Guidotti, R., Monreale, A., Ruggieri, S., Turini, F., Giannotti, F., & Pedreschi, D. (2019). A survey of methods for explaining black box models. ACM Computing Surveys, 51(5), 1–42. https://doi.org/10.1145/3236009

Kaur, H., Nori, H., Jenkins, S., Caruana, R., Wallach, H., & Wortman Vaughan, J. (2020). Interpreting interpretability: Understanding data scientists’ use of interpretability tools for machine learning. Proceedings of the 2020 CHI Conference on Human Factors in Computing Systems, 1–14. https://doi.org/10.1145/3313831.3376219

Langer, M., Oster, D., Speith, T., Hermanns, H., Kästner, L., Schmidt, E., Sesing, A., & Baum, K. (2021). What do we want from explainable artificial intelligence? A stakeholder perspective on XAI and a conceptual model guiding interdisciplinary XAI research. Artificial Intelligence, 296, 103473. https://doi.org/10.1016/j.artint.2021.103473

Lincoln, Y. S., & Guba, E. G. (1985). Naturalistic inquiry. Sage.

Lundberg, S. M., & Lee, S.-I. (2017). A unified approach to interpreting model predictions. Advances in Neural Information Processing Systems, 30, 4765–4774.

Miller, T. (2019). Explanation in artificial intelligence: Insights from the social sciences. Artificial Intelligence, 267, 1–38. https://doi.org/10.1016/j.artint.2018.07.007

OECD. (2024). OECD AI principles. Organisation for Economic Co-operation and Development.

Poursabzi-Sangdeh, F., Goldstein, D. G., Hofman, J. M., Wortman Vaughan, J., & Wallach, H. (2021). Manipulating and measuring model interpretability. Proceedings of the 2021 CHI Conference on Human Factors in Computing Systems, 1–52. https://doi.org/10.1145/3411764.3445315

Ribeiro, M. T., Singh, S., & Guestrin, C. (2016). “Why should I trust you?” Explaining the predictions of any classifier. Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, 1135–1144. https://doi.org/10.1145/2939672.2939778

Tong, A., Sainsbury, P., & Craig, J. (2007). Consolidated criteria for reporting qualitative research: A 32-item checklist for interviews and focus groups. International Journal for Quality in Health Care, 19(6), 349–357. https://doi.org/10.1093/intqhc/mzm042

دانلودها

گاه‌شمار انتشار

چاپ شده

شماره

نوع مقاله

Articles

نحوه استناد به مقاله

طاهری نیا م., رویانی ا., & مرادیان س. ر. . (1405). بررسی نقش هوش مصنوعی توضیح‌پذیر در افزایش اعتماد مدیران مالی به خروجی‌های الگوریتمی و تصمیمات سرمایه‌گذاری. هوشمندسازی در حسابداری، اقتصاد و مدیریت مالی, 2(2), 14-26. https://jsaefm.com/index.php/jsaefm/article/view/46