بررسی نقش هوش مصنوعی توضیحپذیر در افزایش اعتماد مدیران مالی به خروجیهای الگوریتمی و تصمیمات سرمایهگذاری
کلمات کلیدی:
هوش مصنوعی توضیحپذیر, اعتماد الگوریتمی, مدیران مالی, تصمیمات سرمایهگذاری, تحلیل مضمون, حاکمیت داده, خروجیهای الگوریتمیچکیده
هدف پژوهش حاضر تبیین نقش هوش مصنوعی توضیحپذیر در شکلگیری اعتماد مدیران مالی به خروجیهای الگوریتمی و نحوه اثرگذاری آن بر تصمیمات سرمایهگذاری در سازمانهای مالی و غیرمالی شهر تهران بود. این پژوهش با رویکرد کیفی و روش تحلیل مضمون انجام شد. مشارکتکنندگان شامل 20 نفر از مدیران مالی، مدیران سرمایهگذاری، تحلیلگران ارشد مالی، مدیران ریسک و مدیران فناوری مالی فعال در شرکتها و مؤسسات مالی مستقر در تهران بودند که با نمونهگیری هدفمند و گلولهبرفی انتخاب شدند. دادهها از طریق مصاحبههای نیمهساختاریافته گردآوری شد و فرایند نمونهگیری تا دستیابی به اشباع نظری ادامه یافت؛ اشباع اولیه در مصاحبه هجدهم حاصل شد و دو مصاحبه تکمیلی برای اطمینان از کفایت دادهها انجام گرفت. مصاحبهها پس از اخذ رضایت آگاهانه ضبط، پیادهسازی و با استفاده از نرمافزار NVivo تحلیل شدند. تحلیل دادهها بر اساس مراحل کدگذاری باز، طبقهبندی مفهومی و استخراج مضامین اصلی انجام شد و برای افزایش اعتبار یافتهها از بازبینی مشارکتکنندگان، بررسی همتایان، مسیر ممیزی و مقایسه مستمر دادهها استفاده گردید. تحلیل دادهها به استخراج پنج مقوله اصلی منجر شد: «کاهش ابهام شناختی از طریق فهم منطق الگوریتم»، «تقویت اعتبارسنجی حرفهای و کنترل انسانی»، «افزایش پاسخگویی، شفافیت ریسک و حاکمیت داده»، «طراحی تعاملی و زمینهمند توضیحات الگوریتمی» و «تبدیل اعتماد کورکورانه به اعتماد مشروط و قابل پایش». مشارکتکنندگان تأکید کردند که توضیحپذیری زمانی اعتماد ایجاد میکند که فراتر از نمایش فنی متغیرها باشد و بتواند ارتباط میان دادهها، منطق مدل، سطح عدمقطعیت و پیامد تصمیم سرمایهگذاری را برای مدیر مالی روشن کند. نتایج نشان داد هوش مصنوعی توضیحپذیر نه صرفاً یک ابزار فنی، بلکه سازوکاری مدیریتی برای کاهش فاصله میان تحلیل الگوریتمی و قضاوت حرفهای است. اعتماد مدیران مالی به خروجیهای الگوریتمی زمانی افزایش مییابد که توضیحات ارائهشده دقیق، قابل فهم، متناسب با زمینه تصمیم، قابل ممیزی و همراه با امکان مداخله انسانی باشد. بنابراین، پیادهسازی موفق XAI در تصمیمات سرمایهگذاری مستلزم ترکیب شفافیت فنی، حاکمیت داده، آموزش مدیران مالی و چارچوبهای پاسخگویی سازمانی است.
دانلودها
مراجع
Adadi, A., & Berrada, M. (2018). Peeking inside the black-box: A survey on explainable artificial intelligence (XAI). IEEE Access, 6, 52138–52160. https://doi.org/10.1109/ACCESS.2018.2870052
Bank of England, & Financial Conduct Authority. (2024). Artificial intelligence in UK financial services – 2024. Bank of England.
Barredo Arrieta, A., Díaz-Rodríguez, N., Del Ser, J., Bennetot, A., Tabik, S., Barbado, A., García, S., Gil-López, S., Molina, D., Benjamins, R., Chatila, R., & Herrera, F. (2020). Explainable artificial intelligence (XAI): Concepts, taxonomies, opportunities and challenges toward responsible AI. Information Fusion, 58, 82–115. https://doi.org/10.1016/j.inffus.2019.12.012
Ben David, D., Resheff, Y. S., & Tron, T. (2021). Explainable AI and adoption of financial algorithmic advisors: An experimental study. Proceedings of the 2021 AAAI/ACM Conference on AI, Ethics, and Society. https://doi.org/10.48550/arXiv.2101.02555
Braun, V., & Clarke, V. (2006). Using thematic analysis in psychology. Qualitative Research in Psychology, 3(2), 77–101. https://doi.org/10.1191/1478088706qp063oa
Dietvorst, B. J., Simmons, J. P., & Massey, C. (2015). Algorithm aversion: People erroneously avoid algorithms after seeing them err. Journal of Experimental Psychology: General, 144(1), 114–126. https://doi.org/10.1037/xge0000033
European Banking Authority. (2020). EBA report on big data and advanced analytics. European Banking Authority.
European Commission. (2024). Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence. European Union.
Guest, G., Bunce, A., & Johnson, L. (2006). How many interviews are enough? An experiment with data saturation and variability. Field Methods, 18(1), 59–82. https://doi.org/10.1177/1525822X05279903
Guidotti, R., Monreale, A., Ruggieri, S., Turini, F., Giannotti, F., & Pedreschi, D. (2019). A survey of methods for explaining black box models. ACM Computing Surveys, 51(5), 1–42. https://doi.org/10.1145/3236009
Kaur, H., Nori, H., Jenkins, S., Caruana, R., Wallach, H., & Wortman Vaughan, J. (2020). Interpreting interpretability: Understanding data scientists’ use of interpretability tools for machine learning. Proceedings of the 2020 CHI Conference on Human Factors in Computing Systems, 1–14. https://doi.org/10.1145/3313831.3376219
Langer, M., Oster, D., Speith, T., Hermanns, H., Kästner, L., Schmidt, E., Sesing, A., & Baum, K. (2021). What do we want from explainable artificial intelligence? A stakeholder perspective on XAI and a conceptual model guiding interdisciplinary XAI research. Artificial Intelligence, 296, 103473. https://doi.org/10.1016/j.artint.2021.103473
Lincoln, Y. S., & Guba, E. G. (1985). Naturalistic inquiry. Sage.
Lundberg, S. M., & Lee, S.-I. (2017). A unified approach to interpreting model predictions. Advances in Neural Information Processing Systems, 30, 4765–4774.
Miller, T. (2019). Explanation in artificial intelligence: Insights from the social sciences. Artificial Intelligence, 267, 1–38. https://doi.org/10.1016/j.artint.2018.07.007
OECD. (2024). OECD AI principles. Organisation for Economic Co-operation and Development.
Poursabzi-Sangdeh, F., Goldstein, D. G., Hofman, J. M., Wortman Vaughan, J., & Wallach, H. (2021). Manipulating and measuring model interpretability. Proceedings of the 2021 CHI Conference on Human Factors in Computing Systems, 1–52. https://doi.org/10.1145/3411764.3445315
Ribeiro, M. T., Singh, S., & Guestrin, C. (2016). “Why should I trust you?” Explaining the predictions of any classifier. Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, 1135–1144. https://doi.org/10.1145/2939672.2939778
Tong, A., Sainsbury, P., & Craig, J. (2007). Consolidated criteria for reporting qualitative research: A 32-item checklist for interviews and focus groups. International Journal for Quality in Health Care, 19(6), 349–357. https://doi.org/10.1093/intqhc/mzm042