تحلیلی بر پیامدهای واگذاری فعالیت‌های شناختی به هوش مصنوعی و تاثیر آن در عاملیت اخلاقی

نوع مقاله : مقاله پژوهشی

نویسنده

استادیار علوم تربیتی، گروه آموزش علوم تربیتی دانشگاه فرهنگیان، تهران، ایران

چکیده

استفاده از هوش مصنوعی در فرآیندهای تصمیم‌گیری روزمره تبدیل به پدیده‌ای فراگیر در میان مردم شده است. فرآیندی که طی آن افراد در فعالیت‌های روزانه خود به نوعی پردازش‌های ذهنی خود را به سیستم‌های فناورانه بیرونی واگذار می‌کنند. اگرچه این امر در وظایف محاسباتی موجب افزایش بهره‌وری و تسریع می‌شود، اما گسترش آن به قلمرو هنجاری اخلاق باعث نگرانی و بروز پرسش‌های ژرف فلسفی خواهد شد. پژوهش حاضر با هدف تحلیل پیامدهای واسپاری پردازش‌های ذهنی عادت‌گونه به هوش مصنوعی و تأثیر ساختاری آن در عاملیت اخلاقی انسان می‌پردازد. برای دستیابی به این هدف با اتخاذ رویکردی فلسفی-تحلیلی و بهره‌گیری از یک چارچوب نظری سه‌وجهی مبتنی بر حکمت عملی ارسطو، خودمختاری کانت، و مفهوم مسئولیت به تحلیل رابطه میان انسان و هوش مصنوعی پرداخته شد. یافته‌ها نشان از آن دارد که واگذاری تأملات اخلاقی به الگوریتم‌های هوش مصنوعی، ساختار بنیادین عامل اخلاقی را از سه طریق تضعیف می‌کند: ۱) با حذف اصطکاک اخلاقی لازم در تصمیم‌گیری‌ها، منجر به زوال حکمت عملی می‌شود (مهارت‌زدایی اخلاقی)؛ ۲) با جایگزین کردن خروجی‌های غیرشفاف ماشین به جای خودقانون‌گذاری مستقل، باعث می‌شود تا وضعیتی از ناخودمختاری الگوریتمی پدید آید؛ و در نهایت ۳) با ابهام‌آلود کردن پاسخگویی، یک شکاف مسئولیت روان‌شناختی ایجاد می‌کند. نتیجه اینکه با برون‌سپاری تأمل اخلاقی به هوش مصنوعی، خطر افتادن در دام نگاه ابزارانگارانه افراطی به فناوری را به جان می‌خریم. اگرچه هوش مصنوعی می‌تواند به عنوان یک یاور و پشتیبان اطلاعاتی عمل کند، اما برخورد با آن به عنوان یک نایب و تصمیم گیرنده اخلاقی می‌تواند خطر تهی‌سازی فاعل اخلاقی را در پی داشته باشد. توسعه سواد انتقادی هوش مصنوعی کاربران و توجه به اصطکاک تاملی در طراحی ابزارهای هوش مصنوعی برای برون رفت از این مسئله را می‌توان توصیه نمود.

کلیدواژه‌ها

عنوان مقاله [English]

An Analysis of the Consequences of Delegating Cognitive Tasks to Artificial Intelligence and Its Impact on Moral Agency

نویسنده [English]

  • Hamid Ahmadi-Hedayat
Assistant Professor Educational Sciences, Department of Educational Sciences, Farhangian University, Tehran, Iran
چکیده [English]

The integration of Artificial Intelligence into everyday decision-making has become a ubiquitous phenomenon. This process involves individuals effectively outsourcing their cognitive processing to external technological systems during their daily activities. While such delegation enhances efficiency and expedites computational tasks, its extension into the normative realm of ethics raises significant concerns and profound philosophical questions. This research analyzes the consequences of delegating habitual cognitive processes to Artificial Intelligence and explores its structural impact on human moral agency. To achieve this, the study adopts a philosophical-analytical approach, utilizing a tripartite theoretical framework grounded in Aristotelian practical wisdom (phronesis), Kantian autonomy, and the concept of responsibility to examine the relationship between humans and Artificial Intelligence. The findings indicate that delegating moral deliberation to Artificial Intelligence algorithms undermines the fundamental structure of the moral agent in three ways: 1) by eliminating the necessary "moral friction" in decision-making, it leads to the erosion of practical wisdom (moral deskilling); 2) by substituting opaque machine outputs for independent self-legislation, it fosters a state of algorithmic heteronomy; and 3) by obscuring accountability, it creates a psychological responsibility gap. The study concludes that by outsourcing moral reflection to Artificial Intelligence, we risk falling into the trap of an extreme instrumentalist view of technology. While Artificial Intelligence can function as an informational aid or support system, treating it as a moral proxy or decision-maker risks hollowing out the moral subject. To address these challenges, the study recommends fostering critical Artificial Intelligence literacy among users and incorporating "reflective friction" into the design of Artificial Intelligence tools.

کلیدواژه‌ها [English]

  • Artificial Intelligence
  • Moral Agency
  • Practical Wisdom (Phronesis)
  • Autonomy
  • Philosophy of Technology

مراجع

Aristotle. (2009). The Nicomachean ethics (D. Ross, English Trans.). Oxford: Oxford University Press. (Original work published in Ca. 350 B.C.E.)
Clark, A., & Chalmers, D. (1998). The extended mind. Analysis, 58(1), 7-19. https://doi.org/10.1093/analys/58.1.7
Coeckelbergh, M. (2020). AI Ethics. Cambridge: The MIT Press.
Daly, C. (2010). An introduction to philosophical methods. Peterborough: Broadview Press.
Danaher, J. (2016). The threat of algocracy: Reality, resistance and accommodation. Philosophy & Technology, 29(3), 245-268. https://doi.org/10.1007/s13347-015-0211-1
Dreyfus, H. L., & Dreyfus, S. E. (1986). Mind over machine: The power of human intuition and expertise in the era of the computer. New York City: Free Press.
Giubilini, A., & Savulescu, J. (2018). The artificial moral advisor. Philosophy & Technology, 31(2), 169-188. https://doi.org/10.1007/s13347-017-0285-z
Heersmink, R. (2017). Distributed cognition and distributed morality: Agency, artifacts and systems. Science and Engineering Ethics, 23(2), 431-448. https://doi.org/10.1007/s11948-016-9802-1
Kant, I. (2012). Groundwork of the metaphysics of morals (C. M. Mary Gregor & J. Timmermann, English Trans.). Cambridge: Cambridge University Press. (Original work published in 1785). https://doi.org/10.1017/CBO9780511973741
Khazaei, Z., & Heidari, T. (2017). Reassessing Kant's autonomy in relation to individual, moral, and political autonomy. Journal of Philosophical Theological Research, 19(2), 47-67. (Persian) https://doi.org/10.22091/pfk.2017.2305.1701
Matthias, A. (2004). The responsibility gap: Ascribing responsibility for the actions of learning automata. Ethics and Information Technology, 6(3), 175-183. https://doi.org/10.1007/s10676-004-3422-1
Mohammadamini,M. (2022). Studying the experience of visual media use by extended Mind Theory. Journal of Culture-Communication Studies, 23(58), 81-104. (Persian) https://doi.org/ 10.22083/jccs.2021.250319.3183
Morozov, E. (2013). To save everything, click here: The folly of technological solutionism. New York City: PublicAffairs.
Pasquale, F. (2015). The black box society: The secret algorithms that control money and information. Cambridge: Harvard University Press.
Risko, E. F., & Gilbert, S. J. (2016). Cognitive offloading. Trends in Cognitive Sciences, 20(9), 676-688. https://doi.orgorg/10.1016/j.tics.2016.07.002
Samadieh, M., & Mollayousefi, M. (2017). Aristotle and Phronesis (practical wisdom). Ayeneh Ma‘refat: The Journal of Islamic Philosophy and Theology, 17(4), 1-24. (Persian)
Skitka, L. J., Mosier, K. L., & Burdick, M. (2000). Does automation bias decision-making? International Journal of Human-Computer Studies, 51(5), 991-1006. https://doi.org/10.1006/ijhc.1999.0252
Sparrow, R. (2007). Killer robots. Journal of Applied Philosophy, 24(1), 62-77. https://doi.org/10.1111/j.1468-5930.2007.00346.x  
Vallor, S. (2015). Moral deskilling and upskilling in a new machine age: Reflections on the ambiguous future of character. Philosophy & Technology, 28(1), 107-124. https://doi.org/10.1007/s13347-014-0156-9
Weizenbaum, J. (1976). Computer power and human reason: From judgment to calculation. San Francisco: W. H. Freeman & Co.

فایل ها

هم رسانی

ارجاع به این مقاله

آمار