وقتی رباتها اشتباه میکنند: چالشهای حقوقی و مالی هوش مصنوعی در اقتصاد
ناصر دوستار مقدم فومنی. کارشناس حقوقی
تا همین چند سال پیش، وقتی صحبت از «تصمیمگیری اقتصادی» میشد، ذهن ما به سمت انسانها میرفت؛ مدیرانی که با تحلیل بازار، قرارداد امضا میکردند یا سرمایهگذاری میکردند. اما امروز، یک بازیگر جدید وارد میدان شده است: هوش مصنوعی (AI). هوش مصنوعی دیگر فقط یک ابزار ساده نیست؛ او در حال تبدیل شدن به یک «مشاور»، «معاملهگر» و حتی «مدیر» در دنیای اقتصاد است. اما یک سوال بزرگ و نگرانکننده باقی میماند:
اگر این هوش مصنوعی اشتباه کند و باعث ضرر مالی عظیم شود، تقاص آن را چه کسی پس میدهد؟
۱. مشکل اصلی: کجای زنجیره، مقصر است؟
در حقوق سنتی، وقتی اشتباهی رخ میدهد، ما به دنبال یک «شخص» میگردیم تا مسئولیت را به او بسپاریم. اما در دنیای هوش مصنوعی، پیدا کردن مقصر مثل پیدا کردن سوزن در انبار کاه است. بیایید سه حالت را بررسی کنیم:
حالت اول: اشتباهِ سازنده (برنامهنویس):
اگر اشتباه هوش مصنوعی ناشی از یک نقص در کدنویسی باشد، مقصر اصلی شرکت سازنده است. اما چالش اینجاست که هوش مصنوعی «یاد میگیرد»؛ یعنی رفتارش با گذشت زمان تغییر میکند. آیا سازنده میتواند مسئول رفتاری را بگیرد که خودش هم دقیقاً نمیداند هوش مصنوعی چگونه به آن نتیجه رسیده است؟
حالت دوم:
اشتباهِ کاربر (صاحب کسبوکار):
اگر یک شرکت از هوش مصنوعی استفاده کند و بد بداند که این ابزار محدودیتهایی دارد اما باز هم به آن اعتماد کند، مقصر اصلی خودِ آن شرکت است. اینجا بحث «بیاحتیاطی» مطرح میشود.
حالت سوم:
اشتباهِ خودِ سیستم (خودگردانی):
برخی از متخصصان میگویند هوش مصنوعی باید مثل یک شرکت نوعی «شخصیت حقوقی» داشته باشد، اما این ایده در حال حاضر در اکثر قوانین جهان پذیرفته نشده است.
۲. اقتصاد و ترس از عدم قطعیت
از نظر اقتصادی، بزرگترین دشمن رشد، «عدم قطعیت» است.
اگر سرمایهگذاران بدانند که در صورت بروز خطا در سیستمهای هوشمند، راهی برای گرفتن خسارت وجود ندارد، از استفاده از تکنولوژیهای جدید میترسند. این یعنی یک «بنبست اقتصادی». برای اینکه اقتصاد دیجیتال رشد کند، سیستم حقوقی باید سریعاً راهکاری برای «جبران خسارت» پیدا کند؛ مثلاً از طریق اجباری کردن «بیمه مسئولیت هوش مصنوعی».