مسئولیت مدنی ناشی از تصمیمات و خطاهای هوش مصنوعی در قراردادهای تجاری هوشمند

ورود هوش مصنوعی به تجارت، تنها سرعت و شیوه انجام معاملات را تغییر نداده است؛ بلکه مفاهیم بنیادینی مانند قرارداد، اراده، تصمیم‌گیری، تقصیر، مسئولیت و جبران خسارت را نیز با پرسش‌های تازه روبه‌رو کرده است. در قراردادهای سنتی، رفتار زیان‌بار معمولاً به یک شخص حقیقی یا حقوقی قابل انتساب است، اما در قراردادهای هوشمند ممکن است تصمیم نهایی توسط الگوریتمی گرفته شود که بدون مداخله مستقیم انسان عمل می‌کند.

کتاب «مسئولیت مدنی ناشی از تصمیمات و خطاهای هوش مصنوعی در قراردادهای تجاری هوشمند» دقیقاً به همین نقطه ورود می‌کند. اگر الگوریتمی مبلغی را اشتباه پرداخت کند، شرط قراردادی را نادرست تشخیص دهد، داده‌ای را به شکل نادرست تحلیل کند یا تصمیمی زیان‌بار اتخاذ کند، باید مشخص شود مسئولیت حقوقی این نتیجه بر عهده چه کسی قرار می‌گیرد.

نویسنده مسئله را تنها از منظر فناوری بررسی نمی‌کند. مبانی مسئولیت مدنی، ساختار قراردادهای هوشمند، بلاکچین، یادگیری ماشین، پردازش زبان طبیعی، خطاهای داده‌ای و الگوریتمی، مسئولیت پلتفرم‌ها، بیمه، نظام‌های حقوقی مختلف و آینده قانون‌گذاری هوش مصنوعی در کنار یکدیگر قرار گرفته‌اند.

قرارداد هوشمند توافقی است که مفاد و شروط آن در قالب دستورهای دیجیتال تعریف می‌شود. هنگامی که شرایط از پیش تعیین‌شده تحقق پیدا کند، اجرای تعهد می‌تواند بدون نیاز به اقدام مستقیم انسان آغاز شود. بلاکچین، الگوریتم‌های رمزنگاری و اوراکل‌ها از اجزای مهم سازوکار این قراردادها هستند.

برای نمونه، در یک بیمه هوشمند می‌توان مقرر کرد که اگر پرواز بیش از مدت مشخصی تأخیر داشته باشد، خسارت به‌طور خودکار پرداخت شود. سیستم اطلاعات پرواز را دریافت می‌کند، تحقق شرط را تشخیص می‌دهد و سپس تعهد مالی را اجرا می‌کند.

همین ویژگی «خوداجرا بودن» که یکی از مهم‌ترین مزایای قراردادهای هوشمند است، منشأ یکی از مهم‌ترین مسائل حقوقی نیز می‌شود. اگر داده اشتباه باشد، کد نقص داشته باشد یا الگوریتم شرایط را نادرست تفسیر کند، اجرای خودکار می‌تواند مستقیماً موجب خسارت شود.

یکی از نکات مهم کتاب، پیچیدگی زنجیره تصمیم‌گیری در سیستم‌های مبتنی بر هوش مصنوعی است. در بسیاری از موارد، یک نتیجه زیان‌بار محصول رفتار تنها یک بازیگر نیست. الگوریتم را یک گروه طراحی کرده، داده را شخص یا سامانه دیگری فراهم کرده، پلتفرم زیرساخت را در اختیار گذاشته و کاربر نیز تنظیمات یا اطلاعاتی را وارد کرده است.

به همین دلیل، تعیین یک مسئول واحد همیشه با واقعیت فنی سیستم هماهنگ نیست. کتاب امکان حرکت به سمت مسئولیت توزیعی و مشارکتی را بررسی می‌کند تا سهم بازیگران مختلف در ایجاد خسارت مورد توجه قرار گیرد.

برخی الگوریتم‌های پیشرفته بر اساس فرآیندهایی تصمیم‌گیری می‌کنند که توضیح دقیق چرایی نتیجه آن‌ها ساده نیست. این وضعیت در کتاب با مسئله جعبه سیاه الگوریتمی پیوند می‌خورد.

این مسئله از منظر مسئولیت مدنی اهمیت زیادی دارد. برای اثبات تقصیر یا رابطه سببیت، باید بتوان منشأ تصمیم نادرست را شناسایی کرد؛ اما اگر فرآیند تصمیم‌گیری سیستم شفاف نباشد، زیان‌دیده ممکن است نتواند مشخص کند خطا از کد، داده، آموزش مدل، پلتفرم یا عامل دیگری ناشی شده است.

یکی از مباحث ویژه کتاب، بررسی امکان شناسایی شخصیت حقوقی مستقل برای هوش مصنوعی است. این بحث از این پرسش آغاز می‌شود که اگر یک سیستم هوشمند بتواند با درجه‌ای از استقلال تصمیم بگیرد، آیا می‌توان مسئولیت برخی تصمیم‌ها را مستقیماً به خود سیستم منتسب کرد؟

کتاب دلایل موافقان و مخالفان این دیدگاه را به‌صورت جداگانه بررسی می‌کند. موافقان بر استقلال تصمیم‌گیری، امکان کاهش خلأ مسئولیت و ایجاد نهادی مشخص برای پاسخگویی تأکید دارند. مخالفان نیز نبود اراده و شعور انسانی، مشکلات عملی تعیین دارایی و نماینده قانونی و احتمال استفاده از شخصیت مستقل هوش مصنوعی برای فرار اشخاص انسانی از مسئولیت را مطرح می‌کنند.

تعیین مسئولیت تنها یک بخش از مسئله است؛ زیان‌دیده در نهایت باید بتواند خسارت خود را جبران کند. به همین دلیل، کتاب نقش بیمه و سایر سازوکارهای جبران خسارت را نیز بررسی می‌کند.

بیمه مسئولیت حرفه‌ای توسعه‌دهندگان، بیمه سایبری و سازوکارهای پوشش ریسک می‌توانند بخشی از خسارت‌های ناشی از نقص فنی، حملات سایبری یا عملکرد نامناسب سیستم را پوشش دهند. در بخش‌های پایانی کتاب نیز موضوع صندوق‌های جبران خسارت به‌عنوان یکی از ابزارهای قابل بررسی برای آینده مطرح می‌شود.

مسئله قراردادهای هوشمند تنها مالی و فنی نیست. اگر داده‌های ورودی دارای سوگیری باشند، الگوریتم می‌تواند تصمیمی ناعادلانه یا تبعیض‌آمیز اتخاذ کند. در چنین شرایطی، خسارت ممکن است فراتر از زیان مستقیم مالی باشد و ابعاد اجتماعی و اخلاقی نیز پیدا کند.

کتاب به همین دلیل موضوعاتی مانند شفافیت، عدالت و پیش‌بینی‌پذیری را در فصل مربوط به چالش‌ها و آینده‌پژوهی بررسی می‌کند. این مباحث نشان می‌دهند که توسعه حقوق هوش مصنوعی تنها به تعیین شخص مسئول محدود نیست و کیفیت تصمیم الگوریتمی نیز باید مورد توجه قرار گیرد.

سخت‌گیری بیش از اندازه در مسئولیت می‌تواند شرکت‌ها و توسعه‌دهندگان را از استفاده و توسعه فناوری‌های جدید منصرف کند؛ در مقابل، نبود مسئولیت مؤثر نیز می‌تواند زیان‌دیدگان را بدون راه جبران باقی بگذارد.

به همین دلیل، یکی از خطوط اصلی تحلیل کتاب پیدا کردن تعادل میان توسعه فناوری و حمایت حقوقی از اشخاص است. قواعد آینده باید از یک سو امکان نوآوری، سرمایه‌گذاری و استفاده از هوش مصنوعی را حفظ کنند و از سوی دیگر، در صورت ورود خسارت، مسئولیت و مسیر جبران آن را روشن سازند.