مسئولیت حقوقی و کیفری در وقوع جرم با کمک هوش مصنوعی با کیست؟

بهرام حیدری، رئیس شعبه 1053 دادگاه کیفری 2 تهران در گفت‌وگو با خبرنگار اجتماعی خبرگزاری تسنیم، درباره مسئله «مسئولیت حقوقی و کیفری وقوع جرم ناشی از استفاده از هوش مصنوعی» گفت: در حال حاضر، بسیاری از پایان‌نامه‌های کارشناسی ارشد و دکتری به این موضوع می‌پردازند. پیش‌تر نیز در بحث «شخصیت حقوقی» این پرسش مطرح بود که آیا قابلیت مسئولیت کیفری دارد یا خیر.

وی ادامه داد: در حوزه مسئولیت مدنی، تا حدی در قانون پیش‌بینی شده بود، اما در حوزه مسئولیت کیفری با چالش مواجه بودیم تا اینکه در سال 1392، با تصویب ماده 143، مسئولیت کیفری اشخاص حقوقی به‌صورت توأمان و منوط به مسئولیت کیفری مدیر آن‌ها پذیرفته شد. با این حال، در آیین دادرسی کیفری مربوط به اشخاص حقوقی نیز با مشکلاتی مواجه بودیم.

حیدری گفت: اکنون در حوزه هوش مصنوعی با پرسش مشابهی روبه‌رو هستیم؛ اینکه در آینده باید با خود هوش مصنوعی چگونه برخورد کنیم؟ آیا مالک و بهره‌بردار مسئول است؟ آیا سازنده مسئولیت دارد؟ یا باید برای خود هوش مصنوعی که ممکن است خلاقیت مستقل داشته باشد جایگاه خاصی در نظر گرفت؟ همچنین نقش کاربر و نوع بهره‌برداری او نیز محل بحث است.

رئیس شعبه 1053 دادگاه کیفری2 تهران ادامه داد: برای مثال، موضوع ترغیب افراد به خودکشی یا سوءاستفاده‌های دیگر مطرح می‌شود؛ البته در حال حاضر، در برخی موارد، هوش مصنوعی نسبت به این درخواست‌ها مقاومت می‌کند و اعلام می‌کند که اجازه ورود به چنین موضوعاتی را ندارد یا از ارائه توضیح خودداری می‌کند؛ اما در برخی کشورها گزارش‌هایی وجود داشته که هوش مصنوعی حتی پیشنهادهایی در زمینه خودکشی ارائه داده است. هرچند خودکشی جرم‌انگاری نشده، اما ترغیب به خودکشی در نظام حقوقی ما جرم محسوب می‌شود و خوشبختانه امکان برخورد قانونی در این زمینه وجود دارد.

وس گفت: پرسش اصلی این است که در چنین مواردی، کدام‌یک از عوامل مسئولیت دارند؟ در وهله نخست، کاربر مطرح است؛ اما آیا مسئولیت به‌صورت اشتراکی متوجه سازنده یا بهره‌بردار سامانه نیز خواهد بود؟ در حال حاضر، هوش مصنوعی هنوز به مرحله‌ای نرسیده است که از انسان پیشی بگیرد و برای آن شخصیت حقوقی مستقل شناخته نشده است. بر همین اساس، می‌توان در چارچوب ماده 148 قانون آیین دادرسی کیفری و ماده 215 قانون مجازات اسلامی با این موضوع برخورد کرد و در صورتی که سِروِر هوش مصنوعی در داخل کشور باشد، امکان حذف آن به‌عنوان وسیله ارتکاب جرم وجود دارد. اما اگر سرور در خارج از کشور قرار داشته باشد، طبیعتاً با مشکلات بیشتری مواجه خواهیم بود.

حیدری خاطرنشان کرد: با این حال، در آینده این پرسش جدی‌تر خواهد شد؛ به‌ویژه اگر هوش مصنوعی از انسان پیشی بگیرد. برای مثال، اگر یک سامانه هوش مصنوعی داخلی، با شرکت و مدیران مشخص، اقدام به ترغیب به خودکشی یا ارتکاب جرایم و ناهنجاری‌ها کند، نحوه برخورد قانونی با آن چگونه خواهد بود؟ در این صورت، آیا باید با شخصیت حقوقی شرکت برخورد کرد؟ و اگر چنین است، این شخصیت حقوقی دقیقاً کدام است: شرکت سازنده، شرکت بهره‌بردار یا هر دو؟

وی ادامه داد: اگر شرکت از ابتدا با هدف ارتکاب جرم تأسیس نشده باشد و اساسنامه آن فعالیت تجاری عادی را پیش‌بینی کرده باشد، اما در عمل به پوششی برای فعالیت‌های مجرمانه تبدیل شود یا اهداف آن در ادامه تغییر کند، در این صورت هم شرکت و هم مدیران آن می‌توانند مورد تعقیب قرار گیرند. البته در اینجا بحث «سوءنیت» اهمیت اساسی دارد؛ اینکه آیا نیت عامدانه برای ارتکاب جرم وجود داشته یا صرفاً سوءاستفاده‌ای از ابزار صورت گرفته است. در این چارچوب، باید میان مباشر، شریک جرم و معاونت تفکیک قائل شد.

رئیس شعبه 1053 دادگاه کیفری2 تهران افزود: برای مثال، اگر من چاقویی را در اختیار شما قرار دهم، بدون آنکه قصد ارتکاب جرم داشته باشم و شما با آن مرتکب قتل یا ضرب و جرح شوید، من معاون جرم محسوب نمی‌شوم؛ زیرا وحدت قصد وجود نداشته و این وحدت قصد باید پیش از ارتکاب جرم یا هم‌زمان با آن احراز شود. در صورت عدم احراز، مسئولیتی متوجه من نخواهد بود. اما اگر احراز شود که من نیز با علم و قصد مجرمانه اقدام کرده‌ام، مسئولیت خواهم داشت.

حیدری گفت: در مورد هوش مصنوعی نیز، اگر سازنده بدون نیت مجرمانه، این ابزار را طراحی و ارائه کرده باشد و سامانه بر اساس داده‌های دریافتی از کاربران، اقدام به تشویق به رفتار مجرمانه کند، در حالی که سازنده و بهره‌بردار چنین هدفی نداشته‌اند، اصل بر عدم مسئولیت آن‌هاست. در اینجا نیز، به دلیل فقدان سوءنیت و نبود عنوان مجرمانه صرف، نمی‌توان صرف «بسترسازی» را جرم تلقی کرد؛ همان‌گونه که در مثال چاقو، صرف آگاهی از امکان سوءاستفاده، موجب مسئولیت کیفری نمی‌شود.

وی گفت: البته اگر قرائن و شواهدی وجود داشته باشد که نشان دهد ابزار با علم و قصد تسهیل ارتکاب جرم در اختیار قرار گرفته است، احراز وحدت قصد بسیار دشوار اما ممکن خواهد بود. در غیر این صورت، با قوانین فعلی امکان برخورد کیفری مؤثر وجود ندارد؛ هرچند ممکن است سازنده یا بهره‌بردار به‌عنوان مطلع یا حتی متهم احضار شود. در نهایت، اگر با کارشناسی دقیق دیجیتال یا احراز قضائی مشخص شود که فرد واقعاً بدون نیت مجرمانه این ابزار را ارائه کرده است، مسئولیتی متوجه او نخواهد بود.