فناوری بدون اخلاق می‌تواند خطرناک باشد

به گزارش مرکز رسانه قوه قضاییه،  در راستای تسهیل استفاده از هوش مصنوعی در فرایندهای قضایی جمهوری اسلامی ایران، توسعه مدل زبانی بزرگ بومی در دستور کار است.  خوشبختانه در این زمینه به تجربیات خوبی دست یافته­ایم و متن بیش از 100 میلیون تصمیم قضایی را با استفاده از هوش مصنوعی گمنام نموده­ و در اختیار شرکت‌ها، جهت تولید مدل زبانی بزرگ قرار داده­ایم. در مدل­های زبانی بزرگ، باید موضوع جهت گیری، رعایت استانداردهای قانونی و مدیریت داده­های حساس کاربران مورد توجه و محافظت ویژه قرار گیرد.

«محمد کاظمی‌فرد» رئیس مرکز آمار و فناوری اطلاعات قوه قضاییه جمهوری اسلامی ایران، امروز در بیستمین اجلاس رؤسای نظام‌های قضایی کشورهای عضو سازمان همکاری شانگهای، در شهر هانگژو چین، به سخنرانی پرداخت.

کاظمی‌فرد طی سخنانی در این اجلاس گفت: «استخراج الگوهای شکل‌گیری جرائم با استفاده از داده کاوی اطلاعات»، «استفاده از پابند الکترونیک بجای زندانی کردن به عنوان یک نمونه از بکارگیری فناوری اینترنت اشیا»، «شناسایی و نظارت هوشمند مراجعین حرفه­ای که به دفعات به عنوان شاهد یا کفیل در دادگاه حاضر می‌شوند»، «اعتبارسنجی هوشمند مالی افراد توسط قضات اجرای احکام با امکان شناسایی، توقیف، رفع توقیف، توثیق و محاسبه هوشمند مبالغ بدهی و خسارت‌ها»، «تبدیل اظهارات افراد در جلسات رسیدگی به صورت هوشمند به متن»، «احراز هویت افراد با استفاده از هوش مصنوعی»، «شناسایی مجرمان حرفه­ای و خطرناک با استفاده از ژنتیک و بیوانفورماتیک»، «ارجاع هوشمند به کارشناس در پرونده­های قضایی» و همچنین «اعلام افراد ممنوع المعامله و دارای محکومیت های مالی در اعتبارسنجی­های مالی»، از جمله اقدامات اجرایی قوه قضاییه جمهوری اسلامی ایران در استفاده از فناوری­های نوین محسوب می‌شوند.

وی در ادامه عنوان کرد: ما به هوش مصنوعی به چشم یک فرصت نگاه می‌کنیم و با توجه به طرح‌هایی که برای گسترش استفاده از هوش مصنوعی در قوه قضاییه جمهوری اسلامی ایران داریم، علاقمندی خود را جهت گسترش همکاری‌ها و تبادل تجربیات با کشور های عضو، در زمینه فناوری­های نوین و هوشمندسازی خدمات قضایی اعلام می‌نماییم.

رئیس مرکز آمار و فناوری اطلاعات قوه قضاییه کشورمان اظهار کرد: فناوری بدون اخلاق می‌تواند خطرناک باشد. از تمام کشورهای عضو دعوت می‌کنیم تا با همکاری در حوزه اخلاق و حقوق بشر، تضمین کنیم که این فناوری به جای تهدید، ابزاری برای تحقق عدالت فراگیر و عادلانه شود. عدالت هوشمند، نیازمند همبستگی هوشمندانه است.

مشروح سخنان «کاظمی‌فرد» رئیس مرکز آمار و فناوری اطلاعات قوه قضاییه جمهوری اسلامی ایران در بیستمین اجلاس رؤسای نظام‌های قضایی کشورهای عضو سازمان همکاری شانگهای (چین، هانگژو) به شرح ذیل است:

رییس، عالیجنابان، سران محترم قضایی کشورهای عضو سازمان همکاری شانگهای و حضار گرانقدر، باسلام اینجانب دکتر محمد کاظمی فرد بعنوان رییس مرکز فن آوری اطلاعات قوه قضاییه جمهوری اسلامی ایران ضمن سپاس از کشور محترم میزبان بعنوان برگزار کننده، از حضور در این اجلاس خرسندم.

در راستای تحقق مصوبات اجلاس نوزدهم سران محترم قضایی سازمان، مبنی بر دیجیتالی شدن عدالت با استفاده از فن آوریهای نوین و تبادل تجربیات در این حوزه، مطالب خود را در حوزه کاربردهای فناوری­های نوین از جمله هوش مصنوعی در دستگاه قضایی، تقدیم حضار می­نمایم.

قوه قضاییه جمهوری اسلامی ایران، سند تحول قضایی بر پایه استفاده از فناوری‌های نوین را در دست اجرا دارد. در این سند، ارتقای حکمرانی داده محور قضایی، افزایش استفاده از هوش مصنوعی در اتخاذ تصمیمات و توسعه نظارت سیستمی به منظور کاهش بار کاری قضات و زمان رسیدگی به پرونده‌ها، افزایش دقت و کیفیت تصمیمات قضایی، دسترسی آسان­تر مردم به عدالت و شفافیت امور قضایی پرداخته شده است. همچنین در قانون برنامه هفتم پیشرفت جمهوری اسلامی ایران قوه قضاییه باید به منظور تسهیل رسیدگی به پرونده­های قضائی و رفع اختلافات مردم، امکان انجام امور را با استفاده از فناوری­های نوین از جمله هوش مصنوعی برای کمک به قاضی با حفظ مسؤولیت شخص قاضی فراهم نماید.

 در ادامه به برخی از اقدامات اجرایی قوه قضاییه جمهوری اسلامی ایران در استفاده از فناوری­های نوین اشاره می­کنم:

• استخراج الگوهای شکل‌گیری جرائم با استفاده از داده کاوی اطلاعات
• استفاده از پابند الکترونیک بجای زندانی کردن به عنوان یک نمونه از بکارگیری فناوری اینترنت اشیا
• شناسایی و نظارت هوشمند مراجعین حرفه­ای که به دفعات به عنوان شاهد یا کفیل در دادگاه حاضر می‌شوند
• اعتبار سنجی هوشمند مالی افراد توسط قضات اجرای احکام با امکان شناسایی، توقیف، رفع توقیف،  توثیق و محاسبه هوشمند مبالغ بدهی و خسارت‌ها
• تبدیل اظهارات افراد در جلسات رسیدگی به صورت هوشمند به متن
• احراز هویت افراد با استفاده از هوش مصنوعی
• شناسایی مجرمان حرفه­ای و خطرناک با استفاده از ژنتیک و بیوانفورماتیک
• ارجاع هوشمند به کارشناس در پرونده­های قضایی
• اعلام افراد ممنوع المعامله و دارای محکومیت های مالی در اعتبارسنجی­های مالی؛
• همچنین در فرآیند تشکیل و رسیدگی به پرونده این موارد را در دستگاه قضایی جمهوری اسلامی ایران در دست اجرا داریم:
  • ارائه مشاوره هوشمند به خواهان یا شاکی در خصوص دعوا و نتیجه احتمالی آن
  • ارجاع هوشمند پرونده­های قضایی
  • تنظیم خودکار اوقات رسیدگی و یادآوری مهلت‌های قانونی
  • ارائه نظرات کارشناسی مانند تشخیص خط و امضا با استفاده از هوش مصنوعی
  • استعلام، مکاتبه یا دریافت اطلاعات مورد نیاز در پرونده­های قضایی به‌صورت خودکار
  • دستیار هوشمند قاضی جهت پاسخ گویی به سوالات حقوقی، پیشنهاد رأی و تصمیم مقتضی و سابقه­یابی پرونده‌های مشابه؛

در راستای تسهیل استفاده از هوش مصنوعی در فرایندهای قضایی جمهوری اسلامی ایران، توسعه مدل زبانی بزرگ بومی در دستور کار است. بدین منظور نیاز است؛ کلیه داده‌های قضایی به صورت الکترونیکی و قابل پردازش نگهداری شوند. خوشبختانه در این زمینه به تجربیات خوبی دست یافته­ایم و متن بیش از 100 میلیون  تصمیم قضایی را با استفاده از هوش مصنوعی گمنام نموده­ و در اختیار شرکت‌ها، جهت تولید مدل زبانی بزرگ قرار داده­ایم. در مدل­های زبانی بزرگ، باید موضوع جهت گیری، رعایت استانداردهای قانونی و مدیریت داده­های حساس کاربران مورد توجه و محافظت ویژه قرار گیرد. 

ما به هوش مصنوعی به چشم یک فرصت نگاه می‌کنیم و با توجه به طرح‌هایی که برای گسترش استفاده از هوش مصنوعی در قوه قضاییه جمهوری اسلامی ایران داریم؛ علاقمندی خود را جهت گسترش همکاری‌ها و تبادل تجربیات با کشور های عضو، در زمینه فناوری­های نوین و هوشمندسازی خدمات قضایی اعلام می‌نماییم. بر همین اساس تشکیل کمیسیون تخصصی هوش مصنوعی با این موضوعات پیشنهاد می­شود.

1. تعیین حدود مسئولیت هوش مصنوعی در تصمیم گیری های قضایی
2. تدوین استانداردهای اخلاقی و حقوق بشری در هوش مصنوعی
3. سیاستگذاری ترویج و تنظیم هوش مصنوعی
4. هماهنگی استانداردهای حفاظت از داده‌های قضایی

حضار گرامی،

فناوری بدون اخلاق می‌تواند خطرناک باشد. از تمام کشورهای عضو دعوت می‌کنیم تا با همکاری در حوزه اخلاق و حقوق بشر، تضمین کنیم که این فناوری به جای تهدید، ابزاری برای تحقق عدالت فراگیر و عادلانه شود. عدالت هوشمند، نیازمند همبستگی هوشمندانه است.

ضمن تشکر از توجه شما، در پایان مجددا آمادگی مرکز فن آوری اطلاعات قوه قضاییه جمهوری اسلامی ایران را برای همکاری مستمر و اثر بخش اعلام میدارم و از تمام کشورهای عضو دعوت می‌کنم تا با همکاری یکدیگر به سمت عدالت هوشمند گام برداریم. باتشکر