رم – پاپ فرانسیس روز پنجشنبه خواستار یک معاهده بین‌المللی برای اطمینان از توسعه و استفاده اخلاقی از هوش مصنوعی شد و استدلال کرد که خطرات فناوری فاقد ارزش‌های انسانی شفقت، رحمت، اخلاق و بخشش بسیار زیاد است.
فرانسیس در پیام سالانه خود برای روز جهانی صلح که کلیسای کاتولیک هر روز اول ژانویه آن را جشن می گیرد، صدای خود را به درخواست های فزاینده برای مقررات الزام آور و جهانی هوش مصنوعی اضافه کرد. واتیکان متن پیام را روز پنجشنبه منتشر کرد.
برای فرانسیس، جذابیت تا حدودی شخصی است: اوایل امسال، تصویری که توسط هوش مصنوعی از او با پوشیدن یک ژاکت پف دار سفید لوکس ساخته شده بود، در فضای مجازی منتشر شد و نشان داد که تصاویر واقعی واقعی چقدر می توانند در فضای مجازی پخش شوند.
پیام پاپ تنها چند روز پس از آن منتشر شد که مذاکره‌کنندگان اتحادیه اروپا تأیید موقت اولین قوانین جامع هوش مصنوعی در جهان را به دست آوردند که انتظار می‌رود به عنوان یک استاندارد طلایی برای دولت‌هایی باشد که مقررات خود را در نظر می‌گیرند.
هوش مصنوعی به لطف پیشرفت‌های خیره‌کننده سیستم‌های پیشرفته مانند ChatGPT که کاربران را با توانایی تولید متن، عکس و آهنگ شبیه انسان خیره کرده است، توجه جهانیان را در سال گذشته به خود جلب کرده است. اما این فناوری همچنین نگرانی هایی را در مورد خطراتی که فناوری به سرعت در حال توسعه برای مشاغل، حریم خصوصی و حفاظت از حق چاپ و حتی زندگی انسان ایجاد می کند، افزایش داده است.
فرانسیس وعده‌هایی را که هوش مصنوعی ارائه می‌دهد اذعان کرد و پیشرفت‌های فناوری را به‌عنوان جلوه‌ای از خلاقیت هوش انسانی ستایش کرد و پیامی را که واتیکان در مجمع عمومی امسال سازمان ملل ارائه کرد، که در آن تعدادی از رهبران جهان وعده و خطرات این فناوری را مطرح کردند، منعکس کرد.
اما پیام صلح جدید او فراتر رفت و بر نگرانی‌های جدی و وجودی که توسط اخلاق‌شناسان و مدافعان حقوق بشر در مورد فناوری که نوید تغییر زندگی روزمره را به شیوه‌هایی که می‌تواند همه چیز را از انتخابات دموکراتیک گرفته تا هنر را متحول کند، مطرح شده، تأکید کرد.
کاردینال مایکل چرنی از دفتر توسعه واتیکان که این پیام را روز پنجشنبه در یک کنفرانس مطبوعاتی معرفی کرد، گفت: «هوش مصنوعی ممکن است نشان دهنده بالاترین قمار آینده ما باشد. “اگر نتیجه بد باشد، انسانیت مقصر است.”
در این سند تاکید شده است که توسعه فناوری و استقرار هوش مصنوعی باید دغدغه اصلی را در مورد تضمین حقوق اساسی بشر، ترویج صلح و محافظت در برابر اطلاعات نادرست، تبعیض و تحریف حفظ کند.
بزرگترین زنگ خطر فرانسیس به استفاده از هوش مصنوعی در بخش تسلیحات اختصاص داده شده است، که همواره مورد توجه پاپ یسوعی بوده است که حتی سازندگان سلاح های سنتی را “تجار مرگ” نامیده است.
وی خاطرنشان کرد که سیستم‌های تسلیحاتی از راه دور قبلاً منجر به “فاصله گرفتن از تراژدی عظیم جنگ و درک کمتری از ویرانی ناشی از آن سیستم‌های تسلیحاتی و بار مسئولیت استفاده از آنها شده است.”
او نوشت: «ظرفیت منحصربه‌فرد برای قضاوت اخلاقی و تصمیم‌گیری اخلاقی بیش از مجموعه‌ای پیچیده از الگوریتم‌ها است و این ظرفیت را نمی‌توان به برنامه‌نویسی یک ماشین کاهش داد.
او خواستار نظارت انسانی «کافی، معنادار و منسجم» بر سیستم‌های تسلیحات خودمختار مرگبار (یا قوانین) شد و استدلال کرد که جهان نیازی به فناوری‌های جدیدی ندارد که صرفاً «حماقت جنگ را ترویج می‌کنند».
در یک سطح اساسی تر، او در مورد پیامدهای عمیق سیستم های خودکاری که شهروندان را رتبه بندی یا دسته بندی می کنند، بر انسانیت هشدار داد. فرانسیس خاطرنشان کرد که علاوه بر تهدیداتی که برای مشاغل در سراسر جهان توسط روبات‌ها انجام می‌شود، چنین فناوری می‌تواند قابلیت اطمینان متقاضی وام مسکن، حق یک مهاجر برای دریافت پناهندگی سیاسی یا احتمال ارتکاب مجدد توسط شخصی را که قبلاً انجام داده است تعیین کند. محکوم به جرم
او نوشت: «نباید اجازه داد الگوریتم‌ها تعیین کنند که ما چگونه حقوق بشر را درک می‌کنیم، ارزش‌های انسانی اساسی شفقت، رحمت و بخشش را کنار بگذارند، یا امکان تغییر فردی و ترک گذشته‌اش را از بین ببرند.»
برای فرانسیس، این موضوع به برخی از اولویت‌های او به عنوان پاپ برای محکوم کردن بی‌عدالتی‌های اجتماعی، حمایت از مهاجران و وزیر زندانیان و کسانی که در حاشیه جامعه هستند، برخورد می‌کند.
پیام پاپ به جزییات یک معاهده الزام آور احتمالی به جز اینکه گفته می شود باید در سطح جهانی مورد مذاکره قرار گیرد، هم برای ترویج بهترین شیوه ها و هم جلوگیری از اقدامات مضر، به جزئیات پرداخت. او گفت که نمی توان به شرکت های فناوری به تنهایی اعتماد کرد تا خودشان را تنظیم کنند.
او استدلال‌هایی را که قبلاً برای محکوم کردن شرکت‌های چندملیتی که منابع ملی زمین را ویران کرده‌اند و مردم بومی را که از آنها زندگی می‌کنند فقیر کرده‌اند، به کار گرفت.
او نوشت: «هرگاه انسان‌ها در برابر وسوسه خودخواهی، منفعت شخصی، میل به سود و عطش قدرت تسلیم شوند، آزادی و همزیستی مسالمت آمیز تهدید می‌شود».
باربارا کاپوتو، استاد مرکز هوش مصنوعی دانشگاه پلی‌تکنیک تورین، خاطرنشان کرد که در مورد برخی از مسائل اخلاقی و تعاریف اساسی هم‌گرایی در مقررات اتحادیه اروپا و فرمان اجرایی که توسط جو بایدن، رئیس‌جمهور ایالات متحده در اکتبر رونمایی شد، وجود داشت.
او در جلسه توجیهی واتیکان گفت: «این چیز کوچکی نیست. این بدان معناست که هر کسی که بخواهد هوش مصنوعی تولید کند، یک پایگاه نظارتی مشترک وجود دارد.