۱- چرایی حکمرانی هوش مصنوعی
پیشرفت‌های چشمگیر هوش مصنوعی (AI)، نـاشـی از رشد تصاعدی تولید داده و افزایش قدرت محاسباتی، پتانسیل بالایی برای تحول‌آفرینی در جامعه بشری ایجاد کرده است. AI به‌عنوان یک فناوری تحولآفرین می‌تواند ابعاد مختلف حاکمیتی، اقتصادی، اجتماعی-فرهنگی و اخلاقی جوامع را تغییر دهد. درحالی‌که AI مزایای فراوانی برای بشر دارد، اما می‌تواند چالش‌ها و مخاطرات گوناگونی را نظیر عدم شفافیت، انصاف و پاسخگویی الگوریتمی، دست‌کاری اجتماعی، تولید تسلیحات خودکار و تقابل اهداف انسان و ماشین همراه داشته باشد.
بسیاری از این مخاطرات، به دلیل ماهیت ذاتی AI، غیرقابل‌پیش‌بینی و غیرخطی هستند و بسیاری دیگر، ناشی از ماهیت فرامرزی سیستم‌های مبتنی بر AI، در مقیاس جهانی مطرح هستند و حل‌وفصل آن‌ها نیازمند همکاری و هماهنگی بین‌المللی است. براین‌اساس در کنگره جهانی موبایل ۲۰۲۴ نیز بر به اشتراک‌گذاری درس آموخته‌ها در مورد ایجاد راهکارها، توسعه مدل‌های تجاری و حمایت از زیست‌بوم فراگیر و عادلانه هوش مصنوعی در سایه حکمرانی اخلاقی و انسان‌محور این فناوری در سطوح مختلف تأکید شد.
۲- چیستی حکمرانی هوش مصنوعی
حکمرانی، سازوکار اعمال اراده و قدرت حاکمیتی است که در سطوح مختلف از سازمانی تا ملی و فراملی قابل‌تعریف و پیاده‌سازی است. مطابق تعریف کمیسیون حکمرانی جهانی، حکمرانی فرآیندی مداوم است. در این فرآیند، افراد و نهادهای خصوصی و عمومی امور مشترک خود را مدیریت می‌کنند. هدف این فرآیند همساز کردن منافع متضاد یا متنوع و انجام کنش‌های همکارانه است.
حکمرانی شامل نهادهای رسمی و رژیم‌هایی است که توانایی وادار کردن افراد به تبعیت را دارند. همچنین، به تمهیدات غیررسمی نیز اشاره می‌شود. مردم و نهادها ممکن است با این تمهیدات موافق باشند یا تصور کنند که در راستای منافع آن‌ها است.
ابعاد حکمرانی هوش مصنوعی: نهادها، ساختارها و عملکردها
سه بُعد برای حکمرانی قابل تصور است: نهادها و بازیگران، ساختار و عملکردهای حکمرانی. این عملکردها شامل سیاست‌گذاری، تنظیم‌گری، باز توزیع، تسهیلگری و ارائه زیرساخت هستند. غالباً، عملکردهای حکمرانی به تنظیم‌گری تقلیل داده می‌شوند و سایر ابعاد کمتر مورد توجه قرار می‌گیرند. با این حال، هماهنگی، تسهیلگری و تأمین زیرساخت‌ها نیز در تحقق اهداف حکمرانی نقش بسزایی دارند.
حکمرانی AI نشان‌دهنده نظام‌هایی است که انسان‌محوری، اعتمادپذیری و مسئولیت‌پذیری را در کل چرخه حیات سیستم‌های AI تضمین می‌نمایند. این چرخه شامل طراحی، توسعه، استقرار و کاربرد سیستم‌ها برای ذی‌نفعان است.
این نظام‌ها در سطوح مختلف بین‌المللی، ملی، بخشی و سازمانی تعریف می‌شوند. آن‌ها شامل اصول، ارزش‌ها، هنجارهای اخلاقی، ساختارهای نهادی و چارچوبهای سیاستی، حقوقی و نظارتی هستند. در یک نگاه کل‌نگر، جایگاه نظام حکمرانی AI به‌عنوان یکی از زیرنظام‌های حکمرانی علم و فناوری فضای سایبر مشخص شده است.
بر این اساس، باید همسویی راهبردی با نظام‌های کلان‌تر و هماهنگی با نظام‌های هم‌ارز را در طراحی و توسعه نظام حکمرانی AI در نظر گرفت. این شامل حکمرانی فناوری‌های راهبردی دیگر مانند کوانتوم و حکمرانی امنیت سایبری نیز می‌شود.
۳- چگونگی حکمرانی جهانی هوش مصنوعی
پس از تبیین چیستی و چرایی حکمرانی جهانی AI، نویسندگان این مقاله، چارچوب پیشنهادی برای حکمرانی جهانی هوش مصنوعی را بر مبنای بررسی ادبیات موضوع و تجارب جهانی موجود، در قالب شکل زیر ارائه کرد:
بالاترین لایه چارچوب، نمایانگر اصول و الزامات اخلاقی است که به‌منظور تضمین اعتمادپذیری، مسئولیت‌پذیری و انسان‌محوری AI، هدایتگر توسعه سایر لایه‌های چارچوب است و مبنای یکپارچگی و همسویی سایر مؤلفه‌ها را فراهم می‌نماید. این اصول و الزامات اخلاقی مبتنی بر ارزش‌ها و حقوق بنیادین بشر تعیین می‌شوند که موردتوافق و اجماع جهانی است.
در لایه دوم بر ایجاد ساختار نهادی و تعیین قواعد حاکم بر رفتار بازیگران تأکید شده است. حکمرانی AI علاوه بر همکاری آژانس‌های داخلی یک کشور، نیازمند همکاری‌های فراملی است. درواقع، برای فعالیت مؤثر در مقیاس جهانی و اجتناب از واگرایی، لازم است یک متولی در سطح بین‌المللی مشابه آژانس بین‌المللی انرژی اتمی (IAEA)، اقدامات فرا حکمرانی جهانی AI مانند ارائه رهنمودهای اخلاقی، تنظیم استانداردهای فنی و پروتکل‌های ایمنی، و نظارت بر انطباق با مقررات و استانداردهای جهانی را هدایت و راهبری نموده و از طریق ایجاد بستر پلتفرمی برای اشتراک‌گذاری بهترین شیـوه‌ها و تـرویج شـفـافیت، مشارکت بین‌المللی را تقویت نماید.
تثبیت حکمرانی جهانی هوش مصنوعی: چالش‌ها و فرصت‌ها
در لایه عملکردی، برای نهادینه‌سازی و تثبیت حکمرانی، عملکردهای کلیدی حکمرانی جهانی AI ذکر شده است. بنابراین، برای ایجاد ادبیات مشترک جهانی، پایش و ارزیابی روندها ضروری است. همچنین باید به‌طور منظم سیاست‌های ملی و منطقه‌ای AI بررسی شوند.
تدابیر لازم برای تقویت همکاری‌های بین‌المللی باید اتخاذ شود. این اقدامات شامل توسعه نیروی انسانی مستعد و دسترسی به زیرساخت‌های محاسباتی است. همچنین، ایجاد مجموعه داده‌های باکیفیت و اشتراک‌گذاری مدل‌های منبع‌باز باید در راستای اهداف توسعه پایدار صورت گیرد.
برای استفاده حداکثری از مزایای اقتصادی و اجتماعی AI، نیاز به توسعه و استفاده از مدل‌های مختلف AI داریم. باید ظرفیت‌سازی، جلب مشارکت بازیگران مختلف و همکاری چندذی‌نفعی بین‌المللی انجام شود. همچنین باید دسترسی به فناوری را تسهیل کنیم.
در مراحل بعدی، باید بستر همکاری برای ایجاد هنجارها و چارچوبهای مدیریت مخاطرات فراهم شود. همچنین، استانداردها و چارچوبهای پاسخگویی بین‌المللی باید تدوین شوند. این الگوها و راهنماهای مشترک باید در تلاش‌های جمعی به کشورهای مختلف ارائه شوند و اقدامات لازم برای انطباق آن‌ها اجرا گردد.
تعارضات و تهدیدات پیاده‌سازی یک چارچوب جامع
پیاده‌سازی عمـلکردهای لایه سوم نـهایـتاً منـجر به شکل‌گیری لایه حقوقی می‌شود. این موضوع می‌تواند شامل هنجارها، استانداردها و کدهای رفتاری غیر الزام‌آور، چارچوبهای حقوقی الزام‌آور و چارچوبهای نظارتی و پاسخگویی بین‌المللی باشد که ضمانت اجرایی چارچوبهای حقوقی را تضمین می‌نمایند. در حال حاضر قطعنامه مجمع عمومی سازمان ملل متحد در خصوص هوش مصنوعی و توسعه پایدار که مبتنی بر حقوق بشر تنظیم شده است، ازجمله چارچوبهای حقوقی غیرالزام‌آور و مصادیق تنظیم‌گری به وسیله حقوق نرم محسوب می‌شود و بر سایر اسناد حقوقی الزام‌آور آتی تاثیرگذار خواهد بود.
کنواسیون بین‌المللی هوش مصنوعی که اخیرا توسط کشورهایی نظیر اعضای اتحادیه اروپا، آمریکا و انگلیس امضا شده است، از مصادیق چارچوبهای حقوقی الزام‌آور است و هدف آن “تضمین توسعه هوش مصنوعی در راستای حقوق بشر، دموکراسی و حاکمیت قانون” عنوان شده است.
سلطه فناوری، اجرای چارچوبهای اخلاقی انسان‌محور، اختلاف چارچوب حقوقی و دسترسی به داده و نیز بافتارهای اجتماعی-فرهنگی متفاوت، بزرگ‌ترین تهدیدات حکمرانی AI است.
پایین‌ترین لایه چارچوب نیز نمایانگر ابعاد قابل‌ملاحظه در حکمرانی سیستم AI است و لازم است تمام مؤلفه‌ها در لایه‌های بالا، با توجه به این ابعاد، پیاده‌سازی و اجراشوند.
۴- چالش‌های حکمرانی هوش مصنوعی
پیاده‌سازی چارچوب حکمرانی AI به دلیل تعدد نهادها و مضامین سیاستی تأثیرگذار، بسیار پیچیده است. در مقایسه با بسیاری از فناوری‌های دیگر، تخصیص منابع و تعیین اهداف بیشتری باید مدیریت شوند، حوزه‌های انتخابی بیشتری باید برآورده شوند و موارد زیادی از عدم انسجام سیاست‌ها باید پیش‌بینی و جلوگیری شوند. AI، یک فناوری راهبردی و مزیت رقابتی برای قدرت‌های بزرگ محسوب می‌شود. مسابقه فناوری کشورهای پیشرو که به دنبال حفظ برتری و سلطه فناورانه خود هستند، به بزرگ‌ترین مانع حکمرانی این فناوری تبدیل‌شده است. علاوه‌براین، دشواری اجرای چارچوبهای اخلاقی انسان‌محور برای بخش تحقیق و توسعه، مقاومت شرکت‌های فعال در حوزه هوش مصنوعی را به همراه داشته است. سایر چالش‌های حکمرانی جهانی هوش مصنوعی را می‌توان در موارد زیر خلاصه کرد:
- ابهام و سوگیری ذاتی، تکامل سریع و غیرقابل پیش‌بینی
- اختلاف هنجاری بین قدرت‌های رقیب (مثل چین، روسیه و ایالات‌متحده) و حتی کشورهای همفکر (مانند ایالات‌متحده و کشورهای عضو اتحادیه اروپا)
- تعارض در رویکردهای تنظیم‌گری کشورها درمورد چالش دسترسی آزاد و مورد اعتماد به داده‌های موردنیاز در تنوع چارچوبهای حقوقی موجود؛
- چالش‌های اجرایی در پیاده‌سازی اصول اخلاقی انسان‌محور (عدم وجود نهاد حرفه‌ای ناظر بر متخصصان، ایجاد تعادل در پیاده‌سازی اصول متضاد مثل امنیت، نوآوری، اقدامات تسهیل/محدودکننده)
- ابهام و سوگیری‌های ناشی از تأثیر بافتارهای اجتماعی- فرهنگی مختلف بر توسعه سیستم‌های AI در جهان.
نتیجه‌گیری و پیشنهادات
به‌منظور نقش‌آفرینی مؤثر و تأمین منافع ملی جمهوری اسلامی ایران در توسعه چارچوب حکمرانی جهانی AI، ضروری است ابتدا حکمرانی AI در سطوح ملی، بخشی و سازمانی کشور توسعه یابد. در وهله اول، این امر مستلزم توسعه حکمرانی ملی و فراملی داده و نیز اتخاذ تدابیر لازم در سه حوزه اولویت‌دار حکمرانی AI به شرح زیر است:
- توسعه همکاری‌های فراملی و مشارکت فعال در حکمرانی جهانی هوش مصنوعی: مشارکت در تدوین قواعد و دستورالعمل‌های بین‌المللی، انعقاد پیمان‌های دو یا چندجانبه و اجرای پروژه‌های فراملی به‌منظور ترویج رویکرد کشور در حوزه حکمرانی AI، پیشبرد منافع ملی و جلوگیری از غافلگیری راهبردی
- توسعه زیرساخت‌های پژوهشی، حقوقی، داده‌ای و محاسباتی موردنیاز زیست‌بوم هوش مصنوعی: تنظیم چارچوبهای حقوقی و مقرراتی، استانداردگذاری، ایجاد آزمایشگاه و مراکز تحقیق و توسعه، توسعه بسترهای تأمین داده و زیرساخت‌های نوین پردازشی مانند پردازش ابری، پردازش لبه و پردازش کو
- حکمرانی و مدیریت استعدادها: سیاست‌گذاری و توسعه فرآیندی جامع و پیچیده برای شناسایی، جذب، توسعه، ارتقا و حفظ و نگهداری هدفمند متخصصان AI در حوزه‌های کاربرد مختلف به‌منظور تأمین سرمایهانسانی مورد نیاز کشور همگام با رشد روزافزون این فناوری راهبردی
