اصول هوش مصنوعی مسئولیتپذیر در دولتهای آمریکا و کره جنوبی
در یکی از پنلهای کنگره جهانی موبایل ۲۰۲۴ ذیل تم انسانیسازی هوش مصنوعی به موضوع هوش مصنوعی مسئولیتپذیر پرداخته شده است. در مقاله تجربه قدرت ارتباط درآمدی بر کنگره جهانی موبایل ۲۰۲۴ ارائه شد. علاوه بر این در یک مقاله به طور مفصل سخنرانی کلیدی اول کنگره جهانی موبایل ۲۰۲۴ را شرح دادیم. در این مقاله موضوع مسئولیتپذیری در هوش مصنوعی را که یک پنل به آن اختصاص داده شده را شرح خواهیم داد.
مقدمه مدیر پنل
در ابتدای این بخش از کنگره جهانی موبایل 2024 مدیر امور خارجه GSMA به مقدماتی در خصوص هوش مصنوعی مسئولیتپذیر میپردازد. ایشان اخلاقیات، حکمرانی و چارچوبهای سیاستگذاری را از مبانی هوش مصنوعی مسئولیتپذیر میداند. این مبانی باید در حوزههای مختلف جاری و ساری باشد: آب و هوا، کشاورزی، آموزش، سلامت و غیره. اما چطور میتوانیم اطمینان پیدا کنیم که هوش مصنوعی را در مسیر صحیح و امنی استفاده میکنیم؟
پنل با مدیریت خانم کارم آرتیگس (Carme Artigas)، مشاور ارشد میز هوش مصنوعی در سازمان ملل شروع میشود. دو نفر دیگر در این پنل حضور دارند: خانم آن نایبرگر، شاور کاخ سفید در حوزه امنیت بینالملل و فناوریهای نوظهور، و آقای جی میونگ رو، معاون وزیر علوم و فاوای کره جنوبی.
با دقت در ترکیب افراد حاضر در این پنل میبنیم که هر سه نفر غیرفنی هستند و در نهادهای عمومی و سیاسی مسئولیت دارند. چنانچه گریزی به کنگره جهانی موبایل در چندین سال قبل بیندازیم چنین ترکیبی را در هیچ پنلی نمیتوانستیم ببینیم. این نشان از اهمیت یافتن موضوعات غیرفنی در مباحث فنی است.
سه رویکرد دولت آمریکا در خصوص هوش مصنوعی مسئولیتپذیر
پنل با سؤال آرتیگش از نایبرگر ادامه پیدا میکند. او میخواهد تا در خصوص اقدامات دولت آمریکا در این خصوص توضیحاتی ارائه دهد. نایبرگر از اهمیت این موضوع در آمریکا میگوید. موضوع هوش مصنوعی در آمریکا به حدی مورد اهمیت است که شخص رئیس جمهور به این دست موضوعات ورود کرده و تصمیماتی در این زمینه میگیرد. در آمریکا رئیس جمهور تضمین میدهد که اقتصاد امنیت ملی (Economy of national security) از منافع هوش مصنوعی استفاده خواهد کرد. در ادامه به سه رویکرد دولت آمریکا در این خصوص اشاره میکند:
- مدیریت شرکتها در مسیری که مسئولیت پذیر باشند (Leading Companies to be responsible)
- ارائه پیشنهادات اجرایی در چارچوب قوانین موجود (Executive order)
- و قانونگذاریها و تنظیمگریهای جدید (New laws and new legislations)
طبیعتاً در حال حاضر قوانینی در آمریکا وجود دارد که شرکتهای فناوری ملزم به رعایت آنها هستند. دولت آمریکا در گام اول در همین چارچوب شرکتها را مدیریت میکند تا در مسیری حرکت کنند که مسئولیتپذیر باشند. خانم نایبرگر اشاره میکند که رئیسجمهور در این زمینه بسیار تأکید دارد و نقش رئیسجمهور را در این زمینه برجسته میکند. در گام بعد پیشهادات اجرایی در چارچوب قوانین موجود به شرکتها ارائه میشود. در نهایت چنانچه قوانین موجود کارایی لازم در این زمینه را نداشته باشد قانونگذاریها و تنظیمگریهای جدید لازم است که این کار بر عهده کنگره میباشد.
پنج اصل هوش مصنوعی مسئولیتپذیر در کره جنوبی
در ادامه، مدیر پنل از نفر کرهای حاضر در پنل همین سؤال را میپرسد. آقای رو جی به دو عنصر کلیدی حکمرانی هوش مصنوعی در کره جنوبی اشاره میکند: مشارکت (Cooperation) و همکاری (Collaboration). مشارکت و همکاری بین تمامی ذینفعان این حوزه اعم سیاستگذاران، سازمانهای بینالمللی و بخش خصوصی. دولت کره جنوبی زیرساختهای متنوعی برای مشارکت و همکاری با بخش خصوصی ایجاد کرده است. به عنوان مثال وزارت علوم و فاوای کره مذاکرات طولانی و مفصلی با بخشها خصوصی داشته است. این مذاکرات راهبردی و استراتژیک بوده و هدف آن این بوده که موضوع استفاده اخلاقی از هوش مصنوعی را در بخش خصوصی جا بیندازد.
یکی از نوآوریهایی که دولت کره در این زمینه داشته راهاندازی یک تالار گفتگو تحت عنوان تالار گفتگوی سیاستگذاری اخلاقی هوش مصنوعی (AI Ethics Policy Forum) است. این تالار گفتگو زمینه ارتباطات نزدیک حاکمیت با مراکز مختلف علمی و تجاری را برقرار میکند. پیشنهادات مختلف و متفاوتی از طریق این فروم به دولت میرسد. اما آقای رو جی به 5 اصل و استاندارد فراگیری اشاره میکند که در کره جنوبی برای این منظور پیادهسازی شده است:
- ضمانت حقوق از پیش تقاضا شده در فضای دیجیتال (Guaranty of predemand rights in the digital space)
- دسترسی منصفانه و فرصتهای برابر برای منابع دیجیتال و خدمات دیجیتال (Fair access and equal opportunities for digital resources an services)
- امنیت و اعتماد در جامعه دیجیتال (Security and trust in the digital society)
- ارتقای نوآوری دیجیتال مستقل و خلاق (Promotion of autonomous and creative digital innovation)
- مشارکت بینالمللی (International cooperation)
در توضیح موارد فوق آقای رو جی به نکته قابل توجهی اشاره میکند: این اصول منعکس کننده تجربه کرهای در فلسفه با ارزش های مشترک جهانی است.
هوش مصنوعی شمشیری دو لبه
خانم نایبرگر به این موضوع اشاره میکند که در هر صورت استفاده از هوش مصنوعی با ریسکهایی همراه است. هوش مصنوعی منافعی با خود به همراه دارد و در کنار آن مخاطراتی هم وجود دارد. وظیفه حاکمیت این است که بین منافع و ریسکها تعادل ایجاد کند. از منافع هوش مصنوعی استفاده کند و در عین حال ریسکها و مخاطرات آن را هم مدیریت کند.
خانم نایگر به توافقنامهای اشاره میکند که بین آمریکا و اتحادیه اروپا امضا شده و طی آن بحث مدیریت انرژی و استفاده صحیح از هوش مصنوعی و سایر موضوعات مورد توافق واقع شده. همچنین ایشان اشاره میکند که مدلهای هوش مصنوعی باید جامعیت کافی را داشته باشد. اینکه یک مدل فقط در یک کشور آموزش داده شود فقط در همان کشور قابل استفاده است و بکارگیری آن در سایر جوامع ممکن است منجر به بروز بیاخلاقیها و ناهنجاریهایی شود. اما محیط بینالملل نیازمند مدلهای جامعی است که در همه جا پاسخگو باشد.
در آمریکا دولت کارهای زیادی انجام میدهد تا این موضوع را مدیریت کند. یکی از کارهای قابل توجه این است که ارتباطاتی با سازمانهای انرژی و صنایع بزرگ گرفته شده و از آنها خواسته شده به سؤالاتی در این زمینه پاسخ دهند. از جمله خواسته شده که بگویند هوش مصنوعی چه ریسکهایی برای آنها به همراه دارد و چگونه باید با این ریسکها مواجهه کنیم. همچنین خواسته شده که بگویند چه تصمیماتی باید در این زمینه گرفته شود.
قواعد جهانی برای هوش مصنوعی
مدیر پنل موضوع جاریسازی هوش مصنوعی در سطح بینالملل را مطرح میکند و از آقای رو جی میخواهد در این خصوص توضیح دهد. رو جی اینگونه توضیح میدهد: هوش مصنوعی بلآخره یک سری فرصتهای شغلی ایجاد میکند. فرصتهای شغلی برای سیلیکون ولی ایجاد میکند اما فرصتهای شغلی را هم در سایر کشورها از بین میبرد. ما باید اثرات هوش مصنوعی را فراتر سطح ملی و در سطح بینالملل بررسی کنیم. رئیس جمهور ما پیشنهاد داد یک سازمان برای این موضوع ذیل سازمان ملل تشکیل شود.
او معتقد است در هر صورت ما به یک سری اصول و قواعد بینالمللی برای هوش مصنوعی نیازمندیم. تأثیر هوش مصنوعی بر جوامع مختلف متفاوت است. یک مسئولیتپذیری جهانی در خصوص بکارگیری هوش مصنوعی مورد نیاز است. چالشهای هوش مصنوعی را نباید فقط در ارتباط با چند کشور محدود بررسی کنیم. این چالشها جهانی است.
جمعبندی
در این پنل و پنلهای مشابه سیاسیون حضور پر رنگی دارند. پنلی با موضوع هوش مصنوعی که هیچ متخصص فنی در آن حضور ندارد. شاید کمتر فناوری را بتوان یافت که بشود در خصوص آن پنلی برگزار کرد و افراد فنی را دعوت نکرد. مجموعه مباحث این پنل نشان میدهد که تأثیرات هوش مصنوعی در جوامع و صنایع مختلف متفاوت است و بعضاً قابل مقایسه با هم نیستند.
موضوع مهم دیگر این است که حکمرانی هوش مصنوعی در کشورهای پیشرو در بالاترین سطح انجام میشود. کما اینکه اشاره شد در کشور آمریکا این موضوع در سطح رئیس جمهور بوده و تصمیمات مختلفی توسط رئیسجمهور در این زمینه گرفته شده است. اما لازمه سیاستگذاری صحیح در این حوزه همکاری بین بخشهای مختلف اعم از خصوصی و عمومی است. ابتکار دولت کره جنوبی در راهاندازی فروم سیاستگذاری هوش مصنوعی زمینهساز این همکاری بوده و این ابتکار قابل الگوبرداری است.
بخشهای خصوصی به خودی خود تمایلی به مشارکت در سیاستگذاری ندارند. آنها به دنبال منافع خودشان در هر حوزهای اعم از هوش مصنوعی هستند. لذا این وظیفه حاکمیت است که آنها را با کمک ابزارهای مختلف سرخط کرده و در فرایند سیاستگذاری دخیل کند. چنانچه بخشهای خصوصی و صنایع بزرگ وارد این فضا نشوند سیاستگذاری صحیح در این زمینه امکانپذیر نخواهد بود.