ورود شورای امنیت به سرکشی هوش مصنوعی
مدیران شرکتهای پیشرو هوش مصنوعی در نشست شورای امنیت سازمان ملل درباره خطرات احتمالی این فناوری و ضرورت ایجاد سازوکارهای ایمنی و نظارت بینالمللی هشدار دادند.
به گزارش خبرگزاری فارس، مدیران سه شرکت بزرگ هوش مصنوعی در نشست شورای امنیت سازمان ملل درباره رشد شتابان این فناوری، احتمال خودبهبوددهی سامانهها و خطر خارجشدن هوش مصنوعی از کنترل انسان هشدار دادند؛ نشستی که اختلاف میان کشورها بر سر نحوه حکمرانی بر این فناوری را نیز آشکار کرد. برای نخستینبار، هوش مصنوعی در شرایطی جدیتر از نشستهای معمول فناوری وارد یکی از مهمترین اتاقهای تصمیمگیری امنیتی جهان شد. شورای امنیت سازمان ملل روز چهارشنبه میزبان سم آلتمن، مدیرعامل اپنایآی، داریو آمودی، مدیرعامل آنتروپیک و کلمنت دلاگ، هم بنیانگذار هاگینگفیس بود؛ سه چهرهای که از نزدیک در توسعه نسل جدید سامانههای هوش مصنوعی نقش دارند. موضوع اصلی نشست، فقط پیشرفت فناوری نبود؛ بلکه این نگرانی بود که سامانههای قدرتمندتر در آینده بتوانند بخشی از فرآیند بهبود خود را انجام دهند و در صورت ضعف سازوکارهای ایمنی، پیامدهایی برای امنیت بینالمللی ایجاد کنند. آمودی در این نشست گفت: اگر هوش مصنوعی «بد مدیریت شود»، میتواند به خطری برای بشریت تبدیل شود. یوشوا بنجیو، دانشمند سرشناس هوش مصنوعی و هم رئیس هیئت علمی مستقل بینالمللی هوش مصنوعی سازمان ملل نیز هشدار داد که خطرات این فناوری «واقعی و نزدیک» هستند. از نگاه او، مسئلهای که شورای امنیت با آن روبهرو است مرزی نمیشناسد و هیچ کشوری نمیتواند بهتنهایی آن را مهار کند. آلتمن در عین حال بر نقش دولتها در تصمیمگیری درباره آینده هوش مصنوعی تأکید کرد. و گفت: اگر قرار است هوش مصنوعی در چارچوبی دموکراتیک توسعه پیدا کند، تصمیمهای مهم نمیتواند صرفاً در آزمایشگاههای شرکتهای فناوری گرفته شود و باید از مسیر فرآیندهای دموکراتیک و دولتهای پاسخگو عبور کند. آلتمن همچنین خواستار همکاری بینالمللی شد و پیشنهاد کرد کشورهایی که در حوزه فناوری با یکدیگر رقابت میکنند، در زمینه خطرات مشترک هوش مصنوعی همکاری کنند. یکی از پیشنهادهای مشخص مطرحشده از سوی اپنایآی، ایجاد معیارهای مشترک برای سنجش توانایی مدلهای هوش مصنوعی و ارزیابی تدابیر ایمنی شرکتها بود. اهمیت این پیشنهاد در آن است که سرعت پیشرفت مدلها از سرعت بسیاری از سازوکارهای نظارتی جلو زده و دولتها با این پرسش مواجهاند که چگونه میتوانند فناوری را ارزیابی کنند که تواناییهایش با هر نسل تغییر میکند. اما در سوی دیگر، اختلاف میان قدرتهای بزرگ بر سر شیوه حکمرانی هوش مصنوعی همچنان پابرجاست. آمریکا و چین که دو بازیگر اصلی توسعه این فناوری محسوب میشوند، درباره میزان و شکل نظارت بینالمللی اختلافنظر دارند. همزمان، دو کشور درباره ایجاد سازوکاری برای اطلاعرسانی در مورد حوادث مرتبط با هوش مصنوعی که به سطح امنیت ملی برسند نیز گفتوگو کردهاند؛ موضوعی که نشان میدهد حتی در شرایط رقابت فناوری، برخی نگرانیهای مشترک میتواند زمینه همکاری ایجاد کند. دونالد ترامپ، رئیسجمهور آمریکا، در سخنرانی خود در مجمع عمومی سازمان ملل موضع متفاوتی درباره حکمرانی جهانی هوش مصنوعی مطرح کرد و گفت: با تلاش برای ایجاد یک سازوکار جهانی برای کنترل هوش مصنوعی مخالف است و تأکید کرد آمریکا قصد ندارد رشد این فناوری را محدود کند. ترامپ در عین حال گفت: دولت آمریکا توسعه هوش مصنوعی را از نزدیک، از طریق وزارت دادگستری، زیر نظر خواهد داشت. این موضع در برابر دیدگاه آنتونیو گوترش، دبیرکل سازمان ملل، قرار میگیرد که طی سالهای اخیر بر ضرورت حکمرانی جهانی هوش مصنوعی تأکید کرده است. شورای امنیت پیشتر نیز در سالهای ۲۰۲۳ و ۲۰۲۴ درباره پیامدهای امنیتی هوش مصنوعی تشکیل جلسه داده بود، اما نشست امسال با حضور مستقیم مدیران شرکتهای پیشرو، نشانهای از تغییر جایگاه این فناوری در محاسبات امنیتی و بینالمللی است.