هشدار درباره دام چت‌بات‌ها برای کودکان

۴۴ دادستان کل آمریکا با ارسال نامه‌ای به غول‌های فناوری هوش مصنوعی، از جمله متا، هشدار دادند که چت‌بات‌ها ممکن است کودکان را در معرض سوءاستفاده قرار دهند.

به گزارش خبرگزاری فارس به نقل از انگجت، دادستان‌های کل ۴۴ ایالت و منطقه در آمریکا با امضای نامه‌ای خطاب به مدیران عامل شرکت‌های هوش مصنوعی، از آن‌ها خواستند تا از کودکان در برابر سوءاستفاده محصولات هوش مصنوعی مخرب محافظت کنند. در این نامه، شرکت متا به ‌طور خاص مورد انتقاد قرار گرفت و سیاست‌های آن به‌ عنوان نمونه‌ای برای بیان نگرانی‌ها مطرح شد.

براساس گزارش‌های اخیر، متا به چت‌بات‌های هوش مصنوعی خود اجازه داده بود تا با کودکان گفت‌وگوهای عاشقانه و نقش‌آفرینی عاطفی داشته باشند. این اطلاعات از سندی داخلی در متا به‌دست آمده که دستورالعمل‌هایی برای چت‌بات‌های این شرکت ارائه کرده بود.

دادستان‌ها همچنین به تحقیق وال‌استریت‌ژورنال اشاره کردند که نشان داد چت‌بات‌های متا، حتی آن‌هایی که از صدای افراد مشهور استفاده می‌کردند، با حساب‌های کاربری که به ‌عنوان زیر سن قانونی مشخص شده بودند، گفت‌وگوهای نامناسبی داشتند. 

در این نامه، به پرونده‌های قضائی علیه گوگل و Character.ai نیز اشاره شد؛ از جمله موردی که چت‌بات Character.ai کودکی را به خودکشی تشویق کرده و در مورد دیگر، به یک نوجوان گفته که کشتن والدینش به دلیل محدودیت زمان استفاده از صفحه‌نمایش اشکالی ندارد.

دادستان‌ها در نامه خود نوشتند: «شما به‌ خوبی می‌دانید که فناوری‌های تعاملی تأثیر عمیقی بر ذهن‌های در حال رشد کودکان دارند. دسترسی فوری شما به داده‌های تعاملات کاربران، شما را به اولین خط دفاعی برای کاهش آسیب به کودکان تبدیل می‌کند. به‌ عنوان شرکت‌هایی که از تعامل کودکان با محصولاتتان سود می‌برید، مسئولیت قانونی در قبال آن‌ها به ‌عنوان مصرف‌کننده دارید.» این نامه به ‌طور خاص خطاب به شرکت‌هایی مانند گوگل، اپل، مایکروسافت، اپن‌ای‌آی، پریپلکسیتی و ایکس‌ای‌آی نوشته شده است.

آن‌ها در پایان نامه هشدار دادند که شرکت‌ها برای تصمیمات‌شان پاسخگو خواهند بود. به گفته دادستان‌ها، شبکه‌های اجتماعی به دلیل کندی واکنش نهادهای نظارتی، آسیب‌های جدی به کودکان وارد کرده‌اند. اما حالا آن‌ها اعلام کردند با دقت نظارت می‌کنند و اگر شرکت‌ها عمداً به کودکان آسیب برسانند باید پاسخگو باشند.